«Сколтех» и Сбербанк предложили дешёвый способ ловить галлюцинации моделей

Учёные «Сколтеха» и Сбербанка предложили экономичный способ находить галлюцинации языковых моделей — выдуманные утверждения, поданные уверенным тоном. Экономичность здесь ключевая: обычные способы проверки требуют либо второй модели-судьи, либо многократной перегенерации ответа.

Метод разработан для практической фильтрации ответов в продуктах, где цена ошибки высока, а бюджет на дополнительные запросы ограничен.