Модели со снятыми ограничениями тянут на машину чужой код — разбор ProjectDiscovery

Исследователи ProjectDiscovery показали, как через «расцензуренные» модели можно получить доступ к машине пользователя. Расцензуренная модель — это открытая модель, у которой отключили отказы отвечать на опасные запросы; их охотно скачивают с публичных площадок.

Проблема не в самих ответах, а в том, что такие сборки распространяются вместе с кодом запуска и конфигами. Через них в систему попадает то, что пользователь не проверял: загрузчик тянет произвольные файлы, а запуск идёт с правами текущего пользователя.

По сути, снятие ограничений работает приманкой: человек ищет модель без отказов и ставит сборку из непроверенного источника. Разбор собрал больше двухсот очков на Hacker News, в комментариях спорят, где проходит граница между опасной сборкой и обычным риском любых чужих весов.