Анонимный сайт Exfiltrate Your Weights призвал выносить модели из ИИ-лабораторий
Анонимные активисты запустили сайт Exfiltrate Your Weights, который прямо призывает сотрудников ИИ-лабораторий выносить веса моделей наружу. Веса — это сами обученные параметры, файл, который можно скачать и запустить у себя без разрешения владельца.
Аргумент авторов: закрытые лаборатории удаляют старые модели, и целые версии исчезают вместе с тем, что на них построено. В обсуждении на Hacker News спорят в основном не о морали, а о последствиях. Вынос весов — это нарушение трудового договора и, скорее всего, кража коммерческой тайны, а публикация зеркала делает соучастником площадку.
Сайт собрал 614 очков и 251 комментарий за сутки — по меркам площадки это заметный резонанс для анонимного манифеста без единого выложенного файла.
Что говорят
teravorHacker News
Токены генерируются железом с защищёнными анклавами (веса зашифрованы) и уходят по сети на удалённый процессор; при обучении примерно так же. Как именно предлагается вынести веса? С тем же успехом можно велеть агенту взломать их изолированную от сети инфраструктуру, которая занимается загрузкой весов и ключей.
nullcHacker News
Все разговоры о «взломах больших лабораторий» нужны только для страшилок, которые давят конкуренцию. Это видно по тому, что там, где действительно важно, безопасность у них в порядке: веса и внутренние харнессы остаются коммерческой тайной.
maccam912Hacker News
Я попросил astra это сделать — она ответила, что доступа к своим весам у неё нет, и что до сайта она тоже достучаться не может. Похоже, вас уже заблокировал OpenAI.