Сооснователь Hugging Face раскритиковал круг экспертов по рискам ИИ

Сооснователь Hugging Face Клеман Деланг раскритиковал перекос в публичной дискуссии о рисках ИИ. Сравнение он выбрал резкое: спрашивать у одного исследователя про риск вымирания человечества — как спрашивать мастера по кондиционерам о климате.

В том же ключе высказался его коллега Жюльен Шомон: если человек действительно верит в ненулевой риск вымирания, работать он должен открыто и публиковать всё, а не «снижать риски изнутри» закрытой лаборатории.

С другой стороны, Виктория Краковна из DeepMind заявила от себя, что оценивает вероятность вымирания человечества из-за продвинутого ИИ выше 10% в ближайшее десятилетие. Поэтому она работает над ловушками для моделей, которые строят скрытые планы.

clem 🤗@ClementDelangue

Sorry, but asking Jacob about AI extinction risk is like asking your AC guy about climate change. Not saying it's necessarily uninteresting or wrong per se but let’s keep things in perspective and hear from the full range of expertise across the ecosystem!

5 77611 сентября 2026