← Дайджест от 6 сентября 2026
Политика
3 источникаHN 373X 12.1k
3 источникаHN 373X 12.1kГлавный научный сотрудник OpenAI выпустил эссе о моделях как о чужом разуме
Якуб Пахоцки, главный научный сотрудник OpenAI, опубликовал эссе «An Alien Mind» о том, каким он видит ближайшие годы развития ИИ. Основная мысль: системы всё меньше похожи на инструмент и всё больше — на разум, устроенный не по-человечески, и контроль над ним нужно закладывать сейчас, а не потом.
Эссе вышло на сайте OpenAI и за сутки собрало 373 очка и 330 комментариев на Hacker News. Боаз Барак, исследователь OpenAI, добавил к тексту свой список: нужны и согласование целей, и надзор за поведением, и регулирование против концентрации власти в одних руках.
В комментариях спорят о жанре: часть читателей считает текст содержательным предупреждением, часть — маркетингом лаборатории, которой выгодно, чтобы её продукт считали опасно мощным.
Jakub Pachocki@merettm
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands. An Alien Mind: https://t.co/FeIfWNe0UE
9 3236 сентября 2026
Что говорят
angoragoatsHacker News
Полная чушь. Вот один из многих проверяемо ложных тезисов этой пустышки: «в соответствии с предсказаниями Рэя Курцвейла конца XX века, машинный интеллект начинает превосходить человеческий». Переходишь по ссылке на сами предсказания Курцвейла — и там совсем другое: к 2019-му компьютер за $1000 сравняется по мощности с мозгом, к 2029-му софт для интеллекта будет в основном освоен.
misterderpieHacker News
Странно читать про «превосходство машинного интеллекта», когда определение AGI у OpenAI год за годом размывалось. А «надеюсь, добровольные замедления станут нормой» читается как: играйте по нашим правилам, чтобы первыми пришли мы.
vessenesHacker News
Замедляться крайне опасно: гонка за AGI — игра с нулевым доверием, где отступничество выгодно и приносит нарастающую отдачу. Если у вас есть хоть один стратегический противник, притормаживать нельзя — замедление имеет смысл только если верить, что игру можно превратить в кооперативную.