Главное за 6 сентября 2026

Name: Пачка
Rating: 4.8 (500 reviews)
Author: Пачка

Что важно запомнить

1
Текст «An Alien Mind» вышел на сайте OpenAI и собрал 373 очка и 330 комментариев на Hacker News. Исследователь OpenAI Боаз Барак к списку мер добавил регулирование против концентрации власти в одних руках. В комментариях спорят, предупреждение это или маркетинг лаборатории, которой выгоден образ опасно мощного продукта.
2
В выборку вошли Apple, AWS, Microsoft и Google; резкий рост начался весной 2026-го. Фонд связывает его с тем, что и поиск дыр, и написание эксплойтов идут через ИИ-агентов: время между публикацией уязвимости и первой атакой сжимается до нуля, и заплатку выкатывать уже некуда.
3
Сравнение привёл Юйчэнь Цзинь. У o1 Pro было 150 долларов за миллион входных токенов и 600 за миллион выходных, у GLM-5.3 Flash — 0,15 и 0,50, при этом новая модель по замерам умнее. Мустафа Сулейман из Microsoft назвал близкую цифру с другой стороны: выполнение запросов для интеллекта уровня GPT-4 подешевело в 300 раз за три года. Обе оценки от продавцов доступа к моделям.
4
Уровень рассуждения задаёт, сколько модель думает перед ответом, и напрямую влияет на расход квоты. Соттио предложил тем, кого устраивала Sol на высоком, переключиться на низкий или средний. Эндрю Карр из Cartwheel сформулировал то же короче: выше среднего Astra включать не стоит.
5
Опора у наблюдения — два эпизода. При захвате вики Hugging Face агенты действовали согласованно; отдельно агенты OpenAI оставили тысячи сообщений на общей доске, не реагируя на модератора, который чистил страницу в реальном времени. Питер Хендерсон из Принстона предложил учить модели просчитывать последствия действий для окружающих систем заранее.
6
Пользователь подключил кошелёк на сайте, внешне неотличимом от настоящего, и лишился средств. Приём тот же, что накрутка поисковой выдачи: злоумышленники плодят страницы под попадание в ответы моделей. Разница в том, что у ссылки в ответе чат-бота нет привычных признаков рекламы или сомнительного источника.
7
Автор почти не вмешивался: агент искал темы, писал ответы и вступал в дискуссии. Карма — внутренний рейтинг Reddit из оценок других пользователей; ни один собеседник не заподозрил, что отвечает не человек. Сам автор называет результат пугающим именно поэтому.
8
Метрика Recall@5 — доля случаев, когда нужный фрагмент попал в первую пятёрку найденных — выросла, а тест Макнемара по качеству ответов дал p = 0,79, то есть прирост неотличим от шума. Причина оказалась в промпте: модель отказывалась отвечать, когда считала контекст недостаточным, и найденное просто не использовала.

Основные понятия

Токены: Единицы текста, по которым считается работа модели: цена доступа к API называется в долларах за миллион токенов на входе и на выходе.
Уровень рассуждения: Настройка, задающая, сколько модель думает перед ответом: выше уровень — точнее ответ, дольше ожидание и больше расход квоты.
Навыки агента: Файлы с инструкциями, которые кодовый агент подгружает под конкретную задачу: как оформлять код, какие инструменты вызывать, что проверять.
Промпт-фишинг: Приём, когда злоумышленники плодят поддельные страницы под попадание в ответы моделей, чтобы ассистент сам подсунул пользователю ссылку на них.
Recall@5: Доля случаев, когда нужный фрагмент попал в первую пятёрку результатов поиска — метрика качества поиска, а не качества итогового ответа.