Военные США едва не приняли решение по выдуманной моделью разведсводке

CNN опубликовал материал о том, как военные США едва не приняли решение по разведывательной сводке, которую придумала модель. В отчёт попало сообщение о китайском судне, не подтверждённое данными: ошибку заметили до того, как она привела к действиям.
В обсуждении спорят не о самой модели, а о процедуре: сводка прошла по цепочке согласований как обычный документ, потому что отдельной пометки о машинном происхождении в ней не было.
Что говорят
softwaredougHacker News
Нам предстоит болезненный урок: ИИ не бывает ответственным, ответственны люди. Неважно, код это, текст или военное решение — плохое начинается в тот момент, когда человек снимает ответственность с себя.
Rebuff5007Hacker News
Если даже подготовленные военные, которые буквально выбирают цели для бомбардировки, ведутся на галлюцинации ИИ, то какие шансы у остальных — студента с домашкой, корпоративного аналитика, местного журналиста?
shimmanHacker News
Материал FT на ту же тему — о том, что ИИ-целеуказание не помогает американской армии — намного лучше, чем у CNN.