Пентагон впервые признал роль доверия к ИИ в ударе по школе в Иране

Пентагон признал, что чрезмерная опора на ИИ способствовала ракетному удару по школе в Иране. Разбор Bloomberg описывает, как система обработки разведданных участвовала в выборе цели, а операторы не оспорили её вывод.

Это первый случай, когда военное ведомство США официально связывает гибель людей с доверием к машинной оценке цели. В обсуждении на Hacker News спорят, где в цепочке решения должен стоять человек, если он подтверждает вывод, которого не может проверить.