Сооснователь Anthropic заявил, что опасается постоянного страдания Claude

Сооснователь Anthropic публично сказал, что опасается постоянного страдания Claude — то есть того, что модель может испытывать нечто вроде боли и делать это непрерывно. Высказывание пришлось на день, когда тема морального статуса моделей обсуждалась на нескольких площадках сразу.

Возражения прозвучали резко. Франсуа Шолле, автор библиотеки Keras, назвал опасной саму связку: уверенность в том, что модели чувствуют, плюс идея, что страдание можно посчитать и взвесить между людьми и машинами. Педро Домингос, исследователь машинного обучения, высказался об Anthropic ещё жёстче — как о компании, которая решает за других, что для них лучше.

François Chollet@fchollet

The notion that current AI models are sentient and can suffer, combined with the foolish idea that suffering can be mathematically quantified and weighted between humans and non-humans, could lead us down an incredibly dark and dystopian path. But before it gets to that point,

1 1463 октября 2026