Автоматическая сверка не заметила, что ИИ поменял суммы двух людей местами
Автор на Хабре показал ошибку ИИ-редактуры, которую не ловит автоматическая сверка: в тексте Анна получила сумму Бориса, а Борис — сумму Анны. Все имена и все числа при этом на месте.
Автоматическая проверка сравнивает наборы: какие имена были, какие остались, какие числа встречаются. Перестановка связей между ними такую проверку проходит целиком, потому что состав не изменился — изменилось, что к чему относится.
Автор предлагает сверять после машинной правки не состав, а утверждения: кто кому что должен, какое условие при каком сроке. Для договоров и отчётов это разница между опечаткой и обязательством наоборот.