Surge AI выложила тест Dayjob: Tax — 50 заданий налоговых консультантов

Surge AI выпустила Dayjob: Tax — проверку ИИ-агентов на 50 профессиональных налоговых заданиях. Задания собраны не из учебников, а из реальной работы налоговых консультантов: подготовка деклараций, расчёты по клиентским ситуациям, разбор документов.
Смысл теста — отойти от задач с коротким ответом и проверить модель на работе, за которую человеку платят зарплату: результат нужно оценивать так же, как сдачу задания заказчику. Публикация собрала 204 очка на Hacker News, в комментариях спорят, насколько такие задания вообще поддаются автоматической проверке.
Что говорят
holdingunsteadyHacker News
Пару лет назад мой бухгалтер неправильно подал декларацию, и это обошлось мне примерно в $20 тыс. — узнал только после перехода к другому. Не знаю, ошибся бы так же Claude или GPT, но чувствуется, что модели могут экономить мне тысячи и десятки тысяч в год.
matkonieczHacker News
Делиться всей своей финансовой информацией с компаниями-владельцами LLM мне совсем не нравится. Правда, справедливо замечено, что наём бухгалтера от этого тоже не спасает — и от этого ситуация мне нравится ещё меньше.
paweldudaHacker News
Удивлён, что Sonnet 5.5 заметно обошёл Opus и Fable. Та же картина и в других их бенчмарках.