Переписки с помощником Meta Muse попали в поиск — разбор Ars Technica

ИИ-помощник Meta под названием Muse раскрывает личные и рабочие данные пользователей, когда те делятся ссылкой на свой разговор. Разбор опубликовал Ars Technica.
Механика та же, на которой раньше горели другие чат-боты: кнопка «поделиться» делает страницу публичной и доступной поисковым системам, а пользователь считает, что отправляет ссылку конкретному человеку. В переписках оказывались медицинские подробности, адреса и коммерческие данные.
Для Meta это второй удар по Muse за неделю: накануне Amazon заблокировал того же агента в своём магазине.
Что говорят
omoikaneHacker News
Урок: имена поддоменов вполне можно вытащить из пассивных DNS-записей, поэтому прятать что-то «неугадываемое» в поддомене — плохая идея.
viccisHacker News
Muse был обречён очевиднее всех ботов такого типа: подобные вещи нужно изолировать от любой личной информации, а тут приходит Meta и предлагает вести дневник, который всем расскажет, что ты в нём написал, со словами «доверьтесь нам». Нельзя десятилетиями кидать своих пользователей, а потом просить доверия.