Группа Кена Стэнли научила сеть хранить свойства объекта по отдельности
Кен Стэнли с соавторами опубликовал работу о факторизованных представлениях — способе, при котором сеть хранит независимые свойства объекта по отдельности, а не смешивает их в один клубок чисел. Раньше та же группа показывала, что обычное обучение градиентным спуском таких представлений не даёт.
В новой работе авторы добились разделения свойств, добавив рядом тяжёлый автоэнкодер — вспомогательную сеть, которая учится выборочно, только на самых «чистых» примерах. Основная модель при этом обучается обычным способом.
Практический смысл в том, что разделённые свойства легче менять по одному: правка цвета не тянет за собой форму.