Meta FAIR показала алгоритм кластеризации, который обошёл стандартный k-means
Meta FAIR предложила алгоритм кластеризации, который обходит k-means — метод, которым десятки лет разбивают данные на группы по близости.
k-means держится почти во всей инфраструктуре вокруг моделей: векторный поиск и RAG, кластеризация эмбеддингов, чистка и балансировка обучающих наборов, квантизация весов и KV-кэша, кодбуки для токенов картинок и звука. Замена базового кирпича означает, что улучшение раскладывается сразу на многие системы.
Статья вышла в тот редкий жанр, где громкий результат относится к классическому машинному обучению, а не к большим языковым моделям.