Команда Modal открыла Quail — движок SQL-запросов с вызовами модели внутри

Исследовательница Шрея Шанкар вместе с командой Modal открыла Quail — движок AI-SQL, который выполняет запросы к данным с вызовами языковой модели внутри. Обычно такие запросы упираются в то, что база и модель работают порознь: сначала выборка, потом медленный обход строк через модель.

Quail планирует запрос и вызовы модели вместе, и за счёт этого на одной видеокарте H100 выходит больше миллиарда входных токенов в минуту на один запрос. Токен — кусок текста примерно в три-четыре символа.

Проект выложен с открытым кодом.

Shreya Shankar@sh_reya

Excited to share Quail, our new open source AI-SQL engine (a collab with Modal)! By planning queries and LLM inference together, it reaches 1B+ input tokens/min on one H100 for one query 😱🚀 AI-powered data operators create a new, interesting inference workload👇 https://t.co/HoJQUyGRi4

26324 сентября 2026