30 миллиардов параметров, одна видеокарта: мета нарушила уравнение затрат искусственного интеллекта

Мета выпустила модель агента с 30 миллиардами параметров.Основная особенность модели заключается в том, что она оптимизирована для работы на одном GPU.

Включение больших языковых моделей в однокартное оборудование напрямую влияет на структуру затрат приложений искусственного интеллекта. Модели, не требующие многокартных наборов, повышают доступность для небольших команд и внутрифирменных дистрибутивов.

В последнее время в отрасли появляется тенденция, направленная на то, чтобы предложить те же возможности с меньшим количеством оборудования, а не на увеличение числа параметров.

Источник :Технические стартапы