Wuwen Xinqiong: решения для AGI-вычислений и инфраструктуры 105

Wuwen Xinqiong (Infini-AI) стремится предоставлять превосходные решения в области вычислительной инфраструктуры для AGI, делая ядром пакет инструментов для оптимизации энергоэффективности больших моделей. Компания взаимодействует с несколькими отечественными производителями чипов на нижнем уровне и обслуживает компании, работающие с алгоритмами больших моделей, на верхнем уровне через облачные сервисы интеллектуальных вычислений и интегрированные машины интеллектуальных вычислений. Объединяя вычислительные мощности, алгоритмы и экосистему, Infini-AI способствует эффективному внедрению отраслевых больших моделей и строит инфраструктуру больших моделей для эпохи AGI.

Официальный сайт Infini-AI:https://www.infini-ai.com

Ключевые продукты Infini-AI:

На основе пакета инструментов оптимизации энергоэффективности больших моделей Wuqiong объединяет вычислительные мощности отечественных чипов, создаёт унифицированную вычислительную базу и предоставляет облачные сервисы ускоренных вычислений, включая NVIDIA, AMD, Hygon (Hygon), Tianshu и другие, скрывая аппаратные различия и обеспечивая готовность к использованию из коробки.

Для сценариев частного развёртывания больших моделей компания интегрирует вычислительные ускорители, собственные IP-решения, пакеты оптимизации и отраслевые большие модели, создавая комплексные машины для больших моделей и максимально оптимизируя окупаемость инвестиций (ROI) при внедрении.

Решения Infini-AI:

Infini-AI предоставляет сквозные услуги обучения — от установки до использования, а также услуги по кастомизации моделей, снижая порог входа в использование больших моделей и предлагая индивидуальные решения в соответствии с вашими потребностями.

1. Облачные сервисы интеллектуальных вычислений

• Экземпляры с GPU-ускорением

• Готовность из коробки, унифицированное ускорение, глубокая оптимизация производительности, совместимость с открытым исходным кодом

• Поддержка отечественных чипов от различных производителей

• Сервисы ускорения обучения больших моделей

• Сервисы ускорения инференса больших моделей

2. Интегрированная машина интеллектуальных вычислений

• Глубокая программно-аппаратная координация

• Собственные IP-решения для ускорителей

• Поддержка отраслевых больших моделей

3. Пакет инструментов оптимизации энергоэффективности больших моделей

• Собственная мультибэкендная высокопроизводительная библиотека операторов

• Библиотека квантования и сжатия моделей

• Библиотека ускорения распределённого обучения

• Мультибэкендный движок инференса моделей

4. Собственные отраслевые большие модели

• Большая модель для государственного управления

• Большая модель для юридической сферы

• Большая модель для фондового рынка

5. Инструментальная цепочка разработки приложений на основе больших моделей

• Мультиагентный движок

• Сервисы файнтюнинга моделей

• Пакет инструментов RAG

• Инструменты оценки эффективности

6. Приложения-агенты для отраслей на основе больших моделей

• Инвестиционный ассистент

• Алгоритмический ассистент

Члены команды Infini-AI:

Основные члены команды основателей — выпускники факультета электроники Университета Цинхуа, а также специалисты из ведущих интернет- и AI-компаний. Они обладают богатым отраслевым опытом и успешной предпринимательской историей, имеют глубокую техническую экспертизу и академический опыт, опубликовав более 200 научных работ высокого уровня в области оптимизации систем искусственного интеллекта.

Среди достижений: (1) высокоэффективная библиотека операторов для GPU, превосходящая коммерческую библиотеку NVIDIA — на GPU среднего технологического процесса достигается лучшая производительность, чем у коммерческого ПО на GPU высокого техпроцесса; (2) архитектура ускорения эффективного разреженного инференса, поддерживающая большие модели и повышающая скорость вычислений разреженных нейронных сетей и графовых нейронных сетей на 1–3 порядка. Команда уже добилась снижения задержки больших языковых моделей на GPU NVIDIA на 50%, а в будущем планирует, объединяя оптимизацию операторов нижнего уровня, разреженное ускорение, учёт аппаратных особенностей и эффективную интерконнектность, довести коэффициент ускорения на уровне всей системы до 10 раз.