Помощник сценариста▸ 
AI Приложения 
AI Новости 
SiliconFlow: платформа вычислительной инфраструктуры для генеративного ИИ
SiliconFlow: платформа вычислительной инфраструктуры для генеративного ИИОписание
SiliconFlow (Гуйцзи Люодун) — стартап, специализирующийся на инфраструктуре искусственного интеллекта (AI Infra), основанный в августе 2023 года. Компания стремится создавать масштабируемую, стандартизированную и высокопроизводительную платформу ИИ, предоставляя широкий спектр услуг в области моделей ИИ, помогая разработчикам и предприятиям сосредоточиться на инновациях в продуктах. SiliconFlow в сотрудничестве с Huawei Cloud запустила сервис инференса DeepSeek на базе облака Ascend, производительность которого сопоставима с моделями, развёрнутыми на высокопроизводительных GPU мирового уровня. Основатель Юань Цзиньхуй (Yuan Jinhui) ранее был основателем и CEO OneFlow. SiliconFlow привлекла финансирование в раунде «ангел+» на сумму почти 100 миллионов юаней.
Продукты и услуги:
Сервис инференса DeepSeek R1/V3: запущенный SiliconFlow совместно с Huawei Cloud на базе облачных сервисов Ascend сервис инференса DeepSeek R1/V3 обладает производительностью, сопоставимой с моделями, развёрнутыми на высокопроизводительных GPU мирового уровня, и обеспечивает стабильный промышленный инференс.
Облачная платформа SiliconCloud: универсальная облачная платформа, запущенная SiliconFlow, объединяющая ведущие открытые большие модели и предоставляющая высокопроизводительные и экономичные сервисы больших моделей ИИ.
Технологические преимущества:
Собственный движок ускорения инференса: благодаря собственному движку ускорения инференса SiliconFlow достигает производительности, сопоставимой с моделями на высокопроизводительных GPU мирового уровня, и снижает затраты на развёртывание инференса больших моделей.
Мультимодальный инференс: в области мультимодального инференса открытый движок ускорения инференса OneDiff демонстрирует прирост производительности до 3 раз по сравнению с аналогичными открытыми продуктами и обеспечивает сквозную генерацию изображений на уровне сотен миллисекунд.
Какие проблемы решает SiliconFlow?
Эффективное развёртывание и инференс больших моделей ИИ: благодаря собственному движку ускорения инференса и сотрудничеству с Huawei Cloud SiliconFlow предоставляет высокопроизводительные и экономичные сервисы больших моделей ИИ, решая проблемы низкой эффективности и высокой стоимости обучения и инференса больших моделей.
Проблема перебоев в работе сервиса DeepSeek: DeepSeek часто испытывал перебои в работе из-за резкого роста посещаемости и вредоносных атак. SiliconFlow совместно с Huawei Cloud запустила сервис инференса DeepSeek R1 и V3 на базе облака Ascend, что позволило снизить нагрузку на серверы и обеспечить более стабильный сервис.
Снижение порога входа в использование технологий ИИ: SiliconFlow предоставляет бесплатные квоты вызовов API и льготные цены, поддерживая «свободу токенов» для разработчиков, снижая затраты на вычислительные ресурсы для предприятий и индивидуальных разработчиков и способствуя распространению и применению технологий ИИ.
Повышение производительности мультимодальных приложений ИИ: мультимодальный движок инференса OneDiff от SiliconFlow обеспечивает прирост производительности до 3 раз и поддерживает сквозную генерацию изображений на уровне сотен миллисекунд, повышая эффективность ИИ в мультимодальных приложениях, таких как работа с изображениями и видео.
Содействие развитию отечественной экосистемы ИИ: сотрудничество SiliconFlow с Huawei Cloud знаменует подъём отечественной экосистемы ИИ, предоставляя полностью отечественные решения в области ИИ, снижая зависимость от зарубежных технологий и повышая конкурентоспособность страны в сфере ИИ.
Недавно SiliconFlow объявила о запуске моделей DeepSeek-V3/R1, и уже в первую неделю платформа привлекла более 3 миллионов разработчиков. Совместно с Huawei Cloud также был запущен сервис инференса на базе облака Ascend, благодаря чему SiliconFlow удалось реализовать высокопроизводительный инференс на основе облачных сервисов Ascend, а производительность её сервисов соответствует ведущему мировому уровню.
SiliconFlow стремится создать масштабируемую, стандартизированную и высокопроизводительную платформу вычислительной инфраструктуры для генеративного ИИ, предлагая такие продукты, как облачная платформа моделей SiliconCloud, движок инференса больших языковых моделей SiliconLLM, высокопроизводительная библиотека ускорения генерации изображений/видео OneDiff и другие, помогая предприятиям и индивидуальным пользователям эффективно и экономично развёртывать модели ИИ.
