SiliconFlow: 생성형 AI 컴퓨팅 인프라 플랫폼 128

실리콘 플로우(SiliconFlow)는 AI 인프라(AI Infra) 분야에 집중하는 스타트업으로, 2023년 8월에 설립되었습니다. 이 회사는 대규모화·표준화·고효율의 AI 플랫폼을 구축하고, 다양한 종류의 AI 모델 서비스를 제공하여 개발자와 기업들이 제품 혁신에 집중할 수 있도록 돕는 것을 목표로 합니다. 실리콘 플로우는 화웨이 클라우드와 협력하여 Ascend Cloud 기반의 DeepSeek 추론 서비스를 출시했으며, 그 성능은 전 세계 고급 GPU 배포 모델에 필적합니다. 창업자인 위안진후이(Yuan Jinhui)는 OneFlow의 창립자 겸 CEO를 역임했으며, 실리콘 플로우는 이미 약 1억 위안 규모의 엔젤+ 라운드 투자를 유치했습니다.

제품 및 서비스:

• DeepSeek R1/V3 추론 서비스: 실리콘 플로우가 화웨이 클라우드와 협력하여 출시한 Ascend Cloud 서비스 기반의 DeepSeek R1/V3 추론 서비스로, 전 세계 고급 GPU 배포 모델에 상응하는 성능을 갖추고 있으며 안정적인 프로덕션급 추론 서비스를 제공합니다.

• SiliconCloud 클라우드 서비스 플랫폼: 실리콘 플로우가推出的 출시한 원스톱 클라우드 서비스 플랫폼으로, 주요 오픈소스 대형 모델을 통합하여 고효율·저비용의 AI 대형 모델 서비스를 제공합니다.

기술적 우위:

• 자체 개발 추론 가속 엔진: 실리콘 플로우는 자체 개발한 추론 가속 엔진을 통해 전 세계 고급 GPU 배포 모델에 상응하는 성능을 구현하고, 대형 모델 추론 배포 비용을 절감합니다.

• 멀티모달 추론: 실리콘 플로우의 멀티모달 추론 측면에서 오픈소스 OneDiff 추론 가속 엔진의 성능은 오픈소스同类同类 동종 제품 대비 최대 3배 향상되었으며, 이미 백 밀리초(ms) 수준의 엔드 투 엔드 이미지 생성 속도에 도달했습니다.

실리콘 플로우는 어떤 문제를 해결하는가?

• AI 대형 모델의 효율적인 배포 및 추론: 실리콘 플로우는 자체 개발 추론 가속 엔진과 화웨이 클라우드와의 협력을 통해 고성능·저비용의 AI 대형 모델 서비스를 제공하며, 대형 모델 학습 및 추론의 낮은 효율과 높은 비용 문제를 해결합니다.

• DeepSeek 서비스 중단 문제: DeepSeek는 트래픽 급증과 악의적인 공격으로 인해 서비스가 자주 중단되었으나, 실리콘 플로우는 화웨이 클라우드와 협력하여 Ascend Cloud 서비스 기반의 DeepSeek R1 및 V3 추론 서비스를 출시함으로써 서버 부담을 완화하고 보다 안정적인 서비스를 제공했습니다.

• AI 기술 사용门槛 진입 장벽 낮추기: 실리콘 플로우는 무료 API 호출 한도와 우대 가격을 제공하여 개발자의 "Token 자유"를 지원하며, 기업 및 개인 개발자의 컴퓨팅 비용을 절감하여 AI 기술의 보급과 활용을 촉진합니다.

• 멀티모달 AI 애플리케이션의 성능 향상: 실리콘 플로우의 멀티모달 추론 엔진 OneDiff는 성능이 최대 3배 향상되어 백 밀리초 수준의 엔드 투 엔드 이미지 생성을 지원하며, 이미지, 영상 등 멀티모달 애플리케이션에서의 AI 성능을 향상시킵니다.

• 국산 AI 생태계 발전 촉진: 실리콘 플로우와 화웨이 클라우드의 협력은 국산 AI 생태계의 부상을 상징하며, 완전 국산화 AI 솔루션을 제공하여 해외 기술 의존도를 줄이고 국가의 AI 분야 경쟁력을 강화합니다.

최근 실리콘 플로우는 DeepSeek-V3/R1 모델을 출시한다고 발표했으며, 첫 주에 이미 300만 명 이상의 개발자들이 가입했습니다. 또한 화웨이 클라우드와 공동으로 Ascend Cloud 기반의 추론 서비스를 출시했으며, 화웨이 클라우드와의 협력을 통해 실리콘 플로우는 Ascend Cloud 서비스 기반의 고성능 추론을 실현했고, 그 서비스 성능은 국제 최고 수준에 필적합니다.

실리콘 플로우는 대규모화·표준화·고효율의 생성형 AI 컴퓨팅 인프라 플랫폼 구축에 전념하고 있으며, 모델 클라우드 서비스 플랫폼 SiliconCloud, 대규모 언어 모델 추론 엔진 SiliconLLM, 고성능 텍스트-이미지/영상 가속 라이브러리 OneDiff 등 제품을 제공하여 기업 및 개인 사용자가 AI 모델을 효율적이고 저비용으로 배포할 수 있도록 지원합니다.