SiliconFlow: Computing-Infrastrukturplattform für generative KI 143

SiliconFlow ist ein Startup-Unternehmen, das sich auf den Bereich der KI-Infrastruktur (AI Infra) spezialisiert hat und im August 2023 gegründet wurde. Das Unternehmen widmet sich dem Aufbau einer skalierbaren, standardisierten und hocheffizienten KI-Plattform und bietet vielfältige KI-Modelldienste an, um Entwicklern und Unternehmen zu ermöglichen, sich auf Produktinnovationen zu konzentrieren. SiliconFlow hat in Zusammenarbeit mit Huawei Cloud einen DeepSeek-Inferenzdienst auf Basis von Ascend Cloud eingeführt, dessen Leistung mit globalen High-End-GPU-Bereitstellungsmodellen vergleichbar ist. Der Gründer Yuan Jinhui war zuvor Gründer und CEO von OneFlow. SiliconFlow hat eine Finanzierungsrunde „Angel+“ in Höhe von fast 100 Millionen Yuan erhalten.

Produkte und Dienstleistungen:

• DeepSeek R1/V3 Inferenzdienst: Der in Zusammenarbeit mit Huawei Cloud eingeführte DeepSeek R1/V3 Inferenzdienst auf Basis von Ascend Cloud bietet eine Leistung, die mit globalen High-End-GPU-Bereitstellungsmodellen vergleichbar ist, und stellt einen stabilen Inferenzdienst auf Produktionsniveau bereit.

• SiliconCloud-Plattform: Die von SiliconFlow eingeführte All-in-One-Cloud-Service-Plattform bündelt gängige Open-Source-Großmodelle und bietet hocheffiziente und kostengünstige KI-Großmodelldienste.

Technologische Vorteile:

• Selbstentwickelte Inferenz-Beschleunigungs-Engine: Durch die selbstentwickelte Inferenz-Beschleunigungs-Engine erreicht SiliconFlow eine mit globalen High-End-GPU-Bereitstellungsmodellen vergleichbare Leistung und senkt die Kosten für die Bereitstellung und Inferenz von Großmodellen.

• Multimodale Inferenz: Im Bereich der multimodalen Inferenz bietet die Open-Source-Inferenz-Beschleunigungs-Engine OneDiff eine bis zu dreimal höhere Leistung als vergleichbare Open-Source-Produkte und erreicht eine Ende-zu-Ende-Bilderzeugungsgeschwindigkeit im Bereich von hundert Millisekunden.

Welche Probleme löst SiliconFlow?

• Effiziente Bereitstellung und Inferenz von KI-Großmodellen: Durch die selbstentwickelte Inferenz-Beschleunigungs-Engine und die Zusammenarbeit mit Huawei Cloud bietet SiliconFlow leistungsstarke und kostengünstige KI-Großmodelldienste und löst damit das Problem der geringen Effizienz und hohen Kosten beim Training und bei der Inferenz von Großmodellen.

• DeepSeek-Serviceunterbrechungen: DeepSeek verzeichnete aufgrund sprunghaft angestiegener Zugriffszahlen und böswilliger Angriffe häufige Serviceunterbrechungen. SiliconFlow hat in Zusammenarbeit mit Huawei Cloud die auf Ascend Cloud basierenden Inferenzdienste für DeepSeek R1 und V3 eingeführt, um die Serverlast zu verringern und einen stabileren Service zu bieten.

• Senkung der Einstiegshürden für KI-Technologie: SiliconFlow bietet kostenlose API-Aufrufkontingente und vergünstigte Preise, unterstützt Entwickler beim Erreichen von „Token-Freiheit“, senkt die Rechenkosten für Unternehmen und Einzelentwickler und fördert die Verbreitung und Anwendung von KI-Technologie.

• Leistungssteigerung multimodaler KI-Anwendungen: Die multimodale Inferenz-Engine OneDiff von SiliconFlow bietet eine bis zu dreimal höhere Leistung, unterstützt die Bilderzeugung mit Ende-zu-Ende-Geschwindigkeit im Bereich von hundert Millisekunden und verbessert die Leistung von KI in multimodalen Anwendungen wie Video und Bild.

• Förderung der Entwicklung des heimischen KI-Ökosystems: Die Zusammenarbeit zwischen SiliconFlow und Huawei Cloud markiert den Aufstieg des heimischen KI-Ökosystems und bietet eine vollständig inländische KI-Lösung, die die Abhängigkeit von ausländischer Technologie verringert und die Wettbewerbsfähigkeit des Landes im Bereich KI stärkt.

Kürzlich hat SiliconFlow die Einführung der Modelle DeepSeek-V3/R1 bekannt gegeben, die in der ersten Woche bereits über 3 Millionen Entwickler anzogen. In Zusammenarbeit mit Huawei Cloud wurde ein auf Ascend Cloud basierender Inferenzdienst eingeführt. Durch die Kooperation mit Huawei Cloud realisiert SiliconFlow eine hochleistungsfähige Inferenz auf Basis von Ascend Cloud, deren Service internationalem Spitzenniveau entspricht.

SiliconFlow widmet sich dem Aufbau einer skalierbaren, standardisierten und hocheffizienten Plattform für generative KI-Computerinfrastruktur und bietet Produkte wie die Modell-Cloud-Service-Plattform SiliconCloud, die Inferenz-Engine für große Sprachmodelle SiiconLLM sowie die Hochleistungs-Beschleunigungsbibliotheken für Text-zu-Bild/Video OneDiff an, um Unternehmen und Privatanwendern eine effiziente und kostengünstige Bereitstellung von KI-Modellen zu ermöglichen.