Wuwen Xinqiong: Computing-Lösungen für den Aufbau einer AGI-Infrastruktur 107

无问芯穹 widmet sich der Bereitstellung herausragender AGI-Computing-Lösungen. Der Kern ist das Tool-Paket zur Energieeffizienzoptimierung großer Modelle. Nach unten hin werden mehrere inländische Chiphersteller eingebunden, nach oben hin werden durch Intelligent-Computing-Cloud-Services und Intelligent-Computing-All-in-One-Geräte Unternehmen bedient, die Algorithmen für große Modelle entwickeln. Durch die Koordination von Rechenleistung, Algorithmen und Ökosystem wird die effiziente Implementierung von Branchen-Großmodellen vorangetrieben und die Infrastruktur für große Modelle im AGI-Zeitalter aufgebaut.

Offizielle Website von 无问芯穹：https://www.infini-ai.com

Kernprodukte von 无问芯穹：

Basierend auf dem energieeffizienzoptimierten Tool-Paket für das 无穹-Großmodell wird die Rechenleistung inländischer Chips integriert und eine einheitliche Computing-Grundlage aufgebaut. Angeboten werden Cloud-Computing-Dienste mit verschiedenen Beschleunigern wie NVIDIA, AMD, Hygon (海光) und天数, die Hardware-Unterschiede abschirmen und sofort einsatzbereit sind.

Für Szenarien der privaten Bereitstellung großer Modelle werden Beschleunigerkarten, selbst entwickelte IPs, Optimierungstool-Pakete und Branchen-Großmodelle integriert, um All-in-One-Großmodell-Maschinen zu bauen und den ROI der Großmodell-Implementierung zu maximieren.

无问芯穹Lösungen：

无问芯穹 bietet End-to-End-Schulungen von der Installation bis zur Nutzung sowie maßgeschneiderte Modelldienste an, um die Einstiegshürde für große Modelle zu senken und individuelle Lösungen nach Ihren Anforderungen bereitzustellen.

1、Intelligent-Computing-Cloud-Service

• GPU-Beschleunigungsinstanzen

• Sofort einsatzbereit, einheitliche Beschleunigung, tiefgreifende Leistungsoptimierung, Open-Source-kompatibel

• Unterstützung mehrerer inländischer Chip-Anbieter

• Beschleunigungsdienst für das Training großer Modelle

• Beschleunigungsdienst für die Inferenz großer Modelle

2、Intelligent-Computing-All-in-One-Maschine

• Tiefe Hardware-Software-Co-Optimierung

• Selbst entwickelte Beschleunigerkarten-IP

• Branchen-Großmodell-Befähigung

3、Energieeffizienzoptimiertes Tool-Paket für große Modelle

• Selbst entwickelte Multi-Backend-Hochleistungs-Operatorenbibliothek

• Modellquantisierungs- und Komprimierungsbibliothek

• Bibliothek zur Beschleunigung des verteilten Trainings

• Multi-Backend-Modellinferenz-Engine

4、Selbst entwickelte Branchen-Großmodelle

• Regierungs-Großmodell

• Rechts-Großmodell

• Wertpapier-Großmodell

5、Entwicklungstoolkette für Großmodell-Anwendungen

• Multi-Agent-Engine

• Modell-Feinabstimmungsdienst

• RAG-Toolkit

• Effektbewertungs-Tool

6、Branchenspezifische Intelligent-Agent-Anwendungen basierend auf großen Modellen

• Investment-Assistent

• Algorithmus-Assistent

Teammitglieder von 无问芯穹：

Die Gründerteam-Mitglieder kommen aus der Fakultät für Elektronik der Tsinghua-Universität sowie führenden Internet-/KI-Unternehmen. Sie verfügen über umfangreiche Branchenerfahrung und erfolgreiche Startup-Hintergründe, mit reicher technischer und akademischer Expertise. Im Bereich der Optimierung von Künstliche-Intelligenz-Systemen haben sie bereits über 200 hochrangige wissenschaftliche Arbeiten veröffentlicht.

Zu den zugehörigen Ergebnissen gehören: (1) Eine hocheffiziente GPU-Operatorenbibliothek, die die kommerzielle Bibliothek von Nvidia übertrifft und auf Mittelklasse-GPUs eine bessere Leistung erzielt als kommerzielle Software auf High-End-GPUs; (2) Eine effiziente Sparse-Inferenz-Beschleunigungsarchitektur für große Modelle, die die Berechnungsgeschwindigkeit von spärlichen neuronalen Netzen, Graph-Neuronalen-Netzen usw. um 1–3 Größenordnungen steigert. Das Team hat die Latenz großer Sprachmodelle auf Nvidia-GPUs bereits um 50 % reduziert und plant, durch die Kombination von zugrunde liegender Operator-Optimierung, Sparse-Beschleunigung, Hardware-Eigenschaftsbewusstsein und hocheffizienter Interkonnektivität die Gesamtbeschleunigung auf das 10-fache zu steigern.