Drehbuch-Assistent▸ 
AI Apps 
AI Nachrichten Stability AI veröffentlicht Stable Code 3B Modell
Stability AI veröffentlicht Stable Code 3B Modell
Heute kündigen wir das erste große Sprachmodell des Jahres 2024 an: Stable Code 3B. Dieses neue LLM ist die Weiterentwicklung unseres zuvor veröffentlichten Stable Code Alpha 3B und die erste größere Stable Code-Version. Es bietet ein neues, hochmodernes Modell, das speziell für die Code-Vervollständigung entwickelt wurde und mit einer Vielzahl zusätzlicher Funktionen ausgestattet ist.
Leistung und Eigenschaften des Stable Code 3B Modells:
1. Kompakte Größe und hohe Effizienz: Im Vergleich zu CodeLLaMA 7b ist Stable Code 3B um 60 % kleiner und bietet gleichzeitig eine ähnlich hohe Leistung über verschiedene Programmiersprachen hinweg. Basierend auf unserem Stable LM 3B Basismodell, das mit 4 Billionen Token natürlicher Sprachdaten vortrainiert wurde, wurde Stable Code zusätzlich mit für Softwareentwicklung spezifischen Daten (einschließlich Code) trainiert. Die kompakte Größe des Modells ermöglicht es, es in Echtzeit und privat am Edge auf modernen Laptops auszuführen, selbst auf solchen ohne dedizierte GPU.
2. Läuft auf gewöhnlichen Computern: Aufgrund seiner kompakten Modellgröße kann Stable Code 3B in Echtzeit auf modernen Laptops ausgeführt werden, einschließlich solcher ohne dedizierte GPU.
3. 100k Kontextgröße: Stable Code 3B unterstützt eine größere Kontextgröße und kann Sequenzen von bis zu 100.000 Token verarbeiten, wodurch es reichhaltigere und präzisere Code-Vervollständigungen liefert. Stable Code 3B bietet über mehrere Sprachen hinweg mehr Funktionalität und deutlich bessere Leistung, mit zusätzlichen Vorteilen wie der Unterstützung von Fill-in-the-Middle (FIM) und einer erweiterten Kontextgröße. Stable Code als Basismodell wird auf Sequenzen von bis zu 16.384 Token trainiert, folgt jedoch einem CodeLlama-ähnlichen Ansatz mit der Implementierung von Rotary Embeddings, die optional die Modifikation von bis zu 1.000.000 Rotationsbasen ermöglicht, um die Kontextlänge des Modells auf bis zu 100k Token zu erweitern.
4. Training mit 18 Programmiersprachen: Stable Code wurde mit 18 Programmiersprachen trainiert (ausgewählt auf Grundlage der Stack Overflow-Entwicklerumfrage 2023) und zeigt im MultiPL-E-Benchmark über mehrere Programmiersprachen hinweg eine hochmoderne Leistung (im Vergleich zu Modellen ähnlicher Größe).
Das Stable Code 3B Modell ist in unserer neuen Stability AI Mitgliedschaft enthalten. Bitte besuchen Sie unsere Mitgliedschaftsseite, um unsere kommerziellen Kernmodellprodukte zu nutzen, einschließlich SDXL Turbo und Stable Video Diffusion.
