Mistral AI veröffentlicht Mistral Small 3.1: multimodal, mehrsprachig, 128K Kontext 127

Was ist Mistral Small 3.1?

Mistral Small 3.1 ist ein von Mistral AI neu veröffentlichtes Open-Source-Multimodal- und Mehrsprachen-KI-Modell, das ein Kontextfenster von bis zu 128k unterstützt, eine Inferenzgeschwindigkeit von 150 Token pro Sekunde erreicht und in seiner Leistung vergleichbare Modelle übertrifft. Es eignet sich für verschiedene Einsatzbereiche wie virtuelle Assistenten, Dokumentenvalidierung und Bildverarbeitung.

Versionen von Mistral Small 3.1

Es werden zwei Versionen angeboten: Mistral Small 3.1 Base (vortrainiertes Modell) und Mistral Small 3.1 Instruct (instruktionsfeinabgestimmtes Modell).

Kernfunktionen von Mistral Small 3.1

Leistungsverbesserung

• Mistral Small 3.1 ist die Weiterentwicklung von Mistral Small 3 und bietet verbesserte Textverarbeitungsfähigkeiten, multimodales Verständnis und unterstützt ein Kontextfenster von bis zu 128k Tokens.

• In Bezug auf die Inferenzgeschwindigkeit erreicht das Modell 150 Tokens pro Sekunde und übertrifft damit vergleichbare Modelle (wie Gemma 3 und GPT-4o Mini) deutlich.

Open Source und Flexibilität

• Das Modell wird unter der Apache 2.0-Lizenz veröffentlicht, ist vollständig Open Source und eignet sich für verschiedene moderne KI-Anwendungsszenarien, einschließlich Textverarbeitung, multimodaler Eingaben, Mehrsprachenunterstützung und Verwaltung langer Kontexte.

• Es stellt ein vortrainiertes Basismodell (Base Model) und ein instruktionsfeinabgestimmtes Modell (Instruct Model) bereit und bietet Entwicklern umfangreiche Anpassungsoptionen.

Leichtgewichtiges Design

• Dank seines leichtgewichtigen Designs kann Mistral Small 3.1 auf einer einzelnen RTX 4090-Grafikkarte oder einem Mac mit 32 GB Arbeitsspeicher betrieben werden und eignet sich somit für Anwendungsszenarien, die schnelle und genaue Antworten erfordern, wie beispielsweise virtuelle Assistenten.

Multimodale und mehrsprachige Unterstützung

• Es unterstützt multimodale Eingaben (Text und Bilder) und deckt mehrere Sprachen ab. Es eignet sich für komplexe Aufgaben wie Dokumentenvalidierung, Bildverarbeitung, Qualitätskontrolle und Objekterkennung in Sicherheitssystemen.

Anwendungsszenarien für Mistral Small 3.1

• Dialogunterstützung: Geeignet für Anwendungen wie virtuelle Assistenten, die schnelle und genaue Antworten erfordern.

• Multimodale Aufgaben: Kann für Dokumentenvalidierung, Bildverarbeitung, Qualitätskontrolle und Objekterkennung in Sicherheitssystemen verwendet werden.

• Feinabstimmung für Fachbereiche: Kann für Bereiche wie Rechtsberatung, medizinische Diagnose und technischen Support feinabgestimmt werden.

Offizielle ausführliche Vorstellung von Mistral AI:https://mistral.ai/news/mistral-small-3-1