Помощник сценариста▸ 
AI Приложения 
AI Новости Stability AI выпускает модель Stable Code 3B
Stability AI выпускает модель Stable Code 3B
Сегодня мы объявляем о выпуске в 2024 году нашей первой большой языковой модели: Stable Code 3B. Эта новая LLM является продолжением ранее выпущенной нами модели Stable Code Alpha 3B и представляет собой первую основную версию Stable Code, предлагающую новую современную модель, специально разработанную для автодополнения кода, с множеством дополнительных функций.
Производительность и особенности модели Stable Code 3B:
1. Малый размер и высокая эффективность: по сравнению с CodeLLaMA 7b, Stable Code 3B на 60% меньше по объёму, при этом обеспечивает сопоставимую высокую производительность в различных языках программирования. Базируясь на нашей базовой модели Stable LM 3B, предварительно обученной на 4 триллионах единиц данных на естественном языке, Stable Code была дополнительно обучена на данных, специфичных для разработки программного обеспечения (включая код). Компактный размер модели позволяет ей работать конфиденциально в режиме реального времени на периферийных устройствах — современных ноутбуках, даже на тех, которые не оснащены выделенным GPU.
2. Работает на обычном компьютере: благодаря компактному размеру модели, Stable Code 3B может работать в режиме реального времени на современных ноутбуках, включая модели без выделенного GPU.
3. Контекстное окно размером 100k: Stable Code 3B поддерживает увеличенный размер контекста и способна обрабатывать последовательности длиной до 100 000 токенов, обеспечивая более полное и точное автодополнение кода. Stable Code 3B предоставляет больше возможностей и значительно лучшую производительность в различных языках, а также обладает дополнительными преимуществами, такими как поддержка функции заполнения середины (FIM) и расширенный размер контекста. Stable Code в качестве базовой модели обучается на последовательностях длиной до 16 384 токенов, но, следуя подходу, аналогичному CodeLlama, применяет поворотные вложения, которые при необходимости позволяют изменить до 1 000 000 оснований вращения, дополнительно расширяя длину контекста модели до 100 000 токенов.
4. Обучение на 18 языках программирования: Stable Code обучена на 18 языках программирования (отобранных на основе опроса разработчиков StackOverflow 2023 года) и демонстрирует самые современные результаты на показателе MultiPL-E для множества протестированных языков программирования (по сравнению с моделями аналогичного размера).
Модель Stable Code 3B включена в наше новое членство Stability ai. Пожалуйста, посетите нашу страницу членства, чтобы воспользоваться нашими коммерческими базовыми продуктами моделей, включая SDXL Turbo и Stable Video Diffusion.
