Google представляет модель нового поколения: Gemini 1.5 196

Спустя всего два месяца после запуска Gemini (который Google стремится вывести на вершину индустрии AI), компания уже анонсировала новую версию. Сегодня Google представила Gemini 1.5 и сделала её доступной для разработчиков и корпоративных пользователей, прежде чем выпустить полноценную потребительскую версию.

Gemini 1.5 обладает контекстным окном в 1 миллион токенов — это самый большой показатель на сегодняшний день! Gemini 1.5 способна к кросс-модальному пониманию и рассуждению: она может выполнять высоко сложные задачи понимания и рассуждения для текста, кода, изображений, аудио и видео. Это позволяет анализировать 1 час видео, 11 часов аудио, более 30 000 строк кода или более 700 000 слов текста.

Представление Gemini 1.5:

1. Повышение производительности: Gemini 1.5 демонстрирует значительное повышение производительности по нескольким параметрам, особенно достигая серьёзного прорыва в возможностях обработки длинного контекста — она способна последовательно обрабатывать до 1 миллиона токенов, обладая самым длинным контекстным окном среди всех существующих крупных базовых моделей.

2. Эффективная архитектура: Gemini 1.5 разработана с использованием новой архитектуры смеси экспертов (MoE), что делает её обучение и обслуживание более эффективными. При этом она снижает вычислительные затраты, сохраняя качество, сопоставимое с моделью 1.0 Ultra.

При тестировании на наборе оценок для текста, кода, изображений, аудио и видео Gemini 1.5 Pro набрала 87% в бенчмарках LLM, превзойдя Gemini 1.0 Pro. По производительности она примерно сопоставима с самой крупной моделью 1.0 Ultra.

3. Способность к обучению в контексте: Эта особенность позволяет Gemini 1.5 обрабатывать и анализировать огромные объёмы информации, например, 1 час видео, 11 часов аудио, кодовую базу объёмом более 30 000 строк или текст объёмом более 700 000 слов.

Когда Gemini 1.5 Pro получает грамматический справочник языка Kalamang, она способна осваивать новые навыки из предоставленной информации и выполнять задачи перевода с английского на Kalamang, причём качество перевода сопоставимо с уровнем людей, изучающих этот язык по тому же материалу.

Kalamang — это редкий язык, на котором в мире говорят менее 200 человек!

Это достижение подчёркивает способность Gemini 1.5 Pro работать с редкими или малораспространёнными языками, а также демонстрирует её мощные возможности в понимании и применении длинных и сложных текстов. Эта способность имеет большое значение для приложений в области изучения языков, обработки естественного языка и межкультурной коммуникации.

4. Кросс-модальное понимание и рассуждение: Gemini 1.5 способна к высоко сложному пониманию и рассуждению для контента различных модальностей (включая текст, код, изображения, аудио и видео), например, она может анализировать 44-минутный немой фильм и точно улавливать ключевые сюжетные моменты и детали.

5. Усиленная производительность: При тестировании на комплексной панели оценок для текста, кода, изображений, аудио и видео она способна выполнять высоко сложное понимание и рассуждение для всех этих модальностей. Gemini 1.5 может точно анализировать ключевые сюжетные моменты в 44-минутном немом фильме, демонстрируя глубокое понимание контента в различных медиаформатах.

Как работает Gemini 1.5:

Технология MoE: разделяя модель на более мелкие «экспертные» нейронные сети и выборочно активируя наиболее релевантные экспертные пути в зависимости от типа входных данных, технология MoE значительно повышает эффективность модели. Благодаря ряду инноваций в машинном обучении, Gemini 1.5 способна обрабатывать и анализировать беспрецедентные объёмы информации, открывая новые возможности для разработчиков и корпоративных клиентов и помогая их моделям и приложениям. Эта возможность длинного контекстного окна особенно полезна для приложений, требующих обработки больших объёмов данных и сложных сценариев, таких как глубокий анализ объёмных документов, понимание видеоконтента, сложный анализ кода и мультимодальное слияние данных.

В настоящее время Google ведёт ожесточённую гонку за создание лучших инструментов искусственного интеллекта, поскольку компании по всему миру пытаются определить свою стратегию в области ИИ и решить, заключать ли соглашения с OpenAI, Google или другими компаниями. В тот же день, спустя 2 часа после выпуска Google Gemini Pro 1.5, OpenAI объявила о модели генерации видео по тексту: Sora, которая предназначена для того, чтобы позволить пользователям сети создавать качественные AI-видео только по текстовым подсказкам.