OpenAI запускает функцию плагинов и открывает платформу плагинов 157

После выпуска нового движка GPT-4 и API Whisper в марте, Openai в четверг объявила о начале внедрения плагинов. Они позволят чат-боту взаимодействовать со сторонними API, настраивать свои ответы в зависимости от конкретных ситуаций, определенных разработчиками, а также расширять диапазон возможностей бота по выполнению операций.

OpenAI уже реализовала начальную поддержку плагинов в большой языковой модели. Плагины — это инструменты, специально разработанные для языковых моделей с безопасностью в качестве основного принципа, помогающие большой языковой модели получать доступ к актуальной информации, выполнять вычисления или использовать сторонние сервисы.

Предположим, вы хотите разработать чат-бот, с которым пользователи могли бы обсуждать спорт. До последнего обновления GPT-4 чат-бот мог обсуждать только прошедшие игры и результаты, особенно в 2021 году, когда были собраны обучающие данные GPT-3. Он не извлекал бы данные в реальном времени и даже не осознавал бы существование 2022 года. С помощью плагинов вы сможете прикрепить функции большой языковой модели к вашему существующему стеку кода, где она сможет выполнять любые действия — от вызова API для получения информации в реальном времени (спортивные результаты, цены акций, срочные новости) до извлечения информации из конкретных баз знаний (например, внутренних корпоративных документов или личного облака). Он даже может действовать от имени пользователя, например, бронировать авиарейсы или заказывать доставку еды — представьте себе устанавливаемого Google Ассистента, созданного сотрудниками OpenAI.

Сами плагины всё ещё находятся на ранней стадии альфа-тестирования с ограниченной доступностью. OpenAI предоставляет ранний доступ нескольким компаниям-партнёрам, включая Expedia, Instacart, KAYAK, OpenTable, Shopify, Slack, Wolfram и Zapier, для использования в их существующих приложениях. Чтобы попробовать лично, вам нужно будет добавить своё имя в лист ожидания.

«Модель ИИ выступает в роли интеллектуального вызывающего API. Учитывая спецификацию API и описание на естественном языке того, когда использовать API, модель проактивно вызывает API для выполнения действий», — пишет команда OpenAI. «Например, если пользователь спросит: «Где мне остановиться в Париже на несколько ночей?», модель может выбрать вызов API плагина бронирования отелей, получить ответ API и сгенерировать ответ для пользователя, объединяя данные API и свои возможности обработки естественного языка».

OpenAI также отмечает, что использование плагинов для преодоления разрыва между содержанием обучения модели и тем, что произошло после этого, должно помочь уменьшить склонность искусственного интеллекта генерировать галлюцинации при ответах на сложные вопросы. «Эти ссылки не только повышают полезность модели, но и позволяют пользователям оценивать достоверность вывода модели и тщательно проверять её точность, что потенциально может снизить риски, связанные с чрезмерным доверием», — пишет команда.

Дополнительные функции и информация, предоставляемые модели через её плагины, также значительно увеличивают вероятность того, что модель вернёт проблемные ответы. Чтобы избежать ошибок на 10 миллиардов долларов, подобных приобретению Google Барда, по имеющимся данным, OpenAI провела обширное стресс-тестирование этих плагинов. «Мы провели учения красной команды как внутри компании, так и с внешними партнёрами, которые выявили множество потенциально тревожных ситуаций», — пишет команда. Они планируют использовать эти выводы, чтобы «информировать о разработке мер по обеспечению безопасности», направленных на повышение прозрачности и предотвращение участия плагинов в опасном поведении.