OpenAI lance la fonctionnalité de plugins et ouvre sa plateforme de plugins 160

Suite à la sortie du nouveau moteur GPT-4 et de l'API Whisper en mars, Openai a annoncé jeudi qu'elle commençait à introduire des plugins. Ceux-ci permettront au chatbot d'interagir avec des API tierces, de personnaliser ses réponses en fonction de situations spécifiques définies par les développeurs, et d'élargir l'éventail des capacités opérationnelles du bot.

OpenAI a déjà mis en œuvre un support initial pour les plugins dans les grands modèles. Les plugins sont des outils spécialement conçus pour les modèles de langage, avec la sécurité comme principe fondamental, aidant les grands modèles à accéder aux informations les plus récentes, à effectuer des calculs ou à utiliser des services tiers.

Supposons que vous souhaitiez développer un chatbot avec lequel les utilisateurs peuvent discuter de sport. Avant la dernière mise à jour de GPT-4, le chatbot ne pouvait discuter que des matchs et des scores passés, en particulier ceux datant de 2021, époque à laquelle les données d'entraînement de GPT-3 ont été collectées. Il ne récupérera pas de données en temps réel, et ne sera même pas conscient de l'existence de l'année 2022. Grâce aux plugins, vous pourrez ajouter des fonctionnalités de grand modèle à votre pile de code existante, où il sera capable d'effectuer toute opération allant de la récupération d'informations en temps réel (scores sportifs, prix des actions, actualités de dernière minute) à l'extraction d'informations spécifiques d'une base de connaissances (comme des documents internes d'entreprise ou un cloud personnel). Il peut même agir au nom de l'utilisateur, comme réserver un vol ou commander un repas à emporter — pensez à un Google Assistant installable, créé par l'équipe d'OpenAI.

Les plugins eux-mêmes en sont encore à un stade alpha précoce, avec une disponibilité limitée. OpenAI permet à un petit nombre de sociétés partenaires d'y accéder en avant-première, notamment Expedia, Instacart, KAYAK, OpenTable, Shopify, Slack, Wolfram et Zapier, afin de les utiliser dans leurs applications existantes. Vous devrez ajouter votre nom à la liste d'attente pour l'essayer vous-même.

« Le modèle d'IA agit comme un appelant d'API intelligent. Étant donné une spécification d'API et une description en langage naturel indiquant quand utiliser l'API, le modèle appelle proactivement l'API pour effectuer des actions », a écrit l'équipe d'OpenAI. « Par exemple, si un utilisateur demande : "Où devrais-je séjourner à Paris pour quelques nuits ?", le modèle peut choisir d'appeler l'API du plugin de réservation d'hôtels, recevoir la réponse de l'API et générer une réponse orientée utilisateur, combinant les données de l'API et ses capacités en langage naturel.

OpenAI a également noté que l'utilisation de plugins pour combler le fossé de connaissances entre le contenu sur lequel le modèle a été entraîné et ce qui s'est passé depuis devrait aider à réduire la tendance de l'intelligence artificielle à produire des hallucinations lorsqu'elle répond à des questions complexes. « Ces références améliorent non seulement l'utilité du modèle, mais permettent également aux utilisateurs d'évaluer la fiabilité des résultats du modèle et d'en vérifier soigneusement l'exactitude, atténuant ainsi potentiellement les risques liés à une confiance excessive », a écrit l'équipe.

Les fonctionnalités et informations supplémentaires fournies au modèle via ses plugins augmentent considérablement le risque que le modèle renvoie des réponses problématiques. Afin d'éviter les 10 milliards de dollars de Google pour l'acquisition de Bard, OpenAI aurait soumis ces plugins à des tests de résistance intensifs. « Nous avons mené des exercices de red team en interne et avec des collaborateurs externes, révélant de nombreux scénarios potentiellement préoccupants », a écrit l'équipe. Ils prévoient d'utiliser ces découvertes pour « éclairer la conception de mesures d'atténuation de sécurité », afin d'accroître la transparence et de décourager la participation des plugins à des comportements dangereux.