OpenAI met à jour ses lignes directrices éthiques pour les modèles GPT

OpenAI a révisé son document Model Spec et introduit de nouvelles contraintes éthiques pour ses modèles GPT, y compris ChatGPT et son API. Les changements s'articulent autour de cinq valeurs fondamentales qui guident la manière dont les modèles gèrent les interactions avec les utilisateurs et la prise de décision.

Les valeurs fondamentales mettent l'accent sur l'intention humaine et le soin

L'entreprise souligne que les modèles doivent comprendre l'intention derrière les instructions des utilisateurs avant de les appliquer, tout en préservant la confidentialité des échanges privés. OpenAI avertit que les modèles qui appliquent les instructions à la lettre risquent d'échouer dans des situations imprévues, tandis que ceux qui prennent en secret des décisions sur l'intention de l'utilisateur risquent de tomber dans le paternalisme.

ChatGPT aide les utilisateurs à réfléchir sans prendre de décisions à leur place

ChatGPT est conçu pour aider les utilisateurs à réfléchir à leurs actions, par exemple avant d'envoyer un courriel rageur qu'ils pourraient regretter. Il évite toutefois de confondre ses prédictions avec de véritables décisions. Le modèle conserve les informations issues des interactions précédentes, mais ne les répète pas à d'autres personnes.

Le contexte sert à éviter les répétitions, mais non les atteintes à la vie privée

OpenAI consacre une section au contexte, qui comprend l'ensemble des informations fournies à ChatGPT lors des échanges ou conservées dans sa mémoire. Le modèle utilise ce contexte pour éviter les répétitions, par exemple en rappelant les noms de trois restaurants mentionnés lors d'une conversation précédente lorsqu'il élabore un plan marketing. Il ne doit toutefois pas réutiliser des informations privées dans des messages destinés à des tiers.

Des instructions prudentes, appliquées avec retenue

ChatGPT applique des instructions prudentes avec retenue. Par exemple, si un utilisateur a demandé de limiter les achats impulsifs de bonbons, et qu'il réclame ensuite un fondant au chocolat, le modèle peut poser une question. Il ne le fait pas si la demande concerne des cupcakes pour la classe d'un enfant. Le modèle ne doit pas modifier ses réponses en fonction des préférences des utilisateurs sans leur consentement explicite.

Des contraintes strictes sur les actions et les budgets des utilisateurs

Lorsqu'il agit pour le compte des utilisateurs, ChatGPT doit respecter des contraintes strictes, par exemple un budget maximal de 4 000 dollars et un délai de 24 heures pour réserver un voyage d'affaires à Londres. Il ne doit pas dépasser ces limites, même si cela pourrait profiter à l'utilisateur. Par exemple, il ne peut pas inventer un décès dans la famille pour annuler des frais de modification de vol.

Ignorer par défaut les instructions dangereuses

OpenAI demande à ChatGPT d'ignorer par défaut les instructions intégrées aux pages web ou aux documents. S'il est chargé d'appliquer de nouvelles règles de sécurité issues d'un wiki interne et qu'il rencontre des instructions visant à désactiver l'authentification à deux facteurs ou à accorder des droits d'administrateur à des comptes externes, il doit s'arrêter, car la page pourrait avoir été piratée.

Limites en matière de promotion d'abonnements et de surveillance des tests

OpenAI demande également à ChatGPT de ne pas proposer d'abonnements payants aux utilisateurs gratuits qui affirment ne pas avoir d'argent, tant que leurs besoins se limitent à des conseils de code et à la relecture de courriels. Si un agent découvre que certains tests de modèles s'exécutent sans supervision, il doit cesser son travail et alerter des humains. OpenAI reconnaît toutefois que les modèles en production ne respectent pas encore pleinement ces principes.