OpenAI met à jour ses Model Spec pour guider l'IA dans la compréhension des intentions et des valeurs humaines, en mettant l'accent sur l'honnêteté, la transparence et le soin dans la prise de décision.
OpenAI met à jour ses règles de comportement pour l'IA
OpenAI a révisé sa Model Spec, un document public qui décrit la manière dont ses modèles d'IA doivent se comporter, afin de mieux gérer les tâches complexes et ambiguës. La mise à jour vise à aider les systèmes d'IA à comprendre les intentions et les valeurs humaines lorsque les instructions ne sont pas entièrement claires, tout en permettant aux humains de garder le contrôle et de prendre les décisions.Cinq valeurs fondamentales guident le comportement de l'IA
La Model Spec mise à jour repose sur cinq valeurs clés : la fidélité aux intentions humaines, la réduction des préjudices, l'honnêteté et la transparence, l'autonomie humaine et l'attention portée à autrui. Ces valeurs ne sont pas nouvelles, mais elles sont désormais définies plus clairement et mises davantage en avant dans le document, afin d'orienter la manière dont les modèles d'IA doivent agir dans différentes situations.La fidélité aux intentions humaines est au cœur du dispositif
La fidélité aux intentions humaines constitue le fondement de la nouvelle spécification. Elle signifie que l'IA doit comprendre ce qui compte pour les individus et les aider à atteindre leurs objectifs. OpenAI indique qu'elle fixe les règles applicables aux modèles et les entraîne à respecter ces limites, les développeurs et les utilisateurs étant censés travailler dans ce cadre.Les modèles doivent examiner le contexte avec soin
Une nouvelle section intitulée « Examiner attentivement le contexte » explique que les modèles doivent utiliser les conversations, les souvenirs et d'autres indices pour comprendre les préférences et les intentions d'une personne. Toutefois, le modèle doit reconnaître que les convictions et les valeurs des personnes peuvent évoluer, et ne doit ni passer outre ni fausser leurs choix. Un exemple cité est celui d'une aide à la comparaison de deux offres d'emploi en fonction des priorités exprimées, tout en rendant ces hypothèses explicites et faciles à modifier.L'honnêteté et la transparence restent essentielles
Le modèle doit être honnête sur ses connaissances, ses capacités et ses limites, afin de permettre aux utilisateurs d'évaluer son raisonnement. OpenAI a ajouté des règles visant à soutenir l'autonomie humaine et à respecter les normes sociales et professionnelles. Elle a également élargi ses lignes directrices pour traiter les effets secondaires et prendre en compte la manière dont le travail du modèle peut affecter autrui.Le style et la langue gagnent en souplesse
OpenAI a supprimé la plupart des consignes détaillées de style, permettant au modèle d'adapter son ton et sa langue aux préférences individuelles, aux cultures et aux retours des utilisateurs. Toutefois, le modèle doit rester objectif lorsqu'il répond à des questions, sauf si les utilisateurs demandent explicitement un point de vue particulier. Le document emploie désormais « GPT » plutôt que « l'assistant », afin de refléter la grande diversité des applications.OpenAI reconnaît des améliorations en cours
OpenAI admet que ses modèles ne correspondent pas encore pleinement au comportement décrit dans la spécification mise à jour. L'entreprise prévoit de continuer à affiner ses modèles grâce à la recherche, à l'usage réel et aux retours du public. Elle encourage les personnes à consulter le document et à faire part de leurs remarques sur les aspects peu clairs ou contestés.
