Au début de l’année 2025, la Commission fédérale du commerce (FTC) des États-Unis a finalisé un accord à 193 000 dollars avec DoNotPay, une startup qui s’était présentée comme le premier « robot avocat » au monde. Selon la FTC, DoNotPay n’a pas pu démontrer que ses résultats étaient comparables à ceux d’un avocat dûment licencié. L’entreprise avait également fait l’objet d’un recours collectif peu après son lancement pour avoir proposé des services juridiques en Californie sans disposer des autorisations nécessaires. Cette affaire met en lumière une préoccupation croissante : l’écart entre les promesses audacieuses faites par les grandes entreprises d’IA et la réalité de leurs performances. Les experts juridiques se retrouvent désormais face à un manque de précédents pour gérer les complexités liées aux défaillances de l’IA, ce qui crée une incertitude autour des questions de responsabilité des entreprises et de conformité réglementaire. Alors que le débat se poursuit, une nouvelle catégorie de logiciels d’IA émerge, conçue avec une chaîne de responsabilité clairement définie. Ces systèmes visent à répondre aux préoccupations juridiques et éthiques soulevées par le développement rapide des technologies d’IA. ZDNET s’est entretenu avec quatre experts du secteur pour explorer la technologie sous-jacente et évaluer si les promesses de sécurité de ces systèmes tiennent la route dans la pratique. L’un de ces modèles de conception gagne en popularité : le « Human-in-the-loop » (HITL), dans lequel les systèmes d’IA soumettent des décisions complexes à une révision humaine avant de les exécuter. Cette approche vise à garantir une prise de décision rigoureuse, en particulier dans des domaines sensibles comme les opérations de santé, les transactions financières et les décisions juridiques. Cependant, le terme « HITL » est utilisé de manière flexible selon les systèmes, et toutes les implémentations n’impliquent pas une supervision humaine en temps réel lors des tâches critiques. Les experts mettent en garde contre le fait que l’efficacité des systèmes HITL dépend largement de la manière dont ils gèrent l’incertitude ou les erreurs des modèles d’IA. Akash Thakur, ingénieur en fiabilité de l’IA, explique que le principal problème ne réside pas dans le modèle lui-même, mais dans la façon dont les systèmes réagissent face aux défaillances potentielles. Plutôt que de traiter les erreurs de l’IA comme des scénarios catastrophiques, les systèmes HITL sont conçus pour agir comme des outils d’audit en temps réel, interceptant les décisions susceptibles d’être incorrectes. Toutefois, de nombreux systèmes s’appuient trop sur le score de confiance de l’IA pour déclencher une révision humaine, ce qui ne reflète pas nécessairement l’exactitude réelle du résultat. Daniel Gamber, PDG de Cambrion, souligne que les scores de confiance indiquent uniquement la capacité du modèle à traiter l’information, et non l’exactitude de la conclusion. Au-delà des aspects techniques, la mise en œuvre des systèmes HITL implique également de traiter les biais et de garantir des pistes d’audit. Asim Husain, cofondateur d’Alterion, souligne que la réponse aux erreurs de l’IA doit être adaptée à la tolérance au risque de l’organisation, et que le système doit savoir à qui escalader les problèmes. Par ailleurs, le Règlement sur l’IA de l’Union européenne impose une supervision vérifiable comme exigence clé en matière de conformité. Former des réviseurs humains à évaluer de manière critique les résultats produits par l’IA est essentiel, mais les biais inhérents au modèle d’IA lui-même peuvent compromettre même les meilleurs protocoles de révision. Ces défis soulignent la nécessité de systèmes robustes et adaptables, capables de résister à un examen minutieux et de garantir la responsabilité dans un paysage de l’IA en constante évolution.