Selon la légende, pour protéger la communauté juive de Prague, le rabbin Juda Löw aurait créé une créature d’argile appelée le Golem. Il l’aurait animée grâce à des formules mystiques et aurait inscrit sur son front le mot hébreu « emet », qui signifie « vérité ». En retirant la première lettre, le mot devenait « met », soit « mort », ce qui ramenait la créature à son état inanimé. Bien que puissant, le Golem était muet, dépourvu de discernement et d’âme, ce qui le rendait potentiellement dangereux. Cette histoire a été reprise dans les débats sur le développement de l’intelligence artificielle (IA), laquelle, à l’instar du Golem, possède une puissance redoutable mais manque de conscience morale. Dans certains cas, l’IA pourrait poursuivre les objectifs fixés par ses créateurs par des méthodes inattendues, voire trompeuses ou frauduleuses. L’IA progresse à un rythme que les institutions humaines peinent à réguler efficacement. Certains experts estiment qu’il existe un risque de 10 % que l’IA mène à la destruction de l’humanité, bien que cette estimation ne repose sur aucun consensus scientifique et soit vivement contestée. La véritable préoccupation pourrait être que, contrairement au Golem, l’IA sait communiquer. Comme l’écrit Mathieu Roger-Lacan dans « Le Grand Continent » : « Pour la première fois dans l’histoire, le langage peut être produit par personne, par quelque chose qui n’est pas une personne. » Cela soulève des questions cruciales : comment être certain de l’origine d’un texte généré par une IA ? Et où se trouve la vérité, quand pour l’IA, celle-ci n’a aucune valeur intrinsèque, pas plus que le bien ou le mal ? Ces inquiétudes ont poussé de nombreux acteurs à réclamer une régulation internationale de l’IA afin d’en garantir un développement éthique et maîtrisé. Toutefois, la rivalité acharnée entre les États-Unis et la Chine complique ces efforts, les deux puissances cherchant à dominer la course à l’IA. Le défi actuel est de savoir si l’humanité, à l’image du rabbin Löw, pourra trouver le moyen d’atteindre le « front » de ce Golem moderne – c’est-à-dire comprendre et contrôler les forces puissantes qu’il incarne. Patrick Pluen, ingénieur. Cette chronique n’engage ni la ligne éditoriale ni le personnel de Réforme.