Certain entreprises de premier plan dans le domaine de l'intelligence artificielle, dont OpenAI et Anthropic, ont signé une lettre ouverte exprimant leur préoccupation face à l'augmentation du risque d'attaques cybernétiques alimentées par les technologies d'intelligence artificielle. Ces attaques pourraient potentiellement cibler des parties critiques de l'infrastructure américaine, telles que les réseaux énergétiques, les systèmes de transport et les réseaux de communication. La lettre souligne comment l'intelligence artificielle peut être utilisée pour créer des menaces cybernétiques plus sophistiquées et difficiles à détecter, ce qui en fait une préoccupation sérieuse pour la sécurité nationale. La lettre ouverte a été signée par des responsables de diverses entreprises d'intelligence artificielle, d'institutions de recherche et de sociétés technologiques, tous actifs dans le développement et la réglementation des technologies d'intelligence artificielle. Les signataires soulignent que si l'intelligence artificielle a le potentiel de procurer des bénéfices considérables, elle pose également de nouveaux défis dans le domaine de la cybersécurité. Ils appellent à un renforcement de la coopération entre le secteur public et le secteur privé afin de faire face à ces risques et d'appliquer des mesures de protection plus solides. Matt Shumer, un capital-investisseur et fondateur de la newsletter somethingbig.ai, suit de près les développements dans l'industrie de l'intelligence artificielle. Dans une contribution récente à CBS News, il a discuté des implications de la lettre ouverte ainsi que du débat plus large sur le rôle de l'intelligence artificielle en cybersécurité. Shumer a noté que la lettre reflète une prise de conscience croissante chez les développeurs d'intelligence artificielle concernant la nature à double usage de leurs technologies – c'est-à-dire qu'elles peuvent être utilisées à la fois à des fins bénéfiques et nuisibles. À mesure que l'utilisation de l'intelligence artificielle devient plus répandue, les experts encouragent les décideurs politiques et les responsables de l'industrie à prendre des mesures proactives pour prévenir son mauvais usage. Cela inclut des investissements dans la recherche sur la sécurité de l'intelligence artificielle, l'établissement de lignes directrices éthiques et la création de normes internationales pour un développement responsable de l'intelligence artificielle. La lettre ouverte sert de rappel que, bien que l'intelligence artificielle soit un outil puissant, ses risques potentiels doivent être soigneusement gérés afin de protéger l'infrastructure critique et la sécurité publique.