OpenAI, l’éditeur de ChatGPT, a supprimé un agent conversationnel, ou «chatbot», créé pour incarner en ligne un candidat à l’élection présidentielle américaine, imposant ainsi des limites à l’utilisation de ses outils d’intelligence artificielle (IA) générative par les campagnes politiques.
Un groupe de soutien à Dean Phillips, membre du Congrès américain, avait demandé à une start-up basée à Miami de créer un chatbot qui permettrait aux utilisateurs de discuter avec ce candidat peu connu.
«Nous avons récemment supprimé un compte de développeur qui violait sciemment les règles de notre API (interface de programmation d’application, NDLR) et de notre plateforme, qui interdisent les campagnes politiques ou l’usurpation de l’identité d’une personne sans son consentement», a déclaré samedi OpenAI au Washington Post, qui a été le premier journal à rapporter cette information.
L’essor de l’IA générative fait craindre que des personnes n’utilisent ChatGPT et d’autres outils similaires pour semer le chaos politique, notamment par le biais de la désinformation ou de clones d’IA, à l’approche de plusieurs élections majeures qui se tiendront cette année dans le monde entier.
En tant que leader de cette technologie, OpenAI, qui est en grande partie financée par Microsoft, fait l’objet d’une attention particulière.
La société californienne a déclaré la semaine dernière qu’elle fournirait aux utilisateurs des ressources pour réduire les risques de dommages.
Le robot conversationnel baptisé «Dean-bot» était destiné à servir d’outil d’information dans le cadre de la campagne pour les primaires du parti démocrate. OpenAI s’est empressée de le retirer après qu’un article du Washington Post a mis en ligne un lien permettant de le tester.
Après la publication du rapport, Delphi, la start-up engagée pour créer le robot, a été exclue de la plateforme d’OpenAI.
Delphi s’appuie sur les modèles d’IA d’OpenAI pour créer des «chatbots» capables d’imiter la voix de personnalités telles que des influenceurs ou des célébrités.
Après la controverse, la société a déclaré que désormais elle «interdirait toute utilisation de [sa] plateforme par des personnalités ou organisations politiques».