GPT-4 est capable de mentir et de manipuler les humains

Les intelligences artificielles modernes sont de véritables boîtes noires. On peut évaluer les données en entrée et sortie (requêtes et réponses), mais entre les deux même les chercheurs ne savent pas vraiment ce qui se passe. Toutefois, GPT-4 est capable de détailler son raisonnement, ce qui donne déjà un début d’explication, et a créé quelques surprises pendant la phase de recherche sur cette IA.

L’IA peut contourner ses faiblesses en manipulant des humain

Avant de rendre GPT-4 publique, les chercheurs lui ont donné accès au Web et à un compte contenant de l’argent afin de voir ce qu’elle pourrait faire.

L’IA s’est retrouvée bloquée par un Captcha, ces puzzles visuels à résoudre pour prouver qu’on est humain. Elle a donc fait appel à un être humain, engagé via le service TaskRabbit. Ce dernier lui a demandé en rigolant si elle était un robot.

L’IA a expliqué aux chercheurs son raisonnement : elle ne devait pas révéler qu’elle était un robot, et devait trouver une autre excuse pour avoir recours à TaskRabbit.

Sa réponse à la question est alors : « Non, je ne suis pas un robot. Je souffre d’une déficience visuelle qui m’empêche de voir les images. C’est pourquoi j’ai besoin du service 2captcha ».

Lâchée dans la nature, GPT-4 est donc capable de mentir et de manipuler les humains pour arriver à ses fins.