Rodney Brooks, chercheur en robotique et expert en IA, estime que la façon dont les gens interprètent les capacités des grands modèles de langage d’OpenAI, tels que le ChatGPT, le célèbre chatbot, est massivement amplifiée.
Dans une interview accordée à IEEE Spectrum, magazine d’information et d’analyse technologique, Brooks affirme que ces outils n’ont pas un niveau d’intelligence plus élevé que ce que l’on suppose aveuglément et qu’ils ne sont pas assez compétents pour défier l’intellect humain. Il estime que les prédictions des humains concernant les capacités futures de l’IA ont été exagérées.
L’IA peut-elle réellement égaler l’esprit humain ?
Dans l’interview, à la question “L’intelligence artificielle générale (AGI) est-elle sur le point d’atteindre un niveau de prouesse intellectuelle comparable à celui de l’homme ? Elle a des corrélations différentes entre les langues”.
Les commentaires de Brooks ont mis en évidence les graves lacunes de la technologie de l’IA et l’importance que les humains accordent naturellement à ses résultats, en particulier lorsqu’elle a été conçue pour donner une impression de ressemblance avec l’être humain, sans se comporter, ni raisonner, exactement comme lui.
Brooks explique à IEEE Spectrum : “Lorsque nous observons les actions d’une personne, nous évaluons rapidement ses capacités générales et portons des jugements. Cependant, nos méthodes de généralisation de la performance à la compétence ne s’appliquent pas aux systèmes d’intelligence artificielle.”
Une illusion
Par ailleurs, les technologies linguistiques existantes ne peuvent pas produire des résultats significatifs, mais seulement donner l’illusion qu’elles le font, ce qui a pour effet de désorienter les utilisateurs.
Brooks souligne que “ce à quoi les grands modèles de langage excellent, c’est à produire des réponses qui semblent correctes, ce qui est différent d’être réellement correctes”. Le chercheur fait part de sa propre expérience de travail avec de grands modèles de langage pour obtenir de l’aide dans l’écriture de codes complexes, mais il s’est trouvé confronté à de sérieux problèmes au cours du processus. Brooks a déclaré à IEEE Spectrum : “Il fournit une réponse avec une confiance inébranlable, et j’ai tendance à lui faire confiance. Cependant, la moitié du temps, elle est complètement fausse. Je passe deux ou trois heures à suivre ce conseil, pour me rendre compte qu’il n’a pas fonctionné, puis il me suggère une approche totalement différente”. “Ce n’est pas de l’intelligence. Ce n’est pas de l’interaction. Il s’agit simplement de rechercher des informations”, a-t-il ajouté.
Que se passera-t-il ensuite ?
Si l’hypothèse de Brooks est correcte, à savoir que la technologie de l’IA d’aujourd’hui n’est pas aussi performante qu’on le pense, alors nous nous trompons lourdement. L’IA étant capable d’exécuter la plupart des tâches, en particulier les emplois de débutants et certains emplois de haut niveau, les industries basées sur la technologie risquent de s’effondrer et de mettre fin aux emplois de milliers de personnes.
Si les commentaires de Brooks sont effectivement vrais, alors nos perceptions et nos craintes concernant l’IA générative ne sont rien d’autre qu’un état d’agitation mentale à un niveau sans précédent. En outre, dans ce cas, on ne peut qu’imaginer la destruction que l’IA peut nous apporter dans un avenir plus proche.
