Le Parrain De L’ia Geoffrey Hinton Quitte Google Et Qualifie D'”Effrayants” Les Risques Liés Aux Chatbots D’ia

Un homme largement considéré comme le père de l’intelligence artificielle (IA) a démissionné de son poste afin de sensibiliser le public aux risques croissants posés par les avancées dans ce domaine.

Geoffrey Hinton, 75 ans, a déclaré dans un message au New York Times qu’il quittait Google et qu’il regrettait désormais son travail. Il a décrit à la BBC certains des risques posés par les chatbots d’IA comme étant “assez effrayants”. “Pour l’instant, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils pourraient bientôt le devenir”, a-t-il déclaré. 

En outre, M. Hinton a reconnu que son âge avancé avait influencé son choix de quitter le géant de la technologie, déclarant à la BBC : “J’ai 75 ans, il est temps de prendre ma retraite.”

Les systèmes d’IA actuels tels que ChatGPT sont le fruit des travaux novateurs de M. Hinton dans les domaines de l’apprentissage profond et des réseaux neuronaux.

“À l’heure actuelle, nous constatons que des systèmes comme GPT-4 éclipsent une personne par la quantité de connaissances générales qu’ils possèdent, et de loin. En termes de raisonnement, il n’est pas aussi bon, mais il est déjà capable d’effectuer des raisonnements simples.

“Et compte tenu du rythme des progrès, nous nous attendons à ce que les choses s’améliorent rapidement. Nous devons donc nous en préoccuper.

Ce Canadien d’origine britannique, psychologue cognitif et informaticien, a déclaré à la BBC que le chatbot pourrait bientôt dépasser la quantité de connaissances qu’un cerveau humain peut emmagasiner.

Hinton a fait référence aux “mauvais acteurs” qui essaieraient d’exploiter l’IA à des fins “malveillantes” dans l’article du New York Times.

En réponse à une question de la BBC qui lui demandait de préciser sa pensée, il a déclaré : “Il s’agit simplement du pire scénario possible : “Il s’agit simplement d’un scénario du pire, d’un scénario cauchemardesque”.

“On peut imaginer, par exemple, qu’un mauvais acteur comme [le président russe Vladimir] Poutine décide de donner aux robots la capacité de créer leurs propres sous-objectifs”, a-t-il ajouté. Le scientifique a averti que cela pourrait éventuellement “créer des sous-objectifs tels que ‘j’ai besoin de plus de puissance'”, ajoutant : “Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons.  Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. La grande différence, c’est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde. Toutes ces copies peuvent apprendre séparément, mais partagent leurs connaissances instantanément. C’est comme si vous aviez 10 000 personnes et que chaque fois qu’une personne apprend quelque chose, tout le monde le sait automatiquement. C’est ainsi que ces chatbots peuvent en savoir beaucoup plus que n’importe quelle personne”.

Il a souligné que le géant de l’internet avait été “très responsable” et qu’il ne souhaitait pas condamner Google. “Je veux en fait dire du bien de Google. Et elles seront plus crédibles si je ne travaille pas pour Google”, a-t-il déclaré. 

Jeff Dean, le plus haut responsable scientifique de Google, a déclaré dans un communiqué : “Nous restons déterminés à adopter une approche responsable en matière de protection de l’environnement : “Nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.”