Il existe de grands films sur l’intelligence artificielle qui nous mettent en garde contre les dangers de la non-maîtrise de notre propre technologie.
Il est vrai qu’aujourd’hui, nous pouvons créer facilement un site web à partir de zéro grâce à l’intelligence artificielle et effectuer mille et une tâches grâce à cette innovation du XXIe siècle, mais de nombreuses voix s’élèvent encore pour nous inviter à réfléchir à l’avenir de l’humanité face à l’essor de l’intelligence artificielle.
Le danger de l’extinction par l’IA
L’AI Risk Statement, disponible sur le site du Centre for AI Safety, affirme que «l’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société tels que les pandémies et les guerres nucléaires».
Des personnalités importantes liées à cette technologie, telles que Bill Gates ou Sam Altman, ont signé ce manifeste dans lequel elles mettent sur la table des scénarios où l’IA serait la cause de notre extinction. Parmi les situations décrites figurent :
- L’utilisation de l’IA comme arme, par exemple pour découvrir de nouveaux types d’armes chimiques
- La désinformation par le biais de contenus générés par l’IA et capables de modifier les décisions d’un large collectif.
- La concentration des outils d’IA entre les mains de gouvernements et d’entreprises cherchant à apaiser les masses.
- L’affaiblissement de l’être humain, du fait de notre dépendance accrue à l’égard de l’IA.
Jeremie Harris, PDG de l’entreprise Gladstone AI, a assuré dans des déclarations recueillies par CNN que «l’IA est déjà une technologie économiquement transformatrice» et qu’elle nous permet de «guérir des maladies» ou de «faire des découvertes scientifiques». Cependant, il déclare également :
«Mais elle pourrait également entraîner de graves risques, y compris des risques catastrophiques, dont nous devons être avertis. De plus en plus d’éléments, notamment des recherches empiriques et des analyses publiées lors des principales conférences mondiales sur l’IA, suggèrent qu’au-delà d’une certaine limite de capacité, les IA pourraient être incontrôlables».
Geoffrey Hinton, considéré comme le parrain de l’IA, rejoint également les rangs de ceux qui préconisent aujourd’hui de limiter l’utilisation et les progrès de l’intelligence artificielle. Geoffrey Hinton cité dans le New York Times, déclare :
«Je me console avec l’excuse habituelle : si je ne l’avais pas fait (en parlant de son travail, qui a jeté les bases de l’intelligence artificielle actuelle), quelqu’un d’autre l’aurait fait (…) Regardez où nous en étions il y a cinq ans et où nous en sommes aujourd’hui. Prenez cette différence et propulsez-la vers l’avant. C’est effrayant».
