L’écrivain et chercheur américain Eliezer Yudkowsky, spécialiste en Intelligence Artificielle, a émis une mise en garde auprès du Guardian, samedi 17 février 2024.

Selon lui, l’IA pourrait nous mener à notre perte. Pour détruire l’humanité toute entière… Elle n’aurait besoin que de quelques années. "Si vous me mettez au pied du mur, si vous m’obligez à faire des probabilités, [je peux vous dire que] j’ai le sentiment que notre calendrier actuel ressemble plus à cinq ans qu’à cinquante ans, a-t-il confié au quotidien. Cela pourrait mettre deux ans, cela pourrait en mettre dix."

L’universitaire de 44 ans est formel : tous les êtres que nous chérissons pourraient, dans quelques années, mourir… tués par des machines rebelles habitées par une conscience. "Le problème, c’est que les gens ne s’en rendent pas compte, observe-t-il, pessimiste et visiblement amer. Nous n’avons pas la moindre chance que l’humanité survive."

Celui qui était autrefois une figure fondatrice du développement des IA s’est mis à les redouter. Désormais, il dit s’attendre à la fin du monde tel que nous le connaissons, à une catastrophe semblable à celles que les amateurs de science-fiction ont vues dépeintes dans nombre d’œuvres cinématographiques, parmi lesquelles Terminator et Matrix.

Ce n’est pas la première fois qu’Eliezer Yudkowsky tente de sortir les humains de leur torpeur. En mars 2023, il s’était fendu d’une analyse dans le Time dans laquelle il conseillait vivement de fermer définitivement les fermes d’élevage où les IA sont cultivées et entraînées. Pour ce faire, il dessinait la possibilité d’avoir recours à des frappes aériennes ciblées.

Eliezer Yudkowsky n’est pas le seul expert à redouter l’extinction de l’humanité liée à ces avancées technologiques. Au printemps dernier, nous nous étions fait l’écho de la publication d’une lettre par plusieurs spécialistes, parmi lesquels Sam Altman, chef d’OpenAI, la maison-mère de ChatGPT, ou encore de Demis Hassabis, patron de Google DeepMind.

"Atténuer le risque d’extinction causée par l’IA devrait être une priorité mondiale, au même titre que d’autres risques pour les sociétés comme les pandémies ou la guerre nucléaire", estimaient notamment ces capitaines d’industries et autres scientifiques.

Parmi les dangers cités par le Guardian : la mise au chômage d’un grand nombre de travailleurs, la désinformation à des fins politiques ou le développement de comportements crapuleux par le biais des « deepfakes" notamment.

La réalité risque fort de dépasser la fiction.

Source