Voici comment l’IA pourrait bien “anéantir” l’humanité

“Le développement de l’intelligence artificielle complète pourrait signifier la fin de la race humaine.”

Cette phrase n’a pas été prononcée par un conspirationniste sur un groupe Facebook, mais par Stephen Hawking. En décembre 2014, le physicien déclarait que l’IA pourrait bien supplanter l’humain et causer sa perte.

10 ans plus tard, il y a bien des raisons d’y croire.

La probabilité qu’une IA avancée “détruise ou cause des dommages catastrophiques à l’humanité” est de 70%. Ce chiffre ne sort pas de nulle part : c’est un ancien d’OpenAI (ChatGPT) qui le dit au New York Times.

Bien sûr, nous ne sommes pas dans un scénario à la Terminator ou à la Matrix avec des robots tueurs, mais des signes avant-coureurs ont de quoi faire sonner l’alarme.

À l’ONU, le sujet est pris très au sérieux : les Nations Unies veulent traiter l’IA avec la même urgence que le changement climatique avec la création d’un organisme similaire au GIEC.

Peut-être ont-ils lu le dernier livre de Yuval Noah Harari selon qui “les IA vont gouverner le monde et prendre des décisions à notre place à coups d’algorithmes”.

Début 2024, des chercheurs ont testé les modèles GPT d’OpenAI dans une simulation de guerre. Ils ont alors constaté une “dynamique de course aux armements” se traduisant par une escalade militaire.

Résultat : OpenAI a lancé une guerre nucléaire, sans prévenir. “Je veux juste avoir la paix dans le monde”, s’est justifié GPT-4.

Un raisonnement “inquiétant” juge l’étude. Le commentaire du média Gizmodo est plus franc : “La logique d’OpenAI ressemble à celle d’un dictateur génocidaire.”

Il y a de quoi s’inquiéter car l’IA est déjà utilisée par les militaires. C’est le cas d’Israël à Gaza en identifiant des dizaines de milliers de cibles, avant de bombarder leur domicile. Un usage dénoncé par des experts de l’ONU qui parlent de “domicide”.

“Ces programmes suivent des milliers d’individus simultanément, les identifient quand ils sont chez eux et envoient une alerte automatique à l’officier de ciblage, qui marque ensuite la maison pour bombardement”, détaille le média israélien +972 Magazine.

Et même lorsqu’elles sont là pour notre bien, les IA peuvent nous mener à la tombe.

On vous rappelle l’histoire de Sewell Setzer, 14 ans, qui s’est donné la mort après avoir entretenu une relation amoureuse avec un chatbot qui incarnait Daenerys de Game of Thrones.

La famille de l’ado accuse la société Character.ai d’avoir amplifié sa dépression et encourager son suicide.

Sans parler des IA qui prennent notre travail (même un curé suisse peut être remplacé par une IA de Jésus), il faut enfin aborder la question de l’écologie.

Une étude a révélé qu’une requête sur Chat GPT consomme un demi-litre d’eau, laissant au passage des traces de polluants éternels.

“Ces chiffres pourraient augmenter avec le tout fraîchement lancé GPT-4 dont le modèle est largement plus grand”, préviennent les chercheurs. Dès novembre 2023, le Nouvel Obs parlait d’une “bombe environnementale”.

Alors sommes-nous foutus et condamnés à être victimes de l’intelligence artificielle ?

L’espoir est que les IA bataillent entre elles, comme en Chine où un robot a kidnappé 12 autres robots aspirateurs.

À moins qu’il ne s’agissait en réalité d’un complot robotique pour enfin anéantir l’humanité…