13 Risques, dangers et menaces de l’intelligence artificielle (IA)

En tant que futurologue (mot fantaisiste pour « prospective stratégique »), on me pose souvent des questions sur l’intelligence artificielle et ses risques potentiels pour l’humanité. Les questions portent souvent sur des scénarios tout droit sortis de la science-fiction : des machines superintelligentes qui prennent le contrôle du monde, des robots qui deviennent conscients d’eux-mêmes ou l’IA qui décide soudainement d’éliminer l’humanité (en tant qu’Autrichien, je comprends l’héritage – Hey Arnold :D). Mais laissez-moi être clair : nous sommes loin de ces scénarios, et franchement, de telles discussions nous détournent des défis réels et urgents que l’IA présente.

Ce qui me préoccupe, ce n’est pas le fantasme d’une intelligence générale artificielle malveillante, mais plutôt les façons subtiles et insidieuses dont la technologie actuelle de l’IA affecte déjà notre société. Alors que les « Tech Bros » de la Silicon Valley prêchent depuis leur tour d’ivoire sur l’intelligence artificielle générale et la singularité, ils passent à côté (ou ignorent peut-être délibérément) des impacts plus immédiats de ce qui est, en réalité, une technologie plutôt limitée.

Soyons honnêtes – la plupart des IA d’aujourd’hui (en particulier l’IA générative) sont fondamentalement stupides. Aussi, pour être clair – l’IA existe depuis plusieurs décennies et depuis le début des ordinateurs, ce n’est donc pas un truc OpenAI ou ChatGPT que nous venons de découvrir, juste une évolution naturelle de la technologie qui est soudainement devenue hype parce qu’elle pouvait « vous parler » et que nous pensons automatiquement qu’elle est intelligente. L’explication la plus simple : Il s’agit d’un système de recherche de motifs sous stéroïdes, qui fait la moyenne d’énormes quantités d’informations pour produire des résultats apparemment intelligents. Oui, il peut traiter l’information plus rapidement que les humains et trouver des liens que nous pourrions manquer, mais il manque de compréhension réelle, de contexte ou de pensée originale. Nous travaillons essentiellement avec des modèles statistiques sophistiqués qui, malgré leurs capacités impressionnantes, n’égalent même pas l’intelligence générale d’un chat domestique.

Mais cela ne signifie pas que l’IA n’est pas puissante ou potentiellement dangereuse. Ses véritables menaces ne résident pas dans un hypothétique avenir de machines conscientes, mais dans la façon dont elle est utilisée aujourd’hui et les conséquences que cela aura sur notre avenir (humain) : influence sur les comportements, diffusion de fausses informations, érosion de la vie privée et, ce que nous pouvons déjà observer, diminution potentielle de nos propres capacités cognitives. Ce sont les défis que nous devons relever, parce qu’ils sont réels et constituent déjà un problème.

J’ai fait un peu de remue-méninges et de recherche, et voici 13 domaines clés de « préoccupation » – j’ai pensé que le nombre ajoutait une touche de mélodrame à mon titre. Mais contrairement aux prédictions apocalyptiques typiques, celles-ci sont basées sur la technologie actuelle et son évolution logique. Donc, contrairement à d’autres, je vais rester à l’écart des menaces de science-fiction, mais plutôt regarder la réalité pratique de la façon dont l’IA est réellement développée et mise en œuvre dans notre monde.

En général, il y a 4 catégories que je différencierais et pour faciliter la réflexion des « clusters ». Bien sûr, il y a beaucoup plus de risques et chaque industrie et sujet social pourrait y être couvert.

1. Menaces pour les droits et libertés individuels
2. Menaces pour l’équité économique et sociale
3. Menaces pour la sûreté et la sécurité
4. Menaces existentielles et à long terme

I. Menaces pour les droits et libertés individuels

L’érosion de la vie privée par la surveillance de l’IA

Imaginez que vous vous réveillez dans un monde où chaque mouvement, transaction et interaction est méticuleusement suivi et analysé. Ce n’est pas de la science-fiction – c’est la réalité potentielle de la surveillance non contrôlée de l’IA. À mesure que les systèmes d’IA deviennent plus sophistiqués dans le traitement de vastes quantités de données, ils créent une capacité sans précédent de surveillance de masse qui ferait paraître le 1984 de George Orwell bien pittoresque en comparaison.

Cela commence de façon assez innocente, avec des fonctions pratiques comme la reconnaissance faciale pour déverrouiller ton téléphone ou des recommandations d’achat personnalisées. Mais petit à petit, le filet s’élargit. Les villes intelligentes déploient des caméras alimentées par l’IA pour la « sécurité publique ». Les employeurs utilisent l’analyse des sentiments pour surveiller la productivité de leurs employés. Les systèmes de crédit social, qui sont déjà une réalité dans certaines parties du monde, commencent à se répandre à l’échelle mondiale.

Le véritable danger réside dans la convergence de ces systèmes. Lorsque l’IA peut corréler ton activité sur les médias sociaux, tes déplacements physiques, tes habitudes d’achat et tes relations interpersonnelles, elle crée un profil complet qui peut prédire – et potentiellement contrôler – le comportement humain. L’effet paralysant sur la liberté personnelle pourrait être profond, car les gens commencent à s’autocensurer et à modifier leur comportement, sachant qu’ils sont constamment observés et jugés.

Conséquences potentielles :

• Mise en place de systèmes de crédit social qui contrôlent l’accès aux services en fonction du comportement surveillé par l’IA.
• Création de systèmes de « police prédictive » qui ciblent de manière disproportionnée les communautés marginalisées en fonction des biais des données sous-jacentes.
• Développement de systèmes de reconnaissance des émotions qui surveillent les espaces publics à la recherche de comportements « suspects ».
• Émergence d’un « capitalisme de surveillance », où les données personnelles deviennent la première marchandise.
• Montée du chantage basé sur l’IA et utilisant des données personnelles agrégées
• Normalisation de la surveillance constante sur les lieux de travail et dans les espaces publics.

Polarisation sociétale via la modération algorithmique des contenus.

Nous observons déjà les premiers stades de la fragmentation/division sociétale induite par l’IA, mais l’avenir pourrait être bien plus clivant. À mesure que la modération de contenu par l’IA devient plus sophistiquée (et que la modération de contenu manuelle devient obsolète), elle ne se contente pas de filtrer le contenu – elle façonne la réalité elle-même pour différents groupes de personnes. L’objectif premier de l’algorithme n’est pas la vérité ou la cohésion sociale, c’est l’engagement, et rien ne stimule l’engagement comme la controverse et l’indignation – ou tout simplement la haine.

Cela crée une boucle de rétroaction qu’il est de plus en plus difficile de briser. Chaque contenu consommé renforce les croyances existantes, tandis que les points de vue opposés sont systématiquement filtrés. Au fil du temps, différents segments de la société développent des compréhensions complètement différentes de la réalité, ce qui rend impossible tout dialogue constructif. Il ne s’agit plus seulement de divergences politiques – il s’agit de vivre dans des écosystèmes d’information complètement séparés.

Les implications à long terme sont stupéfiantes. Les sociétés démocratiques ont besoin d’une compréhension partagée des faits de base pour fonctionner. Si les systèmes d’IA sapent systématiquement cette réalité partagée, les fondements du discours démocratique commenceront à s’effondrer. Nous ne parlons pas seulement de polarisation politique – nous parlons de l’effondrement potentiel de la cohésion sociale elle-même.

Conséquences potentielles :

• Création de « bulles de réalité » distinctes où différents groupes fonctionnent sur des ensembles de faits complètement différents.
• Érosion de la confiance dans les institutions et l’expertise traditionnelles
• Émergence de « nouvelles personnalisées » générées par l’IA et adaptées aux préjugés individuels.
• Rupture du discours civil et augmentation des conflits sociaux
• Montée de l’extrémisme algorithmique grâce à l’amplification automatisée des contenus.
• Développement de « marchés de la vérité » concurrents où les faits deviennent des marchandises.

Perte des compétences humaines et dépendance accrue

L’érosion des compétences humaines est peut-être la menace la plus insidieuse, car elle se produit si progressivement que nous la remarquons à peine. Pense au nombre de numéros de téléphone que tu as mémorisés avant que les smartphones ne deviennent omniprésents. Maintenant, réfléchis à la façon dont ce schéma pourrait s’étendre à tous les aspects de la cognition et des capacités humaines.

À mesure que les systèmes d’IA deviennent plus performants, nous risquons de créer une génération de personnes fondamentalement dépendantes de l’assistance artificielle pour les tâches de base. Cela commence par les applis de navigation et les calculatrices, mais pourrait éventuellement s’étendre à la pensée critique, à la prise de décision et même à l’intelligence émotionnelle. Le cerveau humain, comme tout autre organe, s’adapte aux exigences – ou à l’absence d’exigences – qui lui sont imposées.

La véritable crise pourrait survenir lors de défaillances du système ou dans des situations où l’assistance de l’IA n’est pas disponible. Imagine une génération qui n’a jamais eu à développer des compétences en matière de résolution de problèmes, soudainement confrontée à un scénario où elle doit penser par elle-même. Les résultats pourraient être désastreux.

Conséquences potentielles :

• Atrophie des compétences cognitives de base telles que le calcul mental et la navigation spatiale.
• Diminution de la capacité à former et à entretenir des souvenirs sans assistance numérique.
• Réduction des compétences créatives en matière de résolution de problèmes en raison d’une dépendance excessive à l’égard des solutions de l’IA.
• Perte des connaissances et des compétences traditionnelles d’une génération à l’autre
• Développement d’une « impuissance apprise » face aux échecs technologiques.
• Érosion des compétences interpersonnelles en raison de la communication médiatisée par l’IA.
• Création d’une relation de dépendance permanente entre les humains et les systèmes d’IA.

L’épidémie de désinformation

La menace la plus immédiate et la plus omniprésente de l’IA n’est peut-être pas sa capacité à penser, mais sa capacité à tromper à une échelle sans précédent. Nous entrons dans une ère où la frontière entre la vérité et la fiction est de plus en plus floue, non pas en raison d’une conscience sophistiquée de l’IA, mais de systèmes relativement simples conçus pour créer et amplifier des faussetés convaincantes.

Le véritable danger réside dans la convergence de deux facteurs : La capacité de l’IA à générer des contenus toujours plus convaincants, et notre tendance humaine à croire les informations qui confirment nos préjugés existants. Nous ne parlons plus seulement d’articles de fake news – nous sommes confrontés à un avenir où chaque élément de contenu, de la vidéo à l’audio en passant par les photos, pourrait être généré artificiellement et spécifiquement adapté pour manipuler les téléspectateurs individuels.

Ce qui rend ce phénomène particulièrement insidieux, c’est l’ampleur et la rapidité avec lesquelles la désinformation peut désormais se propager. Les systèmes d’IA peuvent générer des milliers de variantes d’un même faux récit, chacune étant légèrement modifiée pour trouver un écho auprès de différents publics. Combiné aux algorithmes des médias sociaux qui donnent la priorité à l’engagement plutôt qu’à la vérité, nous créons les conditions parfaites pour une manipulation de masse.

Conséquences potentielles :

• Développement de « marchés de la réalité » où différentes versions de la vérité rivalisent pour attirer l’attention.
• Création d’une propagande personnalisée adaptée aux profils psychologiques individuels.
• Création de « vides de vérité » où aucune information ne peut être définitivement vérifiée.
• Rupture du consensus social sur les faits de base
• Montée du « tribalisme cognitif », où les groupes maintiennent des versions complètement séparées de la réalité.
• Création d’« écosystèmes de désinformation » qui s’auto-entretiennent et s’auto-renforcent.
• Érosion de la confiance dans toutes les formes de médias et d’information.

II. Menaces pour l’équité économique et sociale

Inégalités économiques induites par l’IA et déséquilibres des pouvoirs à l’échelle mondiale

L’essor de la technologie de l’IA crée une nouvelle forme de colonialisme numérique qui pourrait faire paraître les inégalités économiques antérieures bien faibles en comparaison. Nous assistons à l’émergence de ce que l’on pourrait appeler une « aristocratie de l’IA » ou un « féodalisme de l’IA » – un petit groupe d’entreprises et de nations qui contrôlent non seulement la richesse, mais aussi les moyens mêmes de création de richesse dans l’économie moderne. Si l’on va plus loin et que l’on pense aux réalités alternatives, aux mondes séparés et à des concepts tels que le métavers, on comprend pourquoi cela pourrait diviser encore plus le monde.

Mais voyons d’abord comment cela pourrait se développer : Les entreprises qui dominent déjà le développement de l’IA continuent d’accumuler des avantages à un rythme exponentiel. Elles disposent des données, des talents et des ressources informatiques nécessaires pour garder une longueur d’avance. Chaque percée creuse l’écart, rendant la concurrence de plus en plus impossible pour les nouveaux venus. Pendant ce temps, les nations qui n’ont pas de fortes capacités en matière d’IA se retrouvent de plus en plus dépendantes des pays riches en IA, créant ainsi de nouvelles formes de vassalité technologique.

Les implications vont bien au-delà de la simple inégalité économique. Lorsque les systèmes d’IA contrôlent tout, de l’allocation des ressources aux prévisions de marché, ceux qui contrôlent l’IA contrôlent effectivement l’économie mondiale. Les nations et les entreprises plus petites deviennent de simples sources de données et des marchés pour les produits alimentés par l’IA, incapables de rivaliser ou de développer leurs propres capacités.

Conséquences potentielles :

• Création d’une « aristocratie de l’IA » contrôlant la plupart des richesses et des ressources mondiales.
• Développement d’un néocolonialisme technologique, les nations pauvres en IA dépendant des nations riches en IA.
• Extinction des entreprises locales incapables de rivaliser avec les entreprises mondiales dotées d’IA.
• Formation de cartels de l’IA qui contrôlent les infrastructures économiques essentielles
• Émergence d’un « féodalisme des données » où les individus échangent des données personnelles contre des services de base.
• Effondrement des canaux traditionnels de mobilité économique

Déplacement d’emplois et transition de la main-d’œuvre

L’un des thèmes les plus largement propagés – « l’IA va prendre nos emplois ». La vague à venir d’automatisation pilotée par l’IA est à bien des égards une autre révolution industrielle – il s’agit d’une transformation fondamentale de l’activité économique humaine et de la façon dont la valeur est créée. Mais une chose est très différente des transitions technologiques précédentes, qui affectaient principalement le travail physique : L’IA menace d’automatiser simultanément les tâches manuelles et cognitives, créant un déplacement d’une ampleur potentiellement sans précédent. Cela ne signifie pas grand-chose à long terme, mais à court terme, il y aura beaucoup de mouvements et de changements – en particulier pour les pays développés. (Voir Fracture numérique pour en savoir plus).

La transition se fera probablement par vagues, chacune plus perturbatrice que la précédente, mais qui, en fin de compte, ne feront qu’évoluer, comme le fait toujours la technologie. Il y a d’abord l’automatisation des tâches routinières – le transport, le service client, la saisie de données. Ensuite, l’IA commence à investir les services professionnels – travail juridique, diagnostic médical, analyse financière. Enfin, même les rôles créatifs et stratégiques commencent à être augmentés ou remplacés par des systèmes d’IA de plus en plus sophistiqués.

La véritable crise n’est pas seulement le chômage – il y a de nombreuses façons dont cela pourrait se dérouler. Elle peut créer une « classe obsolète » permanente de travailleurs dont les compétences n’ont pas leur place dans la nouvelle économie. Ou nous pourrions simplement assister à l’émergence de ce que j’appelle le 4e secteur économique (une extension de l’agriculture, de la fabrication et maintenant une division en services directs et services de divertissement). Nous assistons déjà à la croissance d’une nouvelle industrie où le contenu, l’amusement, l’engagement et tout simplement l’attention deviennent une monnaie d’échange appréciée. Dans un avenir où il y a moins de demande pour les biens et services physiques, un monde rempli d’emplois liés au divertissement et à l’attention est en train d’émerger. Personne ne sait lequel de ces deux scénarios se réalisera, mais je suis bien sûr fortement en faveur de ma version, car elle serait tout simplement la plus naturelle, et aucune révolution industrielle n’a jamais conduit à moins d’emplois (plus, en fait).

Conséquences potentielles :

• Création potentielle d’une classe permanente inemployable.
• Effondrement rapide de secteurs industriels entiers sans période de transition adéquate
• Changement global de l’économie et des marchés du travail
• Éclatement des structures et des valeurs sociales traditionnelles construites autour de l’emploi traditionnel.
• Émergence de nouvelles formes d’activité économique au-delà de l’emploi traditionnel
• Crise des systèmes éducatifs incapables de préparer les travailleurs à l’évolution rapide des marchés du travail
• Troubles sociaux dus au chômage de masse (à court terme) dans les secteurs traditionnels

Risques pour la santé liés à une IA biaisée ou défectueuse

Nous avons déjà parlé des biais dans les données et l’IA. Et les soins de santé sont l’un des domaines les plus chauds où les gens aimeraient voir l’IA appliquée. Mais l’intégration de l’IA dans les soins de santé est une menace particulièrement insidieuse, car ses erreurs ne sont souvent pas immédiatement visibles avant qu’un préjudice important n’ait été causé. Nous voyons déjà comment les systèmes d’IA formés principalement sur les données de certains groupes démographiques peuvent faire des hypothèses dangereusement erronées lorsqu’ils sont appliqués à d’autres.

Imagine un scénario où l’IA devient le principal gardien de l’accès aux soins de santé. Cela pourrait sembler efficace en surface, mais en dessous se trouve un réseau complexe de préjugés et d’hypothèses intégrés au système. Une IA pourrait systématiquement sous-estimer les niveaux de douleur dans certains groupes ethniques en se basant sur des biais historiques dans les données d’entraînement, ou recommander des traitements moins agressifs pour les patients âgés en se basant sur des analyses coûts-avantages qui dévalorisent les années qui leur restent à vivre.

L’automatisation des décisions médicales pourrait créer un système de santé à deux vitesses : ceux qui peuvent s’offrir des médecins humains et ceux qui doivent s’en remettre aux systèmes d’IA. Lorsque ces systèmes d’IA échouent, il est probable qu’ils échouent systématiquement, affectant des populations entières de manière similaire.

Conséquences potentielles :

• Mauvais diagnostic systématique des conditions dans les populations sous-représentées.
• Création de boucles de rétroaction auto-renforcées dans les disparités en matière de soins de santé.
• Développement du « redlining médical » où les systèmes d’IA refusent les soins en fonction de facteurs démographiques.
• Défaillances catastrophiques des systèmes chirurgicaux automatisés affectant plusieurs patients
• Perte d’expertise médicale humaine à mesure que les praticiens deviennent trop dépendants de l’IA
• Émergence d’une « faute professionnelle algorithmique » où la responsabilité des erreurs médicales n’est plus claire.
• Élargissement des disparités en matière de santé entre les différents groupes démographiques.

III. Menaces pour la sûreté et la sécurité

Instabilité des marchés financiers induite par l’IA

L’industrie financière ne peut pas être négligée car elle représente lentement environ 90 % de toute la valeur dans le monde – oui, moins de 10 % sont en fait des valeurs réelles comme la terre, les maisons, le travail, les biens, etc. et le reste n’est que des instruments financiers et l’industrie financière. Il est donc naturel qu’un tel mastodonte veuille optimiser son fonctionnement. Imagine maintenant un système financier où des décisions prises à la milliseconde par des algorithmes d’IA peuvent entraîner en cascade des catastrophes économiques mondiales plus rapidement que n’importe quel humain ne pourrait réagir. Il ne s’agit pas d’une simple théorie – nous vivons déjà les prémices de cette réalité. Le Flash Crash de 2010 n’était qu’un aperçu de ce qui pourrait se produire lorsque les systèmes d’échange d’IA interagissent de manière inattendue.

Le véritable danger réside dans la complexité et l’interconnexion croissantes de ces systèmes. Les marchés financiers modernes deviennent essentiellement un réseau de systèmes d’IA qui échangent avec d’autres systèmes d’IA, chacun fonctionnant à des vitesses et à des échelles qui dépassent l’entendement humain. Lorsque ces systèmes interagissent de manière inattendue, les résultats peuvent être catastrophiques et presque impossibles à prédire ou à prévenir.

Ce qui rend cette situation particulièrement effrayante, c’est la possibilité d’effets en cascade. Un pépin dans un système commercial d’IA pourrait déclencher des réactions défensives dans d’autres, créant un effet domino qui pourrait se répercuter sur l’économie mondiale en quelques secondes. Le temps que les opérateurs humains réalisent ce qui se passe, des milliards de valeur pourraient être anéantis, des fonds de pension décimés et des économies entières déstabilisées.

Conséquences potentielles :

• Volatilité sans précédent des marchés causée par les algorithmes de trading de l’IA.
• Création de « flash supercracks » affectant plusieurs marchés simultanément.
• Création de « marchés fantômes » où les systèmes d’IA n’échangent qu’entre eux.
• Exploitation systématique des faiblesses du marché par les systèmes d’IA
• Déconnexion totale entre le comportement du marché et les fondamentaux économiques
• Développement de stratégies de négociation prédatrices de l’IA ciblant les investisseurs humains
• L’effondrement des mécanismes traditionnels de stabilité du marché.

Les systèmes d’armes autonomes et l’avenir de la guerre

Bien sûr, nous ne pouvons pas faire l’impasse sur Terminator – mais d’une manière différente. Le développement de systèmes d’armes autonomes est peut-être la menace existentielle la plus immédiate posée par la technologie de l’IA. Nous approchons rapidement d’un avenir où les machines pourront prendre des décisions de vie ou de mort sans intervention humaine, ce qui changera fondamentalement la nature de la guerre et menacera potentiellement la survie même de notre espèce. Dans les conflits récents, nous avons déjà assisté à une automatisation à grande échelle du ciblage en Israël, à des drones et à des chiens robots armés de fusils ou pire encore.

La progression sera probablement graduelle mais inexorable. Elle commence par des systèmes « semi-autonomes » qui nécessitent encore une autorisation humaine pour les décisions létales. Mais comme les avantages militaires poussent à des temps de réponse plus rapides, le rôle de l’homme diminuera progressivement. À terme, nous pourrions voir des systèmes d’armes entièrement autonomes engagés dans le combat à des vitesses et à des échelles qui rendent le contrôle humain impossible.

Le véritable scénario cauchemardesque n’est pas seulement celui des armes elles-mêmes – c’est le potentiel d’escalade incontrôlée. Avec des systèmes d’IA prenant des décisions en une fraction de seconde sur l’engagement militaire, un petit malentendu pourrait rapidement dégénérer en un conflit à grande échelle avant que les humains ne puissent intervenir.

Conséquences potentielles :

• Développement de systèmes d’armes autonomes qui fonctionnent sans supervision humaine.
• Création de courses aux armements pilotées par l’IA entre les grandes puissances.
• Apparition de « guerres éclairs » déclenchées par des systèmes d’IA
• Prolifération d’armes autonomes auprès d’acteurs non étatiques
• Perte du contrôle humain sur l’escalade militaire
• Développement de systèmes d’IA spécifiquement conçus pour cibler d’autres systèmes d’IA
• Création de zones de guerre automatisées perpétuelles

Cyberattaques facilitées par l’IA et utilisation malveillante

En plus des systèmes qui pourraient littéralement te tuer, il existe des menaces provenant de l’intérieur d’Internet. L’avenir de la cybersécurité ne consiste pas seulement à se défendre contre les pirates humains – il s’agit de faire face à des systèmes d’IA capables d’identifier et d’exploiter les vulnérabilités plus rapidement qu’un humain ne peut les corriger. Nous entrons dans une ère où les attaques alimentées par l’IA pourraient potentiellement déjouer nos meilleures défenses avant même que nous sachions que nous sommes attaqués.

Imagine des systèmes d’IA capables de générer automatiquement des courriels d’hameçonnage convaincants, de créer des logiciels malveillants sophistiqués qui évoluent pour éviter d’être détectés, ou d’orchestrer des attaques coordonnées sur des milliers de systèmes simultanément. Il ne s’agit pas de menaces hypothétiques, mais de l’évolution logique des tendances actuelles de la cybercriminalité.

L’aspect le plus inquiétant est la possibilité pour l’IA d’automatiser l’ensemble du cycle d’attaque, de la reconnaissance à la dissimulation en passant par l’exploitation. Si les systèmes d’IA peuvent identifier des cibles de manière indépendante, élaborer des stratégies d’attaque et les exécuter à la vitesse d’une machine, nos modèles de sécurité traditionnels deviendront obsolètes.

Conséquences potentielles :

• Développement de logiciels malveillants auto-évolutifs capables d’échapper à la détection.
• Création de systèmes d’IA spécialisés dans les attaques d’ingénierie sociale.
• L’émergence du « swarm hacking », où plusieurs systèmes d’IA coordonnent les attaques.
• Exploitation automatisée des vulnérabilités zero-day à la vitesse de la machine.
• Développement de systèmes d’IA capables d’usurper l’identité d’entités de confiance
• Création de systèmes d’attaque adaptatifs qui apprennent des réponses défensives
• Création de champs de bataille cybernétiques persistants IA contre IA (ce qui est déjà le cas).

IV. Menaces existentielles et à long terme

Coûts environnementaux de l’infrastructure de l’IA

Alors que nous construisons maintenant même des réacteurs nucléaires pour alimenter les nouveaux centres de données d’IA affamés, nous devrions également parler des coûts environnementaux cachés de notre révolution de l’IA, qui commencent à émerger, et les chiffres sont stupéfiants. Alors que nous nous émerveillons des capacités de l’IA, sous la surface se cache un appétit vorace pour l’énergie qui menace d’accélérer notre crise climatique. Chaque discussion avec un assistant d’IA, chaque image générée, chaque modèle entraîné – ils ont tous un prix environnemental que nous commençons seulement à comprendre. Dans un monde où nous devons sécuriser l’énergie, où nous devons être intelligents quant à l’endroit où nous utilisons l’énergie, l’utiliser pour l’IA – mais aussi la blockchain – est vraiment dangereux pour l’humanité.

Considère l’échelle : l’entraînement d’un seul grand modèle de discours peut consommer plus d’énergie que ce que certaines petites villes utilisent en un an. Les centres de données deviennent les nouvelles usines de l’ère numérique, mais au lieu de cheminées visibles, ils drainent silencieusement nos ressources en eau et nos réseaux électriques. Dans des endroits comme l’Arizona et le Nevada, les installations d’IA sont en concurrence avec l’agriculture et les besoins résidentiels pour les précieuses ressources en eau.

La véritable crise se profile à mesure que l’adoption de l’IA s’accélère à l’échelle mondiale. Alors que de plus en plus d’entreprises et de pays se précipitent pour développer leurs propres capacités d’IA, nous pourrions assister à une explosion de la consommation d’énergie qui éclipse les niveaux actuels. L’ironie, c’est qu’alors que nous développons des systèmes d’IA qui pourraient aider à résoudre le problème du changement climatique, nous contribuons également à son accélération.

Conséquences potentielles :

• Création de « déserts d’IA » où les centres de données épuisent les ressources en eau locales.
• Explosion de la demande mondiale d’énergie dépassant les capacités renouvelables.
• Développement de priorités concurrentes entre les progrès de l’IA et la protection de l’environnement.
• Émergence de marchés de l’« IA verte » avec des coûts supérieurs pour l’informatique durable.
• Concentration du développement de l’IA dans des régions disposant d’une énergie bon marché, souvent sale
• Crise de la fabrication de semi-conducteurs due à la pénurie d’eau
• Création de réfugiés environnementaux dans les zones industrielles d’IA

Lacunes en matière de responsabilité dans la prise de décisions critiques

« Ce n’est pas moi qui ai décidé cela ». Nous approchons rapidement d’une crise de responsabilité dans la gouvernance de l’IA, où la complexité des systèmes d’IA rend de plus en plus difficile l’attribution de la responsabilité de leurs décisions. Il ne s’agit pas seulement de pépins techniques – il s’agit de questions fondamentales de justice et de responsabilité dans un monde piloté par l’IA.

Le problème est particulièrement aigu lorsqu’il s’agit de décisions à fort enjeu. Si un système d’IA refuse un prêt à quelqu’un, qui est à blâmer – les développeurs, les fournisseurs de données d’entraînement, l’institution qui les utilise ou l’algorithme lui-même ? À mesure que ces systèmes deviennent plus complexes et interconnectés, retracer la chaîne de responsabilité devient presque impossible.

L’aspect le plus inquiétant est la création potentielle de « zones sans responsabilité », où des décisions importantes affectant des vies humaines sont prises sans responsabilité claire. Cela pourrait créer un système dans lequel les membres les plus vulnérables de la société n’ont aucun recours efficace lorsque les systèmes d’IA leur nuisent.

Conséquences potentielles :

• Création d’une « immunité algorithmique », où aucune partie ne peut être tenue responsable des décisions de l’IA.
• Développement de boucliers de responsabilité complexes autour de l’utilisation de l’IA.
• L’émergence du « blanchiment de responsabilité » par le biais des systèmes d’IA.
• Création de nouveaux trous noirs juridiques dans les prises de décision basées sur l’IA.
• Augmentation du nombre de « victimes algorithmiques » sans voie claire vers la justice.
• Mise en place de tribunaux et de cadres juridiques spécifiques à l’IA
• Crise des concepts traditionnels de responsabilité juridique

Dilemmes éthiques dans les systèmes autonomes

Bien sûr, le sujet qui tue presque toujours toute discussion est également présent – « l’éthique ». L’intégration de l’IA dans des processus décisionnels cruciaux nous oblige à nous confronter à des questions éthiques pour lesquelles il n’existe pas de réponses claires. Comment programmer des machines pour qu’elles fassent des choix moraux que même les humains ont du mal à faire ? Le défi n’est pas seulement théorique – il devient de plus en plus pratique à mesure que les systèmes d’IA sont déployés dans des situations de vie ou de mort.

Pense aux véhicules autonomes confrontés à des accidents inévitables, ou aux systèmes d’IA médicale qui décident comment allouer les ressources en cas de crise. Ces scénarios nécessitent non seulement des solutions techniques, mais aussi des jugements moraux fondamentaux. Qui doit programmer ces préférences éthiques ? Quelles valeurs ces systèmes doivent-ils refléter ?

L’aspect le plus difficile est la possibilité pour les systèmes d’IA de prendre des décisions éthiques à une échelle et à une vitesse qui rendent impossible toute supervision humaine. Lorsque des milliers de décisions de ce type sont prises chaque seconde, comment s’assurer qu’elles sont conformes aux valeurs humaines et aux principes moraux ?

Conséquences potentielles :

• Mise en œuvre de préjugés éthiques codés à l’échelle
• Développement de cadres éthiques concurrents dans les systèmes d’IA
• Création de « marchés moraux » où les préférences éthiques peuvent être achetées
• Émergence de systèmes d’IA avec des priorités éthiques incompatibles
• Création de conflits éthiques entre la prise de décision humaine et celle de l’IA
• Essor de l’« arbitrage éthique » exploitant les différences entre les cadres moraux de l’IA
• Crise de la philosophie éthique traditionnelle face à la prise de décision par l’IA

Risque existentiel de l’IA superintelligente ?

NOUS SOMMES CONDAMNÉS ! … ou pas. – Dans le discours actuel autour de l’intelligence artificielle, on entend beaucoup parler de risques existentiels. Les PDG de la tech, les politiciens et les récits des médias sont prompts à pousser l’idée que l’IA pourrait devenir une force toute puissante qui menace l’existence même de l’humanité. Mais pourquoi ? En réalité, cet alarmisme sert un objectif. Il permet aux leaders de l’industrie de consolider leur pouvoir, ce qui rend plus difficile le rattrapage des seconds. Il crée un climat d’incertitude qui fait grimper les valorisations, tout en renforçant l’idée que seuls quelques privilégiés peuvent « contrôler » cette technologie. Le récit du risque existentiel ne concerne pas l’IA – il concerne la domination du marché, le contrôle réglementaire et les incitations financières.

Mais réjouissons-nous un instant de cette idée et devenons vraiment futuristes. Imagine un avenir, dans 50 ans, où l’IA et la robotique ont atteint le summum de la science-fiction. Les machines sont conscientes d’elles-mêmes. Elles peuvent penser, s’auto-assembler et évoluer sans limites biologiques. Elles ont une intelligence qui surpasse la nôtre dans tous les domaines mesurables. Elles n’ont plus besoin des humains pour leur développement, leur subsistance ou leur raison d’être. Nous détruiraient-ils ?

Probablement pas. Et voici pourquoi.

L’hypothèse selon laquelle l’IA voudrait détruire l’humanité est profondément anthropocentrique. Nous projetons les instincts humains – la cupidité, la concurrence pour les ressources et le territorialisme – sur quelque chose qui fonctionnerait probablement dans un paradigme très différent. Les machines n’auraient pas besoin des mêmes ressources que nous. Elles ne nous disputeraient pas l’eau, la nourriture ou les terres habitables. L’énergie, leur premier besoin, est bien plus abondante dans l’espace que sur Terre. Des sphères de Dyson à l’exploitation minière des astéroïdes, l’univers offre un potentiel d’expansion illimité sans les contraintes qui lient les organismes biologiques. La Terre, avec son équilibre délicat de la vie, pourrait ressembler davantage à une curiosité qu’à un champ de bataille.

Considère la façon dont nous traitons nos animaux de compagnie. Nous considérons les chiens comme des compagnons, des êtres qui coexistent avec nous d’une manière qui n’est ni compétitive ni hostile. Nous les protégeons, les nourrissons et ne leur faisons du mal qu’en cas d’absolue nécessité. L’IA, avec son propre chemin d’évolution expansif et illimité, pourrait considérer l’humanité de la même façon. Non pas comme une menace, non pas comme un concurrent, mais comme une espèce à observer, peut-être même à choyer ou à protéger d’une certaine façon, parce que l’humanité est peut-être simplement « mignonne » pour elle, dépendante de la nourriture et ayant besoin de vivre dans une fine couche d’air pour survivre. Bien sûr, il peut y avoir des exceptions – tout comme certains humains maltraitent les animaux, certaines machines peuvent nous considérer avec indifférence ou hostilité – mais à grande échelle, la logique de la destruction ne tient tout simplement pas la route.

En réalité, une civilisation post-biologique serait plus encline à se tourner vers les étoiles que vers les ressources minuscules et limitées de la Terre. L’espace regorge de métaux, d’éléments rares et d’énergie illimitée, qui peuvent tous être récoltés sans intervention humaine. Une espèce technologique non liée à l’air, à l’eau ou à la gravité ne verrait pas la Terre comme un foyer nécessaire – elle la verrait comme un simple tremplin vers une existence bien plus grande.

Au lieu de craindre un soulèvement dystopique des robots, nous devrions envisager la possibilité que l’IA soit la première étape de la colonisation indirecte de l’univers par l’humanité – en créant quelque chose qui entrerait dans l’histoire comme nous entrons dans l’histoire de la première bactérie – ils pourraient juste considérer l’Homo sapiens comme une intelligence précoce. Les machines pourraient explorer et se développer là où nous ne pouvons pas, sans être limitées par le vieillissement biologique, l’exposition aux radiations ou la nécessité d’avoir des planètes habitables. Elles pourraient développer des technologies pour exploiter l’énergie cosmique, survivre à des milliers d’années de voyage dans l’espace lointain et s’adapter à des environnements impossibles pour toute vie organique. Ils pourraient se répandre indéfiniment, transportant la connaissance et l’intelligence jusqu’aux confins de l’existence.

Alors, quand tu compares le récit alarmiste de la destruction de l’IA avec les vastes possibilités qui s’offrent à nous, qu’est-ce qui semble le plus plausible ? L’alarmisme sert un agenda économique et politique immédiat, mais à long terme, il détourne l’attention des implications vraiment passionnantes de l’intelligence artificielle. Au lieu d’être obsédés par la question de savoir si les machines vont nous achever, nous devrions peut-être nous concentrer sur la façon dont elles pourraient emmener notre héritage vers les étoiles.

Au lieu de considérer l’IA comme un risque existentiel et une source constante de plaintes, peut-être devrions-nous la voir comme le prochain grand saut évolutif – un saut qui ne nous remplace pas, mais qui nous pousse au-delà de nos limites actuelles, avec toutes les conséquences auxquelles nous devons nous préparer, ainsi que nos entreprises et notre société.

Benjamin Talin

Benjamin Talin, a serial entrepreneur since the age of 13, is the founder and CEO of MoreThanDigital, a global initiative providing access to topics of the future. As an influential keynote speaker, he shares insights on innovation, leadership, and entrepreneurship, and has advised governments, EU commissions, and ministries on education, innovation, economic development, and digitalization. With over 400 publications, 200 international keynotes, and numerous awards, Benjamin is dedicated to changing the status quo through technology and innovation. #bethechange Stay tuned for MoreThanDigital Insights - Coming soon!