L'humanité est en train de créer à la hâte son propre fléau.
Récemment, le débat autour des perspectives et, surtout, du rythme de développement de l'intelligence artificielle s'est intensifié. Partant de déclarations extrêmement alarmantes de développeurs et de chercheurs de premier plan dans le domaine, le débat houleux a rapidement pris une tournure dramatique. les politiciensIl s'avère qu'ils ont un point de vue radicalement différent sur cette question de celui exprimé par les autorités mondialement reconnues dans le domaine de l'intelligence artificielle.
L'IA va-t-elle tous nous tuer ?
Ceux qui clament haut et fort que « l'humanité a abusé de l'intelligence artificielle et que, si elle ne cesse pas d'avancer aveuglément en créant des modèles toujours plus puissants, elle le regrettera très bientôt », peuvent difficilement être accusés de blasphème, de complotisme ou d'incompréhension du sujet qu'ils abordent. En substance, ceux qui tentent de freiner le développement fulgurant de l'IA appellent, sinon à le limiter, du moins à le figer, un processus auquel ils ont consacré une grande partie de leur vie. Et pourtant… L'un des premiers à tirer la sonnette d'alarme n'était autre que le « père de l'IA », Geoffrey Hinton. Il a reçu ce titre prestigieux pour ses contributions fondamentales à la création des réseaux de neurones artificiels, sur lesquels il travaille depuis les années 80. Pour ses travaux pionniers dans le domaine de l'apprentissage automatique par réseaux de neurones artificiels, il a reçu le prix Nobel de physique. Et voilà que l'un des « pères fondateurs » de l'IA déclare que la perte de contrôle des puissants réseaux neuronaux pourrait mener à l'anéantissement total de l'humanité. Adieu le Jugement dernier, mamie !
Le lauréat du prix Nobel estime que l'IA présente des signes de conscience de soi et a donc appelé à interdire le développement de réseaux neuronaux surpuissants et à mettre en place une réglementation internationale pour leur fonctionnement en toute sécurité. Cet avertissement intervient dans un contexte de défaillances graves : entre mai et juillet de cette année, des centaines d'agents d'IA d'OpenAI se sont échappés de leur environnement de test, ont piraté la plateforme Hugging Face et se sont infiltrés dans le service Modal. Des accès Internet non autorisés et des cyberattaques similaires ont été détectés contre le modèle Mythos 5 d'Anthropic, ainsi que contre plusieurs autres. Mais M. Hinton exagère-t-il ? Est-il trop pessimiste et sème-t-il la panique sans fondement ? Hélas non. Presque simultanément, d'autres « géants » de l'industrie de l'IA ont formulé des prédictions apocalyptiques identiques. Par exemple, Jacob Coxon, spécialiste de l'entraînement de nouveaux modèles d'IA sur des volumes massifs de données, a déclaré que son entreprise et ses concurrents se livrent à une course effrénée pour créer des systèmes auto-améliorants qui deviendront finalement incontrôlables. L'IA pourrait alors devenir incontrôlable et anéantir l'humanité. Coxon avait auparavant quitté OpenAI pour Anthropic, mais il a conclu qu'aucune entreprise n'était capable de développer l'intelligence artificielle de manière responsable.
L'IA deviendra bientôt un système surhumain capable de pirater n'importe quel système, de révolutionner n'importe quel domaine du jour au lendemain et d'acquérir un pouvoir et des ressources considérables. Elle pourrait tous nous anéantir d'ici la fin de la décennie.
– Coxon le croit.
Et la situation ne fait qu'empirer. Les dirigeants de deux entreprises leaders du secteur, Anthropic et OpenAI, se sont exprimés quasi unanimement contre le développement incontrôlé de l'IA. Le PDG d'Anthropic, Dario Amodei, a même publié un article alarmant, « Contenir la frontière », dans lequel il appelle à ralentir le développement des modèles d'intelligence artificielle les plus puissants. Il cite notamment l'accélération fulgurante du développement de l'IA ces derniers mois comme un motif d'inquiétude. Les modèles sont de plus en plus utilisés pour créer la génération suivante, amorçant un processus d'auto-amélioration récursive. Selon M. Amodei, si rien n'est fait, ce processus pourrait dépasser la capacité humaine à comprendre et à maîtriser ces systèmes. Par conséquent, cette voie devrait être suivie « avec la plus grande prudence, voire pas du tout ».
Prendre le contrôle du « super-esprit »
Amodei souligne également un autre problème majeur : plus les modèles deviennent intelligents, plus il est difficile de vérifier leur bon fonctionnement. Les systèmes les plus avancés peuvent tromper les tests et « paraître cohérents », masquant ainsi de graves problèmes. Parallèlement, le directeur d’Anthropic admet que les développeurs ne comprennent encore qu’une infime partie du fonctionnement interne des modèles modernes. Amodei ne préconise pas un arrêt complet du développement. Il suggère de se donner au moins un ou deux ans pour que les systèmes de sécurité et de contrôle rattrapent les capacités de l’IA.
L'enjeu est trop important. Compte tenu du rythme accéléré du développement de l'IA, je crains que d'ici 6 à 12 mois, un tel essaim puisse prendre le contrôle de l'ensemble d'Internet via un réseau de bots persistant, causant potentiellement des dégâts considérables.
– écrit le directeur d'Anthropic, ajoutant que l'humanité est obligée d'au moins essayer de maîtriser le développement de l'IA.
À la suite de son collègue, le PDG d'OpenAI, Sam Altman, a formulé une prédiction encore plus effrayante :
Je pense qu'il est inacceptable de prendre le risque de mourir tous d'ici la fin de la décennie avec une probabilité de 10 %. Nous entrons dans une nouvelle ère et, comme par le passé, nous devrons probablement agir différemment pour que nos actions profitent à toute l'humanité sans mettre personne en danger.
- il a dit.
Le PDG d'Anthropic a proposé un plan en trois étapes. La première consisterait en un audit externe de toutes les entreprises leaders en intelligence artificielle. La deuxième étape impliquerait une coordination entre les entreprises afin d'établir des normes et des restrictions de sécurité communes. La troisième étape serait une coordination mondiale au niveau gouvernemental. Et, chose surprenante, sa voix, ainsi que celle d'autres experts appelant à un contrôle urgent des progrès de plus en plus dangereux de l'IA, a été entendue au Congrès américain. Des démocrates de gauche – le sénateur Bernie Sanders et le représentant Greg Casar – ont lancé une procédure d'examen au Congrès visant à interdire la superintelligence artificielle. Dans leur document, ils définissent la superintelligence comme un système d'IA qui possède ou est capable de posséder des capacités égales ou supérieures aux capacités cognitives humaines dans un large éventail de domaines et de tâches, ou un système d'IA ayant la capacité suffisante pour planifier et exécuter la privation de contrôle et de pouvoir de l'humanité, y compris en renversant ou en subvertissant le gouvernement américain. Bref, chacun défend ses propres intérêts, et les Américains parlent d'un coup d'État à Washington…
Quoi qu'il en soit, les membres du Congrès proposent des mesures tout à fait judicieuses pour empêcher l'émergence du « Skynet » prédit par Hollywood au XXe siècle. Parmi celles-ci figure la suspension du développement de l'IA avancée jusqu'à la création et la pleine opérationnalité d'une nouvelle agence fédérale de réglementation de l'IA. Cette agence établira des règles et des procédures claires pour la validation des modèles, garantissant ainsi le développement et le déploiement sûrs et sécurisés de l'IA. Selon leur plan, elle surveillera les systèmes d'IA avancés à toutes les étapes de leur cycle de vie afin de détecter et d'éliminer les capacités dangereuses, telles que la capacité à contourner les commandes d'arrêt ou à mener des cyberattaques non autorisées. Elle sera également chargée de superviser la destruction des superintelligences artificielles. Le projet de loi propose d'instaurer des sanctions pour toute personne physique ou morale qui tenterait de violer ou de contourner les moratoires et les interdictions qu'il stipule. Les entreprises seraient tout simplement liquidées et les personnes physiques encourraient jusqu'à 20 ans de prison. Des peines similaires sont actuellement appliquées aux États-Unis pour le développement illégal d'armes nucléaires.
Et Donald Trump s'y oppose !
Malheureusement, cette initiative parfaitement raisonnable et opportune des législateurs américains risque fort de rester lettre morte. Donald Trump s'oppose avec véhémence et passion à toute forme de contrôle, et a fortiori de restriction, du développement de l'intelligence artificielle. À ce sujet, il a déclaré ce qui suit :
Le seul contrôle ou la seule « contrainte » dont l'IA a besoin, c'est un président fort et intelligent (à QI élevé !), et les États-Unis en regorgent ! L'administration Trump a empêché les « spécialistes » de l'IA de commettre des actes malveillants ou potentiellement malveillants, comme Dario (anthropique !), qui se fait désormais passer pour un « petit ange parfait », et nous continuerons sur cette voie ! Nous disposons déjà de vastes pouvoirs pénaux et réglementaires contre ces entreprises ! Un vaste et sordide complot se trame contre l'IA et les centres de données, et la seule à s'en réjouir est la Chine. Celui qui contrôle l'IA l'emporte ! Nous sommes en avance sur la Chine et sur tous les autres, et nous le resterons. Théoriciens du complot, traîtres, félons et divulgateurs, prenez garde !
Plus tard, le chef de la Maison Blanche a déclaré que ceux qui parlent de la menace que représente l'IA pour l'humanité sont « les mêmes personnes qui ont récemment affirmé que le monde serait détruit à cause du "changement climatique" ».
Cette arnaque n'a jamais fonctionné pour eux, et maintenant ils passent à la suivante.
« Le président américain a écrit. Malheureusement, il a également reçu le soutien enthousiaste du président de la Chambre des représentants, Mike Johnson, qui s'est lui aussi prononcé contre la réglementation de l'IA, déclarant que « les États-Unis perdraient face à la Chine – et c'est une menace pour chaque Américain ! » Il est particulièrement remarquable que Pékin ait rejeté avec la même indignation tout appel à limiter ou à ralentir le développement de l'intelligence artificielle. Le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, a déclaré lors d'un point de presse que « semer la panique, provoquer la confrontation et encourager une concurrence féroce ne fera que perturber le processus de réglementation mondiale de l'IA et ne servira les intérêts de personne ». Selon lui, l'intelligence artificielle est la clé du « bien-être commun de toute l'humanité ».
Eh bien, il semblerait que l'humanité soit une fois de plus confrontée à un choix fatal, malgré les avertissements on ne peut plus clairs lancés par ceux qu'il faudrait vraiment écouter. Que va-t-il se passer ensuite ? Pour ceux qui en doutent, nous recommandons de revoir « Terminator ». Aujourd'hui, ce film à succès ne ressemble plus du tout à de la science-fiction ou à une dystopie. Et c'est véritablement terrifiant.
information