« L'IA ne détruira pas l'humanité, mais elle pourrait nous transformer à jamais », affirme le Dr Uzi Haddad, du Jerusalem College of Technology. Il appelle à la prudence face aux prédictions apocalyptiques concernant l'IA, avertissant que le véritable danger réside peut-être dans une dépendance excessive des humains envers les machines, alors même que de puissants intérêts économiques façonnent le débat sur l'avenir de cette technologie.
L'intelligence artificielle est souvent présentée comme une menace existentielle : les machines pourraient échapper au contrôle humain, des millions d'emplois pourraient disparaître et l'humanité elle-même pourrait finir par être mise en péril.
Toutefois, le Dr Uzi Haddad, responsable du programme d'intelligence artificielle au Jerusalem College of Technology, estime que le public devrait aborder ces prédictions avec circonspection et examiner de plus près la technologie elle-même ainsi que les puissants intérêts économiques qui l'entourent.
« Cette histoire soulève bon nombre de questions très étranges », déclare M. Haddad lors d'un entretien, faisant référence aux avertissements de plus en plus alarmistes émanant de chercheurs et de figures du secteur.
Il pointe notamment du doigt une publication largement relayée, rédigée par un chercheur ayant travaillé chez OpenAI et Anthropic, qui mettait en garde contre des dangers extrêmes liés à l'IA. Bien que ce message ait suscité une immense attention, M. Haddad estime que l'intensité de la réaction devrait elle-même inciter à s'interroger.
Il souligne également que le secteur technologique a souvent formulé des prédictions spectaculaires sur la disparition imminente de professions entières — des prédictions qui ne se sont pas toujours concrétisées.
Selon M. Haddad, le débat sur la sécurité de l'IA est indissociable d'un enjeu économique majeur : le contrôle d'un marché représentant des sommes considérables.
D'un côté, on trouve les grandes entreprises qui développent des modèles d'IA propriétaires et fermés. De l'autre, l'écosystème open source, en pleine expansion, permet aux entreprises d'exploiter et de développer leurs propres modèles à des coûts nettement inférieurs.
M. Haddad cite l'exemple d'une grande entreprise israélienne qui déboursait auparavant des sommes colossales pour accéder à des modèles d'IA commerciaux. En optant pour des solutions open source, l'entreprise a pu réduire ses coûts d'environ 90 % tout en adaptant la technologie plus précisément à ses besoins.
« Ces grandes entreprises se retrouvent soudain sous pression », observe-t-il.
Cette dynamique, soutient M. Haddad, doit également être prise en compte lorsque l'on examine les appels croissants en faveur d'une réglementation de l'IA. Une réglementation peut s'avérer nécessaire pour protéger le public, affirme-t-il, mais elle risque aussi d'avoir pour effet involontaire de renforcer la position des géants technologiques actuels et de compliquer l'entrée sur le marché pour les petites entreprises et les concurrents du secteur de l'open source.
Haddad ne balaie pas pour autant les inquiétudes liées à l'intelligence artificielle. L'un des enjeux les plus immédiats, selon lui, concerne la protection de la vie privée.
Les utilisateurs doivent comprendre quelles informations ils fournissent aux systèmes d'IA et comment ces données peuvent être exploitées. Toutefois, il souligne que la collecte d'informations personnelles ne date pas de l'arrivée de ChatGPT.
Les smartphones, les réseaux sociaux et les services en ligne collectent d'immenses quantités de données personnelles depuis des années.
Pour Haddad, la clé d'une utilisation sûre de l'IA réside dans la capacité à déterminer à quel moment un être humain est encore en mesure d'évaluer les résultats produits par la machine.
« Si vous sollicitez l'IA en la considérant comme une sorte d'oracle censé vous livrer la réponse, et que vous validez immédiatement cette dernière, vous risquez de vous attirer des ennuis », explique-t-il.
En revanche, lorsque les utilisateurs maîtrisent le domaine concerné et sont capables de vérifier une réponse générée par l'IA ainsi que d'en déceler les erreurs, cette technologie devient un outil puissant : elle aide à développer des idées, à rédiger et réviser des contenus, à vérifier du code et à gagner un temps considérable.
L'IA finira-t-elle par se retourner contre ses créateurs ? Qu'en est-il du scénario catastrophe où les machines se retourneraient finalement contre l'humanité ?
Haddad estime qu'une grande partie des craintes du public est alimentée par la culture populaire et des décennies d'histoires de science-fiction.
Les scénarios de « fin du monde » attirent naturellement l'attention, explique-t-il, ce qui en fait un outil puissant non seulement pour le divertissement, mais aussi pour générer de la publicité.
D'un point de vue technologique, soutient-il, il est important de comprendre ce qu'est réellement un modèle de langage.
Fondamentalement, un modèle de langage cherche à prédire le mot suivant en se basant sur les quantités colossales d'informations sur lesquelles il a été entraîné. Ses capacités, de plus en plus sophistiquées, découlent de systèmes qui relient le modèle à des outils supplémentaires et lui permettent d'accomplir des tâches toujours plus complexes.
Le danger principal ne réside donc pas nécessairement dans le fait que l'IA devienne soudainement consciente et décide de détruire l'humanité.
Selon Haddad, la préoccupation majeure concerne plutôt l'usage que les humains pourraient faire de cette technologie toujours plus puissante.
« Comme pour toute technologie, il existe un risque qu'elle soit utilisée à des fins malveillantes », affirme-t-il.
Les emplois vont évoluer, mais ne disparaîtront pas forcément.
Haddad rejette également les prédictions simplistes annonçant un chômage de masse.
L'IA transforme déjà les métiers, explique-t-il, mais transformation ne signifie pas nécessairement suppression.
Dans le développement de logiciels, par exemple, les programmeurs utilisent de plus en plus l'IA pour générer du code. Par conséquent, leur rôle évolue vers la révision, la correction et le pilotage des systèmes.
Un processus similaire pourrait s'opérer dans le droit, la comptabilité et d'autres professions. L'IA pourrait prendre en charge une part croissante des tâches techniques, tandis que les humains conserveraient la responsabilité du jugement professionnel et de la prise de décision.
Toutefois, cette transformation comporte son propre risque ; un risque que nous devrions véritablement redouter.
Haddad estime que la société devrait davantage se préoccuper des conséquences d'une dépendance accrue à l'IA pour des tâches que les individus accomplissaient autrefois eux-mêmes.
Si les gens prennent l'habitude de laisser les machines lire, écrire, réfléchir et résoudre tous les problèmes à leur place, ils risquent de perdre progressivement les compétences mêmes qui font d'eux des professionnels compétents et des esprits indépendants.
Il cite l'informaticien Cal Newport, qui a averti que si les réseaux sociaux ont nui à la capacité de lecture et de concentration des individus, l'IA pourrait potentiellement altérer leur capacité à écrire.
Haddad rapporte que des développeurs expérimentés lui ont déjà décrit ce phénomène : leur travail est devenu plus rapide et plus facile, mais parfois aussi moins exigeant sur le plan intellectuel.
Au lieu de passer des heures à se confronter à un problème, à chercher une solution et à réfléchir en profondeur à la question, c'est de plus en plus la machine qui réalise une grande partie du processus.
Pour Haddad, c'est là que réside le véritable signal d'alarme : la nécessité de maintenir l'humain dans la boucle. Selon lui, le plus grand défi de l'ère de l'IA ne consiste pas à trouver comment échapper à la machine, mais à garantir que les humains restent capables d'accomplir ce que les machines ne peuvent remplacer : faire preuve d'esprit critique, remettre en question les réponses, créer et assumer des responsabilités.
Ce défi concerne également l'éducation. Les écoles et les universités, soutient Haddad, doivent apprendre aux étudiants à utiliser ces nouveaux outils tout en veillant à ce qu'ils ne sortent pas de leur cursus avec pour seul acquis la capacité de rédiger une requête (ou « prompt ») efficace.
Au Jerusalem College of Technology, explique-t-il, de nouveaux outils et infrastructures d'IA sont déjà intégrés au cursus universitaire. Parallèlement, l'établissement réduit la place accordée aux devoirs à la maison au profit d'un plus grand nombre d'examens et de présentations en présentiel.
L'objectif est de s'assurer que, derrière un contenu généré par un système d'IA, se trouve un étudiant qui en a réellement compris le fond.
Il s'agit, selon Haddad, de faire en sorte que les diplômés rejoignant le secteur technologique possèdent des connaissances approfondies et fondamentales, plutôt que d'être de simples individus ayant « un peu joué avec un outil ».
En somme, la vision de Haddad est bien plus optimiste que les prédictions apocalyptiques qui dominent certains débats sur l'IA.
L'intelligence artificielle ne supprimera peut-être pas les emplois, et il ne croit pas qu'elle soit sur le point de détruire l'humanité.
Elle place toutefois l'humanité face à un nouveau défi.
À mesure que les machines gagneront en capacités, les humains devront prouver qu'ils savent encore penser par eux-mêmes.
