Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’intelligence artificielle (IA) a mis en garde contre ses dangers en quittant son poste au sein du géant Google. En parallèle, IBM a annoncé geler des recrutements sur des postes potentiellement remplaçables, notamment en ressources humaines.
« Je suis partie pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google ». C’est pour avoir la parole libre que Geoffrey Hinton a déclaré avoir quitté le géant de la publicité en ligne, a-t-il précisé sur Twitter, après avoir officialisé sa démission dans le New York Times.
Les avancées dans ce secteur induisent « de profonds risques pour la société et l’humanité », estime-t-il dans le journal américain. Lui-même a créé une fondation dédiée aux systèmes d’IA, et avec deux autres spécialistes de l’intelligence artificielle, il s’est vu décerner le prix Turing, l’équivalent du Nobel pour les informaticiens, en 2019. « Regardez où nous en étions il y a cinq ans et la situation actuelle », poursuit-il en jugeant « effrayant » les perspectives d’avenir en faisant des projections sur les bases des progrès des dernières années. Selon lui, « il est difficile de voir comment éviter que les mauvais acteurs l’utilisent pour de mauvaises choses ».
Le déploiement à toute vitesse d’une intelligence artificielle de plus en plus « générale », dotée de capacités cognitives humaines et donc susceptibles de bouleverser de nombreux métiers, a été symbolisé par le lancement en mars par OpenAI de GPT-4, une nouvelle version plus puissante du modèle de langage naturel qui opère ChatGPT.
Quel contrôle pour les IA ?
Cette interface d’IA générative est utilisée par des millions de personnes depuis quelques mois pour rédiger des dissertations, des poèmes ou encore des lignes de code informatique. Ce lancement a aussi aiguillonné la compétition dans ce domaine. Mais ce qui l’inquiète avant tout, c’est la désinformation de masse. Le spécialiste NewsGuard a d’ores et déjà identifié 49 sites d’actualité presque entièrement écrits par IA.
Geoffrey Hinton a informé Google de sa démission le mois dernier, selon le journal, estimant par ailleurs qu’au contraire, « Google s’est comporté de façon très responsable », écrit-il. À la différence d’autres entreprises qui foncent tête baissée.
Ces avancées intéressent grandement les entreprises que ce soit pour leur marketing, ou pour leur organisation. IBM a ainsi annoncé geler les recrutements dans certains domaines comme les RH, pour des postes qui pourraient être remplacés par des IA. Au total, ce sont 7 800 emplois qui pourraient être remplacés selon Arvind Krishna, le président du groupe informatique. Une annonce qui n'a pas manqué de faire frissonner certains cadres administratifs d'entreprises.
En mars, le milliardaire Elon Musk - un des fondateurs d’OpenAI dont il a ensuite quitté le conseil d’administration - et des centaines d’experts mondiaux ont réclamé une pause de six mois dans la recherche sur les IA plus puissantes que GPT-4, en évoquant « des risques majeurs pour l’humanité ». Geoffrey Hinton n’a pas fait partie des signataires, mais il a affirmé au New York Times, que les scientifiques ne devraient pas faire encore monter en puissance ces IA « avant de savoir s’ils sont capables de les contrôler ».