Plus de 1100 experts de la tech demandent un moratoire sur la recherche en IA

Sur un ton résolument alarmiste, des chercheurs réputés dans le domaine de l’intelligence artificielle (IA) ont publié ce mercredi 29 mars sur le site de l’institut américain Future of Life une lettre ouverte réclamant un moratoire d’urgence sur la recherche dans ce secteur, qui a récemment fait des progrès fulgurants :

“Nous appelons tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, la formation des systèmes d’IA plus puissants que GPT-4.”

GPT-4 est le modèle de langage qui a succédé à GPT-3, lui-même à la source de l’agent conversationnel ChatGPT, développé par la start-up américaine Open AI et objet d’un engouement mondial depuis sa mise en ligne en décembre 2022.

La pétition accuse les laboratoires d’intelligence artificielle de s’être lancés dans “une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”.

“Perdre le contrôle de notre civilisation”

Ces systèmes, poursuit la lettre ouverte, entrent en compétition avec les humains et amènent à se poser les questions suivantes :

“Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des cerveaux non humains qui pourraient éventuellement être plus nombreux, plus intelligents, […] et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”

 La pause demandée, résume le quotidien canadien La Presse, “permettrait de s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société”.

L’appel, observe le site du mensuel américain Wired, survient alors que les systèmes d’intelligence artificielle font des bonds impressionnants : “GPT-4 a été annoncé il y a deux semaines seulement, mais ses capacités ont déjà suscité un enthousiasme considérable et une bonne dose d’inquiétude.” Le magazine précise que ce robot conversationnel obtient de d’excellents résultats lors de nombreux tests académiques et résout correctement des questions épineuses. Mais il fait également “beaucoup d’erreurs triviales et logiques”, en plus de faire preuve de “préjugés sociétaux enracinés”, ce qui peut le pousser à “communiquer des propos haineux ou potentiellement nuisibles”.

La doudoune du pape générée par une IA

Depuis le 25 mars, une image du pape François devenue virale sur les réseaux sociaux montre le chef de l’Église catholique vêtu d’une longue doudoune blanche. “Il n’y a qu’un seul problème, écrit New Scientist : l’image n’est pas réelle.”

Peter Stone, un expert en IA de l’université du Texas, à Austin, qui a signé la lettre, confie à Wired que les choses semblent progresser trop vite dans ce domaine : “Cela ne devrait pas être une course visant à construire le prochain modèle et à le sortir avant les autres.”

Il est peu probable que la pétition ait une influence sur le climat actuel de la recherche dans ce domaine, qui voit des compagnies comme Google et Microsoft se précipiter pour déployer de nouveaux produits, estime The Verge. Mais, conclut le magazine, “c’est là un signe de l’opposition croissante à cette approche expéditive non réglementée ; une opposition qui pourrait potentiellement faire son chemin dans le domaine politique pour être examinée par les législateurs”.

Source : Courrier International