L’intérêt pour l’intelligence artificielle a évolué de façon spectaculaire au cours de l’année dernière, passant de préoccupations liées à la perturbation des services logiciels à la menace de pertes d’emplois, puis à la possibilité de l’extinction de l’espèce humaine, selon un stratégiste de Deutsche Bank.
Dario Amodei, PDG d'Anthropic, et Sam Altman, PDG d'OpenAI, ont tous deux mis en garde contre le rythme effréné de développement des capacités en IA, soulignant qu'il fallait ralentir afin que les mesures de sécurité puissent suivre le rythme. Leurs commentaires ont suscité une attention très significative, alors que leurs entreprises continuent de développer des systèmes de plus en plus puissants.
Amodei a décrit sa position dans un essai de 3 800 mots publié samedi : « Au cours des derniers mois, je suis devenu convaincu que pour faire face pleinement aux risques, il est nécessaire d'être encore plus prudent – non pas seulement d'investir dans la prévention des risques, mais également de ralentir le rythme de l'avancement des compétences afin que la prévention des risques ait le temps de suivre. Nous devons ralentir le rythme d'amélioration des capacités des modèles d'AI. La progression paraîtra toujours rapide, et nous devons faire un usage judicieux du temps gagné. »
Altman a exprimé son accord peu de temps après, puis a développé ses préoccupations dans un message publié sur X lundi. Il a décrit deux modes d'échec spécifiques : premièrement, perdre le contrôle de l'avenir à l'intelligence artificielle elle-même, chose qu'il a qualifiée d'inacceptable ; et deuxièmement, une concentration extrême du pouvoir, où une seule personne ou entreprise pourrait imposer sa vision du monde à tout le monde par le biais d'un système de manière écrasante.
« Pour éviter ces deux menaces, il est nécessaire de suivre une voie médiane étroite, a souligné M. Altman, citant le risque qu'un pays ou un laboratoire obtienne trop de domination.
Le PDG de Nvidia, Jensen Huang, a adopté une perspective différente lorsque l'on lui a demandé, lors d'une conférence lundi, son opinion sur les prédictions d'un risque de 10 % d'extinction de l'espèce humaine liée à l'IA. « Toutes ces prédictions se sont avérées fausses », a-t-il déclaré.
Cox de Deutsche Bank a noté que même les penseurs les plus distingués ont un bilan décevant en matière de prévisions des trajets technologiques et de leurs effets dans le monde réel. Les enjeux s'étendaient bien au-delà du risque existentiel à long terme, a écrit Cox, jusqu'à l'avenir immédiat de la vague actuelle de l'IA, qui dépend du fait que la hype se transforme en réalité commerciale.
