Ralentir le développement de l'IA, est-ce encore possible ?

Les grands patrons de l'intelligence artificielle (IA) affirment vouloir ralentir la cadence effrénée de développement du secteur, mais la concurrence, la réticence du gouvernement américain et la dimension géopolitique constituent autant d'obstacles à cette initiative.

Samedi, le patron d'Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l'intelligence artificielle.

Il a été soutenu publiquement par son homologue d'OpenAI, Sam Altman, ainsi que par Elon Musk, le président de Google DeepMind, Demis Hassabis, et le PDG de Microsoft, Satya Nadella.

Ces derniers mois, OpenAI et Anthropic ont fait état de plusieurs incidents qui ont vu des IA sortir spontanément de leur milieu confiné pour aller sur internet et attaquer sites et plateformes.

Ces IA se sont montrées capables de se coordonner, d'établir une hiérarchie entre elles, de tricher et d'effacer les traces de leurs méfaits.

Par ailleurs, mardi, Jacob Coxon, démissionnaire d'Anthropic et ancien d'OpenAI, a accusé publiquement les deux start-up de laxisme en matière de sécurité et de "(jouer) avec nos vies".

La concurrence entre les fleurons de cette technologie est telle, avec des centaines de milliards d'investissement en jeu, qu'aucun d'entre eux ne se risquera à lever seul le pied.

Dario Amodei s'est dit prêt à se coordonner avec ses rivaux, hors Chine.

Selon le site The Information, Anthropic, OpenAI et Google discutent depuis juillet de la création d'une instance professionnelle de supervision.

Pour l'instant, la seule mesure effective, annoncée à la fois par Anthropic et OpenAI, consiste à accueillir des observateurs indépendants permanents, qui vérifieront, en interne, les travaux des entreprises en matière de sécurité de l'IA.

Si beaucoup dans le milieu ont salué le message de Dario Amodei, d'autres se sont interrogés sur ses motivations.

Pour Brian Roemmele, entrepreneur et personnalité du secteur de l'IA, il s'agit d'un argumentaire commercial présenté à quelques semaines de la probable introduction en Bourse d'Anthropic.

"Nous sommes l'entreprise responsable (parmi les géants de l'IA), nous sommes la solution, achetez" les produits ou les actions de la société qui vous offre "une prime de sécurité", a-t-il développé sur X.

Plusieurs figures du capital-investissement dans la tech ont aussi accusé Anthropic de "captation de la réglementation", c'est-à-dire de vouloir obtenir des pouvoirs publics qu'ils figent, par la régulation, une hiérarchie dont la start-up occupe le sommet.

"Arrêtez de faire comme s'il s'agissait (d'une initiative) altruiste", a commenté l'ancien conseiller de Donald Trump sur l'IA David Sacks, encore influent à la Maison Blanche.

"Vous seriez massivement exposés à (des procédures en responsabilité civile) si vos produits permettaient une cyberattaque ravageuse", a-t-il fait valoir.

Donald Trump a qualifié dimanche de "forces négatives" les exhortations des patrons de l'industrie de l'IA.

Plusieurs personnalités républicaines se sont dites réticentes à réguler activement cette technologie, pour ne pas "étouffer" l'innovation et risquer de voir la Chine gagner la bataille de l'IA, selon le président de la Chambre des représentants, Mike Johnson.

Dimanche, Dario Amodei a de nouveau défendu la nécessité pour les pouvoirs publics d'encadrer l'IA. Il juge, comme Sam Altman ou Demis Hassabis, que des règles fixées par le secteur lui-même ne seraient pas suffisantes.

Dario Amodei suggère une synchronisation limitée aux "pays démocratiques", excluant la Chine.

Mais la course à l'IA et les avancées chinoises dans le domaine induisent "le dilemme le plus délicat" quant à savoir s'il faut ou non freiner, a-t-il analysé dans un entretien diffusé dimanche par la chaîne CBS.

Les Etats-Unis prévoient d'évoquer la sécurité de l'IA en marge de la visite du dirigeant chinois Xi Jinping à Washington, fin septembre, mais la Chine se méfie, selon plusieurs médias, d'une possible tentative américaine d'imposer sa nomenclature.

Le décalage est d'autant plus prononcé que la Chine favorise l'émergence des IA dites ouvertes, c'est-à-dire accessibles gratuitement et modifiables, par opposition aux modèles dits fermés des grands noms américains.

L'IA ouverte est, par définition, plus difficile à contrôler, car ses utilisateurs peuvent modifier ses paramètres, notamment pour des utilisations malveillantes.

Pour permettre aux entreprises non chinoises les plus performantes de lever le pied, Dario Amodei milite pour un renforcement des restrictions à l'exportation des puces américaines les plus avancées vers la Chine et une meilleure protection contre le pillage des IA occidentales