+41 (0)79 308 72 80
info@surprises.ch
29 mars 2023. Des centaines d’experts, dont Elon Musk, proclament par une lettre ouverte que les systèmes d’intelligence artificielle (IA) « peuvent présenter de grands risques pour la société et l’humanité ». Selon eux, de tels systèmes « ne devraient être développés qu'une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. »
Autant dire que cela s’apparente au mythe de l’invention d’une langue parfaite qui permettrait uniquement de dire la vérité mais pas de mentir. Ou encore au rêve du marteau bienveillant qui ne permet de taper que sur des clous, mais pas sur la tête de son ennemi. En pratique, les effets bénéfiques et nocifs d’une invention dépendent beaucoup moins de l’invention elle-même que de l’imagination plus ou moins perverse de ceux qui l’utilisent.
Les auteurs ne s'opposent pas au développement de l'intelligence artificielle, proclament-ils. Mais ils estiment que les systèmes d’IA devraient respecter des exigences sévères : qu'ils soient « précis, sûrs, interprétables, transparents, robustes, harmonisés, dignes de confiance et loyaux. » Amen ! Ils ont oublié d’ajouter « humoristique »: à mon avis, une IA dépourvue d’humour présenterait « de grands risques pour la société et l’humanité ».
En conséquence, ces experts appellent « tous les laboratoires d'IA à suspendre immédiatement pendant au moins 6 mois la formation des systèmes d'IA plus puissants que GPT-4 ».
Tous les laboratoires du monde ? Y compris les laboratoires chinois ? Soyons sérieux : si l’Occident s’impose un moratoire, il ouvre un boulevard à une IA communiste et despotique. Sans parler de mouvements mafieux ou terroristes qui peuvent aussi avoir d’excellents informaticiens parmi leurs membres. D’une façon générale, la tentation d’un moratoire relève de la logique de la prohibition, dont les méfaits catastrophiques sont connus depuis plus d’un siècle.