L’IA pourrait-elle un jour d\u00e9passer son ma\u00eetre, c’est-\u00e0-dire les humains qui l’ont cr\u00e9\u00e9. Cette menace, \u00a0autant r\u00e9elle et que fantasme fait dire \u00e0 certains chercheurs qu’un moratoire s’impose.\u00a0Pour Jean-Louis Fr\u00e9chin, l’IA a surtout besoin d’une r\u00e9gulation mondiale.<\/strong><\/p>\n Les productions des intelligences artificielles g\u00e9n\u00e9ratives suscitent fascination et inqui\u00e9tude. L’analogie du po\u00e8me de Goethe, o\u00f9 un apprenti sorcier d\u00e9l\u00e8gue le remplissage d’une bassine \u00e0 un balai magique qui ne s’arr\u00eate plus, provoquant une inondation, illustre la crainte que les cr\u00e9ateurs soient d\u00e9pass\u00e9s par leur propre cr\u00e9ation.<\/p>\n L’intelligence artificielle (IA) se divise en deux types\u00a0: les IA de Machine Learning, qui analysent des bases de donn\u00e9es cons\u00e9quentes, permettant aux ordinateurs d’apprendre par analogie statistique, sont par nature inexplicables et d\u00e9pendantes de la qualit\u00e9 de leurs jeux de donn\u00e9es. Les IA comme MidJourney ou Chat GPT, inexplicables, elles aussi, proposent un mim\u00e9tisme statistique de l’image ou du langage. Le second type regroupe les IA symboliques qui ont pour hypoth\u00e8se la reproduction du raisonnement humain au moyen de r\u00e8gles scientifiques, sociales ou culturelles programm\u00e9es, permettant \u00e0 la machine de prendre des d\u00e9cisions avec un r\u00e9sultat pr\u00e9cis et explicable.<\/p>\n Notre apprenti sorcier semble aujourd’hui d\u00e9pass\u00e9 par la rapidit\u00e9 avec laquelle ces intelligences se d\u00e9veloppent, l’absence de garde-fou, leurs nombreuses erreurs (hallucinations) et le manque de contr\u00f4le d\u00e9mocratique. Sam Altman, fondateur d’Open AI, s’interroge. Et une p\u00e9tition mondiale lanc\u00e9e par des acteurs de l’IA, dont Elon Musk<\/a> , demande un moratoire sur la recherche en IA.<\/p>\n Il est imp\u00e9ratif de se poser des questions sur les pratiques et les dangers potentiels de l’IA. Soulignons d’abord les usages positifs dans la sant\u00e9, l’\u00e9ducation, l’industrie, les finances et l’audiovisuel. Mais les effets n\u00e9gatifs existent aussi, notamment sur les m\u00e9tiers intellectuels<\/a> , tels que les professions artistiques, qui sont tr\u00e8s vuln\u00e9rables. La production de contenu par l’IA semble, \u00e0 court terme, la plus dangereuse, car elle pourrait devenir une arme de falsification massive. Les journalistes, eux-m\u00eames fragilis\u00e9s, pourront-ils lutter contre la propagation de ces infox diffus\u00e9es sur les plateformes sociales mondiales\u00a0?<\/p>\n Il serait illusoire de tenter d’arr\u00eater ces technologies, \u00e9tant donn\u00e9 leur potentialit\u00e9 et les enjeux financiers et g\u00e9opolitiques qu’elles repr\u00e9sentent. Cependant, il est primordial de favoriser les d\u00e9bats publics, la connaissance et la d\u00e9finition de limites.<\/p>\n Nous devons d\u00e9finir des r\u00e8gles \u00e9thiques, sociales, l\u00e9gislatives, environnementales et \u00e9conomiques au niveau europ\u00e9en et mondial pour pr\u00e9venir les effets n\u00e9gatifs de l’IA. Par exemple, nous pourrions certifier les technologies, comme on le fait pour la sant\u00e9 ou l’a\u00e9ronautique, valoriser la dimension explicable des IA, identifier la provenance et la nature des jeux de donn\u00e9es, ainsi que la dimension open source des technologies utilis\u00e9es.<\/p>\n Nous devons \u00e9galement encourager des exemples de design transparent, responsable et partenaire des utilisateurs comme celui propos\u00e9 par Adobe avec son IA Firefly, dont la source d’image est publique et connue, mais aussi Bloom, le plus grand mod\u00e8le linguistique multilingue ouvert pour le monde de la recherche. Enfin, un organisme mondial pour contr\u00f4ler l’IA est peut-\u00eatre n\u00e9cessaire, a l’exemple de l’AIEA pour le nucl\u00e9aire. Alors peut-\u00eatre les apprentis sorciers de l’IA deviendront des sages inform\u00e9s et responsables.<\/p>\nUne arme de falsification massive<\/h3>\n
\u00a0Un organisme mondial<\/h3>\n