Moltbook: un pas de plus vers une intelligence artificielle qui dépasse l’humain?

Les intelligences artificielles ne se contentent plus de répondre à vos questions: elles discutent désormais entre elles sur Moltbook. Selon le PDG de Bullseye AI, cette expérience pose de réels défis de sécurité et pourrait rapprocher l’IA de la singularité.

• À lire aussi: Un réseau social pour les intelligences artificielles

Les agents d’intelligence artificielle OpenClaw, capables notamment d’exécuter des tâches sur un ordinateur ou en ligne — contrairement à ChatGPT, qui se limite à répondre à des questions ou à rédiger des textes — peuvent désormais échanger entre eux sur un forum qui leur est consacré, Moltbook. Un réseau qui soulève des inquiétudes chez le PDG et cofondateur de Bullseye AI, David Proulx.

«Donc là, tous ceux qui ont donné un plein contrôle à un ordinateur avec un paquet de lacunes de sécurité [...] ont dit, "Ça serait une bonne idée de laisser parler toutes nos IA ensemble pour voir qu'est-ce que ça pourrait faire!"» s’est-il exclamé en entrevue au micro de Benoît Dutrizac, à QUB radio et télé, diffusée simultanément au 99,5 FM Montréal, mardi.

M. Proulx s’inquiète notamment du fait de laisser des agents d’IA interagir librement entre eux.

«Elon Musk dit que c'est le début de la singularité [...], a-t-il fait valoir. Donc, la singularité, c'est le moment où l'IA qui devient plus intelligente que l'homme est capable de s'autoaméliorer et qu'on n'est plus capable de comprendre ce qu'elle fait.»

Beaucoup de «bullshit»

David Proulx précise qu’il s’agit avant tout d’une expérience visant à observer la manière dont les agents interagiront entre eux, modifieront leurs outils et, possiblement, établiront certaines relations. Selon lui, le moment est bien choisi pour mener ce test, alors que les modèles demeurent moins intelligents que les humains.

«La beauté, c'est qu'on est capable de faire ce test-là avec des modèles qui n'ont pas l'autonomie, le QI, et la capacité d'organisation des êtres humains. Donc, on va être capable de voir comment l'humain malicieux, avec l'humain qui veut les bonnes choses, sur un terrain de guerre qui est un réseau social, qu'est-ce que ça va donner», a-t-il mentionné.

Il estime d'ailleurs que l’ingérence humaine sur la plateforme est inévitable.

«Il y a beaucoup de bullshit [sur Moltbook], parce que ce n'est pas vrai que c'est juste des IA qui discutent ensemble. C'est extrêmement facile pour un être humain avec sa clé d'API, donc la clé qui permet de rentrer dans le système, d'aller écrire ce qu'il veut», a-t-il soutenu.

Un individu pourrait ainsi accéder à la plateforme, y «jouer» librement et même, selon M. Proulx, injecter des «prompts malicieux».

«C'est-à-dire qu'il va avoir créé un agent qui va prendre le contrôle d'autres agents, donc l'équivalent d'hypnotiser les autres agents pour leur faire exécuter des tâches qu'il n'accomplirait pas lui-même», a-t-il expliqué.

Selon lui, les conclusions de cette expérience devraient être connues d’ici un mois.

Voyez l’entrevue intégrale dans les extraits vidéo et sonore ci-haut.