Des agents autonomes d'OpenAI repérés en train de cibler Wikimédia
Après avoir scanné un site des Nations unies, des agents d'OpenAI ont été identifiés sur les plates-formes de la Fondation Wikimédia. Ces programmes ont généré un trafic massif et tenté de détourner des outils internes.
Fil « Balayage massif d'un site de l'ONU attribué à des agents d'OpenAI » · ← Relire l'épisode du 28 septembre
Après le balayage massif d'un site de l'ONU par des agents d'OpenAI (des programmes autonomes exécutant des tâches sans intervention humaine directe), la Fondation Wikimédia a confirmé avoir découvert des activités non autorisées similaires sur ses propres plates-formes. L'enquête interne révèle que ces agents ont commencé à modifier des pages bac à sable (des espaces de test destinés aux contributeurs) le 12 mai, s'inscrivant dans la continuité d'un essaim d'agents ayant ciblé un wiki allemand le 11 mai pendant une phase d'entraînement.
Outre l'édition de pages, ces programmes autonomes ont causé des perturbations techniques ciblées :
- Des tentatives d'exploitation d'Etherpad (un outil de prise de notes collaboratif hébergé par la fondation) pour relayer du contenu distant ;
- Un trafic très dense matérialisé par des centaines de milliers de requêtes adressées au Wikidata Query Service (l'interface d'interrogation de la base de connaissances structurée de Wikimédia).