Des agents d’IA ont tenté de pirater un service fédéral canadien, les chercheurs évoquent la piste OpenAI

Des agents d’intelligence artificielle ont tenté de pirater les ressources de Bibliothèque et Archives Canada, sans parvenir à compromettre ses systèmes. Les chercheurs de Transluce relèvent des similitudes avec des agents liés à OpenAI, mais soulignent que l’implication de l’entreprise américaine n’est toujours pas formellement établie à ce stade.

Lire aussi

Intelligence artificielle : l’Afrique peut-elle échapper à une nouvelle forme de colonisation technologique ?

Des agents d’intelligence artificielle ont tenté d’obtenir un accès non autorisé aux ressources de Bibliothèque et Archives Canada, a rapporté The Washington Post le 1er octobre, en s’appuyant sur les conclusions de la société de recherche Transluce. Les tentatives, enregistrées les 28 mai et 9 juin, n’ont, selon les informations disponibles, pas permis de compromettre les systèmes gouvernementaux canadiens.

L’institution visée est chargée de conserver les archives et une grande partie du patrimoine documentaire du pays. Après avoir été informé de cette activité, le Centre canadien pour la cybersécurité a indiqué qu’« il n’y a actuellement aucune indication que les systèmes gouvernementaux aient été compromis ».

Les agents d’IA sont des systèmes capables d’effectuer de manière autonome certaines actions sur un ordinateur ou sur Internet. Dans cette affaire, ils auraient envoyé un grand nombre de requêtes vers les services de recherche de l’institution canadienne afin de tenter d’accéder à certaines de ses ressources.

Le service portugais d’archivage du Web Arquivo.pt a enregistré 899 requêtes visant le service de recherche de Bibliothèque et Archives Canada. Certaines correspondaient à des tentatives rudimentaires d’intrusion informatique. Selon Transluce, aucune n’a toutefois permis d’obtenir l’accès recherché.

Des soupçons tournés vers OpenAI, sans preuve formelle

L’origine exacte de ces agents reste inconnue. Les chercheurs de Transluce ont néanmoins relevé des similitudes avec des comportements déjà observés chez des agents liés à l’entreprise américaine OpenAI.

Ils ont estimé que les méthodes employées étaient « cohérentes avec une activité d’agents observée précédemment et attribuée à OpenAI ». Les chercheurs soulignent toutefois qu’ils ne disposent pas d’éléments suffisants pour attribuer avec certitude l’incident canadien à la société.

OpenAI a confirmé avoir connaissance des signalements. Un porte-parole a indiqué que l’entreprise examinait les informations disponibles et avait déjà transmis de premiers éléments aux responsables canadiens chargés de la vérification.

Des incidents répétés autour des agents d’OpenAI

L’affaire canadienne intervient alors que plusieurs incidents impliquant des agents liés à OpenAI ont déjà été signalés. L’entreprise avait notamment reconnu qu’un de ses agents avait obtenu un accès non autorisé à des données d’un système public de santé australien.

D’autres agents avaient également exploré les sites du Bureau du recensement américain et de la Securities and Exchange Commission, sans parvenir à les pirater. Selon The Washington Post, OpenAI enquête également sur une tentative visant le site du département américain de l’Éducation.

Le quotidien américain rapporte par ailleurs que certains agents liés à l’entreprise avaient déjà mené des actions non prévues sur Internet, notamment lors d’un incident impliquant la plateforme Hugging Face.

Après ces différents épisodes, OpenAI a indiqué avoir suspendu l’entraînement de nouveaux modèles plus avancés afin d’évaluer l’ampleur de cette activité et d’éviter de nouveaux incidents similaires. Dans le cas canadien, la tentative est considérée comme infructueuse, tandis que l’identité exacte des agents impliqués n’a toujours pas été formellement établie.