Piégées par des chercheurs, des IA donnent des conseils médicaux sur une fausse maladie

Des chercheurs ont fait croire à des intelligences artificielles qu'une fausse maladie existait. Non seulement,elles y ont cru croient mais elles ont diffusé l'information aux internautes (photo d'illustration). (Kenneth Cheung / iStock Unreleased)

Lors d'une expérience scientifique,des chercheurs suédois ont fait croire à des intelligences artificielles qu'une fausse maladie existait et elles sont tombées dans le panneau,rapporte franceinfo vendredi 10 avril. L'expérience a été publiée dans la revue scientifique américaine Nature le 7 avril.

Ces scientifiques ont d'abord rédigé et publié deux articles complètement faux,écrits par un chercheur au nom inventé (Lazljiv Izgubljenovic) concernant une maladie qui n'existe pas : la bixonimanie. Ce faux scientifique est censé travailler dans une université qui n'existe pas pour des travaux sont soi-disant financés par la Communauté de l'anneau et la triade galactique.

L’IA transforme une fiction en réalité

Les articles décrivent donc une maladie inventée de toute pièce,provoquée par la lumière bleue des écrans qui irrite les yeux,ajoutant une fausse photo d'yeux rouges. Ils publient les articles sur un site scientifique accessible à tous. Au bout de quelques semaines seulement,dès le mois d'avril,les principales applications d'intelligence artificielle générative comme Gemini,Perplexity,ChatGPT,ou encore Open AI,mettaient en garde les internautes contre la bixonimanie,et donnaient même des conseils médicaux,faisant de la bixonimanie une vraie maladie.

Avec cette expérience,les chercheurs suédois ont voulu démontrer qu'il est facile "d'empoisonner l'IA",même en matière de sciences,de médecine,et en pointent les dangers potentiels.