L’intelligence artificielle pourrait être utilisée pour manipuler les diagnostics médicaux

Des chercheurs alertent sur la généralisation de l'intelligence artificielle dans la médecine. Ils craignent une manipulation des données aux dépends des patients pour augmenter le profit des hôpitaux et des assureurs.

L’intelligence artificielle pourrait aider les médecins à diagnostiquer plus rapidement certaines maladies. Mais ce n’est pas sans risques, préviennent plusieurs chercheurs dans une étude publiée dans la revue Science, repérée par le New York Times. Car des petites manipulations peuvent changer radicalement le comportement de l’intelligence artificielle (IA). Par exemple pour détecter une maladie qui n'existe pas.

À qui profite le crime?

Les chercheurs formulent plusieurs hypothèses. Des médecins, hôpitaux ou autres organisations pourraient manipuler l’intelligence artificielle pour facturer des soins non nécessaires. Ainsi, modifier quelques pixels de l’image d’une lésion cutanée bénigne permettrait de tromper le système de diagnostic basé sur l’intelligence artificielle, afin qu'il l'interprète comme une lésion maligne.

Une telle interprétation impliquerait le début d'un traitement et donc un gain financier pour l'entreprise prodiguant les soins, pourtant non nécessaires. Selon les chercheurs, le jour où l’intelligence artificielle sera largement utilisée dans nos systèmes de soins, les entreprises adopteront progressivement le comportement qui leur rapporte le plus d'argent.

Comment tromper une intelligence artificielle?

Les intelligences artificielles utilisées en médecine se basent en partie sur des réseaux neuronaux, des programmes mathématiques complexes, capables d’apprendre en analysant une grande quantité de données. Et ce n'est plus de la fiction. L’année dernière, la FDA (Food and Drug Administration) approuvait un système capable de détecter les signes de rétinopathie diabétique en analysant une image de la rétine. Pour entraîner l'IA, les ingénieurs lui ont soumis une large quantité d’images de rétines malades et saines pour lui apprendre à les différencier. 

L’intelligence artificielle n’est pas infaillible. Des chercheurs chinois ont ainsi réussi à duper un système de reconnaissance faciale grâce à un dispositif installé à l’intérieur de la visière d’une casquette projetant de la lumière infrarouge sur le visage de la personne qui la porte. Modifiant ainsi la perception des traits du visage par l'intelligence artificielle qui n'avait pas réussi à identifier le porteur du couvre-chef. Comparé à cela, la manipulation de quelques pixels d'une image de diagnostic médical serait presque un jeu d'enfant.

https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech