Depuis l'arrivée des dispositifs médicaux équipés d'intelligence artificielle (IA) dans les blocs opératoires, les erreurs chirurgicales semblent se multiplier. Des accidents graves, tels que des artères perforées ou des fuites de liquide céphalo-rachidien, ont été signalés, parfois avec des conséquences permanentes pour les patients.

Le système «TruD», développé par la firme Acclarent (filiale de la société Johnson & Johnson), illustre ce problème: depuis l'intégration d'algorithmes d'IA, le nombre de signalements à la «Food and Drug Administration» (FDA) (l'agence américaine des produits alimentaires et médicamenteux) est passé d'une dizaine à plus d'une centaine en quatre ans, avec au moins dix patients blessés.

Ces incidents soulèvent des questions de responsabilité, d'autant que les entreprises développant ces logiciels changent souvent de mains et contestent le lien direct entre l'erreur médicale et l'usage de l'IA.

«TruDi» n'est pas un cas isolé: de nombreux autres dispositifs, comme des moniteurs cardiaques ou des appareils à ultrasons, ont également montré des dysfonctionnements depuis leur mise sur le marché.

La prolifération rapide de dispositifs médicaux basés sur l'IA, doublée d'un manque de moyens pour les régulateurs comme la FDA, rend le suivi et la sécurisation de ces technologies très difficiles. Les données montrent que près de la moitié des dispositifs utilisant l'IA présentent des problèmes moins d'un an après leur autorisation de commercialisation, un taux deux fois supérieur à celui des produits médicaux traditionnels.

Si l'IA promettait une révolution dans la médecine, son déploiement rapide et mal encadré pose aujourd'hui de sérieux risques pour la sécurité des patients.

Cette question écrite relève de la compétence du Sénat vu son caractère transversal. La santé publique est une matière fédérale et la politique de prévention relève des entités fédérées. L'intelligence artificielle, en tant que technologie émergente à fort impact sur la sécurité et la qualité des soins, justifie pleinement une approche transversale entre le fédéral et les entités fédérées.

1) Quelles mesures le gouvernement entend-il prendre pour renforcer le contrôle des dispositifs médicaux utilisant l'intelligence artificielle?

2) Comment garantir la traçabilité et la responsabilité juridique en cas d'accident lié à l'usage d'IA dans les blocs opératoires?

3) Existe-t-il des protocoles obligatoires pour tester l'efficacité et la sécurité des logiciels d'IA avant leur mise sur le marché?

4) Le service public fédéral (SPF) Santé publique prévoit-il d'augmenter les moyens humains et financiers des agences de régulation pour suivre l'expansion rapide des dispositifs médicaux dotés d'IA?

1) L’Agence fédérale des médicaments et des produits de santé (AFMPS) assure le contrôle des dispositifs médicaux, y compris ceux intégrant de l’intelligence artificielle (IA) en s’appuyant sur une combinaison de cadres réglementaires européens et de mécanismes nationaux de surveillance.

Au niveau européen, les dispositifs médicaux intégrant des logiciels d’IA relèvent déjà du règlement (UE) 2017/745 relatif aux dispositifs médicaux (MDR). Lorsque ces logiciels remplissent une fonction médicale, ils sont considérés comme des dispositifs médicaux à part entière, soumis à une évaluation de la conformité, incluant la démonstration de leur sécurité, performance et bénéfice clinique avant leur mise sur le marché, indépendamment de la technologie utilisée.

Au niveau national, l’AFMPS assure la surveillance du marché via la matériovigilance (signalement des incidents impliquant des dispositifs médicaux), des inspections fondées sur une analyse de risque et la coopération avec les autres autorités européennes compétentes.

Le règlement européen sur l’intelligence artificielle (AI Act), récemment adopté, introduira dans un avenir proche un cadre horizontal complémentaire. S’il recoupe en partie des exigences déjà couvertes par le règlement relatif aux dispositifs médicaux, il prévoit également certaines obligations spécifiques aux systèmes d’IA, notamment en matière de gouvernance des données, de transparence et de supervision humaine. Ces deux cadres seront appelés à s’appliquer de manière articulée pour les dispositifs médicaux intégrant de l’IA.

Le gouvernement soutient en outre une application progressive et coordonnée de ces cadres, afin d’éviter des mises sur le marché insuffisamment encadrées tout en garantissant l’innovation médicale.

2) La traçabilité constitue un élément central du cadre réglementaire belge et européen applicable aux dispositifs médicaux.

Conformément au MDR et à la législation nationale, les dispositifs médicaux doivent être identifiables via l’identifiant unique du dispositif (UDI). La mise en œuvre progressive de la base de données européenne EUDAMED renforce cette traçabilité en centralisant les informations relatives:

– aux fabricants et autres opérateurs économiques;

– aux dispositifs mis sur le marché;

– aux incidents graves et mesures correctives de sécurité.

En Belgique, un point de contact de matériovigilance est obligatoire, notamment pour les hôpitaux, afin d’assurer un suivi rapide et documenté des incidents graves impliquant des dispositifs médicaux.

Sur le plan de la responsabilité juridique, le cadre repose sur une répartition claire des responsabilités:

– le fabricant reste responsable de la conformité, de la sécurité et de la performance du dispositif, y compris du logiciel et de ses mises à jour;

– les établissements de soins et les professionnels de santé sont responsables de l’utilisation conforme du dispositif;

– les autorités compétentes interviennent en cas de défaut systémique ou de risque pour la santé publique.

L’intégration de l’IA ne modifie pas ces principes fondamentaux, mais elle renforce l’exigence de documentation, d’auditabilité, de la traçabilité et de justification des décisions automatisées, conformément aux exigences du MDR et de l’AI Act.

L’AI Act impose certaines obligations supplémentaires aux déployeurs de systèmes d’IA à haut risque. Les dispositifs médicaux sont des systèmes à haut risque et dans ce contexte, le terme «déployeur» renvoie aux établissements de soins. Les déployeurs doivent, entre autre, prendre des mesures techniques et organisationnelles appropriées pour garantir que ces systèmes sont utilisés conformément aux conditions d’utilisation et que la surveillance humaine est confiée à des personnes disposant des compétences, de la formation et de l’autorité nécessaires, ainsi que du soutien nécessaire.

Les exigences prévues par le MDR s’appliquent déjà, et le règlement sur l’intelligence artificielle (l’AI Act) viendra, dans un avenir proche, compléter ce cadre.

3) Oui. Il existe déjà des protocoles obligatoires pour tester l’efficacité et la sécurité des dispositifs médicaux intégrant des logiciels, y compris l’IA.

Avant toute mise sur le marché, le MDR impose:

– une évaluation clinique proportionnée au niveau de risque du dispositif;

– la démonstration de la performance clinique et de la sécurité, y compris pour les logiciels;

– une gestion des risques couvrant l’ensemble du cycle de vie du dispositif.

Pour les dispositifs à risque élevé, l’intervention d’un organisme notifié est obligatoire. Celui-ci examine la documentation technique, les données cliniques et les processus de développement logiciel.

En complément, le futur cadre de l’AI Act introduira des exigences spécifiques pour les systèmes d’IA à haut risque, notamment:

– la précision, les performances ainsi que les tolérances et restrictions des (jeux de) données;

– des tests de robustesse et de fiabilité;

– une surveillance post-commercialisation renforcée.

Ces exigences visent précisément à limiter les risques liés à des comportements imprévisibles ou évolutifs des algorithmes après leur mise sur le marché. Plusieurs normes harmonisées supplémentaires sont également élaborées au niveau européen et international afin de définir clairement l’état de l’art.

4) Le gouvernement est conscient que la croissance rapide des dispositifs médicaux intégrant de l’IA accroît la charge de travail des autorités de régulation (l’AFMPS en Belgique).

Le financement et les missions de l’AFMPS sont définis par la législation nationale relative au financement de l’agence, laquelle prévoit déjà des ressources dédiées à la surveillance du marché.

Dans ce contexte, l’AFMPS:

– investit dans le renforcement de l’expertise interne, notamment via des formations ciblées sur l’IA et les dispositifs médicaux logiciels;

– participe activement aux réseaux européens de coordination, afin de mutualiser les compétences et les informations;

– adapte progressivement ses priorités de contrôle aux nouvelles technologies émergentes.

La mise en œuvre du règlement sur l’intelligence artificielle (l’AI Act) fera l’objet d’une coordination nationale entre les autorités concernées, afin d’assurer une application cohérente du cadre européen.