Intelligence artificielle et santé : comment assurer la confiance ?
Toute évolution technologique ne peut se développer sans un cadre juridique assurant la confiance. L’IA aussi intelligente soit elle n’y échappera pas.
Des outils juridiques existent déjà ou sont en cours d’élaboration.
1./ la confiance par la sécurité de hébergement des données de santé via des données de santé certifiés
2./ la confiance par la certification des dispositifs médicaux ( dont l’IA fera partie si elle est utilisées pour le diagnostic, prévention, contrôle, prédiction, pronostic, traitement ou atténuation d'une maladie. A cet effet, le Le règlement européen 2017/745 relatif aux dispositifs médicaux dont l’entrée en vigueur du fait du COVID a été reportée au 26 mai 2021 fixe un processus de certification
Il reste que cette certification emporte certaines limites comme le relevait Le rapport sur l’intelligence artificielle rédigé par le député Cédric Villani en mars 2018.
En effet, il concluait que « les procédures actuelles semblent inappropriées à l’heure de l’IA en santé. En effet, elles sont fondées sur le principe selon lequel un dispositif, produit ou service conçu à fins médicales puisse être testé cliniquement à un instant et commercialisé sous cette forme immuable. Or les technologies d’intelligence artificielle sont par nature des processus automatiques apprenants et donc extrêmement évolutifs. Dès lors se pose la question de leur certification dynamique pour sécuriser les usages qui en sont faits »
3./ La confiance par la traçabilité d’une décision/ recommandation donnée par une IA.
Le Projet de loi bioéthique propose de créer un nouvel article L. 4001-3 du code de la santé publique rédigé comme suit :
« Art. L. 4001-3. – I. – Lorsque, pour des actes à visée préventive, diagnostique ou thérapeutique, est utilisé un traitement algorithmique dont l’apprentissage est réalisé à partir de données massives, le professionnel de santé qui décide de cette utilisation s’assure que la personne concernée en a été informée au préalable et qu’elle est, le cas échéant, avertie de l’interprétation qui en résulte.
« II. – La traçabilité des actions d’un traitement mentionné au I et des données ayant été utilisées par celui-ci est assurée et les informations qui en résultent sont accessibles aux professionnels de santé concernés. Les données sont traitées et partagées dans les conditions prévues à l’article L. 1111-8.
« III (nouveau). – Un arrêté du ministre chargé de la santé établit, après avis de la Haute Autorité de santé, la liste des types de traitements algorithmiques qui font l’objet de l’information mentionnée au I. Il détermine, après avis de la Commission nationale de l’informatique et des libertés, pour chaque type de traitements, la nature et la durée de conservation des actions et des données dont la traçabilité est prévue au II. »
Nul doute que pour garantir cette confiance en l’IA, et à l’instar d’internet et sa loi pour la confiance dans l’économie numérique, nous aurons une loi pour la confiance dans l’intelligence artificielle.
A suivre …