Towards Trustworthy-AI-by-Design Methodology for Intelligent Radiology Systems
Vers une méthodologie Trustworthy-AI-by-Design pour les systèmes de radiologie intelligents
Résumé
This paper discusses our work-in-progress to develop a comprehensive and unified methodology for creating smart and reliable intelligent radiology systems (IRS) that meet the upcoming European requirements on trustworthy AI. Specifically, we present our so-called trustworthy-AI-by- design methodology by showcasing two distinct use cases of IRS: 1) Deep Learning-based COVID detection in Chest Tomography scans and 2) AI-supported radiological no- shows alerting systems. Our initial analysis highlights that different key requirements of trustworthy AI necessitate dis- tinct design methods and issues that must be addressed throughout the entire AI development cycle, from initial conception to final design.
Cet article présente nos travaux en cours sur l'élaboration d'une méthodologie généralisable pour développer des systèmes radiologiques intelligents et fiables. Notre méthodologie, appelée "trustworthy-AI-by-design", vise à comprendre comment développer des systèmes d'IA pour la radiologie qui répondent aux futures exigences européennes en matière d'IA digne de confiance. Dans cet article, nous deployons et testons la méthodologie "trustworthy-AI-by-design" sur deux cas d'utilisation distincts : 1) la détection de la maladie COVID-19 sur des tomographies thoraciques en utilisant de l'apprentissage profond et 2) un système d'alerte et de prédiction de nonprésentation des patients à leur rendezvous radiologique qui s'appuie sur des modèles d'apprentissage automatique. Nos premières analyses montrent que les différents critères éthiques d'une IA digne de confiance nécessitent des méthodes de conception distinctes et doivent être pris en compte tout au long du cycle de développement de l'IA.