IA - L’OMS appelle à l’encadrement stricte des chatbots dans la médecine

Face à l’engouement pour les grands modèles de langage multimodaux (LMM), l’OMS a publié ce jeudi 18 janvier 2024 un rapport détaillé. Il comprend plus de 40 recommandations pour encadrer strictement le développement et l’utilisation des technologies d’IA dans le domaine médical et sanitaire.

Des chatbots d’IA aux capacités proches de l’humain mais pas infaillibles

Les LMM comme ChatGPT sont entraînés sur d’immenses bases de données de textes, leur permettant de générer automatiquement de nouveaux textes de manière cohérente sur presque n’importe quel sujet. Ils peuvent comprendre des questions complexes, chercher des informations pertinentes et formuler des réponses articulées.

Certains modèles d’IA récents montrent même des capacités de raisonnement avancées. Par exemple, le chatbot Claude développé par Anthropic peut refuser de fournir des réponses dangereuses en matière de santé et reconnaître les limites de ses connaissances.

Mais ces chatbots ne disposent pas réellement d’une compréhension profonde du language et du monde. Leurs réponses peuvent contenir des informations fausses ou dangereuses, en particulier sur des sujets sensibles comme la santé. Le risque de biais algorithmique est également élevé.

Ces limites de l’IA ne sont pas toujours évidentes pour les utilisateurs, d’où l’importance d’encadrer strictement l’usage des LMM dans le domaine médical selon l’OMS.

Des applications prometteuses pour améliorer les diagnostics et la relation patient 

Malgré les risques, l’usage responsable des chatbots d’IA pourrait offrir des bénéfices significatifs pour la santé publique.

L’OMS identifie plusieurs applications potentielles des LMM en santé :

• Répondre à des questions écrites de patients pour les orienter vers les bons interlocuteurs, traitements et services de santé
• Fournir des informations personnalisées aux patients sur leur état de santé et leur traitement 
• Analyser les données médicales d’un patient pour aider au diagnostic de maladies
• Générer des simulations de patients réalistes pour la formation des professionnels de santé
• Automatiser des tâches administratives chronophages pour permettre aux médecins de se concentrer sur les soins

Certains hôpitaux et startups expérimentent déjà des chatbots d’IA pour des usages bien encadrés comme la prise de rendez-vous ou le dépistage de certains troubles.

Mais l’OMS met en garde contre les dangers d’une adoption précipitée sans cadre éthique et réglementaire adéquat.

Grâce à ces recommandations, l’OMS espère tracer la voie vers le développement de modèles de langage d’IA à la fois utiles et éthiques dans le domaine de la santé. L’enjeu est de tirer parti du potentiel des chatbots pour améliorer l’accessibilité des soins, la relation patient, la formation des professionnels de santé et l’avancée des connaissances médicales. Mais la sécurité et le bien-être des patients doivent rester la priorité absolue. D’où l’importance d’une régulation proactive et d’une évaluation continue des risques selon l’OMS.