Une étude publiée dans la revue Nature Medicine révèle que l’intelligence artificielle multiplie les erreurs de diagnostic lors de situations critiques.
L’usage des chatbots pour interpréter des symptômes devient une pratique courante, mais s’avère extrêmement risquée.
Selon des chercheurs spécialisés, ChatGPT ne délivrerait des recommandations correctes que dans 48 % des situations d’urgence. Pour parvenir à ce constat, les scientifiques ont soumis l’outil à soixante scénarios cliniques complexes couvrant diverses spécialités médicales et différents niveaux de gravité.
Le danger principal identifié par l’étude réside dans le délai de prise en charge suggéré.
Dans de nombreux cas testés, l’IA a conseillé de surveiller l’évolution des symptômes pendant plusieurs jours, là où une consultation médicale immédiate était pourtant vitale. Ce décalage flagrant entre la réponse de la machine et la réalité clinique pourrait entraîner des conséquences dramatiques pour les patients.
La forme des réponses contribue également à induire l’utilisateur en erreur.
Votre argent, vos droitsMarc Touati conseille 1 000 à 2 000 euros en espèces chez soi en cas de krach→Les spécialistes soulignent que le ton calme et la structure rigoureuse des textes générés créent une confiance excessive. Les internautes ont ainsi tendance à valider des informations approximatives, voire totalement erronées, simplement en raison de la clarté apparente du discours.
Pour le corps médical, le verdict est sans appel.
Bien que ces technologies facilitent l’accès à l’information de santé, elles ne doivent en aucun cas se substituer à l’expertise d’un professionnel de santé. La prudence reste de mise face à une technologie qui se trompe encore une fois sur deux.
Comment nous travaillons · Signaler une erreur
