S’informer avec le chatbot des HUG

admin — Tue, 01 Jul 2025 10:10:00 +0000

Texte:

Clémence Lamirand

Photos:

Pensé par le Service de médecine de premier recours et soutenu par la Fondation privée des HUG, l’outil conversationnel confIAnce fournit des informations fiables et vérifiées sur les principales maladies chroniques.

Lorsqu’une personne souffrant d’une maladie chronique, comme l’asthme ou le diabète, se rend chez son ou sa médecin, la consultation dure en moyenne une vingtaine de minutes. Mais parfois, à peine le temps de poser quelques questions à l’issue de l’examen clinique, qu’il faut déjà fixer le prochain rendez-vous. «Entre les deux, il ne se passe rien et c’est pour poursuivre la conversation engagée au cabinet que l’outil confIAnce a été créé», introduit le Pr Idris Guessous, médecin-chef du Service de médecine de premier recours (SMPR).

Ce chatbot d’informations médicales, accessible d’un téléphone portable comme d’un ordinateur, permet d’obtenir des réponses claires et fiables, avec des mots simples et adaptés. «À l’aide de l’intelligence artificielle (IA), nous avons compilé, retravaillé, mis à jour des informations médicales déjà existantes de notre service, puis les avons fait vérifier et valider par des médecins et des spécialistes en communication», décrit la Dre Mayssam Nehme, médecin adjointe au SMPR. Selon la question, le chatbot peut exceptionnellement mobiliser des connaissances acquises sur des sites externes. Ces réponses restent encadrées tout en répondant aux besoins des patientes et patients. Le résultat est bluffant : la discussion est fluide mais aussi, et surtout, utile, précise et adaptée.

Fiabilité et précision

Pourquoi faire confiance à confIAnce ? Car tout est fait pour que l’outil conversationnel propose un contenu scientifiquement juste. Il est pour cela suivi de près avec des indicateurs de performance, de fiabilité et de précision. «Nous vérifions par exemple que les réponses apportées à une même question ne diffèrent pas avec le temps», illustre la Dre Nehme. Et d’ajouter que le projet a également bénéficié de la contribution d’une patiente partenaire.

Actuellement, le chatbot discute autour d’une trentaine de maladies chroniques. À l’avenir, il devrait en aborder une soixantaine. L’occasion pour les patients et patientes d’en savoir davantage sur leur maladie et de devenir, ainsi, toujours plus acteurs et actrices de leur santé.

Testez-le ! Pour lancer la discussion, une seule adresse
www.hug.ch/medecine-de-premier-recours/confiance

Mots clés:

En savoir plus

Fondation privée des HUG

Intelligence artificielle : limiter les risques

admin — Sat, 01 Oct 2022 11:02:20 +0000

Texte:

Elodie Lavigne

Photos:

Adobe Stock

Les outils d’intelligence artificielle (IA) sont extrêmement puissants, mais ils ne sont pas infaillibles.

De là à être dangereux ? Possiblement, répond la Pre Laura Rubbia-Brandt, médecin-cheffe du Département diagnostique et du Service de pathologie clinique : «C’est comme un scalpel, un instrument indispensable en chirurgie, mais qui est aussi potentiellement dangereux, c’est pourquoi il faut l’utiliser à bon escient et dans un cadre réglementé.»

De l’avis du Pr Douglas Teodoro du Département de radiologie et informatique médicale à l’Université de Genève (UNIGE), pour prévenir les dérives, les besoins des utilisatrices et utilisateurs doivent être soigneusement analysés, sans quoi ces outils risquent d’avoir un impact négatif dans la pratique médicale. Aussi, pour des questions de fiabilité, il est important de connaître le champ d’application ainsi que les données avec lesquelles les machines ont été entraînées. Car c’est là que peuvent s’introduire des biais. Dans le cas de prédictions d’efficacité d’un traitement par exemple, il convient de se demander si le logiciel a inclus dans son panel de données des profils d’individus variés en termes d’âge, de sexe, d’origine, de grossesse, etc.

«Il est important de garantir l’intégrité des données. Si elles n’ont pas été rentrées dans le logiciel de façon exacte, les résultats risquent d’être faussés», ajoute Maître Célian Hirsch de l’UNIGE. Mais encore, les personnes qui recourent à l’IA doivent savoir à quelles questions l’algorithme répond exactement et auxquelles il ne répond pas. « Nous devons faire preuve de vigilance et ne pas créer des algorithmes censés être intelligents qui font des choses bêtes », commente le Pr Teodoro. «Sans compter que les ordinateurs n’ont pas de morale», rappelle le Pr Christian Lovis, médecin-chef du Service des sciences de l’information médicale.

Pas de confiance aveugle

De plus, si les algorithmes nous livrent des résultats sur la base de calculs et de statistiques, ils nous disent rarement comment ils y sont arrivés. C’est ce qui est appelé le biais «d’explicabilité». «Ceci peut poser problème lorsque nous devons, en tant que médecin, prendre une décision sensible», note le Pr Geissbuhler, médecin-chef du Service de cybersanté et télémédecine. Et ce d’autant plus que la responsabilité d’une décision médicale revient en principe au ou à la médecin qui la prend, «à moins de pouvoir prouver que les données utilisées par l’entreprise de développement du logiciel sont inexactes, ce qui semble difficile», commente Maître Hirsch. C’est pourquoi «nous ne devons pas nous y fier de manière irraisonnée», insiste le Pr Lovis. En effet, poursuit le Pr Geissbuhler, «il est indispensable de considérer la réponse de l’IA comme un avis ou un conseil et non comme une information décisive».

Enfin, pour garantir la sécurité des malades, les algorithmes qui prédisent un traitement ou un diagnostic doivent, en tant que dispositifs médicaux, faire l’objet d’essais cliniques sérieux et être validés par les instances de réglementation. Les données personnelles doivent quant à elles être anonymisées.

Pulsations - information médicale

S’informer avec le chatbot des HUG

Texte:

Photos:

Fiabilité et précision

Mots clés:

En savoir plus

Intelligence artificielle : limiter les risques

Texte:

Photos:

Pas de confiance aveugle

Dossier Intelligence artificielle

Mots clés:

Crédits photos portraits: