Les Capsules de l’IA en Santé – c’est quoi ?

Ce sont des interviews exclusives d’experts sur l’IA générative appliquée au secteur de la santé. 

ATAWAO Healthcare vous propose une série de vidéos courtes pour démocratiser et valoriser les usages de l’intelligence artificielle en santé.

Vous retrouvez des interviews en format “capsule” avec des experts du domaine pour répondre aux questions que se posent les professionnels.

Retrouvez la partie 1 de nos vidéos ici -> https://atawao-consulting.com/actualites/les-capsules-de-lia-en-sante/

1 – Interview – Quelles sont les données utilisées par l’I.A en santé ?

Antoine Dubois :

 » l’Hôpital de Berne fournit en fait l’ensemble de ces données patients pour son service d’urgences. Vous avez deux types de données qui sont utilisées par l’entraînement. Des données utilisées par le fournisseur de la solution. Pour un chatbot IA classique, il va utiliser beaucoup de données publiques. Et puis les données d’entreprises qui sont utilisées pour améliorer la réponse sur les questions d’entreprises. Donc vérifier les données entreprises qui sont utilisées est relativement facile. Si vous lui donnez par exemple des données marketing et que vous lui poser des questions sur des ressources humaines par exemple, il va essayer de répondre, mais il va mal répondre, il va faire beaucoup d’erreurs. Ce qu’on appelle des hallucinations. Donc on lui pose pas de questions s’il n’a pas des données qui correspondent au domaine qui nous intéresse. Donc ça c’est la partie facile, c’est la partie des données d’entreprises. Pour les données publiques, c’est beaucoup plus difficile parce qu’en fait les éditeurs de solutions publient pas de manière officielle les données qui sont utilisées. C’est à dire ? D’une manière générale, on utilise toutes les données publiques accessibles sur Internet, c’est à dire par exemple, l’ensemble des sites web qui ont été créés depuis 2008, c’est à dire on utilise des archives du Net qui contiennent ces données là pour pour entraîner les moteurs, mais ça vous dit pas en fait, si, dans ces archives là, en fait, il y a des données de santé ou pas, des données de santé. Si on en vient au domaine de la santé par exemple, on sait que la majorité des outils ont été entraînés avec des données de PubMed plus d’autres sources d’informations scientifiques dans le domaine de la santé, mais en tout cas les données PubMed. Donc on peut en déduire que l’IA va être compétente pour répondre à des questions sur des études cliniques, sur des résultats d’études cliniques, sur des choses comme ça. On a une bonne confiance dans le fait qu’elle soit capable de répondre à ces données là. Par contre, on constate que l’IA est aussi capable de répondre sur des données patients. C’est à dire que si on lui soumet un dossier patient, il est capable de faire un diagnostic et de proposer un protocole de soins. Or, pour faire ça, en fait, il a dû avoir accès à des données de dossier patients et donc il faire un peu de recherche pour savoir quelles données patients ont été utilisées. Alors je vais donner quelques exemples. l’Hôpital de Berne fournit en fait l’ensemble de ces données patients pour son service d’urgence. Donc, les éditeurs de solutions utilisent ces données là en fait, pour avoir une connaissance des patients en situation d’urgence. Au MIT vous allez trouver en fait une base de données qui s’appelle “Physionet”, qui est en fait un ensemble de dossiers patients sur différentes thématiques. Certains éditeurs de solutions utilisent ce type de données pour alimenter avec des dossiers patients. Donc on peut penser que dans ce cadre là, ça le rend apte à répondre à des questions sur les diagnostics et les protocoles de soins, sur des questions plus directes en médecine, on va utiliser en fait des résultats d’examens. Certains moteurs de recherche utilisent par exemple les questions et réponses des examens de médecine américains. Ils utilisent aussi les questions réponses des examens de médecine des étudiants indiens. Donc ça, c’est une base d’entraînement. Donc, à partir du moment où on valide que le niveau de compétence des médecins américains, le niveau de compétence des médecins indiens est de bonne qualité, on peut en déduire que les questions et les réponses sont de bonne qualité. »

2 – L’IA, Quel impact en médecine ?

Antoine Dubois : 

 » L’Académie de médecine s’y est pas trompé, elle a publié un document il y a un an avec une dizaine de recommandations, insistant sur le fait que les médecins devaient être formés à l’utilisation de l’IA générative. L’impact de l’IA en médecine va être majeur. D’abord, c’est l’un des secteurs les plus anciens sur lequel il y a des innovations en intelligence artificielle. Et c’est un des secteurs qui innove le plus sur ce sujet là en fait. Il y a plus de 700 articles sur l’IA générative qui ont été publiés, ne serait ce qu’en 2024, dans la base de données PubMed. Et pour la grande majorité de ces articles là, les résultats sont époustouflants. L’IA apporte des bénéfices sur toutes les toutes les étapes du parcours de soins, que ce soit l’épidémiologie, que ce soit le dépistage, que ce soit l’aide au diagnostic, que ce soit sur le choix de protocole, sur l’accompagnement des patients dans la gestion de leur routine de soins et bien évidemment sur la recherche de nouveaux traitements. Donc l’impact est majeur. L’Académie de médecine s’y est pas trompé, elle a publié un document il y a un an avec une dizaine de recommandations, insistant sur le fait que les médecins devaient être formés à l’utilisation de l’IA générative. Ils devaient être formés de manière responsable et donc l’IA devait être déployée de manière sécurisée et contrôlée, responsable dans les structures de soins auprès des auprès des professionnels de santé. Le deuxième élément qui fait que l’IA va être va avoir un impact majeur, c’est qu’on commence à voir apparaître en fait, dans les domaines médicaux qui sont les plus anciens, comme la radiologie des études à grande échelle. Il y a une étude qui a été publié il y a deux ans en Suède, qui porte sur 80 000 patientes dans le cadre d’un dépistage diagnostic du cancer du sein. L’étude a comparé pendant un an le travail de deux radiologues humains avec une équipe composée d’un radiologue humain et d’une IA. Le résultat de l’étude montre que le niveau de qualité de réponse apportée est le même entre les deux équipes, mais que l’équipe composée d’un humain et d’une IA en fait gagner 40 % de temps de travail par rapport à l’autre équipe. Et on commence à voir des études à grande échelle sur effectivement le résulta d’un travail d’assistant IA avec des médecins. Donc l’impact va être majeur. »

3 – Quel impact pour les patients ?

Antoine Dubois :

 » Il y a énormément d’études qui ont été publiées sur le fait de coacher un patient avec un chatbot et les résultats sont assez étonnant. Compte tenu de la pénurie de professionnels de santé, les patients ont de plus en plus de mal à accéder à un médecin ou il y a de plus en plus de délais pour accéder à un médecin. Et ça, c’est un problème qui est général en santé, ce n’est pas un problème franco français. Donc les patients se tournent de plus en plus vers des solutions de type chatbot. Et donc c’est pareil. Il y a énormément d’études qui ont été publiées sur le fait de coacher un patient avec un chatbot et les résultats sont assez étonnant. Le chatbot est tout à fait capable d’aider le patient à comprendre les résultats d’examens. Le chatbot est tout à fait capable d’aider le patient à comprendre son ordonnance. Il est tout à fait capable de lui rappeler des rendez vous, des routines de soins, c’est à dire quand prendre ses traitements, comment prendre ces traitements. Et il est capable de répondre à toutes les questions que le patient peut avoir de la plus simple à la plus compliquée. Donc ça, c’est déjà quelque chose d’étonnant. Alors pour l’instant, ça se fait en utilisant des outils généralistes, donc qu’ont pas été développés dans un cadre de médecine, mais les résultats sont très bons et on commence à voir des outils développés effectivement dans un cadre purement médical, avec de meilleurs garde fous pour le patient. Un autre effet qu’on a qui commence à être constaté, c’est que les patients développent une empathie pour ce type d’outils. Là où on pensait que les patients seraient développeraient beaucoup plus d’empathie vers le professionnel de santé humain que vers un outil,  c’est exactement l’inverse qui se passe. Très rapidement en fait, les études montrent un attachement, une modification du rapport bénéfice risque en faveur du bénéfice dans le fait qu’un patient utilise un chatbot IA. Ce qui fait qu’il y a énormément d’applications effectivement dans le domaine de la santé mentale qui se développent avec des résultats qui commencent à être validés. Sur le fait qu’effectivement il y a, ça améliore la prise en charge de la dépression, ça améliore la prise en charge de l’anxiété, etc. L’acceptabilité de ce type d’outils est très, très bonne et même meilleure en fait que dans le cadre d’humain. Donc il est évident que d’ici deux ou trois ans, tous les patients auront accès à un chatbot, un coach pour leur santé. »

4 – l’IA, quel impact pour les professionnels de santé ?

Antoine Dubois : 

« La raison principale quand même, c’est qu’en cas de problème, le pilote est susceptible de devoir reprendre la main. Et effectivement, le pilote est susceptible de pouvoir reprendre la main parce qu’il reste compétent. À partir du moment où je délègue une tâche, j’automatise une tâche par une machine, comment je maintiens mes compétences ? Et en particulier en médecine, à partir du moment où l’outil, en fait, est capable de fournir un diagnostic et un protocole de soins, comment je valide, moi, médecin, que la recommandation apportée par l’outil est bonne ? C’est un problème qui existe déjà dans d’autres industries et donc qui devrait probablement se déployer aussi en médecine. C’est à dire que par exemple, dans le secteur aéronautique, les avions de ligne sont capables de décoller, voler, atterrir tout seul. Pour autant, il y a toujours des pilotes dans l’avion et pour autant, ils sont toujours compétents. Alors ils sont dans l’avion pour des questions de confiance, les passagers, probablement n’accepteraient pas de monter dans un avion sans pilote. La raison principale quand même, c’est qu’en cas de problème, le pilote est susceptible de devoir reprendre la main. Et effectivement, le pilote est susceptible de pouvoir reprendre la main parce qu’il reste compétent. Et la façon qu’il a de rester compétent, c’est de s’entraîner. Les pilotes passent énormément de temps en simulateur pour maintenir leur niveau de compétence, de pilotage d’avion et donc d’être capable de piloter un avion s’il y a un problème. C’est très probablement ce qui va se passer en médecine. À partir du moment où les médecins passent moins de temps à faire un diagnostic ou à faire un protocole, ils vont avoir du temps libre. Alors certes, pour passer avec des patients, mais il vont avoir du temps libre pour se former. Donc ils vont passer probablement de plus en plus de temps en simulation, en formation pour maintenir leur niveau de compétence. Donc ce problème là, en fait, a déjà été résolu dans d’autres secteurs et il est probable qu’on résolve de la même façon en fait, dans le secteur de la santé. »

5 – Comment contrôler les résultats de l’I.A pour des question de médecine ?

Antoine Dubois : 

« Il faut se méfier des réponses qui sont trop générales, trop sûres d’elles, etc. Il faut tester en fait le type de réponse qu’on veut faire en fonction de l’usage qu’on veut en faire. Pour ce contrôle là, on va faire la même chose que ce que font des spécialistes du sujet qui sont par exemple des journalistes. Les journalistes contrôlent leurs sources de données avant de fournir une information. Les éléments de contrôle d’une source c’est : “d’où vient l’information ?” Donc est ce que l’information a été publiée par une source de confiance ? En médecine ça peut être l’Inserm, ça peut être des autorités de santé, ça peut être ce genre de chose. Ensuite, on va multiplier les sources, c’est à dire qu’on ne va pas faire confiance à une seule source d’information, mais on va synthétiser plusieurs sources concordantes qui peuvent amener à penser que l’information est juste. Le deuxième élément de contrôle, c’est la contextualisation. Une source peut être juste, mais obsolète. Il peut très bien y avoir des recommandations de médecine qui datent d’il y a 50 ans, elles étaient justes il y a 50 ans, compte tenu des connaissances en médecine qu’on avait jusque là. Mais elles peuvent être obsolètes aujourd’hui. On va contrôler le fait que la source est encore actuelle et que l’information n’est pas obsolète, ne date pas de plusieurs années. Le dernier élément qui va être utilisé pour faire du contrôle l’analyse de la réponse qui est fourni. Il faut se méfier des réponses qui sont trop générales, trop sûres d’elles, etc. Il faut tester en fait le type de réponse qu’on veut faire en fonction de l’usage qu’on veut en faire. Un dernier élément, c’est dans le cadre d’une argumentation sur un sujet, c’est de demander à l’IA de faire une argumentation en faveur du sujet et de faire une argumentation inverse en défaveur du sujet. Ça, ça permet par exemple d’avoir un équilibre sur des points de vue qui peuvent être opposés et donc d’en déduire l’information qu’on veut véhiculer une fois la réponse fournie. L’autre élément effectivement qui est important, la précision de la réponse dépend de la précision de la question. Ça paraît un peu évident à dire comme ça, mais plus la question posée comporte de détails, plus la question posée comporte de sources d’informations que peut utiliser l’IA, par exemple une étude en même temps que la question qu’on va fournir à l’IA plus la réponse posée va être précise. Il y a un point important à souligner, c’est que pour des questions de temps de calcul, de temps machine, quand vous fournissez un document à une IA, l’IA ne va pas lire l’ensemble du document. Ça dépend des solutions, mais l’IA est susceptible de lire entre un tiers et la moitié du contenu. Donc si vous voulez que votre réponse tienne compte de l’ensemble du contenu de l’ensemble d’une étude que vous avez fournie, il faut demander en fait à l’IA, via un certain nombre d’astuces, en fait, de lire l’ensemble du document, par exemple en lui demandant l’ensemble de la structure du document en lui demandant de résumer toute une partie du document, une fois que vous connaissez la structure, etc. La précision se gagne avec une précision dans les éléments de la question posée. Un découpage éventuellement d’une question complexe en question simple, et puis la fourniture de sources d’information. Que peut utiliser l’IA pour répondre précisément à votre question. »

6 – Dans quelle mesure peut-on utiliser l’I.A en confiance ? 

7 – Quelles sont les conséquences et les limites de l’IA sur la société ? 

Antoine Dubois : 

« Le fait de fournir un coach, un assistant coach à des patients qui n’ont pas accès à des professionnels de santé est extrêmement important. L’intelligence artificielle, au même titre qu’Internet, a un pouvoir de transformation qui est extrêmement important. Donc, il y a beaucoup de questions sur l’emploi, notamment sur le fait de savoir à quoi les humains vont occuper leur temps, si l’IA est capable de faire à peu près tout le travail qui est réalisé par des humains. C’est une bonne question.C’est une question effectivement sur laquelle il faut discuter. ar contre, il faut bien distinguer la technologie de l’usage qu’on en fait. Internet est une technologie, le téléphone est une technologie. Critiquer en fait, Internet ou l’intelligence artificielle en tant que technologie a pas beaucoup de sens. Par contre, pour Internet, avoir un dialogue sur l’usage par exemple des réseaux sociaux qui est un des usages d’internet est important. Parce qu’effectivement les réseaux sociaux apportent plein de problèmes sur le débat démocratique, par exemple sur le fonctionnement des sociétés. Et il y a beaucoup d’articles là dessus. C’est le même type de débat, en fait, qu’on doit avoir au niveau de l’IA. L’IA en tant que tel est une technologie source de progrès, mais aussi source de choses qui sont soit inutiles, soit qui sont néfastes. Donc c’est important d’avoir un regard critique sur le fait de dire on veut effectivement développer ce type d’usage pour l’IA, le fait de fournir un coach, un assistant coach à des patients qu’ont pas accès à des professionnels de santé est extrêmement important. Le fait de développer par exemple un outil de reconnaissance faciale pour des chiens, pour des distributeurs de croquettes, c’est un usage qu’on peut effectivement critiquer. C’est un usage réel, ce dont je présente. Tout ça pour dire qu’il y a un vrai intérêt à discuter effectivement des finalités de l’IA. C’est un dialogue qu’on doit tous avoir à titre individuel, dans les entreprises, en tant que citoyen, etc. Ça, c’est un dialogue extrêmement important, beaucoup plus important que le dialogue sur la technologie sous jacente de l’IA. »

8 – Quelles solutions pour réduire la consommation énergétique de l’IA ?

Antoine Dubois :

« Il est vrai qu’aujourd’hui le fait de poser une question à un chatbot consomme 10 à 20 fois la consommation énergétique d’une requête sur un moteur de recherche. Et donc ça, c’est un problème. La consommation en énergie et en eau est un vrai sujet de l’IA. L’intelligence artificielle est utilisée à partir de data center. C’es data center consomment énormément d’énergie, environ 2 % de la consommation énergétique de la planète et effectivement une grande quantité d’eau. Il est vrai qu’aujourd’hui, le fait de poser une question à un chatbot IA consomme 10 à 20 fois la consommation énergétique d’une requête sur un moteur de recherche. Et donc ça, c’est un problème. Personnellement, je pense que c’est un problème temporaire, c’est à dire que c’est lié à la genèse de la technologie. La consommation énergétique, la consommation en eau, d’un data center ce sont des coûts, ce sont des coûts extrêmement importants pour les sociétés qui développent ce type de solutions. Donc elles réfléchissent énormément à diminuer ce coût et donc à diminuer la consommation énergétique de la planète. Aujourd’hui, le problème n’est pas complètement résolu puisqu’on est dans une phase de développement. Mais néanmoins, on voit quand même de plus en plus des solutions qui se basent sur des moteurs d’IA qui sont plus petits, donc beaucoup moins consommateurs d’énergie. Tout simplement parce qu’en fonction d’un certain nombre de tâches, on n’a pas besoin d’un gros modèle d’intelligence artificielle, on a besoin de modèles plus petits, donc moins consommateurs. Il y a des modèles qui tournent sur des téléphones mobiles aujourd’hui, ils ne sont pas capables de faire la même chose qu’un grand chatbot IA mais il est quand même capable de faire beaucoup de choses. Donc ça, c’est la première chose. Et la deuxième chose, c’est tout simplement ce qu’on fait déjà avec un moteur de recherche, c’est à dire la mise en cache. C’est à dire que si je pose une question, l’IA va répondre à mes questions, mais si une autre personne pose la même question, je peux aller chercher la réponse qui a déjà été formulée plutôt que de re-générer une réponse. Et il y a beaucoup de questions que les gens posent de manière extrêmement redondante par exemple “quel temps il fera demain à Paris ?” c’est une question qui est posée par beaucoup de parisiens probablement tous les jours. Et donc il suffit de stocker la réponse à cette question là une bonne fois pour toutes et de servir cette réponse là aux gens. Donc voilà, il y a un certain nombre de techniques qui vont se développer pour réduire la consommation d’énergie. Donc, oui, c’est vrai que c’est un problème aujourd’hui et c’est un problème de jeunesse et probablement que c’est un problème qui va se résoudre. »

9 – Est-il sécurisé d’utiliser une IA ? 

Le format

• -> Questions / Réponses en vidéo (2 à 5 minutes max)

• -> Diffusion hebdomadaire (1 à 2 vidéos par semaine)

Si vous souhaitez plus d’informations sur ATAWAO, n’hésitez pas à nous contacter !