Comment l’IA peut aider – et nuire – lorsque les gens collectent des fonds pour des besoins médicaux urgents

Comment l’IA peut aider – et nuire – lorsque les gens collectent des fonds pour des besoins médicaux urgents
Comment l’IA peut aider – et nuire – lorsque les gens collectent des fonds pour des besoins médicaux urgents

Malgré quelques échecs très médiatisés, les modèles d’intelligence artificielle tels que ChatGPT ont géré de manière impressionnante des tâches allant de la recherche de dissertations à l’écriture de code informatique à la composition de sonnets sur le changement climatique dans le style de Shakespeare. Il est donc fascinant de considérer la différence qu’ils pourraient faire en contribuant à quelque chose où les besoins sont urgents et où les enjeux sont souvent de vie ou de mort.

En tant qu’universitaire axé sur l’intersection de la communication, de la science des données et de la technologie, le Dr Larry Zhiming Xu, professeur adjoint de communication stratégique au Diederich College of Communication, mène depuis des années des recherches sur l’un de ces projets à enjeux élevés : l’utilisation par les gens de des plateformes de financement participatif pour accéder à de larges bases de donateurs en ligne afin d’aider à fournir des soins médicaux essentiels.

Alors que ses premiers travaux se concentraient sur la capacité du financement participatif à réaliser quelque chose de remarquable – surmonter la réticence habituelle des gens à donner de l’argent à des étrangers, souvent en tirant parti d’affinités telles que le partage d’expériences avec la même maladie – des études plus récentes ont révélé les luttes bien trop humaines. cela fait échouer ces campagnes. « Si je dois récolter des fonds pour un membre de ma famille, je dois être désespéré », explique Xu. « Je n’ai probablement pas le temps, l’énergie et les ressources nécessaires pour écrire une bonne histoire, prendre des photos ou peut-être tourner une vidéo. Pourtant, ce sont des choses très importantes pour convaincre les gens que je fais cela pour des raisons légitimes.»

Il était donc naturel pour Xu de s’interroger sur le rôle que l’IA générative pourrait jouer dans l’amélioration des efforts de financement participatif des gens – et sur les problèmes pratiques et éthiques que cette aide pourrait poser.

Ce ne sont plus des questions strictement académiques, note Xu. Les plateformes de financement participatif telles qu’AngeLink et GiveAsia intègrent des outils intégrés pour aider les utilisateurs à affiner leurs campagnes grâce à une « narration basée sur l’IA ». Et les personnes confrontées à des factures médicales importantes sont libres de gérer leurs projets de collecte de fonds via un assistant IA tel que ChatGPT pour obtenir une aide à la rédaction.

« Maintenant que l’IA a le potentiel d’aider les gens dans ces campagnes, lorsqu’elle est réellement utilisée, est-elle vraiment utile ? Cela augmente-t-il l’efficacité et la fiabilité, ou est-ce que des conséquences inattendues se produisent ? »

Dr Larry Zhiming Xu

C’était une raison de plus pour Xu de se lancer dans l’action, en recrutant des collègues professeurs d’informatique et de systèmes d’information pour s’associer à deux études de recherche financées par une subvention de 50 000 $ du Northwestern Mutual Data Science Institute. Marquette est une institution phare du NMDSI, avec l’Université du Wisconsin-Milwaukee et Northwestern Mutual, et Xu et ses partenaires de recherche sont des professeurs affiliés au NMDSI. Xu est enthousiasmé par la facilitation par l’institut de la collaboration et des synergies entre professeurs. Et dans ces études, elles se sont révélées productives, conduisant les chercheurs à des conclusions montrant de manière significative comment l’IA peut améliorer les appels à la collecte de fonds, tout en révélant également une érosion indésirable de la confiance que l’implication de l’IA peut générer, si elle est divulguée aux donateurs potentiels.

Dans la première étude, Xu a été chercheur principal et s’est associé au Dr Praveen Madiraju, professeur d’informatique, et au Dr Kambiz Saffarizadeh, professeur adjoint de gestion, pour examiner ce que l’on appelle les « problèmes d’alignement » dans l’adaptation de l’IA générative aux efforts de financement participatif, ou comme le dit Xu en demandant : « Maintenant que l’IA a le potentiel d’aider les gens dans ces campagnes, lorsqu’elle est réellement utilisée, est-elle vraiment utile ? » Cela augmente-t-il l’efficacité et la fiabilité, ou est-ce que des conséquences inattendues se produisent ? »

Une autre innovation de Xu, celle-ci orientée vers les étudiants.

Pour mener l’étude, l’équipe de recherche a visité le site populaire GoFundMe et a accédé à tous ses projets de financement participatif médical accessibles au public, récupérant plus de 900 écrits par des humains. Les chercheurs ont ensuite utilisé ChatGPT pour réécrire les histoires d’une manière que le chatbot jugeait plus efficace. (Ayant absorbé l’intégralité d’Internet comme matériel d’apprentissage, ChatGPT est familier avec les projets de financement participatif et les attributs de ceux qui réussissent, explique Xu.)

En utilisant des outils d’analyse textuelle établis pour mesurer la présence d’éléments associés au succès d’une collecte de fonds, Xu et ses partenaires ont généralement observé que l’IA surpassait les écrivains humains. L’écriture améliorée par l’IA s’est avérée 8 % plus analytique, 16 % plus susceptible d’utiliser un langage axé sur un objectif lié à l’argent et, comprenez ceci, 10,5 % plus chargée émotionnellement que les écrivains humains. “Les gens pensent que l’IA est plus robotique, mais ce n’est pas vrai”, explique Xu. « L’IA peut utiliser un meilleur vocabulaire avec des mots plus émotionnels, car dans ce contexte, l’empathie est apparemment très importante. Les gens doivent être émus émotionnellement pour prendre leurs décisions.

Bien que ChatGPT ait même utilisé 37 % de mots en moins pour atteindre ces mesures impressionnantes, l’analyse a suscité une mise en garde. Les histoires améliorées par l’IA ont été mesurées comme étant 15,4 % moins authentiques que les originaux humains, sur la base d’un système qui recherche les signes de communication spontanée ou parfois imparfaite observée dans la vie réelle. “L’IA était jugée moins authentique”, explique Xu, “peut-être un peu trop raffinée, un peu trop parfaite”.

« Nous assistons à ce constat quelque peu paradoxal sur le plan éthique, selon lequel l’honnêteté et la transparence coûtent cher et sont punies. »

Dr Xu

Pour l’étude suivante, Xu s’est associé au Dr Terence Ow, professeur de systèmes d’information et d’analyse au College of Business Administration, et est allé plus loin en recrutant 600 juges humains afin que leur réaction aux collectes de fonds traditionnelles et améliorées par l’IA puisse être comparée, ainsi que si la présence de l’IA a affecté leur volonté de soutenir une campagne.

L’histoire courte, dit Xu, est que les juges n’ont pas pu déterminer si les projets étaient améliorés avec l’IA ou non, simplement à partir des marqueurs linguistiques. Mais lorsqu’un groupe a été informé de l’implication de l’IA dans un projet et que d’autres ont été laissés dans l’ignorance, leurs réactions ont divergé. « Si nous disons aux gens que quelque chose a été généré par l’IA, ils croient tout d’un coup que cette technologie est inférieure et leur confiance s’érode », explique Xu. Lorsque les participants ont pris connaissance du rôle de l’IA dans un projet, le montant de leur don a chuté de 22,5 %.

Au milieu des appels croissants à une transparence totale pour les textes, images et vidéos générés par l’IA – un mouvement que Xu soutient – ​​ces résultats soulèvent des implications qui ne seront pas faciles à résoudre, dit-il. « Nous assistons à ce constat quelque peu éthiquement paradoxal selon lequel l’honnêteté et la transparence coûtent cher et sont punies. Si je collecte des fonds pour un membre de ma famille, l’utilisation de l’IA générative ne rend pas nécessairement ma pratique contraire à l’éthique. Mais la question est de savoir si les collecteurs de fonds veulent supporter un coût financier supplémentaire en raison de leur transparence.»

Grâce à leur implication dans le NMDSI (où Xu co-préside également le sous-comité régional des talents du groupe) et à une communauté de science des données de plus en plus solide à Marquette qui couvre des disciplines telles que la communication, les affaires, les études sur la santé et l’informatique, Xu et ses collègues seront bien placés pour explorer plus en détail ces défis ainsi que d’autres associés à l’utilisation de l’IA, et fournir des conseils essentiels tout au long du processus.

 
For Latest Updates Follow us on Google News
 

PREV un sondage choc avant les élections européennes
NEXT le taux d’inflation devrait augmenter en mai