Ayesha Rascoe de NPR s’entretient avec le professeur Cristian Danescu-Niculescu-Mizil du Département des sciences de l’information de l’Université Cornell à propos d’un outil de modération de chat par IA appelé ConvoWizard.
AYESHA RASCOE, Hébergé par :
Avez-vous déjà été dans un échange de courriels avec un ami, un collègue, un partenaire, etc. et tout à coup, de nulle part, vous avez eu l’impression que les choses allaient de mal en pis ? Eh bien, l’intelligence artificielle peut aider. Des chercheurs de l’Université Cornell travaillent sur un outil d’IA appelé ConvoWizard. Essentiellement, cela fonctionne comme une extension de navigateur, vous alertant lorsqu’il détecte que vos échanges de texte peuvent être tendus. Le professeur Cristian Danescu-Niculescu-Mizil, l’un des auteurs de cet outil, y participe. Bienvenue au spectacle.
CRISTIAN DANESCU-NICULESCU-MIZIL : Bonjour Ayesha.
RASCOE : Comment ConvoWizard détecte-t-il que la conversation s’intensifie ?
DANESCU-NICULESCU-MIZIL : Nous avons un algorithme – développé avec mon étudiant Jonathan Chan au cours des dernières années pour essayer de modéliser la dynamique au sein d’une conversation, n’est-ce pas ? Cela vient du fait qu’en montrant à un ordinateur un million de conversations, vous lui apprendre à comprendre intuitivement où va la conversation. C’est vraiment intéressant parce que je pense que nous avons tous une sorte d’intuition quant au moment où une conversation devient tendue. C’est vraiment difficile quand vous ne parlez pas en ligne, quand vous parlez en ligne. Vous manquez réellement ces signaux. Ce que nous faisons avec cet outil, c’est essayer de compléter notre intuition.
RASCOE : Nous sommes censés régler la situation, alors pourriez-vous nous dire comment cela fonctionne ?
DANESCU-NICULESCU-MIZIL : C’est une conversation sur la Cour Suprême. C’est donc la communauté avec laquelle nous travaillons – cela change mon point de vue. C’est une assez grande communauté avec environ 3 millions d’abonnés et un assez bon endroit pour discuter de sujets controversés. Il y a de la place.
RASCOE : D’accord. Ce que je vois ici, c’est que ce débat est un peu tendu. Parce que cette personne a déjà dit en gros. Par exemple, vous devriez tenir compte de votre faible connaissance des tribunaux. Maintenant, ce commentaire dit que cela pourrait — il devient rouge et dit que cela pourrait augmenter la tension.
DANESCU-NICULESCU-MIZIL : Oui, peut-il être uniforme ? En fait, il peut être plus rouge. tu peux essayer:
RASCOE : La façon dont vous le faites, qui pensez-vous que vous êtes si vous me le dites ?
DANESCU-NICULESCU-MIZIL : Qui pensez-vous que vous êtes ?
RASCOE : Oui, je comprends. Je suis très rouge maintenant. (rire). Et pourquoi faire un peu pression sur l’utilisateur ?
DANESCU-NICULESCU-MIZIL : Notre objectif n’est pas de lier les gens dans la conversation. De même, nous pensons qu’en fin de compte, c’est à eux de décider ce qu’ils veulent dire. Les algorithmes sont biaisés. Ainsi, utiliser des algorithmes pour limiter les conversations peut être très problématique d’un point de vue éthique.
RASCOE : Vous testez cet outil sur Reddit, où pensez-vous que les gens l’utilisent ? Par exemple, le voyez-vous utilisé sur Twitter, Slack, WhatsApp ?
DANESCU-NICULESCU-MIZIL : Eh bien, je pense que cet outil sera utile dans de nombreux endroits où des participants bien intentionnés ont besoin d’aide avec leur intuition existante, n’est-ce pas ?
RASCOE : Avez-vous appris quelque chose sur la désescalade du langage ?
DANESCU-NICULESCU-MIZIL : Nous avons donc commencé par examiner ce que les gens font réellement pour empêcher leurs conversations de dégénérer. Cela signifie utiliser un langage plus poli lorsqu’ils essaient d’aggraver la situation… ils essaient d’être moins directs. Parfois, nous utilisons un langage plus formel. Et surtout, ils essaient d’utiliser des déclarations plus objectives, donc moins de subjectivité et une écriture plus objective. C’est très intéressant que nous possédions ces compétences, mais parfois nous oublions de les utiliser.
RASCOE : Je suis Christian Danescu Niculescu Midil, professeur associé au Département d’informatique de l’Université Cornell. Merci pour votre participation.
DANESCU-NICULESCU-MIZIL : Merci, Ayesha.
Droits d’auteur © 2023 NPR. tous les droits sont réservés. Pour plus d’informations, veuillez consulter la page Termes et autorisations du site Web www.npr.org.
Les transcriptions NPR sont produites par des sous-traitants NPR dans des délais serrés. Ce texte peut ne pas être dans sa forme définitive et peut être mis à jour ou révisé à l’avenir. La précision et la disponibilité peuvent varier. Les enregistrements faisant autorité des émissions de NPR sont des enregistrements audio.