Un fil indispensable à lire et à faire lire sur l’utilisation de chatbots fondé sur des LLM en éducation. Ne pas oublier de traiter la conformité RGPD avec le rectorat ou le chef d’établissement en plus de ces précautions et questionnements. #quonseledise - ThreadSky

fbocquet.bsky.social • 26 days ago

Un fil indispensable à lire et à faire lire sur l’utilisation de chatbots fondé sur des LLM en éducation. Ne pas oublier de traiter la conformité RGPD avec le rectorat ou le chef d’établissement en plus de ces précautions et questionnements. #quonseledise

Reposted from Benjamin Thily

#IA #Chatbots en #éducation : on voit éclore un peu partout des "assistants" aux apprentissages (Huggingface, character ai et autres), et plusieurs points me dérangent pas mal sur le sujet. Notamment l'inadéquation des réponses au contexte très particulier de conversations avec des mineurs. ⤵

Comments

bthily.bsky.social•26 days ago

Attention toutefois : si les réponses du bot correspondent bien à ce qui est attendu, une seconde salve plus insistante le fait invariablement céder, pour refaire de lui l’inepte « béni-oui-oui » qu’il est par défaut (du moins ces modèles grand public polyvalents).

bthily.bsky.social•26 days ago

A voir s’il n’est pas possible de concevoir des systèmes spécifiquement dédiés à l’éducation, et intégrant des garde-fous plus solides (même si, semble-t-il, il n’y aura jamais de solution parfaite).

fbocquet.bsky.social•26 days ago

C’est sans doute la perspective pertinente si possible à très court terme avec un dispositif accessible depuis les ENT et une supervision des usages par les enseignants et conseillers d’éducation. Ça permettrait d’ajuster le système de réponse et de garantir la protection des données. Beau défi !

bthily.bsky.social•26 days ago

Il me paraîtrait nécessaire en effet que ces « mentions garde-fous » puissent être à la main des équipes pédagogiques, afin d’assurer une cohérence des réponses avec le projet éducatif local et les dispositifs déjà en place.

bthily.bsky.social•26 days ago

La création d’un modèle d’agent conversationnel modulaire par le MEN (une idée de commun numérique ?), motorisable par un modèle de LLM open source et ajustable par les établissements eux-mêmes, serait en effet un beau projet : utile, cohérent, explicable, pédagogique.

fbocquet.bsky.social•26 days ago

Et c’est déjà réalisable depuis plus d’un an sans aucun problème avec Mistral par exemple ;-) Faut juste que le ministère, l’INRIA ou des éditeurs edtechs se mettent au boulot en France ;-)

fbocquet.bsky.social•26 days ago

J’ajouterai une mise en conformité RGPD nationale pour éviter les soucis locaux et des fonctionnalités de supervision pour les adultes (qui a utilisé quoi pour quoi faire en contexte pédagogique) ce qui augmenterait les scénarios possibles pour accompagner les élèves et apporterai de la sécurité.

Comments

Posting Rules

Reply