Google aura accès aux données sur nos enfants. Y’a du bon mais aussi de l’inquiétant là-dedans: « Quebec Schools Turn to AI to “Analyze Risks” to Students – The Rover » https://therover.ca/... - ThreadSky

olivierniquet.com • 19 days ago

Google aura accès aux données sur nos enfants. Y’a du bon mais aussi de l’inquiétant là-dedans: « Quebec Schools Turn to AI to “Analyze Risks” to Students – The Rover » https://therover.ca/quebec-schools-turn-to-ai-to-analyze-risks-to-students/?utm_source=dlvr.it&utm_medium=bluesky

Comments

mariloupage.bsky.social•19 days ago

C’est une horreur et possiblement une violation des droits des enfants et des parents.

jotoucan.bsky.social•19 days ago

J'ai de la difficulté à repérer le bon là-dedans? Surtout qu'en lisant l'article, on ne nous informe pas (probablement parce que cette information n'existe pas) du comment les informations recueillies vont être utilisées afin d'améliorer les services aux enfants.

mariloupage.bsky.social•19 days ago

C’est pour entraîner leur IA. Ceux qui pensent qu’on en retirera quelconque avantage vont être très déçus.

carhovington.bsky.social•19 days ago

Un algorithme peut par exemple prédire quels élèves présentent un risque de décrochage, ce qui permet d'intervenir plus tôt.

jotoucan.bsky.social•19 days ago

Certainement. Je m'interroge par contre sur l'utilisation d'un service extérieur (Google) a qui nous donnerions ces données (sans consentement). Ne pourrions-nous pas developper un projet original, avec les cerveaux d'ici qui ont à coeur les enjeux d'ici?

olivierniquet.com•19 days ago

En effet. Il y a plusieurs LLM open source qu’ils pourraient utiliser sur leurs serveurs. Eric Caire va sûrement régler ça. Ou pas.

olivierniquet.com•19 days ago

Je pense que l’idée c’est de mieux identifier les problèmes de développement sans biais (en tout cas, sans les biais des humains). En pratique, est-ce que ça va bien s’opérationnaliser, je sais pas.

jotoucan.bsky.social•19 days ago

Oui, c'est l'aspect opérationnel qui reste flou. Les problèmes du milieu de l'éducation sont documentés, la solution est-elle vraiment des nouvelles technologies (encore mal comprises)? Ça ressemble à du solutionnisme.

falzir.bsky.social•19 days ago

Et même si la machine fait les meilleures recommandations possibles (ce qui est loin d'être sûr), est-ce qu'ils vont avoir les ressources pour les appliquer?

absimard.bsky.social•19 days ago

J'ai l'impression que c'est déjà ça le nœud du problème. Les enseignantes que je connais sont toutes en mesure d'identifier leurs élèves à risque, mais les ressources pour les prendre en charge n'existent pas.

falzir.bsky.social•19 days ago

Si le thème vous intéresse, un excellent livre sur le sujet et les dangers de ces IA:
https://www.goodreads.com/book/show/28186015-weapons-of-math-destruction

falzir.bsky.social•19 days ago

Je comprends l'intérêt du point de vue des gestionnaires.
Le problème c'est quand la machine se met à cracher des recommandations incompréhensibles, autant d'un côté comme de l'autre (intervenir ou pas). On lui fait confiance? Et personne ne sera capable "d'expliquer" les décisions de la machine.

darock.bsky.social•19 days ago

C'est fait pour être utilisé par des spécialistes : des intervenants des pédagogues et des orthopédagogues. Des gens qui connaissent le domaine. Qui seront capable de discerner et analyser les recommandations.

fredplamondon.bsky.social•19 days ago

1. Le bon, c'est le souci d'intervenir le plus tôt possible. L'inquiétant, c'est de faire confiance à Google et d'apprendre que le Mila n'est plus mis à contribution. Cela implique sans doute que nous n'aurons pas le contrôle sur les valeurs utilisées dans le modèle.

fredplamondon.bsky.social•19 days ago

2. Le cas échéant, il faudra prendre des décisions à partir des résultats d'un modèle et compter sur le ministère et des enseignants surchargés pour ne pas faire aveuglément confiance à ces résultats.

fredplamondon.bsky.social•19 days ago

3. On laisse à des ingénieurs d'une multinationale souvent délinquante, flirtant avec le complexe militaro-industriel, le soins de penser un modèle d'IA prédictif appliqué à l'éducation des enfants tout en privant les parents d'un droit de regard.

fredplamondon.bsky.social•19 days ago

4. Technosolutionnisme tout bête : un ministère cherche une solution technologique miracle pour résoudre un problème sociopolitique.

Refinancer l'éducation? Nah. C'est plus simple de donner des millions à une compagnie alignée sur l'agenda politique des oligarques la Silicon Valley.

richardbellavance.bsky.social•19 days ago

Mais c'est complètement insensé ce truc! Sûrement (espérons) que des parents vont contester en cour.

darock.bsky.social•19 days ago

C'est important de comprendre que ces outils sont fait pour être utilisé par des professionnels spécialistes du domaine.

mscoq.bsky.social•19 days ago

Google a accès aux données des animaux de compagnie et exploite les ultrasons pour communiquer avec eux

C'est ça qu'y'arrive quand tu fais pas de lois pour l'IA

mscoq.bsky.social•19 days ago

Tout ce qui peut arriver va arriver

Comments

Posting Rules

Reply