Sur certains iPhones sur iOS 18.1, une fonctionnalité propose des "résumés de notifications" générés par IA. Problème : l'IA fait des hallucinations. BBC News, soucieux de la qualité de ses infos, se plaint à Apple de la manière dont ses notifications d'infos sont déformées. [1/2]
Comments
(c'est drôle si on sait que c'est faux. Pour leur bugs et hallucinations... c'est quand même chaud d'avoir balancé un truc pas fini comme ça dans les tuyaux :/)
Elle va te sortir le truc avec le plus de probabilité, c'est son mode de fonctionnement.
Mais si ce qu'elle te propose a une probabilité de 99.9%, ça veut quand même dire qu'elle se plante une fois sur 1000.
Évidemment, ça va sortir de la merde tôt ou tard, je comprend même pas qu'Apple se lance la dedans...
Il faut forcément un humain pour valider tout ce qui sort de ces "IA"
On parle de l'IPhone, de l'IMac, du Newton, d'Apple maps, du Vision pro?
Mais là on parle de contenu qui est déjà plus ou moins pillé, et qui est transformé en quelque chose de faux, avec le logo et le nom de la source, c'est ultra chaud juridiquement
Avec tes conditions je suis pas sûr que grand monde y ait accès à "ladite réalité", tu crois pas?^^
(A vérifier où en sont les neurosciences la dessus, mais il me semblait que c'était qd même un peu en lien, à minima. Mais je px me tromper)
Pour les hallucinations en règle générale, oui, ça arrivera toujours (même si je note quand même une amélioration vers le moins pire)
2 - l'absence de robustesse de la réponse est testable (deux instance parallèle et comparaison de réponse, /ex)
3 - vu la taille des bourdes ça a du se voir pdt les tests, fallait pt être pas le déployé
4 - ...
On peut tester tout ce qu'on veut, ça reste un truc qui génère des conneries au hasard.
Vu cela, à la vitesse de l'info aujourd'hui, "vérifier" est compliqué...
Après l'utilité du gadget est également discutable
Et si le produit est défectueux, vaut il la peine d'être déployé? déjà que la feature est pas utile de ouf
Et je le répète, non la redondance n'amène à rien. Le problème est intrinsèque à la techno.
Lien vers l'article de la BBC : https://www.bbc.com/news/articles/cd0elzk24dno
On a accusé les IA de "piller" les sources sans rémunérer celles ci à un moment.
Qu'en est il désormais ?
Un accès limité "jouant" sur le fiabilité des réponses ?
Ou existe t il une forme de "biais algorithmique" ?
- Les IAs exploitent du contenu sur internet.
- Elles produisent des erreurs à partir d'un contenu produit par les humains.
- Ce contenu erroné est diffusé sur internet.
Qu'est-ce qui se passe quand une IA commet une erreur sur un contenu erroné d'une IA ?
https://www.youtube.com/watch?v=BWW0bGN79mc