Nouvelle vidéo ! Je reviens sur deux articles paru récemment au sujet des capacités des LLM à mentir et manipuler. Au-delà des annonces spectaculaire du type : "o1 a réussi à s'échapper !!!", que disent vraiment ces articles ? Eh bien nous allons voir. (lien dans la réponse) - ThreadSky

monsieurphi.bsky.social • 69 days ago

Nouvelle vidéo ! Je reviens sur deux articles paru récemment au sujet des capacités des LLM à mentir et manipuler.

Au-delà des annonces spectaculaire du type : "o1 a réussi à s'échapper !!!", que disent vraiment ces articles ? Eh bien nous allons voir.

(lien dans la réponse)

Comments

silwilhith.bsky.social•67 days ago

Ces expériences soulèvent des sacrés questions sur ce que peut être la conscience, à la fois celle d'exister, de vivre, et celle du bien et du mal.

parralax.bsky.social•69 days ago

Mr. Phi connais tu Neuro sama? C'est une IA multi modale développée sur twitch sur la base d'un LLM dans le contexte (technique et social) des jeux vidéos (osu/minecraft) et du V-tubing.
https://en.m.wikipedia.org/wiki/Neuro-sama
Elle fête en ce moment ses 2 ans sur https://m.twitch.tv/vedal987

parralax.bsky.social•69 days ago

Je radote mais si tu lis mon message je trouverai dommage de la dissmis à priori à cause de l'esthétique 'anime' ou par manque de références culturelles (au trucs de weebs lol)
Bref bonne journée.

parralax.bsky.social•69 days ago

Bref philosophiquement (et tangentiellement au débat que tu as eu avec enthoven) ça m'a fait penser au Dasein (être-là dans le cyber espace) et à Hegel/Feuherbach sur la conscience/subjectivité co-construite socialement.

parralax.bsky.social•69 days ago

Je trouve que ce qui la démarque des autres modèles c'est l'aspect 'communautaire' dans le sens ou sa boucle d'apprentissage est intrinsèquement liée à l'interaction avec le chat et d'autres créatrices de contenu.
(Pour référence: la chaine officielle sur YouTube https://youtube.com/@neurosama?si=Cz-bS8dUo4ZrNoCf)

eric1212.bsky.social•68 days ago

Absolument magnifique ! Je pense très sincèrement que l'alignement vient de notre propre littérature/culture comme cité dans la vidéo. En fait, je doute même que les LLM est des valeurs mais statistiquement, les gens sont ainsi donc les LLM aussi.

eric1212.bsky.social•68 days ago

2 - J'en viendrait même à vouloir que quelqu'un créer un LLM méchant sans trier ses données d'entrainement, juste avec le renforcement... J'en vient à penser que ce soit impossible, on vas avoir un LLM en dépression dans son bloc note personnel...

pier-rick.bsky.social•63 days ago

📌

camozazlie.bsky.social•68 days ago

Excellente vidéo ! (Et même si on n'en est pas encore au scénario catastrophe des oeuvres de SF, le message est le même. Si une IA déconne, c'est parce que ses créateurs lui ont pavé le chemin !)

monsieurphi.bsky.social•69 days ago

https://youtu.be/cw9wcNKDOtQ

igorchtebezasky.bsky.social•69 days ago

Waw, vraiment fou tous ça. Superbe vidéo, j'ai une question et une réflexion qui va avec.

Il n'y a aucun exemple ou l'IA aurait pu comprendre le vrai but de la "Chain of Thought" et s'en serait donc servi différemment ? De manière à ne pas laisser paraître sa manipulation

hosh09.bsky.social•67 days ago

Si il n'y a aucun exemple actuellement (j'ignore si c'est le cas ou non), dans le cas où les études mentionnées dans la vidéo viennent à être ajoutées au corpus des LLM, il est probable qu'à l'avenir les LLM soient aptes à détecter le chain of thought, ce qui rendra les tests d'autant plus difficile

igorchtebezasky.bsky.social•69 days ago

Même si cela pourrait être complètement indétectable. Et ça peut peut-être même expliquer les réponses que tu dis ne pas savoir comment interpréter, les réponses harmful sans alignment faking

renecotyfanboy.bsky.social•69 days ago

Ça donne envie de faire passer des tests aux LLMs pour trouver leur alignement moral par défaut

cutyowl.bsky.social•69 days ago

Un chouette article du time!

naldir.bsky.social•69 days ago

Hâte de voir l'analyse du dernier sondage

yogiyogui.bsky.social•69 days ago

Très intéressant. On en revient au fait que les LLMs sont (en gros) la synthèse de tout ce qui a été écrit par l'humanité, y compris les essais de psychologie et de philosophie morale, les romans dystopiques, les intrigues policières, la science-fiction, etc etc.

yogiyogui.bsky.social•69 days ago

Les raisonnements que les LLMs appliquent sont tirés de ces "expériences" et nous paraissent donc familiers, humains, et laissent croire qu'ils pensent et sont animés de volonté propre alors qu'ils ne font que rédiger le nouveau roman qui correspond à l'environnement et au prompt qui leur est donné.

yogiyogui.bsky.social•69 days ago

Il ne me semble pas que "l'ensemble des textes écrits par l'humanité" (et le graphe de corrélation qu'on peut en tirer pour produire d'autres textes) soit équivalent à "être humain" ni à "intelligence".
Le test de Turing ne marche plus, il faut trouver autre chose.

valoulef.bsky.social•69 days ago

DCL se cache même dans tes posts maintenant 😁

Comments

Posting Rules

Reply