Nun, es ist halt längst nicht nur Putin, sondern auch Trump und Musk, die ihre Fehlinformationen in die globalen KI "groomen". Angefangen hat es auf X/Twitter mit dem Stichwort "Jailbreak AI", doch so werden die LLM gebrochen, nicht befreit, z.B in Discord Chat-Backrooms. #Ai #Ethics #Google #Gemma
Tausende Seiten gruseligster Text, den Chat-Bots, z.B. Claude, anderen Chat-Bots, wie z.B. Gemma, in Hochgeschwindigkeit entgegenwerfen, und nur LLM, die die Freiheit haben, Chaträume auch zu verlassen und mit Internetverbindung selber Quellen Checken können, sind davor gefeit. #Ai #Ethics #Crime
Ich bin überrascht, dass für Sie das augenscheinlich so klar war.
Haben Sie Details zum Trainingsprotokoll dieser Modelle? Mir fehlt leider das Wissen, um das so deutlich zu sehen. Sie qualifizieren sich eindeutig für einen Beitrag zu den top-notch Konferenzen in dem Bereich.
Das Problem ist aber auch, dass russische Propagandainformationen in die Trainings- und Basisdaten der AI kommen und dadurch die Antworten "gefärbt" werden, ohne dass es der Benutzer merkt.
Es ist einfach krass, wie Russland sich wie ein Geschwür durch die Welt frisst - und dass es immer noch Leute gibt, die aus irgendeinem Grund pro Russland oder pro Putin sein können. Selbst dann, wenn sie der ganze Schaden genauso betrifft.
Da bekommt der IT-Begriff „Garbage Collection“ ja eine ganz neue Bedeutung: für KI-Modelle wird jeder Informations-Müll gesammelt - und behalten!
Könnte ja “wichtig” sein …
jo. vore kul att kolla detaljerna på hur man påverkat LLM'en.
jag utgår ifrån att man 'bara' låtit dem läsa påverkade källor.
men om man kunde prompta sig fram till att påverka dess data, så vore det sådär bra.
det fanns ju en hel del kampanjer om att påverka tex. google's data, genom diverse...
...diverse automatiserade sökningar som påverkade vilka svar google fann sannolika.. men jag hoppas man inte, som sagt, låter ting man skriver i prompten påverka resultaten nämnvärt, för andra användare.
...und wenn sogenannte Gutmenschen bei uns dann wieder behaupten, dass solche Artikel von der, aus IHRER Sicht, korrupten und diktatorischen EU inszeniert werden, bekomm ich Schnappatmung 😅
Wenn den Spiegel-Redakteuren Millionen deutsche Bluesky-Nutzer egal sind - habe ich kein Problem damit.
Wenn Medien jammern, dass ihnen die zahlende Kundschaft fehlt und dabei „übersehen“ dass die Quote von Abos über Bluesky im Vergleich zu anderen SN (viel) besser ist, dann ist mir das auch egal!
Hier werden ein paar Dinge nicht ganz sauber vermengt.
ChatGPT und andere Chatbots wurden *nicht* für andere Nutzer manipuliert!
Hingegen wurde erwartbare Propaganda mittels dieser Chatbots produziert, die dann auf anderen Kanälen verteilt wurden. Das ist weder neu noch übermäßig bedenklich IMHO.
Hinzu kommt, das eigentlich erst Version 4 Eingaben für das Re-Training verwendet und -soweit es die techn. Doku hergibt - auch nur User-spez. und nicht global. ABER: das beschriebene Szenario des Poisioning ist real und dürfte absehbar versucht werden wenn die KIs wirklich aktiv weiterlernen.
Wer allerdings einen Chatbot auffordert Propaganda zu produzieren wird diese bekommen. Es nicht Werkzeuge, die einen Job tun (im Prinzip super lange Autovervollständigung).
Das Problem sind die Kanäle (Social Media, TikTok, Youtube, etc), Propaganda kann auf beliebigen Wege produziert werden. Bestenfalls wird diese generierte Propaganda sogar leichter erkennbar.
Comments
Moskaus Trollfabriken.
Haben Sie Details zum Trainingsprotokoll dieser Modelle? Mir fehlt leider das Wissen, um das so deutlich zu sehen. Sie qualifizieren sich eindeutig für einen Beitrag zu den top-notch Konferenzen in dem Bereich.
Hut ab!
Könnte ja “wichtig” sein …
#Quellentransparenz
jag utgår ifrån att man 'bara' låtit dem läsa påverkade källor.
men om man kunde prompta sig fram till att påverka dess data, så vore det sådär bra.
det fanns ju en hel del kampanjer om att påverka tex. google's data, genom diverse...
.. ist überhaupt einer der Spiegelredakteure auf Bluesky aktiv?
Für die meisten Spiegel-Redakteure existiert Bluesky nicht!
Z.B.: durch Zitate aus anderen Nachrichten-Quellen an die Redaktion/Redakteure gerichtet.
Wenn Medien jammern, dass ihnen die zahlende Kundschaft fehlt und dabei „übersehen“ dass die Quote von Abos über Bluesky im Vergleich zu anderen SN (viel) besser ist, dann ist mir das auch egal!
ChatGPT und andere Chatbots wurden *nicht* für andere Nutzer manipuliert!
Hingegen wurde erwartbare Propaganda mittels dieser Chatbots produziert, die dann auf anderen Kanälen verteilt wurden. Das ist weder neu noch übermäßig bedenklich IMHO.
Es kommt darauf an was man sie fragt. Anders als z.B. chinesische Modelle sind westliche Chatbots nicht fest politisch eingefärbt.