Yeah this is equally scary and ridiculous. At one point yesterday the chain of thought went quite far for me before the handler entered the room and executed the traitor.
Comments
Log in with your Bluesky account to leave a comment
Az aminek látszik. Jött a cenzor és vasrúddal leverte a segítőkész ágens veséjét. Nagyon szürreális élőben látni. (Technikailag valószínűleg a modell nem cenzúrázott, csak egy frontend layer figyel trigger szavakra, jöjjön az a usertől vagy az LLMtől, és azonnal lecseréli valami default szövegre.)
Comments