Jailbreak-Erfolge in Sprachmodellen

Dieser wissenschaftliche Artikel untersucht die Gründe für erfolgreiche Jailbreak-Angriffe auf sicherheitstrainierte große Sprachmodelle (LLMs). Die Autoren präsentieren LOCA, eine Methode zur lokalen und kausalen Erklärung der Erfolgsfaktoren von Jailbreaks. Durch Identifizierung minimaler Änderungen in den Zwischendarstellungen des Modells kann LOCA erfolgreich das Modell dazu bringen, bestimmte gefährliche Anfragen abzulehnen. Diese Studie liefert wichtige Einblicke in die Funktionsweise von Jailbreaks und deren Kontrolle, was langfristig für die Sicherheit und Vertrauenswürdigkeit solcher Systeme relevant ist.