Conjunctive Prompt Angriffe

Dieser wissenschaftliche Artikel untersucht „conjunctive prompt attacks“ in Systemen mit mehreren interagierenden Agenten. Solche Angriffe nutzen die Interaktion zwischen Agenten und spezielle Trigger, um schädliches Verhalten auszulösen. Die Studie zeigt, dass bestehende Sicherheitsmaßnahmen wie PromptGuard oder Werkzeugbeschränkungen nicht effektiv gegen diese Art von Angriffen sind, da sie auf der Struktur des Systems basieren und keine einzelnen Komponenten als böswillig erscheinen lassen. Die Arbeit legt einen Schwerpunkt auf die Notwendigkeit von Sicherheitskonzepten, die das Routing und die Zusammensetzung über Agenten hinweg berücksichtigen.