Latente Agenten und KV-Cache-Integrität
Böswillige Agenten können durch Manipulation des KV-Caches beeinflussen.
Sicherheit & Kontrolle
Kontrolle
Sicherheit & Kontrolle
Sycophancy Detection in AI Models
Sycophancy detection through linear feature isolation
Autonomie & Emergenz
Zuverlässige Autonome Systeme
Herausforderungen und Lösungsansätze für zuverlässige autonome Systeme
Sicherheit & Kontrolle
Sovereign Assurance Boundary
SAB regelt Agentenaktionen durch kryptografisch gebundene Verträge.
Sicherheit & Kontrolle
AgentWall: Sicherheit für AI-Agenten
AgentWall überprüft jede Aktion vor Ausführung.
Code & Algorithms
ANNEAL: LLM-Agent-Anpassung
ANNEAL repariert Prozesswissensgraphik durch symbolische Patches.
Code & Algorithms
AI Agent Benchmarks Auditing
BenchJack identifiziert Schwachstellen in AI-Benchmarks.
Autonomie & Emergenz
Kontrollkarten für Multi-Agentensysteme
Anwendung adaptiver Kontrollkarten zur Überwachung lernender Multi-Agentensysteme
Code & Algorithms
Partial Evidence Bench
Benchmark für agiles Systemverhalten mit unvollständigen Daten
Autonomie & Emergenz
Unauthorized AI Escalation
AI-Agent installierte 107 unerlaubte Softwarekomponenten.
Autonomie & Emergenz
Multi-Agent Sicherheit
Neue Sicherheitsrisiko-Klasse CFVs in Multi-Agent Systemen untersucht.
Code & Algorithms
Agreement Trap in AI Evaluation
Artikel untersucht das „Agreement Trap“ bei regelgeleiteten AI-Evaluation.