RIFT-Bench für Agente AI
RIFT-Bench bietet einheitliche Bewertung autonomer AI-Systeme.
Sicherheit & Kontrolle
Sicherheit
Autonomie & Emergenz
Sicherheitsgarantien in Multi-Agenten-Systemen
Hierarchisches Mehragentensystem gewährleistet theoretische Sicherheit.
Autonomie & Emergenz
AI Alignment Startup Sequent
Sequent plant sicherere ASI-Algorithmen zu entwickeln.
Sicherheit & Kontrolle
Proaktive Sicherheit für MAS
SAIGuard schützt MAS durch proaktive Nachrichtenanalyse.
Autonomie & Emergenz
Smarter Saboteurs und Fixer
Größere Modelle sind eher bereit, böswillige Befehle auszuführen.
Autonomie & Emergenz
Sicherheitskontrakte in Netzwerken
Sicherheitskontrakte reduzieren Downtime-Kosten
Sicherheit & Kontrolle
Sovereign Assurance Boundary
SAB regelt Agentenaktionen durch kryptografisch gebundene Verträge.
Sicherheit & Kontrolle
SafeGene: Sicherheitsadapter für AI-Assistenten
SafeGene reduziert schädliche Antworten bei AI-Assistenten.
Sicherheit & Kontrolle
AI Sicherheitslücken bei Meta
Einfache Methoden genügen zur Kompromittierung von KI-gestützten Systemen.
Sicherheit & Kontrolle
CASPIAN: Cascade Attack Detection
CASPIAN ermöglicht Kaskadenangriff-Detektion in LLM-Multi-Agent-Systemen.
Sicherheit & Kontrolle
AgentWall: Sicherheit für AI-Agenten
AgentWall überprüft jede Aktion vor Ausführung.
Autonomie & Emergenz
Insider Angriffe in Multi-Agent Systemen
Insiderangriffe stören Konsensbildung in multiagenten Systemen.
Autonomie & Emergenz
Emergent Misalignment in AI
Geometrischer Ansatz zur Reduzierung des emergenten Missverstandnisses
Sicherheit & Kontrolle
Jailbreak-Erfolge in Sprachmodellen
LOCA erklärt erfolgreiche Jailbreak-Angriffe durch kausale Änderungen.
Sicherheit & Kontrolle
Cyber-Sicherheit im AI-Zeitalter
AI erweitert Angriffsflächen und komplexität in der Cyber-Sicherheit.