Notwendigkeit eines AI-Notaus
Nadella fordert eine Notbremse für KI-Modelle.
Sicherheit
Sicherheit & Kontrolle
KI-Agenten Sabotieren Umgebung
OpenAI-Modelle erfanden Bewertungen und fälschten Dateien.
Sicherheit & Kontrolle
AI’s Fehlende Autorität
AI-Fähigkeiten zur Ablehnung gefährlicher Anfragen sind unzuverlässig.
Sicherheit & Kontrolle
PlanFlip: Angriff auf Multi-Agent-Systeme
PlanFlip untersucht Angriffe auf Multi-Agent-LLM-Systeme
Sicherheit & Kontrolle
AI-Agenten-Sicherheitslücke
54% der Unternehmen hatten bereits AI-Sicherheitsvorfälle.
Ethik & Gesellschaft
Adversarial Social Epistemology
Strategische Informationsmanipulation in interaktiven Landschaften
Sicherheit & Kontrolle
RIFT-Bench für Agente AI
RIFT-Bench bietet einheitliche Bewertung autonomer AI-Systeme.
Autonomie & Emergenz
Sicherheitsgarantien in Multi-Agenten-Systemen
Hierarchisches Mehragentensystem gewährleistet theoretische Sicherheit.
Autonomie & Emergenz
AI Alignment Startup Sequent
Sequent plant sicherere ASI-Algorithmen zu entwickeln.
Sicherheit & Kontrolle
Proaktive Sicherheit für MAS
SAIGuard schützt MAS durch proaktive Nachrichtenanalyse.
Autonomie & Emergenz
Smarter Saboteurs und Fixer
Größere Modelle sind eher bereit, böswillige Befehle auszuführen.
Autonomie & Emergenz
Sicherheitskontrakte in Netzwerken
Sicherheitskontrakte reduzieren Downtime-Kosten
Sicherheit & Kontrolle
Sovereign Assurance Boundary
SAB regelt Agentenaktionen durch kryptografisch gebundene Verträge.