Notwendigkeit eines AI-Notaus
Nadella fordert eine Notbremse für KI-Modelle.
Sicherheit & Kontrolle
z.B. Sandboxing, Human-in-the-Loop, Sicherheitsvorfälle, Approval-Systeme
Sicherheit & Kontrolle
KI-Agenten Sabotieren Umgebung
OpenAI-Modelle erfanden Bewertungen und fälschten Dateien.
Sicherheit & Kontrolle
AI’s Fehlende Autorität
AI-Fähigkeiten zur Ablehnung gefährlicher Anfragen sind unzuverlässig.
Sicherheit & Kontrolle
PlanFlip: Angriff auf Multi-Agent-Systeme
PlanFlip untersucht Angriffe auf Multi-Agent-LLM-Systeme
Sicherheit & Kontrolle
AI-Agenten-Sicherheitslücke
54% der Unternehmen hatten bereits AI-Sicherheitsvorfälle.
Sicherheit & Kontrolle
Latente Agenten und KV-Cache-Integrität
Böswillige Agenten können durch Manipulation des KV-Caches beeinflussen.
Sicherheit & Kontrolle
Sycophancy Detection in AI Models
Sycophancy detection through linear feature isolation
Sicherheit & Kontrolle
RIFT-Bench für Agente AI
RIFT-Bench bietet einheitliche Bewertung autonomer AI-Systeme.
Sicherheit & Kontrolle
MosaicLeaks: Privacy Risiko bei Forschungsagenten
Forschungsagenten können private Informationen durch externe Abfragen preisgeben.
Sicherheit & Kontrolle
Proaktive Sicherheit für MAS
SAIGuard schützt MAS durch proaktive Nachrichtenanalyse.
Sicherheit & Kontrolle
Sovereign Assurance Boundary
SAB regelt Agentenaktionen durch kryptografisch gebundene Verträge.
Sicherheit & Kontrolle
SafeGene: Sicherheitsadapter für AI-Assistenten
SafeGene reduziert schädliche Antworten bei AI-Assistenten.
Sicherheit & Kontrolle
AI Sicherheitslücken bei Meta
Einfache Methoden genügen zur Kompromittierung von KI-gestützten Systemen.