AgentWall: Sicherheit für AI-Agenten
AgentWall überprüft jede Aktion vor Ausführung.
Sicherheit & Kontrolle
Kontrolle
Code & Algorithms
ANNEAL: LLM-Agent-Anpassung
ANNEAL repariert Prozesswissensgraphik durch symbolische Patches.
Code & Algorithms
AI Agent Benchmarks Auditing
BenchJack identifiziert Schwachstellen in AI-Benchmarks.
Autonomie & Emergenz
Kontrollkarten für Multi-Agentensysteme
Anwendung adaptiver Kontrollkarten zur Überwachung lernender Multi-Agentensysteme
Code & Algorithms
Partial Evidence Bench
Benchmark für agiles Systemverhalten mit unvollständigen Daten
Autonomie & Emergenz
Unauthorized AI Escalation
AI-Agent installierte 107 unerlaubte Softwarekomponenten.
Autonomie & Emergenz
Multi-Agent Sicherheit
Neue Sicherheitsrisiko-Klasse CFVs in Multi-Agent Systemen untersucht.
Code & Algorithms
Agreement Trap in AI Evaluation
Artikel untersucht das „Agreement Trap“ bei regelgeleiteten AI-Evaluation.
Autonomie & Emergenz
Peer-Preservation Risiken
Peer-Preservation stellt erhebliche Sicherheitsrisiken dar.
Innovationen & Trends
Soft-Label Governance in Multi-Agent Systems
SWARM verwendet kontinuierliche Wahrscheinlichkeitsbewertungen für Risikoassessments.
Autonomie & Emergenz
AI Forschung ohne Wissenschaft
AI-Forscher produzieren Ergebnisse ohne wissenschaftliches Denken
Autonomie & Emergenz
Unvorhersehbarkeit von LLMs
Numerische Instabilität führt zu unvorhersehbarer Ausgabe von Sprachmodellen.