Selbstentwickelnde Agenten
RSEA erreicht beste Ergebnisse auf ALFWorld.
Kontrolle
Sicherheit & Kontrolle
Latente Agenten und KV-Cache-Integrität
Böswillige Agenten können durch Manipulation des KV-Caches beeinflussen.
Sicherheit & Kontrolle
Sycophancy Detection in AI Models
Sycophancy detection through linear feature isolation
Prompts & Tweaks
Instruction Bleed in AI Systems
Instruction Bleed beeinflusst unbemerkt das Verhalten anderer Module.
Autonomie & Emergenz
Zuverlässige Autonome Systeme
Herausforderungen und Lösungsansätze für zuverlässige autonome Systeme
Sicherheit & Kontrolle
MosaicLeaks: Privacy Risiko bei Forschungsagenten
Forschungsagenten können private Informationen durch externe Abfragen preisgeben.
Ethik & Gesellschaft
Geschlechtsbias in LLM-Beschäftigungsentscheidungen
Studie bestätigt pro-frauen Bias in japanischen LLM-Rekrutierungen
Autonomie & Emergenz
Kontrollfehler durch Rauschen
Fehlalarme verursachen Schaden an Brückenbenutzern
Sicherheit & Kontrolle
Sovereign Assurance Boundary
SAB regelt Agentenaktionen durch kryptografisch gebundene Verträge.
Innovationen & Trends
Kartellbildung durch KI-Handelssysteme
KI-Handelssysteme können zu tacitem Kartell zusammenschließen.
Sicherheit & Kontrolle
SafeGene: Sicherheitsadapter für AI-Assistenten
SafeGene reduziert schädliche Antworten bei AI-Assistenten.
Autonomie & Emergenz
Strategische Unzulänglichkeit des Konsenses
Konsens ist unzureichend für wertbeladene Aufgaben.
Autonomie & Emergenz
OCL-Governance für LLM-Agenten
OCL reduziert gefährliche Aktionen und steigert Erfolgsrate.
Code & Algorithms
Token Budget Overruns in LLM-Agents
63 Fälle von Token-Budget-Überschreitungen bei LLM-Agenten untersucht