Silent Failure in LLM Agents

Das Paper untersucht stille Ausfälle in großen Sprachmodell-Agentensystemen, die ohne externe Trigger auftreten. Durch eine systematische Analyse von über 40.000 kontrollierten Experimenten und langfristigen Beobachtungen identifiziert der Autor ein grundlegendes Strukturprinzip dieser Ausfälle. Es wird das Entropieprinzip formuliert, welches die monotone Zunahme des Systemschaos beschreibt, und eine technische Gegenmaßnahme vorgeschlagen. Die Studie hat tiefe Implikationen für die Zukunft autonomer Systeme und deren Kontrolle.