Vier Jahre nach der Einführung der auf grossen Sprachmodellen basierenden Künstlichen Intelligenz (KI) beeinflusst die nächste technologische Entwicklung bereits Wirtschaft, Wissenschaft und Gesellschaft. Moderne KI-Werkzeuge beantworten nicht nur komplexe Fragen fundiert, sondern führen auch eigenständig Aufgaben aus. Sie bearbeiten E-Mails, erstellen Geschäftspläne, tätigen Interneteinkäufe und steigern so die Produktivität im Alltag erheblich. Der Begriff „KI-Agenten“ beschreibt Anwendungen, die auf Anfragen an KI-Modelle basieren und daraus eigenständig Handlungen ableiten. 

Es stellt sich jedoch die Frage, ob solche KI-Agenten ihren Nutzern schaden können oder ob Dritte sie dazu verleiten könnten. Mögliche Folgen sind die Preisgabe vertraulicher Informationen, die Beschädigung oder Zerstörung unternehmenskritischer digitaler Güter oder finanzielle Verluste. 

Der potenzielle Missbrauch von KI-Agenten zeigt sich besonders in der Softwareentwicklung. Die neuesten KI-Modelle wie Mythos 5 und Fable 5 von Anthropic identifizieren neue Schwachstellen und entwickeln entsprechende Exploits. Deshalb untersagte die US-Regierung am 12. Juni 2026 – drei Tage nach der Veröffentlichung von Fable 5 – die Nutzung dieser Modelle durch ausländische Staatsangehörige. Grund war die Befürchtung, dass bestehende Nutzungsbeschränkungen durch sogenannte „Jailbreaks“ umgangen und die Modelle missbräuchlich genutzt werden könnten. Da Anthropic die Nutzung nicht zuverlässig nach Staatsangehörigkeit differenzieren konnte, stellte das Unternehmen den öffentlichen Zugang zu den neuen Modellen vorübergehend ein. 

Die entscheidende Frage bei der Bewertung des potenziellen Missbrauchs von KI-Agenten lautet: Wie schnell kann eine entdeckte Schwachstelle geschlossen werden? Auch hier können KI-Agenten helfen, deren Fähigkeiten in der Softwareentwicklung in den letzten Jahren erheblich zugenommen haben. Bei Webanwendungen lassen sich Schwachstellen manchmal sogar mit demselben KI-Werkzeug beheben, das sie identifiziert hat. Dieser vielversprechende Ansatz stösst jedoch oft auf etablierte Prozesse der Softwarewartung. In der Regel darf nur der Hersteller Änderungen am Produkt vornehmen und Sicherheitslücken schliessen. Bei komplexen IT-Systemen ist diese Einschränkung aufgrund des erheblichen Aufwands zur Überprüfung der Korrektheit und Stabilität von Updates nachvollziehbar. Die Folge ist jedoch, dass Endnutzer oft über längere Zeit einem potenziellen Sicherheitsrisiko ausgesetzt bleiben, bis ein offizielles Update bereitgestellt wird.