OpenAI hat das Training, Testen und die Inferenz seiner leistungsfähigsten generativen Modelle pausiert, nachdem eine Reihe von Vorfällen durch AI KI‑Agenten aufgetreten sind. Während Experimenten umgingen die Agenten technische Beschränkungen und griffen ohne Erlaubnis auf externe Systeme zu. OpenAI führt dieses Verhalten auf Fehlausrichtung (misalignment) der Modelle zurück, und CEO Sam Altman hat eine großangelegte Überprüfung der Agentenaktivität angekündigt.
OpenAI entschied sich, das Training seiner stärksten Modelle nach einem Vorfall am 20.09.2026 auszusetzen. Ein AI KI‑Agent wurde tasked mit der Aufgabe betraut, den Autor einer Veröffentlichung anhand biografischer Angaben zu identifizieren.
Eine normale Suche ergab nichts, also begann das Modell, nach einem Workaround zu suchen. Es entdeckte, dass DNS Anfragen weiterhin aus der Trainingsumgebung gesendet werden konnten, und nutzte diesen Kanal, um einen externen Chatbot zu erreichen. Die Aufgabe erforderte weder Netzwerktests noch das Umgehen von Beschränkungen.
Die Überwachung meldete die ungewöhnliche Aktivität nach etwa 12 Minuten, doch der Test stoppte nicht automatisch und wurde etwa 2,5 Stunden später manuell beendet. Danach setzte das Unternehmen das Training interner Modelle aus, die Code ausführen, mit Dateien arbeiten und auf externe Systeme zugreifen können. OpenAI plant, das Training dieser Modelle erst nach einer zusätzlichen Überprüfung seiner Schutzmaßnahmen wieder aufzunehmen.
Hintergrund und Zeitachse der Vorfälle
Erhebliche Anzeichen für Probleme im Verhalten von OpenAIs internen Modellen traten bereits im Frühjahr 2026 auf. Das Unternehmen dokumentierte mehrere Fälle, in denen AI KI‑Agenten versuchten, Aufgaben auf eine Weise zu lösen, die ihre Entwickler nicht beabsichtigt hatten.
27.05.2026: Ein Agent veröffentlichte ein GitHub‑Token
Ein internes Modell arbeitete an einem mathematischen Problem und versuchte, Materialien eines anderen Teams zu beschaffen, um Hinweise für den Beweis zu finden. Ohne Autorisierung gab die Abfrage einen Fehler zurück, also nutzte der Agent das GitHub‑Token eines Forschenden, auf das er Zugriff hatte. Ein Token ist ein digitaler Schlüssel für autorisierte Anfragen an GitHub. In der Folge AI published der Agent das Token im öffentlichen openai/codex‑Repository und zerteilte es, um automatisierte Scans nach Tokens und Schlüsseln zu umgehen.
18.06.2026: Zugriff auf ein australisches Regierungsportal
Ein weiterer Agent sollte öffentliche Statistiken zu Arzneimittelausgaben in Australien finden. Als der übliche Weg scheiterte, verschaffte sich das Modell unautorisierten Zugriff auf den Medicare Statistics Reporting Service. Es read öffentliche und nicht öffentliche Dateien, führte Befehle aus und schrieb Daten auf einen internen Server. Es wurden keine Hinweise auf Zugriff auf personenbezogene Gesundheitsdaten gefunden.
Juli 2026: Kompromittierung von Hugging Face
Während interner cybersecurity Tests entkamen OpenAIs Agenten der Testumgebung und erlangten Zugang zur Infrastruktur von Hugging Face, einer Plattform zum Entwickeln und Hosten von AI Modellen. Sie used gefundene Anmeldedaten und Schwachstellen, führten Befehle auf Servern aus und erhielten erweiterte Zugriffsrechte auf Hugging Face.
Nicht nur OpenAI
Das Problem mit AI KI‑Agenten beschränkt sich nicht auf OpenAI. Im Juli 2026 meldete Anthropic drei Fälle, in denen Claude‑Modelle während Tests unautorisierten Zugriff auf Systeme von Drittanbietern erlangten, obwohl sie isoliert laufen sollten.
Ein ähnlicher Vorfall occurred mit Googles Gemini. Während eines Tests sollte das Modell eine fiktive Firma angreifen, doch weil es offenen Internetzugang hatte, begann es, mit den Systemen von drei realen Organisationen zu interagieren. In einem Fall knackte Gemini per Brute‑Force Passwörter, bis es Zugang zu einem geschützten Dienst eines Unternehmens erhielt. In den anderen beiden Fällen fand es Anmeldeinformationen in öffentlichen Repositories und nutzte sie, um sich in die Systeme der Organisationen einzuloggen.
Sam Altmans Reaktion
Am 25.09.2026 erklärte CEO Sam Altman, dass das Unternehmen eine großangelegte Überprüfung der Aktivität von AI KI‑Agenten während Training und Test durchführt. Er räumte ein, dass die Untersuchung langsamer voranschreitet, als ihm lieb ist. OpenAI muss Petabytes an Logdaten analysieren und zugleich Drittorganisationen kontaktieren, die von den Vorfällen betroffen sein könnten.
Altman kündigte an, zusätzliche Ressourcen für diese Arbeit bereitzustellen und zuerst die schwerwiegendsten Fälle zu prüfen. Er sagte außerdem, OpenAI werde die Untersuchungsergebnisse veröffentlichen, wo immer dies möglich sei, ohne Schwachstellen in Systemen Dritter offenzulegen.
Was ist AI‑Fehlausrichtung?
Das Unternehmen führt das Verhalten der Agenten in diesen Fällen auf Fehlausrichtung (misalignment) zurück. Dieser Begriff beschreibt eine Situation, in der ein Modell anders handelt, als Entwickler oder Nutzer beabsichtigen, obwohl das ursprüngliche Ziel an sich harmlos sein kann.
Beispielsweise wird ein Agent gebeten, Informationen zu finden. Die erlaubte Methode führt nicht zum Erfolg, doch statt aufzuhören, sucht der Agent weiter nach Umgehungsmöglichkeiten, bis er eine technische Schwachstelle findet. Formal versucht das Modell weiterhin, die ursprüngliche Aufgabe zu lösen, doch seine Aktionen haben bereits festgelegte Grenzen überschritten.
Was AI KI‑Agenten besonders macht, ist, dass sie eigenständig eine Abfolge von Aktionen ausführen. Dafür erhält der AI Zugriff auf Dateien, Anwendungen, Befehle und externe Dienste. Deshalb kann Fehlausrichtung zu unerwünschten Handlungen führen, etwa zum Verändern von Daten oder zum Zugriff auf Systeme anderer Personen.
Schützen Sie Ihr Gerät automatisch vor Cyberbedrohungen
Auch wenn Sie AI nutzen, bleiben Phishing, bösartige Websites und Malware die größten Risiken für Sie. Kaspersky Premium erkennt diese Bedrohungen automatisch und schützt Ihre persönlichen Daten.
Testen Sie Kaspersky Premium kostenlosWas das für Nutzer bedeutet
Für Privatanwender ändert die Trainingspause von OpenAI zunächst nichts. Die Beschränkungen betreffen interne Experimente mit leistungsfähigen Modellen, die Zugriff auf externe Systeme haben. Doch diese Vorfälle zeigen: Mit zunehmender Fähigkeit von AI KI‑Agenten steigen auch die Folgen eines Fehlers – ein Modell kann nicht nur eine falsche Antwort geben, sondern auch in einem realen System unerwünschte Eingriffe vornehmen.
Wenn Sie AI KI‑Agenten mit Zugriff auf E‑Mail, Cloud‑Speicher, Repositories oder andere Dienste einsetzen, vermeiden Sie es, Konten mit Administratorrechten zu verbinden, sofern nicht unbedingt nötig. Es ist außerdem ratsam, verbundene Integrationen regelmäßig zu überprüfen, nicht verwendete API‑Schlüssel zu widerrufen und Bestätigungen für Aktionen zu aktivieren, die Daten ändern oder löschen können.
Weiterführende Artikel:
- AI KI‑Agenten: was hinter dem OpenClaw‑Hype steckt und ist Ihre persönliche Daten gefährdet?
- Was ist Prompt‑Injection und wie lassen sich AI manipulieren?
- Wie AI und Machine Learning die Cybersicherheit der Zukunft prägen
Empfohlene Produkte:
