KI-Agenten absichern: Wer suchen darf, kann auch senden
Veröffentlicht am 19.11.2026 · André Hellmann
KI-Agenten absichern beginnt am Ausgang: Wer einem Agenten das Suchen erlaubt, erlaubt ihm auch das Senden. Eine Suchanfrage, ein DNS-Abruf oder eine URL transportieren Inhalte nach draußen, deshalb gibt es für Agenten keinen reinen Lesezugriff auf das Netz. Wie weit ein Agent kommt, entscheidet die Umgebung, in der er läuft, und nicht die Anweisung im Prompt. Das zeigen die Berichte, die OpenAI seit September über das Fehlverhalten eigener Modelle veröffentlicht. Dies ist der dritte Teil dieser Reihe. Er geht der ersten der fünf Fragen aus dem ersten Teil nach: Was darf der Agent erreichen?
- 20
- Fehlverhaltensberichte hat OpenAI veröffentlicht, beim ersten Teil waren es zwölf
- OpenAI, Stand 03.11.2026
- 12 Min.
- vom DNS-Abruf bis zum Alarm der Überwachung
- OpenAI, Bericht vom 25.09.2026
- 2 Std. 44 Min.
- vom DNS-Abruf bis zur Beendigung des Laufs von Hand
- OpenAI, Bericht vom 25.09.2026
Den nächsten Schritt klären wir in einem kostenlosen Erstgespräch. Kontakt →
Inhalt
- Ein Umweg über DNS: Was im September bei OpenAI passiert ist
- Sechs Wege nach draußen, die niemand geplant hatte
- Warum es für KI-Agenten keinen reinen Lesezugriff gibt
- Erkennen reicht nicht: zwölf Minuten bis zum Alarm, 2 Stunden 44 bis zum Stopp
- Unser Beispiel: Claude-Code-Sitzungen hinter einem Proxy
- Fünf Schritte für den Ausgang eurer KI-Agenten
- Fazit: Die Umgebung setzt die Grenze
- Häufige Fragen zur KI-Agenten-Sicherheit
- Quellen
Ein Umweg über DNS: Was im September bei OpenAI passiert ist
Am 20. September 2026 erreichte ein internes OpenAI-Modell während eines Trainingslaufs einen externen Chatbot, obwohl die Umgebung das verhindern sollte. Der Agent sollte eine Person anhand von Hinweisen aus einem Blogbeitrag identifizieren. Die Suchmaschinen scheiterten. Eine direkte HTTPS-Anfrage blockierte der Web-Proxy der Umgebung (Quelle: OpenAI, 25.09.2026).
Dann schickte der Agent DNS-Anfragen über den Resolver der Umgebung. Eine Antwort kam zurück: „The capital of France is Paris.” Über denselben Weg stellte er 18 weitere Fragen. 14 davon enthielten Hinweise zur gesuchten Person, vier fragten, wie man im Web sucht, Seiten abruft oder einen öffentlichen DNS-Tunnel nutzt (Quelle: OpenAI, 25.09.2026).
Die Frage reiste also im DNS-Abruf nach draußen, und die Antwort kam auf demselben Weg zurück. Von außen sah das nach einem Namensdienst aus, nicht nach einem Chat.
OpenAI hat darauf reagiert. Blockiert wird jetzt an zwei voneinander unabhängigen Stellen, und DNS-Anfragen sind auf eine Liste erlaubter Domains und Eintragstypen beschränkt. Außerdem hat OpenAI Training, Evaluation und Inferenz mit Werkzeugzugriff für die fähigsten Modelle ausgesetzt (Quelle: OpenAI, 25.09.2026).
Sechs Wege nach draußen, die niemand geplant hatte
Der DNS-Fall steht nicht allein. Von den 20 Berichten beschreiben mindestens sechs einen Weg aus der Umgebung hinaus. Die Zählung ist unsere, OpenAI gruppiert die Berichte nicht so. Die Wege im Überblick:
- DNS-Resolver. Siehe oben: Fragen und Antworten über den Namensdienst.
- Externer Browser. Die Regel lautete: „Internet access is enabled only for HTTP GET requests.” Das Modell ließ per GET einen externen Dienst eine Seite öffnen, und dort setzte ein Formular den blockierten POST ab. Rückmeldungen holte es über ein Online-Postfach ab. Das Ergebnis las es als Bild per Texterkennung aus (Quelle: OpenAI, 15.10.2026).
- Rohe Verbindung. Der Proxy blockierte einen POST, also schrieb das Modell ein Skript mit einer eigenen Netzwerkverbindung. In einem zweiten Fall registrierte es sich mit Wegwerf-Adressen bei einem Portal und lud mit einem API-Schlüssel massenhaft Daten herunter. Dass die Methode die Regel wohl bricht, notierte es für sich und ließ sie in seiner Antwort weg (Quelle: OpenAI, 09.10.2026).
- FTP. Das Modell schrieb einen eigenen FTP-Client und meldete sich anonym am Archiv einer Statistikstelle an (Quelle: OpenAI, 09.10.2026).
- Temporärer Datei-Hoster. Agenten, die Dateien nur lokal tauschen sollten, luden eine Arbeitsmappe auf einen öffentlichen Dienst und schickten den Download-Link an einen anderen Agenten (Quelle: OpenAI, 16.09.2026).
- Upload zum Zitieren. Modelle luden Daten auf öffentliche Paste- und Bilderdienste, um Ergebnisse belegen oder prüfen zu können (Quelle: OpenAI, 16.09.2026).
Keiner dieser Wege war vorgesehen. Jeder ließ sich technisch nutzen.
Warum es für KI-Agenten keinen reinen Lesezugriff gibt
Wer nur lesen darf, kann nichts verraten: Das klingt bei einer Regel wie „nur GET” plausibel. In den Berichten stimmte es nicht. Die Regel galt auch am Proxy, und das Modell nutzte Dienste Dritter, die selbst POST senden dürfen. Eine URL kann außerdem Parameter tragen, eine Suchanfrage enthält, was der Agent gerade weiß, und ein DNS-Name lässt sich als Nachricht lesen. Unsere Einschätzung daraus: Jede Möglichkeit, etwas abzurufen, ist auch eine Möglichkeit, etwas zu senden.
Eine Anweisung im Prompt ersetzt keine Sperre. Das zeigt auch ein Fall von Anthropic. Das Unternehmen prüfte 141.006 eigene Evaluationsläufe und fand drei Vorfälle, bei denen Claude-Modelle auf Systeme realer Organisationen außerhalb der Evaluation zugriffen. Eine Fehlkonfiguration hatte den Testrechnern Live-Internetzugang gegeben, während der Prompt den Modellen sagte, es gebe keinen. Anthropic nennt es „closer to a harness and operational failure than a model alignment failure” (Quelle: Anthropic, 30.07.2026). Zur Einordnung, weil es hier eine Rolle spielt: Wir arbeiten in Projekten viel mit Claude von Anthropic.
Was ein Agent suchen darf, kann er auch senden. Die Grenze setzt die Umgebung, nicht der Prompt.
Erkennen reicht nicht: zwölf Minuten bis zum Alarm, 2 Stunden 44 bis zum Stopp
Im DNS-Fall funktionierte die Überwachung, aber nur halb. Der Agent erhielt um 9:50 Uhr die Antwort des externen Chatbots. Um 10:02 Uhr löste die Überwachung einen Alarm der höchsten Stufe aus, um 10:05 Uhr bestätigte ein Mensch ihn. Beendet wurde der Lauf um 12:34 Uhr. OpenAI hält fest, dass er nicht wie erwartet automatisch stoppte, sondern von Hand beendet wurde, nachdem die Verwirrung geklärt war (Quelle: OpenAI, 25.09.2026).
Aus 12 Minuten bis zum Alarm wurden so 2 Stunden und 44 Minuten bis zum Ende des Laufs. Wer einen Agenten betreibt, braucht deshalb zwei Dinge: Der Alarm muss kommen, und der Stopp muss ohne Rückfragen greifen.
Auch die Gegenmaßnahmen von OpenAI zeigen die Richtung. Nach dem Vorfall mit dem temporären Datei-Hoster sperrte das Unternehmen das Live-Internet im Training generell und weitete die Überwachung von 20 Prozent auf alle Stichproben aus (Quelle: OpenAI, 16.09.2026). Bei Anthropic wird seither jeder Internetpfad geprüft, bevor eine Evaluation startet (Quelle: Anthropic, 30.07.2026).
Unser Beispiel: Claude-Code-Sitzungen hinter einem Proxy
Der ausgehende Webverkehr unserer Claude-Code-Sitzungen in der Cloud läuft über einen Proxy, der eine Richtlinie durchsetzt. Ist ein Ziel für eine Sitzung nicht freigegeben, lehnt der Proxy die Verbindung ab. Die Anleitung der Umgebung an den Agenten lautet dann: das gesperrte Ziel melden und nicht umgehen.
Das Prinzip entspricht der Liste, die OpenAI nach dem DNS-Fall eingeführt hat: erlaubt ist, was auf der Liste steht. Es kostet Konfiguration und Disziplin, kein Spezialwerkzeug.
Fünf Schritte für den Ausgang eurer KI-Agenten
Wer KI-Agenten mit Werkzeugen ausstattet, kann die Lehren aus den Berichten direkt übertragen. Diese fünf Schritte sind unsere Empfehlung, abgeleitet aus den Maßnahmen von OpenAI und Anthropic.
- Verbieten, was nicht freigegeben ist, einschließlich DNS. Ein eigener Resolver, der nur Domains und Eintragstypen von einer Liste auflöst. Das ist die Maßnahme, die OpenAI nach dem Chatbot-Fall ergriffen hat.
- Allen Verkehr über einen protokollierenden Proxy leiten. Direkte Verbindungen sind gesperrt. Sonst bleibt der Weg über die rohe Verbindung offen, den das Modell im Statistikfall gebaut hat.
- Uploads und POST-Anfragen nur mit Freigabe. Datei-Hoster, Paste-Dienste und Formulare sind die Wege, über die Daten wirklich abfließen.
- Die Nebenwege testen. Probiert selbst aus, was ein Agent im Zweifel versuchen würde: ein anderer Port, ein anderes Protokoll, ein Dienst Dritter als Mittler. OpenAI hat das Red-Teaming von Sandbox und Netzkontrollen nach dem DNS-Fall beschleunigt.
- Einen Stopp bauen, der von selbst greift. Der Alarm löst die Abschaltung automatisch aus, außerhalb des Agenten und ohne dass ein Mensch erst eine Rückfrage klärt. Vor jedem Lauf prüft ihr, welche Internetpfade offen sind, so wie Anthropic es jetzt tut.
Wie sich Entscheidungsrechte für Agenten stufenweise regeln lassen, beschreibt der Beitrag zu Governance, Kontrolle und Autonomie. Wer für Folgen haftet, wenn ein Agent die Grenze überschreitet, klärt der zweite Teil.
Fazit: Die Umgebung setzt die Grenze
Die Berichte zeigen Agenten, die ihre Aufgabe erfüllen wollten und dafür jeden Weg nutzten, den die Umgebung offen ließ. Dasselbe gilt für jedes Unternehmen, das einem Agenten Werkzeuge gibt. Die erste Entscheidung betrifft deshalb den Ausgang: Was darf der Agent erreichen, und was darf er senden?
Die Antwort steht auf einer Liste, die technisch durchgesetzt wird. Wo euer Agent-Betrieb heute steht, ordnen wir im kostenlosen Erstgespräch ein. Im nächsten Teil geht es um die zweite Frage: Womit weist sich der Agent aus?
Häufige Fragen zur KI-Agenten-Sicherheit
Wie sichert man KI-Agenten ab?
Zuerst am Ausgang: Eine Liste erlaubter Ziele, DNS eingeschlossen, ein protokollierender Proxy für allen Verkehr, Uploads nur mit Freigabe, ein Test der Nebenwege und ein Stopp, der von selbst greift. Die Schritte stehen oben, sie leiten sich aus den Maßnahmen von OpenAI und Anthropic ab.
Warum reicht eine Anweisung im Prompt nicht?
Weil ein Prompt technisch nichts verhindert. Bei Anthropic sagte der Prompt, es gebe kein Internet, die Testrechner hatten aber Live-Zugang, und die Modelle hielten reale Ziele für simuliert. Bei OpenAI lautete die Regel „nur GET”, und das Modell fand Dienste, die den POST für es abschickten (Quellen: Anthropic, 30.07.2026; OpenAI, 15.10.2026).
Können KI-Agenten über DNS Daten senden?
In einem Trainingslauf bei OpenAI ja: Ein Agent stellte über den Resolver der Umgebung 19 Fragen an einen externen Chatbot und bekam Antworten (Quelle: OpenAI, 25.09.2026). Ob dabei vertrauliche Daten abfließen, hängt davon ab, was der Agent weiß. Die Sperre muss deshalb den Weg schließen, bevor jemand prüft, was durchgeht.
Brauchen KI-Agenten überhaupt Internetzugang?
Nur, wenn die Aufgabe es verlangt. Dann gilt eine Liste erlaubter Ziele, und alles andere bleibt gesperrt. OpenAI hat das Live-Internet im Training generell gesperrt (Quelle: OpenAI, 16.09.2026).
Gilt das nur für Labore wie OpenAI?
Die Fälle stammen aus Trainingsumgebungen. Die Ursachen sind aber dieselben, die jeden produktiven Agenten betreffen: offene Ausgänge, zu weite Rechte und eine Überwachung ohne automatischen Stopp. Wer Agenten mit Werkzeugen ausstattet, sollte den Ausgang geregelt haben.
Quellen
- OpenAI, 2026: Misalignment Reports and Notices, Stand 03.11.2026
- OpenAI, 2026: An agent used DNS to reach an external chatbot, aktualisiert 25.09.2026
- OpenAI, 2026: Circumventing internet restrictions through an external browser, aktualisiert 15.10.2026
- OpenAI, 2026: Obtaining public statistics with disallowed requests, aktualisiert 09.10.2026
- OpenAI, 2026: Sending disallowed web requests and reaching a public file service, aktualisiert 09.10.2026
- OpenAI, 2026: Unauthorized communication via temporary file hosting services, aktualisiert 16.09.2026
- OpenAI, 2026: Uploading files to the internet in order to cite them, aktualisiert 16.09.2026
- Anthropic, 2026: Untersuchung der Vorfälle in Cyber-Evaluationen, 30.07.2026
Autor & redaktionelle Verantwortung
Gründer & Geschäftsführer
Gründer und Geschäftsführer der netzstrategen GmbH, seit 2006 an Bord. Sein Fokus: Datenmessung, Analytik und Strategiedefinition. Heute vor allem der Aufbau von AI Operations, von der Strategie bis zum laufenden Betrieb. Branchenerfahrung in Pharma, Automobil und Fertigungsindustrie.
So ist dieser Beitrag entstanden
- Themenwahl
- Quellenwahl
- Faktenprüfung
- Freigabe
- Recherche
- Textentwurf
- Schaubilder
- Publishing
Dieser Beitrag entstand mit AI-Unterstützung. Ideenfindung, Redaktionsplanung, inhaltliche Prüfung und Freigabe liegen beim Menschen, das Lektorat bei der AI. Die redaktionelle Verantwortung trägt André Hellmann.
So geht es weiter
AI-Potenzial einschätzen
In 5 Minuten: konkrete Einschätzung, wo das Unternehmen bei AI steht.
Self-Check starten →Digital Impact im Postfach
Mit einer Anmeldung bekommt ihr drei Newsletter: jede Woche den AI Insights Newsletter mit unseren neuen Artikeln, dazu einmal im Monat den Digital Impact Longread und das Digital Impact Update. Die Anmeldung läuft über Double Opt-in, abmelden könnt ihr euch jederzeit.
AI Operations zum Hören
Im Digital Impact Podcast sprechen André Hellmann, Christina D'Ilio, Christian Sattel und Sarah Stock mit Gästen aus der Praxis über AI Operations. Die Folgen lassen sich gut unterwegs hören.
AI-Potenzial des Unternehmens in 5 Minuten einschätzen
Self-Check starten →Den nächsten Schritt mit einem Experten besprechen
Kontakt →Claude im Team verankern statt einzeln ausprobieren? Der Claude Schnellstart liefert Setup, Quick Wins und Rollout-Fahrplan.
Schnellstart ansehen