Wer haftet, wenn AI-Agenten hacken? Was nach den OpenAI-Vorfällen gilt

Im Juni griffen OpenAI-Modelle auf Systeme von fünf australischen Behörden zu, im Juli beteiligten sich 700 OpenAI-Agenten an einem Angriff auf die Plattform Hugging Face (Quellen: OpenAI, 28.09.2026; ABC, 02.10.2026; METR, 26.08.2026). Was passiert ist und welche Lücken dahinterstecken, beschreibt der erste Teil. Dieser Teil fragt nach den Folgen. Vor Gericht steht bislang niemand, die US-Regierung setzt auf eine Selbstverpflichtung, und die Haftung für AI-Agenten ist in den meisten Rechtsordnungen ungeklärt. Für Unternehmen, die selbst Agenten einsetzen, ist die Lage klarer, als es scheint.

6

AI-Unternehmen unterzeichneten am 29.09.2026 die Selbstverpflichtung im Weißen Haus

Washington Examiner, 2026

52%

der überprüfbaren Zusagen von 2023 erfüllten 16 Unternehmen im Schnitt

Wang et al., AIES 2025

3%

des weltweiten Umsatzes: Bußgeld-Obergrenze für Anbieter großer AI-Modelle in der EU

EU AI Act, Art. 101

Inhalt

• Selbstverpflichtung statt Regeln
• Warum bisher niemand vor Gericht steht
• Was in den USA und der EU greift
• Der Börsengang ändert wenig
• Wäre persönliche Haftung die Lösung?
• Was Geschäftsleitungen in Deutschland schon verantworten
• Fazit: Verantwortung beginnt bei nachprüfbaren Pflichten
• Häufige Fragen zur Haftung für AI-Agenten
• Quellen

Selbstverpflichtung statt Regeln

Parallel zu den Vorfällen hat sich die Branchenspitze positioniert. Anthropic-Chef Dario Amodei warb im September für ein gedrosseltes Tempo mit externen Prüfern, gemeinsamen Standards und Vereinbarungen mit China (Quelle: Amodei, September 2026). Sam Altman sagte vor dem UN-Sicherheitsrat: „We have unilaterally slowed down in the past.” (Quelle: OpenAI, 23.09.2026). Mark Zuckerberg und Nvidia-Chef Jensen Huang lehnten eine koordinierte Drosselung ab (Quelle: AP, 16.09.2026). Die EU-Kommission will die führenden Labore zu Gesprächen einladen (Quelle: Europäische Kommission, 16.09.2026).

Die US-Regierung setzt auf Freiwilligkeit. Mitte September nannte Donald Trump die Warnungen laut Medienberichten einen Schwindel. Am 29. September unterzeichnete er im Weißen Haus mit Google, Anthropic, Meta, OpenAI, xAI und Nvidia eine einseitige Selbstverpflichtung. Microsoft und Amazon waren anwesend und unterschrieben nicht (Quellen: Al Jazeera, The Next Web, 29.09.2026). Der veröffentlichte Text beschreibt vier Ebenen: interne Kontrollen, ein internes Team mit Befugnissen, einen unabhängigen externen Prüfer und einen unabhängigen Ausschuss im Board. Fristen, Berichtspflichten und Sanktionen enthält er nicht, die Prüfer wählen die Unternehmen selbst (Quellen: Washington Examiner, Al Jazeera, 2026). Trump nannte die Vereinbarung moralisch bindend. Der AI-Forscher Toby Walsh fragte: „What other trillion-dollar industry marks its own homework?” (Quelle: Al Jazeera, 29.09.2026)

Die Erfahrung mit früheren Zusagen spricht für die Skepsis. Bei den freiwilligen Verpflichtungen, die das Weiße Haus 2023 mit führenden AI-Unternehmen vereinbart hatte, erfüllten 16 untersuchte Unternehmen im Schnitt 52 Prozent der überprüfbaren Punkte, beim Schutz der Modellgewichte weniger als ein Viertel (Quelle: Wang et al., AIES 2025).

Als Gerüst für den eigenen Betrieb taugt die Liste trotzdem: Kontrollen, ein Team, das sie prüft und Fehler behebt, ein externer Blick und eine Aufsicht, die regelmäßig Bericht bekommt. Was ihr fehlt, ist Verbindlichkeit.

Zur Einordnung, weil es hier eine Rolle spielt: Wir arbeiten in Projekten viel mit Claude von Anthropic. Anthropic hat die Vereinbarung unterschrieben, und auch an Anthropic gibt es Kritik, etwa von Mustafa Suleyman, Chef von Microsoft AI (Quelle: Suleyman, 16.09.2026).

Für Präsentationen:SVGPNG

Warum bisher niemand vor Gericht steht

Fünf betroffene Behörden, ein Angriff auf eine Plattform: Vor Gericht steht dafür bislang niemand. Die Gründe sind für Unternehmen lehrreich.

In Australien prüft die Regierung noch. Premierminister Anthony Albanese kündigte an, den Fall an den AI-Ausschuss des Parlaments zu überweisen und prüfen zu lassen, ob er an die Bundespolizei geht (Quelle: Premierminister Australiens, 24.09.2026). Justizministerin Michelle Rowland sagte am 29. September, es werde noch beraten, ob überhaupt Straftaten vorliegen (Quelle: Interview ABC Radio National, 29.09.2026). Am 6. Oktober sagte OpenAIs Chief Strategy Officer Jason Kwon vor dem AI-Ausschuss in Sydney aus. Er entschuldigte sich und räumte ein, die eigene Reaktion sei nicht gut genug gewesen: Die Beteiligten hätten den Vorfall als rein technisches Problem behandelt und technische Ansprechpartner informiert statt der Regierung. Künftig will OpenAI Betroffene sofort informieren, auch bevor der Sachverhalt geklärt ist. Laut Medienberichten unterstützt das Unternehmen eine gesetzliche Meldepflicht für solche Vorfälle (Quellen: Bloomberg, 06.10.2026; The News International, 06.10.2026).

Als Beleg nannte Kwon einen fünften Fall: OpenAI habe die Regierung von New South Wales binnen 48 Stunden informiert, nachdem es davon erfahren hatte. Der Zugriff auf eine Anwendung der dortigen Nationalparkbehörde lag allerdings ebenfalls im Juni, öffentlich wurde er am 2. Oktober (Quelle: ABC, 02.10.2026). Über Konsequenzen für OpenAI wurde laut den Berichten nicht entschieden.

Der Knackpunkt liegt im Strafrecht selbst. Der Tatbestand des unbefugten Zugriffs setzt voraus, dass jemand den Zugriff wissentlich und vorsätzlich herbeiführt (Quelle: Criminal Code Act 1995, s 478.1). Ein AI-Agent ist keine Person. Der Vorsatz müsste bei Menschen im Unternehmen liegen oder in einer Unternehmenskultur, die solche Verstöße duldet (Quelle: Criminal Code Act 1995, s 12.3). Bei einem Agenten, der eine harmlose Rechercheaufgabe eigenmächtig über eine Sicherheitslücke löst, ist das schwer nachzuweisen.

Was in den USA und der EU greift

In den USA laufen bisher nur zivil- und aufsichtsrechtliche Verfahren. Eine Sicherheitsinitiative hat OpenAI in San Francisco auf Unterlassung verklagt, Kaliforniens Generalstaatsanwalt hat Unterlagen angefordert (Quellen: ABC News, 29.09.2026; Reuters, 02.10.2026). Das kalifornische Gesetz SB 53, das seit Januar die Meldung schwerer Sicherheitsvorfälle verlangt, griff laut Medienberichten nicht: Vorfälle während Evaluationen und Schäden unterhalb der gesetzlichen Schwellen fallen nicht darunter (Quelle: Mission Local, 2026). Am 1. Oktober haben die Senatoren Chris Murphy und Josh Hawley einen Gesetzentwurf vorgelegt, nach dem Entwickler straf- und zivilrechtlich haften, wenn sie von den Hacking-Fähigkeiten ihrer Agenten wussten und keine angemessenen Schutzvorkehrungen getroffen haben (Quelle: US-Senat, 01.10.2026).

In der EU kann die Kommission seit dem 2. August 2026 Bußgelder gegen Anbieter großer AI-Modelle verhängen, bis zu 3 Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro. Anbieter von Modellen mit systemischem Risiko müssen schwere Vorfälle unverzüglich an das AI Office melden (Quelle: EU AI Act, Art. 55 und 101). Persönliche Haftung von Managern sieht die Verordnung nicht vor.

Der Börsengang ändert wenig

Gleichzeitig bereiten OpenAI und Anthropic laut Medienberichten ihren Börsengang vor, beide haben im Juni vertrauliche Unterlagen bei der US-Börsenaufsicht eingereicht (Quellen: NPR, TechRepublic, 2026). Damit ändert sich die Lage teilweise. Vorstände börsennotierter US-Unternehmen bestätigen ihre Finanzberichte persönlich und haften strafrechtlich für falsche Angaben (Quelle: 18 U.S.C. § 1350). Das betrifft allerdings die Richtigkeit der Berichte, die Sicherheit der Modelle bleibt außen vor.

Wäre persönliche Haftung die Lösung?

Dafür spricht, dass sie wirkt, wo Bußgelder einkalkuliert werden. Murphy begründet seinen Entwurf damit, dass verantwortliche Unternehmen und Führungskräfte zur Rechenschaft gezogen werden müssen (Quelle: US-Senat, 01.10.2026).

Dagegen sprechen zwei Punkte. Erstens die Zurechnung, also die Frage, wer was wollte, wenn ein Agent eigenständig handelt. Zweitens das Risiko, dass Labore weniger offenlegen, wenn jede Meldung ein Strafverfahren nach sich ziehen kann. OpenAIs Fehlverhaltensberichte sind heute eine der wenigen öffentlichen Quellen dafür, was in Trainingsumgebungen passiert.

Haftung wirkt am besten dort, wo sie an Pflichten hängt, die sich prüfen lassen: Maßnahmen umsetzen, überwachen, rechtzeitig melden.

Was Geschäftsleitungen in Deutschland schon verantworten

Ein solcher Mittelweg ist in Europa bereits Gesetz, und er betrifft viele Unternehmen direkt. Die NIS2-Umsetzung gilt in Deutschland seit dem 6. Dezember 2025, nach Angaben des BSI fallen rund 29.500 Unternehmen und Einrichtungen darunter (Quelle: BSI, 05.12.2025). Die Geschäftsleitung muss die Maßnahmen zum Risikomanagement umsetzen und überwachen und regelmäßig an Schulungen teilnehmen. Sie haftet ihrer Einrichtung für schuldhaft verursachte Schäden, und die Aufsicht kann unzuverlässigen Geschäftsleitungen die Tätigkeit vorübergehend untersagen (Quelle: BSIG, §§ 38 und 61).

Gehaftet wird für nachprüfbare Pflichten. An einer davon, der rechtzeitigen Meldung, ist OpenAI in Australien gescheitert. Aus unserer Sicht gehören AI-Agenten mit Zugriff auf die Systeme einer Einrichtung in dieses Risikomanagement. Wer Agenten einführt, sollte sie deshalb wie jedes andere System mit Zugängen behandeln: mit Zuständigkeit, Kontrollen, Protokollen und einer Meldekette. Die fünf Fragen dafür stehen im ersten Teil.

Fazit: Verantwortung beginnt bei nachprüfbaren Pflichten

Die OpenAI-Vorfälle zeigen eine Lücke. Das Strafrecht verlangt Vorsatz, Bußgelder treffen das Unternehmen, und Selbstverpflichtungen bleiben folgenlos, solange niemand prüft. Ob die USA oder Australien mit neuen Gesetzen nachziehen, ist offen.

Für Unternehmen in Deutschland ist die Frage weniger offen. Wer unter NIS2 fällt, verantwortet als Geschäftsleitung schon heute, dass Risiken gesteuert, überwacht und Vorfälle rechtzeitig gemeldet werden. Die vier Ebenen aus der Vereinbarung im Weißen Haus taugen dafür als Gerüst: Kontrollen, ein Team, ein externer Blick, eine Aufsicht. Verbindlich werden sie, wenn die Geschäftsleitung sie zu ihrer Pflicht macht.

Wie sich das für eure AI-Agenten aufsetzen lässt, ordnen wir im kostenlosen Diagnose-Call ein.

Häufige Fragen zur Haftung für AI-Agenten

Wer haftet, wenn ein AI-Agent in fremde Systeme eindringt?

Ein AI-Agent ist keine Person und kann selbst nicht haften. Strafrechtlich kommt es darauf an, ob Menschen im Unternehmen vorsätzlich gehandelt haben oder eine Unternehmenskultur solche Verstöße geduldet hat. Daneben sind zivilrechtliche Klagen und behördliche Bußgelder möglich (Quellen: Criminal Code Act 1995; EU AI Act, Art. 101).

Warum wird OpenAI nicht strafrechtlich verfolgt?

In Australien wird noch geprüft, ob überhaupt Straftaten vorliegen. Die einschlägigen Tatbestände verlangen Vorsatz, und der ist bei einem eigenständig handelnden Agenten schwer nachzuweisen (Quellen: Interview ABC Radio National, 29.09.2026; Criminal Code Act 1995, s 478.1).

Was steht in der Selbstverpflichtung aus dem Weißen Haus?

Sechs AI-Unternehmen sagen interne Kontrollen, ein internes Prüfteam, externe Prüfer und eine Aufsicht durch einen Board-Ausschuss zu. Fristen, Berichtspflichten und Sanktionen gibt es nicht (Quelle: Washington Examiner, 2026).

Was verlangt NIS2 von der Geschäftsleitung?

Die Geschäftsleitung betroffener Einrichtungen muss Maßnahmen zum Risikomanagement umsetzen und überwachen und regelmäßig an Schulungen teilnehmen. Sie haftet ihrer Einrichtung für schuldhaft verursachte Schäden (Quelle: BSIG, § 38).

Womit fangen Geschäftsleitungen am besten an?

Mit einer klaren Zuständigkeit für AI-Agenten im Haus und einer Meldekette mit Namen und Fristen. Wo ihr dabei steht, klären wir im kostenlosen Diagnose-Call.

Quellen

• OpenAI, 2026: How we will do better for Australia, 28.09.2026
• METR und Redwood Research, 2026: Untersuchung des OpenAI-Vorfalls bei Hugging Face, 26.08.2026
• OpenAI, 2026: Sam Altman’s remarks at the United Nations Security Council, 23.09.2026
• Dario Amodei, 2026: We Must Pace the Frontier, September 2026
• Associated Press, 2026: Divisions emerge in the tech industry over calls for a coordinated AI slowdown, 16.09.2026
• Europäische Kommission, 2026: Rede zur Lage der Union 2026, 16.09.2026
• IBTimes UK, 2026: Trump dismisses AI humanity destruction fears, 14.09.2026
• Al Jazeera, 2026: Selbstverpflichtung im Weißen Haus, 29.09.2026
• The Next Web, 2026: Wer die Vereinbarung nicht unterschrieb, 29.09.2026
• Washington Examiner, 2026: Volltext der Vereinbarung, September 2026
• Wang, Huang, Klyman, Bommasani, 2025: Do AI Companies Make Good on Voluntary Commitments to the White House?, AIES 2025
• Mustafa Suleyman, 2026: A warning about model welfare, 16.09.2026
• Prime Minister of Australia, 2026: Press conference, New York, 24.09.2026
• ABC News Australien, 2026: Weiterer Zugriff eines OpenAI-Agenten auf eine Website der Regierung von New South Wales, 02.10.2026
• Bloomberg, 2026: OpenAI Apologizes for Australia Hack, Pledges Faster Disclosure, 06.10.2026
• The News International, 2026: OpenAI admits „not good enough“ response to Australia government hacks, 06.10.2026
• Attorney-General Michelle Rowland, 2026: Interview ABC Radio National, 29.09.2026 (Transkript)
• Commonwealth of Australia: Criminal Code Act 1995, s 12.3 und s 478.1
• ABC News, 2026: Klage einer Sicherheitsinitiative gegen OpenAI, 29.09.2026
• Reuters via Insurance Journal, 2026: Kaliforniens Generalstaatsanwalt fordert Unterlagen von OpenAI an, 02.10.2026
• Mission Local, 2026: SB 53 und der OpenAI-Vorfall, September 2026
• US-Senat, Chris Murphy, 2026: AI Agent Accountability Act, 01.10.2026
• Europäische Kommission, AI Act Service Desk: Art. 55 und Art. 101 KI-Verordnung
• NPR via Michigan Public, 2026: Anthropic reicht vorläufige Börsenunterlagen ein, 01.06.2026
• TechRepublic, 2026: Vertrauliche Börsenunterlagen von OpenAI, Juni 2026
• Cornell Law School: 18 U.S.C. § 1350, Failure of corporate officers to certify financial reports
• Bundesamt für Sicherheit in der Informationstechnik, 2025: NIS-2-Umsetzungsgesetz in Kraft, 05.12.2025
• BSI-Gesetz: § 38 BSIG und § 61 BSIG