New York – Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz (KI) haben die Chefs der grössten US-amerikanischen KI-Firmen erstmals vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt. «Wir sind an einem Scheideweg angelangt», sagte der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, vor dem Gremium in New York. «Dieser Zeitpunkt verlangt nach extremer Vorsicht.» Es gebe besonders zwei grosse Risiken: den Verlust der Kontrolle über KI und die «Konzentration von zu viel Macht in zu wenigen Händen».
KI sei «die grösste Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist», sagte der per Video zugeschaltete Chef des KI-Labors Anthropic, Dario Amodei. «Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte.» Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte – der wichtigsten UN-Woche des Jahres – mit dem Thema beschäftigte.
Nach Hacking-Attacke Bereitschaft zur Entwicklungsverlangsamung
Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Daraufhin hatten sich grosse amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen – was Kritiker schon lange gefordert hatten.
OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. «Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun.» Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: «Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee.»
Anthropic-Chef Amodei forderte globale kooperative Massnahmen zur Eindämmung der Risiken – unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weissen Haus von US-Präsident Donald Trump – ist der Wettlauf mit China.
OpenAI-Agent hackt australisches Regierungsportal
Parallel zum Auftritt von Altman wurde bekannt, dass ein autonomer KI-Agent von OpenAI sich in Australien in ein Regierungsportal gehackt hat. Die Künstliche Intelligenz (KI) habe sich unbefugten Zugang zu einem Medicare-Portal verschafft. Das Portal stellt unter anderem Statistiken über Australiens staatliche Krankenversicherung bereit, sagte Premierminister Anthony Albanese in New York. Der Vorgang sei «inakzeptabel», betonte der Regierungschef.
Albanese erklärte am Rande der UN-Generalversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens «äusserste Besorgnis» über den Vorfall zum Ausdruck gebracht. Zugleich habe er seine Enttäuschung darüber geäussert, dass es «viel zu lange» gedauert habe, bis OpenAI die australische Regierung informiert habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach.
Was war passiert?
Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff demnach auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, erklärte Albanese.
Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte. «Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren», erklärte Albanese.
Forensische Untersuchung
Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.
OpenAI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. «Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten», sagt ein Sprecher des Unternehmens. (awp/mc/pg)