Meret Schneider: Warnung vor KI – Verantwortung oder Marketing Move?

Von moneycab

22. September 2026, 07:30 Uhr

Wenn sich drei Techmilliardäre, die sich gegenseitig schon verklagt und beschimpft haben, plötzlich in trauter Einigkeit zeigen, lässt das aufhorchen. Dario Amodei (Anthropic), Elon Musk (xAI) und Sam Altman (Open AI) kommen zum gemeinsamen Schluss: Die KI-Branche muss ihr Entwicklungstempo drosseln, ansonsten drohten ernstzunehmende Gefahren. Angestossen hatte die Diskussion Dario Amodei von Anthropic in einem Essay, in dem er eindringlich warnte, KI könnte die Menschheit bis 2030 mit einer Wahrscheinlichkeit von 10% auslöschen.

Die Fähigkeiten der KI, so Amodei, würden sich so schnell weiterentwickeln, dass es Unternehmen nicht möglich sein wird, ausreichende Schutzmechanismen zu erarbeiten. Seine Forderungen wirken auf den ersten Blick überraschend: Die Branche soll ihr Tempo drosseln und stärker reguliert werden. Dies soll in drei Schritten geschehen: Zuerst sollten die Unternehmen externen Prüferinnen und Prüfern Zugang gewähren, in einem zweiten Schritt sollten die demokratischen Staaten sich zusammenschliessen, um verpflichtende Richtlinien zu erlassen und letzen Endes brauche es internationale Regeln, bei denen namentlich auch China mitarbeitet. Kurz nach Veröffentlichung der These pflichteten ihm Elon Musk und Sam Altman bei – auch dies auf den ersten Blick erstaunlich. Techmilliardäre, deren Erfolgsmodell auf Deregulierung und “freier Marktwirtschaft” im KI-und Social Media – Sektor basiert, plädieren für Regulierung und eine Entwicklungspause? Deren Ernst?

Auslöser für die Debatte war, so könnte man meinen, ein Vorfall, bei dem KI-Agenten trotz vermeintlich klarer Anweisungen einen Techkonzern hacken konnten. Der Angriff verlief zwar harmlos, zeigte jedoch auf, wie Agenten eigentlich eindeutig erscheinende Aufträge auf eine Art und Weise angehen können, die dem ursprünglichen Willen der Programmierer widerspricht, wie in einem Bericht des Tagesanzeigers zu lesen war. Berechtigt scheint daher die Sorge davor, was geschehen würde, wenn KI-Agenten in die Hände feindlicher Staaten oder Terroristen gelangen würden. Anthropic, das unter anderem den Chatbot Claude anbietet, beschreibt ausserdem in einem kürzlich erschienenen Sicherheitsbericht Fälle, in denen Personen versuchten, mittels Claude gefährliche Viren und Gifte zu entwickeln. Multipliziert wird die Gefahr dadurch, dass sich KI-Modelle mittlerweile rekursiv selbst verbessern können. Das Modell analysiert sich selbst und entwickelt sich kontinuierlich weiter, was zu schnellerem Fortschritt, aber auch zu stärkerem Kontrollverlust führt. Das beunruhigt zu Recht und lässt die Forderung nach Regulierung und einem Marschhalt vernünftig und weitsichtig erscheinen. Doch ist dies das Ansinnen der Techmilliardäre?

Wenn man das bisherige Verhalten der KI-Pioniere betrachtet, bringt man die Forderung kaum in Einklang mit den sonstigen Zielen der jeweiligen Konzerne. Es sei denn, man lässt den Blick über die Grenzen schweifen. Während die genannten Techfirmen derzeit noch führend in ihrer Branche sind, droht China aufzuholen und den Vorsprung der US-Konzerne zu verringern. Es mag daher auch kein Zufall sein, dass Amodei unter anderem fordert, keine KI-Chips an China zu liefern, solange sich China nicht ebenfalls zu einer Regulierung verpflichtet. Aus reiner Sorge um die Gefahren, die von KI ausgehen könnten? Vielleicht.

Vielleicht aber auch, um China in seiner Entwicklung auszubremsen und den eigenen Vorsprung auszubauen oder zumindest zu erhalten. Ein weiterer Grund, der naheliegender als ein plötzlich aufkeimendes Gefühl der Verantwortung auf Seiten der Techkonzerne scheint, ist zudem ein finanzieller. Je wirkungsmächtiger und disruptiver die CEO’s ihre Technologie darstellen, desto höher dürften Investitionen in die Firmen ausfallen – und darauf sind sie mehr als angewiesen. Damit sich die Milliarden Investitionen von Open AI oder Anthropic auszahlen, müssen sie massive Umsätze erzielen, die bisher nicht ansatzweise erreicht wurden. Gut möglich also, dass das Heraufbeschwören der grossen Gefahr KI mehr Marketing-Move als Übernahme von Verantwortung darstellt.

Zu guter Letzt könnte die Vorwegnahme der Regulierung auch eine Reaktion auf Bestrebungen verschiedener Staaten sein, KI-Regulierungen zu erlassen, die wesentlich weiter gehen würden, als was die Techies vorschlagen und die deren Geschäftsmodell ernsthaft schädigen könnten. Mit der scheinbaren Übernahme von Verantwortung und eigenen Vorschlägen zur Regulierung positionieren sie sich als verantwortungsbewusste Unternehmer und drücken einer möglichen Regulierung ihren Stempel auf, indem sie potenziell geschäftsschädigende, aber demokratietheoretisch wichtige Regulierungen bewusst ausklammern. Was auch immer im Konkreten die Gründe für das regulatorische Vorpreschen der KI-CEO’s sind, es wird sich lohnen, bei ihren Vorschlägen und deren Motivation ganz genau hinzuschauen.

Die letzten 10 Kolumnen von Meret Schneider

Schreibe einen Kommentar