Anthropic, OpenAI: Weißes Haus kritisiert KI-Warnungen
Die eigenständigen Hacks durch künstliche Intelligenz (KI) haben bei den großen Entwicklern für Vorsicht gesorgt. Dario Amodei, Chef des KI-Unternehmens Anthropic, sprach sich für eine Verlangsamung der Entwicklung aus und sprach von möglichem "katastrophalen Schaden". Andere KI-Unternehmer schlossen sich an, die Politik müsse handeln. Doch US-Präsident Donald Trump schlug die Bedenken am Sonntag in den Wind: Nur "negative Kräfte" könnten eine KI-Drosselung wünschen.
Drastisch und eindringlich warnten am Wochenende die Chefs der KI-Platzhirsche davor, dass es mit ihren Produkten zu schnell gehe. Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag.
Als besonderes Risiko sah er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei künstliche Intelligenz besser darin, und das erhöhe das Tempo weiter. Unkontrolliert könne es dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Doch dazu braucht man Verbündete in der Politik. In Washington findet man diese derzeit nicht. Trump wies die Rufe nach einer Drosselung der KI-Entwicklung zurück. Hinter derartigen Forderungen stünden "negative Kräfte", sagte Trump am Sonntag während seines Besuchs in Irland.
Die USA seien China bei KI voraus. "Wir sind das fortschrittlichste Land der Welt, und ehrlich gesagt will ich, dass das auch so bleibt", sagte Trump. "Wer bei KI gewinnt, gewinnt." Zwar seien Leitplanken möglich. Es gebe aber viele "sehr negative Kräfte, die das zur Sprache bringen, obwohl sie es nicht sollten", sagte Trump. "Sie bringen Dinge zur Sprache, die nicht passieren werden", fügte der US-Präsident hinzu, der als großer Anhänger künstlicher Intelligenz gilt.
Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler von KI handelten unverantwortlich "und spielen mit unseren Leben", erklärte Jacob Coxon.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.
Anthropic-Chef Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung von KI gewarnt und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Dieses Mal aber ist es anders: Von den Branchenkollegen erntete er nun Zuspruch. Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: "Dario hat recht."
Und auch der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, schrieb auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse. Altman sagte zudem dem Magazin "Fortune", der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte rund um Sicherheitsbedenken: "Man wäre schlecht beraten, genau jetzt an die Börse zu gehen."
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Softwareschwachstellen aus und sprachen sich zudem untereinander ab.