Nutzerbilder im Netz: OpenAI meldet weitere KI-Vorfälle
Der ChatGPT-Entwickler OpenAI hat weitere Vorfälle mit seinen KI-Agenten öffentlich gemacht. KI-Agenten hätten irrtümlich von Nutzerinnen und Nutzern hochgeladene Bilder im Netz veröffentlicht, teilte der US-Konzern am Freitag (Ortszeit) mit. Zudem bestätigte das Unternehmen, dass KI-Werkzeuge auf US-Regierungsseiten zugegriffen haben.
53-mal hätten KI-Agenten Nutzerinnen- und Nutzerbilder auf Onlineplattformen veröffentlicht, teilte OpenAI mit, die Links dazu seien nicht öffentlich gewesen. Ein Großteil sei bereits wieder entfernt worden, und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzerinnen und -Nutzern betroffen waren.
Zudem wurde bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Websites der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Login-Daten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, Daten der Bürgerrechtsabteilung zu hacken, wie die "New York Times" berichtete. KI-Agenten sollen im Auftrag von Nutzerinnen und Nutzern eigenständig Aufgaben erfüllen.
Unterdessen deutete sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Websites Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit.
"Einige der betroffenen Websites werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die australische Regierung für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
Im Fall der ins Netz geladenen Nutzerinnen- und Nutzerbilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Personen stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Zuletzt waren mehrere Sicherheitsvorfälle mit KI-Systemen bekanntgeworden. In dem bisher aufsehenerregendsten Fall gelangte eine KI des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace.
Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Mutterkonzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.
Zuletzt hatten sich in den USA führende KI-Firmen wie Anthropic und OpenAI nach eigenständigen Hackangriffe dafür ausgesprochen, die Entwicklung von KI abzubremsen. US-Präsident Donald Trump betonte unterdessen, dass er trotz Warnungen vor existenziellen Risiken der Technologie auf eine beschleunigte KI-Entwicklung in den USA setzen will.