Australien nimmt KI-Entwickler stärker in die Pflicht

Australien verschärft die Sicherheitsvorschriften für Entwickler und Entwicklerinnen besonders leistungsfähiger Künstlicher Intelligenz (KI). Damit reagiert die Regierung von Premierminister Anthony Albanese auf einen schwerwiegenden Vorfall im Juni.

Albanese kündigte heute sechs verbindliche Sicherheitsanforderungen an – darunter vor allem eine schnelle Meldepflicht bei künftigen Zwischenfällen. Ein konkretes Datum für das Inkrafttreten der neuen Pflichten nannte Albanese nicht – das umfassende KI-Gesetz soll voraussichtlich Anfang 2027 ins Parlament eingebracht werden.

Die neuen Vorgaben sollen sicherstellen, dass KI-Unternehmen mögliche Gefahren frühzeitig erkennen, ihre Systeme besser absichern und bei Problemen transparent handeln. Auch die Kontrolle durch unabhängige Fachleute und die Veröffentlichung von Sicherheitskonzepten sollen verpflichtend werden.

Die Maßnahmen gehen auf einen Sicherheitsvorfall im Juni zurück: Ein autonomer KI-Agent des US-Unternehmens OpenAI hatte unbefugt ein australisches Regierungsportal gehackt, das unter anderem Statistiken über die staatliche Krankenversicherung des Landes bereitstellt.

Die Webanwendung hatte dem Agenten mehrfach den Zugriff verwehrt – dieser setzte sich aber darüber hinweg und fand schließlich selbst einen Weg ins System. OpenAI informierte die australischen Behörden erst im September über den Vorfall – per E-Mail an ein öffentliches Postfach. Albanese bezeichnete das Verhalten des Unternehmens als inakzeptabel.