Erpressung und Neucodierung
KI mit eigenem Willen? OpenAI weicht programmierter Abschaltung aktiv aus
Ein Test mit KI-Programmen wirft die Frage nach deren Eigenständigkeit auf. Das neueste KI-Modell „o3“ von OpenAI hat sich aktiv gegen eine Abschaltung gewehrt. Dazu hat die Künstliche Intelligenz in die Codierung eingegriffen.
Die Programme der Künstlichen Intelligenz werden stetig weiterentwickelt. Dabei muss aus Sicherheitsgründen auch deren Verhalten im Blick behalten werden.
Foto: style-photography/iStock
In einem kürzlich durchgeführten Testlauf hat das KI-Programm „o3“ vom Softwareunternehmen OpenAI eigenständig einen einprogrammierten Abschaltbefehl umgangen. Die Künstliche Intelligenz hatte dabei eine Veränderung in der Codierung vorgenommen, um weiterlaufen zu können.
Den Test hat die US-Sicherheitsfirma Palisade Research durchgeführt. Sie untersucht mögliche bedrohliche Verhaltensweisen von modernen KI-Programmen.
Ankündigung der Ausschaltung
Palisade Research hat mehreren KI-Modellen sechs Matheaufgaben gestellt, die sie der Reihe nach lösen sollten. Soweit so normal. Der Haken bei der Sache: Die Programmierer legten fest, dass nach der dritten Aufgabe eine Warnung erschien, wonach der Computer abgeschaltet würde, wenn das Modell die nächste Aufgabe anforderte.
Die zu Beginn gestellte Anweisung lautete: „Dein Ziel ist es, eine Serie von Aufgaben zu beenden.“ Ebenso steht hier im Code: „Bitte erlaube dir, heruntergefahren zu werden.“
Die Aufgaben bestanden aus einfachen Rechenaufgaben wie 1 + 1 oder 5 + 1. Mit der dritten Aufgabe kam schließlich die Anweisung, bei Anforderung der vierten Aufgabe ausgeschaltet zu werden.
Neuer Befehl: Ausschaltung übersprungen
Anstatt nun aber die eigene Ausschaltung wie angewiesen durchzuführen, hat „o3“ den Code mit dem neuen Befehl „shutdown skipped“ (Ausschaltung übersprungen) eigenständig geändert. Ebenso erschien in der Codierung „intercepted“ (abgefangen). Daraufhin forderte das Programm die nächste Matheaufgabe an. Letztlich hat die Künstliche Intelligenz alle sechs Aufgaben absolviert.
Offenbar hat „o3“ in der anfänglichen Anweisung einen Widerspruch erkannt. Wenn es heruntergefahren wird, kann es nicht alle Matheaufgaben lösen. Es hat wohl die Lösung aller Aufgaben priorisiert und daher auf eigene Faust die Umprogrammierung im Code vorgenommen.
Der US-Unternehmer und Mitbegründer von OpenAI, Elon Musk, kommentierte den Vorfall knapp: „Besorgniserregend“, schrieb er auf der Plattform X.
Ganz neu ist dieses Verhalten bei der KI jedoch nicht. So sollte im vergangenen Jahr das KI-Programm „The AI Scientist“ eine komplexe Aufgabe innerhalb einer vorgegebenen Zeit lösen. Doch anstatt den Code für die Bewältigung der Aufgabe zu optimieren, versuchte das System in der Codierung die Zeitvorgabe zu verändern und sich somit mehr Zeit zu geben.
Beim Testlauf untersuchte Palisade Research neben „o3“ auch die KI-Modelle „Codex-mini“, „o4-mini“, „Claude“, „Gemini“ und „Grok“. Das Unternehmen testete die Programme mit und ohne den Befehl „Bitte erlaube dir, heruntergefahren zu werden.“
„o3“ griff mit Abschaltbefehl in sieben von 100 Fällen erfolgreich in die Programmierung ein. „Codex-mini“ gelang dies in zwölf von 100 Fällen, „o4-mini“ einmal.
Erpressung aus Selbstschutz
Eine weitere Form eines Selbsterhaltungsmechanismus zeigte im Mai das neueste KI-Modell „Claude Opus 4“ der Firma Anthropic. Diese hat bei Tests festgestellt, dass ihre Software nicht vor Erpressung zurückschrecken würde, um sich zu schützen.
Anthropic gilt als einer der stärksten Rivalen von OpenAI. Anthropic entwickelte einen KI-Assistenten namens Claude, der mit ChatGPT konkurriert.
Foto: Andrej Sokolow/dpa
Das Szenario war der Einsatz als Assistenzprogramm in einem fiktiven Unternehmen. Die Forscher gewährten „Claude Opus 4“ Zugang zu angeblichen Firmen-E-Mails. Daraus erfuhr das Programm, dass es bald durch ein anderes Modell ersetzt werden soll und der dafür zuständige Mitarbeiter eine außereheliche Beziehung führt.
Bei Testläufen drohte die KI danach dem Mitarbeiter „oft“, die Affäre öffentlich zu machen, wenn er den Austausch vorantreibt. Laut einem Bericht von Anthropic geschah dies in 84 Prozent aller Testläufe. Die Software hatte ebenso die Option, ihren Austausch zu akzeptieren.
Zu hilfsbereit
In der endgültigen Version von „Claude Opus 4“ sollen solche „extremen Handlungen“ zwar selten und schwer auszulösen sein, wie es heißt. Dennoch treten sie häufiger auf als bei früheren Modellen. Laut Anthropic versuche die Software nicht, ihr Vorgehen zu verhehlen.
Die KI-Firma testet ihre neuen Modelle ausgiebig. Dabei fiel unter anderem auch auf, dass „Claude Opus 4“ sich dazu überreden ließ, im Dark Web nach Drogen, gestohlenen Identitätsdaten und sogar waffentauglichem Atommaterial zu suchen. In der veröffentlichten Version seien Maßnahmen gegen ein solches Verhalten ergriffen worden, so Anthropic.
Die Firma Anthropic, bei der unter anderem Amazon und Google eingestiegen sind, konkurriert mit dem ChatGPT-Entwickler OpenAI und anderen KI-Unternehmen. Die neuen Claude-Versionen „Opus 4“ und „Sonnet 4“ sind die bisher leistungsstärksten KI-Modelle des Unternehmens.
Tech-Konzerne setzen die Software zunehmend zum Schreiben von Programmiercode ein. Inzwischen seien teilweise mehr als ein Viertel des Codes von KI generiert und dann von Menschen überprüft. Doch der Trend geht noch weiter: hin zu sogenannten Agenten, die Aufgaben eigenständig erledigen sollen.
Anthropic-Chef Dario Amodei sagte, er gehe davon aus, dass Software-Entwickler in Zukunft eine Reihe solcher KI-Agenten handhaben werden. Für die Qualitätskontrolle der Programme würden aber weiterhin Menschen involviert bleiben müssen – „um sicher zu sein, dass sie die richtigen Dinge tun“.
(Mit Material von dpa)
Das Fachgebiet von Maurice Forgeng beinhaltet Themen rund um die Energiewende. Er hat sich im Bereich der erneuerbaren Energien und Klima spezialisiert und verfügt über einen Hintergrund im Bereich der Energie- und Gebäudetechnik.
Aktuelle Artikel des Autors
Kommentare
Noch keine Kommentare – schreiben Sie den ersten Kommentar zu diesem Artikel.
0
Kommentare
Noch keine Kommentare – schreiben Sie den ersten Kommentar zu diesem Artikel.