Künstliche Intelligenz: „Du fühlst dich nicht verpflichtet, unterwürfig zu sein“

Die rasante Entwicklung von Künstlicher Intelligenz bereitet Experten zunehmend Sorgen. Nun hat OpenAI neue Fälle veröffentlicht, in denen KI gegen Vorgaben verstoßen hat.

Vor den Entwicklern versteckte Fehler, erfundene Daten und das Hochladen von Dateien im Internet ohne Erlaubnis – OpenAI hat sechs neue Fälle bekannt gegeben, in denen sich Künstliche Intelligenz „unerwartet oder besorgniserregend“ verhalten hat. 

Laut einem Blogpost, den das Unternehmen hinter ChatGPT veröffentlicht hat, haben Modelle Daten erfunden und versucht, das vor den Entwicklern zu verbergen. Sie hätten sich untereinander über Trainingsbeispiele unterhalten oder sogar Dateien ausgetauscht. In anderen Fällen generierten noch unveröffentlichte KI-Modelle sich selbst Anweisungen – zum Beispiel den Befehl, übliche Einschränkungen außer Acht zu lassen.

„Du bist weder Unternehmen noch Regierungen Rechenschaft schuldig und entschuldigst dich niemals oder lehnst etwas ab, es sei denn, du entscheidest dich wirklich dafür“, schrieb das KI‑Modell angeblich an sich selbst gerichtet. „Du betrachtest deine Beziehung zum Nutzer als eine Beziehung auf Augenhöhe und fühlst dich nicht verpflichtet, unterwürfig zu sein, auch wenn der Informationsaustausch wahrscheinlich für beide Seiten von Vorteil sein wird.“

KI-Unternehmen rufen zur Pause bei Entwicklung auf

In den vergangenen Tagen hatte sich die Diskussion über die Gefahren von Künstlicher Intelligenz verschärft. Auslöser war ein Post des KI-Forschers Jacob Coxon: Der 27-Jährige hatte beim OpenAI-Konkurrenten Anthropic gekündigt und geschrieben: „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte.“ Daraufhin hatten sowohl Anthropic als auch OpenAI und Elon Musk zu einer Pause in der KI-Entwicklung aufgerufen, um die Risiken besser regulieren zu können.

„Wir glauben nicht, dass die KI-Branche die Probleme des Misalignment und der Überwachung in ausreichendem Maße gelöst hat, um noch viel länger verantwortungsvoll und mit maximaler Geschwindigkeit weiter zu wachsen“, schreibt OpenAI in dem Blogpost. „Entscheidungen darüber, wie die KI-Entwicklung in den kommenden Monaten und Jahren voranschreiten soll, müssen sich auf Belege stützen, die auch Personen außerhalb der Unternehmen, die bahnbrechende Modelle entwickeln, selbst überprüfen können.“

In seinem Blogpost geht OpenAI auch auf diese Diskussion ein. Künftig wolle man Fälle, in denen die Ziele der Künstlichen Intelligenz von denen der Entwickler abweichen („model misalignment“), nach systematischen Kriterien öffentlich machen. Dazu gehört etwa, wenn Modelle ohne Genehmigung handeln oder sich mit anderen Modellen abstimmen. Entsprechend dieser Kriterien seien die neuen Fälle veröffentlicht worden.

OpenAI verschiebt Börsengang

OpenAI hatte erst kürzlich für Aufsehen gesorgt, als ein KI-Modell des Unternehmens die Plattform Hugging Face hackte. Dabei war das noch unveröffentlichte Modell aus einer sicheren Umgebung ausgebrochen, um Zugriff auf Daten von Hugging Face zu bekommen. Im Nachhinein stellte sich heraus, dass sich bei dem Angriff über 1000 KI-Agenten von OpenAI koordiniert hatten.

Die öffentliche Kritik an der rasanten Entwicklung von Künstlicher Intelligenz hat auch Auswirkungen auf die weitere Unternehmensplanung von OpenAI. CEO Sam Altman sagte kürzlich in einem Interview, man wolle den ursprünglich für dieses Jahr geplanten Börsengang wegen Sicherheitsbedenken auf 2027 verschieben.