Ein alarmierender Aufruf erschüttert die Tech-Industrie. Forderungen an Trump werden laut, das KI-Wettrüsten einzudämmen. Doch der denkt offenbar nicht daran. Die Bosse der führenden KI-Unternehmen in den USA warnen vor den Folgen Künstlicher Intelligenz. Schon in sechs bis zwölf Monaten, so heißt es, soll die Technologie in der Lage sein, der Menschheit schweren Schaden zuzufügen – bis hin zur totalen Auslöschung der Spezies. Deshalb solle Künstliche Intelligenz schärfere Leitplanken erhalten als bisher. Einer, der für die Deregulierung der Technologie maßgeblich verantwortlich ist, sitzt im Weißen Haus: US-Präsident Donald Trump . Tagesanbruch: Elon Musk – das macht wirklich Angst "Beispielloser Cyber-Vorfall": KI bricht aus – und attackiert eigenständig andere Firma Tagesanbruch: Randvoll mit Hass Und der denkt offenbar gar nicht daran, die Entwicklung von KI zu bremsen. Bei einem Besuch in Irland spielte Trump die Sorgen auch jetzt wieder herunter. Die USA seien bei Künstlicher Intelligenz China weit voraus und führend in der Welt, weil der Erfolg bei KI essenziell für die Zukunft sei, sagte Trump am Rande seines Besuchs. Man könne die Technologie mit Leitplanken versehen. Zugleich sprach Trump von "negativen Kräften", die sich zu dem Thema äußerten. Wenn genau er damit meinte, ließ er offen. Auch Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit ein "lösbares Problem" – bewertete die Vorschläge von Anthropic-Chef Cario Amodei aber positiv. Sie seien "ein guter Schritt vorwärts", sagte er beim Sender Fox News. Musk: "Dario hat recht" Der hatte zuvor vorgeschlagen, die Entwicklung der Technologie zu verlangsamen. Amodei machte den Vorstoß am Wochenende. Da stellte der Tech-Boss einen Plan vor, dessen Ziel es ist, durch eine Verlangsamung oder gar einen Stopp der KI-Entwicklung ein bis zwei Jahre Zeit zu gewinnen, um die Risiken durch die Technologie eindämmen zu können. Binnen weniger Stunden erhielt Amodei Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI , Sam Altman, sowie von Tech-Milliardär Elon Musk , der bei seiner Firma SpaceX eigene KI entwickeln lässt. Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag. Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei überzeugt, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse. Weniger optimistische Experten gehen davon aus, dass die KI beim gegenwärtigen Tempo der Entwicklung bald schon in der Lage sein könnte, die Menschheit auszulöschen. Etwa, in dem sie sich selbstständig Zugang zu Biowaffen verschafft. Amodei plädierte daher für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Musk, lange ein Kritiker Amodeis, schrieb auf X: "Dario hat recht." Kein OpenAI-Börsengang in diesem Jahr mehr Altman sagte zudem dem Magazin "Fortune", der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: "Man wäre schlecht beraten, genau jetzt an die Börse zu gehen." Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: "Ich würde sagen, nicht 2026." OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen. Die Aktienplatzierung wird schon länger geplant. Bei einer jüngst bekanntgewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. Warnung von "katastrophalem Schaden" Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten "katastrophalen Schaden" hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er. Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche teilweise enorm kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa im Weißen Haus von Präsident Trump – ist der Wettlauf mit China. Für den 80-Jährigen ist dieser Wettbewerb offenbar wichtiger als die Sicherheitsbedenken selbst der einflussreichsten Tech-Bosse. Chinas Staatschef Xi Jinping hat sich für Ende September zu einem Besuch im Weißen Haus angekündigt, dort könnten die beiden Politiker auch über Regeln für die Entwicklung von KI sprechen. Bislang kommen aus Washington , D.C. jedoch keine Anzeichen, dass die US-Regierung an einer gemeinsamen Sicherheitsarchitektur interessiert ist. Trump beschwichtigt – Obama mahnt Auch Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit ein "lösbares Problem" – bewertete die Vorschläge von Amodei aber positiv. Sie seien "ein guter Schritt vorwärts", sagte er beim Sender Fox News. In dem Interview mit "Fortune" schlug Altman einen Pakt zwischen Trump und Jinping vor. Demnach sollten die beiden Präsidenten einen Vertrag mit wichtigen Regeln für die KI-Entwicklung aufsetzen, eine Art Nichtangriffspakt, der auf eine Seite passen würde. Darin sollten für Entwicklung, Erprobung und Überwachung der KI gemeinsame Standards festgehalten werden. Zudem sollte es eine internationale Instanz geben, die sicherstellt, dass die Standards eingehalten werden, so Altman: "Ich glaube, die Präsidenten Trump und Xi würden gemeinsam den Friedensnobelpreis erhalten, wenn sie sich auf etwas einigen könnten, worüber man sich eigentlich leicht einigen sollte – und das wäre wunderbar". Sollte dies nicht gelingen, sieht auch der OpenAI-Boss die Welt möglicherweise dem baldigen Untergang geweiht. Er hält das Wettrennen um KI für ungleich gefährlicher als das Wettrüsten mit Atomwaffen, dass sich die nuklearen Supermächte im vergangenen Jahrhundert lieferten. Auslöschung der Menschheit droht Ähnlich hatte es der ehemalige Anthropic-Programmierer Jacob Coxon vor wenigen Tagen beschrieben. "Wir bewegen uns schnurstracks auf eine sich selbst verbessernde Superintelligenz zu – und spielen mit unserem Leben", schrieb Coxon in einem Beitrag auf X. Sich selbst verbessernde Superintelligenzen sind in der Lage, unabhängig durch menschliche Kontrolle zu agieren. Viele Forscher bei Anthropic und OpenAI stimmten Coxons düsterer Vorhersage zu. Evan Hubinger, einer der führenden Entwickler bei Anthropic, schrieb als Antwort auf Coxons Beitrag, viele in der Tech-Community seien inzwischen überzeugt, "dass KI alle Menschen töten könnte". Er bezifferte die Wahrscheinlichkeit, dass dies schon innerhalb des nächsten Jahrzehnts geschieht, auf mehr als zehn Prozent. Auch Elon Musk hatte sich in einem Interview mit dem "Economist" vor einigen Wochen ähnlich geäußert. In einem Report aus seinen Laboren deutete Anthropic in der vergangenen Woche den Stand der Technologie an. Diese ist den öffentlich zugänglichen Programmen in der Regel um Monate voraus. Zum Teil sind die KI-Forscher selbst erstaunt, was ihre Kreationen zu leisten in der Lage sind – so blieben schwere Sicherheitslücken manchmal über Monate hinweg unentdeckt. In dem Anthropic-Bericht, aus dem unter anderem das renommierte Wissenschaftsmagazin "Science" zitiert, werden allerdings auch zahlreiche Fälle von potenziellem Missbrauch der Programme des Unternehmens durch Akteure außerhalb der USA dokumentiert. Vor allem in Bezug auf den populären Chatbot Claude. Dabei handele es sich um aktive Wissenschaftler, schreibt Anthropic. "Wir behaupten nicht, dass sie Schaden anrichten wollten", heißt es in dem Bericht. Dennoch hätten die Wissenschaftler, als sie durch Claude blockiert wurden, Wege gefunden, diese Einschränkungen zu umgehen. Zudem habe es sich dabei um Aktivitäten im Zusammenhang mit biologischer Forschung gehandelt. Das Unternehmen vermutet dahinter staatliche Akteure fremder Nationen. Deutscher Verband: In eigene Modelle investieren Unterdessen erkennen auch die US-Demokraten die Brisanz des Themas. Ex-Präsident Barack Obama rief die Partei auf, politische Strategien zu entwickeln, um dem Thema KI in den kommenden Jahren Priorität einzuräumen. Präsidentschaftskandidaten für das Jahr 2028 sollten Künstliche Intelligenz zu einem zentralen Anliegen machen, berichtet die "New York Times". Der Vorstandsvorsitzende des KI-Bundesverbandes, Rasmus Rothe, vermutet unterdessen "knallharte wirtschaftliche Interessen" hinter den Warnungen amerikanischer KI-Labore. Einerseits gebe es eine "wachsende Furcht vor massiven Haftungs- und Schadensersatzrisiken, wenn fehlerhafte Modelle in Firmenumgebungen echten Schaden anrichten". Zum anderen befeure die Warnung die Bewertungen mit Blick auf anstehende Börsengänge. Anders als die USA habe die EU einen klaren rechtlichen Rahmen für KI geschaffen und man müsse in Europa "massiv in wettbewerbsfähige eigene Modelle" investieren.
