morgenstern: Ok, Doomer

Künstliche Intelligenz könnte die Menschheit auslöschen, warnen selbst die Tech-Bosse. Haben sie ihr Gewissen wiedergefunden – oder geht es auch um etwas anderes? Die Lage am Morgen.

Guten Morgen, liebe Leserinnen und Leser,

als ich gestern kurz ChatGPT – oder „Chatty“, wie man unter dem Jungvolk sagt – gefragt habe, ob es mir gute Cafés in meiner Umgebung empfehlen könne, hatte ich schon wieder ein schlechtes Gewissen. Jetzt arbeite ich auch noch an unserem eigenen Untergang mit! Beschämt habe ich das Chatfenster wieder geschlossen.

Künstliche Intelligenz könnte schon in wenigen Jahren zur Auslöschung der Menschheit führen. Diese schrille Warnung geht gerade durch die Welt. Es klingt ja auch einigermaßen beängstigend, nicht zuletzt weil wir durch die Filme wie „Terminator“ eine relativ konkrete Vorstellung haben, wie so etwas aussieht. Nach Pandemie und Kriegen jetzt auch noch eine Roboter-Revolution? Ich sage Ihnen, wie es ist: gar keinen Bock darauf.

Wann schlägt die künstliche Intelligenz die menschliche?

Auslöser der Debatte war der KI-Forscher Jacob Coxon. Er arbeitete bei dem ChatGPT-Mutterunternehmen OpenAI und Anthropic, der Firma hinter dem Chatbot Claude. Vergangene Woche kündigte er und postete auf Social Media eine eindringliche Warnung: „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte.“ Die großen KI-Unternehmen wüssten das, täten aber nichts dagegen. 

Jedenfalls bisher. Am Wochenende veröffentlichte Anthropic-Chef Dario Amodei einen über 3000 Wörter langen Essay, in dem er für eine Pause in der KI-Entwicklung plädierte, um Sicherheitsstandards zu entwickeln. Und plötzlich schien der Kapitalismus besiegt: Seine beiden größten Konkurrenten, OpenAI-Chef Sam Altman und Elon Musk, stimmten ihm zu. OpenAI verschiebt sogar seinen Börsengang auf kommendes Jahr.

Nun stimmt es, dass die Fortschritte, die Künstliche Intelligenz derzeit macht, beängstigend sind und schneller vorangehen, als wir verstehen können. Wenn mehr als 1000 KI-Forscher die US-Regierung in einer Petition anflehen, etwas zu unternehmen, sollte man das ernst nehmen. US-Verteidigungsminister Pete Hegseth teilte mit, dass KI „keine tödlichen Entscheidungen“ im Pentagon treffe. Beruhigend zu wissen, dass das immer noch Donald Trump macht.

Ob es nun wirklich daran liegt, dass die Tech-Bosse ihr Gewissen wiedergefunden haben? Zumindest OpenAI musste zuletzt schwache Zahlen schreiben. Auch anderswo dürften langsam Investoren fragen, was sie von ihrem Geld eigentlich zu sehen bekommen. Vielleicht wollen die KI-CEOs also eine Atempause nicht nur wegen des Weltuntergangs, sondern auch wegen des eigenen Geldbeutels.

Eine andere Frage stellt sich mir auch noch, angesichts der Aufmerksamkeit für den KI-Doomsday: Wie geht es eigentlich den Klimaforschern?

Kanzler im Endspiel

Während der Weltuntergang zum Glück noch ein paar Jahre hin ist, könnte es in Berlin deutlich schneller gehen. In der Bundesregierung liegen – Achtung Phrase – die Nerven blank. Der Kanzler ist unbeliebt und hat nach dem Debakel von Sachsen-Anhalt offenbar auch in der eigenen Partei praktisch keine Autorität mehr.

Und jetzt? Verschiedenste Szenarien geistern durch das Regierungsviertel: Es reicht vom Weiter-so bis hin zum Königsmord (also eigentlich Kanzlersturz, keine Angst). Was ist wie wahrscheinlich? Mein Kollege Florian Schillat aus dem stern‑Politikressort hat das Chaos einmal sortiert. 

5-Minuten-Talk: Ein Gespenst geht um in Berlin

Eines der Szenarien, die Florian beschreibt, scheint in der Union besonders verlockend zu sein: Man könnte doch einfach die SPD rauswerfen und mit einer Minderheitsregierung weitermachen. Es wäre der größte politische Stunt in der Geschichte der Bundesrepublik. Was ist also davon zu halten? Die stern‑Politikchefs Veit Medick und Jan Rosenkranz holen Sie im „5-Minuten-Talk“ ab.

Weitere Schlagzeilen im Überblick

• Alexander Zverev gewinnt die US Open
• CDU bei Kommunalwahl in Niedersachsen vorne
• In Schweden zeichnet sich ein Wahlkrimi ab

Das passiert am Montag, dem 14. September

• Kanzler Friedrich Merz nimmt in Finnland am Arktis-Gipfel teil
• Finanzminister Klingbeil (SPD) empfängt UniCredit-Chef Andrea Orcel im Commerzbank-Übernahmekampf
• Mit Bayern enden die letzten Sommerferien dieses Jahres

Unsere stern+-Empfehlung des Tages

Immer ist man selbst derjenige, der Freunde anschreibt. Fragt, wie es ihnen geht und ob man sich mal wieder treffen könne. Nun kann die andere Person im Stress sein, vielleicht andere Dinge im Kopf haben oder auch einfach die Nachricht übersehen. Doch wenn es scheinbar immer so ist, kann es nerven – und enttäuschen. 

Falls es Ihnen so geht, lege ich Ihnen den Text meiner Kollegin Mirjam Ratmann ans Herz. Wie man mit solchen Situationen umgehen kann und welche Verantwortung man selbst hat, hat sie hier aufgeschrieben.

Wie hat Ihnen dieser morgenstern gefallen? Schreiben Sie es mir gerne: kilian.schroeder@capital.de. Sie können dieses Morgen-Briefing auch als Newsletter in Ihr Postfach erhalten. Melden Sie sich einfach unter folgendem Link an.

Ich wünsche Ihnen einen guten Start in den Tag! 

Kilian Schroeder