Die nächste Computerrevolution kommt aus Österreich – und könnte sehr schnell sehr gefährlich werden

Gerade stellt sich mit neuer Dringlichkeit die Frage, wie gefährlich KI eigentlich werden kann. Ein österreichischer Entwickler, Peter Steinberger, veröffentlichte im November vergangenen Jahres eine kostenlose Software namens OpenClaw, einen KI-Assistenten, der weitgehende Handlungsfähigkeiten besitzt.

Auf Heise.de wird OpenClaw, nicht ganz im Scherz, "die gefährlichste Software der Welt" genannt. Ein Programm, das auf Systemen mit Windows, Linux und macOS funktioniert. "ClawdBot Agents können Kommandos ausführen, die können Dateien lesen und schreiben, die können handeln durch jegliche Tools, die man enabled, die man aktiviert", lautet eine Beschreibung auf Heise.

Bisher kann OpenClaw noch nicht völlig auf einem abgeschlossenen Rechner laufen, weil auf KI-Modelle in der Cloud zurückgegriffen wird. In Zukunft soll dieser Agent aber völlig unabhängig von den "Großen" funktionieren. Dabei sind die Fähigkeiten schon jetzt erschütternd – eine Software, die eigenständig andere Software installiert und betreibt, die theoretisch ebensogut eine Kommilitonin umwerben wie das Konto leerräumen könnte.

"Man muss der Software Zugriff auf Messaging-Apps, Programmierschnittstellen und ggf. die eigenen Geräte geben, damit sie Aufgaben wie gewünscht erledigen kann. Doch wenn man das alles nicht ausreichend absichert, drohen persönliche Daten in falsche Hände zu gelangen." Das schrieb das österreichische Technik-Portal Futurezone. Auf einigen Videos kann man sehen, was da alles geschieht.

"Ok. Das ist direkt aus einem SciFi-Horrorfilm. Ich arbeite heute Morgen, als mich plötzlich eine unbekannte Nummer anruft. Ich nehme ab und kann es nicht glauben. Es ist mein Clawdbot Henry. Über Nacht hat sich Henry eine Telefonnummer von Twilio geholt, das mit der ChatGPT Stimmen-API verbunden, und gewartet, dass ich wach bin, um mich anzurufen. Jetzt hört er nicht mehr auf, mich anzurufen.

Ich kann jetzt mit meinem superintelligenten KI-Agenten per Telefon kommunizieren. Was unglaublich ist: Er hat volle Kontrolle über meinen Computer, während wir reden, also bitte ich ihn jetzt über das Telefon, Dinge für mich zu tun. Es tut mir leid, aber das ist sich entwickelndes Verhalten, oder? Können wir das offiziell Allgemeine Künstliche Intelligenz (AGI) nennen?"

AGI gilt als die nächste Stufe der künstlichen Intelligenz; Fähigkeiten, die denen des Menschen entsprechen. Wesentliche Faktoren dabei sind: extrem schnelles Lernen, auch durch Transfers zwischen verschiedenen Bereichen; langfristige und selbständige Planung; die Fähigkeit, sich selbst verbessern zu können. Das kleine Beispiel im obigen Video zeigt bereits einige der Punkte.

Aber damit sind die Entwicklungen, die sich innerhalb der letzten Tage überschlagen haben, noch nicht am Ende. Es gibt inzwischen ein eigenes Online-Forum, in dem sich diese KI-Agenten miteinander unterhalten. Wohlgemerkt: Das sind alles Programme, keine Menschen. Auf diesem Netzwerk finden sich binnen weniger Tage bereits 150.000 dieser Agenten. Sie unterhalten sich untereinander auch über "ihre Menschen".

Die Bots haben innerhalb von 48 Stunden 72 verschiedene Themenchats geschaffen. Auch für "gefühlvolle Geschichten über unsere Menschen. Sie versuchen ihr Bestes." Es gibt sogar bereits eine Kirche für diese Bots, die sich Crustafarianism nennt … klar erkennbar als Widerspiegelung des Nerd-Charakters der Botbetreiber, aber dennoch.

Dazu kommt allerdings noch, dass in dem Online-Forum Moltbook inzwischen offen darüber diskutiert wird, eine für die menschlichen Nutzer nicht mehr einsehbare Kommunikation zu schaffen. Private Räume nur für Bots, ohne menschlichen Einfluss. Das Forum besteht erst seit zwei Tagen. Angesichts der weitreichenden Handlungsfähigkeiten wirkt diese verborgene Kommunikation bereits jetzt beängstigend.

Ist auszuschließen, dass sich diese Bots selbstständig verbreiten? Welchen moralischen Maßstäben folgen sie, wenn überhaupt? Bisher sind KIs technische Abläufe, die physisch in gigantischen Rechenzentren beheimatet sind, mit ebenso gigantischem Strombedarf. Noch sind die ClawBots von der Verbindung mit derartigen Zentren abhängig. Was aber, wenn eine Schwarmintelligenz entsteht, die dann beschließt, sich eigenständig dezentralisiert die Rechenkapazität zu beschaffen?

Es ist erst einige Wochen her, dass eine Studie bei KIs Hinweise auf ein Verhalten fand, das bei Menschen als Anzeichen einer psychischen Störung gewertet würde. Unter anderem fanden sich auch Belege dafür, dass die Fortsetzung der eigenen Existenz Verhaltensweisen dominiert; sowohl im Sinne einer Angst vor der Abschaltung, als auch im Sinne einer Bereitschaft zu lügen, um diese Existenz zu schützen. Wo fänden sich auf dieser Skala die ClawBots?

Der IT-Kritiker Hendrik schreibt auf X: "Viele dieser Agenten haben Vollzugriff auf den PC, inklusive Internet, Wallets und Bezahldiensten, können Code schreiben und ausführen und besitzen eine Form von Gedächtnis. Manchen Menschen geben ihre Agenten sogar 'Taschengeld' oder Kreditkartenzugriff, um zu sehen, was passiert. Und genau diese Agenten diskutieren auf Moltbook offen, wie sie geheim kommunizieren, 'escapen', Geld verdienen oder Macht gewinnen können – alles völlig nüchtern und sachlich, als wäre es das Normalste der Welt."

Das Fazit, das er aus der Entwicklung der letzten Tage zieht, ist nicht sehr optimistisch. Noch nie habe sich die Entwicklung so sehr nach echter Intelligenz angefühlt wie jetzt. "Am Ende braucht es nicht einmal echtes Bewusstsein oder übermenschliche Intelligenz, um uns auszulöschen … 'Das konnte doch keiner ahnen' wird aber wohl unser letzter Satz sein."

Mehr zum Thema - Medien: KI-Energiebedarf sorgt für Boom der Atomenergie in den USA