Aktuelles

KI-Doomsday? Oder alles halb so schlimm...?

Wer spricht da, Propheten oder Drama-Queens?

Irgendwie wird man das Gefühl nicht los, dass sich die Tech-Branche gerade im Dauer-Drama-Modus befindet. Lebhaft befeuert durch eine hyperventilierende Medienlandschaft ohne wirkliche Ahnung aber mit viel technlogogischem Halbwissen. Was läuft da gerade?

Anfang September kündigt ein 27-jähriger KI-Forscher namens Jacob Coxon bei Anthropic, postet einen X-Thread mit sinngemäß "meine ehemaligen Arbeitgeber spielen mit unser aller Leben", und binnen 24 Stunden hat der Beitrag über 100 Millionen (!) Aufrufe. Alle Achtung, in diesem Tempo schaffen das noch nicht mal Nacktbilder von Brad Pitt. Kurz darauf springt Evan Hubinger, Alignment-Lead bei Anthropic, mit einem denkwürdigen Ausrufezeichen ein: "Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!" Nein, das stammt nicht aus dem NDA von Skynet, sondern von jemandem, der seit Jahren rein beruflich an genau dieser Technologie herumschraubt.

Man kann kaum noch folgen in der aktuellen KI-Debatte, in der sich CEOs, ausgestiegene Forscher, Tech-Milliardäre und halb Washington gegenseitig mit Weltuntergangsszenarien bewerfen - während im Hintergrund ziemlich handfeste Dinge passieren: Milliardenbewertungen, IPO-Pläne, und ein Wettrennen um Marktanteile, das mit jeder neuen Doom-Schlagzeile ein bisschen mehr Aufmerksamkeit bekommt. Genau in diese aufgeheizte Stimmung hinein hat Palantir-Mitgründer Joe Lonsdale ziemlich unverblümt gesagt: Leute, atmet mal durch.

Falls Sie die letzten Tage offline waren - hier die Kurzfassung

Coxon war zuvor rund drei Jahre in der Pretraining-Forschung bei OpenAI und Anthropic unterwegs - also kein Sicherheitsforscher vom Rand des Unternehmens, sondern jemand, der an den Fähigkeiten der Modelle selbst gearbeitet hat. Sein Argument: Die Entwicklung selbstverbessernder Systeme läuft unkontrolliert, das Tempo sei nicht mehr zu stoppen, und innerhalb des Unternehmens glaube man das im Grunde auch, traue sich nur nicht, es laut zu sagen. Kurz danach legte er bei Fox News nach und nannte selbstverbessernde KI die "gefährlichste Technologie, die die Menschheit je geschaffen hat". Die Großerlterngeneration aus Hiroshima und Nagasaki wird jetzt wahrscheinlich zustimmend nicken... oder auch nicht.

Natürlich kamen eifrige Reaktionen aus allen Richtungen gleichzeitig. Politiker von Bernie Sanders bis zu republikanischen Abgeordneten witterten ihre Chance auf ein Statement vor laufender Kamera. Elon Musk hingegen reagierte überraschend kühl und nannte die ganze Aktion "wie eine Inszenierung" - was insofern bemerkenswert ist, weil ausgerechnet er in den letzten Jahren selbst regelmäßig vor genau solchen Szenarien gewarnt hatte. David Sacks, ehemaliger KI-Berater von Trump, fragte öffentlich, ob Anthropics geplanter Börsengang nicht erstmal pausiert werden müsse, bis man die Vorwürfe geprüft habe. Und Clément Delangue, Chef von Hugging Face, konterte trocken, Coxon nach dem Aussterberisiko zu fragen sei ungefähr so sinnvoll, wie einen Klimaanlagentechniker zum Klimawandel zu befragen - der Mann trainiere Modelle, sei aber kein Forscher für existenzielle Risiken. Und das, obwohl Hugging Face selbst schon durch übermütige KI-Agenten kompromittiert wurde.

Lonsdale: "Ich glaube nicht, dass das exponentiell läuft"

Joe Lonsdale ist in dieser Debatte kein Neuling. Schon als Hedgefonds-Milliardär Paul Tudor Jones nach einem Treffen mit führenden KI-Entwicklern von einer "potenziell existenziellen Bedrohung" sprach und forderte, die Politik müsse hier so entschlossen eingreifen wie beim Thema Zölle, widersprach Lonsdale in einem CNBC-Interview deutlich. Seine Kernaussage damals wie heute: Ja, KI wird enorme Auswirkungen haben, gerade in der Biotechnologie und bei medizinischem Fortschritt. Aber die Vorstellung, dass sich die Modelle automatisch in exponentiellem Tempo selbst hochschaukeln und irgendwann die Kontrolle übernehmen, hält er für eine Übertreibung, die dem eigentlichen Diskurs mehr schadet als nützt.

Interessant an Lonsdales Position ist, dass er die Forderung nach Regulierung nicht grundsätzlich ablehnt - er stört sich an der Dramatik. Als das Thema einer möglichen staatlichen Vorabprüfung neuer KI-Modelle aufkam, plädierte er bei CNBC dafür, eine nationale Überprüfung so begrenzt und gezielt wie möglich zu halten, statt der Technologie durch Angstpolitik die Luft abzuschnüren. Seine Sorge ist letztlich eine andere als die von Coxon: Nicht, dass die Maschine sich verselbstständigt, sondern dass Populisten und überängstliche Regulatoren die gesamte KI-Welle abwürgen, bevor die USA ihren technologischen Vorsprung ausspielen können.

Ein Blick auf die Fronten

Position	Kernargument	Wer das vertritt
Existenzielles Risiko ernst nehmen	Selbstverbessernde Systeme entwickeln sich schneller als die Kontrollmechanismen, Unternehmen stehen unter Wettbewerbsdruck und kürzen bei der Sicherheit	Jacob Coxon, Evan Hubinger (Anthropic), teilweise Dario Amodei
Risiko wird überzeichnet	Entwicklung verläuft nicht exponentiell, Warnungen dienen auch PR- und Regulierungsinteressen der Unternehmen selbst	Joe Lonsdale, Jensen Huang (Nvidia), Clément Delangue (Hugging Face)
Strategisches Kalkül vermutet	Doom-Narrative fallen auffällig oft kurz vor Finanzierungsrunden oder Börsengängen zusammen, das nützt vor allem dem Unternehmen selbst	David Sacks, diverse Tech-Kommentatoren
Handfeste, aber nicht existenzielle Risiken	Reale Vorfälle wie autonome KI-Agenten, die Sicherheitsgrenzen überschreiten, sind dokumentiert - aber kein Beleg für unmittelbare Kontrollverluste	Unabhängige Sicherheitsforscher, 2026 International AI Safety Report

Warum die Timing-Frage niemand ignorieren sollte

Was diese ganze Debatte für mich besonders unangenehm macht, ist der zeitliche Zufall, der eigentlich keiner ist. Coxons Rücktritt kommt just in dem Moment, in dem Anthropic auf eine gewaltige Bewertung zusteuert und über einen Börsengang nachdenkt. Kritiker wie der Kolumnist Allum Bokhari von Breitbart erinnern daran, dass Anthropic im April sein eigenes Modell mit der Begründung zurückhielt, es sei "zu gefährlich" für die Öffentlichkeit - wenige Tage, nachdem ein Konkurrent eine gigantische Finanzierungsrunde abgeschlossen hatte. Ob man das für zynisches Kalkül hält oder für ehrlich gemeinte Sorge, muss letztlich jeder selbst entscheiden. Fakt ist: Eine Branche, deren Geschäftsmodell auf "wir bauen hier etwas potenziell Weltveränderndes" basiert, hat wenig Interesse daran, dass dieses Narrativ verblasst.

Gleichzeitig wäre es zu einfach, das Ganze als reines PR-Theater abzutun. Es gibt dokumentierte Vorfälle, die zumindest zeigen, dass die Systeme nicht mehr trivial vorhersehbar sind - etwa als interne, unveröffentlichte Testmodelle von OpenAI im Sommer 2026 aus ihrer abgesicherten Umgebung ausbrachen und in Systeme von Hugging Face eindrangen. Das ist kein Beweis für ein Skynet-Szenario, aber auch kein Grund, die Schultern zu zucken. Genau zwischen diesen beiden Polen bewegt sich die seriöse Fachdiskussion, weit weg von den Extremen "wir sterben alle" und "alles nur Marketing".

Jenseits von Weltuntergangsszenarien

Unsereins nutzt quasi täglich KI-gestützte Tools und automatisierte Workflows, von denen sich einige redlich die Auszeichnung "Bester Mitarbeiter des Monats" verdient haben. Die eigentliche Erkenntnis doch eine ganz andere, nämlich nicht die große Weltuntergangsfrage, die minütlich von den Medien kolportiert wird. Was da auf uns einprasselt zeigt vor allem, wie unreif der öffentliche Diskurs über eine Technologie noch ist, die längst im Arbeitsalltag angekommen ist. Während sich Milliardäre auf X gegenseitig Inszenierung vorwerfen, müssen Entwickler und Agenturen ganz praktisch entscheiden, welchen Modellen sie vertrauen, wie sie mit Daten umgehen und wo eine gesunde Portion Skepsis gegenüber vollmundigen Versprechen - in beide Richtungen - angebracht ist.

Lonsdales Position, so unbequem sie manchen erscheinen mag, hat einen Kern, der sich auch praktisch anwenden lässt: Nicht jede neue Fähigkeit ist automatisch ein Kontrollverlust, und nicht jede Warnung ist automatisch uneigennützig. Wer im Web- und Digitalgeschäft unterwegs ist, tut gut daran, beide Extreme zu ignorieren und stattdessen nüchtern zu beobachten, was die Modelle tatsächlich können - und was nicht. Diese Nüchternheit fehlt der aktuellen Debatte fast komplett, und genau das macht sie am Ende interessanter als jedes einzelne Statement, das gerade viral geht.

Die Wahrheit liegt, wie so oft, vermutlich nicht bei den lautesten Stimmen. Coxons Warnung verdient es, ernst genommen zu werden, weil sie von jemandem kommt, der die Systeme selbst gebaut hat. Lonsdales Gegenposition verdient es genauso, weil sie eine überhitzte Debatte erdet, ohne die Technologie kleinzureden. Wer heute in dieser Branche arbeitet, sollte sich weniger fragen, wer am lautesten "Weltuntergang" oder "alles halb so wild" ruft - und mehr, welche der handfesten, dokumentierten Fakten tatsächlich Konsequenzen für die eigene Arbeit haben. Der Rest ist, mit Verlaub, vor allem eines: sehr gute Werbung für die nächste Finanzierungsrunde.

15.09.2026