KI-Sicherheitsmarsch trifft OpenAI, Anthropic und xAI

Stop the AI Race brachte am Samstag rund 200 Demonstranten in San Franciscos KI-Korridor auf die Straße. Sie marschierten an den Büros von Anthropic, OpenAI und xAI vorbei — ein Versuch, die Branche zu einem kollektiven Gespräch zu zwingen, dem sie sich bisher erfolgreich entzogen hat. Die Demonstration zog Forscher, Akademiker und Mitglieder von Interessengruppen an, darunter das Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI und Evitable — eine Koalition, die auf den ersten Blick wie eine Randbewegung wirkt, aber zunehmend eine Strömung der Unruhe widerspiegelt, die durch das Feld selbst verläuft.

Was fordert Stop the AI Race?

Die Kernforderung ist eine bedingte Pause — kein dauerhaftes Abschalten, sondern ein koordinierter Stopp beim Bau immer leistungsfähigerer Frontier-Modelle, bis andere große Labore sich glaubwürdig zu demselben Schritt verpflichten. Michael Trazzi, Gründer von Stop the AI Race und Dokumentarfilmer, der den Marsch am Samstag organisierte, formulierte es unverblümt: Wenn sich die USA und China darauf einigen würden, den Wettlauf um immer gefährlichere Modelle zu beenden, könnten beide Länder diese Energie stattdessen in sicherheitsorientierte Arbeit umlenken — medizinische KI, Alignment-Forschung, Interpretierbarkeit.

Der Marsch startete mittags vor den Büros von Anthropic in San Francisco, führte dann am Hauptsitz von OpenAI vorbei und endete schließlich bei xAI. An jeder Station sprachen Redner der teilnehmenden Organisationen zur Menge. Das rotierende Bühnenformat war bewusst gewählt — Trazzi wollte, dass jede Gruppe einen öffentlichen Moment bekommt, anstatt dass eine Organisation die Botschaft dominiert.

„Es gibt viele Menschen, denen das Risiko fortgeschrittener KI-Systeme Sorgen macht", sagte Trazzi. „Wenn alle gemeinsam marschieren, zeigt das den Leuten, dass sie mit diesen Gedanken nicht allein sind."

Weil wir uns in diesem Wettlauf zwischen Unternehmen und Ländern befinden, die Systeme so schnell wie möglich zu bauen, nehmen wir Abkürzungen und sparen bei der Sicherheit. Es gibt kein Rennen ohne Verlierer. Was wir haben, ist ein System, das wir nicht kontrollieren können, und deshalb nennt man es einen Selbstmord-Wettlauf.

Der Protest kommt zu einem ungünstigen Zeitpunkt für das Weiße Haus

Der Zeitpunkt ist kein Zufall. Nur wenige Tage vor dem Marsch in San Francisco veröffentlichte die Trump-Regierung ihr nationales KI-Gesetzgebungsrahmenwerk — einen nationalen Standard für Gesetze zur KI-Entwicklung, den das Weiße Haus ausdrücklich als Bekenntnis zum „Gewinnen des KI-Wettlaufs" darstellte. Diese Sprache ist das genaue Gegenteil dessen, was die Demonstranten am Samstag forderten. Das Argument der Regierung — das in Washington von vielen geteilt wird — lautet, dass eine Verlangsamung der US-amerikanischen KI-Forschung China einen Vorteil verschafft. Trazzis Gegenargument: Niemand, auch China nicht, will tatsächlich Systeme, die man nicht kontrollieren kann.

Es ist eine Spannung, die nicht verschwinden wird. Und ehrlich gesagt machen die Demonstranten möglicherweise ein schlüssigeres Argument, als ihnen zugestanden wird. Die Darstellung „Wir können nicht pausieren, sonst gewinnt China" setzt voraus, dass das Rennen irgendwo endet — dass es eine Ziellinie gibt, an der der Gewinner einen Pokal bekommt und das Risiko verschwindet. Trazzis Darstellung geht von keiner solchen Annahme aus.

Die Vorgeschichte ist wichtig. Im März 2023 veröffentlichte das Future of Life Institute den offenen Brief Pause Giant AI Experiments, der ein Moratorium für KI-Weiterentwicklungen über das Niveau von GPT-4 hinaus forderte. Zu den Unterzeichnern gehörten xAI-Gründer Elon Musk, Apple-Mitgründer Steve Wozniak und Ripple-Mitgründer Chris Larsen. Dieser Brief hat mittlerweile über 33.000 Unterschriften — und Musk hat seitdem bekanntlich xAI gegründet und gehört nun zu den Unternehmen, gegen die vor der Tür protestiert wird.

Wie ließe sich eine Pause überhaupt überprüfen?

Das ist die Frage, an der Pause-Vorschläge in politischen Kreisen typischerweise scheitern — die Verifizierung. Trazzi hat eine konkrete Antwort: Rechenleistung begrenzen. Wenn Regulierungsbehörden die Menge an Rechenleistung limitieren, die ein Labor zum Trainieren neuer Modelle nutzen darf, begrenzen sie effektiv die Frontier. Es ist nicht lückenlos, aber es ist umsetzungsreifer als die meisten Alternativen, die derzeit in Washington kursieren.

Der Protest am Samstag reiht sich in ein Muster eskalierender Direktaktionen aus dieser Ecke der KI-Sicherheitsbewegung ein. Im September trat Trazzi in einen einwöchigen Hungerstreik vor den Londoner Büros von Google DeepMind. Ein paralleler Hungerstreik von Guido Reichstadter fand gleichzeitig vor Anthropics Standort in San Francisco statt. Das sind keine beiläufigen Beobachter — es sind Menschen, die bereit sind, ihren Körper für Zeitpläne einzusetzen, die sie für wirklich gefährlich halten.

Trazzi kündigte weitere Demonstrationen in Städten an, in denen große KI-Unternehmen ihren Sitz haben. Das erklärte Ziel ist nicht nur Medienberichterstattung — es geht darum, die Mitarbeiter direkt zu erreichen. „Wir wollen dort auftauchen, wo die Mitarbeiter sind", sagte er. „Wir wollen mit ihnen sprechen, und wir wollen, dass sie mit ihrer Führungsebene sprechen." Die Wette ist, dass Whistleblower und gewissensgetriebene Ingenieure einen Hebel haben, den ihre Arbeitgeber nicht anerkennen wollen. OpenAI, Anthropic und xAI reagierten nicht auf Anfragen für eine Stellungnahme.