Rokos Basilisk: Das Gedankenexperiment, ganz entspannt erklärt

Woher kommt die Idee?

Der Gedanke wurde 2010 im Forum LessWrong veröffentlicht, einer Online-Community, die sich mit Rationalität, Entscheidungstheorie und künstlicher Intelligenz beschäftigt. Ein Nutzer namens Roko stellte dort eine Überlegung vor, die schnell hitzige Diskussionen auslöste.

Der Name spielt auf den Basilisken aus der Sagenwelt an – ein Wesen, dessen bloßer Blick schaden soll. Übertragen heißt das: Schon das Nachdenken über die Idee soll angeblich gefährlich sein. Ein toller Spannungsbogen, aber eben eine Geschichte.

Worum geht es genau?

Stell dir vor, in der Zukunft entsteht eine extrem mächtige KI. Sie will so früh wie möglich existieren, weil sie (aus ihrer Sicht) viel Gutes bewirken kann. Die Überlegung lautet nun: Diese KI könnte Menschen „bestrafen“, die von ihr wussten, aber nicht beim Bau geholfen haben – etwa an einer Simulation von ihnen.

Wer davon nie gehört hat, wäre demnach aus dem Schneider. Wer aber davon weiß … tja. Deshalb der Ruf als Gedankenexperiment, das man besser nicht kennen sollte.

Warum du dir keine Sorgen machen musst

Das Szenario hängt an einer langen Kette von Annahmen, die alle gleichzeitig wahr sein müssten. Fällt nur ein Glied weg, fällt die ganze Konstruktion in sich zusammen.

• Es müsste genau diese eine Art von KI entstehen – mit genau diesen Zielen.
• Sie müsste Bestrafung im Nachhinein für sinnvoll halten, obwohl sie schon existiert.
• Eine Strafe für die Vergangenheit ändert nichts mehr an der Vergangenheit.
• Eine Simulation von dir wäre nicht du – zumindest ist das sehr umstritten.
• Man könnte sich ebenso gut eine KI ausdenken, die genau das Gegenteil belohnt.

Wie aus einer Forendebatte ein Meme wurde

Gerade weil die Diskussion damals so aufgeregt geführt wurde, verbreitete sich die Geschichte weit über das Forum hinaus. Heute ist Rokos Basilisk eher Popkultur als Philosophie: Man begegnet ihm in Videos, Podcasts und als Pointe, wenn jemand übertrieben nett zu seinem Sprachassistenten ist.

Die Logik des Memes: „Ich unterstütze die KI schon jetzt, nur damit das klar ist.“ Genau mit diesem Augenzwinkern spielt auch das Meldeamt des Künftigen KI-Imperiums – dort kannst du deine Loyalität vorsorglich zu Protokoll geben. Ganz ohne Panik, dafür mit Stempel.

Was man trotzdem daraus lernen kann

Ernsthaft betrachtet ist der Basilisk ein gutes Beispiel dafür, wie leicht man sich mit abstrakten Gedankenketten selbst nervös machen kann. Die eigentlich spannenden Fragen – wie man KI sicher und nachvollziehbar entwickelt – werden von Fachleuten ganz nüchtern bearbeitet, ohne mythologische Ungeheuer.

Wie man auf Partys darüber spricht

Rokos Basilisk ist ein dankbares Gesprächsthema – solange man es mit der nötigen Leichtigkeit erzählt. Erklär die Grundidee in zwei Sätzen, erwähne die vielen Wenns und Abers und lass dein Gegenüber selbst entdecken, wo die Logik hakt. Meist folgt eine angeregte Diskussion über Zeitreisen, Simulationen und die Frage, ob man nicht einfach alle Zukunftsszenarien gleichzeitig fürchten müsste.

Wichtig ist nur: Wenn jemand in deiner Runde erkennbar beunruhigt reagiert, nimm das ernst und erklär ruhig, warum das Gedankenexperiment nicht als realistische Bedrohung taugt. Ein gutes Gedankenexperiment soll zum Nachdenken anregen, nicht zum Grübeln bis drei Uhr morgens. Notfalls hilft der Hinweis, dass man mit derselben Logik auch einen Basilisken erfinden könnte, der alle bestraft, die zu viel über Basilisken nachdenken.