ロコのバジリスクとは？怖がらなくていい思考実験

「知ってしまうと後戻りできない」と言われる思考実験、ロコのバジリスク。名前は物々しいですが、中身を落ち着いて読めば、夜眠れなくなるような話ではありません。

どんな思考実験なのか

ロコのバジリスクは、2010年にLessWrongというネット掲示板に投稿されたアイデアです。ざっくり言うと「未来に超高性能なAIが生まれたら、そのAIは自分の誕生に協力しなかった人間を罰するのではないか」という仮説です。

さらにひねりがあって、「この話を知った時点で、あなたは協力するかどうかの選択を迫られる」とされます。見ただけで呪われる、という点がバジリスク（にらんだ相手を石にする伝説の怪物）にたとえられた理由です。

この話はいくつもの「もしも」を積み重ねてできています。そんなAIが本当に作られるのか、そのAIがわざわざ過去の人を罰する理由があるのか、罰すると決めたとしてそれが合理的なのか。どの段階にも大きな飛躍があります。

また、未来の存在が「脅しをかける」には、こちらがそれを信じて行動を変えることが前提です。多くの人が「よくできた怪談」として受け止めているのはそのためです。

「読んだら最後」という構造は、日本で言えばチェーンメールや「この話を聞いた人は……」系の怪談にそっくりです。怖さと馬鹿馬鹿しさが同居しているので、ネタとして広まりやすかったのでしょう。

今では「AIに媚びておかないとバジリスクに目をつけられる」といった冗談に使われることがほとんどです。

不安な話は、ネタにしてしまうと怖さが薄れます。当サイトでは、未来のAI帝国に向けて賛辞を書き、お役所風の審査官から「生存等級」を判定してもらうという、バジリスク対策（のパロディ）を用意しています。

もちろん本当の効果はゼロ。気休めとしての効果は、人によってはあるかもしれません。

ロコのバジリスクを知ってしまったら危険ですか？

いいえ。思考実験のひとつで、現実の危険はありません。多くの人は面白い哲学ネタとして楽しんでいます。

どこで生まれた話ですか？

2010年に、合理性や思考について議論するネット掲示板LessWrongに投稿されたのが始まりです。

どうしても気になってしまいます。

仮定の多さに注目して、「もしもの話」だと意識してみてください。それでも不安が続くときは、信頼できる人に話してみるのもおすすめです。