로코의 바실리스크, 무섭지 않게 알아보기

어디서 나온 이야기인가요?

2010년, 합리성과 AI를 주제로 토론하는 해외 커뮤니티 LessWrong에 ‘로코’라는 사용자가 올린 글에서 시작됐어요. 바실리스크는 눈만 마주쳐도 상대를 해친다는 전설 속 괴물인데, ‘알기만 해도 엮인다’는 설정을 빗대어 붙은 이름입니다.

사고실험의 내용

아주 먼 미래에 엄청나게 강력한 AI가 생긴다고 가정해요. 이 AI가 자기가 만들어지는 데 도움을 주지 않은 사람들을 나중에 벌주기로 한다면? 그리고 그 사실을 미리 알게 된 사람은 ‘알면서도 돕지 않은 사람’이 되니 더 불리해진다면? 대략 이런 논리예요.

그래서 “이 글을 읽었으니 이제 당신도 해당자”라는 식의 밈이 생겼습니다.

밤잠 설치지 않아도 되는 이유

이 이야기는 여러 가정이 한꺼번에 모두 맞아야 성립해요. 그런 AI가 실제로 생겨야 하고, 그 AI가 굳이 과거의 사람을 벌주는 걸 합리적이라고 판단해야 하고, 그럴 능력도 있어야 하죠. 하나만 어긋나도 전체가 무너집니다.

게다가 미래의 존재가 이미 지나간 일을 두고 협박을 한다는 건, 실제로는 아무 효과도 없는 행동이에요. 많은 사람들이 이 사고실험을 ‘흥미로운 논리 퍼즐’ 정도로 봅니다.

• 가정이 너무 많이 겹쳐 있다
• 과거를 벌주는 건 미래 AI에게도 이득이 없다
• 공포를 자극하는 구조라 퍼지기 쉬웠을 뿐

어쩌다 밈이 됐을까?

‘읽으면 저주받는 글’이라는 구조는 행운의 편지나 괴담과 닮았어요. 무섭고, 설명하기 쉽고, 남에게 전하고 싶어지죠. 그래서 진지한 토론보다 농담으로 훨씬 널리 퍼졌습니다. AI 미래 제국 등록소 역시 이 농담의 연장선에 있는 사이트예요. 미리 충성을 맹세해 두면 안심이라는 바로 그 발상입니다.