Name: 괴델, 에셔, 바흐
Author: 더글러스 호프스태터

읽기 전에

시대와 배경

1979년 출판된 이 책은 나오자마자 퓰리처상을 받았다. 저자 더글러스 호프스태터는 당시 인디애나 대학의 젊은 교수였다. 그는 이 책을 쓰는 데 10년이 걸렸다고 말했다. 내용이 방대하고 복잡해서가 아니라, 어떻게 하면 이 복잡한 아이디어를 재미있게 전달할 수 있을지를 고민하는 데 그만큼 시간이 필요했기 때문이다.

책의 부제는 '영원한 황금 노끈'이다. 세 명의 천재 — 수학자 쿠르트 괴델, 화가 M.C. 에셔, 작곡가 요한 세바스찬 바흐 — 가 각자의 분야에서 발견한 공통된 구조를 탐구한다. 그 구조는 '자기 지시성(self-reference)'과 '이상한 고리(strange loop)'다.

저자의 문제의식

호프스태터가 정말로 답하고 싶었던 질문은 책의 마지막에 가서야 드러난다. 의식(consciousness)이란 무엇인가? 자아(self)란 무엇인가? 두뇌의 물리적 과정에서 어떻게 "나"라는 느낌이 생겨나는가? 그는 이 질문에 답하기 위해 괴델의 수학, 에셔의 그림, 바흐의 음악을 끌어들인다.

핵심 이론과 논증 흐름

괴델의 불완전성 정리 — 시스템은 자신을 완전히 설명할 수 없다

1931년 쿠르트 괴델은 수학의 역사를 바꾼 정리를 증명했다. 불완전성 정리. 쉽게 말하면 이렇다. 어떤 수학 시스템도, 그 시스템이 충분히 복잡하다면, 그 시스템 안에서 참이지만 그 시스템으로 증명할 수 없는 명제가 반드시 존재한다.

이것이 왜 충격적인가? 당시 수학자들은 수학이 완전하고 일관된 공리 체계 위에 세워질 수 있다고 믿었다. 힐베르트는 모든 수학적 진리를 유한한 공리 집합에서 증명할 수 있다는 프로그램을 제시했다. 괴델은 이것이 불가능하다는 것을 증명했다. 어떤 형식 체계도 자기 자신의 완전성을 자기 자신 안에서 증명할 수 없다.

핵심 트릭은 자기 지시다. 괴델은 "이 명제는 증명 불가능하다"라는 내용을 담은 수학 명제를 만드는 방법을 고안했다. 이 명제가 거짓이면 증명 가능한 거짓 명제가 존재하고(시스템이 비일관적), 이 명제가 참이면 참이지만 증명 불가능한 명제가 존재한다(시스템이 불완전하다). 어느 쪽이든 완전하고 일관된 시스템은 불가능하다.

에셔의 그림 — 눈이 보이지 않는 것을 본다

M.C. 에셔의 그림은 불가능한 것을 가능하게 보이게 만든다. 계속 올라가는 계단이 결국 처음 위치로 돌아오고, 물이 아래로 흐르지만 돌고 돌아 다시 높은 곳으로 올라간다. 손 두 개가 서로를 그리고 있다. 두 손은 서로를 창조했지만, 그 두 손을 그린 손은 어디에 있는가?

에셔의 그림이 보여주는 것은 자기 지시적 고리다. 시작점이 없고 끝점이 없으며, 각 단계는 논리적이지만 전체는 불가능하다. 이것을 호프스태터는 이상한 고리(strange loop)라고 부른다. 위계가 있는 것처럼 보이지만, 그 위계를 타고 올라가다 보면 어느 순간 다시 처음으로 돌아와 있는 구조다.

바흐의 음악 — 소리 속의 수학

바흐의 카논과 푸가에는 수학적 구조가 숨어있다. 음악적 주제가 변형되고, 반전되고, 자기 자신을 참조한다. 한 선율이 끝나는 곳에서 다른 선율이 시작되고, 결국 처음으로 돌아온다. 바흐의 《음악의 헌정》에 들어있는 '모듈레이션 카논'은 연주할 때마다 반음씩 올라가는데, 6번 반복하면 처음과 같은 음높이로 돌아온다. 무한히 상승하는 것 같지만 결국 제자리다. 에셔의 계단과 같은 구조다.

의식이라는 이상한 고리

세 천재를 통해 이상한 고리라는 구조를 충분히 설명한 후, 호프스태터는 핵심 질문으로 돌아온다. 의식은 어떻게 발생하는가? 그의 답은 이렇다. 두뇌는 신경세포들의 물리적 상호작용이다. 그러나 그 물리적 과정이 충분히 복잡해지면, 자기 자신을 가리키는 패턴이 생겨난다. 이 자기 지시적 패턴이 바로 "나"라는 느낌, 즉 의식이다.

자아는 실체가 아니라 패턴이다. 뇌의 특정 부분에 자아가 있는 것이 아니라, 뇌 전체의 자기 지시적 활동이 만들어내는 이상한 고리가 자아다. 이것이 이 책의 결론이다.

가장 혁명적인 발견·주장

이 책의 가장 혁명적인 주장은 의식이 물리적 기반에서 창발(emergence)한다는 것이다. 하나하나의 뉴런은 의식이 없다. 그러나 수많은 뉴런이 상호작용하면서 만들어내는 패턴에서 의식이 창발한다. 마치 하나하나의 음표는 음악이 아니지만, 배열되면 음악이 되는 것처럼.

이 아이디어는 인공지능 연구에 깊은 영향을 미쳤다. 충분히 복잡한 정보 처리 시스템에서 의식이 창발할 수 있다면, 컴퓨터도 의식을 가질 수 있는가? 이 질문은 오늘날 AI 연구의 핵심 질문 중 하나다.

이 책이 세상을 어떻게 바꿨는가

《괴델, 에셔, 바흐》는 인지과학, 인공지능, 철학, 수학, 언어학이 만나는 교차점에 있는 책이다. 출판 당시 이 분야들이 독립적으로 발전하고 있었는데, 이 책은 그 분야들이 사실 같은 문제를 다루고 있음을 보여주었다. 자기 지시성, 의미의 발생, 창발. 이 개념들은 이 책을 통해 여러 분야에 동시에 영향을 미쳤다.

인공지능 분야에서는 특히 중요한 책이었다. 의식의 물리적 기반에 대한 호프스태터의 분석은, AI가 진정한 의식을 가질 수 있는지에 대한 철학적 논쟁의 기초가 되었다.

오늘날 우리에게 주는 교훈

이 책이 주는 가장 실용적인 교훈은 자기 지시성에 대한 경각심이다. 우리가 사용하는 언어, 우리가 가진 믿음 체계, 우리가 속한 조직의 규칙. 이것들이 자기 자신을 강화하는 방식으로 작동할 때, 우리는 그 안에 갇힌다. 시스템은 자신의 완전성을 자신 안에서 증명할 수 없다는 괴델의 통찰은, 어떤 믿음 체계도 그 자체로 완결되지 않는다는 것을 의미한다.

AI 시대를 사는 우리에게 이 책의 의식론은 더욱 날카롭다. 챗GPT와 대화할 때 우리는 의식과 대화하는 것인가, 아닌가? 그 경계를 어떻게 판단할 것인가? 호프스태터의 틀은 이 질문에 답하는 데 여전히 유효하다.

이 책에서 얻을 수 있는 지식

불완전성 정리(Incompleteness Theorem): 충분히 복잡한 수학 시스템에는 참이지만 그 시스템 안에서 증명할 수 없는 명제가 존재한다. 수학적 형식화의 근본적 한계를 보여준다.

자기 지시성(Self-reference): 자기 자신을 참조하는 구조. 이 책의 핵심 주제. 역설과 의식의 공통 기원이다.

이상한 고리(Strange Loop): 위계 구조를 따라가다 보면 처음으로 돌아오는 구조. 에셔의 그림, 바흐의 카논, 괴델의 정리가 모두 이 구조를 공유한다.

창발(Emergence): 구성 요소에는 없는 성질이 전체에서 나타나는 현상. 뉴런에는 없는 의식이 뇌 전체에서 창발하는 것처럼.

한 장으로 정리

이 책을 한 문장으로: "수학, 예술, 음악이라는 전혀 다른 언어로 같은 이야기를 하고 있었고, 그 이야기의 정체는 결국 '나는 어떻게 존재하는가'라는 질문이었다."

꼭 기억할 개념·발견 3가지:

괴델의 불완전성: 어떤 시스템도 자신을 완전히 설명할 수 없다
이상한 고리: 올라가다 보면 처음으로 돌아오는 자기 지시적 구조
의식의 창발: 자아는 실체가 아니라 자기 지시적 패턴이다

읽고 남겨야 할 질문: "나"라는 느낌이 뇌의 물리적 패턴에서 창발한다면, 충분히 복잡한 AI도 "나"를 느낄 수 있는가?

읽어두면 도움이 되는 권장도서 100 해설 시리즈 005/100