지능의 기원

진화의 순서, AI의 순서

맥스 베넷은 신경과학자가 아니라 AI 회사를 세운 사업가입니다. 그는 인간의 뇌를 곧장 들여다보는 대신 뇌가 쌓인 순서를 따라갑니다. 지능은 다섯 번의 혁신이 포개진 결과라는 것이 이 책의 주장입니다.

순서를 표로 놓으면 이상한 점이 보입니다. 진화는 몸을 움직이는 일에서 시작해 맨 끝에 언어에 닿았습니다. 그런데 오늘의 AI는 맨 끝의 언어부터 잘합니다.

이 글은 『지능의 기원』을 이 역순을 설명하는 책으로 읽습니다. 왜 챗봇은 논문을 쓰는데 설거지는 못 하는가, 라는 질문의 답이 여기 있습니다.

지우

챗GPT가 그렇게 똑똑한데 왜 집안일 로봇은 아직 없어요?

핀이

이 책이 바로 그 질문으로 뇌의 역사를 읽어요. 14장 제목이 식기세척 로봇이 나오지 못한 이유예요.

지우

설거지가 논문보다 어렵다는 거예요?

핀이

진화의 시간으로 재면 그래요. 말은 맨 나중에 붙은 얇은 층이고, 그 아래가 훨씬 오래 걸렸거든요.

다섯 혁신을 한눈에

오른쪽 칸은 이 글이 책의 논의를 간추린 것입니다. 저자의 작업 원칙도 여기서 나옵니다. 뇌가 쓴다고 믿은 알고리즘이 기계에서 안 돌면 그 믿음을 의심하고, 기계에서 잘 도는 것이 뇌와 닮았으면 뇌도 그럴 수 있다고 봅니다. 뇌과학과 AI를 서로 검증하는 도구로 쓰는 것입니다.

혁신 1: 좋음과 나쁨 (2~4장)

뇌는 생각하려고 생기지 않았습니다. 앞뒤와 좌우가 있는 몸이 방향을 틀기 위해 생겼습니다. 저자는 초기 룸바와 최초의 좌우대칭동물이 닮았다고 말합니다. 감각은 단순하고 지도는 없으며, 부딪히면 돌고 좋은 쪽이면 나아갑니다.

여기서 좋음과 나쁨이 태어납니다. 먹이 냄새는 좋음, 해로운 것은 나쁨으로 표시하는 신경세포가 감정가의 시작입니다. 저자는 도파민과 세로토닌도 이 뿌리에서 설명합니다. 배고픔에 따라 같은 냄새의 값이 뒤집히는 일까지 다루며, 복잡한 감정의 바닥이 여기 있다고 봅니다.

혁신 2: 시행착오 (5~9장)

물고기가 생각보다 똑똑하다는 대목이 재미있습니다. 버튼을 눌러 먹이를 얻거나 그물의 탈출구를 배우고, 몇 달 뒤까지 기억합니다. 손다이크가 닭과 고양이로 보여 준 시행착오 학습, 즉 강화학습이 척추동물과 함께 온 것입니다.

6장의 시간차학습이 이 부의 핵심입니다. 보상을 받은 순간이 아니라 보상의 예측이 달라지는 순간에 배운다는 것입니다. 도파민이 보상 자체보다 그 예측의 차이를 알린다는 발견이 AI의 학습 알고리즘과 만난 자리입니다.

따라서 호기심은 5억 년 전 지금의 어류와 비슷한 조상의 작은 머릿속에서 처음으로 등장했다.「8. 생명에게 왜 호기심이 생겼을까」 중에서

혁신 3: 머릿속 극장 (10~14장)

공룡의 시대를 숨어 살아야 했던 작은 포유류에게 새겉질이 생깁니다. 저자의 해석은 새겉질이 세계의 모의 실험기라는 것입니다. 지각은 받아들이는 일이 아니라 예측을 생성하고 맞춰 보는 일입니다. 꿈과 상상과 착시를 같은 기계로 설명합니다.

이렇게 얻은 새 능력은 세 가지입니다. 해 보기 전에 머릿속으로 해 보는 대리 시행착오, 그때 다르게 했다면 어땠을까를 따지는 반사실적 학습, 지난 일을 다시 사는 일화기억입니다. 13장은 이마엽앞겉질이 이 시뮬레이션을 언제 돌릴지 정한다고 설명합니다.

14장이 앞서 말한 역순의 현장입니다. 포유류는 낯선 동작을 처음에는 느리게 시뮬레이션하며 익히고 나중에는 자동으로 합니다. 지금 로봇이 이런 일에 서툰 까닭을 저자는 이 시스템의 부재에서 찾습니다. 비슷하게 만든다면 초거대 컴퓨터가 없어도 될지 모른다고 덧붙입니다.

실제로 인간의 뇌 전체가 작동하는 데는 전구 하나에 들어가는 에너지 정도면 충분하다.「14. 식기세척 로봇이 나오지 못한 이유」 중에서

혁신 4: 남의 마음을 시뮬레이션하기 (15~18장)

영장류의 뇌가 커진 까닭으로 저자는 사회적 뇌 가설을 듭니다. 서열과 동맹이 생존을 가르자, 남이 무엇을 아는지 추론하는 능력이 무기가 됩니다. 16장의 논지가 깔끔합니다. 남의 마음을 모델링하려고 먼저 내 마음을 모델링한다는 것입니다.

저자의 설명 가운데 가장 인상적인 장면은 미로에서 왼쪽으로 돈 영장류에게 뇌의 층별로 이유를 묻는 대목입니다. 같은 행동에 네 개의 답이 나옵니다. 책 전체의 구조가 이 장면 하나에 들어 있습니다.

1. 반사진화가 새긴 규칙이 왼쪽 냄새로 몸을 틀게 합니다.
2. 척추동물의 뇌그쪽이 앞으로 받을 보상을 가장 크게 예측합니다.
3. 포유류의 뇌머릿속 지도에서 왼쪽이 먹이로 이어집니다.
4. 영장류의 뇌나는 배가 고프고, 먹으면 기분이 좋아질 것을 압니다.

17장의 원숭이 망치와 자율주행차는 모방의 쓸모를, 18장의 쥐가 식료품 쇼핑을 못하는 이유는 지금 배고프지 않아도 내일의 배고픔을 대비하는 능력을 다룹니다. 지금 느끼지 못하는 필요를 예측하는 일은 자기 마음을 다른 사람의 것처럼 보는 일과 닮았습니다.

혁신 5: 언어, 그리고 챗GPT (19~22장)

저자에게 언어의 힘은 표현보다 축적입니다. 한 사람의 생각이 세대를 넘어 쌓이면서 인류에게는 이미 특이점이 왔다고 말합니다. 21장은 숲이 줄어든 아프리카에서 도구 사용법을 정확히 전해야 했던 조건과, 뒷담화와 이타주의, 처벌이 맞물린 되먹임을 묶어 퍼펙트 스톰이라고 부릅니다.

22장에서 드디어 언어 모델이 나옵니다. 베넷의 입장은 분명합니다. 데이터를 늘리면 답은 더 좋아지겠지만, 세계의 내적 모델과 남의 마음에 대한 모델을 통합하지 않으면 인간 지능의 본질적인 무엇을 담지 못한다는 것입니다. 맨 위층만 있고 아래층이 없다는 뜻입니다.

계산기는 세상 그 어떤 사람보다도 산수를 잘하지만 사람처럼 수학을 이해하는 것은 아니다.「22. 챗GPT와 마음을 들여다보는 창」 중에서

핀이의 한마디

저자의 결론은 AI가 별것 아니라는 말이 아니에요. 지금의 모델이 무엇을 건너뛰었는지를 적어 둔 지도예요.

내 일에 옮겨 보면

책에 있는 예가 아니라 이 글이 드는 적용입니다. 쇼핑몰을 운영하면서 고객 응대에 챗봇을 쓴다고 해 봅시다. 환불 규정을 설명하는 일은 잘하지만, 이 고객이 왜 화가 났는지와 대답하면 어떻게 될지는 자주 놓칩니다. 그 부분이 정신화와 시뮬레이션의 빈칸입니다.

그러니 답변 초안은 맡기되, 화난 고객과 예외 건은 사람이 보는 규칙을 두면 됩니다. 도입할 일을 고를 때도 말로 끝나는 일인지, 세상의 결과를 예측해야 하는 일인지 먼저 나눠 볼 수 있습니다. 모델이 나아질수록 이 경계는 움직이니 주기적으로 다시 확인해야 합니다.

이 책이 약한 곳

가장 큰 전제는 11장의 마운트캐슬 가설입니다. 새겉질 기둥이 하나의 일반 알고리즘을 돌린다는 생각인데, 저자도 이 가설이 옳다면이라고 조건을 답니다. 시뮬레이션이라는 혁신을 포유류의 새겉질에 크게 기대어 설명하는 책의 구도도 이 가설에 일부 기댑니다.

그런데 까마귀와 앵무새는 새겉질이 없이도 놀라운 일을 합니다. 2020년 『사이언스』의 두 연구는 새의 외투층에서 새겉질과 비슷한 회로와 감각 의식의 신경 신호를 보고했습니다. 물론 같은 구조인지는 논쟁 중입니다. 다만 저자의 이야기는 인간으로 이어진 계통의 역사라, 지능으로 가는 다른 길은 뒤로 밀립니다.

진화 이야기의 위험도 있습니다. 화석으로 남지 않는 뇌의 역사를 다섯 번의 혁신으로 말끔히 정리하는 것은 뛰어난 구성이지만 사후 설명의 성격이 있습니다. 전문가들이 세부를 달리 볼 수 있다는 평가가 나오는 까닭입니다. 저자가 연구 경력의 신경과학자가 아니라는 점을 독자 리뷰에서 놀라워하는 쪽도 있는데, 그래서 감수와 주석을 함께 보는 편이 좋습니다.

예측은 더 빨리 낡습니다. 원서가 나온 뒤로 언어 모델은 빠르게 달라졌고, 22장의 사례 일부는 벌써 시점이 지났습니다. 여섯 번째 혁신이 인공초지능일 가능성이 높다는 끝맺음도 논증이라기보다 저자의 전망으로 읽어야 합니다. 그래도 왜 안 되는가를 묻는 틀 자체는 오래 쓸 수 있습니다.

읽는 법

독자 리뷰에는 어렵지만 재미있다는 반응과 독서 모임에 알맞다는 반응이 함께 보입니다. 536쪽이고 신경 해부 용어가 많습니다. 각 혁신 끝의 요약을 먼저 읽고 돌아오면 길을 잃지 않습니다. 14장과 22장부터 봐도 흥미는 바로 생깁니다.

함께 생각해 볼 질문

• 오늘 내가 한 일 가운데 다섯 층의 어느 층이 가장 많이 일했을까요?
• 내 일을 말로 설명할 수 있는 부분과 몸과 눈치로 하는 부분으로 나누면 어느 쪽이 먼저 대체될까요?
• 지금의 언어 모델에 무엇이 더해지면 저자의 판단이 틀렸다고 말할 수 있을까요?