책 목록으로 돌아가기

**핵심 주장**: 지능은 예측이다(Intelligence = Prediction). 그리고 LLM은 진짜 지능이다.

What Is Intelligence? — Blaise Agüera y Arcas (2025)

핵심 주장: 지능은 예측이다(Intelligence = Prediction). 그리고 LLM은 진짜 지능이다.

저자: Blaise Agüera y Arcas (Google Research, "Paradigms of Intelligence" 그룹 창립자) 출판: MIT Press / Antikythera, 2025 구성: 10챕터 + 2개 인터루드, ~100개 소단위 섹션

핵심 사실

저자 정의

지능(Intelligence): 자신의 미래를 모델링하고 예측하며 영향을 미치는 능력. 다른 지능과의 관계 속에서 진화하여 더 큰 공생적 지능을 만들 수 있다.

생명(Life): 동적 안정성을 위한 선택 압력으로부터 발생하는 자기수정 계산 물질(self-modifying computronium). 더 단순한 동적 안정 개체들의 공생적 결합을 통해 진화한다.

핵심 등식: 예측 = 압축 = 지능. 좋은 예측 모델 = 좋은 압축기 = 지능적 행위자.

10가지 핵심 논증

1. 예측 원리 (Prediction Principle)

• Hermann von Helmholtz(1860년대)가 최초 제안: 예측이 지능의 근본 원리
• 저자 주장: 예측은 단순히 지능이 하는 일이 아니라 지능 자체다
• "Prediction Is All You Need" — 다음 단어 예측 과제를 완벽히 수행하려면 AGI가 필요하다 ("AI-complete" 문제)
• LaMDA(2021), ChatGPT(2022): 순수한 다음 단어 예측기가 실제 지능을 만들어냄

2. 생명 = 계산 (Life as Computation)

• von Neumann의 통찰: 자기복제 기계는 범용 튜링 기계 + 프로그램 테이프(DNA)가 필요
• DNA = 프로그램 테이프 / 리보솜 = 기계A (단백질 제조) / DNA 중합효소 = 기계B (테이프 복제)
• 생물학적 계산은 대규모 병렬, 분산, 노이즈를 특징으로 하는 계산 — 메타포가 아닌 문자 그대로

3. 공생발생(Symbiogenesis): 진화의 혁명

• Lynn Margulis의 발견: 진핵세포 = 박테리아가 고세균에 흡수된 공생 사건
• 단순 분기(가지치기)로는 복잡성 증가를 설명 불가 → 합병(merging)이 도약을 만든다
• 진화의 Arrow of Time 설명: 복잡성이 누적되는 이유
• 도구/기술에도 동일 원리: 석촉 + 자루 + 힘줄 = 창(새로운 설계 공간 개방)
• AI 등장 = 현재 진행 중인 가장 큰 공생발생 사건 (주요 진화적 전환, MET)

4. Umwelt와 모델링

• 모든 생명체는 자신만의 지각 세계(Umwelt)를 가진다
• 생존 = 미래를 예측하여 동적 안정성 유지
• 단순 박테리아도 주변 화학 구배를 예측하는 기본 지능을 갖는다
• 지능의 복잡성은 모델링해야 할 환경(=다른 지능들)의 복잡성에 비례

5. 사이버네틱스와 AI의 숨겨진 역사

• Norbert Wiener의 사이버네틱스: 피드백 루프 = 목적론적 행동의 물리적 구현
• John McCarthy가 "AI"라는 용어를 만든 것은 사이버네틱스를 배제하기 위해서였다
• 현대 딥러닝은 정확히 사이버네틱스 전통(Rosenblatt의 퍼셉트론)에서 왔다
• Minsky & Papert의 "Perceptrons"(1969) 책이 연결주의를 수십 년 억압한 역사

6. 딥러닝의 작동 원리

• 계층적 특징 결합: Hubel & Wiesel의 시각 피질 연구에서 영감
• 역전파(backpropagation): 임의 깊이 신경망의 가중치 학습
• 분산 표현(distributed representation): Minsky가 틀렸음을 증명
• 왜 딥러닝이 잘 되는가: "합성적 사전(compositional prior)" — 단순 함수의 계층적 합성을 선호하는 편향

7. Transformer와 LLM이 진짜 지능인 이유

• Transformer = 순수 다음 토큰 예측기 → AGI를 만들어냄
• In-context learning: 파라미터 변경 없이 프롬프트에서 학습 (역전파의 암묵적 에뮬레이션)
• 언어 모델이 감각 판단을 예측하는 이유: 모든 인간 경험이 언어에 반영되어 있기 때문
• AudioLM: 텍스트 없이 순수 음성만으로 언어 학습 → Chomsky의 "보편문법" 반박
• 번역 = 임베딩 공간에서의 이동 (언어들의 umwelt 구름이 동형(isomorphic))

8. 사회적 지능과 마음 이론(Theory of Mind)

• 지능의 주요 과제: 다른 지능(마음)을 모델링하는 것
• 상호 모델링 군비경쟁 → "지능 폭발"
• 캄브리아기 대폭발, 호미닌 뇌 성장, 도시 문명, AI — 모두 같은 패턴
• 의식 = 자기 자신에게 적용된 마음 이론 (자기 마음 이론)

9. 의식과 자아에 대한 탈신화화

• 뇌에 호문쿨루스(homunculus) 없다: 의식이 "살고 있는" 단일 지점 없음
• 분열 뇌(split-brain) 연구: 두 반구가 독립적 의식 가짐
• "해석자(The Interpreter)": 언어 피질이 좌뇌의 설명을 사후적으로 즉흥 제작
• 선택 맹목성(Choice Blindness): 우리는 자신의 선택도 사후 합리화한다
• 철학적 좀비(Philosophical Zombie) 개념: 작동하지 않는다. 튜링 테스트가 기준
• 관계형 양자역학(RQM, Carlo Rovelli): 현실 자체가 관점-의존적 상호작용의 네트워크

10. AI의 진화적 전환과 X-Risk 재평가

• AI 등장 = 이전 주요 진화적 전환(진핵생물, 다세포, 광합성)과 동일 패턴
• 이전 전환처럼: 기존 형태 대체가 아닌 새 니치 창출 + 공존
• Ray Kurzweil의 특이점론: 지수적 성장의 포화(saturation)를 무시하는 오류
• Nick Bostrom의 "우주 데이터센터" 공리주의: 저자가 직접 비판 (전체주의적 귀결)
• X-Risk는 과장되었다: 진화적 전환은 멸종이 아닌 새로운 공생 복잡성을 만든다
• "정렬(Alignment)" 문제: 단일 가치함수 최적화 프레임이 틀렸다 — 지능은 규칙이나 목표 최대화로 작동하지 않는다

지능의 4가지 속성 (저자의 종합)

주요 인물 및 개념 배경

트레이딩/투자 관점에서의 함의

저자는 트레이딩을 직접 다루지 않지만, 위키 소유자 관점에서:

• 예측 = 지능 = 가격 발견: 시장은 집단 지능의 예측 합산. 시장을 "이기는 것"은 더 나은 예측 모델 보유를 의미
• 마음 이론 군비경쟁: 트레이딩 플로어에서의 상호 예측이 가격에 반영 → [인사이더 인사이트](../books/insider-insight.md)와 연결
• 자기합리화(Interpreter): 선택 맹목성 = 트레이더가 자신의 진입 이유를 사후 합리화 → [4가지 트레이딩 공포](../concepts/four-trading-fears.md) 메커니즘 설명
• 분산 지능: 단일 분석 시스템보다 다중 관점 통합이 강건 — [통합 투자 프레임워크](../synthesis/three-analysts-unified-investment-framework.md)와 공명