책 목록으로 돌아가기

저자: Karen Hao (전 MIT Technology Review·Wall Street Journal·The Atlantic 기자) / Penguin Press 2025 / 621페이지

Empire of AI (Karen Hao, 2025)

저자: Karen Hao (전 MIT Technology Review·Wall Street Journal·The Atlantic 기자) / Penguin Press 2025 / 621페이지

핵심 주장

제국 공식 (Formula for Empire)

Karen Hao의 중심 테제: OpenAI의 "AGI가 전 인류에 이롭도록"이라는 미션은 진심으로 시작됐을지 모르나, 권력 집중과 제국 구조를 구축하는 공식으로 기능하고 있다.

공식의 3가지 성분:

1. 미션이 인재를 집중시킨다 — 거대한 사명을 중심으로 종교처럼 결집 (Altman 2013 블로그: "최고의 창업자는 회사가 아닌 종교를 만들려 한다")
2. 미션이 자본과 자원을 집중시키며 규제·반대를 제거한다 — "AI 패권 경쟁에서 민주주의가 독재보다 먼저 AGI에 도달해야 한다"는 프레임
3. 미션이 충분히 모호해 어떤 방향으로도 재해석 가능하다 — 2015년 오픈소스 비영리 → 2019년 수익제한 LP → 2022년 반복 배포 → 2024년 유료 서비스 = 모두 "미션"으로 정당화

"I think it's a ridiculous and meaningless term," — Altman이 이사회 해고 이틀 전 NYT에 "AGI"에 대해 한 말

데이터 식민주의 (Data Colonialism)

Keoni Mahelona (Te Hiku Media): "Data is the last frontier of colonization. AI is just a land grab all over again."

제국의 착취 구조:

• 노동 착취: 케냐(Sama→OpenAI), 베네수엘라(Scale AI/Remotasks), Appen (글로벌) — 위기 경제권에서 최저 임금 이하로 조달
• 데이터 착취: Reddit·GitHub·YouTube·Common Crawl 무단 스크래핑
• 자원 착취: 칠레 구리·리튬(원주민 Atacameño 공동체 피해), Iowa·Arizona·Uruguay 물 위기 속 데이터센터 냉각 소비
• 토지 착취: Microsoft·Google·Amazon의 글로벌 데이터센터 토지 수용

주요 인물

연대기 요약 (18장 + 에필로그)

창립기 (2015–2019)

• 2015년: 설립 만찬 — Altman, Musk, Brockman, Sutskever, Dario Amodei. Musk의 DeepMind 편집증(Hassabis = "슈퍼빌런"). Nick Bostrom 『Superintelligence』가 이념적 토대
• 2018년: Musk 퇴장. Microsoft $1B 딜 첫 단초 (Gates GPT-2 시연)
• 2019년: OpenAI LP(수익 제한 구조) 출범. Altman 비전 메모: 4개 영역 1위 목표("기술·컴퓨트·자금·준비도"). 정보 공개 축소 지시

GPT-3와 균열 (2020–2021)

• 세 클랜: 탐구연구(Sutskever) vs 안전(Amodei) vs 스타트업(Brockman/Applied)
• GPT-3 API 출시 2020.06 — 코드 생성 능력 예상 밖 등장, 안전팀 공황
• 2020.12: Timnit Gebru 구글에서 해고 → AI 업계 투명성 붕괴 가속
• 2020말–2021: 'The Divorce' — Amodei 형제, Jack Clark 등 Anthropic 창업. Altman의 "심리적 학대"가 직접 원인

상업화 시대 (2021–2022)

• Codex/GitHub Copilot 출시 (GitHub 코드 무단 스크래핑 포함)
• DALL-E 2 "연구 프리뷰" 2022.03 — Midjourney·Stable Diffusion에 시장 역전
• GPT-4 훈련 중 데이터 고갈 위기 → YouTube 무단 스크래핑, GitHub 공식 제공

ChatGPT 시대 (2022.11–2023)

• 2022.11.30: ChatGPT 출시. "로우키 연구 프리뷰" 예상 밖 바이럴
• 5일 만에 100만, 2달 만에 1억 사용자 (당시 최속 성장)
• GPU 녹아내림, 인프라팀 위기, 트러스트·안전팀 모니터링 중단
• Microsoft $10B 투자 (2023.01 공식 발표)
• 2023.05: OpenAI Senate 청문회. Altman "이사회가 날 해고할 수 있다"를 거버넌스 장점으로 홍보

이사회 위기 "The Blip" (2023.10–11)

• 배경: 이사회 독립이사 Toner, McCauley, D'Angelo가 Altman의 반복적 거짓말·권력 조종 패턴 인지
• Sutskever가 Toner에게 접촉 (10.04): "OpenAI is trickier than it seems from the outside"
• Murati가 Toner에게 (10.15): Altman이 "굉장히 불안한 사람"이며 독성 행동 패턴 상세 증언
• "Sam leading us to AGI — I don't feel comfortable"
• Altman이 Sutskever에게 McCauley가 "Toner는 나가야 해"라고 했다고 거짓말 → 실시간 포착
• 2023.11.17: 이사회 Altman 해고 ("not consistently candid in his communications")
• 5일 드라마:
• Brockman 즉각 사임, Pachocki·Sidor 등 연쇄 퇴사
• 직원 700+명 오픈레터: 집단 퇴사 위협
• Murati가 오픈레터 맨 앞에 서명 (입장 전환)
• Sutskever도 서명 — "Without Mira, Sam couldn't have pulled it off"
• Microsoft Nadella, Brockman·Altman을 자사 AI 연구부서 수장으로 발표
• Emmett Shear (Twitch 창업자) 임시 CEO → Altman 지지로 선회
• 2023.11.21: Altman 복직. Toner·McCauley 교체. 독립성 실험 실패

오므니크라이시스 (2024.05)

• Sutskever 퇴사 발표 (05.14): Jan Leike (Superalignment 공동리더) 동시 퇴사
• Leike 트윗: "Safety culture and processes have taken a backseat to shiny products"
• Superalignment팀 해산
• 주식 몰수 조항 스캔들: 퇴사 직원이 비난금지 합의서에 서명 않으면 기득권 주식 몰수 — 2019년부터 있었음에도 Altman "몰랐다" 주장. 법인설립문서에 Altman 서명 날짜 2023.04.10
• Scarlett Johansson/Sky 음성 논란: GPT-4o 데모 음성이 Her의 Samantha(Johansson 목소리)와 유사. Altman이 Johansson에게 직접 제안했다가 거절당한 후 유사 음성 사용. Sky 음성 중단
• 결과: 주요 경영진 연쇄 퇴사 — Murati (09.25), Schulman (08.05), McGrew·Zoph (09.25), Brockman 무기한 휴직 (08.05)

구조 전환 (2024 후반–2025)

• 2024.10: $6.6B 펀딩 라운드 ($157B 밸류). 2년 내 영리 전환 미이행 시 반환 조건
• 2024.12: 영리 공익법인(PBC) 전환 공식 발표. 비영리이사회 지배권 해체
• 2025.01.06: Altman 블로그: "We are now confident we know how to build AGI"

핵심 개념과 분석

Boomer vs Doomer 내부 균열

• Boomers (Applied/Commercial): 반복 배포가 곧 안전 연구. 실제 사용자 피드백이 최선의 안전 학습
• Doomers (Safety clan): AGI 임박 → 최대 경계. ChatGPT 이후 "배포 속도가 전례 없는 위험"
• 이 균열이 이사회 위기의 이념적 배경이자 ChatGPT 후 가속된 내부 갈등의 본질

Sutskever의 역설

"Feel the AGI" 구호를 외치며 목조 인형을 태우는 의식 주도 → 동시에 가장 열렬한 AGI 위험 경고자

• Boomer이자 Doomer: "AGI에 가장 흥분하고 가장 두려워하는 자"
• 이사회 해고 주도 이유: "Sam이 AGI를 향해 가는 손가락에 걸릴 사람이 아니라고 생각"

"Stochastic Parrots" 논문의 4대 경고 (2020)

1. 대규모 언어 모델 훈련의 폭발적 환경 비용
2. 인터넷 스크래핑 데이터의 독성·편견 재생산 → 소수집단 가장 큰 피해
3. 방대한 데이터셋 감사·검증 불가능성
4. 언어 모델 출력을 실제 의미·감정이 있는 것으로 착각하게 만드는 위험

안전 연구의 투명성 붕괴 궤적

GPT-2 (2019): "너무 위험해서 공개 불가" (PR 실험)
         ↓
GPT-3 (2020): API 공개, 위험 인정했지만 연구 논문 최소화
         ↓
ChatGPT (2022): "로우키 연구 프리뷰" → 계획 없이 바이럴
         ↓
2023: Stanford 투명성 지수 → 상위 10개사 모두 F 등급 (최고 54%)
         ↓
GPT-4o (2024): Preparedness 평가에 10일밖에 없었음

AGI 정의의 유동성 (권력 도구로서)

케냐 데이터 노동자 사례 (상세)

Mophat Okinyi (케냐, Lake Victoria 섬 출신 Luo 족):

• 2021.11 Sama에서 OpenAI 콘텐츠 안전 필터 주석 프로젝트 합류
• 월 15,000건 성적 콘텐츠 검토 (CSAM, 아동 성학대 묘사 포함)
• 수개월 후: 불면증, 불안-우울 반복, 아내·의붓딸과 관계 단절
• 심리 상담비 월급 전체 (30,000 실링 ≈ $250) → 1회 상담 후 포기
• 2022.03 Sama, OpenAI 계약 돌연 종료 (Media Time 폭로 직후)
• 아내 이혼. 그 직후 남동생 Albert가 Nairobi로 이주해 함께 거주
• Albert의 freelance 작가 수입도 ChatGPT 출시 후 급감
• 현재: Techworker Community Africa 창설, Time 100 AI 목록에 선정

구조적 문제:

• OpenAI → Sama(하청) → 노동자: "더러운 일을 아웃소싱해 책임 회피"
• Sama 계약 $230,000, 완납 않고 중단 (이미지 작업이 "합의 범위 초과"라는 이유)
• Fairwork 기준(생활임금·정규 시프트·계약서·유니온 허용): 업계 대부분 미충족

환경·물질 발자국

데이터센터 물·에너지 소비:

• GPT-4 훈련 중 Iowa 가뭄 기간 Microsoft 데이터센터 단 1개월에 1,150만 갤런 (해당 지역 급수의 6%)
• Google Cerrillos (칠레): 초당 169리터 식수 소비 계획 → 지역 주민 전체 연간 사용량의 1,000배 이상
• Arizona 피닉스: 2023년 최악 폭염+사망자 600명+ 증가 속 대규모 데이터센터 건설
• Uruguay: 2023년 식수 오염 위기(갈색 물) 속 Google 데이터센터 건설

광물 채취 (칠레):

• Chuquicamata 구리 광산 (세계 최대 노천 광산) → AI 데이터센터 인프라 공급
• Atacama 리튬 추출 → 플라밍고 사라짐, Atacameño 공동체 토지·물 파괴
• Sonia Ramos: "문제는 채굴 자체가 아니라 그 규모"

이사회 구조의 근본 모순

비영리이사회 → 영리법인 지배 구조:

• 이사회가 "AGI가 인류에 이롭다" 기준으로 CEO를 해고할 수 있는 전례 없는 권한
• 그러나 Altman이 이사회 구성원을 조금씩 자기 네트워크로 교체하며 독립성 잠식
• 투자자들이 이익이 아닌 미션을 위해 존재하는 이사회를 사실상 무력화
• Helen Toner: "The board is a nonprofit board set up explicitly for public good mission — not to help the CEO raise more money"
• 결과: Altman 복직 후 이 구조 자체를 해체 (2024년 PBC 전환)

대안적 AI 개발 모델

Te Hiku Media (뉴질랜드 마오리)

• 목표: 마오리 원주민 언어 te reo 음성인식 모델
• 3원칙: 동의(consent), 상호성(reciprocity), 주권(sovereignty)
• 데이터: 2,500명 자발 기부 310시간 오디오 (OpenAI Whisper = 68만 시간 무단 스크래핑 대비)
• 결과: 86% 정확도, GPU 단 2개 사용
• 기술: Mozilla DeepSpeech (완전 동의 데이터) 기반
• 핵심 원칙: "kaitiakitanga(수호)"—데이터는 Te Hiku의 관리 하에, 공동체가 동의한 용도에만 라이선스

DAIR (Distributed AI Research Institute)

• Timnit Gebru가 2021년 Google 해고 후 창설
• "Distributed" = 중앙집중화 거부 선언
• 세계 각지 연구자가 자신의 공동체에 뿌리박힌 채 AI 비판 연구 수행

제국 해체 공식 (3가지 축)

Karen Hao 제안:

1. 지식 재분배: 기업 모델 독립 평가 자금 지원 / 대안 AI 연구 지원 / 훈련 데이터·기술 사양 공개 의무화
2. 자원 재분배: 데이터 수집 투명성 강화 / 노동자 보호(생활임금·단체교섭) / 공급망 공개
3. 영향력 재분배: AI 리터러시 교육 확산 / "AGI 담론"의 신화적 권위 해체

핵심 질문 (Ria Kalluri, Stanford):

"Does AI consolidate or redistribute power? Does it fortify the empire, or wrest us back toward democracy?"