**์ ์**: Stephen Witt (ใHow Music Got Freeใ ์ ์, *The New Yorker* ๊ธฐ์)
์ด ๋งํฌ๋ฅผ ํตํด ๊ตฌ๋งคํ๋ฉด ์ด์์์๊ฒ ์์ ์ ์์๋ฃ๊ฐ ์ง๊ธ๋ ์ ์์ต๋๋ค.
YES24์์ ๊ตฌ๋งคํ๊ธฐThe Thinking Machine: Jensen Huang, Nvidia, and the World's Most Coveted Microchip
์ ์: Stephen Witt (ใHow Music Got Freeใ ์ ์, The New Yorker ๊ธฐ์) ์ถํ: 2025๋ , Viking/Bodley Head ๋ถ๋: 242ํ์ด์ง (23์ฑํฐ) ํต์ฌ ๋ช ์ : Nvidia์ $3์กฐ ๋๋ฌ์ "์ด์ด ์ข์๋ค"๊ฐ ์๋๋ผ, ๋ณ๋ ฌ ์ปดํจํ ์ด๋ผ๋ ์ธ๋ก์ด ๋ฒ ํ ์ ์์ญ ๋ ๊ฐ ๋ฐ์ด๋ถ์ธ Jensen Huang์ ๋์ฒ ํ ์ฌ์ ๋ ผ๋ฆฌ์ ์ฐ๋ฌผ์ด๋ค.
1๋ถ: ๊ทธ๋ํฝ์์ ๋ฒ์ฉ ์ปดํจํ ์ผ๋ก (1993~2012)
Nvidia ์ฐฝ์ (1993)
- Jensen Huang(ํฉ์ ์จ), Chris Malachowsky, Curtis Priem์ด Denny's ์๋น์์ ๊ณต๋ ์ฐฝ์
- ํฉ์ ์จ: ๋๋ง ์ถ์ โ ํ๊ตญ ์ฑ์ฅ โ 9์ธ์ ๋ฏธ๊ตญ ์ผํฐํค ๊ธฐ์ํ๊ต โ ์ค๋ฆฌ๊ฑด์ฃผ๋ฆฝ๋(์ ๊ธฐ๊ณตํ) โ AMDยทLSI Logic ๊ฒฝ๋ ฅ
- ์ฐฝ์ ์ ํต์ฌ ๋ฒ ํ : "PC ๊ทธ๋ํฝ ์์ฅ์ ํญ๋ฐํ ๊ฒ, ์ฐ๋ฆฌ๋ ๋ณ๋ ฌ ์ปดํจํ ์ผ๋ก ์น๋ถํ๋ค"
์ด๊ธฐ ์คํจ์ ํผ๋ฒ
- NV1 (1995): ๋ ์ ์ํคํ ์ฒ ์ฑํ โ ์ ๊ณ ํ์ค ๋ถ์ผ์น, ์์ ์ ์คํจ
- NV3 (1997): ์ ๊ณ ํ์ค(OpenGL/Direct3D) ์ฑํ์ผ๋ก ์ ํ โ 3dfx ๊ฒฝ์์์ ์น๋ฆฌ
- 3dfx ์ธ์: ๊ฒฝ์์ฌ๋ฅผ ์ง์ ํก์ํด GPU ์์ฅ ์ง๋ฐฐ๋ ฅ ํ๋ณด
- IPO: 1999๋ 1์ 22์ผ ์์ฅ
CUDA ๊ฐ๋ฐ โ ๋๋ฐ์ด์ ์ ๋ต (2006)
- GPU๋ ์๋ ๊ฒ์ ๋ ๋๋ง์ฉ ๋ณ๋ ฌ ํ๋ก์ธ์
- ํฉ์ ์จ์ ๊ด์ฐฐ: "์ฐ๊ตฌ์๋ค์ด ์ด๋ฏธ GPU๋ก ๊ณ์ฐ์ ๋๋ฆฌ๊ณ ์๋ค โ ๊ณต์ ์ง์์ด ์๋๋ฐ๋"
- CUDA (Compute Unified Device Architecture): GPU๋ฅผ ๋ฒ์ฉ ๊ณผํ ๊ณ์ฐ ํ๋ซํผ์ผ๋ก ์ฌ๋ ์ํํธ์จ์ด ์คํ (Ian Buck ์ฃผ๋)
- ๋น์ ๊ทน์์ ์ฐ๊ตฌ์๋ค๋ง ์ฌ์ฉ, ๋งค์ถ ์ง๊ฒฐ ์์ โ ์๋ ๊ฐ "๋ญ๋น" ๋ ผ๋
AlexNet โ AI ํ๋ช ์ ๋น ๋ฑ (2012)
- Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton์ด ImageNet ๋ํ์์ 26%โ15% ์ค๋ฅ์จ ์ ํ
- ํต์ฌ ๋๊ตฌ: ๋ ์ฅ์ GTX 580 GPU (CUDA ๊ธฐ๋ฐ)
- ํฉ์ ์จ์ด ์ง์ ๊ฒฐ๊ณผ๋ฅผ ์ถ์ , "์ด๊ฒ ๋ฐ๋ก O.I.A.L.O.๋ค" ์ ์ธ
- O.I.A.L.O. (Once In A Lifetime Opportunity): ํ์ฌ ์ ์ฒด๋ฅผ AI ์ปดํจํ ์ผ๋ก ํผ๋ฒํ๋ ์ ํธ
2๋ถ: AI ํ๋ช ์ ์ธํ๋ผ๊ฐ ๋๋ค (2012~2024)
cuDNN๊ณผ DGX-1
- Bryan Catanzaro: CUDA ์์ ๋ฅ๋ฌ๋ ์ ์ฉ ๋ผ์ด๋ธ๋ฌ๋ฆฌ cuDNN ๊ฐ๋ฐ โ ๋ฅ๋ฌ๋ ์๋ 10๋ฐฐ ํฅ์
- DGX-1 (2016): Nvidia ์ต์ด AI ์ ์ฉ ์๋ฒ โ ํฉ์ ์จ์ด ์ง์ ์ฒซ ๋ฒ์งธ ์ ๋์ OpenAI์ ๊ธฐ์ฆ
- Sam Altman์๊ฒ "์ด๊ฒ ๋ฏธ๋๋ค"๋ผ๋ฉฐ ์ ๋ฌํ ํ์๋ AI ์ํ๊ณ ๊ตฌ์ถ ์ ๋ต์ ์ผํ
Transformer ์ํคํ ์ฒ์ Nvidia
- 2017๋ Google์ "Attention Is All You Need" ๋ ผ๋ฌธ โ [[papers/attention-is-all-you-need]]
- Transformer๋ ๋ณ๋ ฌ ์ฐ์ฐ์ ๊ทน๋๋ก ์ต์ ํ โ GPU ์์ ํญ๋ฐ์ ์ง์ ์์ธ
- Nvidia๋ Transformer๋ฅผ ์ค๊ณํ์ง ์์์ง๋ง, ์ด๋ฅผ ์คํํ๋ ์ ์ผํ ํ๋์จ์ด ๊ณต๊ธ์๊ฐ ๋จ
Mellanox ์ธ์ (2019)
- ๊ณ ์ ๋คํธ์ํน ๊ธฐ์ ์ธ์ ($6.9B)
- AI ํด๋ฌ์คํฐ ๋ด GPU ๊ฐ ๋ฐ์ดํฐ ์ ์ก ๋ณ๋ชฉ ํด์ โ ๊ฑฐ๋ ๋ชจ๋ธ ํ๋ จ ๊ฐ๋ฅ์ฑ ํ๋ณด
ChatGPT โ $3์กฐ (2022~2024)
- 2022๋ 11์ ChatGPT ๊ณต๊ฐ โ AI ์ธํ๋ผ ์์ ์์ง ์์น
- ๋ชจ๋ ํด๋ผ์ฐ๋ ๊ธฐ์ ์ด Nvidia H100 ์นฉ ์ฃผ๋ฌธ ์ํ์
- 2024๋ ์๊ฐ์ด์ก $3์กฐ ๋ํ โ ๋ง์ดํฌ๋ก์ํํธยท์ ํ๊ณผ ์ด๊นจ๋ฅผ ๋๋ํ
- IPO ๋๋น ์ฃผ๊ฐ ์์น๋ฅ : 300,000%
GTC 2024 ํค๋ ธํธ
- NHL ์๋ ๋(17,000์) ์์ฉ โ 8,000๋ช ์ ์ ์ฅ ๋ถ๊ฐ, ์๋ฎฌ์บ์คํธ๋ก ์์ฒญ
- Nvidia์ ์ปดํจํ ์คํ์ ์์ผ๋ก ๊ทธ๋ฆฐ ์ง๋๋ก ์ค๋ช : IBM S/360 (1964) โ ๋ณ๋ ฌ ์ปดํจํ ํ๋ช
- ๋ก๋ด ํ์ต ํ๋ซํผ GR00T ๋ฐํ, AI ์ํธ ์ค์น ์ํ ์คํ๋
์ง์ ํ: ๋ฐ๋์ฒด ์ ์
TSMC ์์กด์ฑ โ ๊ฐ์ฅ ํฐ ๋จ์ผ ๋ฆฌ์คํฌ
- Nvidia์ ์นฉ์ ์ ๋ TSMC ์์ฐ โ [[entities/morris-chang]]
- ๋ฌผ๋ฅ ์ฑ ์์ Deb Shoquist: "๋๋ง์ ์ ์์ด ๋๋ฉด ๋ชจ๋ ์ ํ์ด ํ ๋จ๊ณ์ฉ ๋ค์ด๊ทธ๋ ์ด๋๋ ๊ฒ"
- ํฉ์ ์จ์ ์ง์: "์ด ์๋๋ฆฌ์ค์ ๋์ธํฌ ํ๋๋ ์ฐ์ง ๋ง๋ผ โ ๋๋น๊ฐ ๋ถ๊ฐ๋ฅํ ์ฌ๊ฑด์ด๋ค"
- ํฉ์ ์จ ์์ ์ ์ด ๋ฆฌ์คํฌ๋ฅผ ์์ ํ ์ฐจ๋จํ๊ณ ์คํ ๊ฐ๋ฅํ ์์ญ์๋ง ์ง์ค
๋ฏธ์ค ๋ฐ๋์ฒด ์ ์
- ๋ฏธ๊ตญ์ด A100/H100 ์ค๊ตญ ์์ถ ๊ธ์ง (2022)
- ํฉ์ ์จ: ์ ํ๋ ๋ฒ์ ์นฉ์ผ๋ก ์ฐํ ์๋ โ ๋ฏธ๊ตญ ์ ๋ถ๊ฐ ๋ฃจํํ ๋ด์
- "๊ทธ๋ค์ด ์ฐ๋ฆฌํํ ์ ๋ชป ์ฌ๋ฉด, ์ค์ค๋ก ๋ง๋ค ๊ฒ์ด๋ค"
- ๊ธ์ง ์ ๋ ByteDance์ ChatGPT 10๊ฐ ๋ถ๋ ํ์ต ๊ฐ๋ฅํ A100 ๋ฌผ๋ ํ๋งค
TSMC ํผ๋์ค ํน
- 1,100์์ด์ปค ๋ถ์ง, 2๊ฐ ํน, ์ด $400์ต ์ด์ ํฌ์
- ๋ชจ๋ฆฌ์ค ์ฐฝ: "์ด ํฌ์๋ ๋ฐ๋ณด ๊ฐ์ ์ง" (๋ฏธ๊ตญ ๋ ธ๋ ์์ฐ์ฑ ๋ถ์ ) โ [[entities/morris-chang]]
- ์ค๋ฆฌ์ฝ ์ด๋ ์ด๋ก : TSMC์ ๋๋ง ์ง์ค์ด ์คํ๋ ค ์ค๊ตญ์ ์นจ๊ณต์ ์ต์ง
Jensen Huang โ ์ธ๋ฌผ ๋ถ์
๋ฆฌ๋์ญ ์คํ์ผ
- "ํฉ์ ๋ถ๋ ธ(Wrath of Huang)": ์ ๋ต์ ๋๊ตฌ๋ก์์ ๋ถ๋ ธ โ ๊ด๋ฆฌ์๋ค์ ๊ทธ๋ณด๋ค ์ธ๋ฅ ๋ฉธ์ข ์ ๋ ๋ฌด์์ํ๋ค๊ณ ์ ์ ๊ด์ฐฐ
- "Struggle Sessions": ์ง์๋ค๊ณผ์ ์ง์ค ์ง์ ์ธ์ , ์ฝ์ ๊ณต๊ฐ ๋ ธ์ถ
- ์ง์ ๋ณด๊ณ ์ 50๋ช ์ด์ โ "๋๋ฅผ ์ ์ธํ ๋๋จธ์ง๋ ๋ด ๋์ญํญ์ ์ค์ฌ์ฃผ๋ ์ญํ "
- ์ค์ 3:30์ ๊ธฐ์ํ์ฌ ๊ฐ์ฅ ์ค์ํ ์ฅ๊ธฐ ํ๋ก์ ํธ๋ถํฐ ์์
์ฌ๊ณ ๋ฐฉ์
- ๋จ์ผํ ํ์ ๊ฒฌํด๊ฐ ์๋ "์๋ฉด์์ ๊ณต๊ฒฉ" โ ๋ชจ์๋ ๋ฐ์ธ์ด ์ฆ์
- ์์ด๋์ด๊ฐ "์์ ์ง๋๊ธฐ" ๊ณผ์ ์ ๊ฑฐ์ณ ๋ค๋ฌ์ด์ง๋ฉด ๋ฐ๋ณตํ๊ธฐ ์์ โ ๊ทธ๋๋ถํฐ ์ง์ฌ
- ํต์ฌ ๊ฐ๋ ์ฌ๋ก: "zero-billion-dollar market" (์๋ฌด๋ ๋ณด์ง ์๋ ์์ฅ์ ๋จผ์ ์ ์ ํ๋ผ)
- ๊ณผํ์์ค์ ๊ฐํ ๊ฑฐ๋ถ๊ฐ: "์ฐ๋ฆฌ๋ ์ฌ๊ฐํ ์ฌ๋๋ค์ด ์ฌ๊ฐํ ์ผ์ ํ๋ ํ์ฌ๋ค"
p(doom) = 0 (์ฌ์ค์ ์์)
- Bengio, Hinton, Sutskever์ AI ์ํ ๊ฒฝ๊ณ ๋ฅผ ์ ๋ฉด ๊ฑฐ๋ถ
- "AI๊ฐ ์ผ์๋ฆฌ๋ฅผ ์์จ๊น? ๊ณ์ฐ๊ธฐ๊ฐ ์ํ์ ์์ด๋? ์ด ๋ํ๋ ๋๋ฌด ์ง๊ฒจ์!"
- Hinton์ด ํฉ์ ์จ์ ์ค๋์ p(doom)์ 50% โ 10~20%๋ก ๋ฎ์ถค
์ฑ๊ณต์ ์์ธ (4๊ฐ์ง ํด์)
- Dally: ์๋์ ๋ ธ๋ ์ค๋ฆฌ โ "๋๋จธ์ง๋ Jensen์ ๋์ญํญ์ ์ค์ด๋ ์ญํ "
- Horstmann: ์ ์์ฑ โ "์๊ธฐ ์์ ์ ์์ง๋์ด๋งํ๋ค, ์ ๋ ฅ-์ถ๋ ฅ ์ถ์ํ๋ก"
- Aarts: ์ด โ "๋ ๊ฐ์ ๋น์ฃผ๋ฅ ๊ธฐ์ (๋ณ๋ ฌ์ปดํจํ +์ ๊ฒฝ๋ง)์ด ์ด๋ ๊ฒ ์๋ฒฝํ๊ฒ ๋ง์๋จ์ด์ง ์ ์๋ค"
- Morris Chang: "์ง์ฑ ์์ฒด๊ฐ ํ์ํ๋ค" (90์ธ ๋ ธ์ธ์ 70๋ ๊ด์ฐฐ ๊ฒฐ๋ก )
AI ์ํ ๋ ผ์: The Fear
Yoshua Bengio์ ์ ํ
- 2023๋ ์ด ๊ฒจ์ธ ์ฐ์ฑ ์ค "์ ํ(conversion)" ๊ฒฝํ โ "๋ด ์์ด๋ค๊ณผ ์์๋ 20๋ ํ ์ถ์ด ์์๊น"
- ChatGPT๋ฅผ "์ธ๊ณ์ธ์ ๋ง๋๋ ๊ฒ"์ ๋น์
- p(doom) = 50% โ "์ด๊ฒ์ ์ต์ ์ ๊ณตํฌ โ ๊ฐ์ ์ ๊ฑท์ด๋ด๊ณ ํฉ๋ฆฌ์ ์ผ๋ก ๋ถ์ํ ์๋ก ๋ ๋ฌด์์์ง๋ค"
Geoffrey Hinton์ ๋ณํ
- Google ํด์ฌ, AI ์ํ ๊ฒฝ๊ณ ์ ์
- Bengio์ ๋์์ ๋ ๋ฆฝ์ ์ผ๋ก ๊ฐ์ ๊ฒฐ๋ก ์ ๋๋ฌ
- Ilya Sutskever๋ "์ ๋ ฌ(alignment) ๋ฌธ์ "์ ์ง์คํ๊ธฐ ์์ โ GPT-4o ์ถ์ ๋ค์๋ OpenAI ์ฌ์ง
Yann LeCun์ ๋ฐ๋ฐ
- p(doom) = 0 โ "AI๋ ์ฐ๋ฆฌ๊ฐ ๋ชฉํ๋ฅผ ์ค์ ํด์ค๋ค, ์ง๋ฐฐ ์๊ตฌ๋ฅผ ๋ง๋ค ์ด์ ๊ฐ ์๋ค"
- Bengio์ ๊ณต๊ฐ ๋ ผ์ (๊ฐ์ ๋ ผ๋ฌธ ๊ณต์ ์์์์๋)
SB 1047 (์บ๋ฆฌํฌ๋์ AI ๊ท์ ๋ฒ)
- BengioยทHinton ์ง์ง โ ์ฌ๋ก 80% ์ฐฌ์ฑ โ Gavin Newsom ๊ฑฐ๋ถ๊ถ
- ์ค๋ฆฌ์ฝ๋ฐธ๋ฆฌ VC ์ฐํฉ์ ๋ก๋น์ ํจ๋ฐฐ
์ฑ ์ ๊ฒฐ๋ก : ์ฝํน ๋จธ์
์ ์ Stephen Witt๊ฐ Eos(10,000์นฉ ์ํผ์ปดํจํฐ, GPT-3 ํ์ต ์๊ฐ 4๋ถ ๋ฏธ๋ง)์ ๋ค์ด์๋ ์ฅ๋ฉด์ผ๋ก ๋ง๋ฌด๋ฆฌ:
"๋๋ ์ง๊ธ ์ปดํจํฐ์ ๋ ์์ ์ ์์๋ค. ์ด๋น 10๊ฒฝ(10 quintillion) ๋ฒ์ ์ฐ์ฐ์ด ๋ด ์ฃผ๋ณ์์ ์คํ๋๊ณ ์์๋ค. ์ด๊ฒ์ด ์ฐ๋ฆฌ ๋ชจ๋๋ฅผ ์ฃฝ์ด๊ฑฐ๋ ๊ตฌํ ๊ฒ์ด๋ค โ ์ด๋ ์ชฝ์ด๋ , ์ด๊ฒ์ Jensen์ ์นฉ ์์์ ์ผ์ด๋ ๊ฒ์ด๋ค."
ํฉ์ ์จ์ด Eos๊ฐ ์ฒ๋ฆฌ ์ค์ธ ์์ ์ "์์ง์ GPT-4 ์คํ์ผ ๋ด๋ถ ๋ชจ๋ธ ํ๋ จ"์ด๋ผ๊ณ ์ค๋ช ํ์, ์ ์๋ ๊ทธ ๊ธฐ๊ณ๊ฐ ์์ ์ ๋ฐ๋ผ์ก๊ณ ์์์ ์ง๊ฐ.
ํต์ฌ ์ธ๋ฌผ ์ ๋ฆฌ
| ์ธ๋ฌผ | ์ญํ | ์๋ฏธ |
|---|---|---|
| Jensen Huang | Nvidia CEO/๊ณต๋ ์ฐฝ์ ์ | ๋ณ๋ ฌ ์ปดํจํ ๋ฒ ํ ์ ์ค๊ณ์ |
| Chris Malachowsky | ๊ณต๋ ์ฐฝ์ ์ (ํ์ฌ Engineer Fellow) | ๊ธฐ์ ์ด์ |
| Curtis Priem | ๊ณต๋ ์ฐฝ์ ์ โ ๆฉๆ ์ฃผ์ ์ ๋ ๋งค๋ | "10์ต ๋ฌ๋ฌ์ง๋ฆฌ ์์ ๊ฐ" โ ์ฃผ์ ๋์ ๋ํ ๊ธฐ๋ถ ์ ํ |
| Bill Dally | ์์ ๊ณผํ์ (Stanford ์ถ์ ) | ํ๋์จ์ด ์ํคํ ์ฒ |
| Bryan Catanzaro | cuDNN ๊ฐ๋ฐ์ | ๋ฅ๋ฌ๋ ๊ฐ์์ ์ค์ง์ ๊ตฌํ |
| Dwight Diercks | VP Engineering | IPO ๋ ์ฃผ์ ํ์ ์๋ฒ์ง ์บ๋๋ฝ ๊ตฌ์ โ "10์ต ๋ฌ๋ฌ์ง๋ฆฌ ์บ๋๋ฝ" |
| Alex Krizhevsky | AlexNet ๊ฐ๋ฐ์ | AI ๋น ๋ฑ ํธ๋ฆฌ๊ฑฐ |
| Ilya Sutskever | OpenAI ๊ณต๋ ์ฐฝ์ ์ | AlexNet โ ChatGPT โ ์ ๋ ฌ ๋ฌธ์ ์ง์ค |
| Geoffrey Hinton | AI ๋๋ถ | ๋ฅ๋ฌ๋ ์ฐฝ์ โ AI ์ํ ๊ฒฝ๊ณ ์ ์ |
| Yoshua Bengio | AI ์ฐ๊ตฌ์ | p(doom) = 50% |
| Yann LeCun | Meta AI ์์ | p(doom) = 0 |
| Morris Chang | TSMC ์ฐฝ์ ์ | "๊ทธ์ ์ง์ฑ์ ๋จ์ํ ํ์ํ๋ค" |
์ญ์ฌ ํ์๋ผ์ธ
| ์ฐ๋ | ์ฌ๊ฑด |
|---|---|
| 1993 | Nvidia ์ฐฝ์ (Denny's) |
| 1995 | NV1 ์คํจ |
| 1997 | NV3 ์ฑ๊ณต, 3dfx ๊ฒฝ์ ์์ |
| 1999 | IPO |
| 2001 | 3dfx ์ธ์ |
| 2006 | CUDA ์ถ์ |
| 2012 | AlexNet, O.I.A.L.O. ์ ์ธ |
| 2013 | cuDNN ์ถ์ (Bryan Catanzaro) |
| 2016 | DGX-1 ๊ธฐ์ฆ (OpenAI) |
| 2017 | Transformer ๋ ผ๋ฌธ ("Attention Is All You Need") |
| 2019 | Mellanox ์ธ์ ($6.9B) |
| 2022 | ChatGPT ๊ณต๊ฐ, ๋ฏธ๊ตญ์ A100 ๋์ค ์์ถ ๊ธ์ง |
| 2023 | Hinton์ Google ํด์ฌ, SB 1047 ๊ฑฐ๋ถ๊ถ |
| 2024 | GTC ์๋ ๋ ํค๋ ธํธ, $3์กฐ ์์ด ๋ฌ์ฑ, GPT-4oยทo1 ์ถ์ |
๊ด๋ จ ํ์ด์ง
- [[entities/jensen-huang]] โ ํฉ์ ์จ ์ธ๋ฌผ ํ์ด์ง
- [[entities/nvidia]] โ Nvidia ๊ธฐ์ ํ์ด์ง
- [[entities/morris-chang]] โ TSMC ์ฐฝ์ ์
- [[books/chip-by-chip]] โ TSMC โ Nvidia ์์กด์ฑ ์ฒด์ธ ๋ถ์
- [[papers/attention-is-all-you-need]] โ Transformer ์ํคํ ์ฒ ์๋ ผ๋ฌธ
- [[books/singularity-nearer]] โ ์ปค์ฆ์์ผ์ AI ๊ฐ์ ์์ธก
- [[books/the-infinity-machine]] โ DeepMind/ํด์๋น์ค, AlphaGo, Hinton ์ฐ๊ฒฐ
- [[books/scaling-era]] โ Ilya Sutskever ๋ฑ AI ํ๋ฐํฐ์ด ๊ตฌ์ ์ฌ