NVIDIA / ์ํผ ์ปดํจํฐ / AI Workbench 2023๋
8์ 3์ฃผ์ฐจ ์
๋ ํธ์คํ ๋ด์ค๋ ํฐ |
|
|
๊ธ: ๊ถํ์ฃผ ใ
ฃ ๊ฒ์: ์ ์ธ์ |
|
|
์๋น๋์ ์ํผ ์ปดํจํฐ์ AI ์ํ๊ณ |
|
|
CPU์ GPU๋ฅผ ๊ฒฐํฉํ 'GH200' ์นฉ์ ์๊ฐํ๋ ์ ์จ ํฉ ์๋น๋์ CEO.
์ฌ์ง. NVIDIA Keynote at SIGGRAPH 2023.
์ง๋ ์ฃผ ๋ฏธ๊ตญ LA์์ ์๊ทธ๋ํ 2023(SIGGRAPH 2023)์ด ๊ฐ์ต๋์ต๋๋ค. ์๊ทธ๋ํ๋ 1974๋
๋ถํฐ ์ด๋ฆฐ ์ปดํจํฐ ๊ทธ๋ํฝ์ค ๋ถ์ผ ์ต๋ ์ฝํผ๋ฐ์ค์
๋๋ค. ์ฌํด๋ก 50์ฃผ๋
์ ๋ง์์ต๋๋ค.
๋ง์ ๋ฐํ๊ฐ ์์์ง๋ง ๊ฐ์ฅ ํ์ ๋๊ฑด ์๋น๋์(NVIDIA) ์ ์จ ํฉ CEO์ ํค๋
ธํธ ์ธ์
์ด์์ต๋๋ค. ํ์ฌ ์ฃผ๊ฐ๊ฐ ์ฐ์ด ๋๋น ์ฝ 3๋ฐฐ ์ฌ๋๋ค์ง์. ์ ์จ ํฉ CEO๋ ์ด๋ฒ ๋ฐํ์์ ์๋ก์ด ์ํผ ์ปดํจํฐ์ ์นฉ, ๊ทธ๋ฆฌ๊ณ ์์ฑํ AI ์ฑ ๊ฐ๋ฐ ํ๋ซํผ AI ์ํฌ๋ฒค์น(AI WORKBENCH) ๋ฑ์ ์๊ฐํ์ต๋๋ค.
์ด๋ฒ ๋ ํฐ์์๋ ์ ์น ํฉ CEO์ 'NVIDIA Keynote at SIGGRAPH 2023'๋ฅผ ๊ฐ๋ตํ ์ดํด๋ณด๊ฒ ์ต๋๋ค :) |
|
|
CPU์ GPU๋ฅผ ๊ฒฐํฉํ Grace Hopper Superchip |
|
|
NVIDIA DGX GH200.
์ด๋ฏธ์ง. NVIDIA Keynote at COMPUTEX 2023.
์๋น๋์๋ ๋์ฑ ๊ฑฐ๋ํ, ์์กฐ ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ง AI ๋ชจ๋ธ์ ์ฒ๋ฆฌํ ์ ์๋ ์ํผ ์ปดํจํฐ๋ฅผ ์๊ฐํ์ต๋๋ค. ์ด๋ฆ์ 'NVIDIA DGX GH200'์
๋๋ค. DGX GH200์ 'NVIDIA GH200 Grace Hopper Superchip' 256๊ฐ๋ฅผ ๋จ์ผ GPU๋ก ์ฐ๊ฒฐํด, ์ต๋ 144 ํ
๋ผ๋ฐ์ดํธ(TB)์ GPU ๋ฉ๋ชจ๋ฆฌ ๊ณต๊ฐ์ ์ ๊ณตํฉ๋๋ค.
์ฐ์ฐ ์๋๋ 1 EFLOPS(์์ฌํ๋กญ์ค)์
๋๋ค. ์์ฌ๋ 100๊ฒฝ(ไบฌ)์ ๋ํ๋ด๋ ๋จ์๋ก, 1 EF๋ 100๊ฒฝ ๋ฒ์ ๋ถ๋์์์ ์ฐ์ฐ์ ์ฒ๋ฆฌํ๋ค๋ ์๋ฏธ์
๋๋ค. FLOPS์ ๋ํ ์ค๋ช
์ด ๊ถ๊ธํ๋ค๋ฉด ์ง๋ ๋ด์ค๋ ํฐ๋ฅผ ์ฐธ๊ณ ํด ์ฃผ์ธ์.
์ด๋ฆ๋ค์ด ์ฐธ ๊ธด๋ฐ์, ์ฌ๊ธฐ์ ์ปดํจํฐ ์ด๋ฆ์ด 'DGX GH200'์ด๊ณ ์นฉ ์ด๋ฆ์ 'GH200 Grace Hopper Superchip'์
๋๋ค. DGX๋ NVIDIA ์ํผ ์ปดํจํ
์ ํ๊ตฐ์ ๋ปํ๋ฉฐ, Grace๋ CPU, Hopper๋ GPU๋ฅผ ์๋ฏธํฉ๋๋ค.
์ฆ, DGX GH200 ์ํผ ์ปดํจํฐ๋ Grace CPU์ Hopper GPU(H 100)๋ฅผ ๊ฒฐํฉํ Grace Hopper Superchip์ ๊ธฐ๋ฐ์ผ๋ก ๋ง๋ค์ด ์ก์ต๋๋ค.
|
|
|
GH200 Grace Hopper Superchip ๊ตฌ์กฐ ๊ฐ์.
์๋ฃ. NVIDIA Grace Hopper Superchip Architecture Whitepaper.
์ ๊ทธ๋ฆผ์ ๊ทธ๋ ์ด์ค ํธํผ ์ํผ์นฉ ์ํคํ
์ฒ๋ฅผ ํํํ ๋์์
๋๋ค. ์ด์ฒ๋ผ CPU์ GPU๋ฅผ ์ฐ๊ฒฐํ๋ ์๋น๋์์ ๊ธฐ์ ์ด๋ฆ์ NVLink๋ผ๊ณ ํฉ๋๋ค. ์ผ๋ฐ์ ์ผ๋ก ๋ฉ๋ชจ๋ฆฌ ์ฉ๋์ ํฌ์ง๋ง ๋์ญํญ(์๋)์ด ์์ CPU์ ๋ฉ๋ชจ๋ฆฌ ์ฉ๋์ ์์ง๋ง ๋์ญํญ์ ํฐ GPU๋ฅผ ๊ฒฐํฉํด, AI ๊ฐ๋ฐ์ ์ต์ ํ๋ ์นฉ์ ๊ฐ๋ฐํ๋ค๊ณ ์ดํดํด ๋ณผ ์ ์์ต๋๋ค.
์ ์จ ํฉ CEO๋ ์ด๋ฒ ํค๋
ธํธ ์คํผ์น๋ฅผ ํตํด Grace Hopper Superchip์ ์ธ๊ณ์์ ๊ฐ์ฅ ํฐ ๋จ์ผ GPU(The worldโs largest single GPU)๋ผ๊ณ ์ง์ ๊ฐ์กฐํ์ต๋๋ค. Grace Hopper Superchip์ ํ์ฌ ์์ฐ ์ค์ผ๋ก, ์ฐ๋ง ์ฏค์ ์ํ ๋ฒ์ ์ด ๋์ ๋ด๋
2๋ถ๊ธฐ ๋ง์ ์์ฐ ์๋ฃ๋ ์์ ์
๋๋ค. ๋ค๋ง ์ด๋ฒ ํค๋
ธํธ ์คํผ์น์์ ๊ฐ๊ฒฉ์ ๊ณต๊ฐ๋์ง ์์์ต๋๋ค.
"The world's fastest memory now connected to Grace Hopper, we're calling it GH200. The chips are in production, we'll sample it at the end of the year or so, and be in production by the end of second quarter. This processor is designed for scale-out of the world's data centers, Jensen Huang, NVIDIA Keynote at SIGGRAPH 2023" |
|
|
1:1 ์ฌ์ด์ฆ DGX GH200 ์ด๋ฏธ์ง ์์์ ๋ฐํํ๋ ์ ์จ ํฉ CEO.
์ด๋ฏธ์ง. NVIDIA Keynote at SIGGRAPH 2023. |
|
|
๋ชจ๋ธ ์ ํ๋ถํฐ ํ์ธํ๋๊น์ง, AI Workbench |
|
|
์ด๋ฏธ์ง. ์ ํ๋ธ NVIDIA AI Workbench | Fine Tuning Generative AI.
๋ํ ์๋น๋์๋ ๋ฐํ๋ฅผ ํตํด 'AI ์ํฌ๋ฒค์น'(NVIDIA AI Workbench)๋ฅผ ์กฐ๋ง๊ฐ ์ถ์ํ๋ค๊ณ ๋ฐํ์ต๋๋ค. AI ์ํฌ๋ฒค์น๋ ๋ฐ์ดํฐ, ๋ชจ๋ธ, ๋ฆฌ์์ค ๋ฐ ์ปดํจํ
์๊ตฌ ์ฌํญ์ ๊ด๋ฆฌํ ์ ์๋ ๋จ์ผ ํ๋ซํผ ์
๋๋ค. ์ฆ ํ์ด๋ฐ์ด์
๋ชจ๋ธ ์ ํ๋ถํฐ ํ๋ก์ ํธ ํ๊ฒฝ ๊ตฌ์ถ, ํ์ธ ํ๋ ๊ณผ์ ๊น์ง ๋ชจ๋ AI ์ํฌ๋ฒค์น ๋ด์์ ์ด๋ค์ง ์ ์์ต๋๋ค.
|
|
|
AI ๊ฐ๋ฐ์๋ ๋ชจ๋ธ์ ์ ํํ๊ณ , ํ๋ก์ ํธ๋ฅผ ๋ง๋ค๊ณ , ํ์ธํ๋ ํฉ๋๋ค.
์๋ฃ. ์๋น๋์ ๊ธฐ์ ๋ธ๋ก๊ทธ.
๊ณต๊ฐํ ๋ฐ๋ชจ ์์์ ํตํด AI ์ํฌ๋ฒค์น๋ฅผ ํตํด ์งํํ Llama 2 70B ๋ชจ๋ธ ํ์ธํ๋๊ณผ ์ธํฐํ์ด์ค ๋ฑ์ ํ์ธํ ์ ์์์ต๋๋ค.
80๋ถ ๋ถ๋์ด ๋๋ ์ด๋ฒ ํค๋
ธํธ ์คํผ์น์์ ์ ์จ ํฉ CEO๋ 'GH200', 'AI ์ํฌ๋ฒค์น' ๋ฟ๋ง ์๋๋ผ ๋ฉํ๋ฒ์ค ๊ฐ๋ฐ ํ๋ซํผ ์๋น๋์ ์ด๋๋ฒ์ค(NVIDIA Omniverse)๋ฅผ ์๊ฐํ๊ธฐ๋ ํ์ต๋๋ค. ์ธํ๋ผ๋ถํฐ ๊ฐ๋ฐ ํ๋ซํผ, ์ฌ์ฉ์ ๋๊ตฌ๊น์ง ๋์ฑ ํ์ฅ๋๊ณ ๊น์ด์ง๋ ์๋น๋์ AI ์ํ๊ณ๋ฅผ ์ฟ๋ณผ ์ ์์์ต๋๋ค :)
์ฝ์ด์ฃผ์
์ ๊ฐ์ฌํฉ๋๋ค!
|
|
|
์ฐธ๊ณ ์๋ฃ:
์๋น๋์ ๊ธฐ์ ๋ธ๋ก๊ทธ
GH200 Grace Hopper Superchip ๊ธฐ์ ๋ฐฑ์
|
|
|
8์ 3์ฃผ AI ๋ด์ค ํด๋ฆฌํ |
|
|
#1.
์
์คํ
์ด์ง, LLM ๊ตฌ์ถ ์์ ์ ์๊ถ ํด๊ฒฐ ๋์ฐ๋ค I AIํ์์ค ๋งํฌ
์
์คํ
์ด์ง์์ ํ๊ตญ์ด ๋ฐ์ดํฐ ๋ถ์กฑ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ณ ๊ณ ์ฑ๋ฅ LLM ๊ฐ๋ฐ์ ์ํด '1T ํด๋ฝโ์ ๋ฐ์กฑํ๋ค๊ณ ๋ฐํ์ต๋๋ค. 1T ํด๋ฝ์ โ1ํธ๋ฆด๋ฆฌ์จ(1์กฐ) ํ ํฐ ํด๋ฝโ์ ์ค๋ง๋ก, 1์ต ๋จ์ด ์ด์์ ํ๊ตญ์ด ๋ฐ์ดํฐ๋ฅผ ์ ๊ณตํ๋ ํํธ๋์ฌ๋ก ๊ตฌ์ฑ๋๋ค๊ณ ํฉ๋๋ค.
|
|
|
#2.
๋ค์ด๋ฒ์ ์ด๋๊ท๋ชจ AI๋ ์ด๋ค ๋ชจ์ต์ผ๊นโฆ์ค๋ 24์ผ ๊ณต๊ฐ I ์ด๋ฐ์ผ๋ฆฌ ๋งํฌ
๋ค์ด๋ฒ์ ์ด๋๊ท๋ชจ ์ธ๊ณต์ง๋ฅ(AI) ํ์ดํผํด๋ก๋ฐX๊ฐ 24์ผ ๊ณต๊ฐ๋ฉ๋๋ค. ๋ค์ด๋ฒ๋ ํ์ดํผํด๋ก๋ฐX ๊ณต๊ฐ์ ํจ๊ป, ํด๋น ๋ชจ๋ธ์ด ๊ฒฐํฉ๋ ๋ค์ํ ๋ค์ด๋ฒ ์๋น์ค๋ฅผ ์๊ฐํ ์์ ์
๋ค. |
|
|
#3.
์ค์ผ๋ฌ๋ฌ ์์ธ์โฆ์ฌ์ฐ๋ยทUAE๋ 'AI ์ ์' ํฉ๋ฅ I ๋งค์ผ๊ฒฝ์ ๋งํฌ
์ฌ์ฐ๋์๋ผ๋น์์ ์๋์๋ฏธ๋ฆฌํธ(UAE)๊ฐ ์์ฒด ์ธ๊ณต์ง๋ฅ(AI) ๋ชจ๋ธ ๊ฐ๋ฐ์ ์ํด ์๋น๋์์ ๊ณ ์ฑ๋ฅ ๋ฐ๋์ฒด๋ฅผ ๋๋ ๋งค์
ํ๊ณ ์๋ ๊ฒ์ผ๋ก ์ ํด์ง๋๋ค. UAE ์ฐ์
๊ฐ๋ฐ๊ตญ ๊ด๊ณ์๋ "์ด๋ฒ ๋ฐ๋์ฒด ๊ตฌ๋งค๋ฅผ ํตํด UAE๋ ์ ๋ถ ์ฐจ์์์ ์ถ๊ฐ์ ์ธ LLM ๋ชจ๋ธ๊ณผ ํด๋ผ์ฐ๋ ์๋น์ค๋ฅผ ๊ฐ๋ฐํ ๊ณํ"์ด๋ผ๊ณ ๋งํ์ต๋๋ค. |
|
|
#AI ์ฑ๋ฅ, ๋ฐ์ดํฐ์
์ ๋ฌ๋ ธ์ต๋๋ค
์
๋ ํธ์คํ๋ ๊ณ ํ์ง AI ํ์ต ๋ฐ์ดํฐ๋ฅผ ์ ๊ณตํฉ๋๋ค.
๋ชจ๋ธ ๊ฐ๋ฐ ๋ฐ ํ์ธ ํ๋, ์ฑ๋ฅ ๊ฐ์ ์ ์ํ AI ์ปจ์คํ
๊ณผ ๋ถ์ ์๋ฃจ์
์ ์ ๊ณตํฉ๋๋ค.
๋ฐ์ดํฐ ๊ธฐํ ์์ง ๊ฐ๊ณต ์ ๋ณ ๋ถ์๊น์ง. 1์ต 5์ฒ๋ง ๋ฐ์ดํฐ๋ฅผ ๊ตฌ์ถํ ์
๋ ํธ์คํ๊ฐ ํจ๊ปํฉ๋๋ค. |
|
|
The Data for Smarter AI
์ธ์ ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ ์ฐพ์, ์
๋ ํธ์คํ๋
AI ๋ผ์ดํ์ฌ์ดํด์ ํจ๊ปํ๋ ์ฌ์ธ์ ๋ฐ์ดํฐ ํ๋ซํผ์
๋๋ค.
|
|
|
๐ ์ฌ์
๋ฐ ์ ํด ๋ฌธ์ contact@selectstar.ai
๐จ ์ฝํ
์ธ ๋ฐ ํ์ฌ ๋ฌธ์ marketing@selectstar.ai
|
|
|
|
|