Nvidiaの喇根に池ぶ(その6)
海攙のブログでは、勢Nvidia家の木奪の輝眷千急と禍度里維に簇する僧莢の廟謄爬をまとめる。票家は、2奉24泣(勢柜箕粗)に券山した2021鉗刨袋の瘋換車妥にて、卿懼光が漣鉗刨孺53%籠∈166帛7,500它ドル∷、蹦度網弊が票59%籠∈45帛3,200它ドル∷、姐網弊が票55%籠∈45帛3,200它ドル∷と、絡升な籠箭籠弊を鼠桂した∈徊雇獲瘟1∷。 冊殿5鉗粗に、卿懼馳を締籠∈5鉗で3.55擒∷させた呵絡の妥傍は、デ〖タセンタ〖羹けGPUと、ゲ〖ムや簿鱗奶策のデ〖タマイニングの繞脫GPUであるという∈徊雇獲瘟2、 3∷。ウェ〖ハファウンドリ措度からのウェ〖ハ丁惦が綸っている覺斗でも、票家度烙は睹佰弄に凱びている。
哭1 Nvidia家の禍度尸填髓の3ヵ奉瘋換の夸敗∈票家の鉗肌瘋換は、1奉瑣∷
2020鉗稿染より、デ〖タセンタ〖羹け卿り懼げが締籠している。
叫諾 Nvidia家が勢柜SECに捏叫した稱鉗のFORM-10K獲瘟より、僧莢が侯喇した。
ホモジ〖ナスな事誤步によるアクセラレ〖ション里維
票家の禱窖里維は、この20鉗粗辦從して≈GPU∈事誤デ〖タ借妄アクセラレ〖タ攙烯∷によるCPUの借妄の光廬步を繞脫步する∽とのことであった。General-Purpose GPU (GPGPU)のためのソフトウエア茨董臘灑を渴め、GPUのアプリケ〖ションを茶嚨借妄笆嘲の撾拌にも弓めた。≈鏈てのCPUにGPUを燒ける∽を謄回すかのような廓いである。票家のArm家傾箭の瓢きも、そのように雇えると尸かり白い。
CPU肋紛と定拇すると、パワ〖マネジメントの痕翁の途孟が構に弓がる。
芒し、アクセラレ〖タ攙烯コアに悸劉すべき妥燎攙烯は、借妄するデ〖タや努脫するアルゴリズムによって般いうる。驕って、票家は、PCゲ〖ム脫∈繞脫GPU∷、Professional Graphics借妄、デ〖タセンタ脫、霹のマ〖ケットˇセグメントに努圭させたGPU睛墑をラインナップしてきている。
それらの面でも、附哼呵も動步しているセグメントは、≈デ〖タセンタ〖脫∽だろう。候鉗5奉に券山した≈A100∈TSMC家の7nmプロセス何脫∷∽は、チップ燙姥826mm2、烹很トランジスタ眶540帛笆懼、HBM∈High Bandwidth Memory∷の推翁40GB、2チャネルのHMBからの圭紛啪流バンド升は1.56TB/sという睹くべきチップである。スパコンからAIをカバ〖し、ディ〖プラ〖ニングにて肩萎とみられる染籃刨∈16ビット∷紛換の箕に、1チップで1ペタFlops笆懼のスペックを積つ∈徊雇獲瘟4∷。
票家のGPGPUは、≈ホモジ〖ナスな事誤步によるCPU瓢侯のアクセラレ〖ション∽である∈哭2∷。 票じマイクロア〖キテクチャを積つ≈プログラマブルな借妄攙烯凡∽を事誤步している。
辦數、スマ〖トフォンや賈很ECUのチップメ〖カ〖は、奶撅、ヘテロジ〖ナスな事誤步を渴めている。久銳排蝸の猴負を腳渾する∈デ〖タフォ〖マットやアルゴリズムごとに呵努步した、屯」なアクセラレ〖ションコアを烹很して呵努な攙烯で借妄した數が、久銳排蝸がより井さくなる∷からだが、デ〖タセンタ〖やスパコンといえども、久銳排蝸は啼瑪なはずである。
この烯俐の般いは、海稿、どのように渴むのか?眉瑣廢はヘテロジ〖ナス、デ〖タセンタ〖廢はホモジ〖ナスと尸かれるのか?それとも、久銳排蝸や拉墻笆嘲の、戮の妥傍が輝眷での庭昔を焊寶するのか?その爬について、僧莢の雇えを笆布にまとめてみた。
哭2 事誤步の辦忍妨 Nvidia家は≈ホモジ〖ナスな事誤步によるアクセラレ〖ション∽を里維とするが、スマ〖トフォンや賈很ECUチップは、奶撅、ヘテロジ〖ナスな事誤步によってアクセラレ〖ションする。デ〖タフォ〖マットやアルゴリズムごとに呵努步した、屯」なアクセラレ〖ションコアを烹很することで、呵努な攙烯で借妄すれば久銳排蝸が井さくなるからである 叫諾¨Nvidiaの喇根に池ぶ∈その5∷ (2021/03/19)
度烙攻桔茨の秦肥の囪爬から¨ ソフトウエア倡券莢の毀積艱り燒けの跟蔡
Nvidia家は、極らの事誤借妄攙烯ア〖キテクチャを萎邵すべく、グラフィックˇボ〖ドメ〖カ〖やアプリケ〖ションˇソフトウエアの倡券莢茫を動蝸にサポ〖トし、附哼の喇根に魂っている。喇根妥傍は、≈倡券莢茫の毀積を艱り燒けた禍∽だとの燙があっただろう。
票家は、プラットフォ〖ム里維として、笆布に簇する禱窖を腳渾しているという。
ˇGPU攙烯
ˇ陵高儡魯禱窖∈NV-Link、NV-Switch∷
ˇソフトウエア∈GPGPU、稱鹼ライブラリ、霹)
ˇ腳妥アプリケ〖ション∈3DグラフックスやAI∷のアルゴリズムへの夢斧
ˇシステムˇサポ〖ト、および
ˇサ〖ビス
それらを另圭する賂哼である≈プラットフォ〖ム∽が、迫極の擦猛を捏丁し、その擦猛が驢くの倡券莢から毀積されているのだという。
懼淡にリストアップされた禱窖はいずれも絡きな禱窖であるが、票家の≈ア〖キテクチャへのこだわり∽は、柒嬸の漓嚏踩を費魯弄に伴喇するという爬で、票家の家柒でも、また、杠狄婁の倡券莢でとっても≈銳脫灤跟蔡が光い兜伴里維∽であったのではないだろうか々≈ア〖キテクチャ∽の恃步が螟しいと、冊殿の兜伴抨獲が痰綠になるからである。その馮蔡、家柒】家嘲の尉燙で、票家のア〖キテクチャへの毀積が動まったのではないかと蛔われる。
奪鉗、ディ〖プラ〖ニング禱窖をベ〖スとしたAI禱窖には、GAFA∈Google、Amazon、Facebook、Apple∷と鈣ばれるサ〖ビスよりの措度や極瓢賈の排劉メ〖カ〖からの徊掐が陵肌いでいる。それら措度は、哭3の懼霖に疤彌する措度である。
辦數、Nvidia家は、礁姥攙烯のコア攙烯から里維をスタ〖トさせており、哭3の布霖嬸尸∈テクノロジ〖倡券∷から、より懼霖にサポ〖トを橙絡させて丸た。
哭3 礁姥攙烯肋紛へのR&D徒換の抨掐頂凌 采貍步したテクノロジ措度も、サ〖ビス措度も、肌坤洛染瞥攣倡券に灤するR&Dを動步している 叫諾¨僧莢侯喇
海稿、AI尸填では、GAFA、排劉メ〖カ〖、GPUメ〖カ〖を崔む屯」な措度が掐り宛れた絡頂凌が鷗倡すると蛔われるが、
ˇ スケ〖ブルな攙烯であること
ˇ 坤腸面の倡券莢茫からの毀積を評てきた∈升弓くツ〖ル捏丁を乖い、倡券矢步として弓める∷
ことを2絡妄統に、デ〖タセンタ〖にはNvidia家のチップが炕譬しつつある。
AIでは、デ〖タセンタ〖で乖う池漿∈トレ〖ニング∷のデ〖タ借妄と、眉瑣で乖う夸俠のデ〖タ借妄を票じニュ〖ラルネットワ〖クで乖うことが司ましいが、デ〖タセンタ〖を擴瞧する禱窖は、眉瑣チップに烹很すべきAIアクセラレ〖タ攙烯を嘎年する材墻拉があり、Nvidia家のコア禱窖は海稿眉瑣婁にも第ぶ材墻拉があるのではないかと蛔われる。
では、そのコア禱窖のマイクロア〖キテクチャの肌のステップは、どうなるのか々僧莢は、Nvidia家の呵奪の瓢羹を、辦つの簿棱を傅に海稿廟渾したいと蛔っている。
ネットワ〖ク禱窖の動步
Nvidia家は、附哼、ネットワ〖ク禱窖の動步にも廟蝸しているかのように斧える。 腆1鉗漣∈2020鉗4奉16泣∷、票家はイスラエルのネットワ〖ク劉彌措度Mellanox Technologies家を傾箭し∈徊雇獲瘟5∷、票家の禱窖を傅にしたBlueField DPU (Data Processing Unit)という鈣び嘆のネットワ〖クの擴告と雌渾のためのチップを玲廬輝眷抨掐した∈徊雇獲瘟6∷。DPUは、ネットワ〖クプロセッサをコアとし、ネットワ〖クパケットの借妄と光刨なQoS∈Quality of Service∷を乖うインタ〖フェ〖スチップのように僧莢には斧えている。
GPUとArm家の禱窖、DPUを圭わせると、プロセッサベ〖スのデ〖タ借妄ハ〖ドウエアとしてはフルセットが礁まることになる。 票家は、CPUとGPUの琵圭の肌に、その圭攣攙烯へのネットワ〖クインタ〖フェ〖ス攙烯の燒涂を雇えているのではないだろうか々
哭4 マイクロア〖キテクイチャの渴步∈僧莢の雇え∷ CPUは、GPUと圭攣箕に動蝸なスケ〖ラビリティを懲評した。 海稿、ネットワ〖ク攙烯とも圭攣を謄回すのではないだろうか々構にその稿、部を謄回すのかを雇えるべき檬超にある。 叫諾¨僧莢侯喇
IoTの箕洛に、眉瑣∈PC、スマホ、稱鹼の度壇脫劉彌、極瓢賈霹∷の礁姥攙烯は、デ〖タセンタ〖の礁姥攙烯凡と定拇瓢侯する數羹にある。アプリケ〖ションを怠墻させるためには、デ〖タセンタ〖との儡魯は澀寇となるからである∈徊雇獲瘟7∷。
ネットワ〖ク怠墻の琵圭は、どのような琵圭攙烯を欄むのだろうか々帽なる2チップの圭攣なのか、それとも、ア〖キテクチャのレベルでの糠しいアプロ〖チが附れるのか々その瓢羹は、潤撅に丹になる≈肌のステップ∽である。
そして、構にその黎もあるだろう。 礁姥禱窖の絡恃匙の瓢きは、附哼、絡頂凌の呵面にあり、肌の肌のスト〖リ〖も、その絡頂凌の面で渴步するのだろうと僧莢は蛔う。
徊雇獲瘟
1. Nvidia家の2021鉗2奉24泣のプレスリリ〖ス
2. NVIDIA、卿り懼げ呵光も もろ肯の簿鱗奶策ブ〖ム、泣塑沸貉糠使 (2021/02/25)
3. Nvidia DGX A100, Nvidia家のホ〖ムペ〖ジ
4. AIデ〖タセンタ〖の拉墻が20擒に、NVIDIAがAmpere坤洛のGPU≈A100∽を券山、MONOist (2020/05/15)
5. WikipediaのMellanox Technologiesの灌。IntelやXilinx、MicrosoftもMellanox Technologies傾箭に瓢いていたと咐われている。
6. Nvidia BlueField デ〖タプロセッシングユニット Nvidia家のホ〖ムペ〖ジ
7. NVIDIAが絡乓けするデ〖タ借妄劉彌 (DPU) とは、Axion
