Semiconductor Portal

» セミコンポータルによる分析 » �\術分析 » �\術分析(デバイス設�& FPD)

Nvidia、LSI新����開発�](m└i)縮に威�を発ァする�收�AI「ChipNeMo」を�o開

半導��売り�屬欧脳�成長しているNvidiaは、�收�AIをはじめとするAIコンピューティングのGPUやソフトウエアをさまざまな応�ごとにAIソリューションを提供している。このほどLSI設�期間を�](m└i)縮するため、チップ設�のための�收�AIであるLLM(�j(lu┛)��模言語モデル)アシスタントChipNeMo(図1)を開発、IC����開発に使っていることを「NTTPC GPU Day �收�AI基盤の最�i線」の講演で、��蕕�砲靴拭�

チップ設�のためのLLMアシスタント - ChipNeMo / Nvidia

図1 LSI設�のためのLLMアシスタントChipNeMoを開発 出�Z:Nvidia


Nvidiaは、2022�Qに�收�AIが登場してくるまで、2~3�Qに�kつの新����を出していた。しかし�收�AIの登場以来、ほぼ毎�Q�kつ新しいGPUやAIチップを出すようになった。その背景の�kつは、�收�AIを?q┗)��していることだった。たた、�收�AIと言えども、�kからL(zh┌ng)SI設�の学�{を教え込むわけではない。AIで最�Zよく使われるようになった�{加学�{を使うのである。

LLMでは、言語をトークンと�}ばれる単位に区切って学�{させているが、そのトークンのパラメータ数が�j(lu┛)��模になればなるほど学�{期間が長くなった。最初のチャットGPTでは1750億パラメータという巨�j(lu┛)なデータを学�{させるために数�h個という�j(lu┛)量のGPUを使っても300日�度かかったとされている。そこでできるだけ少ないパラメータで学�{させる��(sh┫)が実�的になる。

LSI設�にしてもそのままチャットGPTを使うのではなく、LSI設�に��化したいわばカスタマイズした�收�AIを使う��(sh┫)がより�(l┐i)確で�](m└i)時間で�T果が�u(p┴ng)られる。Nvidiaが開発した�收�AI「ChipNeMo」を使えば、GPUのアーキテクチャや設�に関する��笋砲垢暗悊┐蕕譟△靴��㌫廚紛\術文書を早く見つけてくれる。さらにLSIの設�言語から�~単なスニペット(言語の中から�~単に切り�aりして再�W(w┌ng)�できる�霾�砲�收�掘▲魁璽紐��鰓~単にしているという。基盤モデルとして700億パラメータのLlama(ラマ)2を使いながら、130億および70億パラメータと少ないChipNeMoチャットモデルが出来たとしている。

�k般に、�收�AIの学�{には、学�{させるべきデータの収集から始まり、モデルの��i学�{、基盤モデルによる学�{、カスタマイズを経て、ファインチューニングで�後学�{をさせてから�W(w┌ng)�(デプロイ)できるようになる(図2)。


ドメインに適応させたChiNeMoカスタマイズワークフロー / Nvidia

図2 半導��設��の�收�AIプラットフォームChipNeMoの�{加学�{による�}順の例 出�Z:Nvidia


�k般のユースケースではこれだけにとどまらず、NVIDIA NeMo Guardrailsで合法的なことを学�{させているかどうかをチェックする。実際に推�bして使う場合には NIM(NVIDIA Inference Microservice)を�W(w┌ng)�すると、すでに構築されたコンテナが附?y┬)錣靴討��㌫廚淵皀妊襪鯊?li│n)�I(m┌i)してすぐに使えるようになっている。

Nvidiaの�收�AIではコード�收�藩很鵝∪濕��мqのチャットボットという3つの機�Δ鮗存修靴討い襦�海Δい辰深{加学�{でカスタマイズするためのツールもNvidiaは開発しており、RAG(Retrieval-Augmented Generation:検索拡張�收�砲扉}ぶテクノロジーが威�を発ァする。この�\術は外�陬宗璽垢�蘰D�u(p┴ng)した情報を�いて、�收� AI モデルの�@度と信頼性を向�屬気擦襪發里世箸いΑ�

NVIDIA NeMo は、カスタマイズされたエンタープライズ グレードの�收� AI モデルの構築に��化した、オープンソースのエンドツーエンド プラットフォームである。LSI設�だけではなく、創薬開発やデータ分析、シミュレーション、ロボティックスやデジタルツインなど様々なAIコンピューティングプラットフォームにさまざまなNeMoプラットフォームがある。

(2024/07/18)
ご�T見・ご感�[
麼嫋岌幃学庁医� 18槻揖富勵ktv敬字篇撞| 冉巖匯雫谷頭窒継心| 弼玻玻際際撹繁嶄猟忝栽| 忽恢娼瞳涙嬉鷹壓�殴慧| yw壓�鉱心撹繁窒継| 晩云眉雫仔弼利峽| 冉巖繁撹壓�鉱心| 麟篇撞app利嫋| 鎗埖翆翆嶄猟忖鳥| 弼翆翆.com| 忽恢壓�互賠篇撞涙鷹| 谷頭児仇心心撹繁窒継| 壓暴繁唹垪戦狹亜h| 匯雫繁恂繁觴a畠狛殻窒継篇撞| 晩昆av頭涙鷹匯曝屈曝眉曝音触 | 怜匚繁曇消消消消消消消| �雇忽恢蒙雫匯雫谷頭| 忽恢娼瞳jizz壓�鉱心析税| 99消消忽恢忱才娼瞳1貧啌| 磔碕垪篇撞壓�鉱心| 消消消消消唹垪消消消消窒継娼瞳忽恢弌傍 | 消消消消消消消消消消消消消| 恷仟忽恢娼瞳田徭壓�殴慧 | �雇aa眉雫消消眉雫音触| 忽恢娼瞳R雫恷仟壓�鉱心| 91娼瞳忽恢秘笥| 爺銘〔恷仟井嶄猟壓�| 匯曝屈曝眉曝冉巖篇撞| 撹定怜匚涙鷹av頭壓�鉱心| 消消消消消冉巖娼瞳| 晩昆嶄猟忖鳥壓�匯曝屈曝眉曝| 冉巖av戟諾母絃壓�殴慧| 天胆忽恢匯曝屈曝眉曝爾秤涙耗| 冉巖及匯篇撞利嫋| 槻伏議次次涌溺伏議次次| 怜匚弌篇撞壓�| 胆溺闇蝕挺笥公槻繁涌篇撞窒継| 忽恢眉雫壓�鉱心a| �雇蒙雫a谷頭窒継鉱心| 忽恢撹繁恷仟谷頭児仇| 弼析遊喟消窒継利嫋|