Arm、CPU+NPUを辦つのコアとしてビデオなど光廬IoT羹けIPを倡券
光拉墻なCPUとAI漓脫のNPU∈ニュ〖ラルプロセッシングユニット∷を礁姥したIP∈夢弄衡緩∷コアをArmが倡券した。光拉墻ビデオ帕流をはじめとする光廬IoT∈Internet of Things∷に灤炳するIPコアである。光拉墻な禱窖であるArmv9をエッジAIのプラットフォ〖ムとして蝗う脫龐が玲くも欄まれたために、このような光拉墻IoT羹けのIPを倡券した。惡攣弄にはどのような脫龐だろうか。
哭1 CPU∈Cortex-A320∷とNPU∈Ethos-U85∷を辦つのIPとして礁姥している 叫諾¨Arm
呵奪のArmは、CPUとGPU∈グラフィックプロセッシングユニット∷の攙烯コアを礁姥し辦つのIPコアとして瀾墑にしたケ〖スが籠えてきている。システムそのもののように光廬ˇ你久銳排蝸のCPUとGPUやNPUなどの稱IPを礁姥した絡きなIPである。海攙のエッジAIを蝗うIoT羹けの染瞥攣IPもCPUとNPUを辦つのIPとした。
海攙の糠瀾墑IPには、CPUとしてCortex-A320と、NPUとしてEthos-U85を礁姥している。これに、インタ〖コネクト∈陵高芹俐∷、システムSRAM、システムフラッシュメモリ、DRAMなどを納裁すると惟巧なエッジAIチップになる。CPUに裁え、NPUも納裁したのは、IoTセンサからのデ〖タを箭礁ˇ尸老できるようにするためだ。潑に茶嚨ˇ鼻嚨借妄して、毋えば茶嚨千急に蝗う眷圭は、CPUに砷操をかけることなく千急した稿の借妄にすぐに渴むことができる。
CPUのCortex-A320は漣坤洛のCortex-A35と孺べて、int8∈8ビット臘眶遍換∷のML∈怠常池漿∷拉墻は10擒光く、スカラ〖拉墻∈SPECINT2006ベンチマ〖ク∷は30%羹懼する。またSPECINT2006でCortex-A520と孺べた排蝸跟唯は50%光いという。
IoTでは潑に腳妥なセキュリティに簇しても、メモリタギング橙磨∈MTE∷によってメモリの奧鏈拉を懼げ、セキュアなEL 2レベルのハイパ〖バイザによってソフトウエアを尸違し、ポインタ千沮や尸呆タ〖ゲット急侍による擴告フロ〖のインテグリティといった光刨のセキュリティ怠墻を灑えている∈哭2∷。
哭2 CPUにはセキュリティを澄瘦、NPUにはAI遍換をIoT羹けに脫罷している
Ethos-U85によるAI怠墻∈哭2∷としては、乖誤捐換炭吾によってAI借妄の跟唯を懼げ、SVE2∈スケ〖ラブルなベクトル橙磨∷によって128ビット帽疤でデ〖タ升を橙磨でき、染籃刨∈16ビット∷の赦瓢井眶爬遍換を瞥掐するなど、IoT羹けの慌屯にしている。
さらに、ArmがこれまでAI倡券のフレ〖ムワ〖クとしてArm Kleidi∈クライディ∷を捏丁し幌めていたが、これをIoT羹けに脫罷した。Arm Kleidiは、AIフレ〖ムワ〖ク倡券莢羹けの遍換ライブラリセットで、ArmのCPU懼でAIとMLのワ〖クロ〖ドを呵努步するように肋紛されているもの。Arm Kleidi for IoTでは、毋えばLlama.cppなどがIoT AIフレ〖ムワ〖クに琵圭されており、Meta家のLlama 3などの肩妥モデルの拉墻を光廬步しているという。
エッジのIoTデバイスで10帛パラメ〖タをサポ〖トし、その眷圭はCortex-A320 をマルチコアにして拉墻を懼げられるように橙磨拉を積たせている。
どのようなIoTデバイスで、これほど光い拉墻が滇められるのだろうか。ア〖ム洛山艱涅舔家墓の玻懷框宮會は、エッジでも欄喇AIが滇められたり、茶嚨尸老して千急させるようなロボットやクルマなどが滇められたりしていると揭べる。毋えばスマ〖トホ〖ムでは、撮千急によって訃簇のドアを倡けるような炳脫が欄まれているという。海やスマ〖トファクトリやスマ〖トシティ、スマ〖トホ〖ムなどで滇められているとしている。
