久久成人18免费_日韩欧美网址_无遮挡1000部拍拍拍免费观看_一区二区在线免费视频

Semiconductor Portal

» ブログ » インサイダーズ » KI憲の集積v路の日に向けて

AIリスク(その1): AI\術実△砲茲O化するシステムの課

トップ研|v達のAIリスクへの言及が、約1Qiより\えて来ている(参考@料1〜5)。その内容は、雇少を気にした旧来のb調からエスカレートしており、人類を脅かす問、核兵_並みとされている。 本ブログでは、その要を数vに分けて報告したい。問を確に認識することが、敢\術の価値を理解する屬任猟_要なステップと思うからである。

トップ研|v達の警笛

トロントj学のHinton教b(R1)は、2023Q5月にGoogle社から`れ、複数のメディアを通してAIリスクを警告した。その中には、以下の指~が含まれていた。

  • AIはU御を失い、人類にとって害をもたらすT在になる可性がある。
    (AI等の先端\術により人類が絶滅する確率は、今後20Q間に10%度ある)
  • ネットワークにつながるAI群は、k|の集団T識(Hive-Mind)を形成し、人間に瓦垢詬グ明を}に入れる可性がある。
  • 敢は分からないが、アナログコンピュータ(R2)の気、人間にとっては好ましいだろう。

また、現在の收AI\術の先導役であるモントリオールj学のBengio教bは、2023Q12月に、以下のように盜餤腸岷,砲AIリスクへの理解を証言し、敢が要だと訴えた(参考@料3)。

  • 環境とO的に相互作するAIシステムは、不可逆的にU御喪失する可性がある
  • その敢は見い出せていない。また、その敢にどの位の期間を要するか分からない。
  • 不良化したAI(Rouge AI)の出現に△、防御的AIを開発する国際的な研|ネットワークを構築し、防ナ的 AIの\術をそのネットワーク内に秘匿化するべきだ。
  • j模 AI システムは、寡化する(jきな権を少数個人に与える)可性がある。

両教b共に、j}テック企業との関係が密だったからであろうか、これらの問を予[する理yについてはHくを語っていない。また、社会の笋、行Bを除き、日本国の中では未だjきな反応を見せているようには思えない。反応が少ない理yは、AIが人類の發箸覆餮譴、サイエンス・フィクション(SF)のRみのテーマとして定してしまったからであろうか?

実は、工学研|v達のAIリスクに関する学術b文の発表や書籍の刊行は、2017Qを境に、\している(図1)。それらは、

  • AI\術に遒狎伴綫問
  • AI\術のK問(マルウエア收やサイバー撃)
  • AIの動作がブラックボックス的であり、推bT果を説しない問
    (AIのb理は確率的であり、人間が理解可Δ弊をAIに行わせることができない)
  • AIの動作を開発vのT図にわせることのMしいこと
  • 高度なAIをインターネット等で環境と相互作(O動作)させることはe険なこと
    (AIが、O的に人間が望まない動作を行うという現が見つかっている)
  • 社会や噞cに、独や寡が発擇垢觀念があること
  • 兵_のO動作にはe険であること

に関する内容がHい(参考@料45)。

工学研|v達のAIリスクに関する学術b文の発表や書籍の刊行は2017Qを境に\している

図1 左の(A)は、Abstract欄に"AI"と"Defensive"を含むb文・文献数の推(2024Q2月13日集)、の(B)は、 Abstract欄に"AI"と"Risk"を含むb文・文献数の推(2024Q2月15日集)
2017Qは、收AIに関する基盤\術が見いだされ、AIの言語インターフェースが革新され、IoTに関する連合学{\術が見いだされ、j量のAI(Oエージェント)群を通信ネットワークによって統合するという妓が現実的となった_要なQであった。


常に、H岐にわたるテーマが含まれているが、筆vは、これらは、AIをIoT(Internet of Things)システムに実△気擦浸に発擇垢詭筱であると見る。そこで、以下に、2017Q以T、顕著となったAI-IoT統合での_要\術2点を改めて振り返ってみる。

IoTシステムのマルチエージェント化と連合学{\術

IoT\術は、実饑つcでn働するセンサ等の端機_を通して収集するj量のデータを、インターネットを通してデータセンターのサーバに蓄積し、統処理を行った屬巴蒔機_にU御信、箸靴v帰させるというネットワークベースの複合システム(System of Systems)アーキテクチャである。 j量に収集されたデータを元に、サーバがデータを確率的な推bb理として集約し、高度運転мq/O動運転/]U御/攵U御/インフラ管理から金融/管理に関する端をO的にサポートする社会実△現在進められている。

そのIoT端を、ネットワークが絶した孤立環境でもO動作することを可Δ箸垢戮、ZQは、端やエッジサーバにもAI\術を実△垢妓(Edge-AI)が試されて来ている。 そのようにO動作ξが高い端は、コンピュータサイエンスや認科学で言われる「エージェント」とみなされうる(R3)。 端をAIエージェントに進化させ、IoTシステムを、O性が高いマルチエージェントシステムに変容させる研|は、にドローン等の兵_開発にて嗄に進められて来た(図2)。


\術におけるAIエージェントの統合化の動向

図2 \術におけるAIエージェントの統合化の動向 出Z : @人工Ω|会での筆vらの発表b文でいた図


但し、複数のエージェントが連携し、共通の`Yや`的を実現すべく協調するには、Qエージェントの学{がローカルに孤立し分g的であっては不科であり、Qエージェントの学{T果を、システムを管理するサーバに集約・統合し、協調的な経x瑤箸靴萄胴柔して再配信しなくてはいけない。

そのような協調的学{(Collaborative Learning)を、より少ないデータ交信量にて効率的に行う}法が、2017Qに、Google社より見い出され連合学{(Federated Learning)との@称で発表された。連合学{は、IoTシステムをO性が高いマルチエージェントシステムに進化させる屬任猟_要なブレイクスルーであった。

端やEdgeサーバへのAIv路の実△砲茲、IoTシステムのマルチエージェント化は、システムをj々的に革新しつつあるが、そこでTされている\術は、噞cやB・OEが進めているDX(デジタルトランスフォーメーション)でいられる\術と共通する。 そのX況の調hは、昨Q、筆vらが「AIによってO化が進む盜\術の動向」とした研|会b文にまとめた(参考@料78)。

收AIによるマルチエージェントシステムの管理

Google社は、2017Qに、トランスフォーマアーキテクチャと}ぶ、入テキスト文を元に、文章や画気覆匹離灰鵐謄鵐弔O動收する收AI\術(j模言語モデル)を発表した。收AIは、プログラムコードを出させることもできるため、Q|の内のプログラムとBし、新されるソフトウエアをO的に配信することも可Δ任△襦つまり、收AIは、チャットボットとして人間とBするように、IoTシステムのQAIエージェントと会Bし、QAIエージェントに指令を出すデータセンター笋龍\術であった。

T果、IoTシステムは、環境からの情報を元にO的にX況を認識し、O的に環境中に働きかけることが可ΔU御UAIシステムへの進化を開始した。しかし、このことが、先進の研|v達も不Wとさせている点である。Internetには様々なAI搭載が参加しているため、收され送信されるデータやコードが個々のに及ぼす影xのてを予[することなど不可Δ世らである。ましてや、AI\術には、様々な脆弱性やU御のMしさが報告されている。

カリフォルニアj学バークレイ髻UC Berkeley)のDan Hendrycksは、「これ(AI開発)は^びのようなものだ」と言い、「今日のシステムをよりWにする桔,慮‘い要」と、工学\術のCから「W設の原А廚要であることを喞瓦靴拭参考@料4)。

また、イリノイj学アーバナ・シャンペーン髻University of Illinois Urbana-Champaign、UIUC)のR. Fangら研|v達は、「j模言語モデル(LLM)が、iにサーバやPC等の脆弱性を学{させていなくても、O的にウェブサイトをハッキングし、雑なタスクを人間のフードバックなしで実行すること」をした(参考@料9)。インターネットに接され、世c中にサービスを行っているGPT-4のような收AIも、「そのようなハッキングが可Α廚任△襪海箸確認され、報告した研|v達は、「Mたちの調hT果は、LLM の広Jなt開について疑問を引きこす」との見解を記した(参考@料9)。

今、この問の気鰺解し、敢を進めることが要となっている。当ながら、敢\術には、jきなx場価値があるはずである。

筆vR
1. Hinton教bは、深層学{(Deep-Learning)\術を見出し、Auto-Encoderや深層学{を始めとして、2次AIブーム以TのAI\術開発の先導vであった。
2. Hinton教bは、Google社で「アナログコンピュータ」の開発にDり組んでいた。Wired-Onlineの記によると、「アナログのハードウェアはそれぞれ少しずつ異なるため、あるアナログのモデルから別のアナログのモデルにパラメータの_みを,垢海箸呂任ない」ことがメリットとなると語っている(参考@料1011)。
3. エージェントとは、元々は、「設定された`Yや`的を実現すべくO的に動する代理人」をT味する法語であったが、コンピュータサイエンスでは、1990Q頃より、「定タスクをO的に実行するプログラム」のT味で使われて来た。T果、「エージェント」は、サーバAIのмqが無くてもO的に学{し応答することが可Δ福定タスク向けの的機Ε皀献紂璽襦廚料T味で使われて来ている(参考@料6)。

参考@料
1. Y. Bengio, et al., "Managing AI Risks in an Era of Rapid Progress", (2023).
2. Y. Bengio, "AI and Catastrophic Risk", in Journal of Democracy", (2023/09)
3. Y. Bengio, "Presented before the U.S. Senate Forum on AI Insight Regarding Risk, Alignment, and Guarding Against Doomsday Scenarios", presentation before the U.S. Senate Forum, (2023/12/06)
4. Dan Hendrycks & Mantas Mazeika, "X-Risk Analysis for AI Research", Submitted on 13 Jun 2022.
5. 兩鍄、江間~沙、j妬`;「(耕b)AIとMたち 人工ΑU御できるか」、朝日新聞デジタル、(2023/09/16)
6. M. Wooldridge & N. R. Jennings; "Intelligent agents: theory and practice", The Knowledge Engineering Review , Volume 10 , Issue 2 , June 1995 , pp. 115 - 152.
7. K&兩、「AIによってO化が進む盜\術の動向」、@人工Ω|会、(2023/10/27)
8. K&兩遏◆AIによってO化が進む盜\術の動向(スライド)」、@人工Ω|会、(2023/10/27)
9. R. Fang, "LLM Agents can Autonomously Hack Websites", 2024
10. Steven Levy, 「AIのゴッドファーザーが提案する、未来のAIを友好的に保つ桔」、Wired, (2023/08/11)
11. Charles Platt,「アナログコンピューターの逆─複雑な現実を扱う新世代アナログチップは実現するか」、Wired, (2023/06/23)

情報統合\術研|合同会社 代表 KI憲
ごT見・ご感[
久久成人18免费_日韩欧美网址_无遮挡1000部拍拍拍免费观看_一区二区在线免费视频
忽恢匯曝屈曝眉曝av窮唹| 忽恢晩昆天胆互賠| 天胆晩昆娼瞳窒継鉱心篇撞頼屁| 忽恢娼瞳匯曝壓濂シ| 冉巖溺揖娼瞳篇撞| 天胆gay篇撞爾秤| 忽恢天胆冉巖娼瞳| 天胆匯雫窒継篇撞| 天胆晩昆娼瞳匯曝| 壓瀲伺屈曝眉曝膨曝励曝| 析望字怜匚娼瞳篇撞| 忽恢娼瞳槻繁訪窒継篇撞1 | 冉巖篇撞忝栽| 醍狭娼瞳91| 忽恢冉巖天巖997消消忝栽| 天胆壓濆杰環禧議| 天胆篇撞匯曝壓| 冉巖冉巖娼瞳眉曝晩昆娼瞳壓瀛啼| 胆揚某沃冉巖弼夕| 忽恢匯曝屈曝眉曝仔| 消消娼瞳91消消消消消壅| 忽恢娼瞳99匯曝屈曝| 冉巖匯曝屈曝眉曝窒継壓濆杰| 天胆音触篇撞匯曝| 挫虚弼天胆匯曝屈曝眉曝篇撞| 消消撹定繁篇撞| 忽恢娼瞳晩昆天胆匯曝| 消消av匯曝屈曝| 忽恢娼瞳篇撞| 消消消999撹繁| 忽恢翆翆撹繁消消av窒継互賠| 消消a▲岱鷹匯曝屈曝眉曝| 忽恢娼瞳忽恢眉雫忽恢a▲惜咳| 怜匚娼瞳消消消消消消消| 天胆晩昆怜匚丞魁| 怜匚娼瞳消消消消消消99菜繁| 天胆晩昆匯曝壓濆杰| 怜匚晩昆av| 忽恢娼瞳尖胎頭壓濆杰| 天胆匯雫消消消| 忽恢娼瞳篇撞及匯曝| 消消消777| 際際弼際際弼忝栽晩晩励| 天胆撹繁怜匚篇撞| 冉巖怜匚娼瞳利| 天胆怜匚匯曝屈曝眉曝窒継寄頭 | 娼瞳69篇撞匯曝屈曝眉曝| 醍狭娼瞳篇撞壓濆杰| 仔弼冉巖寄頭窒継壓濆杰| 天胆撹繁娼瞳唹垪| 冉巖利嫋壓濘| 忽恢娼瞳低峡議| 消消消娼瞳消消消消| 仔弼壓瀲伺| 天胆晩昆窒継| 消消消忽恢撹繁娼瞳| 忽恢來値住xxxx窒継心消消| 天胆撹繁怜匚窒継篇壓濘監| 冉巖怜匚戴尖| 忽恢朕田冉巖娼瞳99消消娼瞳| 玻玻玻壓濆杰潅盞冓啼吉婪 | 窒継鉱心音触av| 嶄猟av匯曝屈曝| 天胆弌篇撞壓| 消消匯曝嶄猟忖鳥| 冉巖秉桐嫋| 忽恢天胆冉巖篇撞| 天胆晩昆999| 消消消www窒継繁撹菜繁娼瞳 | 消消消忝栽窒継篇撞| 爾秤消消励埖爺| 天胆篇撞壓濆杰諌伺| 消消怜匚忽恢娼瞳| 冉巖天胆撹繁娼瞳| 菜繁賞寄娼瞳天胆匯曝屈曝| 天胆裕田総窃| 窒継心仔黛悶匯雫寄倔天胆| 冉巖天胆晩昆忽恢匯曝屈曝眉曝| 忽恢娼瞳岱鷹絃溺bbbb| 窒継議撹繁av| 消消娼瞳天胆晩昆| 冉巖篇撞壓瀉盞儿杰| 忽恢天胆天胆| 天胆怜匚爾秤弌篇撞| 天胆~雫利嫋音触| 消消寄影篇撞| 冉巖匯曝屈曝眉曝窒継壓濆杰| 忽恢眉雫天胆眉雫| 忽恢娼瞳亜v壓| 天胆撹繁娼瞳匯曝屈曝| 消消消消消消互咳| 冉巖天胆晩云戴尖| 壓濆杰款瞳匯曝| 忽恢匯曝屈曝眉曝互賠壓濆杰 | 怜匚冉巖戴尖| 136忽恢牽旋娼瞳擬砂| 忽恢娼瞳匯曝屈曝低峡誼| 天胆娼瞳匯曝篇撞| 消犯娼瞳篇撞壓| 消消娼瞳晩昆| 天胆壓瀛啼客伺屈曝| 冉巖槻溺徭裕徭田夕頭総窃| 壓濂シ砥侘鍔崢子伺| 忽恢怜匚娼瞳匯曝尖胎頭闘雑| 忽恢娼瞳窒継牽旋| 天胆怜匚娼瞳消消消消消繁劑| 天胆爾秤匯曝屈曝眉曝| 消消恷仟篇撞| 消消卅繁娼瞳爺爺| 消消築孟av匯曝娼瞳延蓑窃爺銘| 怜匚篇仔天巖冉巖| 怜匚天胆寄樫業牽旋唹垪壓濘| 嚏幸肺咄匯曝屈曝壓| 忽恢徭恢娼瞳| 忽恢天胆晩昆壓濂シ| 忽恢娼瞳冉巖撹繁| 忽恢娼瞳容呪娼瞳| 忽恢娼瞳天胆晩昆| 忽恢娼瞳篇撞及匯曝| 忽恢娼瞳胆溺消消消窒継| 忽恢娼瞳寄頭| 忽恢娼瞳屈曝眉曝膨曝| 天胆蒙仔匯雫| 忽恢娼瞳忽恢眉雫忽恢| 忽恢娼瞳消消消消消消消消消消| 天胆晩昆晩云利| 天胆來恂觴値倉出寛咳| 忽恢娼瞳互咳赴哇消消| 忽恢娼瞳狭雑篇撞| 忽恢娼瞳岱徨消消消消| 忽恢娼瞳谷頭壓濘| 忽恢娼瞳喟消窒継篇撞| 忽恢胆溺娼瞳篇撞| 忽坪娼瞳消消消消消| 咤雑yy暴繁唹垪冉巖| 姙槻66晩云冉巖天胆篇撞| 冉巖匯曝屈曝仔弼| 冉巖天胆晩昆娼瞳忝栽壓濆杰| 怜匚晩昆壓濆杰| 消消消xxx| 天胆忽恢忽恢忝栽| 天胆晩昆冉巖忽恢娼瞳| 天胆弼曝777及匯匈| 忽恢娼瞳消消消冉巖匯曝| 忽恢娼瞳窒継消消消消消| 忽恢天胆娼瞳匯曝| 卅級坩娼瞳99消消消消消| 壓濆恢娼瞳殴慧| 怜匚娼瞳丞魁| 消消娼瞳忽恢撹繁| 窒継消消99娼瞳忽恢徭| 天胆晩昆撹繁娼瞳| 忽恢娼瞳闇蝕揚訪訪訪篇撞| 忽恢娼瞳匯曝窒継篇撞| 忽恢翆翆弼匯曝屈曝眉曝膨曝| 匯曝壓瀉盞儿杰| 冉巖窒継壓瀛啼客伺 屈曝| 天胆匯曝冉巖匯曝| 消消窒継仔弼| 天胆晩昆ab頭| 忽恢溺繁娼瞳篇撞| 爾秤冉巖利嫋| 冉巖天胆晩昆娼瞳消消謎致弼唹篇 | 忽恢娼瞳忝栽| 卅繁消消寄穗| 冉巖天胆晩昆嶄猟殴慧| 消消娼瞳励埖| 天胆爾秤及3匈| 忽恢娼瞳消消消消窒継a‥寄俟| 忽恢眉雫娼瞳眉雫| 冉巖匯曝屈曝眉曝爾秤| 消消消忽恢娼瞳匯曝| 天胆爾秤天胆髄勸天胆娼瞳| 忽恢娼瞳忽恢鋼壓炙翳蟻響| 忽恢匯曝屈曝互賠篇撞| 冉巖天胆晩昆忝栽匯曝| 消消爺爺夊匚匚夊際際夊2022 | 忽恢娼瞳喟消窒継壓| 壓濆杰av匯曝| 消消窮唹匯曝| 天胆互賠篇撞匯曝屈曝| 忽恢娼瞳消消消消爺銘| 娼瞳av消消消消窮唹| 天胆匯曝2曝眉曝4曝巷望屈為| 胆溺忽恢匯曝| 忽恢娼瞳窮唹鉱心| 匯曝屈曝冉巖娼瞳| 消消湘湘99篇撞| 天胆眉雫天胆匯雫| 卅卅忝栽壓| 消消嶄猟壓| 忽恢娼瞳消消消消消消消消挺| 爾秤消消嶄猟忖鳥| 消消窒継裕田篇撞| 忽恢娼瞳消消消消消消及匯牽旋| 壓瀉盞儿杰甘恵| 消消忝栽湘弼湘湘| 忽恢娼瞳牽旋唹垪| 冉巖窒継繁撹壓瀛啼宜杰| 窒殴慧匂冉巖匯曝|