富士通研究所、計算の厳密性を自動調整しAI処理を最大10倍高速化するコンピューティング技術を開発
- 2019年10月25日 15:00:00
- テクノロジー
- JCN Newswire
従来は、AI処理の高速化を図るために、専門家が演算精度の切り替えの箇所などを、データや実行環境ごとに調整する必要がありました。今回の技術により、学習の度合いに合わせ最適な演算精度を自動制御し高速化するほか、クラウドなど並列環境における一部ノードの計算の遅れを回避し、実行時間にばらつきのある並列環境でも演算速度を安定化させることができます。
この技術をディープラーニングに適用することで、計算能力を最大10倍高速化させることができ、今後さらに増大するAI活用のニーズに対応します。
開発の背景
AI技術の進化と普及に伴って、画像認識や音声翻訳などへ活用が広がり、それを実現するためのAI処理の計算量が爆発的に増大しており、AI用途に開発されたGPUや専用プロセッサーなどが利用されてきています。また、クラウド環境からエッジコンピューティングまで用途に合わせて様々な環境でAI計算が行われてきています。今後さらに増大するAIの計算量に対し、高速に処理できる技術が必要です。
課題
GPUや専用プロセッサーにより計算性能は向上していますが、AIの計算需要には追いついておらず、さらなる高速化手法として、計算の厳密性を捨てて高速化する技術が注目されています。例えば、ディープラーニングのアルゴリズムであるニューラルネットワークの計算において、32ビットの演算精度を8ビットに落として4倍に並列演算をさせることで高速化を実現する方法がありますが、一律に演算精度を落とすと演算結果も劣化します。そのため、演算精度の調整は、どの箇所の演算精度を落とし、どの箇所の演算精度を落とさないかを、専門家が試行錯誤することで決めていました。しかし、この方法では調整に時間を要し、さらに、入力データや実行環境が変わると調整をやり直す必要がありました。
開発した技術
今回、演算精度を自動的に制御し高速化する技術「Content-Aware Computing」を開発しました。これにより、GPU・CPU・クラウド・エッジといった多様な実行環境でも、AI処理の高速実行が可能になります。本技術の特長は以下のとおりです。
1. データに合わせてビット数を自動的に削減する技術
一般にニューラルネットワークでは、学習が進むと各層の数値範囲が似かよった数値に収束していく性質があります。この性質を利用し、計算中のニューラルネットワークにおける各層の数値範囲の分布にもとづいて、分布が広い層では高ビット、分布が収束してきた層で低ビットといったように学習の状況に応じて演算精度の適用度合いを判断します。これにより、演算結果の劣化を抑えつつ、ディープラーニングに適用した場合、従来の3倍まで高速化できます。
2. ばらつきのある並列環境で高速実行を可能にする同期緩和技術
クラウド環境など多数のノードで演算する場合やCPUを多数のアプリケーションで共用する環境の場合、通信の競合や割り込み処理などにより、一部のノードでのレスポンスが大幅に遅れる場合があります。これに対し、並列処理の各演算において、処理を打ち切った場合の処理時間の削減量と、演算結果への影響度を予測し、演算結果を劣化させない範囲で、処理時間を最大限に削減できるように、各演算の打ち切り時間を制御します。これにより、並列計算の高速実行が可能になり、ディープラーニングの処理においては最大で3.7倍の高速化を確認できました。
効果
今回開発した技術「Content-Aware Computing」を活用することで、AI処理を最大で10倍まで高速化できます。本技術をAIフレームワークやライブラリに組み込むことで、低ビット演算機能が組み込まれたGPUやCPU、それらを用いたクラウドやデータセンターでのAI処理を自動的に高速化することが可能となります。
今後
本技術を一般に広く普及しているAIフレームワークに組み込み、ディープラーニングを使ったAIサービスの実行基盤として活用を進めます。
本リリースの詳細は下記をご参照ください。
https://pr.fujitsu.com/jp/news/2019/10/25-1.html
概要:富士通株式会社
詳細は http://jp.fujitsu.com/ をご覧ください。
Copyright 2019 JCN Newswire. All rights reserved. www.jcnnewswire.com
「奇跡の…」「年々可愛く」55歳森高千里”超ミニ”驚異の美ボディーにネット騒然
高畑充希、愛猫の“イヤホン推奨”セクシーすぎる動画を公開 「飼い主に似て美人」などの声
和田アキ子「これも許せない」水原一平被告が罪状認否時に使った車のナンバー「777」に怒り
夏川りみ 高野山東京別院で25周年記念ファンクラブコンサート 同所を選んだ理由は?
【G大阪】今季初の3ゴールで快勝 攻守で躍動感あるプレーで川崎Fを撃破
DAIGO、3歳長女の足型披露! 画像に写り込んだある物にフォロワー注目?!「競馬新聞笑」
【ソフトバンク】山川穂高が死球交代、アブレイユの157キロ左手直撃「骨のところ」監督も心配
【阪神】梅野隆太郎が今度は異例すぎる「膝ブロック」で窮地救う 走者進塁防いでリード保つ
【広島】DF登録の新井直人がプロ初ハットトリック!左足、頭、右足のすべて違う部位でマーク
岩城滉一、返ってこない巨額”宇宙旅行代”明かす 加藤浩次驚き「損しただけ?」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
大谷翔平が不運な判定で2度見逃し三振 「えん罪退場」で話題の球審は引き揚げる大谷にブチギレ
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
吉野家が「マスク外し強要疑惑」でプチ炎上、店員さんに聞いてみると……
マンション刺殺、被害者は19歳大学生の女性 大阪・枚方
元めちゃイケメンバーの三中元克(32)現在は何をしているのか調べてみた!
藤田ニコル「脱ぐ予定なかったのですが気づいたらノリノリで…」ヒョウ柄水着姿に大反響
3度逮捕の38歳小向美奈子「今はやってないですよね?」の直撃質問に”回答”
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
東国原英夫氏、近隣アイドルの部屋に「俳優さんたちが入れ替わり立ち替わり…」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
ヒカル、浮気相手とのLINE流出にドン引きの声「キモすぎる」「吐きそう」
元めちゃイケメンバーの三中元克(32)現在は何をしているのか調べてみた!
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
大谷翔平が不運な判定で2度見逃し三振 「えん罪退場」で話題の球審は引き揚げる大谷にブチギレ
73歳神田正輝「旅サラダ」生放送で“12歳下俳優”から呼び捨てされ激論
「奇跡の…」「年々可愛く」55歳森高千里”超ミニ”驚異の美ボディーにネット騒然
高畑充希、愛猫の“イヤホン推奨”セクシーすぎる動画を公開 「飼い主に似て美人」などの声
和田アキ子「これも許せない」水原一平被告が罪状認否時に使った車のナンバー「777」に怒り
夏川りみ 高野山東京別院で25周年記念ファンクラブコンサート 同所を選んだ理由は?
【G大阪】今季初の3ゴールで快勝 攻守で躍動感あるプレーで川崎Fを撃破
DAIGO、3歳長女の足型披露! 画像に写り込んだある物にフォロワー注目?!「競馬新聞笑」
【ソフトバンク】山川穂高が死球交代、アブレイユの157キロ左手直撃「骨のところ」監督も心配
【阪神】梅野隆太郎が今度は異例すぎる「膝ブロック」で窮地救う 走者進塁防いでリード保つ
【広島】DF登録の新井直人がプロ初ハットトリック!左足、頭、右足のすべて違う部位でマーク
岩城滉一、返ってこない巨額”宇宙旅行代”明かす 加藤浩次驚き「損しただけ?」