富士通研究所、計算の厳密性を自動調整しAI処理を最大10倍高速化するコンピューティング技術を開発
- 2019年10月25日 15:00:00
- テクノロジー
- JCN Newswire
従来は、AI処理の高速化を図るために、専門家が演算精度の切り替えの箇所などを、データや実行環境ごとに調整する必要がありました。今回の技術により、学習の度合いに合わせ最適な演算精度を自動制御し高速化するほか、クラウドなど並列環境における一部ノードの計算の遅れを回避し、実行時間にばらつきのある並列環境でも演算速度を安定化させることができます。
この技術をディープラーニングに適用することで、計算能力を最大10倍高速化させることができ、今後さらに増大するAI活用のニーズに対応します。
開発の背景
AI技術の進化と普及に伴って、画像認識や音声翻訳などへ活用が広がり、それを実現するためのAI処理の計算量が爆発的に増大しており、AI用途に開発されたGPUや専用プロセッサーなどが利用されてきています。また、クラウド環境からエッジコンピューティングまで用途に合わせて様々な環境でAI計算が行われてきています。今後さらに増大するAIの計算量に対し、高速に処理できる技術が必要です。
課題
GPUや専用プロセッサーにより計算性能は向上していますが、AIの計算需要には追いついておらず、さらなる高速化手法として、計算の厳密性を捨てて高速化する技術が注目されています。例えば、ディープラーニングのアルゴリズムであるニューラルネットワークの計算において、32ビットの演算精度を8ビットに落として4倍に並列演算をさせることで高速化を実現する方法がありますが、一律に演算精度を落とすと演算結果も劣化します。そのため、演算精度の調整は、どの箇所の演算精度を落とし、どの箇所の演算精度を落とさないかを、専門家が試行錯誤することで決めていました。しかし、この方法では調整に時間を要し、さらに、入力データや実行環境が変わると調整をやり直す必要がありました。
開発した技術
今回、演算精度を自動的に制御し高速化する技術「Content-Aware Computing」を開発しました。これにより、GPU・CPU・クラウド・エッジといった多様な実行環境でも、AI処理の高速実行が可能になります。本技術の特長は以下のとおりです。
1. データに合わせてビット数を自動的に削減する技術
一般にニューラルネットワークでは、学習が進むと各層の数値範囲が似かよった数値に収束していく性質があります。この性質を利用し、計算中のニューラルネットワークにおける各層の数値範囲の分布にもとづいて、分布が広い層では高ビット、分布が収束してきた層で低ビットといったように学習の状況に応じて演算精度の適用度合いを判断します。これにより、演算結果の劣化を抑えつつ、ディープラーニングに適用した場合、従来の3倍まで高速化できます。
2. ばらつきのある並列環境で高速実行を可能にする同期緩和技術
クラウド環境など多数のノードで演算する場合やCPUを多数のアプリケーションで共用する環境の場合、通信の競合や割り込み処理などにより、一部のノードでのレスポンスが大幅に遅れる場合があります。これに対し、並列処理の各演算において、処理を打ち切った場合の処理時間の削減量と、演算結果への影響度を予測し、演算結果を劣化させない範囲で、処理時間を最大限に削減できるように、各演算の打ち切り時間を制御します。これにより、並列計算の高速実行が可能になり、ディープラーニングの処理においては最大で3.7倍の高速化を確認できました。
効果
今回開発した技術「Content-Aware Computing」を活用することで、AI処理を最大で10倍まで高速化できます。本技術をAIフレームワークやライブラリに組み込むことで、低ビット演算機能が組み込まれたGPUやCPU、それらを用いたクラウドやデータセンターでのAI処理を自動的に高速化することが可能となります。
今後
本技術を一般に広く普及しているAIフレームワークに組み込み、ディープラーニングを使ったAIサービスの実行基盤として活用を進めます。
本リリースの詳細は下記をご参照ください。
https://pr.fujitsu.com/jp/news/2019/10/25-1.html
概要:富士通株式会社
詳細は http://jp.fujitsu.com/ をご覧ください。
Copyright 2019 JCN Newswire. All rights reserved. www.jcnnewswire.com
小柳ルミ子「若くてイケメンのボーイフレンドが一気に4人も出来ました !! 」と告白
NHKロケ中に重要文化財破損を発表、香川「旧金毘羅大芝居」 昨年4月にも百済寺の一部破損
マツコ「ぶっ殺すぞ!」公園の椅子に座れない理由を的確に指摘できない共演者をバッサリ
打率.083ヤ軍グリシャム「代打にソトを」観客大合唱の中、意地の逆転弾で一転「必要だ!」
【欧州選手権】ABEMA「日本史上初」全51試合無料生中継 15試合は日本語実況・解説付き
中山忍が30年前の映画出演時の和服姿披露「昔はかわいい、今は綺麗!」など反響
「虎に翼」よね役土居志央梨が伊藤沙莉とお揃いコーデ「大好きなこの人とこっそり旅してました」
フジ三上真奈アナがメガネ&半袖姿「夏がきたぜい」アイス食べる1枚に「やんちゃ可愛い」反響
マツコ「男性の方が友達出来ない」に反論「ママ友って連れションしてる女子高生と変わらない」
【前払い決済が充実してきた】現金派も転向していいはずの前払いキャッシュレス決済
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
三上悠亜、整形したことを事後報告でネット騒然「素っぴんが美しすぎる」「大半を既にいじっておいて今更」
深田えいみ、ビキニ姿で「じゃーん!Jカップ」報告に「成長中」「まジェーっすか」「重そう」
歌手の門倉有希さん 乳がんのため死去、50歳「6月6日に永眠」所属事務所が発表
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
「愛が生まれた日」藤谷美和子(56)の現在がヤバい!?徘徊生活を送っていた過去も明らかに。
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
橋本環奈すぎと話題呼んだアイドル中川心、動画披露し「無加工でこれはやっぱり本物」と反響の声
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
元めちゃイケメンバーの三中元克(32)現在は何をしているのか調べてみた!
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
小倉優子、不自然な“二重ライン”にネット騒然「やっぱり整形?」
TikTokを賑わす「フエラムネごめんなサイダー味」がセブンイレブンで再販!じゅるるマスカットも買うなら今!
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
浜崎あゆみ、子供の写真公開に疑いの声止まず「よそのお宅の子供?」
小柳ルミ子「若くてイケメンのボーイフレンドが一気に4人も出来ました !! 」と告白
NHKロケ中に重要文化財破損を発表、香川「旧金毘羅大芝居」 昨年4月にも百済寺の一部破損
マツコ「ぶっ殺すぞ!」公園の椅子に座れない理由を的確に指摘できない共演者をバッサリ
【欧州選手権】ABEMA「日本史上初」全51試合無料生中継 15試合は日本語実況・解説付き
打率.083ヤ軍グリシャム「代打にソトを」観客大合唱の中、意地の逆転弾で一転「必要だ!」
中山忍が30年前の映画出演時の和服姿披露「昔はかわいい、今は綺麗!」など反響
フジ三上真奈アナがメガネ&半袖姿「夏がきたぜい」アイス食べる1枚に「やんちゃ可愛い」反響
「虎に翼」よね役土居志央梨が伊藤沙莉とお揃いコーデ「大好きなこの人とこっそり旅してました」
マツコ「男性の方が友達出来ない」に反論「ママ友って連れションしてる女子高生と変わらない」
【前払い決済が充実してきた】現金派も転向していいはずの前払いキャッシュレス決済