安全性に掛かる産業分野におけるAI技術の利用を標準化が後押し
ポイント
・ 自動車・航空機・産業ロボットなどの安全性が重視される産業分野にAIを使うための指針が、従来の国際標準の枠組みにはなかった。
・ 産総研は共同エディタとして、産総研のAI品質マネジメント技術を組み込んだAIと安全性の関係に関する考え方を整理した文書の出版に貢献した。
・ AI技術を安全性が重要な産業分野に活用する道筋が示された。
【画像:https://kyodonewsprwire.jp/img/202404099161-O1-IZyjTr1b】
自動車・産業ロボットなどの安全性が重視される製品やサービスに人工知能(以下「AI」という)技術を利活用するために、安全性の確認方法や従来技術との組み合わせ方などを整理した国際的な技術報告文書 ISO/IEC TR 5469:2024(以下「本文書」という)が出版されました。国立研究開発法人 産業技術総合研究所(以下「産総研」という)は、エディタとして本文書の取り纏めを主導するとともに、AIの安全性に関する品質検査方法の研究成果によって、本文書の出版に貢献しました。
これにより、日本のみならず諸外国でのAI技術の適用範囲を拡大し、市場拡大に繋がることが期待されます。
下線部は【用語解説】参照
取り組む社会課題
機械学習に代表されるAIは、自動運転や産業ロボットなど幅広い産業分野での社会実装が期待されています。しかし、動作の詳細が学習に基づいて決定されるAIシステムは、誤動作などに対する安全性の検証について、人が設計した通りに動作するかどうかで検証する従来システムの手法をそのまま適用できません。そのため、国際規格に適合する形で高度な安全性が要求される用途にAIを活用することが出来ませんでした。
本文書は安全性が重視される産業分野にAIを持ち込むときのシステム構築及び品質確認の考え方を整理したもので、従来システムとAIシステムを組み合わせた際の安全性の確保の考え方、機械学習技術部分の品質確認の考え方、従来の安全性関連規格との整合性の考え方などが示されています。これにより、AI技術を安全性が重視される製品やサービスに活用する際の国際基準作りの第一歩を踏み出したことになります。将来的にはAIシステムの安全性の認証が可能となり、特にミッションクリティカルな分野に対する人工知能技術の社会展開に向けた道筋が示されることになります。
文書発行までの道のり
産総研は、経済産業省からの受託事業「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)などを通じて、人工知能分野の規格開発に幅広く取り組んできました。その一環として、2020年には本文書の作成を ISO/IEC JTC1 / SC42 に提案し、国内委員会での議論を進めるとともに、およそ3年にわたり国際エディタを担当して取り纏めを主導してきました。
これと並行して産総研は、NEDO委託事業「機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)において、機械学習による人工知能システムの品質マネジメント技術の開発を、国内の先進AI利用企業と連携して進めてきました。AIシステムに求められる安全性・性能といった品質を満足するために必要な取組や評価項目を網羅的にまとめ、「機械学習品質マネジメントガイドライン」として2020年より日本語・英語で発行し、毎年改版を進めています。
今回産総研は、この機械学習品質マネジメントガイドライン英語版の記述およびその背景となる知見を、本国際文書の議論に提供することにより国際的な議論を加速し、日本で取り纏めた知見を含む形で今回の技術報告文書が発行されました。
今後の予定・波及効果
現在この分科会において、今回まとめた文書に示した考え方に基づき、安全なAIシステムを作るために行うべき事項を示す次の文書の検討が始まっています。産総研は国内での品質マネジメントの議論を促しつつ、その内容を踏まえて次の文書の議論に参加し、安全なAIを作るための技術について諸外国と合意し、日本製品の品質の強みが世界で客観的に高く評価されるための国際基準を作ります。
【表:https://kyodonewsprwire.jp/prwfile/release/M107968/202404099161/_prw_PT1fl_8qvYs8f9.png】
機械学習品質マネジメントガイドラインについて
機械学習品質マネジメントガイドラインは、NEDOからの委託を受けて、産総研が民間企業から参加した方々とともに取りまとめた、機械学習AIの品質マネジメントの全体に関するガイドラインです。このガイドラインでは、AIシステムが満たすべき品質として「リスク回避性(安全性)」、「AIパフォーマンス(性能)」、「公平性」、「プライバシー」、「AIセキュリティ」の5つを挙げ、それぞれについて、考えられる品質レベルを示しています。一方、それらの品質を実現するためにAIシステムを開発したり運用したりする際に確認したり改善したりするべきポイントとして、「品質構造・データセットの設計」、「データセットの品質」、「機械学習モデルの品質」、「ソフトウェア実装の品質」、「運用時の品質」の5分野に分かれる14項目を示しています。
2020年6月に第1版を発表し、その後もAIの進展等に応じて改定を続け、最新版である第4版を2023年12月に発表しました。
また、当初からの狙いとして、このガイドラインの内容を国際標準化に反映させることを目指しており、そのため、英語版も発表しています。
機械学習品質マネジメントガイドライン https://www.digiarc.aist.go.jp/publication/aiqm/
機械学習品質マネジメントガイドライン(英語版)https://www.digiarc.aist.go.jp/en/publication/aiqm/
予算制度
経済産業省「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)」(2019年度~2020年度)
経済産業省「ヒューマン・マシン・チーミングの標準化に関する調査」(2022年度)
経済産業省「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」(2023年度~2025年度)
新エネルギー・産業技術総合開発機構「人と共に進化する次世代人工知能に関する技術開発事業/実世界で信頼できるAIの評価・管理手法の確立/機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)
プレスリリースURL
https://www.aist.go.jp/aist_j/press_release/pr2024/pr20240410/pr20240410.html
マドンナ、「性的すぎる」と観客に訴えられる 世界ツアー「セレブレーション」の演出に不快感
相川七瀬、サッカー鹿島戦観戦 まさかの人とのツーショット写真にネット騒然「交友関係が広い」
「本当に40歳ですか?」島袋寛子へそ出しショットに反響続々「10~20代に見えます」
藤原紀香、終活について自身の考え述べる「誰もが来るその終わりまで人生をより輝かせること」
ロバーツ監督が笑顔 大谷翔平と真美子夫人から誕生日プレゼントでもらったものは…
「ミス東大2020」神谷明采、さんま御殿であの超大物アーティストと共演「握手しちゃった」
元カリスマホスト、営業再開した父の中華料理店が大盛況に感謝「愛されすぎております」
長谷川理恵、12年目の結婚記念日「二人ともすっかり抜けていた」と告白
前代未聞も先例になるかも… 尾上菊之助「八代目尾上菊五郎」襲名も父は「七代目菊五郎」継続
鈴木誠也 4打数1安打で10戦連続安打も3三振 カブスは敗れる
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
浜崎あゆみ、子供の写真公開に疑いの声止まず「よそのお宅の子供?」
大谷翔平被弾投手が悪態ついて退場処分!次打者フリーマンと対戦中に判定巡り塁審と口論
YouTuberジュキヤの動画企画が大炎上「普通に痴漢」「気持ち悪すぎ」
千原せいじのシエラレオネ巡る発言 NPO代表理事が公式謝罪忠告「最悪、国家間の問題に発展」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
大谷翔平10試合ぶり14号 シティフィールド初アーチ、26球場目は自らの日本人記録更新
大谷に被弾→次打者判定で審判と口論→退場→「チーム、自分も最悪」→戦力外
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
柏原崇(45)現在を調べてみた結果、相変わらずかっこよすぎた!
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
元めちゃイケメンバーの三中元克(32)現在は何をしているのか調べてみた!
TikTokを賑わす「フエラムネごめんなサイダー味」がセブンイレブンで再販!じゅるるマスカットも買うなら今!
小倉優子、不自然な“二重ライン”にネット騒然「やっぱり整形?」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
大原櫻子、ガーシー暴露後初のSNS投稿に賛否の声「イメージ最悪になった」
マドンナ、「性的すぎる」と観客に訴えられる 世界ツアー「セレブレーション」の演出に不快感
相川七瀬、サッカー鹿島戦観戦 まさかの人とのツーショット写真にネット騒然「交友関係が広い」
「本当に40歳ですか?」島袋寛子へそ出しショットに反響続々「10~20代に見えます」
藤原紀香、終活について自身の考え述べる「誰もが来るその終わりまで人生をより輝かせること」
ロバーツ監督が笑顔 大谷翔平と真美子夫人から誕生日プレゼントでもらったものは…
「ミス東大2020」神谷明采、さんま御殿であの超大物アーティストと共演「握手しちゃった」
元カリスマホスト、営業再開した父の中華料理店が大盛況に感謝「愛されすぎております」
長谷川理恵、12年目の結婚記念日「二人ともすっかり抜けていた」と告白
鈴木誠也 4打数1安打で10戦連続安打も3三振 カブスは敗れる
前代未聞も先例になるかも… 尾上菊之助「八代目尾上菊五郎」襲名も父は「七代目菊五郎」継続