安全性に掛かる産業分野におけるAI技術の利用を標準化が後押し
ポイント
・ 自動車・航空機・産業ロボットなどの安全性が重視される産業分野にAIを使うための指針が、従来の国際標準の枠組みにはなかった。
・ 産総研は共同エディタとして、産総研のAI品質マネジメント技術を組み込んだAIと安全性の関係に関する考え方を整理した文書の出版に貢献した。
・ AI技術を安全性が重要な産業分野に活用する道筋が示された。
【画像:https://kyodonewsprwire.jp/img/202404099161-O1-IZyjTr1b】
自動車・産業ロボットなどの安全性が重視される製品やサービスに人工知能(以下「AI」という)技術を利活用するために、安全性の確認方法や従来技術との組み合わせ方などを整理した国際的な技術報告文書 ISO/IEC TR 5469:2024(以下「本文書」という)が出版されました。国立研究開発法人 産業技術総合研究所(以下「産総研」という)は、エディタとして本文書の取り纏めを主導するとともに、AIの安全性に関する品質検査方法の研究成果によって、本文書の出版に貢献しました。
これにより、日本のみならず諸外国でのAI技術の適用範囲を拡大し、市場拡大に繋がることが期待されます。
下線部は【用語解説】参照
取り組む社会課題
機械学習に代表されるAIは、自動運転や産業ロボットなど幅広い産業分野での社会実装が期待されています。しかし、動作の詳細が学習に基づいて決定されるAIシステムは、誤動作などに対する安全性の検証について、人が設計した通りに動作するかどうかで検証する従来システムの手法をそのまま適用できません。そのため、国際規格に適合する形で高度な安全性が要求される用途にAIを活用することが出来ませんでした。
本文書は安全性が重視される産業分野にAIを持ち込むときのシステム構築及び品質確認の考え方を整理したもので、従来システムとAIシステムを組み合わせた際の安全性の確保の考え方、機械学習技術部分の品質確認の考え方、従来の安全性関連規格との整合性の考え方などが示されています。これにより、AI技術を安全性が重視される製品やサービスに活用する際の国際基準作りの第一歩を踏み出したことになります。将来的にはAIシステムの安全性の認証が可能となり、特にミッションクリティカルな分野に対する人工知能技術の社会展開に向けた道筋が示されることになります。
文書発行までの道のり
産総研は、経済産業省からの受託事業「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)などを通じて、人工知能分野の規格開発に幅広く取り組んできました。その一環として、2020年には本文書の作成を ISO/IEC JTC1 / SC42 に提案し、国内委員会での議論を進めるとともに、およそ3年にわたり国際エディタを担当して取り纏めを主導してきました。
これと並行して産総研は、NEDO委託事業「機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)において、機械学習による人工知能システムの品質マネジメント技術の開発を、国内の先進AI利用企業と連携して進めてきました。AIシステムに求められる安全性・性能といった品質を満足するために必要な取組や評価項目を網羅的にまとめ、「機械学習品質マネジメントガイドライン」として2020年より日本語・英語で発行し、毎年改版を進めています。
今回産総研は、この機械学習品質マネジメントガイドライン英語版の記述およびその背景となる知見を、本国際文書の議論に提供することにより国際的な議論を加速し、日本で取り纏めた知見を含む形で今回の技術報告文書が発行されました。
今後の予定・波及効果
現在この分科会において、今回まとめた文書に示した考え方に基づき、安全なAIシステムを作るために行うべき事項を示す次の文書の検討が始まっています。産総研は国内での品質マネジメントの議論を促しつつ、その内容を踏まえて次の文書の議論に参加し、安全なAIを作るための技術について諸外国と合意し、日本製品の品質の強みが世界で客観的に高く評価されるための国際基準を作ります。
【表:https://kyodonewsprwire.jp/prwfile/release/M107968/202404099161/_prw_PT1fl_8qvYs8f9.png】
機械学習品質マネジメントガイドラインについて
機械学習品質マネジメントガイドラインは、NEDOからの委託を受けて、産総研が民間企業から参加した方々とともに取りまとめた、機械学習AIの品質マネジメントの全体に関するガイドラインです。このガイドラインでは、AIシステムが満たすべき品質として「リスク回避性(安全性)」、「AIパフォーマンス(性能)」、「公平性」、「プライバシー」、「AIセキュリティ」の5つを挙げ、それぞれについて、考えられる品質レベルを示しています。一方、それらの品質を実現するためにAIシステムを開発したり運用したりする際に確認したり改善したりするべきポイントとして、「品質構造・データセットの設計」、「データセットの品質」、「機械学習モデルの品質」、「ソフトウェア実装の品質」、「運用時の品質」の5分野に分かれる14項目を示しています。
2020年6月に第1版を発表し、その後もAIの進展等に応じて改定を続け、最新版である第4版を2023年12月に発表しました。
また、当初からの狙いとして、このガイドラインの内容を国際標準化に反映させることを目指しており、そのため、英語版も発表しています。
機械学習品質マネジメントガイドライン https://www.digiarc.aist.go.jp/publication/aiqm/
機械学習品質マネジメントガイドライン(英語版)https://www.digiarc.aist.go.jp/en/publication/aiqm/
予算制度
経済産業省「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)」(2019年度~2020年度)
経済産業省「ヒューマン・マシン・チーミングの標準化に関する調査」(2022年度)
経済産業省「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」(2023年度~2025年度)
新エネルギー・産業技術総合開発機構「人と共に進化する次世代人工知能に関する技術開発事業/実世界で信頼できるAIの評価・管理手法の確立/機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)
プレスリリースURL
https://www.aist.go.jp/aist_j/press_release/pr2024/pr20240410/pr20240410.html
中学数学の全国統一模試1位の元アイドル、胸元あらわなグラビアショット公開「最高すぎ」の声
真中瞳(40)の現在に衝撃的な真実が発覚したと話題に
シドニー五輪マラソン銀、ワイナイナ氏を書類送検 駅員に傷害容疑
「水ダウ」クロちゃん「空中嘔吐」ゲロ浴び33歳芸人は無事だった「体だけ張れるので」再出演狙う
「実家が歯医者」杉村太蔵氏あぜん、水原一平容疑者「歯の治療」930万円に「聞いたことない」
水原一平容疑者「歯の治療」930万円「この金額はまさに驚き」在米17年の国際弁護士もあ然
武田薬品工業: 2023年度通期業績および2024年度の見通しを公表 - 後期段階のパイプライン開発とCore営業利益率改善へのコミットメントを強調
23歳グラドル大嶋みく「トップレス体育座り」!衝撃カットで初写真集告知に「たまらん」の声
静岡・川勝知事が退任会見 リニア断念で「公約に一つの区切り」
人気ロックバンドのライブで痴漢行為「絶対に許しません」法的措置も検討
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
42歳ママタレ20年ぶり水着披露「レベチ」「マジ天使」「最高」55歳夫のピン芸人と2児
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
大谷翔平4打数4安打2本塁打3打点3得点、打撃9部門でメジャー1位に
パリス・ヒルトン、米誌でオールヌード披露 胸を腕で隠した大胆なポーズの白黒表紙
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
藤田ニコル「AVめちゃくちゃ好き」元レジェンドセクシー女優とは友達で「見るの楽しかった」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
大物炎上系ユーチューバー”衝撃の預金残高”公開「すげぇ」「エグい」驚きの声
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
中学数学の全国統一模試1位の元アイドル、胸元あらわなグラビアショット公開「最高すぎ」の声
真中瞳(40)の現在に衝撃的な真実が発覚したと話題に
シドニー五輪マラソン銀、ワイナイナ氏を書類送検 駅員に傷害容疑
「水ダウ」クロちゃん「空中嘔吐」ゲロ浴び33歳芸人は無事だった「体だけ張れるので」再出演狙う
「実家が歯医者」杉村太蔵氏あぜん、水原一平容疑者「歯の治療」930万円に「聞いたことない」
水原一平容疑者「歯の治療」930万円「この金額はまさに驚き」在米17年の国際弁護士もあ然
武田薬品工業: 2023年度通期業績および2024年度の見通しを公表 - 後期段階のパイプライン開発とCore営業利益率改善へのコミットメントを強調
23歳グラドル大嶋みく「トップレス体育座り」!衝撃カットで初写真集告知に「たまらん」の声
静岡・川勝知事が退任会見 リニア断念で「公約に一つの区切り」
二宮金次郎像を市が入札で売却へ 最低価格1万円 兵庫・三木