安全性に掛かる産業分野におけるAI技術の利用を標準化が後押し
ポイント
・ 自動車・航空機・産業ロボットなどの安全性が重視される産業分野にAIを使うための指針が、従来の国際標準の枠組みにはなかった。
・ 産総研は共同エディタとして、産総研のAI品質マネジメント技術を組み込んだAIと安全性の関係に関する考え方を整理した文書の出版に貢献した。
・ AI技術を安全性が重要な産業分野に活用する道筋が示された。
【画像:https://kyodonewsprwire.jp/img/202404099161-O1-IZyjTr1b】
自動車・産業ロボットなどの安全性が重視される製品やサービスに人工知能(以下「AI」という)技術を利活用するために、安全性の確認方法や従来技術との組み合わせ方などを整理した国際的な技術報告文書 ISO/IEC TR 5469:2024(以下「本文書」という)が出版されました。国立研究開発法人 産業技術総合研究所(以下「産総研」という)は、エディタとして本文書の取り纏めを主導するとともに、AIの安全性に関する品質検査方法の研究成果によって、本文書の出版に貢献しました。
これにより、日本のみならず諸外国でのAI技術の適用範囲を拡大し、市場拡大に繋がることが期待されます。
下線部は【用語解説】参照
取り組む社会課題
機械学習に代表されるAIは、自動運転や産業ロボットなど幅広い産業分野での社会実装が期待されています。しかし、動作の詳細が学習に基づいて決定されるAIシステムは、誤動作などに対する安全性の検証について、人が設計した通りに動作するかどうかで検証する従来システムの手法をそのまま適用できません。そのため、国際規格に適合する形で高度な安全性が要求される用途にAIを活用することが出来ませんでした。
本文書は安全性が重視される産業分野にAIを持ち込むときのシステム構築及び品質確認の考え方を整理したもので、従来システムとAIシステムを組み合わせた際の安全性の確保の考え方、機械学習技術部分の品質確認の考え方、従来の安全性関連規格との整合性の考え方などが示されています。これにより、AI技術を安全性が重視される製品やサービスに活用する際の国際基準作りの第一歩を踏み出したことになります。将来的にはAIシステムの安全性の認証が可能となり、特にミッションクリティカルな分野に対する人工知能技術の社会展開に向けた道筋が示されることになります。
文書発行までの道のり
産総研は、経済産業省からの受託事業「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)などを通じて、人工知能分野の規格開発に幅広く取り組んできました。その一環として、2020年には本文書の作成を ISO/IEC JTC1 / SC42 に提案し、国内委員会での議論を進めるとともに、およそ3年にわたり国際エディタを担当して取り纏めを主導してきました。
これと並行して産総研は、NEDO委託事業「機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)において、機械学習による人工知能システムの品質マネジメント技術の開発を、国内の先進AI利用企業と連携して進めてきました。AIシステムに求められる安全性・性能といった品質を満足するために必要な取組や評価項目を網羅的にまとめ、「機械学習品質マネジメントガイドライン」として2020年より日本語・英語で発行し、毎年改版を進めています。
今回産総研は、この機械学習品質マネジメントガイドライン英語版の記述およびその背景となる知見を、本国際文書の議論に提供することにより国際的な議論を加速し、日本で取り纏めた知見を含む形で今回の技術報告文書が発行されました。
今後の予定・波及効果
現在この分科会において、今回まとめた文書に示した考え方に基づき、安全なAIシステムを作るために行うべき事項を示す次の文書の検討が始まっています。産総研は国内での品質マネジメントの議論を促しつつ、その内容を踏まえて次の文書の議論に参加し、安全なAIを作るための技術について諸外国と合意し、日本製品の品質の強みが世界で客観的に高く評価されるための国際基準を作ります。
【表:https://kyodonewsprwire.jp/prwfile/release/M107968/202404099161/_prw_PT1fl_8qvYs8f9.png】
機械学習品質マネジメントガイドラインについて
機械学習品質マネジメントガイドラインは、NEDOからの委託を受けて、産総研が民間企業から参加した方々とともに取りまとめた、機械学習AIの品質マネジメントの全体に関するガイドラインです。このガイドラインでは、AIシステムが満たすべき品質として「リスク回避性(安全性)」、「AIパフォーマンス(性能)」、「公平性」、「プライバシー」、「AIセキュリティ」の5つを挙げ、それぞれについて、考えられる品質レベルを示しています。一方、それらの品質を実現するためにAIシステムを開発したり運用したりする際に確認したり改善したりするべきポイントとして、「品質構造・データセットの設計」、「データセットの品質」、「機械学習モデルの品質」、「ソフトウェア実装の品質」、「運用時の品質」の5分野に分かれる14項目を示しています。
2020年6月に第1版を発表し、その後もAIの進展等に応じて改定を続け、最新版である第4版を2023年12月に発表しました。
また、当初からの狙いとして、このガイドラインの内容を国際標準化に反映させることを目指しており、そのため、英語版も発表しています。
機械学習品質マネジメントガイドライン https://www.digiarc.aist.go.jp/publication/aiqm/
機械学習品質マネジメントガイドライン(英語版)https://www.digiarc.aist.go.jp/en/publication/aiqm/
予算制度
経済産業省「人工知能のライフサイクル,および,人工知能の品質保証に関する国際標準化」(2019年度~2020年度)」(2019年度~2020年度)
経済産業省「ヒューマン・マシン・チーミングの標準化に関する調査」(2022年度)
経済産業省「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」(2023年度~2025年度)
新エネルギー・産業技術総合開発機構「人と共に進化する次世代人工知能に関する技術開発事業/実世界で信頼できるAIの評価・管理手法の確立/機械学習システムの品質評価指標・測定テストベッドの研究開発」(2019年度~2023年度)
プレスリリースURL
https://www.aist.go.jp/aist_j/press_release/pr2024/pr20240410/pr20240410.html
水原一平容疑者 最高刑「懲役33年」トレンド入り 「人生詰んだ」「稀代の詐欺師」の声
水原一平容疑者「歯の治療」930万円だまし取りにX総ツッコミ「歯何本あるんだよ」「超合金?」
アンジャッシュ渡部建、不倫会見で事務所からの“口止め”明かす「墓場までもっていく話」
クロちゃん「水ダウ」で驚き貯金額暴露し「たかりLINE」被害報告「めっちゃくる、なんなの」
新木優子「可愛い 写真上手」“親友”谷まりあとフランスでの仕事後モロッコへ
ゆうちゃみ「大物芸人さんの隣でいびきを…」ロケでの失敗を告白「土下座レベルで謝りました」
ナダル「水ダウ」地方ロケで手抜きしツッコミ殺到「態度悪い」「興味なさそう」「なめ腐ってる」
三菱重工浦和FW清家貴子「レッズにいる限り本気でアジアとりたい」“女子ACL”決勝へ決意
フジモン久々「これ余談」出演で長く深いお辞儀 自虐ネタも濱家にツッコまれ…
「ふてほど」25歳女優“薔薇ブラ”でポロリ寸前?過激衣装に「見えちゃう」「刺激強すぎ」
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
42歳ママタレ20年ぶり水着披露「レベチ」「マジ天使」「最高」55歳夫のピン芸人と2児
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
大谷翔平4打数4安打2本塁打3打点3得点、打撃9部門でメジャー1位に
パリス・ヒルトン、米誌でオールヌード披露 胸を腕で隠した大胆なポーズの白黒表紙
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
藤田ニコル「AVめちゃくちゃ好き」元レジェンドセクシー女優とは友達で「見るの楽しかった」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
大物炎上系ユーチューバー”衝撃の預金残高”公開「すげぇ」「エグい」驚きの声
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
水原一平容疑者 最高刑「懲役33年」トレンド入り 「人生詰んだ」「稀代の詐欺師」の声
水原一平容疑者「歯の治療」930万円だまし取りにX総ツッコミ「歯何本あるんだよ」「超合金?」
アンジャッシュ渡部建、不倫会見で事務所からの“口止め”明かす「墓場までもっていく話」
新木優子「可愛い 写真上手」“親友”谷まりあとフランスでの仕事後モロッコへ
クロちゃん「水ダウ」で驚き貯金額暴露し「たかりLINE」被害報告「めっちゃくる、なんなの」
「ふてほど」25歳女優“薔薇ブラ”でポロリ寸前?過激衣装に「見えちゃう」「刺激強すぎ」
ゆうちゃみ「大物芸人さんの隣でいびきを…」ロケでの失敗を告白「土下座レベルで謝りました」
ナダル「水ダウ」地方ロケで手抜きしツッコミ殺到「態度悪い」「興味なさそう」「なめ腐ってる」
三菱重工浦和FW清家貴子「レッズにいる限り本気でアジアとりたい」“女子ACL”決勝へ決意
フジモン久々「これ余談」出演で長く深いお辞儀 自虐ネタも濱家にツッコまれ…