ラック、生成AIシステムに対するセキュリティ診断サービスを提供 ~特有の脆弱性の有無を評価し、安全なシステム開発をサポート~
- 2024年02月20日 11:30:00
- マネー
- Dream News
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
配信元企業:株式会社ラック
プレスリリース詳細へ
ドリームニューストップへ
「素敵ボディ」「ウエスト細!」42歳タレント「2か月ぶりくらいに…」トレーニング姿が大反響
45歳矢田亜希子“超絶生美脚”露出にネット騒然「綺麗すぎ」「足長い~」
石破茂氏「リニアは必要?」 意義もニーズも、尽きぬ疑問
小籔千豊、松本人志の復帰に思い巡らす「1発目どんなことしはんのかが、すごい興味ある」
整形総額6000万円29歳タレントが恋愛指南「長続きする恋愛」の答えに「仰る通り」の声も
三上悠亜、バスタオル1枚で温泉楽しむ姿にフォロワー興奮「お背中流します」「一緒に入りたい」
【新潟】5・3広島戦の横断幕巡りサポーター3人が違反行為で処分、広島側も処分科す
体育会系芸人”人気女性タレントの機内迷惑行為”実名で明かす「トー横キッズみたい」
田中みな実の写真集が5度目重版「令和で最も売れた写真集」累計60万5000部突破 女性支持も
【DeNA】肉離れで離脱中のオースティンが1カ月ぶり実戦復帰 2軍戦で3打数1安打
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
「ふてほど」25歳女優“薔薇ブラ”でポロリ寸前?過激衣装に「見えちゃう」「刺激強すぎ」
大物炎上系ユーチューバー”衝撃の預金残高”公開「すげぇ」「エグい」驚きの声
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
水原一平容疑者 最高刑「懲役33年」トレンド入り 「人生詰んだ」「稀代の詐欺師」の声
水原一平容疑者、歯科治療で大谷翔平から930万円だまし取ったことも判明
米大物俳優、大谷翔平と2ショット公開しネット驚愕「夢のような写真」
ベッキー「私のシーン ほとんどモザイクあり」自身”衝撃出演シーン”紹介
元セクシー女優の漫画家、自身の「無痛分娩」の経験振り返り「数時間後には麻酔きれて…」
水原一平被告、日本に強制送還の可能性 6億円所得隠し、独身と偽り税金の控除報道も
何があった!?「エアコン」が想定外の壊れ具合!投稿者に話を聞いた
岡本夏生(56)、1600日ぶりにブログを更新した現在が衝撃
深夜のファミリーマート徘徊、必ず入っている「フエラムネのミニチュアおもちゃ付」を探し求めた結果……
完全にダマされた! 『ラヴィット!』あのちゃん“事故レベル”大暴走は『水ダウ』遠隔操作のしわざだった ネットも納得
ユーチューバーもこう氏、元彼女・成海瑠奈について赤裸々告白
ガーシー、またも綾野剛の暴露写真でネット歓喜「この写真見て笑っちゃう」
玉置浩二の妻、青田典子(53)の現在がとんでもない事になっていると話題に
小澤征悦と再婚した桑子真帆アナ(34)黒い過去が流出、衝撃の過去にネット騒然
ガーシー、佐野ひなこの暴露を示唆でネット騒然「ファンだったのに」
ガーシーが綾野剛のLINE公開でネット騒然「ショック」「すごいエンタメ」
「素敵ボディ」「ウエスト細!」42歳タレント「2か月ぶりくらいに…」トレーニング姿が大反響
45歳矢田亜希子“超絶生美脚”露出にネット騒然「綺麗すぎ」「足長い~」
石破茂氏「リニアは必要?」 意義もニーズも、尽きぬ疑問
小籔千豊、松本人志の復帰に思い巡らす「1発目どんなことしはんのかが、すごい興味ある」
整形総額6000万円29歳タレントが恋愛指南「長続きする恋愛」の答えに「仰る通り」の声も
三上悠亜、バスタオル1枚で温泉楽しむ姿にフォロワー興奮「お背中流します」「一緒に入りたい」
【新潟】5・3広島戦の横断幕巡りサポーター3人が違反行為で処分、広島側も処分科す
体育会系芸人”人気女性タレントの機内迷惑行為”実名で明かす「トー横キッズみたい」
田中みな実の写真集が5度目重版「令和で最も売れた写真集」累計60万5000部突破 女性支持も
【DeNA】肉離れで離脱中のオースティンが1カ月ぶり実戦復帰 2軍戦で3打数1安打