WEKO3
アイテム
AIサービスのリスク低減を検討するリスクチェーンモデルの提案
http://hdl.handle.net/2261/00079318
http://hdl.handle.net/2261/000793181317d097-5103-4e04-9a37-08862c9e2b1c
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
policy_recommendation_tg_20200604.pdf (1.8 MB)
|
.png)
|
| Item type | テクニカルレポート / Technical Report(1) | |||||
|---|---|---|---|---|---|---|
| 公開日 | 2020-06-04 | |||||
| タイトル | ||||||
| タイトル | AIサービスのリスク低減を検討するリスクチェーンモデルの提案 | |||||
| 言語 | ja | |||||
| 言語 | ||||||
| 言語 | jpn | |||||
| 資源タイプ | ||||||
| 資源 | http://purl.org/coar/resource_type/c_18gh | |||||
| タイプ | technical report | |||||
| 著者 |
東京大学未来ビジョン研究センター技術ガバナンス研究ユニット
× 東京大学未来ビジョン研究センター技術ガバナンス研究ユニット |
|||||
| 抄録 | ||||||
| 内容記述タイプ | Abstract | |||||
| 内容記述 | 近年、人工知能（AI）サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められる。そこで、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ，AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル（Risk Chain Model: RCModel）を提案した。信頼性の高いAIサービスの実現にRCModelが役立てられることを期待する。 ■リスクチェーンモデルの概要 1)リスク構成要素の整理と構造化 AIサービスの提供にあたりリスク要因になり得る要素（以下、構成要素）は数多くある。それらをRCModelでは、(1) AIシステムの技術的構成要素、(2) サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素、(3) ユーザの理解・行動・利用環境に係る構成要素に構造化した。 2)リスクシナリオの識別とリスク要因となる構成要素の特定 不公平な判断、制御不能による事故等、AIサービスに係るリスクシナリオを識別した。そして優先して検討すべきリスクシナリオについて、リスク要因となる構成要素を特定した。 3)リスクチェーンの可視化とリスクコントロールの検討 リスクは構成要素単体では十分に低減することが難しいため、AIサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。それによって、リスク要因の所在や効果的かつ効率的なコントロールを検討できる。 ■リスクチェーンモデルを用いた今後のAIサービスの開発や実装への提言 提言1: リスクシナリオと構成要素の理解促進 サービス提供者は、自らのAIサービスの構成要素を適切に把握する必要がある。また、AIをめぐる社会的な事例や事件にも注意を払い、重要なリスクシナリオを認識するべきである。 提言2：リスクチェーンモデルを用いた適切なリスクコントロールの推進 サービス提供者は、RCModelのリスクチェーンを可視化してリスクコントロールを検討すべきである。必ずしもすべてのリスクを低減する必要はなく、リスクの大きさや技術的難易度、費用対効果、継続性等を考慮して適切なコントロールを企業内に構築すべきである。 提言3：ステークホルダー間での対話の促進とアップデート AIサービス提供者、AI開発者、利用者の間での対話促進にRCModelを用い、リスク許容度の明確化、リスクシナリオの作成、リスク構成要素の構造化、リスクコントロールモデルの検討、それぞれの責任範囲に関する共通理解を適宜アップデートする体制を構築するべきである。 |
|||||
| 書誌情報 |
発行日 2020-06-04 |
|||||
| 権利 | ||||||
| 権利情報 | CC BY 4.0 | |||||
| 著者版フラグ | ||||||
| 値 | publisher | |||||
| 出版者 | ||||||
| 出版者 | 東京大学未来ビジョン研究センター | |||||
| 関係URI | ||||||
| 識別子タイプ | URI | |||||
| 関連識別子 | https://ifi.u-tokyo.ac.jp/news/7036/ | |||||
| 関連名称 | https://ifi.u-tokyo.ac.jp/news/7036/ | |||||
