WEKO3
アイテム
{"_buckets": {"deposit": "4609c593-0f3b-4b6d-8a4c-31dd757d6620"}, "_deposit": {"id": "54202", "owners": [], "pid": {"revision_id": 0, "type": "depid", "value": "54202"}, "status": "published"}, "_oai": {"id": "oai:repository.dl.itc.u-tokyo.ac.jp:00054202", "sets": []}, "author_link": ["160753"], "control_number": "54202", "item_8_biblio_info_7": {"attribute_name": "書誌情報", "attribute_value_mlt": [{"bibliographicIssueDates": {"bibliographicIssueDate": "2020-06-04", "bibliographicIssueDateType": "Issued"}}]}, "item_8_description_5": {"attribute_name": "抄録", "attribute_value_mlt": [{"subitem_description": "近年、人工知能(AI)サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められる。そこで、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ,AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル(Risk Chain Model: RCModel)を提案した。信頼性の高いAIサービスの実現にRCModelが役立てられることを期待する。\n\n■リスクチェーンモデルの概要\n1)リスク構成要素の整理と構造化\n AIサービスの提供にあたりリスク要因になり得る要素(以下、構成要素)は数多くある。それらをRCModelでは、(1) AIシステムの技術的構成要素、(2) サービス提供者の行動規範(ユーザとのコミュニケーションを含む)に係る構成要素、(3) ユーザの理解・行動・利用環境に係る構成要素に構造化した。\n\n2)リスクシナリオの識別とリスク要因となる構成要素の特定\n 不公平な判断、制御不能による事故等、AIサービスに係るリスクシナリオを識別した。そして優先して検討すべきリスクシナリオについて、リスク要因となる構成要素を特定した。\n\n3)リスクチェーンの可視化とリスクコントロールの検討\n リスクは構成要素単体では十分に低減することが難しいため、AIサービス提供者はリスクシナリオに関連する構成要素の関係性(リスクチェーン)を可視化することで、段階的なリスク低減の検討が可能になる。それによって、リスク要因の所在や効果的かつ効率的なコントロールを検討できる。\n\n■リスクチェーンモデルを用いた今後のAIサービスの開発や実装への提言\n提言1: リスクシナリオと構成要素の理解促進\n サービス提供者は、自らのAIサービスの構成要素を適切に把握する必要がある。また、AIをめぐる社会的な事例や事件にも注意を払い、重要なリスクシナリオを認識するべきである。\n\n提言2:リスクチェーンモデルを用いた適切なリスクコントロールの推進\n サービス提供者は、RCModelのリスクチェーンを可視化してリスクコントロールを検討すべきである。必ずしもすべてのリスクを低減する必要はなく、リスクの大きさや技術的難易度、費用対効果、継続性等を考慮して適切なコントロールを企業内に構築すべきである。\n\n提言3:ステークホルダー間での対話の促進とアップデート\n AIサービス提供者、AI開発者、利用者の間での対話促進にRCModelを用い、リスク許容度の明確化、リスクシナリオの作成、リスク構成要素の構造化、リスクコントロールモデルの検討、それぞれの責任範囲に関する共通理解を適宜アップデートする体制を構築するべきである。", "subitem_description_type": "Abstract"}]}, "item_8_publisher_20": {"attribute_name": "出版者", "attribute_value_mlt": [{"subitem_publisher": "東京大学未来ビジョン研究センター"}]}, "item_8_relation_25": {"attribute_name": "関係URI", "attribute_value_mlt": [{"subitem_relation_name": [{"subitem_relation_name_text": "https://ifi.u-tokyo.ac.jp/news/7036/"}], "subitem_relation_type_id": {"subitem_relation_type_id_text": "https://ifi.u-tokyo.ac.jp/news/7036/", "subitem_relation_type_select": "URI"}}]}, "item_8_rights_12": {"attribute_name": "権利", "attribute_value_mlt": [{"subitem_rights": "CC BY 4.0"}]}, "item_8_select_14": {"attribute_name": "著者版フラグ", "attribute_value_mlt": [{"subitem_select_item": "publisher"}]}, "item_creator": {"attribute_name": "著者", "attribute_type": "creator", "attribute_value_mlt": [{"creatorNames": [{"creatorName": "東京大学未来ビジョン研究センター技術ガバナンス研究ユニット"}], "nameIdentifiers": [{"nameIdentifier": "160753", "nameIdentifierScheme": "WEKO"}]}]}, "item_files": {"attribute_name": "ファイル情報", "attribute_type": "file", "attribute_value_mlt": [{"accessrole": "open_date", "date": [{"dateType": "Available", "dateValue": "2020-06-04"}], "displaytype": "detail", "download_preview_message": "", "file_order": 0, "filename": "policy_recommendation_tg_20200604.pdf", "filesize": [{"value": "1.8 MB"}], "format": "application/pdf", "future_date_message": "", "is_thumbnail": false, "licensefree": "CC BY 4.0\nhttp://creativecommons.org/licenses/by/4.0/", "licensetype": "license_0", "mimetype": "application/pdf", "size": 1800000.0, "url": {"label": "policy_recommendation_tg_20200604.pdf", "url": "https://repository.dl.itc.u-tokyo.ac.jp/record/54202/files/policy_recommendation_tg_20200604.pdf"}, "version_id": "a98d45c6-8cdb-48f3-af99-d71e5c405de6"}]}, "item_language": {"attribute_name": "言語", "attribute_value_mlt": [{"subitem_language": "jpn"}]}, "item_resource_type": {"attribute_name": "資源タイプ", "attribute_value_mlt": [{"resourcetype": "technical report", "resourceuri": "http://purl.org/coar/resource_type/c_18gh"}]}, "item_title": "AIサービスのリスク低減を検討するリスクチェーンモデルの提案", "item_titles": {"attribute_name": "タイトル", "attribute_value_mlt": [{"subitem_title": "AIサービスのリスク低減を検討するリスクチェーンモデルの提案", "subitem_title_language": "ja"}]}, "item_type_id": "8", "owner": "1", "path": ["8322", "8325"], "permalink_uri": "http://hdl.handle.net/2261/00079318", "pubdate": {"attribute_name": "PubDate", "attribute_value": "2020-06-04"}, "publish_date": "2020-06-04", "publish_status": "0", "recid": "54202", "relation": {}, "relation_version_is_last": true, "title": ["AIサービスのリスク低減を検討するリスクチェーンモデルの提案"], "weko_shared_id": -1}
AIサービスのリスク低減を検討するリスクチェーンモデルの提案
http://hdl.handle.net/2261/00079318
http://hdl.handle.net/2261/000793181317d097-5103-4e04-9a37-08862c9e2b1c
名前 / ファイル | ライセンス | アクション |
---|---|---|
policy_recommendation_tg_20200604.pdf (1.8 MB)
|
Item type | テクニカルレポート / Technical Report(1) | |||||
---|---|---|---|---|---|---|
公開日 | 2020-06-04 | |||||
タイトル | ||||||
タイトル | AIサービスのリスク低減を検討するリスクチェーンモデルの提案 | |||||
言語 | ja | |||||
言語 | ||||||
言語 | jpn | |||||
資源タイプ | ||||||
資源 | http://purl.org/coar/resource_type/c_18gh | |||||
タイプ | technical report | |||||
著者 |
東京大学未来ビジョン研究センター技術ガバナンス研究ユニット
× 東京大学未来ビジョン研究センター技術ガバナンス研究ユニット |
|||||
抄録 | ||||||
内容記述タイプ | Abstract | |||||
内容記述 | 近年、人工知能(AI)サービスや製品の社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、AIサービス提供者は多岐にわたるリスクへの備えが求められる。そこで、本政策提言では様々なAIサービス提供の形態の存在を踏まえつつ,AIサービス提供者が自らのAIサービスに係るリスクコントロール検討に資するモデル「リスクチェーンモデル(Risk Chain Model: RCModel)を提案した。信頼性の高いAIサービスの実現にRCModelが役立てられることを期待する。 ■リスクチェーンモデルの概要 1)リスク構成要素の整理と構造化 AIサービスの提供にあたりリスク要因になり得る要素(以下、構成要素)は数多くある。それらをRCModelでは、(1) AIシステムの技術的構成要素、(2) サービス提供者の行動規範(ユーザとのコミュニケーションを含む)に係る構成要素、(3) ユーザの理解・行動・利用環境に係る構成要素に構造化した。 2)リスクシナリオの識別とリスク要因となる構成要素の特定 不公平な判断、制御不能による事故等、AIサービスに係るリスクシナリオを識別した。そして優先して検討すべきリスクシナリオについて、リスク要因となる構成要素を特定した。 3)リスクチェーンの可視化とリスクコントロールの検討 リスクは構成要素単体では十分に低減することが難しいため、AIサービス提供者はリスクシナリオに関連する構成要素の関係性(リスクチェーン)を可視化することで、段階的なリスク低減の検討が可能になる。それによって、リスク要因の所在や効果的かつ効率的なコントロールを検討できる。 ■リスクチェーンモデルを用いた今後のAIサービスの開発や実装への提言 提言1: リスクシナリオと構成要素の理解促進 サービス提供者は、自らのAIサービスの構成要素を適切に把握する必要がある。また、AIをめぐる社会的な事例や事件にも注意を払い、重要なリスクシナリオを認識するべきである。 提言2:リスクチェーンモデルを用いた適切なリスクコントロールの推進 サービス提供者は、RCModelのリスクチェーンを可視化してリスクコントロールを検討すべきである。必ずしもすべてのリスクを低減する必要はなく、リスクの大きさや技術的難易度、費用対効果、継続性等を考慮して適切なコントロールを企業内に構築すべきである。 提言3:ステークホルダー間での対話の促進とアップデート AIサービス提供者、AI開発者、利用者の間での対話促進にRCModelを用い、リスク許容度の明確化、リスクシナリオの作成、リスク構成要素の構造化、リスクコントロールモデルの検討、それぞれの責任範囲に関する共通理解を適宜アップデートする体制を構築するべきである。 |
|||||
書誌情報 |
発行日 2020-06-04 |
|||||
権利 | ||||||
権利情報 | CC BY 4.0 | |||||
著者版フラグ | ||||||
値 | publisher | |||||
出版者 | ||||||
出版者 | 東京大学未来ビジョン研究センター | |||||
関係URI | ||||||
識別子タイプ | URI | |||||
関連識別子 | https://ifi.u-tokyo.ac.jp/news/7036/ | |||||
関連名称 | https://ifi.u-tokyo.ac.jp/news/7036/ |