安全性評価の基準・手法を検討

「AIセーフティ・インスティテュート」では、（1）安全性評価に関する調査、基準などの検討、（2）安全性評価の実施手法に関する検討、（3）他国の関係機関との国際連携に関する業務――を実施する。

AIの安全性に関する基準・規格・ガイダンスなどのフレームワークを整備し、国際的な整合性も確保する。また、安全性に関する標準、チェックツール、偽情報対策、サイバーセキュリティなどに関する調査を実施する予定だ。

これらの業務を進める際には、米国・英国のAIセーフティ・インスティテュートや、海外諸国の同様の機関と連携を深める方針としている。

海外機関との連携を念頭に

関係省庁は内閣府、内閣官房、警察庁、デジタル庁、総務省、外務省、文部科学省、経済産業省、防衛省。このほか、情報通信研究機構、理化学研究所、国立情報学研究所、産業技術総合研究所とも連携して取り組む。

昨年12月21日のAI戦略会議で、岸田首相は「英国や米国ではAIの安全性研究を行う機関が創設されている。日本としてもこれらの海外機関と連携し、AIの安全性の評価手法の研究や規格作成などを行う機関が必要」と述べ、2024年早期に設立すると表明。これを受けて、IPA内に組織横断型チームを立ち上げ、準備を進めてきた。

▽関連記事
AI事業者ガイドライン（案）を取りまとめ…総務省・経産省
「三越伊勢丹オンラインストア」専用AIモデルの提供開始