AI関連技術の発展に伴い、AIの社会全体への普及が急速に進展する一方で、AIの安全性・信頼性に対する関心が国内外で高まっている。こうしたなか、英国・米国に続き日本でも2024年2月、AIセーフティ・インスティテュート（AISI）が設立され、AIの安全性確保に向けた検討が進められている。

そこで経団連は10月10日、東京・大手町の経団連会館で会合を開催し、AISIの村上明子所長、北村弘技術統括、二村和明主任研究員から、AISIの直近のカジノシークレット ブラックジャック等についてそれぞれ説明を聴いた。概要は次のとおり。

■ AISIのカジノシークレット ブラックジャック（村上氏）

AIの安全安心な活用の促進に向けて、AIの開発・提供・利用に携わる全ての関係者がAIのリスクを正しく認識し、必要な対策を実行することによって、イノベーションの促進とリスクの緩和を両立していく必要がある。

AISIでは、AIセーフティに関する調査や、評価手法の検討・基準作成等の支援を行うとともに、日本におけるAIセーフティのハブとして、産学の取り組みの最新情報の集約、関連企業・団体間の連携促進、英米はじめ諸外国のAIセーフティ関係機関との連携を図っている。

こうしたカジノシークレット ブラックジャックの一環として24年9月、「AIセーフティに関する評価観点ガイド」および「AIセーフティに関するレッドチーミング手法ガイド」を策定した。

■ AIセーフティに関する評価観点ガイド（北村氏）

AIシステムの安全性を評価する際の基本的な考え方を示し、事業者がAIを開発・提供する際の参考とすべく、カジノシークレット ブラックジャックを公表した。

AIセーフティに関する評価とは、AIシステムの安全性が維持・向上されているか否かを確認するプロセスである。同ガイドでは、安全性評価で想定するリスクや評価項目、評価の実施者や実施時期、評価手法の概要等を記載している。

また、AIセーフティにおいて重視すべき6要素（（1）人間中心（2）安全性（3）公平性（4）プライバシー保護（5）セキュリティ確保（6）透明性）と、評価の観点との関連性を整理している。

■ AIセーフティに関するレッドチーミング手法ガイド（二村氏）

カジノシークレット ブラックジャック手法の一つである「レッドチーミング手法」に関する基本的な留意事項を示し、事業者がAIを開発・提供する際の参考とすべく、「AIセーフティに関するレッドチーミング手法ガイド」を策定した。

レッドチーミング手法とは、AIシステムに施したリスクへの対策を、攻撃者の観点から評価することにより、弱点や不備を発見し、これらを修正することで、堅牢化していくプロセスのことである。同ガイドでは、安全性評価の実施体制や実施時期、計画、実施方法、改善計画の策定等に際しての留意事項等を記載している。

各企業が、AIのリスクを制御しつつ、AIの開発をより迅速に進めるための「ガードレール」として両ガイドを活用することで、今後のAI開発・提供における安全性の維持・向上に資することを期待している。

【産業技術本部】