OS05 AIガバナンスとセキュリティ
オーガナイザ
- 小澤誠一 氏 （神戸大学）
- 井上広明 氏 （神戸大学）
概要
AIガバナンスは、AIシステムの設計、開発、運用において倫理的かつ安全な利用を確保する枠組みと取り組みであり、特に、その透明性、公平性、説明責任を担保して、バイアスや差別の排除、基本的人権の順守、プライバシー保護を行う上で重要な役割を果たす。一方、AIガバナンスの実現に重要となるのがAIセキュリティであり、AIシステムをサイバー攻撃やデータ漏洩から守り、その信頼性と機密性を担保する上で必要不可欠な技術である。本セッションでは、これからのシステム開発で当たり前になっていくAIの導入において、我々がどのようにシステム設計、開発、運用を行うべきかをAIガバナンスとセキュリティの観点から議論する。
キーワード
- AIガバナンス
- 信頼されるAI
- 透明性
- 公平性
- 説明可能性
- AIセキュリティ
- AIへの攻撃と防御
- プライバシー保護
OS05 招待講演
AIセキュリティへの暗号学的アプローチ
講師
大塚 玲 氏 (情報セキュリティ大学院大学)
概要
AI技術の劇的な進化と急速な社会への浸透により，AIの意思決定が生命・財産や産業に大きな影響を与えるものになっている。AIによる自律的な意思決定から人間が徐々に排除されていく中で、設計原理としてAIのセキュリティを考慮する必要性が高まっている。しかし現実には，AIに対する新しい攻撃が毎日のように発見されており，提案されたばかりの対策技術がほどなく無効化されるといったイタチごっこが繰り返されている．連鎖を断ち切り，設計原理としてのAIセキュリティを構築するためには，対症療法ではなく，根治療が可能な方法論でAIセキュリティを構築することが望まれる．本講演では，セキュリティの中核をなす暗号学の立場からAIセキュリティにアプローチするいくつかの先行的な研究結果の解説を通じて，AIセキュリティに対する暗号学的アプローチの可能性を論じたい．