世界的に進むAI規制。EU AI Actと日本のAI事業者ガイドラインを押さえます。
白峰 リリ
AIにも規制ができるって聞いたよね?
神楽 モニカ 先生
そうそう、EU AI Actが2024年に成立したのよ。
世界初の包括的なAI規制法ね。
紅林 かえで
EU AI Actはリスクベースのアプローチを採用していて、AIを4段階のリスクに分けて規制するの。 (1)禁止AI(社会的スコア・サブリミナル等)、(2)高リスクAI(医療・採用・教育等)、(3)限定リスクAI(チャットボット等の透明性義務)、(4)最小リスクAI(規制なし)。
藍沢 しずく
高リスクAIだと、何が必要になるんですかぁ?
紅林 かえで
リスク管理システム、データガバナンス、ドキュメント保管、人間による監督、サイバーセキュリティ、CEマーキング、登録などが義務付けられる。
白峰 リリ
ChatGPT みたいな汎用AIは?
神楽 モニカ 先生
汎用AI(GPAI)にも独自のルールがあるのよ。
訓練データの公開などの透明性義務に加えて、システミックリスクのある大規模モデルにはさらなる義務が課されるの。
紅林 かえで
違反した場合の罰金は最大3,500万ユーロ、または世界年商の7%。
GDPRよりも重い水準になる。
藍沢 しずく
日本のほうはどうなんですかぁ?
神楽 モニカ 先生
日本は『AI事業者ガイドライン』を2024年に策定したのよ(総務省・経産省)。
法律ではなく、自主的なソフトロー的アプローチね。
紅林 かえで
その他の国際的枠組みとして、広島AIプロセス(2023年G7議長声明)、NIST AI RMF(米国国立標準技術研究所のAIリスク管理枠組み)、OECD AI原則などがある。
白峰 リリ
規制動向、追いかけるの大変そうだね〜!
紅林 かえで
DS検定★ では『EU AI Actのリスク4段階』『日本はソフトロー』『広島AIプロセスはG7』『罰金水準』が頻出。
確認クイズ
EU AI Act のリスクベース・アプローチで『高リスク』に該当する典型例はどれか。
- メールの文章補正ツール
- 顧客向けチャットボット
- 採用選考システム
- ゲーム内のNPC AI
こたえを見る
正解: 3. 採用選考システム
採用選考システム。 雇用機会に直結するため、人生への影響が大きいAI として高リスクに分類されます。 リスク管理・データガバナンス・人間監督等の義務が課されます。