AIを正しく社会に実装するための倫理3原則。公平性・透明性・説明責任を理解します。
白峰 リリ
AI倫理ってよく聞くけど、具体的には何に気をつければいいの?
神楽 モニカ 先生
主要な原則は公平性(Fairness)・透明性(Transparency)・説明責任(Accountability)の3つ。 業界では『FAT』とも呼ばれるわ。
紅林 かえで
公平性は『AIが特定属性(性別・人種・年齢等)に対し不当な差別をしないこと』。 訓練データの偏りや特徴量の選択でバイアスが入る。
藍沢 しずく
学習データが男性の写真ばっかりだと、女性の認識精度が下がっちゃう、みたいな?
紅林 かえで
そう。
有名な事例として、Amazonの採用AIが女性候補を不利に判定してしまった件や、Google Photosで黒人をゴリラと誤認した件などがある。
代表性のあるデータが重要。
白峰 リリ
透明性は?
神楽 モニカ 先生
AIの判断プロセスを開示できること。 LLMやディープラーニングはブラックボックスになりやすいので、説明可能AI(XAI)技術が重要視される。 SHAPやLIMEが代表例。
紅林 かえで
説明責任は『AIの判断結果について、開発者・運用者が責任を持つこと』。 『AIが言ったから』では通らない。 重大な意思決定にAIを使う場合、人間が最終判断するHuman-in-the-Loopが推奨される。
藍沢 しずく
大事な判断は人間がするんですねぇ。
神楽 モニカ 先生
そう、医療診断・採用・融資判定など、人生に大きな影響を与える判断は『AIが補助、人間が決定』が原則。 責任あるAI(Responsible AI)の核心よ。
紅林 かえで
DS検定★ではFATの3原則と、Amazon・Googleなどの有名事例、HITLの考え方が頻出。
確認クイズ
AI倫理の『公平性(Fairness)』に最も関連する事例はどれか。
- AI判断のプロセスを文書化する
- 重要判断は人間が最終決定する
- 採用AIが特定の性別や人種に不利な結果を出さないように設計する
- AIシステムの障害時に責任部署を明確にする
こたえを見る
正解: 3. 採用AIが特定の性別や人種に不利な結果を出さないように設計する
採用AIが特定の性別や人種に不利な結果を出さないように設計するのが公平性です。 訓練データのバイアスや特徴量の選び方が偏ると、AIが既存の社会的不平等を増幅してしまう恐れがあります。