AI社会実装カテゴリの総まとめ。人間とAIの協働パターン、責任あるAI(Responsible AI)の理解。
白峰 リリ
AIに任せるべきこと、人間が決めるべきこと、どう線引きすればいい?
神楽 モニカ 先生
いい質問ね。 答えは『重要度・可逆性・倫理性』で決まるのよ。 重要で不可逆、倫理的判断が絡むものは人間が決定。 ルーチンで可逆なものはAIに任せても良い、ということね。
紅林 かえで
これを実装パターンとして整理したのがHuman-in-the-Loop(HITL)・Human-on-the-Loop(HOTL)・Human-out-of-the-Loop(HOoTL)の3つ。
藍沢 しずく
違いを教えてくださいぃ♪
紅林 かえで
HITL=人間が判断ループの一部(医療診断: AIが候補提示、医師が決定)。 HOTL=人間が監視のみ(自動運転: AIが運転、人間は監督)。 HOoTL=人間関与なし(高頻度取引: 完全自動)。
白峰 リリ
要は、重要なものはHITL、定型的なものはHOoTLってこと?
神楽 モニカ 先生
そう。 これらを総合した思想が責任あるAI(Responsible AI)なのよ。 公平性・透明性・説明責任・プライバシー・セキュリティ・人間中心の6軸でAIを設計・運用する考え方ということね。
紅林 かえで
主要な実装ガイダンスとして、NIST AI RMF(リスク管理枠組み)、Microsoft Responsible AI(企業実装事例)、AI事業者ガイドライン(日本) などがある。
藍沢 しずく
AI社会実装も奥が深いですねぇ…
白峰 リリ
結局、技術だけじゃなくて、社会や倫理まで考える総合力が必要ってことか!
神楽 モニカ 先生
その理解こそデータサイエンティストに求められる素養。 DS協会のスキルチェックリストにも『行動規範』として明記されているの。
紅林 かえで
次は『試験対策・実践』カテゴリ。 計算問題とコード読解の総仕上げよ。
藍沢 しずく
がんばりますぅ♪
確認クイズ
医療診断におけるAIの利用形態として最も適切なのはどれか。
- AIが完全に自動で診断・治療法を決定する(HOoTL)
- AIが候補を提示し、医師が最終診断する(HITL)
- AIに一切関与させない
- ランダムにAIと医師の判断を採用する
こたえを見る
正解: 2. AIが候補を提示し、医師が最終診断する(HITL)
AIが候補を提示し、医師が最終診断する(HITL)。 医療診断は重要・不可逆・倫理的判断を含むため、AI単独ではなく人間が最終決定する Human-in-the-Loop が責任あるAIの原則に合致します。