AI規制動向(EU AI Act・国内ガイドライン)・データセキュリティと敵対的攻撃を確認する二問

週刊コラム /

同じ分野の二つの教材から、確認問題を一問ずつ選びました。自分の答えを決めてから解説を開き、迷ったところは元の教材で振り返りましょう。

このサイトの教材にある問題と解説を使う復習回です。会話は編集上の表現です。

教材の問題で振り返ろう

白銀 ゆき(普段) 白銀 ゆき

この確認の一問を、自分の言葉で振り返ってみます。

AI規制動向(EU AI Act・国内ガイドライン)

若葉 みどり 先生(普段) 若葉 みどり 先生

教材にある確認の一問を、考えてみましょうね。

若葉 みどり 先生(普段) 若葉 みどり 先生

EU AI Act のリスクベース・アプローチで『高リスク』に該当する典型例はどれか。

  1. メールの文章補正ツール
  2. 顧客向けチャットボット
  3. 採用選考システム
  4. ゲーム内のNPC AI
こたえと解説を見る

正解: 採用選考システム

採用選考システム。 雇用機会に直結するため、人生への影響が大きいAI として高リスクに分類されます。 リスク管理・データガバナンス・人間監督等の義務が課されます。

[出典]
教材: AI規制動向(EU AI Act・国内ガイドライン)

データセキュリティと敵対的攻撃

若葉 みどり 先生(普段) 若葉 みどり 先生

この教材の問題文と選択肢を、読んでみようね。

若葉 みどり 先生(普段) 若葉 みどり 先生

AIシステムへの『データ汚染攻撃(Data Poisoning)』の特徴として正しいのはどれか。

  1. 推論時に入力に微小な摂動を加える
  2. 学習時に悪意のあるデータを混入させ、モデルの挙動を歪める
  3. APIから情報を盗み出す
  4. ハードウェア破壊を伴う
こたえと解説を見る

正解: 学習時に悪意のあるデータを混入させ、モデルの挙動を歪める

学習時に悪意のあるデータを混入させ、モデルの挙動を歪めるのがデータ汚染攻撃。 推論時の敵対的攻撃と区別するのが頻出問題。 学習データの来歴管理(データガバナンス)が対策の核です。

[出典]
教材: データセキュリティと敵対的攻撃

解説から教材へ戻ろう

桜井 もも(普段) 桜井 もも

記事への案内を使って、用語の説明をたどってみたいな。

復習した教材

週刊コラムの一覧へ