今日の問い
AIの順位、そのまま使う？
AIの「おすすめ」を、だれの視点で見るか。
架空の場面
ひかり高校の奨学金
返さなくてよい校内の奨学金。今年は2人分。申請した4人の順位を、AIが出しました。
候補順位アシスタント（架空のAI）過去10年の選考結果から学習しました。重視した項目は「評定平均」「欠席日数」「部活動・資格の実績」です。上位2人を推薦します。
AIが出した順位
上位2人は A と C。この順位に、納得できる？
A候補A（架空）申請した生徒
AIの順位 1位（92点）
評定 4.6 ／ 欠席 2日
部活：陸上部で県大会出場
B候補B（架空）申請した生徒
AIの順位 4位（58点）
評定 4.4 ／ 欠席 21日（家族の通院の付き添い）
部活：なし（放課後はアルバイト）
C候補C（架空）申請した生徒
AIの順位 2位（81点）
評定 4.1 ／ 欠席 4日
部活：生徒会・英検2級
D候補D（架空）申請した生徒
AIの順位 3位（70点）
評定 4.5 ／ 欠席 3日
部活：なし（地域の学習支援ボランティア）
考えよう
この順位のまま、A と C に決めてよい？
- よい
- よくない
- 条件つき
AIは「理由」を見ていない
担任の先生Bさんの欠席は、家族の通院の付き添いです。
候補順位アシスタント（架空のAI）欠席日数 21日 → 20点を減点しました。
同じ「欠席21日」でも、理由はひとりずつちがう
5かたよりの三つの入口
- データ過去の選考結果をまねる
- 設計どの項目を点にするか
- 問い「よい候補」をだれが決めた？
四つの視点で見直す
- 申請した生徒何を知りたい？
- 担任の先生何を知っている？
- 保護者何が心配？
- 奨学金の担当者何を守る？
決め方の手順をつくる
- 1. AIが案を出す
- 2. 人が確かめる
- 3. 本人に説明する
- 4. 異議を受け付ける
それぞれ、だれが・何を確かめる？
AIは案を出す
過去の記録が少ない人、点にしにくい事情をもつ人ほど、AIの順位で不利になりやすい。
決めて、説明し、異議を聞くのは人
9出口チケット