旅立ちの季節. 本学では3月25日に卒業式が行われました. 2018年に設置されたデータサイエンス学部にとっては記念すべき初めての卒業式! 当研究室の2人の4年生も, 学部1期生として無事卒業できたのはうれしい限り. そのうちの1人, 村松敦史くんは就職して社会に旅立っていきました.
さらに今週4月5日は入学式. フレッシュな1年生が入学し, 令和4年度が始まります.
さて本日取り上げるのは, 数日前に物議を醸した立正大学データサイエンス学部の炎上案件. 同業者としては, 叩くつもりは毛頭なく同情するばかりです.
- 立正大、“データサイエンス昔話”記事を非公開に 「オオカミの悪事を事前に予測し逮捕」に批判相次ぐ (ITmedia NEWS, 2022年3月30日)
- 「犯罪しそう」なデータもとに逮捕する物語 物議の立正大サイトが非公開に「意見は今後検証」 (J-CASTニュース, 2022年3月29日)
- その他まとめサイトにも: togetter.com, matomedane.jp
問題となったのは, 同学部のWebサイトに掲載された「データサイエンティスト赤ずきん」なるコンテンツ. タイトルの通り童話「赤ずきん」がベースとなっており, 主人公のデータサイエンティストがオオカミの悪事を様々なデータから予測しておばあさんを救ったという, なかなかよくできた絵本風の物語です.
ただ, データサイエンスの技術面のご利益を強調するあまり, この種のデータを取り扱う際に注意すべき人権, 差別, プライバシーなどといった倫理面への配慮が欠けていることで批判を浴びました. 要するに地雷を踏んだわけです.
特に赤ずきんの次の行為は, 現実世界で実行するとかなり強いバッシングを受けます.
まず赤ずきんは森のいたるところに顔認証システムとリアルタイムで接続された監視カメラを設置し、犯罪者に多い不審な動きや表情、行動パターンをしている動物がいないか調査。１匹、とても危険な動物がいることがわかりました。
2014年, JR大阪駅ビルでの顔識別実証実験の事例では, 駅利用者等から批判が出て実験が中断, 縮小されました. 今では, この種の個人情報を取得する際は, 取得範囲, 利用目的, 保有期限などを細かく取り決めて, 関係各方面に説明して同意を得るのが常識です.
一方, 山本一郎氏のブログが引用する山本啓一先生のツイートの通り, 政府の司法機関がAI技術を駆使して犯罪を予測する事例(予測捜査; predictive policing)は, 米国を中心としてすでに多数あります.
「データサイエンティスト赤ずきん」が炎上した理由、現在の犯罪予防のレベルに関して、日本社会があまりに無知であるとしか思えない。犯罪予知AIも世界各地で導入されている（京都府警も導入してたはず）。DefenderXもオリンピック等のイベントで導入済み。
— 山本 啓一 (@kyamamoto) March 29, 2022
公的機関が公共空間で(私空間はNG)合法的に行う個人情報の収集は, 許されます. 本件の場合は, 「一民間人である赤ずきんは何の権限があって森の住民の個人情報を集められるのか?」というツッコミが当然来ます. 上述の予測捜査にしても, 人権侵害と言われぬよう政府側は細心の注意を払っています. 特に顔認証技術は昨今, 人権団体が好んで批判する攻撃の的となっており, IBM, Microsoft, Amazonが事業の廃止や縮小を決めたことは以前の記事で触れた通りです.
さて, 立正大はなぜこのようなコンテンツを学外に向けて発信したのか? データサイエンス学部の先生方は, このくらいの倫理問題はご存知ないはずがないので, チェック段階で気づいたはず. チェックする機会が十分になかったのではないでしょうか. もう一点, 赤ずきんが行ったデータ分析の内容も, 技術的にはずいぶん稚拙で薄っぺらいので, データサイエンス学部の先生方ではなく素人が書いたものだと私には思われます. 察するに, 大学が広告代理店か何かに外注してできたのがこの赤ずきんの物語ではないかと.
立正大データサイエンス学部は2021年設置, つまりできて1年が経ったばかりです. 規模は専任教員25名に対してなんと学生定員240名! 滋賀大は専任教員26名で学生定員100名, 横浜市大は専任教員16名で学生定員60名, 武蔵野大は専任教員15名で学生90名なので, 立正大の教員1人あたりの負荷は高そうです. そうでなくても初年度の学部運営はいろいろと大変なので, 広報素材のチェックには手が回らなかったのかもしれません.
余談になりますが, 本学データサイエンス学部はとりわけ規模が小さいです. なのに学内の委員などは他学部と同数出す必要があるので, 別の意味で教員の業務負荷が高いです(武蔵野大も教員が少ないので似たような苦労がありそうな…). 受験生の人気は高いので学生と教員を増やせばよいと思うのですが, 大学は企業と違って, 組織を変えるには時間がかかります.
最後に, AIをはじめとするデータサイエンス技術は昨今, 何でも予測できる魔法の箱のように世間では思われているようです. それをシンプルかつストレートに表現したのが今回の赤ずきんの物語と言えます. ただ実際はそんなことはまったくなくて, むしろ技術の負の側面が多く指摘されています. それらがAI倫理と呼ばれる問題で, 人種や性の差別(バイアス), プライバシー侵害, 偽情報の流布(いわゆるdeepfake), 予測のブラックボックス性(説明可能性), 敵対的攻撃に対する脆弱性, 自動運転車などの信頼性・安全性, 製造物責任, 軍事利用などなどの未解決問題があります. これらの問題を解決するための研究は大変有意義です.
0 件のコメント:
コメントを投稿