生成AI時代の新たなリスクに対応

株式会社夢ふぁとは、卒業アルバムと生成AIの取り扱いに関する教育動画の公開を開始した。近年、SNSや生成AIの普及により、卒業アルバム写真が不適切に利用される事例が急増している。写真と名前をセットで無断公開したり、面白半分の加工や拡散、性的嫌がらせ目的での編集などが問題となっており、生徒やご家族の心を傷つけるだけでなく、学校に関わるすべての人にとっても望ましくない状況だ。

技術・デザイン・運用の3本柱で問題解決

夢ふぉとは、AIという技術が発展し続ける限り、技術による対応だけではいたちごっこであり限界があるという観点から、「技術×デザイン×運用」の3本柱による問題解決への取り組みを進めていく方針を定めた。卒業・卒園アルバム制作に25年以上携わり、累計100万冊以上の実績を持つ同社は、安心してアルバムを届けるために様々な取り組みを進めてきた。

これまでの取り組みと新たな教育動画

同社はこれまで、生徒・保護者へ配布可能な注意喚起資料の無償提供、集合写真中心レイアウトや写真と名簿の分離といった個人情報に配慮した新レイアウト、スキャン防止仕様やコピーガード機能などの技術的な防御策を導入してきた。今回公開した動画は、生成AIを小学生でも使えるこの時代に、学校などの教育現場にて注意喚起動画として簡単に使用できる5分程度の内容となっている。子供たちにもわかりやすい簡単なアニメーションによる解説や、具体的なシチュエーションを例に挙げた動画構成によって、単なる「悪ふざけ」では済まないということを伝える内容だ。

法的リスクと将来への影響

卒業アルバム写真の不正利用は、単なる「悪ふざけ」で済まない場合がある。行為の内容によっては、名誉毀損やリベンジポルノ防止法、著作権法違反、個人情報保護法違反など、法的な責任や損害賠償の対象となる可能性がある。また、進学や就職の場面で不利になるなど将来に影響したり、インターネットに情報が残り続け長期的に影響が及ぶこともある。同社は「罰則の怖さ」ではなく、相手の気持ちを思いやり写真を大切に扱う心を伝えたいとしている。

出典: https://prtimes.jp/main/html/rd/p/000000034.000056114.html