Sexual deepfake harm rising among junior and senior high school students; Saitama police issue warning

Reports of sexual deepfake harm among junior and senior high school students are increasing. Saitama Prefectural Police and a volunteer group gave a lecture to about 230 students at a junior high school in Saitama City, explaining the risks of altering images of real people into sexual content with generative AI. Many cases involve students altering images of classmates or friends carelessly, and some images are posted on social media. The National Police Agency counted 123 cases involving people under 18 in the six months through June this year.

• Police and a volunteer group lectured about 230 students in Saitama City
• Many cases involve images of classmates or friends altered carelessly, some posted to SNS
• 123 cases under 18 in six months; about 95% were junior and senior high school students

中高生の間で「性的ディープフェイク」の被害が増えていることを受け、埼玉県警などは中学校を訪れて被害の防止を呼び掛けました。 　生成AIなどを利用して実在する人の画像を性的なものに加工する「性的ディープフェイク」が社会問題となっています。 　埼玉県警とボランティア団体は12日、さいたま市内の中学校で約230人の生徒を前に「性的ディープフェイク」の危険性などについて講義を行いました。 　同級生や友人の画像を安易な気持ちで加工するケースが多くみられ、SNSに投稿される被害もあると注意を呼び掛けました。 　講義の最後には理解度をチェックするテストが行われました。 参加した中学生 「1枚の画像からAIを使って全く違う画像に変わるのはすごい怖い。卒業アルバムとか、とても大切なものなのでそれが悪い方向に行くのは良くない」 　警察庁によりますと、全国で18歳未満の「性的ディープフェイク」による被害は今年6月までの半年間で123件確認されていて、すでに去年1年間の114件を上回っています。 　123件のうち中高生が約95％を占めますが、小学生の被害も3件確認されていて、最年少は11歳でした。 [テレ朝NEWS] https://news.tv-asahi.co.jp