増加しているSNSを媒体とした犯罪の現状

増加しているSNSを媒体とした犯罪の現状
『社会を明るくする運動』推進委員会 講演（東京都福生市）
教育ITアドバイザー・篠村 清人
本日の資料
スマートホンにてお手元で資料をご参照頂けます。QRコードをからアクセスください。（”Continue to distention”をタップ）
bit.ly/4k5KDSz
免責事項：本資料の内容は、公開情報等をもとに調査・作成したものであり、情報の正確性・完全性を保証するものではありません。ご利用の際はご自身の判断でお願いいたします。
自己紹介
篠村　清人
（しのむら　きよと）
普段は某通信会社にてプロジェクト推進や
先端IT技術の浸透活動を担当
福生市(四小地区)在中　一男(大学生)一女(高校生)と妻の四人家族
趣味：スキー、ランニング、ツーリング(バイク)、ドローン（撮影依頼受付中！）
1985年(昭和60年)　福生第四小学校卒業
　※四小CSを通じて教育DXに関する検討に参画中
本日の資料QRコード
（”Continue to distention”をタップ）
bit.ly/4k5KDSz
お問い合わせ・連絡は各種SNSにて
“sheknockson”で検索、DMからお気軽に！
目次
このプレゼンテーションは2つの主要パートで構成されています：
第一部
典型的なSNSを通じた犯罪事例
SNSプラットフォームを利用した詐欺や犯罪の一般的なパターンと事例について解説します。
第二部
AIが活用される最近のネット犯罪
AI技術が犯罪に悪用されるケースと、その対策について検討します。
第一部　典型的なSNSを通じた犯罪事例
ロマンス詐欺
SNS上で恋愛感情を利用して金銭をだまし取る手口。海外在住を装い、緊急事態や投資話で送金を求めてくることが多い。
アカウント乗っ取り
LINEなどのアカウントが不正アクセスされ、友人や家族になりすまして金銭や個人情報を要求する詐欺。
闇バイト勧誘
高額報酬を餌に若者を違法行為に誘い込む「ルフィ事件」などの組織的犯罪への入り口となる危険な勧誘。
未成年への接触
SNSを通じて未成年に接触し、誘拐や性的搾取などの犯罪に発展するケース。特に子どもの安全を脅かす深刻な問題。
SNSとは何か
LINE
日本で最も普及しているメッセージアプリ
X（旧Twitter）
短文投稿型SNS
Instagram
写真・動画共有SNS
TikTok
短尺動画共有SNS
SNS利用の広がり
8,452万人
国内ユーザー数
日本国内のSNS利用者数
79%
普及率
国民の約8割が利用
全世代
利用者層
高齢者から子どもまで
SNS犯罪の急増
1,665人
未成年被害
2023年18歳未満の被害者数
139人
小学生被害
低年齢化する被害
1,271億円
詐欺被害額
2024年、前年比2.8倍
SNSを悪用した主な犯罪
詐欺犯罪
投資詐欺・ロマンス詐欺・偽通販
なりすまし
アカウント乗っ取り・他人への成り代わり
児童被害
誘拐・性被害・脅迫
闇バイト勧誘
高収入をエサに犯罪加担を誘導
投資詐欺の手口
広告で勧誘
有名人を装い投資を持ちかける
LINEへ誘導
「今だけ」などと焦らせる
追加出資要求
偽の利益画面を見せる
音信不通
お金を受け取ったら連絡が途絶える
ロマンス詐欺の典型例
親密な関係構築
海外在住・軍人・医師などを装う
来日計画の提案
「会いに行きたい」と期待を高める
突然のトラブル
入国費用・医療費などの名目
送金要求
暗号資産・ギフトカードなど追跡困難な方法
アカウント乗っ取りの手口
フィッシングメール
偽のログイン画面でID・パスワードを盗む
不正ログイン
盗んだ情報で本人になりすます
友人へ接触
「急にスマホが壊れた」などと言い訳
金銭要求
「コンビニでカードを買って」と頼む
アカウント乗っ取り対策
2段階認証
最も効果的な対策
強固なパスワード
長く複雑な文字列を使用
不審なリンクを開かない
短縮URLに要注意
定期的な更新
パスワードは定期的に変更
「コンビニでカード買って」詐欺
友人を装ったメッセージ
「スマホが壊れた」「急に必要になった」
ギフトカード購入依頼
AppleカードやAmazonギフト券など
番号の写真送信要求
「後で現金で返す」と約束
事例①：SNSロマンス詐欺
被害内容
高齢男性が「アメリカ軍女性兵士」に約79万円送金
除隊手続き費用と偽って振込要求
情緒的な言葉で信頼関係を構築
手口の特徴
軍人という信頼性のある身分を利用
感情に訴えかける巧みな話術
海外送金という追跡困難な方法
FNNプライムオンライン
相手はイラク派遣の女性兵士！？「助けてあげたい」感情を利用し金銭だまし取る「ロマンス詐欺」被害者が語る実態｜FNNプライムオンライン
主に恋愛感情を抱かせて金銭をだまし取る「ロマンス詐欺」。今、被害が急増している。福岡県警によると2024年1月から4月にかけて、福岡県内で確認されたロマンス詐欺は70件。被害額は6億円にのぼっている。“助けてあげたい”という感情を利用されたと悔しそうに語るのは、ロマンス詐欺の被害に遭った福岡県在住のAさん（60代男性）。「通帳を見たら、79万円くらい振り込んでいる」と肩を落とした。最初のキッカケは、SNSを通じて送られてきたメッセージが始まりだったという。2023年の12月ごろ、インスタグラム…
事例②：LINE乗っ取り詐欺
被害内容
60代男性が親友を装うLINEに騙され20万円被害
Appleカードを購入させカード番号を送信させる
昼まで一緒にいた友人のLINEだと思い込む
防止策
友人からの急なお金の要求は必ず電話で確認
ギフトカード番号は絶対に教えない
コンビニ店員の声かけで被害防止例も
QAB NEWS Headline
そのLINEは“なりすまし”だった　電子マネーで２０万円要求
幅広い世代が、手軽に使っているＳＭＳのひとつ、通信アプリ「ＬＩＮＥ」ある日、親しい知人から届いたメッセージがまさかの詐欺だった、そんなケースが後を絶ちません。今、ラインのアカウントが何者かに乗っ取られ
事例③：SNS闇バイト・ルフィ事件
高額バイト勧誘
「日給3万円」などと若者を誘う
海外からの指示
フィリピンの指示役が犯罪を計画
全国で強盗実行
8件以上、60億円以上の被害
加担者も逮捕
「バイト」と思っても共犯者
note（ノート）
首都圏で相次ぐ匿流強盗事件　第2のルフィ・グループが登場？ 率爾ながら、これが収益を最大化する働かせ方だよね：佃均｜Around Seventy
TOPの図は警察庁『警察白書』令和6年版から  　匿流（とくりゅう）。 　ニュースやワイドショウのおかげで、すっかり耳馴染みになりました。「匿名・流動型犯罪グループ」のことです。 　「匿流」の「匿」はネットのアカウント／ハンドルネーム（匿名）のこと、「流」は闇バイトに応募した不特定多数の実行者が移動しながら犯行を重ねて行くさまが水を想起させるのでしょうか。場当たり的で杜撰な手口のため実行犯は次々に逮捕されますが、ネットに潜む指示役や最終収益者は正体すら分かりません。  ■じわじわ忍び寄る闇の不気味さ 　警察庁が「匿名・流動型犯罪グループ」と名付けたのは2023年の７月でした。定義は「S
事例④：未成年誘拐
1
SNSでの接触
悩みに共感し信頼関係を構築
2
家出の誘導
「うちに来ていいよ」と誘い出す
3
居場所の隠匿
連絡手段を制限し監禁状態に
4
発覚と逮捕
教員や中年男性が検挙される事例
東京新聞デジタル
「神待ち」のＳＮＳ投稿が未成年者誘拐に　新型コロナ感染拡大で女子中高生の被害が増加：東京新聞デジタル
未成年の少女が被害者になる誘拐事件が、今年に入って県内で急増している。特に会員制交流サイト（ＳＮＳ）に家出願望を投稿した女子中高生が被...
PDF file
インターネット利用に係る 子供の犯罪被害等の防止について
警察庁生活安全局人身安全・少年課
SNS犯罪被害者の特徴
孤独感
相談相手がいない
承認欲求
褒められたい気持ち
金銭的な悩み
経済的困窮や収入希望
知識不足
詐欺手口を知らない
SNS詐欺の警戒サイン
急かす言葉
「今だけ」「期間限定」「急いで」
高額リターン
「確実に儲かる」「元本保証」
秘密の取引
「誰にも言わないで」「家族に内緒で」
個人的な連絡手段
「LINEに移動しよう」「DMで話そう」
基本の対策：疑う習慣
疑問を持つ
「本当に友達？」と考える
立ち止まる
すぐに返信しない
確認する
別の手段で本人に連絡
相談する
家族や警察に話す
個人でできる具体的対策
アカウント保護
強固なパスワードと2段階認証の設定
プライバシー設定
個人情報の公開範囲を最小限に
リンク確認
不審なURLは開かず、公式サイトへ直接アクセス
アプリ更新
セキュリティパッチを常に適用
詐欺メッセージへの対応
やってはいけないこと
すぐに返信する
個人情報を教える
お金を送る
カード番号を教える
指示に従う
やるべきこと
別の手段で連絡
家族に相談
警察に相談
スクリーンショット保存
通報・ブロック
家族の合言葉を決めよう
秘密の合言葉作成
家族だけが知る言葉や質問
お金の要求時に確認
合言葉が言えなければ詐欺
家族全員で共有
定期的に合言葉を変更
地域ぐるみの対策例
コンビニ声かけ
高額ギフトカード購入時に確認
銀行ATM声かけ
高齢者の高額引き出しに注意
地域講習会
定期的な啓発活動実施
見守りネットワーク
地域の連携体制構築
コンビニ店員の声かけ事例
高額ギフトカード購入
高齢者が複数枚のカードを購入しようとする
店員の声かけ
「どなたに送られるのですか？」と確認
警察への連絡
状況に違和感を感じて通報
被害防止と感謝状
羽村市での実例あり
朝日新聞
特殊詐欺を3年半で7回防いだコンビニ、オーナーに感謝状　警視庁：朝日新聞
パソコンがウイルスに感染したなどと思い込ませて電子マネーカードを買わせ、お金をだまし取る。そんな手口の特殊詐欺を間際で防いできた東京都羽村市のコンビニ店オーナーに15日、警視庁福生署が感謝状を贈った…
子どもを守るための対策
オープンな会話
SNSの利用について話し合う
見守りアプリ活用
子どもの利用状況を把握
リテラシー教育
危険な兆候を教える
利用時間のルール
使用時間と場所の制限
子どもが知るべき警戒サイン
個人情報の要求
住所や学校名を聞かれたら要注意
秘密の約束
「親には内緒で」は危険信号
実際に会う誘い
オンラインで知り合った人との接触
過度な親密さ
短期間で急接近してくる人物
シニア世代向けSNS安全利用法
基本を学ぶ
SNSの仕組みを理解
プライバシー設定
個人情報を守る
友達限定公開
知らない人は承認しない
不安なら相談
家族や専門窓口に連絡
相談窓口を知っておこう
#9110
警察相談電話
全国共通の相談窓口
188
消費者ホットライン
消費者トラブル相談
03-3446-0999
国民生活センター
詐欺被害の相談窓口
警察への相談方法
証拠を保存
スクリーンショットやメッセージを残す
詳細をメモ
時系列や連絡先などを整理
最寄りの警察署へ
サイバー犯罪相談窓口を利用
オンライン相談も可能
警察庁サイバー犯罪相談窓口
SNSの安全な使い方
アカウント管理
強固なパスワード設定
プライバシー
個人情報の公開制限
3
3
友達管理
知らない人は承認しない
投稿の管理
位置情報をオフに
フィッシング詐欺の見分け方
送信元アドレス
公式とわずかに異なる
緊急性を煽る文言
「今すぐ」「24時間以内」
不審なURL
短縮URLや公式と似たドメイン
誤字脱字
日本語の不自然さ。自動翻訳と思いきや、別の狙いも。。
GIGAZINE
詐欺師はスパムメールにわざと誤字脱字を入れることでカモを選別している
スパムメールの中には「主人がオオアリクイに殺されて1年が過ぎました」というような意味不明な内容のものが存在しており、こうした荒唐無稽な文面には「詐欺にだまされやすい人だけを見つける」という意図があるとされています。同様に、海外のスパムメールにはわざとスペルミスや文法ミスを紛れ込ませて、文章をきちんと読まない人だけをふるいにかける手口があることを専門家が指摘しました。
被害に遭ったときの対応
被害拡大を防ぐ
関連アカウントのパスワード変更
証拠を保全
やり取りのスクリーンショット保存
すぐに相談
警察や消費者センターへ連絡
金融機関に連絡
カード停止やチャージバック依頼
SNS詐欺のリスク要因
経済的困窮
お金に困っている状態
急ぎの決断
考える時間がない状況
感情的な判断
恋愛感情や同情心に訴える
知識不足
詐欺の手口を知らない
SNS投稿の注意点
個人情報の保護
住所・電話番号は絶対に公開しない
現在地の公開制限
リアルタイム位置情報は危険
旅行情報は事後に
留守宅を狙われる危険性
子どもの写真に注意
学校名や制服が特定される可能性
写真投稿の危険性
写真に含まれる情報
位置情報（GPS）
撮影日時
使用デバイス
顔認識データ
悪用のリスク
住所の特定
行動パターンの把握
留守宅を狙った空き巣
なりすましアカウント作成
闇バイト勧誘の見分け方
異常な高報酬
「日給3万円〜」「簡単作業で高収入」
身分証明書の要求
悪用される恐れあり
具体的説明なし
仕事内容が曖昧
匿名の募集者
企業名や担当者名がない
暗号資産詐欺の特徴
非現実的な利益
「毎日10%増」「確実に儲かる」
架空の専門家
存在しない投資の専門家
期間限定の誘い
「今だけ」と焦らせる
個人ウォレット送金
追跡困難な送金方法
ZDNET Japan
ブロックチェーン分析で、リスクのある暗号資産取引を追跡するサービスを提供
[PR]技術的な知見と経験を生かして暗号資産取引の健全性の向上に貢献していくChainalysis（チェイナリシス）の菅原健司氏と重川隼飛氏にブロックチェーン分析について聞いた
詐欺師の心理操作テクニック
緊急性の創出
「今すぐ決断」を迫る
社会的証明
「みんなやっている」と安心させる
感情の利用
恐怖や孤独感に付け込む
偽通販サイトの見分け方
不自然な安さ
市場価格より著しく安い
SSL証明書なし
URLが「https://」で始まらない
企業情報の不足
住所・電話番号の記載がない
日本語の不自然さ
機械翻訳のような文章
LINEを安全に使うポイント
パスコード設定
アプリロック機能を有効に
端末認証
新規ログイン時の承認設定
公開範囲制限
IDでの検索をオフに
友達追加制限
知らない人は承認しない
家族間のSNS安全ルール
定期的な対話
SNS利用について話し合う
使用制限
時間と場所のルール設定
友達の確認
子どものSNS友達を把握
相談体制
困ったときの相談先を明確に
地域でできる防犯活動
啓発活動
地域でのセミナー開催
見守りネットワーク
高齢者を地域で見守る
情報共有
被害事例の共有と注意喚起
声かけ運動
コンビニや銀行での声かけ
事業者の対策と協力
コンビニ対策
高額ギフトカード購入時の確認
被害防止ポスター掲示
店員への教育研修
警察との連携体制
金融機関対策
高額引き出し時の声かけ
不審な送金の一時停止
詐欺被害相談窓口設置
高齢者向け安全講座
親と子のSNS利用ルール
利用時間
使用時間帯の設定
使用場所
リビングなど公共の場で
友達確認
知らない人は承認しない
定期的な対話
困ったことを相談できる関係
教育機関でのSNS啓発
情報モラル教育
授業でのSNS安全利用指導
保護者向け講座
家庭での見守り方指導
教職員研修
最新の犯罪手口を学ぶ
学校ルール策定
SNS利用のガイドライン作成
最後に：SNS犯罪防止の5原則
みんなで守る
地域・家族で連携
話し合う
孤立させない環境作り
学ぶ
最新の手口を知る
立ち止まる
焦らず確認する習慣
相談する
一人で判断しない
ご清聴ありがとうございました！
SNSの知識が「身を守る力」に
正しい情報を身に付けて
周囲にも伝えましょう
今日のお話を家庭や地域に広めてください
相談窓口
警察相談：#9110
消費者ホットライン：188
国民生活センター：03-3446-0999
福生市消費者相談室：042-551-1699
第二部　AIが活用される最近のネット犯罪　
ディープフェイク詐欺
AIによる顔・声のなりすまし技術を悪用した新たな詐欺手法が急増しています。
自動化された詐欺メッセージ
AIが自然な会話を生成し、大量のターゲットに個別最適化された詐欺メッセージを送信します。
SNS情報の悪用
AIがSNS上の個人情報を分析し、より説得力のある標的型攻撃を可能にしています。
SNSにおけるAI悪用犯罪の実態と今後の展望
近年急増しているSNS上でのAI悪用犯罪について、最新の事例分析から将来的な脅威予測、そして対策の動向までを体系的に解説します。AI技術の発展により、これまでにない手法で犯罪者がSNSプラットフォームを悪用する事例が日本国内でも相次いでおり、その実態と今後の展望について客観的かつ専門的な視点から検証していきます。
最近報告された具体的な事例
上記の表は、2023年以降に日本国内で報告された主なAI悪用型SNS犯罪の事例です。技術の進化とともに犯罪手法も多様化しており、従来の詐欺手口がAI技術によって高度化・効率化している状況が見て取れます。
犯罪の手口におけるAIの使われ方
対話型AIによる詐欺シナリオ・プログラム生成
ChatGPTなど生成AIの登場により、専門知識が乏しい者でも犯行のプログラム開発や計画立案が容易になりました。楽天モバイル不正契約事件では、少年がChatGPTを使って不正アクセス用システムを作り上げました。
画像・音声合成によるなりすまし
AIによる高精度な顔写真や声の合成は、偽の人物像を作り出す犯罪手口に革命をもたらしています。SNS上の投資詐欺広告では、有名人の写真にAI合成で本人そっくりの表情を作り出し、著名人がお墨付きを与えているように見せかけています。
ディープフェイク映像の悪用
ディープラーニングによる高度な映像合成技術も犯罪利用が懸念されています。政治分野では、岸田首相の偽動画のように、SNS上で偽情報を広め世論操作や名誉毀損を狙うケースが登場しました。性的ディープフェイクについても、一般人を含む裸・ポルノ合成が拡散し被害者の尊厳を踏みにじっています。
SNS上の自動化された誹謗中傷・デマ拡散
大規模言語モデル（LLM）は、瞬時に大量のテキストを生成できるため、ボットアカウントと組み合わせて特定個人への中傷投稿をばらまいたり、偽情報を大量拡散することが懸念されています。特にChatGPTのようなモデルを使えば品位を装った誹謗中傷文も容易に量産できるため、悪意ある者が名誉毀損キャンペーンに利用するリスクが指摘されています。
上記事例に見るように、犯罪者はSNSやインターネット上でAI技術を巧妙に悪用しています。生成AIの登場により、これまで専門的な知識や技術が必要だった犯罪行為がより容易になり、その規模と影響範囲も拡大しています。また、AIによる音声クローン技術と自動翻訳の組み合わせにより、外国人犯罪グループでも日本人になりすましたやりとりが可能となっており、国際的な詐欺グループの活動を助長している実態があります。
今後予測されるAI悪用の可能性と懸念点
1
特殊詐欺へのAIボイス・ビデオ本格導入
現在は自動音声案内程度に留まるケースが多いものの、今後は振り込め詐欺（特殊詐欺）で肉親や上司の声そっくりのAI音声やビデオ通話でのAIリアルタイム合成が悪用される懸念があります。海外では、ビデオ会議上で同僚全員がAI偽装され経理担当者が38億円を送金してしまった事件も起きています。
AIで訛りや話者癖まで再現可能となりつつあり、高齢者のみならず若年層でも騙される巧妙な詐欺が増える可能性があります。
2
ディープフェイクによる社会的混乱・信用失墜
写真や映像の合成精度向上により、SNSでの偽情報工作が現実味を帯びています。有名人の不祥事を捏造する画像や、政治家の偽声明動画が出回れば、一時的とはいえ世論を混乱させ市場や選挙に影響を与えかねません。
海外では国家が関与したディープフェイクプロパガンダの事例も報告されており、日本でも国際情勢や選挙への介入にAIが悪用されるリスクが指摘されています。現行の法制度ではこうした偽情報そのものを罰する規定が不十分であるため、対応が遅れる懸念があります。
3
大量のAIボットによる誹謗中傷・偏向世論形成
SNS上で無数の自動botが人間になりすまし発言することで、特定の人物への誹謗中傷を集中的に行ったり、ある話題に偏った意見が多数派であるかのように装う危険もあります。生成AIの発展で人間らしい文体や画像を量産できるため、一般ユーザーが見分けるのは困難です。
現在も匿名掲示板等での中傷問題は深刻ですが、AIによりその規模と速度が飛躍的に拡大しかねません。専門家は、被害拡大を防ぐためにプラットフォーム側でのボット検知技術の導入やユーザー教育の強化が急務だと指摘しています。
4
犯罪手口の高度化・自動化
AIの悪用は今後さらに多様なサイバー犯罪にも広がるとみられます。例えば、フィッシング詐欺サイトを自動生成・多言語展開する、不正アクセス用のマルウェアをAIが自律的に改良する、といった手口です。
2024年には日本で生成AIを使いランサムウェア（ウイルス）設計情報を作成・組み合わせた男が逮捕されており、AI利用のサイバー攻撃が現実化しています。今後はAIが犯罪者に犯行のアドバイスを与えたり、標的個人のSNS情報を解析して最適な攻撃方法を提示することすら考えられます。
AI技術の進歩により、これまで想定されていなかった新たな犯罪形態が出現する可能性も高まっています。特に顔・声・動作の合成技術は年々精巧化しており、人間の目や耳では偽物と判別することが困難になりつつあります。こうした技術的進化に対し、法制度や社会的対応が追いついていない現状は大きな懸念材料です。
日本政府・警察・SNS事業者による対策の動向
政府の総合対策と法整備検討
政府は2024年6月、「国民を詐欺から守るための総合対策 2.0」を初めて取りまとめました。この中で、SNS上で著名人になりすました偽広告詐欺への対策が柱とされ、プラットフォーム事業者に対し広告掲載前の審査基準の策定・公表、広告主の本人確認強化、詐欺に使われた偽アカウントの迅速な削除等を要請しています。
一方で、ディープフェイク画像・動画の作成行為そのものを禁じる直接的な法律は依然存在せず、法学者からは「現行法では被害救済が不十分」で早期の立法措置が必要との指摘もあります。
警察の取締りと技術対応
警察庁はサイバー犯罪対策の一環でAI悪用犯罪への対応力向上を掲げています。2023年以降、警視庁は生成AIで作成されたマルウェア事案の初摘発や、深層学習を駆使した新手のサイバー詐欺グループの検挙に成功しています。
各都道府県警も特殊詐欺対策としてAI音声を使った電話詐欺への注意喚起を強め、被害防止のためAI搭載電話機やATM利用者の挙動をAI分析する実証実験なども行われています。警察内部ではディープフェイク検出ツールの導入やAI専門部署の新設検討も報じられています。
SNSプラットフォーム側の対応
大手SNS事業者もAI悪用への対策強化を迫られています。Meta社は2024年4月に声明を発表し、「詐欺的な広告はポリシー違反として審査・削除しているが、世界中の莫大な広告を精査するには課題がある」と言及、今後の審査体制改善に努めるとしています。
前澤友作氏ら有名人が偽広告放置に対する集団訴訟を提起し、現在係争中です。このプレッシャーを受け、Metaは日本の第三者機関と提携したファクトチェックを開始し、偽情報拡散への対処を強化しています。主要プラットフォームはAI生成コンテンツのウォーターマーク（透かし）技術の導入も進めています。
教育・啓発と民間の取り組み
被害を未然防止するにはユーザー教育も重要です。総務省や消費者庁は「SNSで儲け話を見てもすぐ信じない」「音声だけでの要求には応じない」など注意喚起パンフレットを作成し周知しています。学校教育でもメディアリテラシーの一環としてディープフェイク動画の見分け方を教える取り組みが始まっています。
民間でも、ディープフェイク検知技術を提供する企業や、誹謗中傷対策の専門家団体が発足し、被害者支援や削除請求のサポートを行っています。今後は産官学が連携し、AIの健全な利活用と悪用抑止のルール作りを進めていく必要があるでしょう。
AI悪用対策は単一の組織や技術だけでは不十分で、政府・警察・SNS事業者・ユーザーが連携した総合的なアプローチが必要です。現時点では対応が後手に回っている面もありますが、問題の社会的認知が進むにつれ、法整備や技術対策も徐々に進展しつつあります。特に偽広告詐欺への対策は政府の重点課題として位置づけられており、今後さらなる取り組みの強化が期待されます。
まとめ：AI時代のSNS犯罪対策に向けて
9.5万件
世界のディープフェイクポルノ件数
2023年に確認された偽ポルノ動画は9.5万件超と4年前の5.5倍に増加し、被害対象の99%が女性です。日本でも一般人含む約200人分・3500本以上の偽動画がネット上に拡散しています。
8億円
最大の詐欺被害額
茨城県の71歳女性が森永卓郎氏や堀江貴文氏になりすました詐欺グループに約8億円を詐取される被害が発生しました。AI技術の悪用により詐欺の説得力が増しています。
122店舗
警察によるAI犯罪検挙事例
2023年以降、生成AIを使ったマルウェア開発やディープフェイク制作など、AI悪用型犯罪の検挙事例が増加しています。警察庁も専門部署の設置を検討中です。
日本国内におけるAI悪用のSNS犯罪はここ数年で現実の脅威となり、多様化・巧妙化しています。犯罪者はAIを武器に詐欺やなりすまし、ディープフェイク拡散を行い、一般市民や企業に大きな被害をもたらしています。
これらの犯罪に対抗するためには、技術・法律・教育の三方面からのアプローチが不可欠です。技術面ではAI生成コンテンツの検出技術やウォーターマークの義務化、法律面ではディープフェイク作成自体を規制する新法の制定、教育面ではメディアリテラシー向上と注意喚起の強化が求められます。
犯罪者がAI技術を悪用する一方で、それを検知・防御するためのAI技術も発展しつつあります。今後は官民連携のもと、AI時代に適応した新たな安全対策の枠組みを構築していくことが、私たちのデジタル社会を守るために不可欠となるでしょう。