ナッシュビルを拠点とするロックバンド、Sons of Legionがインターネットで火がついたのは2025年初頭のことだ。憂いを帯びたブルーズ寄りのアンセムが、InstagramやTikTok、Facebookで広まり、ファンたちは歌詞を引用しながら自分の人生と重ねた。50都市を完売で回るツアーをこなし、Jelly Rollのオープニングアクトも務めた。Facebookフォロワーは2025年1月の12,000人から、2026年には230万人を超えた。

だが人気が上がるにつれ、シンガーソングライターのAdam McInnisはSNSで奇妙なものを目にし始めた。見覚えのない場所で「自分」が歌っている動画。知らないうちに「誰かをデートに誘っている」自分。「ここ周辺でシングルの人がいたら会いませんか」というキャプションとともに拡散する偽投稿の数々。

「AIで作られていると分かった。でもコメント欄を見ると、見破れていない人たちがいた」とMcInnisはTimeのインタビューで語っている。

何が起きているか

今、Sons of Legionのファンを狙うAI詐欺の規模は凄まじい。バンドのマネジメントによれば、1日に50〜60個もの偽アカウントが生まれ、信者を取り込んでいる。Facebookでは、バンドの偽ページが数日で1万フォロワーを超えることもあるという。

手口はこうだ。ファンが本物または偽のグループに参加すると、McInnisやバンドメンバーの「Daddy Jack」を名乗るアカウントからDMが届く。会話が深まると、ZangiやTelegram、Signalといった「より安全なプラットフォーム」へ誘導される。そこにAI生成の音声メッセージや動画が送られてくる——中にはMcInnisのシャワーシーンとされるものまで含まれていた。「見ると、確かに自分に見える。体型まで似ている」とMcInnisは言う。

「交際関係」が構築されたところで、詐欺師はお金を要求する。ツアー費用や入院費という名目で、暗号通貨での送金を求める。バンドがインディペンデントであることも悪用されている。「ファンは私たちが自分たちのやり方でやっていることを知っている。だから『少し支援してほしい』という言葉を信じやすい」とMcInnisは語る。

被害は深刻だ。McInnisは「ライブ会場のミートアンドグリートで、毎回必ずと言っていいほど、偽の自分と交際していたと信じている女性が来る」と述べた。40年続いた結婚を捨てて5万ドルを送金したという人物の話もある。Sexsortionに発展するケースも確認されている。

なぜこれが重要か

ロマンス詐欺は新しいものではない。だが、AIは詐欺の質を変えた。

以前は「外国人ビジネスマン」などの匿名キャラクターを作るのが基本だった。今は実在する有名人の声と映像を本物そっくりにコピーして使う。「見分けがつかない」という言葉は、かつての詐欺被害とは重みが違う。

Sons of Legionが特に標的にされた理由も分析されている。ディープフェイクに引っかかりやすい年齢層のファンが多い。インディペンデントであるがゆえに「直接支援」の文化が根付いている。そしてファンコミュニティ内の感情的なつながりが強い——「誠実な人ほど騙される」という逆説がここにある。

プラットフォームはどう対応しているか

バンドのマネジメントはLoti（ディープフェイク検出スタートアップ）を使い、偽アカウントの追跡と削除申請を行っている。CEOのLuke Arrigoniによれば、Sons of Legionに関して350以上の偽ページの削除に成功した。ただし削除してもすぐに新しいページが現れる。「工業規模のモグラたたき」と彼は表現した。

MetaはTimeの取材に対して調査と対処を進めていると回答し、AIを活用した詐欺対策ツールの展開を挙げた。ただし偽アカウントは今も増え続けている。

Spotifyも別の問題を抱えている。McInnisによれば、Sons of LegionのSpotifyページのおすすめ欄に表示されるアーティスト——Aventhis、Breaking Rust、Doc Raven、Cain Walkerなど——は、そのほとんどがAIバンドだ。コスタリカの友人がSons of Legionを聴いていたはずが、気づけばそっくりなAIバンドに自動遷移していたという。Spotifyは「ファンが好きなものをより多く見つけられるよう取り組んでいる」とコメントし、AI表示に関する「Verified by Spotify」やAIクレジット機能を挙げたが、問題の解消には至っていない。

テネシー州のELVIS Act（2024年）は、本人の許可なく声・映像・肖像を使用することを禁じており、Sons of Legionはこの法律による保護も受けている。Lotiはこれを根拠に削除申請を行っている。

論点

「AIスキャマー」の問題には、複数の矛盾した視点が混在している。

プラットフォームの責任論——MetaもSpotifyも、AIコンテンツの急増に対応する仕組みを強化していると主張する。だが実態として、偽アカウントの増殖は止まっていない。

AI音楽全体への影響——McInnisは詐欺の問題とは別に、Spotify上のAIバンドとの「リスナー争奪戦」にも言及している。詐欺とAI音楽は本来別の問題だが、同じ「AI」という言葉でひとまとめにされることで、AI音楽全体へのイメージに影響する可能性がある。

被害者に向けられるまなざし——「なぜ騙されたのか」という問いは被害者に向けられがちだ。だが技術的にほぼ見分けのつかないディープフェイクが普及した今、それは正当な問いとは言えない。問われるべきはプラットフォームの責任と、技術の普及速度に法制度が追いついているかどうかだ。

今後どう展開しそうか

McInnisとバンドは今もツアーを続けており、音楽的には成功している。だがこの問題が個別のバンドだけの話でないことは明らかだ。Arrigoniは「Sons of Legionへの詐欺師も、いつか別の新しいバイラルバンドに移る」と言う。人気が出るたびに、新たなターゲットが生まれる。

AIツールのコストが下がり続ける中、ディープフェイク詐欺の規模は今後さらに大きくなるとみられる。プラットフォームが実効性のある本人確認やコンテンツ検出を整備しなければ、「バズったアーティスト」が抱えるリスクは事務所の大きさに関わらず同じだ。

作り手・聴き手への示唆

AI音楽を作っている人にとって、この話が自分ごとに映るかどうかは微妙なラインかもしれない。詐欺師はSunoやUdioを使っているわけでも、AI音楽を「発表」しているわけでもない。彼らはAIを「人を騙すツール」として使っている。

ただ、一つ確認しておきたいことがある。AIが普及することで「本物かどうかを確認する手間」が増え、その手間に耐えられないリスナーがいる——そのことが音楽体験に与える影響は、業界が想定していたよりも早く現れているかもしれない。「これは本当にあのバンドか」という疑念が頭をよぎった瞬間、音楽の感情的な効果はどこへ行くのか。

Sons of Legionのケースは、AI音楽の倫理議論が「著作権」や「労働」だけでは語り切れなくなってきていることを示している。

ソース