何が起きたか

GoogleのAI部門DeepMindは10月8日、AI生成コンテンツを判別するツール「SynthID Detector」を一般公開した。昨年まではメディア専門家向けの限定公開だったが、今後は誰でも無料で利用できる。

SynthIDは2023年にGoogleが開発したウォーターマーク技術で、画像・動画・音声にAIが生成したことを示す「見えないしるし」を埋め込む。検出ツールには現時点でGoogle、OpenAI、NVIDIA、Kakao（韓国）、そして近くAppleのコンテンツが対応予定だ。

Googleによれば、これまでに180億枚以上の画像・動画と、24万年分に相当する音声コンテンツをウォーターマーク済みだという。同社のVP Pushmeet Kohliは公式ブログで、「SearchやGemini、Chromeの組み込み検証機能は現在1日100万件以上のリクエストを処理している」と述べている。

今回の発表は、AIストリーミング詐欺師 Michael Smithへの有罪判決（懲役18ヶ月）の数日後というタイミングでもある。Smithは7年にわたって数十万曲のAI生成楽曲を各プラットフォームに流し込み、数百万ドルを不正取得していた。

なぜこれが重要か

「24万年分」という数字は音楽シーンへの問いを突きつける。それだけの量のAI生成音声がすでにオンラインを流通しているということだ。SynthID Detectorが一般公開されたことで、リスナーが個人レベルでコンテンツのAI判定を試みることが現実になった。

さらに重要なのは、今回の対応プロバイダーの顔ぶれだ。GoogleだけでなくOpenAI・NVIDIA・Appleが同一の検出エコシステムに乗ることで、ウォーターマーク技術は「Googleの独自路線」ではなく業界横断的なインフラとしての性格を帯び始めている。

背景にはEU AI Actの存在がある。同法はAI生成コンテンツを自動システムで識別可能にすることを生成AI製品に義務付けており、SynthIDはその対応手段の筆頭格として機能する。

論点・異なる見方

ウォーターマークには限界がある点は見落とせない。Googleも認める通り、フィルター加工やクロッピングには耐性があるが、人間が積極的に編集・改変したテキストや音声には追跡が難しい。OpenAIの「textGrain」もAnthropicの類似技術も、「完全には機能しない」と自社で警告している。

また、SynthIDの検出が機能するのはあくまでもウォーターマークを施したコンテンツに限られる。SynthIDを使わないツールが生み出したAI音楽は、このDetectorでは判定できない。Sunoの楽曲はSynthIDでウォーターマーク処理されているのか、公式には明言されていない。

音楽ストリーミング詐欺の文脈でいえば、Smith事件ではSynthIDは機能していなかった──7年間検出されなかった事実は、技術よりも流通側の監査体制の問題を示唆している。

今後どう展開しそうか

EU AI Actの本格施行が進む中、ウォーターマーク技術の普及は加速する公算が大きい。Appleの対応追加が「近日」とされていることも、モバイル音楽生成アプリへの波及を示唆している。

ただし「ウォーターマーク有 = 信頼できない」「ウォーターマーク無 = 人間が作った」という等号が成立しないことは、業界・リスナー双方が理解しておく必要がある。

音楽における「作り手の開示」をめぐる議論は、技術の整備とともに倫理・ビジネス・法制の三方向から同時進行で動いている。

作り手・聴き手への示唆

SynthID Detectorが一般公開されたからといって、AI音楽かどうかを判別することがそのまま「価値判断」につながるわけではない。ツールはあくまでも情報を提供するだけで、その情報をどう使うかはリスナー自身にある。

作り手の側では、自分の楽曲がどのプラットフォームを経由しているか、その流通経路でウォーターマークがどう扱われるかを把握しておく価値が出てきた。「作ったつもりがない表示」が将来の法的問題につながらないとも限らない。

ソース：