山田太郎のさんちゃんねるで生成AIと違法コンテンツ問題が扱われましたが、内容は生成AIに関連する違法児童ポルノ問題でした。AIでの違法な児童ポルノをどう規制するのかという話だったのが、気がつくと、非実在児童ポルノの規制にまで一足飛びに話が広がりだしているという状況を説明しています。読売の記事、G7安全担当大臣コミュニケ、読売が根拠としてして報じた「チャイルド・ファンド・ジャパン」に触れながら、段々と雲行きが怪しくなってきているのがわかります。39分ぐらいから。

山田議員「AI関係なく、児童ポルノそのもの、別に非実在のもの（整理されている）のに、AIとの関係をすっ飛ばして、非実在のものについて規制すべきかどうかを協議の範疇として聞いてきているのではないか」
小山秘書「嫌なのもを法律で禁止するというのを一足飛びにいくというのを、世論調査とかでやるような問題でもない。科学的に立法事実があるのか。事実を調べるべき」
山田議員「違法ポルノはそもそも違法なのだけど、なぜか突然、非実在のものを混ぜてしまった」

小山秘書「元々違法なコンテンツが有りました。それを機械学習しました。パラメーターになってAIに残っていません。その段階でAIの学習行為はどうだったのですか？　法務省も全く考えていません。『機械学習ってなんですか？（法務省）』　学習してしまったモデルはどういう法的な評価を帯びるのですか。（法務省は）そこもまったく考えていません」

小山秘書「生成AIから実在児童の児童ポルノは論理的に出てくるんですか？という話もあると思います。そもそも実在しているものを出せるのですか。たまたま、出てきたら、それは実在の児童に似ていたからといって、それは実在児童の児童ポルノなのか、そうなのかも法務省は考えていない。
まずは現行法でどういう整理になるのか検討するのが第一だと思います。いきなり新しい法規制というのも違うのではないか」

山田議員「今日お伝えしたかったのは、AIは何でもかんでもけしからんという意見も多くて、その中で違法性のもの、が、児童ポルノ、いやいや非実在もどうなのか、という話でおかしいよねとやっていかないと、理屈っぽく党内で議論している議員はほとんどいない。こういう状態になってしまった。そこは体張って頑張るしかないかなと」