日記/2025-11-10
2025-11-10 (月) 06:47:37
雑記:AI生成の怖さ†
いわゆるディープフェイクを用いることで、まずいことがいろいろ起きているようです。
また細かく書くかもしれませんが、とりあえずメモ的に。
[+]→続きを読む。
とりあえず気づいていることをいくつか書くと。
- いわゆる「有名人の発言偽造」が起きている。
- 以前だったら偽造が難しかった「映像動画・音声」が偽造でき。
結果、その人物が「そういうことを言った・やった」ような感じのものが出回る。 - 結果、「その人の名誉棄損」とか「有名人格を利用した世間誘導の武器」とかが起きる。
- 以前だったら偽造が難しかった「映像動画・音声」が偽造でき。
- いわゆる「嘘歴史」を示すような偽造物が出回っている。
- 例えば「黒人サムライ」とか「コンピュータの発展歴」とか。
わかっている人が見れば「嘘」とわかるが、それに初めて触れる人には「だって画像あるじゃん!」で真実になりうる。
- 例えば「黒人サムライ」とか「コンピュータの発展歴」とか。
性質が悪いのは。製作者の意図はともかくとしてこれが「(本当は存在しなかった)事実の証拠」になりうるということ。
いわゆる「フィクション制作」としてこういうことがやられるのは、必ずしも悪いとは思わないんですが。
あたかも「真実に見える」モノは、かなりやばいんです。
例えば「AIによる、白黒写真の着色」みたいなものがあります。
これ自体は、当時の雰囲気をよりリアルに感じるという意味で「善意」かもしれないんですが。
これによって例えば「間違った色」が、「実はこれが正しい色だ」という誤解を生むかもしれません。
またもっとメタな話をすると「あれ。この時代にもカラー写真が撮れたんだ」という誤解も生む。
繰り返しますが製作者の善意・悪意の有無は関係ない。
ただ「事実としてそういう画像がある」というだけで、それの真偽を知る手段が難しくなるんです。
正直どうすればいいのか、いい手も思いつかないので・・・
困ったものです。
ご意見などがあれば。

