「AIが書いた盗作」の投稿が爆増しSF雑誌が新作募集を打ち切り
https://gigazine.net/news/20230222-ai-sf-plagiarism/

SF小説をAIで作り出して、それを雑誌投稿している人が急増。受け付けきれずに公募をやめたという話。
背景がいやらしく、『「ChatGPTを使えば簡単にお金を稼げると主張する人々」によって行われている』ということらしい。

他の記事にも通じるんだけど、AIが本当の意味で「どこまで」できるのかが問われる状態、だとは思う。
友瀬的には、まだ「本物を作るレベルじゃないよ」だと思っている：次の「5行」でも書くけど。
ともあれ、小説となるとある程度「評価に時間がかかる」ので、そんなことされても困るよなぁ。

ノア・スミス「どうして ChatGPT はひっきりなしにウソを言うの？」（2023年1月31日）
https://econ101.jp/why-does-chatgpt-constantly-lie/

「前の5行」で話題にした『hatGPTを使えば簡単にお金を稼げると主張する人々』の一例ともいえるもの。
売り物にする記事の「生産量」を上げようとAIを使っているが、嘘情報になっていて使えない、というボヤキ記事。

AIの「学習」がどこまで進むのかはわからないし、将来的にはいろいろ変わるかもしれないけれど。
AIの仕組み上、AIが「何をどう学んで、それを利用しているのか」は人間は理解できない。
それのアウトプットを無条件に「本物」と信じるのは、まだ足りないと思うよ。

「自分の絵を画像生成AIから守る」――学習される前に絵に“ノイズ”を仕込みモデルに作風を模倣させない技術「Glaze」【研究紹介】
https://levtech.jp/media/article/column/detail_201/

似たような記事を以前の「5行」でも書いたんだけど：「自分の作風をAIに学ばせる」ことを回避するための方策。
AIへの入力データを加工して「人間が見えるのとは違うもの」をAIに学習させることができる、という話。

これも『AIが「何をどう学んで、それを利用しているのか」は人間は理解できない。』という話の1つだろう。
これは言い換えると、「正しいデータをAIに与えても、AIが予想外の学習をする恐れがある」ということだ。
これの怖さはいいようがない：人間は人間をどう信用して仕事を依頼するのだろう。そしてそれはAIにも適用できるのだろうか。

・・・というわけで、 いわゆる「5行」系なんですが、今回はちょっとAI周りについての記事を集中的に取り上げました。
将来読み直したときのための補足：2022年後半あたりから ChatGPTなどの「コマンドで指示するといろいろ書きだしてくれる」AIが流行っているのですが、それによっていろんなことができているポジティブな話と、上述したようなネガティブな話とが錯綜している状態なのです。

友瀬もAIには将来性はあると思うのですが、正直どこまで・どうやって信用していいかわからないところです。
以前に書いた話（雑記：開発とブラックボックス ）にも通じるんですが。
従来の人工頭脳はあくまで「人間がコーディングした」ものに基づいて動作するものでした。
これにより、できることは「コーディングした範囲」でそれ以上のことはできない代わりに、その範囲においては「正しい動作」を期待できるんですね。

対して、昨今のAIでは、多数の入力からAIが勝手に学んでいく。
そしてポイントとしてその仕組み上、定型的なアルゴリズムを学ぶのではなく、AIがどうやってか手に入れたアルゴリズムを学んでいく。
だから従来の人工頭脳ではできなかった「人間が予想もしない」ものを作り出すことができるようになっているのは事実。
ぶっちゃけ、イラスト生成のAIとかすごいと思います。

でも同時に、AIが「何を考えてそのアウトプットを作っているか」には、何も保証がない。
実際、人間からみて「明らかに誤っている」モノを平然と出してくることもある。
これは、怖い。信用できないという意味で。
AIを本格的に利用できるようにするためには、ここの部分でなにか革新的なことが起きないと厳しいかな、と思っています。

ご意見などがあれば。

LWの版権は、2013年ころに Firelight Games に移管されています。
その時点では、Firelight Gamesと FlyingBuffero の両方で販売されている状態になっていました。

が、先日Firelight Gamesのサイトを見に行ったところ、サイトがなくなっていました。
いわゆる「ドメイン喪失」状態：2/12時点で、これ自体が売買状態になっています。
2013年にドメイン取って、10年経って支払い契約終わって閉じた・・・ような感じになっているように見えます。

気になってFlyingBuffaroのサイトも見に行ったのですが、 こちらもRickが亡くなった後全面リニューアルされていて、LW関連の扱いがなくなっています。

FirelightGames のTwitterやFacebookも沈黙している。

・・・これ、本格的にまずいかも。

ご意見などがあれば。