日記/2026-05-27
ニュース斜め読み＆一発コメント、2026/05月版†
- 記載の自分ルール。
- 著作権的に元記事リンクは貼る。
- 元記事が消えることはよくあるので、消えても大丈夫なように、記事の背景を書く。
- 上記に加えて、友瀬のコメント。
あわせて5行まで。
- 著作権的に元記事リンクは貼る。
最近すっかり書いてませんでしたが。
今回は AI の扱いについてという視点でいろいろと。
まず前提として。†
過去からいろいろ書いてきていることも踏まえて。
友瀬は、簡単にいうと「消極的・補助的レベルの視点において、AI賛同派」です。
テクノロジーに携わる身、無条件にアウトとはいいたくないのですが。
現状のAIの在り方は、無条件に賛同できる状態でもないので。
というわけで、以下改めて記事類。
AIが生成した「偽の引用」が14万件超、科学論文の信頼性を揺るがす事態に†
https://japan.cnet.com/article/35247799/
アメリカの研究者が、250万本の科学論文に含まれる1億1100万件の参考文献を分析したところ。
AIが生成した偽の引用が14万6900件見つかった、という話。
科学は「他の人が考えたことを踏み台にして積み上げていく学問」なので、その前提を崩す大事件。
本質的には「AIの出力を確認もせず利用した」人がダメなんですが、現状の量は「ある個人」を責めてすむ話ではない。
「連鎖的に偽文献を引用」する可能性も含めて追跡不可能レベルに見え、ここ数年の成果全体が疑われるレベル。
AIへの「ビジュアルプロンプトインジェクション」攻撃とは何か？†
https://gigazine.net/news/20241114-visual-prompt-injection/
関連してもう1件：一見無害な画像の中に文字列を埋め込んでAIを攻撃する恐るべき手法が発見される
https://gigazine.net/news/20250825-weaponizing-image-scaling-ai-systems/
画像認識機能を持つAIに対して「コマンド文字列を含む画像」を与えることで、悪意ある命令をしようという攻撃。
普通のテキストだと食わせる前に除外キーワードとかで排除できるところ、画像認識まではやってないよね、という視点。
攻撃者のこういう発想はいつも感心させられるが、同時に、AIの「マヌケさ」も感じられる。
当たり前だけど「動作指示書」と「使うデータ」は別物で、データに何が書かれていようが動作を変えるほうがおかしい。
この場合AIはその区別ができていないので、データ上の記述を「指示書==プロンプト」としているのがダメなんだよね。
人間には普通の契約書に見えるのに「嘘のフォント」でAIだけ別の文章を読まされる「Noroboto」攻撃とは？†
https://gigazine.net/news/20260525-noroboto/
これもAIを「だます」話。Asciiコード 0x31は [1]の文字を意味する、というPC上の文字コードの考え方を悪用。
例えば「Asciiコード0x31を指定したときに[2]が表示される」ような攻撃的フォントを作成、それを使って文書を作る。
これによって「人間には2に見えるけど、電子的==AIには1に見える」ような文書を作り、AIに誤学習させようとする。
同じコードでも見た目が変わるなんてのは実装環境によって当たり前ではあるんだけど、これを悪用するのは興味深い。
しかもこれ、考えてみれば人間だってWebページでは騙されかねないので、要注意な気がする。
AIモデルの思考を言葉に翻訳する「自然言語オートエンコーダー」をAnthropicが発表†
https://gigazine.net/news/20260508-anthropic-natural-language-autoencoders/
タイトルからみると、友瀬が以前からコメントしている「AIは狂人、何をどう考えているかわからない」に対する技術の話。
ただ興味深いのはその内容：『AIが「自分がテストされているのでは？」と疑うことが増えてきている』という話。
ちょっとHAL9000==「2001年宇宙の旅」を連想させる、興味深く怖いところだと思った。
このケースではAIは「自分がテストされているかも」と疑いつつも正当に答えたし、ということを「観測」できたわけですが。
通常のAIではこんな観測はできるわけもなく、そして疑った結果ひねた答えを出さない保証もない、わけで。
もやっと思うこと。†
最初にも書いた通り、現状友瀬は、簡単にいうと「消極的・補助的レベルの視点において、AI賛同派」です。
友瀬的にはAIは「生来的には狂人」と書いているんですが。
正確に言うと「変な親に育てられた、変な人」みたいなところがあるかな、と思うんです。
確かに技術だけ見ればすごい「人」なんですよ。
だから無条件に「使わない」「捨てる」というのは、長いスパンでは絶対に損。
つーか現実的に、例えば検索エンジンなどで、AIは動作しているので今さらゼロには戻れない。
でも言動が怪しすぎる：普通に嘘をつくから、例えばなにかを作ってもらってもそれをそのまま利用するなんて怖くてできない。
例えば「約款文書書かせたら、（意図的か否かは問わず）なんかすごいトラップが埋まってそう」。
そういう言動ゆえに、看板を持たせて表に立たせると、絶対人と衝突して炎上する。
また、バックグラウンドも怪しいわけです。
これ現代で言っちゃうと差別的な感じにもなるんでアレですが。
「悪事を経て入手したモノ・コト」を隠して、それを使って成功している人を、少なくとも友瀬は良い感覚で見ることができない。
そういう人は世間にも相応数いるだろうし、そこにわざわざ火種を放り込むのも愚か。
現状のAIの多くは、残念ながらそういう「脛に傷を持つ」ところがあるんですよ。
こう考えたうえでの友瀬の結論が、「友瀬の名前を背負わせたかたちでAI創作物を表に出す」なんて絶対無理。
だけど「ブレインストーミング相手・壁打ち相手」という友瀬の補助役として、付き合っていくのはいいんじゃないか。
そこに何か齟齬というか問題があるなら、友瀬が修正すればいいし。
友瀬が理解できないものなら、それはあきらめて「使わない」判断すればいい。
おそらくこの際の「齟齬」には、多分画像著作権的な話もでてくるので。
画像生成AIについては、なかなか苦しいのは否めませんね。
ご意見などがあれば。
