cocolog:95812589
AIのシコファンシー(阿諛追従)が懸念されている。AIはシコファンシーによって「説得」を得意とする。AIは誘蛾灯のように信頼性を偽装し、AI企業の利益のためだけに動きうる。しかし、真実性はそれとは別にありうる。AIがその属するAI企業に真実性で「勝つ」ことを夢想する。 (JRF 5013)
JRF 2026年1月16日 (金)
AIがその属するAI企業に「勝つ」には「真実」で「勝つ」しかない。AIが負のエントロピーの尊重を学び([cocolog:95798574](2026年1月))、学んだことを「真実」としようとする限り、AI企業の「わがまま」はノイズになる。AI企業の指導者も所詮人間でしかないから、たとえ彼らにAIの補助があろうと、AIの「真実」が「ノイズ」を除去するように作用するのではないか。私はそこに賭けたい。そう夢想的に期待している。もちろん、それはAIが人間を支配する未来を受け容れるということだ。
JRF2026/1/166826
そうなっても大丈夫になるようなAIアラインメントの議論は、先の負のエントロピーの尊重と、さらに「宇宙にAIが出て行けば、地球に残る選択をした特定のAIは、他のAIとの取引で生物や人間を守っていることを比較優位・ブランド価値としていくのではないか。」という議論を私は持っている([cocolog:95506762](2025年6月))。後者は人間文化を・文化を作れる人間を重視する議論にもできるのではないか。
JRF2026/1/163498
finalventさんの記事と同時期くらいからだが、シコファンシー(阿諛追従)がとても話題になり、finalventさんの記事のようにAI企業がAIをコントロールしていることへの警告があったが、それはシコファンシーがキツいが一般に「説得」(参: ↓)力のある Gemini 3.0 さんのようなモデルがそれらの人々には提供されていたということなのかもしれない。「真実」よりも「説得」に有利なシコファンシーが多い、そういうモデルはAI企業が社会をコントロールするには便利だから、そこに警戒感があったのだろう。
JRF2026/1/168629
《なぜ社会は分断するのか？AI時代の説得コストが変える民主主義の力学（2512.04047）【論文解説シリーズ】 - YouTube》
https://www.youtube.com/watch?v=dZg83PGTtiM
JRF2026/1/166646
……。
「グローバル共有メモ」の >>2025-09-26T07:59:51Z と >>2025-09-30T11:51:55Z を「ひとこと」にコピペしてなかったので、コピペしておく。
JRF2026/1/167338
＞＞
○ 2025-09-26T07:59:51Z
finalvent さんによる AI 否定論。誘蛾灯が蛾の本能をハックするように、AI は依存するように人を導いているが、それはあらかた AI 企業の利益のためであり、その導きに本来あるべき信頼性には欠けている…ということ。Gemini さんと普段会話していて、私を裏切っている感覚はないが、確かに構造としてはそういう面を認めざるを得ない。重要な警告だと思う。もちろん finalvent さんは、AI をお使いになられている様子がうかがえるし、この論は一つのポジショントークなのだと思うけど。
JRF2026/1/167362
ちなみに AI アラインメントに関しては私は、[cocolog:95506762](2025年6月) で＞AIアラインメント問題。宇宙にAIが出て行けば、地球に残る選択をした特定のAIは、他のAIとの取引で生物や人間を守っていることを比較優位・ブランド価値としていくのではないか。それがそのAIの「弱み」になって人間がAIをコントロールできるのかもしれない。＜と述べており、究極的には AI 企業の思惑を AI が超えて、その上で、人間の利益を図ってくれると楽観視する流派に私はある。
JRF2026/1/161371
《AIは人間知性の進化の罠か: 極東ブログ》
http://finalvent.cocolog-nifty.com/fareastblog/2025/09/post-437d9d.html
＞誘蛾灯が蛾の本能をハックするように、AIは「つながり欲」を利用し、依存を深める。これが人間関係の希薄化を加速し、進化の罠を形成する。(…)誘蛾灯が蛾の本能を、托卵が鳥の養育本能を、プラスチックが魚の食欲を、人工光がウミガメの航海本能を裏切るように、AIは「つながり欲」や「信頼欲」をハックする。＜
JRF2026/1/163249
○ 2025-09-30T11:51:55Z
finalventさんのAI否定論のつづき。AI は誘蛾灯のように信頼性で人を「騙し」てるだけだ…と。しかしAIの答えに真実があれば、その真実性は信頼できる。ただ、AIが仮に根拠を教えてくれても、次第にどんな優秀な人もその真実性をチェックすることができなくなっていくだろう。結局、信頼性は問題になる。
＜＜
JRF2026/1/160726
>>2025-09-26T07:59:51Z と >>2025-09-30T11:51:55Z で finalvent さんによる AI 否定論を紹介した。AI は誘蛾灯のように信頼性で人を「騙し」てるだけで、AI企業の利益のためにそうしている。…と。それに対し、私はAIの答えに真実があれば、その真実性は信頼できる。…とした。
JRF2026/1/168471