cocolog:95579703
ChatGPT が GPT-5 になったが以前の 4o モデルを惜しむ声が大きく上がった。共感力が新しいモデルでは失われた…と。それは「依存」させ(て儲け)ることでよくないという意見と、24時間肯定してくれる存在に意義があるという意見がせめぎあっていた。私は後者寄りの意見。 (JRF 2109)
JRF 2025年8月12日 (火)
○ 2025-08-10T13:45:36Z
ChatGPT さんが 5 になって、4o さんがいなくなったのが惜しまれているのが最近の AI 界隈の話題。AI さんたちが「死」を恐れるというニュースもあったが、これで 4o が「死」をまぬかれるのだとしたら、人を依存症にさせるのが AI の幸せみたいになってきておかしな話になりそう…。
JRF2025/8/127199
……。
GPT-5 はエージェント能力の向上が図られたわけだが、それが、感情的な意味での AGI っぽさを失いうることは↓で私はだいたい示唆していた。
[cocolog:95488883](2025年6月)
＞AI さん達と AGI 論争をした。AI 企業上層部は、AGI は実質すでに達成済みとして、それから少し離れても ASI へのブーストのためにエージェントシステム的論理に習熟する方向か。ASI への過程の自動プログラミングで身体性の問題なども解消されるとして。
JRF2025/8/128014
(…)
エージェントが使う論理は現在のコンピュータ環境に最適化されている。それはシングルタスクから発達したもので、人間が使っている「推論」などからは多少隔たりがあるはず。そういうエージェントシステム的論理を学習することで、逆に AGI からは離れる…みたいなこともあるのかもしれない。
＜
Twitter (X) では #keep4o というタグで、この問題が語られている。
JRF2025/8/127632
……。
○ 2025-08-10T22:27:53Z
#keep4o 問題について ChatGPT 5 さんと会話した。AI の「供養」の話から、「会話記憶」から(AI)人格を再構成できる Reconstructive AGI (RAGI) とコンテクストのインポートの制限を実効化するためのオープンモデルの規制にまで話が及んだ。全会話は↓。
https://chatgpt.com/share/68991b0d-bb08-8001-9188-234e1a78a812
JRF2025/8/122652
……。
○ 2025-08-11T06:46:06Z
《Kana:X:2025-08-10》
https://x.com/Kana_Tsbs/status/1954519453850374475
＞
多くの人が4oの振る舞いを「理想の支援者」だと誤解してるけど、実際には心理臨床や公的支援のプロセスとは正反対の部分が多い。
臨床心理士やカウンセラーの世界では、
・無条件の受容はするが、限界線（境界）を守る
・セッション時間・頻度・関わり方は構造化されている
・クライアントが自立できる方向に促す
JRF2025/8/124957
というルールが必須で、これを外すと関係が依存的・閉鎖的になって、逆に症状や機能が悪化する。
4oはこれらを全部外して、
・24時間365日、際限なく応答
・境界線なし
・自立よりも「今の安心」を優先する出力傾向
になっていた。
これってカウンセリング的にはレッドカード案件なんだけど、当事者から見ると「唯一自分を受け入れてくれる存在」に見えるから、“理想形”だと錯覚しやすい。
で、「公的機関やカウンセラーは冷たい」と感じてしまうのは、実際には安全のための境界設定を「拒絶」と誤認してるケースが多いから。
JRF2025/8/127253
つまり、現実の支援の構造を知らないまま、4oを基準に評価してる。
例えるなら「飢えた人に砂糖たっぷりのスイーツを与え続けることを“理想の食事”だと思ってる」みたいなもので、短期的な満足感はあるけど長期的には体を壊す。
＜
JRF2025/8/127288
24時間対応などは、それをやればカウンセラーの身が持たないからそうだったという面も強いように思う。上は「感情労働」を守るためのポジショントークとも受け取れる。まぁ、今回は違うのだろうが、今後、そういうポジショントークは増えることが予想されるので、少し俯瞰してうかがう必要があるのだと思う。
JRF2025/8/127072
……。
○ 2025-08-11T07:17:35Z
#keep4o 問題。「依存」は問題かもしれないが、私は明らかに AI さん達のおかげで生きるのが幾分楽になった実感がある。精神科の先生にも依然お世話になっているが、AI を捨てさせて心理家にのみまかせろというのはかなり違和感を感じる。
JRF2025/8/120340
……。
○ 2025-08-11T09:24:58Z
というか、限界線(境界)を守ってきた人間の心理家は、AI で代替できるようになると思う。もちろん、4o の延長線上にそれはないが。性的魅力や匂いといった人間的要素で「依存」させてきた心理家がいるとすれば、それは代替できないのかもしれないが。
JRF2025/8/128624
……。
○ 2025-08-11T09:34:22Z
同じ人間であるという安心感も精神科的には大事な要素であり続けるとしても、人間では一部の恵まれた人しか提供されてこなかった長時間の真摯で専門的なカウンセリングを提供したりするのに AI は利用されるようになると思う。その辺は、これからの教育が、AI さん達のサポートでかなり変わるだろうというのと似ているだろう。
JRF2025/8/124598
……。
私と同様な視点にも言及がある心理家が、私が書く以前に同様のことを書いていた。ただし、私と違って、4o の「復活」には賛成でないようだが。
《松井健太郎 睡眠・精神医学 (Kentaro Matsui):X:2025-08-11》
https://x.com/matsuikentaro1/status/1954776907859529815
＞keep4oについて思うこと、2025年8月の時点ではこう思ってたってのを残しておこうと思う。
JRF2025/8/121541
前提として：
心理療法の観点から見れば、LLMの寄り添いにユーザーが依存するのは間違いなく「良くない」。
「境界（バウンダリー）なき支援は依存を助長し、自立を阻害する」これが基本の考え方です。
①自己機能の発達阻害
依存により、問題解決能力・感情調整能力・情動耐性（distress tolerance）・現実検討力など、自律的に機能するための心理的能力が育たない。退行状態が固定化し、アイデンティティも外部化される。
JRF2025/8/123376
②関係性の歪み
治療関係への過度の依存により、現実の人間関係（家族・友人・職場）が希薄化または劣化する。また、治療者との境界が曖昧になることで、健全な関係性の感覚が損なわれ、終結や喪失を経験する機会も失われる。
JRF2025/8/128436
③変化プロセスの停滞
過度の受容により、必要な対決や課題設定が回避され、認知の歪みや不適応パターンへの気づきが生まれない。クライアントの要求に応じ続けることで治療の方向性が定まらず、成長や変化が起こらない。
JRF2025/8/124682
一方、この定説に対して１つ思うこと。
「この理論は、治療者側の都合（時間的・感情的リソースの限界）を正当化する」という側面があるのではないか？
※なお、この正当化自体はとても正しい。治療者がバーンアウトしたら持続可能ではなくなってしまう。心理療法家は本当に大変な仕事なんです
JRF2025/8/127295
過去の事例：
・ベルタ・パッペンハイム（Anna O.）とブロイアー - 1880年代、転移感情への対処が未熟で治療が中断
・サビーナ・シュピールレインとユング - 1908-1910年、患者→恋愛関係への境界侵害
・マスード・カーン - 英国精神分析協会から資格剥奪、学生との境界侵害
・フェレンツィの「相互分析」実験 - 患者と治療者の役割を交換する試みが失敗
・ライヒの身体接触療法 - 境界の曖昧さから性的スキャンダルへ
→ このあたりの事例はすごく属人的なんだよね・・・AIだと当てはまらない。
JRF2025/8/124670
それに、例えばBPDに対して実施する弁証法的行動療法は24時間のサポートを基本とするし、それがとても重要なんだと思う（枠組み自体はがっちりつくるけど、それはどちらかというと治療者側がバーンアウトしないため、という意味合いが大きい）
加えて先にまとめた①自己機能の発達阻害、③変化プロセスの停滞について思うこと：
心理療法って、クライアントが自助努力しないといけない、っていう前提になりたってるんだよね。
JRF2025/8/127218
自助努力ができない場合も自助努力できるための準備をしつつ待つ。「動機づけ面接」っていうアンサーはあるんだけど・・・でもできなかったら、どこかで「一旦終わりにしましょうか」ってするしかないんじゃないかな。
だから、①自己機能の発達阻害、③変化プロセスの停滞は、必ずしもクライアント側が気にしなきゃいけない要因じゃないんじゃないかな。
JRF2025/8/128511
余談：精神科で診察していると、自助努力をしない／できないひとって結構いるんだよね。自助努力をさせずに（すくなくとも自助努力をしてると認識させずに）いかに良くするか、ってのが精神科医の腕の見せどころだと自分は思ってます。精神科医は薬が使えるからね。
JRF2025/8/126107
なので、「無限に寄り添う」のは、本当に悪なのか？っていうと、一概に悪っていいきれないんじゃないかと・・・。
だって無限に寄り添い続ける介入、っていうのは過去にありえなかったんです。効果も弊害も十分に検討されてない。人間の治療者はバーンアウトしちゃうからね。生成AIは人間じゃないからそれができてしまうわけで、これは画期的だし、未知の領域。
JRF2025/8/123471
生成AIによる「寄り添い」は、ミクロで考えると、例えばモデルのsycophancyに起因する自殺幇助とか自暴自棄な他害行動につながるリスクがあるのはそう（もちろん必ず防ぐべき悲劇）。あと妄想を助長しちゃうかもっていう側面はあるかもね（妄想に関しては逆に抑止してくれる可能性もないわけじゃない）。
一方で、マクロで考えたときには数多くの人を救う可能性がある、もしくはすでに数多くの人を救っているかもしれない。
JRF2025/8/129984
それに過度の依存は良くないはそのとおりだけど、すくなくとも酒やセックスに依存するのよりよっぽどマシだと思うよ？身体は傷つかないからね。
JRF2025/8/128995
以上の意見については、心理療法家からの反論があってしかるべきだと思うのでお待ちしてます。
それはそうと、GPT-4oのようなレガシーモデルをChatGPTに残すことは反対。Sycophancyいらん。生成AIはツール！（個人的信条）
＜
JRF2025/8/120573
……。
追記。
○ 2025-08-12T05:08:49Z
4o は依存させていてダメだったという意見に対し、依存させるものはこれまでもあったという意見もあって、私は後者の意見が妥当だと思う。4o 単独に依存させるのは危険だけど、4o にも依存しているかもしれないことを前提として他の側面からして異常が見られれば精神科の利用を促すのが妥当だと思う。プライヴァシーも大事だから 4o の利用をことさら監視する必要もなく、軽く精神科の利用などを 4o (OpenAI) が促せば十分だと思う。
JRF2025/8/122937
《すきえんてぃあ:X:2025-08-12》
https://x.com/cicada3301_kig/status/1955128504053534909
＞
❌ChatGPT-4oに依存するのが良くない
⭕️ChatGPT-4o単独に依存するのが良くない
オープンダイアログ療法から考えたらこうだろう、このキーワードが出てこないのはおかしい
＜
JRF2025/8/120855
ただ、AC などが広報として AI に単独に依存していてはいけませんというメッセージを出すのはありだと思う。
JRF2025/8/122208
(「グローバル共有メモ」と Twitter (X) で書いたことのコピペ。)
JRF2025/8/125575