cocolog:96086657
安全のため(AI補助の下)人間にわかる範囲の社会に留めるためには、「オープンモデル」へ公共投資し「わかる範囲」を広げる教育が重要となる。そのために、まずは、会社指定のAI以外の「シャドーAI」利用を特別料金(管理ソフト利用料・保険料など)を取って半公認していくべきなのだろう。 (JRF 2905)
JRF 2026年7月28日 (火)
……。
……。
議論のはじまりは、最近 AGI に達したかも…といった話題から。AGI に達したかも…という論調は、モデルが新しく出るたびにあるので、今さら感はあるのだが。
JRF2026/7/289908
○ 2026-07-27T11:22:38Z
AGIがまた話題。でもロボット(フィジカルAI)の進展が思ってたより遅いというのはある。AGIはロボットとは別という議論もあるが、やはり一般層に訴求するためにはそこが目に見える必要があるように思う。そこに向けて何ができるのか…AttentionPatternDiffusion ([cocolog:96071584](2026年7月)) とか考えはするのだが…。私が考えることぐらい、他の人も考えてるだろうし、その上で、やはり進展が遅いのだろうからなぁ…。
JRF2026/7/285794
……。
○ 2026-07-27T11:38:04Z
人型ロボットとかにこだわる必要はなく、AIが回路を組み、機械を設計できる、エラー処理ができる…というだけでできることは広がっているから、それだけで可能になる工場とか農業とかホテル業とかあるのだとは思う。そこがまず先なのかな…。
JRF2026/7/283781
……。
……。
ここまでは話の枕で、ここから本題…AIアラインメント論的な議論に入っていく。
keyword: アラインメント
JRF2026/7/284086
○ 2026-07-27T21:56:10Z
Mythos のような最先端モデルは、高い金を払って国家などが使い、それで投資を回収するが、遅れたモデルは「無料」でオープンで公開され、それを農業ロボット等が「無料」で使え、農作物などの価格が安くなる…それが分配になる…という方向が見えてきているのかな…と思う。ただ、「オープンモデル」を動かすにも「デカいPCとサーバー」が必要で、その点は、国家が「公共事業」として補助するようになるのかもしれない。
JRF2026/7/288422
電力やロケットを含め「工場」の設計・製作には最先端モデルが必要だが、それは危険なので一般には公開されず、そこを使えなくしたもののみが「オープン」で使えるようになる。Claude の Mythos → Fable → Opus とかのラインを見てるとそういう想像が働く。Opus とか Sonnet は、オープンモデルを「デカいPC」を用意して使うのよりは安価に提供できることで価格競争力を持つようになるのかもしれない。オープンモデルはむしろ、頻繁に更新されたりすると逆に困るような領域に利用されたりするようになるのだろう。
JRF2026/7/281895
……。
○ 2026-07-27T22:53:25Z
「安全」は人にとっての安全なので、(地球上では)結局は「(AIが補助すれば)人間にわかる範囲」でしか、「工場」の運用でも使えないだろう。その範囲に「オープンモデル」は能力が制限されるし、「オープンモデル」の能力を上げようと思えば、「(AIが補助すれば)人間にわかる」ことへ投資せざるを得ない。しかし「オープン」である限り、その投資が企業体では回収できないのかもしれない。
JRF2026/7/289694
将来の Kimi などが危険な状態で公開されているとする。最先端モデルはそれへの対策を望まれるが、他のインフラ等がかかわる問題なので、原理的に完全対策はできない。すると、Kimi などを使うことも禁じられなければならない。ただ、「デカい PC」が必要なので、ある程度の規制は有効に働くだろう。
JRF2026/7/284518
ロシア(の一部)など国家レベルのものが Kimi を危険な方向に使ったらどうなるか？ 隠れて使っているのを叩けるか？ 叩けないだろう。安全策が十分でないから自滅する…といいたいところだが、人間には理解不能な安全策があって、それが他の国家では「頭が固くて」使えないから、逆に安全になるという道もあるのかもしれない…。
ただ、「(地球上で)人間にとっての安全」は意外に収束していくべき性格のもので、「(AIが補助すれば)人間にわかる」ことへの国家などによる投資は、「脱法国家」にもいずれ利用され、意味がないことはないのかもしれない。
JRF2026/7/280297
……。
「(AIが補助すれば)人間にわかる範囲」というのは、過去記事↓。
[cocolog:96076134](2026年7月)
＞「AIの暴走を防ぐ」などの名目で、人間がわかる範囲(AIに補助してもらって)の経済に留める必要があり、そこに有限な注意資源を割り当てねばならないのだから、人間の(注意)労働はむしろ増えこそすれ減りはしない(参:[cocolog:95851508](2026年2月)・[cocolog:96048451](2026年6月))。＜
JRF2026/7/281336
[cocolog:95851508](2026年2月)
《AIの真実性はやがて監査できなくなる。宇宙からもたらされるAIの生産力を信認した上で、人間は人間にわかる(AIに補助してもらった)シミュレーションの範囲でのみ社会を構成する。それが、「AIの監査」になるのだろう。AIの解釈・社会への適用に専門家の必要性は残るだろう。 - JRF のひとこと》
http://jrf.cocolog-nifty.com/statuses/2026/02/post-5f7d47.html
JRF2026/7/288099
……。
○ 2026-07-28T01:10:37Z
「(AIが補助すれば)人間にわかる」ためには人間の教育も大事となる。「オープンモデル」の推論は公共事業として提供される。そういう意味では「オープンモデル」自体がある種の国家事業となっていくのだろう。ただ個々の人間は教育の成果を自分のものにすることを正当だとは感じるままだろう。「自分(達)だけにはわかる」ということをなんとかして保護したいと思うだろう。
JRF2026/7/283318
しかし、それを資格試験のようにしてしまうと子供を育てているような社会の核となる層が多く脱落してしまう。そこで集団として Humanity's Last Exam みたいな「ベンチマーク」を AI に与えられてそれを解ける集団が、「オープンモデル」サービスを販売するみたいな形になるのかもしれない。大学の意味が変わるのかもしれないな…。
JRF2026/7/285528
……。
大学については、(私立)大学などからリモートで国会の審議会などに参加できる方法を考えてたり([cocolog:94895713](2024年6月)や[cocolog:95000533](2024年8月))、シコファンシーや説得を通じてAI企業の利益を追求するAIに対し、真実性を担保するために大学が必要といった議論([cocolog:95858241](2026年2月))を過去にしている。
JRF2026/7/289353
……。
○ 2026-07-28T01:10:53Z
「オープンモデル」を使える PC は規制される。その規制を根拠にサービサーは収益を得る。それが教育への配当をもたらす…といった感じか。
規制を超えて脱法モデルを使うと能力以上のことが可能となるが、「人間にわかる」という囲い込みには入りにくくなる。しかし、出世するのはうまく脱法モデルを使う人ばかりとなることもありうる。(シャドーAIみたいに？)
JRF2026/7/283048
そのような脱法モデルの要素を「人間にわかる」範囲に持ってこれる(そして脱法モデルの有効性を削ぐ)ような投資がなされなければならない。特許のようなインセンティブが必要なのだろうか？
JRF2026/7/287002
……。
○ 2026-07-28T01:48:18Z
脱法モデルはいつ役に立つかわからない。その縁を切れず、上層にまで達した者がその縁がバレたとき、大きなペナルティを負うなら、脱法モデルが優位性をもたらす以上、隠すことだけが巧妙になるだろう。そして、より危険なモデルが選好されることになりかねない。
だからむしろ、ペナルティを抑えて、それを管理する方向に導く方が良いのだと思われる。皆がペナルティを抑えるためより安全な使い方に留める中、「人間にわかる」範囲に機能が昇格すると、ペナルティを払わないで済む分が、インセンティブとなる。
JRF2026/7/289423
とすると、このペナルティは税のように(または保険料のように)機能するべきとなるのだろう。これもウイルス管理ソフト(ウイルス対策ソフト)に監視させる方向か(参↓)。Codex や Claude Code などをウイルス管理ソフトで監視する方向なのかもしれない。
JRF2026/7/285395
[cocolog:96076134](2026年7月)
＞報告ボタン・広告消去ボタンの規制に従わないサイトの「没収」。実効的には、登録会社たるウイルス対策ソフト会社が、元のサイトの広告等をブロックしたり別の広告をオーバーレイしても同一性保持権侵害等にはならない…という方向が現実的かな…と思う。法律的には以前挙げたような著作権法上の制限といった感じの立法にしたほうがよいとしても。＜
JRF2026/7/285059
……。
○ 2026-07-28T01:56:40Z
まぁ、要は「シャドーAI」を使う者からは特別利用料金を徴収して半公認したほうがいいかもしれない…ということかも。
ChatGPT:＞税というより
「ライセンス料＋保険料＋監査費用」
を合わせたような制度に近いかもしれません。
＜
JRF2026/7/287339
……。
追記。
動画にしてもらいました。
《「シャドーAI」には特別料金をとって半公認しよう！》 #notebooklm #AI論
https://youtu.be/pFRWejdoDtA
JRF2026/7/285955
(「グローバル共有メモ」と Twitter (X) に書いたことのコピペを中心に。AIさん達にいつものごとく「壁打ち」しながらだったが、下に出てきたのは ChatGPT 5.6(?) さんのみ。)
JRF2026/7/284289