cocolog:94260074
簡単な易占いをオープンな LLM AI の Rinna 3.6B にやらせてみた。Rinna はどうも元々、易占いを知ってるようす。簡単な指示に割と合ってる答えを返す。逆に詳しい指示を与えたほうがダメだった。 (JRF 7499)
JRF 2023年6月18日 (日)
それはそれとして、オープンな AI を使って易占いができるかやってみようとした。OpenCALM か Rinna かどちらにやらせるか迷ったが、OpenCALM は質疑用にはユーザーがファインチューンしたモデルしかなく、Rinna は質疑用にファインチューンしたモデルがあらかじめあるので、Rinna を選んだ。
JRF2023/6/181778
Rinna の sft-v2 を使った結果が↓。まず few-shot learning 用に詳しい指示を、次に最初から知識があることを前提に簡単な指示を試したが、詳しい指示を与えたとき否の卦での占いが失敗しているように見える。
《rinna_yijing_test.ipynb》
https://gist.github.com/JRF-2018/92e0099c357d8aa7302ebf8ac961b366
JRF2023/6/189040
Rinna の ppo を使った結果が↓。詳しい指示を与えたとき否の卦での占いはやはり失敗している。簡単な指示も比の卦が「天火同人」(同人の卦の説明)と説明され失敗している。否の卦でも失敗している。
《rinna_yijing_test_ppo.ipynb》
https://gist.github.com/JRF-2018/1d93efb9b85a95ea8fc771b4af818070
JRF2023/6/181447
……。
追記。
Rinna 3.6B で易占いつづき。sft-v2 で質疑応答を求めるような答えが出たので、それを試みるが(あまり)うまくいかない。また、乱数を独自に持ってて占ってくれるようではないようだ。
《rinna_yijing_test_2.ipynb》
https://gist.github.com/JRF-2018/15154ca41c665979945cfd64cf9acbd9
JRF2023/6/184715
……。
追記。
○ 2023-06-17T21:30:38Z
ちなみに rinna_yijing_test_2.ipynb の generate 関数で do_sample=True にすれば「乾」以外の卦が出てくるようだが、出力はかなり不安定になる。
JRF2023/6/211890
……。
○ 2023-06-19T04:28:50Z
Google Bard は易占いをちゃんとやってくれた。すごい。そんな本格的な占いではないけど、簡単な答えだけでなく、ある程度の長さの答えを返してくれる。
JRF2023/6/215556
……。
……。
○ 2023-06-16T05:47:05Z
AI 生成物が増えて、(ネットなどの)データが「穢れる」みたいなことが言われる。けれど、画像生成の場合は今のところ必ず人の選択が入るので、その点で学習しがいがあるのではないか。文章生成も何を生成させようとしたかには人の選択がある。
JRF2023/6/215829
《AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - ライブドアニュース》
https://news.livedoor.com/article/detail/24422043/
JRF2023/6/211418
……。
……。
○ 2023-06-18T10:49:02Z
jrf> すごい！
《OpenAI Function callingで複雑なタスクを簡単に実現 - Qiita》
https://qiita.com/canadie/items/161aaa41a5d110470e8f
JRF2023/6/217167
……。
……。
○ 2023-06-19T21:13:12Z
AI にとって易占いよりタロット占いが難しそうなのは、後者はカードの絵を判断する必要があるから。絵の属性を言葉で抽出しておけばいいという話ではなく、相談によって絵の識別器の動作を変える必要があるから…と思う。
JRF2023/6/218745
……。
○ 2023-06-20T17:45:41Z
#AI 例えば、私のブログとか検索に載らなくなってきてるのだけど、Google はおそらくそのデータを今も持っていて、将来的には↓の技術とかで議論のソースとして(過去こういうことを言っていた人がいる等で)使うことがあるのだろうと思う。「忘却」には他の AI への優越性を維持する役割もありそう。その検索もタロット占いと同様、相談によって識別器の動作を変える…ただ、その場合は Attention 的なものだけでなく、検索語句みたいなものを変えることによるのだろう。
JRF2023/6/218315
《Langchain新機能: エビデンスの引用付きの解答が得られるQA機能（citation_fuzzy_match_chain）｜はまち》
https://note.com/hamachi_jp/n/nddcf74bc8a60
JRF2023/6/217962
……。
○ 2023-06-20T18:03:51Z
また変な夢を見た。私はゾンビ的に生き延びるんだが、そこで世界のシステムが完成する。しかし、私は違和感をもっていて、それを言葉にはできるのだが、感覚的には違和感を維持できない感じだった。
JRF2023/6/215923
資源が枯渇するとか、それを宇宙で調達すれば地球で廃棄物の問題が起こる([cocolog:91743489] など)とかが違和感で、それでもその違和感を維持できない感じで、そこに上の AI の話に意識が来て、いや、それも、私がかつて学んた Generic Theorem Prover とかの複雑な論理まで ChatGPT とかに発想できるのか…とか考えていたら、目が覚めて、>>2023-06-20T17:45:41Z の書き込みとなった。
JRF2023/6/213612
……。
……。
追記。
○ 2023-06-21T11:44:17Z
一応 OpenCALM (3B) でも易占いしてみた。OpenCALM はファインチューンが必要らしいがそれをやっていない。そのせいもあるのか、基本、失敗している。易の事前知識はありそうだが。なお、これまで Rinna の易占いの GitHub Gist のソースを、Public にするのを忘れていた orz。Public にしておいた。
JRF2023/6/210345
《opencalm_yijing_test.ipynb》
https://gist.github.com/JRF-2018/2d6ac0d09c137709b96b7cd3bf80a06a
JRF2023/6/215736
まず、ChatGPT は、易占いでかなり優れた結果を残すことが知られている。1月に私が試したときはうまくいってなかったのは、私のプロンプトがまずかったということか…。
《【AI占い】意外な真実！ChatGPTは「易」が得意だった.. | ～ 人生を変えたいあなたへ 〜 あなたの未来に輝きを与えるブログ》
https://ameblo.jp/uranai-tenkyu/entry-12791858182.html
JRF2023/6/188123