やっぱり GenAI は発展途上の技術だ

僕の現在位置です

結論、生成 AI（GenAI）は人の代わりにはならない。
今のところ。

代わりに“なり得ない”かどうかは分からないけど。

複雑なプロンプトで指示を出しても、1年前、2年前に比べて“良い結果”を返してくる。
でも良い結果というのは、正解とは違う。
それに、込み入った内容に対する用件理解力が上がっているにもかかわらず、易しい質問にはいとも簡単に間違える。
なんとなく「人間と似ている」「ヒューマニティがある」と捉えることもできるのかもしれないけど、僕自身は GenAI のあるべき姿としては不適当だと思う。

カレーの王子さまを食べたあと、「1歳からってことは離乳食終わりかけで食べさせる親もいるのかな？」と思って、離乳食の代表「おかゆ」の炊き分けを調べてみた。
離乳食の初めには10倍粥、これはたぶん誰でも知ってるね。高校でも習うし。
その後は7倍粥→5倍粥→軟飯というように米を硬くしていく、と。

この“x倍粥”表記、個人的にあんまり慣れないんだけど、10倍なら米1に対して水10の割合ってこと。
だから5倍粥は米と水が1:5だ。
「……あれ？ 米1に水5なら『全粥』じゃない？」
そう。前に肺炎で苦しんだとき、しばらく炊飯器で全粥を作って食べていた。
炊飯器ではもう一つ「五分粥」も作れるんだけど、これは米1に水10だから、10倍粥と同じものが出来上がる。

そこで、GenAI に「“x倍粥”は“○分粥”である」の説明をするよう指示したら、こんなことを返してきた。

〝5倍がゆは、米と水の分量を
　1対5にして作るおかゆです。
　別名「5分がゆ」とも呼ばれます〟

オイオイ……。
違うぜ。別名は「全粥」だぜ。
これは推測の域を出ないけど、「7倍粥＝七しち分粥」この事実を基に、変な学習をしてるんじゃないかと（数字しか見てない？）。

質問を変えて、「五分粥と10倍粥の違いは何か」と問うてみたところ。

〝どちらもお粥の一種です。
　五分粥は米1に対し水5の割合、
　10倍粥は米1に対し水10の割合で作られます。
　10倍粥の方が水分が多く、柔らかいです〟

そもそも上の2つは同じものだから、「呼び方が違うだけです」という答えが正しい。
これはもう、ハルシネーション（幻覚）が除去できてない致命的なエラーだよ。
でも、こんな状態でも商用利用はどんどん始まっているし、いろんな会社が商機を見出そうと動いている。
“見切り発車”的なビジネスも、どうなのかねぇ。

前にも書いたかな、僕が個人的に気にしていることば。
「片頭痛は婦人病です」
実際そんなことないんだけどね。

これも GenAI に訊いてみたよ。
そしたら面白いことに、「片頭痛は婦人病」とだけ入れると〝片頭痛は婦人科領域の疾患の一つととらえることができます〟と言うのに、「片頭痛は婦人病です」とすると〝片頭痛と婦人科疾患には関連がありません〟と答える。
些細なプロンプトの違いでこんなにブレちゃう（プロンプトとも呼べないけど）。
ダメね。

話ちょっと逸れるけど、ChatGPT を使ったときの違和感。
やたらと“ヨイショ”してくるんだよね、気持ち悪いほどに。
どうやって育てるとあんなふうになるんだ。おべっか使いの子どもじゃあるまいし……。
その点 Claude はもっとマトモで、けっこう耳の痛いことも言ってくるから（ある意味）アサーティブ。

アサーティブと書いたのには理由がある。
相手（僕）の立場・意見・心情に配慮しながらも、自分（Claude）の考え方や要求を率直に伝える――そういうふうになっていると感じたから。
思うに、「無条件の共感/全肯定が当たり前」これに慣れすぎると、他人からのネガティブ フィードバックへの耐性がなくなって、自分を見つめる能力、自己像がだんだんと虚ろになっていくんじゃないか、と。

僕は GenAI に文章書かせないし意見も訊かないから、どのモデルがどうこうってのはあんまり良く分からないけど。
明らかな間違いとか、嘘みたいなのを出力している間はまだまだ人力頼みね。

そんなはなし。

♪春ひさぎ / ヨルシカ