どうしてAIによる「嘘」なんて言うんだよ‼︎嘘って言うなよ。「間違い」って言ってくれよ‼︎

嘘：意図的に事実と異なることを言う
間違い：知らずに事実と異なることを言う


AIは、意図的に事実と異なることを言わない。
個人的見解だけど、AIはなんでも知っているわけではない。世の中の情報の取り出し方がものすごく上手い機械。

もしAIに「意図」が組み込まれているというなら、そもそもそのAIは使えないよ。
たとえば、政府や作成者の意図が組み込まれた偏ったAIなんて、使っちゃいけないだろ。

現時点では“完全な中立性を保証する公的機関”は存在しないけれど、企業・研究機関・自治体・国際団体などがそれぞれの立場で対策を講じて、“意図的に”事実と異なることは言わないようになっている。

ここが崩れたら、AIなんてそもそも使えないよ。



ハルシネーションとは、
AIが“もっともらしく”見えるけれど、実際には事実と異なる情報を生成してしまう現象のこと。


今日、スマートニュースで
「“AIの嘘”＝ハルシネーションという現象」
という表現が目に入った。
これを鵜呑みにする人が増えませんように。
生成AIパスポート試験の本くらいは一読してくれ。国家資格のITパスポート試験でもいいぞ。

私が初めて“AIの嘘”という言葉を聞いたのは、教育現場の先生からだった。
そして今回が、2度目。



人と人とのあいだでも、「間違い」が「嘘」と誤解されることはある。
でも対話があるなら、誤解はほどけるはず。

それは分かっているけど、そもそもAIにすら「間違い」を「嘘」と誤解する人が増えてしまったら、より人と人の会話に慎重さが求められるようになるのではないか。それは困る、めんどくささが増す。


手紙を書いているうちに、だいぶ冷静になった。

“AIの嘘”と表現する人の意図は「ハルシネーションも起こり得る」という注意喚起だろうな。「嘘」と表現して人の記憶に残りやすくしているのだろう。…まさか、公共の場に情報を流すのに何も調べないなんて、まさかね。


最後まで読んでくれてありがとう。