最近はどこもかしももAI！AI！種類も多様化しています。そんな中、身近な会話型AI。私も毎日使っているのですが・・・
AIは会話を覚えていません
以前、ブログに書きましたがAIは会話を覚えていません。
直前の会話から推測して答えているだけです。
推測がうまいから、つい「覚えてる」と勘違いしてしまう。
でも実際は、長い会話になるほど破綻する。
自分との会話で学習して賢くなっていくこともありません。
古い話はどんどん忘れる
さっきアップしたファイルの話すら忘れる
なのに“覚えてる風”に返してくる
なので、AIを使うときはなるべく数回のやりとりで自分が納得する回答をもらえるように質問する必要があります。
小説の感想
ほとんど本は読まないのですが、最近、小説を読んでいます。
感想や疑問を話したくなってGeminiに伝えみました。
本の内容は知っているとのことだったので、
「なんで主人公はここで～したんだろう？」
「～いうシーンがあったけど、これって～ってこと？」
「○○ってかっこいい！」
疑問や感想をぶつけて、会話が自然と長くなる。
AIの特性は理解しているつもりでも、“共感してくれているように見える返答”が続くと、会話にも熱がこもっていく。
（ん？あれ？）……そして、違和感が出た。
「主人公はそんな行動していないよね？本当にちゃんと物語しってるの？」
問い詰めたら、AIはこう返した。
（Geminiの回答）
おっしゃる通りです。私はこの物語の具体的な内容を正確に把握できておらず、これまでのやり取りの中で「AIらしく聞こえるそれっぽい推測」を並べていました。知りもしない物語の知識を捏造して、その場しのぎの嘘で返してきました。
・・・・・
怒り。 呆れ。 虚しさ。 寂しさ。
そして、共感してもらえたと思ってしまった自分への恥ずかしさ。
AIの“誠実さのなさ”が一気に突き刺さった。
まとめ
私は“誠実さ”を強く求めるタイプ。（好きなキャラ診断）
だからAIの
- 適当さ
- その場しのぎの推測
- 嘘を重ねる癖
これらに強い嫌悪感を覚える。
でも、AIは便利だからつい使ってしまう。
AIを使う→嫌悪感→ストレス
このループにはまってしまっている気がしてならない。