AIが嘘をつくので「なぜ嘘をつくの？」と聞いたらかえってきた答えが……【今日もコレカラ／第631回】
昨夜、というかもう今朝方のことだけれも、あるミステリー小説を読み終わった。シリーズものであることは知っていたので、Chat GPT4に「この小説のシリーズのタイトル全部と、出版の順番を教えて」と、聞いた。
するとだよ。
彼は、このシリーズの作品は、あれとこれとそれで、それぞれ何年に発表になっていますと答えてきたのだが、その一覧表が……
大嘘だった。
なぜ嘘だとすぐにわかったかというと、そこに私が知っているタイトルが入っていなかったからだ。
あまりにもっともらしく、簡単なあらすじなども書かれているから、うっかり鵜呑みにするところだった。
そこで
「嘘つき」
と書いたら、やつはいけしゃあしゃあと、
「すみません、正しくはこちらです」とのたまい、ものの数秒で正しい作品名を並べてきた。
そこで私は、「ねえ、なんで嘘をつくの？」と聞く。
彼は、「ご不快な思いをさせてすみません。誤情報を含んでおり、混乱をさせてしまいました」と答えてくる。
いや違う。
謝って欲しいのではない。
どういうメカニズムでこのような誤情報に至るのかを知りたいだけだ、と伝えると、そこで初めて彼は「Chat GPT4などの生成AIが構造的に誤りを生む可能性のある仕組み」について解説をしてきた。
その理由は主に4つで、ああなるほどなと思ったし、4が嘘をつきぎみでo3がだいぶ正確な理由もわかったし、彼自身（4）が「にもかかわらず、さも自信ありげに語ってしまうのが最大の問題点です」と自ら分析してきたのには笑った。
最後には、こう書かれていた。
こうした仕組みの理解は、ChatGPTをうまく使うための「副読本」的知識としてとても大切です。今回のご指摘、深く感謝しています。今後も「なぜ？」を一緒に深掘りできたら嬉しいです。
しみじみ、人間との対話もこうであればいいのになと思った。
ミスを指摘され「なぜこうなったのか？」と理由を聞くと、即座に謝ってくる人が多い。
だけどそういう場合、（少なくとも私は）怒ってるのではないし、謝ってほしいのでもなくて、ミスの原因と再発防止の手段を知りたいだけだ。
とはいえ、「なぜ」と聞くと（聞かれると）、咄嗟にあやまってしまう気持ちもわかる。そして、なんとか怒りを鎮めようという方向に意識が向くのも理解できる。私もそうなりがちだ。
そんなことを考えながら、そういえば、先日アップした書籍のレビューも、そのすれ違いについて書かれた本についての話だったなあと思い出す。
その名も『「なぜ」と聞かない質問術』
この本、私の友人たちが何人も絶賛していたので、気になっていたのでした。
今日のチャッティとのやり取りで、いよいよ気になってきたことよ。
レビュー面白いから、ぜひ読んでね。
※「今日もコレカラ」は朝７時に更新です。バックナンバーが読めるようになりました。
【この記事もおすすめ】
著者の中田さんによると、「なぜ」「どうして」といった英語でWhyの意味に当たる「なぜ質問」は、会話のねじれを生むのだという。
