AIをある程度使い込むと、「AIは嘘をつく」ということに誰もが気づく。特に専門分野ではしょっちゅうであろうし、またそうでなくても「AIの言われたままにやったら違っていた」という経験を経て、人はハルシネーションとはなにかを身を以て学ぶ。
ここまではよく言われることだが、AI利用には次の壁がある。AIの言うことは確かに疑う、疑うのだが、AIを使う自分のことは信じてしまう、というものだ。
どういうことかというと、「AIは嘘をつくが、しかし今このAIが言っているのは自分の目から見ても論理的であるし、そうあるべきもので、むしろこれを否定するほうが現実的ではない」と考える。つまり「AIが言っているから正しい」ではないが、「AIが言っているのは論理的かつ合理的なので正しい」と言っている。実質的にAIの言うことを鵜呑みにしているも同然なのだが、これは一つ罠として存在するようだ。
この誤謬は、平生AIを専門分野でゴリゴリに使役している人ほど陥りがちかもしれない。自分はAIを使役しているという自負が育つし、実際AIの嘘を見破ることができる。ただしそれは専門分野の話で、自分が専門ではない分野においては素人だ。もちろん当人もそれはわかっているが、自負・自尊心とは無意識のものであるから、AIの嘘を見破る自分、がデフォルトになっている。
その状態で専門外のことについてAIに聞いた時、「AIは嘘をつく」とわかっているので疑ってみるのだが、疑うための現実上の知見がないため、結局その論理的な整合性や、合理性、べき論としての正しさで検証してしまう。それはまさにAIがもっとも得意なものなので、多くの場合鵜呑みにすることになる。それを否定されることがあっても、そちらのほうが非論理的で合理的ではなく非現実的に思えるため、やはりAIの出力のほうが正しく見える。結果、AIを信じる、というより、AIの出力を合理的であると判断する自分を信じてしまう。
だが現実は論理的でもなければ合理的でもないことは、ニュースを1分見ればわかる。当人も痛いほど知っているはずなのに、人生で積み重ねてきた合理性の呪いがその目を曇らせる。
これは繰り返されてきた風景なのだろう。計画経済、設計主義、目の前の現実よりも、現場の報告よりも、机上のデータとそこから導かれる論理的かつ合理的な帰結が優先される。結局のところ我々はなにも進歩などしておらず、ただ信じる言い訳だけが時代のトレンドで変わっているのだろう。
<関連記事>
コメント