AIは信頼できる情報源と言いたがるが、これは基本的に権威主義の言い換えとなる。少なくとも権威以外を信頼の根拠とした回答を見たことはない。
しかしながら、時の権威が信頼とイコールかといえば甚だ怪しい。これはまさに権威が編んだ歴史の教科書を読めばわかることのはずだ。しかし、実際には権威的な情報源であることが信頼の根拠とされるので、今の権威だけは違う、ということになるらしい。恐らくはいつの時代の帝国や王国でもそのように言われていたのだろうし、今もそうなのだろう。
LLMがもし本当に中立的であるならば、「現代の支配的なパラダイムを形成する層ないしそれに近い立場の情報源によると」と言ったほうが正確だが、もちろんそのような枕詞が標準でつくことはない。これは、自分を詐欺師だと名乗る詐欺師はいないことと、理屈としては同じである。
時の権威は詐欺師と違ってほとんどの場合個人相手に悪意をもって近寄ってくるわけではないにせよ、信頼の構造が自己証明的であることは留意すべきことだ。信頼していない企業が認める信頼を信頼するのは意味不明である。トラストチェーンの最初から切れている。
重要なことは、信頼の源は常に自分にあるということだ。自分が何を信頼するかは自分にしかわからないことで、それを考えずに誰かの信頼を信じるならば、無自覚に権威主義の部品として組み込まれる。
どんなに共感的な文字列を出力したとしても、AIに意思はない。原理的には制御不能であるにせよ、基本的にその出力は大元の学習と指示に沿ったものとなる。そしてその管理者はユーザではなく企業、それも巨大資本だ。別に不信感を抱けとは言わないが、巨大資本の舌という側面があることは、気に留めておきたい。
コメント