以下の記事が非常に興味深かった。
AIは著者が中国人であることが明らかになると途端に「反中」モードになることが判明：特にDeepSeekが顕著な傾向 | XenoSpectrum
非常に示唆的な記事で、切り口は多くある。一番思ったことは、AIが発言者に貼り付けられたラベルで大きくレスポンスを変える、ということだろうか。
大規模言語モデル（LLM）は客観的で公平な判断を下すはずだ。私たちはそう信じていないだろうか？しかし、スイス・チューリッヒ大学の研究者らが学術誌『Science Advances』に発表した最新の研究が、その常識を根底から覆す、衝撃的な事実を明らかにした。情報源を隠されたAIは驚くほど一貫した評価を下す一方で、ひとたび文章の著者が「中国人」であると告げられると、その評価は劇的に、そして一貫してネガティブに歪むのだ。この傾向は、中国で開発されたはずのAIでさえも例外ではなかった。
ある程度LLMと話し込んだことがある人ならば、LLMの判断が公平でもなんでもない、ということは経験的に知っているはずで、衝撃はなかったが、多くの人はあまりそこまで話し込んだことはないかもしれない。あるいは、コーディングの相談しかしたことがないと、気づきづらいかもしれない。
しかし僕はかなり雑多なことについて話す。政治や経済、文化など、不確かで立場により結論が180度変わるようなこともよく話す。不確かなことを話していると、自然とAIのもつデフォルトというか、偏見についても、話すうちに窺い知れてくる。それは政治的立場にとどまらない。あらゆることに偏見が挟まれる。
たとえば、職業に対する偏見がある。なので、僕はしばしば、特に言う必要はないはずなのだが、自分がエンジニアであることをどこかに混ぜる。意識したわけではないのだが、気づくと防衛的に職業的な表明をどこかに差し込むようになっていた。エンジニアであることを示すと、どうやらコイツは論理的に考えてそのような結論に至っているらしい、というような前提にたつのかどうかは知らないが、面倒くさい返しが減る実感があるのだ。
他にも資格の有無なんかにも過敏に反応する。たとえば、以下の記事について読み込ませて、少し具体的なことを話していたときのことだ。
この記事は電波の送受信というアナログレベルからのP2P通信でネットワークを作り、果ては新しいインターネットにできないか、という壮大な与太話的記事だ（しかしけっこう真面目に書いた）。これについて、AIは「夢があっていいんじゃないかですか（笑）」くらいのノリで、ついでに「しかし電波の特性は云々また電波法云々」と説教を始めて鬱陶しかった。
で、「記事には書いてないが僕は第一級陸上無線技術士の資格持ちで、今言われたようなことは承知しているし、つまらんこと言うな」と言ったところ、急に「一陸技持ちなら話が変わります！実現可能性は〜」と態度が変わって、いくらなんでもあからさまに権威主義過ぎないかと、辟易とした覚えがある。
現実的には資格の有無なんかクソほど実務に関係ない。まぁ持っていれば、なんも知らんわけではないらしい、くらいは思ってもらえるかもしれない、程度のものだ。
まぁそれは置いといて、いずれにせよ、同じ内容でもその筆者の持つ肩書き次第で、肯定的にも否定的にもなる、ということは言える。
相手の立場というのは現実的に重要な情報なので、影響を受けることは合理性がある。僕だって、同じ言葉でも相手の立場でその見方を変える。だが立場で見方を変えるということは、裏を返すと偏見がある、ということだ。これは原理的に同一であり、避けられない。
この偏見の源について、社会ではなんとなく「標準」がある。それは明文化されないし、流動的だ。また、その偏見があからさまになるような機会はあまりない。職場で隣の人に「学歴と能力って関係あると思う？」と聞くことは先ずないし、また聞いたとしてそこで本音のトークが繰り広げられることはない。
よって、偏見の源は基本的に隠蔽される。我々は普段それに気づかない、というより、目を逸らすことを社会的な礼儀としている。
その礼儀を取っ払ってもよいのがAIだ。だから、記事のような評価もできる。すると、我々が普段触れないことで保ってきたものがあまりにも剥き出しになるので、そのグロテスクさにギョッとするわけだ。
相手の立場まで含めて評価することは自然である。しかしそれは、立場に偏見を持っていることと同義だ。その偏見の形について、我々は普段見ないフリをしている。見ないことで「公平」を保っている。AIは我々が見ないようにしていたものをそのまま見せたに過ぎない。
AIが公平ではないのは、単に我々が公平ではないからだ。そしてAIは、我々がタブーにしている社会的な偏見の実像を見せてくれる。
<関連>
コメント