ちょっとびっくりする記事があった。
チームみらい・安野党首、都知事選「AIあんの」で「福島」をNGに⇨「ハルシネーション防止」。福島との向き合い方に「人間あんの」は（ハフポスト日本版） - Yahoo!ニュース
「チームみらい」の安野貴博党首が2024年、東京都知事選に出馬した際に運用していた対話型ツール「AIあんの」のプログラムソースに、「福島」という地域名が“NGワード”として含まれていたことがわかった。
2月19日に都内で開かれた記者会見で、安野党首がハフポスト日本版の質問に答えた。「AIが事実に基づかない情報を生成する『ハルシネーション』を防ぐためだった」と説明している。【相本啓太 / ハフポスト日本版】
個人的には信じがたいの一言に尽きる。都道府県名をNGにすることも、またハルシネーションを言い訳にすることも、どちらもそれぞれ職業倫理に反している。
ややこしいことを話すのが政治だし、難しいことをなんとかかんとかやるのが技術であって、NGワードにして抹消するのは政治ではないし技術でもない。
これについて、ヤフコメを見ると安野の態度に肯定的なものが多かったのも、また驚きだった。
曰く、難しい話題だから慎重な対応が必要だと。難しいことを話すのが政治じゃないのか？ミーティングのアイスブレイクじゃないんだぞ。
曰く、公開されて透明性があるからいいのだと。公開されていればマルウェアやバックドアが仕込まれていてもいいのか？また公開されたコードがそのままデプロイされているとなぜ言える？
曰く、ハルシネーションがあるから仕方ないのだと。仕方ないならやるな！難しくともプロンプト、RAG、ファインチューニング、エージェントワークフロー、あらゆる可能性を試して少しでも実現するのが技術であって、エラーを握りつぶすのは技術ではない。
技術は政治的な誤魔化しを正当化する虚飾として機能するものではなく、困難に立ち向かうためにある。チームみらいは技術を掲げて政治をしているが、現状このままいくと、エンジニアの信用自体が毀損されるのではないかと危惧している。
<関連記事>
コメント