今更だけれど、阿部監督の逮捕事件について考えたい。
- 暴行容疑の巨人・阿部監督が辞任 娘はチャットGPTで児相に相談 [巨人(読売ジャイアンツ)]:朝日新聞
- 〈私の意向を聞かずに〉…長女の手紙で批判続出「阿部慎之助氏の暴行トラブル」児童相談所の深刻な現実 | FRIDAYデジタル
この事件の顛末をおさらいすると以下。
- 阿部監督と長女(18)が口論。その際、胸ぐらを掴み押し倒したとされる。
- 長女がChatGPTに相談し、児童相談所へ通報すべきと助言を受けて通報、そのまま児相から警察へ転送され、阿部監督が現行犯逮捕される。
- 長女は逮捕を望んでおらず、後日、長女の手紙の形で不本意であったことを世間に伝えた
まぁなんというか、令和があまりにも煮詰まりすぎている、ということで、しばらくトレンドとして世間を賑わせていた。
事件の顛末
この問題は切り口が少なくとも100個くらいあると思うが、ここでは、責任とシステムの観点から見ていきたい。
見ていくにあたって、まず事実を確認すると、「長女は逮捕を望んでいなかった」という結果がある。これについて、立場によっては「言われされているんだ」とか認めない人もいるのだが、そんなこと言い始めたら藪の中で終わってしまうし、また常識的に考えても、親子喧嘩の結果として親の逮捕を望む子というのはだいぶエクストリームな家庭であるので、外形的な事実をそのまま受け止めよう。
システムにとっての失敗とはなにか
さて、当事者が望まない結果になった以上、このシステムの挙動は失敗だったといえる。システムは人間のためにあるのであって、その逆ではない。
一方で、システム単体で見れば正常に動作した、とも言える。一言で言えば、システムは正常に失敗した。これは一般的には意味不明かもしれないが、開発者にとってはよくわかるものだ。
ITシステムの世界にはWeb APIというものがある。これはシステムとシステムをつなぐもので、たとえばシステムAがシステムBに「ユーザを登録して」などの依頼の形式を整えたものだ。ここで、APIは依頼された処理の結果を返す。このときステータスコードというもので、依頼の成功と失敗を番号で返す。普通、成功は200、失敗は400で返す。ユーザ登録に成功すれば200、失敗すれば400といった具合にね。
しかし、時々「200 OK。ユーザは重複しており登録できませんでした」というレスポンスを返すAPIがある。これを見るとWebエンジニアは面食らう。登録してと依頼したのに、依頼は成功です、できませんでしたと言われては、成功したのか失敗したのかどっちなんだい!
まぁユーザ視点では完全に失敗しており200と返すのがおかしい、なのだが、システム屋からすると必ずしもそうは見えない。つまり、ユーザが重複していれば登録できないというのは仕様通りなのであって、完全に正しい挙動だし、内容として重複のため登録できなかったことまで伝えたのだから、完全に成功だ。…まぁWeb API的には不正解なのだが、組み込みとかシステムのローレベルなところをやっていた人がWeb APIまで作っちゃった的なノリのシステムで、たまによくある。けっこう心情的にはわかるんだよな。
ユーザの成功とシステムの成功の不一致
とはいえ成功に失敗にせよ、システムの挙動がユーザの要望と一致するとは限らない。たとえばユーザが本当にやりたいことが、「このサービスに登録したIDってこれだっけ?」で投げただけで、それをシステムが「新しいIDなら登録するぞ!」という挙動だった場合、成功の可否に関係なくそんな挙動はそもそも求められていない。だからサインインとサインアップを同じボタンにするのやめろ。
だがボタンを押せばシステムは発動してしまう。ユーザの意向は関係ない。そんなものは入力値にない。
つまり、システムとは本質的に入力に対して出力を返すものなのであって、それ以上でもそれ以下でもない。そして入力するのも、そして出力を受けるのも、ただユーザである。
システムはどうあればよかったのか?
この観点で長女の話を見ると、児童相談所も警察も、ついでに言えばChatGPTも、それぞれ完璧にシステムとして振る舞っていたことがわかる。それぞれ完全に正常に動作して、そしてすべての結果をクライアントである長女が引き受けた。以上。
……で終われないのは、正常なのはシステムだけで、その結果が誰の目から見ても望ましいものではないからだ。
ここでまず生じる疑問は、「システムの動作に問題があったのではないか」となるが、これは疑うのが難しい。18歳、相手は父、胸ぐらを掴まれた、酔っていた、などの入力値があれば、AIは児童相談所を勧めてしまうし、そして児童相談所にいれれば、それは警察に通報となるだろう。そして通報されたら警察は動かざるを得ないし、現行犯で本人が容疑を認めればそれは逮捕となってしまう。それぞれ入力に対して適切な出力である。これは理由があってそうなったのであり、安易に条件分岐をつければ他に影響してしまう。
ではシステムの挙動が正しいのだとすれば、「システムの仕様に問題があったのではないか」という疑問になる。これは多くの人が惹かれるようで、だいたいより多くの中間層を挟んでもっと複雑にすれば解決できるというような結論になる。しかしこれは結局先のシステムの動作に問題があったと同じことを言っており、解決は条件分岐を増やせばいいと言っているだけで、やはりこれも他に対する影響が大きい。
そうすると、これはそもそもシステムに解決可能な問題だったのだろうかという疑問が生じる。制度というのは事後処理であり、人に対してできることは制約や刑罰、あるいは賠償の責任を定め、執行することだ。そもそも長女は、父親に対してそうしたものを求めていただろうか。
ここにおいて、そもそも相談すべきではなかったのではないか、というところに行き着いてしまう。ユーザ登録する気がないのに登録ボタンを押してはいけないように。しかしそれも認めづらい。なぜならば、今回の当事者は、暴行を受けた18歳の少女だからだ。これは社会的に責任を求められない。
しかし社会的な責任、つまり法的なペナルティは求められなくても、システムの外にある現実としての被害はそのまま向かう。その結果が望まない逮捕であり父親の失職および社会的地位の剥奪であり、家族関係への打撃である。これは不可抗力という点でほとんど自然現象なのであって、山でクマに襲われて怪我をしても当人に法的責任はないが、怪我をしたという事実は変えられないのと同じだ。強いて言えば、山に登るべきではなかった、になってしまう。
このように、システムとして考えると八方塞がりだが、どう考えてもこの結果でいいわけがない、ということだけは強烈にわかるので、世間は侃々諤々なわけだ。
救いはないんですか
このようにしてみるとお手上げに思えるが、個人的には本来ならば大して難しい話ではなかったと思う。システムで解決できないなら、システム以外で解決してください、がシステムとしての回答だ。
システム以外とは何か。それはたとえば母である。たとえば友人である。たとえば頼れる大人である。あるいは地域ボランティア、コミュニティ、もし宗教に入っているならそのコミュニティも良いかもしれない。とにかく法的な根拠に基づいた措置をする機関以外のあらゆる生身の人間関係がそれに当たる。
これは極めて普通のことだったと思う。むしろなんで頼れる相手がAIで、そして一足とびに行政機関にいってしまうのか。パニックになったというが、パニックになったときこそ、頼る相手は普通半導体や行政機関ではなく身近な人間なのではなかろうか。
しかしまぁ、現実的に家族や友人では近すぎる問題、は確かにあるものだ。
昔々、あるところに鍵っ子がおりました
僕は大昔…本当に大昔…幼稚園か小学校一年生くらいだが…親と気まずくなった時、近所のおばちゃんの家に逃げていたらしい。あまり覚えていないが…。そして僕の虫歯菌はそのおばちゃんからもらったという説がけっこう有力だったりするのだが…。しかしそういう場が、恐らくは必要だったのだろう。
また、僕は鍵っ子だったのだが、なんだか近所の人には随分と世話になっていたらしい。小学校二年生の時のアパートでは、下の階のおじさんといっては申し訳ないお兄さんが、よく僕にゲームをさせてくれていたそうで、親があいつどこだって探したら下の階にお邪魔してたとか。
小学校中学年くらいだと、マンションに引越したのだが、部屋の鍵を忘れて家に帰れずマンション内をぶらぶらしていると、なんだかどこぞのおばちゃんが声をかけてくれて、家にあげてお菓子をくれることなどがよくあった。多分そういうことのできた最後の時代だったのだろう。もう30年くらい前になるかな。
そういう時代において、パニックになったときこそ最初に頼る相手がAIというのは考えづらい。それはテクノロジーの問題ではない。
システムはただ入出力装置である
まぁ僕自身、その後引越しなどしていくにあたって、だんだんとそういう関係は失われていったし、大人になった今、家族と仕事以外の生身の関係はほとんど断たれているので、もはやそれらしい統計的出力半導体装置しか頼る相手がいないという気持ちはわからんでもない。
ただ現実として、半導体装置は所詮システムなのであって、残念ながら解決にならない。僕は三十年前小学生だった大人なので、それがわかるが、現役十八歳でシステムの罠を肌で理解するには、圧倒的に経験が不足しているのかもしれない。いっそのこと不良少年(死語)ならシステムは味方じゃないとわかるんだろうけどね。まぁ真面目な女の子とか、この世でもっともシステムの冷酷さに気づきづらい属性かもしれんね。
なので結論は、システムはただ入出力装置であって味方ではない、お前らを助けるのはシステムじゃなくて結局人間しかおらんのや、なんだけれど、それを教えるところはもうない。学校こそシステムの最前線なのであって、システムはシステムのことしか教えない。
まぁせめて、自分が接することの出来る範囲で伝えるしかないんじゃないか。僕としても、泣いてるガキを見たら家にあげてお菓子をあげることは本来やぶさかじゃないんだけど、そんなことしたら事案だからね、仕方ないね。
コメント