先週、学部同期の原さんのブログ記事「「悪いやつをAIで予測する」のがなぜいけないか」がバズっていた。*1 人間が何に反応するのかわからないものである。目についた反応のなかで私の感覚に近いのは、「みんなそんなことわかったうえで議論しているんだよ」 (大意) というもの。とはいえ、私の今の仕事では、一般人を説得しなければならない機会がままある。世間の認識を知っておく必要があるし、それがまるっきり駄目だから今の私の惨状があるともいえる。前置きが長くなったが、この記事が世間の認識を反映していると仮定して、私の認識とのずれを書き出してみる。
この記事でも顕著だが、世間でいう AI は人間とは異質な他者。私にとっては人間の機能の一部、主に直感を切り出して外部化したもの。
注意。この認識はいわゆる人工知能研究者を代表したものではなく、言語研究者という私の立ち位置が影響している可能性が高い。機械学習屋さんによっては、はなから人間の機能の再現を目指さずに、人間らしさの全然ないセンサデータ等を扱っているかもしれない。
少なくとも今回のお題はかなり人間的。レストレランの入り口で人間を視認して要注意人物か否かを判定する。これは実際、人間が日常的に行っていること。おっさんが平日昼間の公園に行くと警戒されるのとどこが違うのだろうか? 人間は日常的に属性を手がかりに推論している。どういうわけか、同じことを計算機にやらせた途端に大問題になるのである。
よく引き合いに出されるのが Amazon の採用 AI が 2015 年に稼働停止になった事件。女性の評価を「不当に」低く出すというのが理由。言い換えれば、能力との関係において「本質的でない」手がかりを使って推論を行うのが社会正義に反するというのである。では、人間はこの種のバイアスから自由なのだろうか?
計算機が表層的な手がかりを使ってズルをするという問題はよく知られている。ズルをすると何が駄目かというと、ちょっとひねった問題を出されると簡単に誤答してしまう。しかし、この問題は研究者間でよく知られていて、よってたかって解決が試みられている。あまりにアホな振る舞いは早晩改善されるだろう。
問題は、本質的な解決があり得るかである。ないというのが私の回答。ズルは計算機の専売特許ではない。受験生が小手先の受験テクニックにばかりを磨いた結果、本番では出題傾向が変わって爆死したというのと変わらない。あくまで程度問題。
計算機がアホな振る舞いをしているのをメタ的に観測していると、より本質的な手がかりがありそうに思える。しかし、計算機に本質を理解させるには、何らかの手段でそれを教えなければならない。何も策を講じずに計算機にそれを期待するのは無理な話。少し具体化すると、ある分布に従う問題から学習した計算機に、別の分布に従う問題に対する高い性能を期待するなら、両者に共通する性質 (本質) を何らかの形で教えなければならない。解きたい問題の分布を観測したあとに事後的に本質が認識できるとしても、事前にわかるものだろうか?
現在 AI とよばれているもののほとんどすべてがパターン認識器。入力と出力の間にパターンを見つけて、それを新たな入力に適用する。人間でいえば経験則に基づく直感に相当する。勘の良い人間もいれば鈍い人間もいる。それは程度問題。直感に基づく推論結果そのものは決定的な正しさの保証とは無縁の代物。ブログ記事では、AI の判断を根拠にしてはならないという議論が出てくる。計算機に期待しすぎである。そもそも、AI の判断が直感に相当すると世間が認識していれば、こういう議論にはならないはず。
「いまの AI はブラックボックス (だから駄目)」という議論がよくあるが、話は逆。人間の直感こそがブラックボックス。それを計算機に代行させることで、むしろ推論過程が見えてしまうのである。そうして観測できる推論過程は必ずしも人間にとって解釈可能ではないが、差別的に手がかりを使っていた場合には、それがバレてしまう。もしそれが表層的な手がかりに頼ったズルであれば、モデルを改善すれば良い。それでも駄目なら、学習に使ったデータ、つまりは人間の営みに問題があったということになる。要するに信頼できないのは人間である。推論を計算機に代行させ、その過程を観察しながら適宜介入することで、少なくともある観点からは、より良い社会を作れる可能性がある。もしこの楽観的な見通しが成り立たないとすれば、Amazon 事件のように、人間同士の利害が対立している (求職者 vs AI を抱え込む雇用者) からである。人間の敵は人間であって AI ではない。
冒頭で述べたように、AI は人間とは異質な他者だと世間は認識している。私からするとこれは誤解なのだが、それで救われている部分もある。仮に AI が直感の外部化の手段だと世間が認識したらしたで、本当の地獄が始まると予想している。これについては別の機会に述べるとしたい。
*1:この表現もいい加減古いが
