ディープラーニングとディープラーニングできない人間の脳みそ

考えがまとまっていないので、ダレた内容になりそうだが、自分にとっては重要な感覚なので、書き留めておこう。

ここ数年、顕著に自分の思考法、及び、それを活用した自分のコンサルティングという仕事内容に限界を感じる。正確に言えば、「複雑系を複雑なまま扱えない自分」に対して強い疑問を持つようになっている。

社会人の前半、コンサルタントとしてのトレーニングを受けてきた自分は、ざっくりいえば、ロジカルシンキングを武器に、「要するに何なのか」をうまく伝える、すなわち、メッセージを抽出することで付加価値を産んでいる。言い換えれば、一見複雑に見えるものを整理し、なんらかビジネス判断をしやすいものに加工・翻訳して伝える、といった事だ。しかし、世の中の大半の事は人間の理解を超えた複雑さがあり、それを単純化して理解する事の価値が急速に薄れているのではないだろうか。ひと昔前は、「複雑なものを複雑だと言っていても進まないので単純化することに価値がある」、と考えられていたからこそ、そういった整理能力に価値があったが、現在は、「複雑なものを複雑なまま理解できる」状態になってしまい、むしろその結果をすんなり受け入れられない「アホな」人間の説得だけのために、あえて単純化して説明する、といった事が多いように思う。

例えば、以下のような事例がある。

あるホテルチェーンで、ディープラーニング（DL）を用いて、その日の来客数を予想する機械学習エンジンを構築した。それまでは、現場の人間の「感」による予測値が出されて、様々な接客準備が行われていたが、それを機械学習エンジンに置き換える事となった。もちろんエンジンの精度はバックテストで検証済みで、人間の精度を超えていた。ロジカルには、あとはエンジンを実装して使うだけなのだが、ここで現場の思わぬ反発にあった。「なぜそのように予測されたか、の理由が説明できないものは使えない。外れたときに誰が責任とるんだ」というのが理由だ。

この事象を、DLを理解していない現場の人間が悪い、とか、現場を最初から巻き込んでプロジェクトを進めなかったのが悪い、といって片づけるのは簡単なのだが、これは本質的には、複雑なものを複雑なまま扱って答えを出せるDLと、複雑なものは理解できない人間の脳みその対立なのではないかと思う。この場合、複雑なものを理解できない人間に合わせて、本当は価値のあるアルゴリズムが実装されなかった、という本末転倒な結果になってしまっているわけである。

これと似た事象が、コンサルティングの現場で多々あると思っており、本当はもっと複雑な事象なのに、自分が、そしてクライアントが理解できるようにシンプルに伝えなければいけない、というもどかしさというか。

結局のところ、複雑系を複雑なまま扱えるようになったとしても、それを受け入れるのに一番の障壁になっているのが人間という悲しさというか、それを手助けしているコンサルタントという職業のむなしさというか、そういうものがあるなぁ。