ニューラルネットワークと人間のバイアス(偏り)

ニューラルネットワークと人間のバイアス(偏り)

前回に引き続き、ニューラルネットワークとはまったく逆の発想で、あえてこのニューラルネットワークのモデルを我々の考え⽅に取り⼊れるという、社会科学的な観点でAIテクノロジーを考えてみます。
<bitWave関連記事『ニューラルネットワークを模した人間行動の向上』>

ニューラルネットワークにおけるあるレイヤー(層)のニューロンに⼊⼒する値「x」に重み「w」をかけ、さらにバイアス「b」を⾜すという関数「f」の出⼒を、さらに次のレイヤー(ニューロン)に渡す。この出⼒値を次のレイヤーのニューロンに伝播する際(⼊⼒するデータとして)の数式があります。

今回は、情報が入力側から出力側に一方向にのみ伝搬させていく「順伝播式ネットワーク」で欠くことのできない『バイアス』についてお話させて頂きます。

機械学習における『バイアス』の必要性

バイアスや重みの数値の設定(調整)は、この部分がデータサイエンティストの腕の⾒せどころと⾔われています。

そもそもAIというのは⼈の勘と経験による属⼈的な意思決定が排除されて、機械が合理的に判断するはずなので、バイアスそのものを要らないと考えてしまいがちです。しかし、このバイアスの数値自体は非常に微妙な値なのかもしれませんが、上記のようなバイアスを考慮する必要性を加味された数式が⼀般化されているということは、コンピューターに実装する際に、何らかのバイアスが⽣じているということが証明されているのでしょう。

ちょっと違った視点ですが、最初に投⼊する⼈間が、そもそも恣意的に何らかの偏りを持った情報を⼊⼒してしまうと、出⼒の結果がバイアスの持った結果になるのは、機械学習という以前に、⼈間の倫理の問題だと思います。

最近でいうところの大統領就任演説の聴衆数における “オルタナティブ・ファクト ”がいい例で、今後は社会的な課題になっていくかもしれません。

“良いバイアス” と “悪いバイアス”

さて、データサイエンスではなく、ソーシャルサイエンス(社会科学)の視点で、この『バイアス』を⾒ていくことにしましょう。

ニューラルネットワークとは、脳機能に⾒られるいくつかの特性を計算機上のシミュレーションによって表現することを⽬指した数学モデルです。

我々は脳の中にバイアス(偏り)を持ち合わせています。ではなぜ、偏りがあるのでしょうか?
それは人間が考える生物である以上、当然にあるものなのでしょう。時としてバイアスは「好き/嫌い」で表現され、良い偏りと悪い偏りに分かれます。

例えば前者の場合、数学やプログラミングは好きだけど⾔語や⽂学は苦⼿、後者の場合であれば⼈種や宗教への偏⾒といったところです。⾷べ物の好き嫌いくらいであれば、健康上や⾷育的には良くないかもしれませんが、許される範囲なのではないでしょうか。

冒頭でご紹介したのニューラルネットワークの数式『f(w*x+b)』の部分の「b」にあたる部分が、+bです。

本来であれば悪いバイアスは「+」どころか「-」になればいいのですが、そんなに器⽤にプラスかマイナスかは判断できないものです。なぜなら⼀般的に悪いと思われるバイアスであっても、その本⼈にとって「これは正しいバイアスである」と判断してしまうケースがあるからです。

いずれにしてもニューラルネットワークの数式を⾒る限り、「b」の数値が⾜されて結果が出てきます。
つまり、出⼒の値が「b」の係数にも関わってくるので、バイアスの数は影響を及ぼすのです。悪いバイアスは教育で解決していくことが健全で、かつ分かりやすいとは思いますが、実際には世界における不幸な出来事を⾒る限り、単純な話ではないようです。

良い⽅のバイアスに関しては、値が⼤きいほど学習は早いので、良いバイアス、得意なバイアスはもっと伸ばしていき、「b」の値を増やしていけばいいのではないかと思います。ただし、これも実⽣活の中で難しい部分がありますし、何よりもバイアスが大きすぎると精度の高い予測を出すことが困難になるという弊害もつきまといます。

最近のニューラルネットワークにおけるバイアスの設け方はアメリカの教育方針に似ており、得意な部分だけを突出して磨けばいいという⾵潮があります。

それもまったく否定はいたしませんが、例えば小学生の⼦供であれば、いくら算数が苦⼿であったとしても、ある程度までのレベルに達する必要があると思いますし、これが経営者であれば、ある分野だけに偏りを持ってしまうのはリスクを伴います。その⼈のステージや⽴場によって変わってくる “苦手分野” は少なからずあるものなのでしょうが、そこは調整するバランス感覚が重要なのでしょう。

まるでデータサイエンティストが、ニューラルネットワークにおいて重みや学習率を設定や調整する判断と似ていますね。

ある得意な部分だけを突発させたい、「b」の数を増やしたいということも⼤事なことでありますので、『f(w*x+b)』の部分の「b」が増えれば、⼊⼒数も⼤きくなることが分かっているわけですから、良い意味でのバイアスを増やしていけばよいと思います。

日常⽣活では、あまり⾃分⾃⾝のバイアスを考えることはほとんどないのではないでしょうか。

ただし、どんな⼈間であっても個々でバイアスを持っており、意思決定に何らかの影響を及ぼすことがあります。⾃分にも⾃⾝のバイアスがあることを理解した上で、出した結論に再思考を巡らすキッカケとなって頂ければ幸いです。

和田 温

和田 温

AI事業ディレクター at コグニロボ株式会社
米国インテリジェンス・コミュニティの方法論を取り入れたAIソリューションを日本市場に展開。

eBay米国本社(San Jose)カスタマーケアから、eBayJAPANの立ち上げに参画。CTC(伊藤忠テクノソリューションズ)では、主に北米での新製品を開拓に従事。現在、コグニロボ株式会社 代表取締役。ソーシャル・サイエンス(社会科学)における大学院修士課程修了。
和田 温

コメント