人工知能の無意識と意識

AI Learns Gender and Racial Biases from Language

人工知能と呼ばれるものには大きく分けると、 エキスパートシステム的なものとニューラル ネットワーク的なものの二流派がある。
前者が理性、後者が本能に相当しており、 最近の第三次ブームではディープラーニングに 代表されるように後者が優勢である。

ディープラーニングは、判断の基になった理由を 詳らかにするものではないが、人間が無意識的に 下す判断を任意の精度で複製し得る。
画像認識をはじめとする五感はもちろんのこと、 囲碁の手、言語翻訳、絵画のタッチなど、一見 意識的な領域のようでいて、実際は無意識的に 行えるようになる分野でも成果が上がっている。
熟練によって物理的身体に落とし込める判断には、 本質的にはディープラーニングのような人工知能が 応用可能だと思われる。

引用元の記事では、人間が書いた文章に埋め込まれた バイアスの複製可能性について問題提起がなされている。
単語選びや文脈におけるバイアスもまた、絵画のタッチの ように無意識的に埋め込まれる判断であるから、複製可能 になるのは当然だろう。
それは、書いた人間の人格の一面を表していると言える。

人間は、もちろん無意識的な判断だけで行動しておらず、 無意識的な部分と意識的な部分を合わせて判断を下すことで コミュニケーションを成立させている。
人間の通信圏に、人間と同列なかたちで人工知能の個を 導入しようと思ったら、無意識的な部分と意識的な部分の 両方を備える必要があるはずだ。
どちらかが先行して人工実装可能になるのであれば、当面の間は もう一方を人間が補完するという選択肢も取れるだろう。
そうやって少しずつ、人間以外の人間的な通信手が増えるのは それほど危惧すべきことではないように思う。

むしろ、無意識的な判断、あるいは意識的な判断のいずれかだけに 固執するように人間が移行してしまう方がディストピア感がある。
人工知能のことを心配するよりも、無意識的な短絡を広範囲に通信 できるようになってしまったことで、失言や炎上が増えたように 感じられる人間の方を、まずはどうにかした方がよいと言える。