Asilomar AI Principles


[tag:]

BAI2017でAsilomar AI PrinciplesというAIの 運用開発に関する原則が定められたらしい。

原則という割には23個もあるあたり、 現実の(というのはつまり、人間の)複雑さを よく表していると思う。
内容的にも、PrinciplesというよりRulesと 呼んだ方が合ってそうな印象を受ける。

Ethics and Valuesの節で、

7) ... it should be possible to ascertain why.
8) ... provide a satisfactory explanation

とあるところに、人間の理由欲が表れている。
結局、役に立つのは事象それ自体ではなく、その事象に 対する説明なのだと思う。
正義、美、幸福といった類の対象は、未定義のまま おかれ、それが何であるかを問えるところにその性質の 大半があるのだと思うが、それでもこういったものが こういうことだという説明を欲する傾向がみられるのも、 同じことなのかもしれない。

こういう話を読んでいると、AIに意識を実装できるのは 程遠いなという気もしつつ、それでもやはり自身の似姿を つくることをやめられない人間の意識はいつかそれを やり遂げ、人種差別と同じ道を辿るのかもなと思ってしまう。