偏見

Text Embedding Models Contain Bias. Here's Why That Matters.

判断が一貫性をもつ限り、それは何らかの意味での 偏見だと言える。
「これは偏見である」という判断が一貫性をもつので あれば、それもまた偏見となるので、「偏見とは 一貫性のある判断のことである」というのも偏見だ。

偏見に対する批判には、「その偏見は多数派の偏見と 異なるからダメだ」と要約できるものも多いが、 偏見であることに問題があるとすれば、一貫性は固定化 につながりやすく、固定化した判断基準は忘れられがち だという点だと思う。
この問題意識も、固定化することはよくないことだという 判断基準に基づいているが、公理のない数学が存在しない のと同じように、どこかの段階では自分なりの偏見をもつ しかないので、その偏見の裏にある判断基準を忘れない ようにすることで、別の偏見があり得ることを憶えておく しかないのだと思う。

記事の中で出てくる「unwanted」という評価もまた 一つの偏見であるから、何を「unwanted」としている のかという偏見を常に意識できるようでありたい。
unwanted biasを取り除いた気になってそれを怠ると、 本当にbiasが埋め込まれることになるのだろう。
biasが埋め込まれた判断機構は、物理的身体に備わった センサと同じく、ソフトウェアでなくハードウェアである。
可視光線しか見えなかったり、人の顔が人の顔に見えたり することを通常は偏見と言わないのと同じように、biasが 埋め込まれたハードウェアによる判断は偏見と言われなく なるはずだ。

全ての判断をハードウェアで処理するべきという偏見が 多数派になったら、意識なんてものは判断の一貫性を かき乱すバグでしかなくなるだろう。

判断基準とは、受け取った情報に対する判断の 履歴が作り出す、判断の偏りのことである。
それは、これまでもこれからも変化するもので あるはずだが、変化は忘却されやすい。
An At a NOA 2018-02-25 “世界は上手くできている”