FC2ブログ
RSS

AIによる評価

 AIに支配されるようになれば、完ぺきに正しく、人々は破滅に導かれる

 現在は第3のAIブームだそうである。もともとコンピュータには、その時代の技術で可能な論理思考をさせていた。これまでに比べ、圧倒的にコンピュータ能力が増幅し、これまでできなかったことができるようになっただけである。具体的にはパターン認識機能が飛躍的に向上し、モノや音声の識別が容易になった。
 そのAIの未来について、いろんな人がいろんな予想をしている。

 ムーアの法則というのがある。「半導体の集積率は18か月で2倍になる」という半導体業界の経験則である。すなわち、まもなくコンピューターは、人間の脳細胞の数を超す。自己学習をはじめると、人間を超える頭脳となるという。ほんとうか。

 たとえば人の評価では、多くの評価項目を個別に算定する。協調性、創造性、熱意・・などである。たいていその積み上げを見ても、なんとなくしっくりこない。評価項目の選定と、その重みづけができていないからである(できるとは思えないが)。結局、総合点を最初に出して、そのつじつま合わせのために、個別の評価点数を調整する。この場合、評価項目が抜けているのか、重みづけが適切でないのか、そもそも評価項目を示すことが誤りなのか、だれもわからない。

 これをAIにやらせるとどうなるか。アルゴニズムにもよるが、たぶん人が行うのと同じことを、正確にやるはずである。つまり、いい加減なことを正確に行う。
 たいていのAIは、人間の思考を学習してそれに近づけようとする。人間の思いは常に変化しているし言葉では表せない、いくらAIが正しくても、それは時代遅れの正しさである。それを解消しようと思ったら、AIに未来予測ができなければならない。それは、AIに未来を託すことと同じである。

                ロボコン

 ややこしい話になった。
 問題なのはAIに頼りすぎると、異常な値や行動を出した場合、それが間違いなのかどうか、間違いとしたら、どこで間違えたのかを調べるのがきわめて困難なことである。そのことが、深刻な問題を孕んでいる。
 たとえば、AIロボット兵士が開発されている。ロボットが敵を殺傷するかどうかを、AIに判断させていいのか。物議を醸している。よく似た話で、ある人を救うために別の人を犠牲にすることがいいかどうか。いわゆるトロッコ問題である。人間でもまともに判断できない。

 逆にそれをいいことに、人が判断できない或いは判断したら必ず、批判されたり後悔することをAIにやらせることもできる。トリアージ(治療の優先を決める)である。この場合、救われなかった方は、恨む相手がいなくなってしまう。たいていは、恨むことで多少心の慰めになる。やはり、世の中には恨まれる人がいなければならない。

 AI同士の選挙で大統領を選んだら、だれが当選するか。AIが立候補していれば、彼が大統領になる。批判されないリーダーほど恐ろしいものはない。AIに支配されるようになれば、正しく人々は破滅に導かれる
スポンサーサイト



トラックバック
トラックバック送信先 :