例えばニック・ボストロムなどは、この動画の中で、AIに人間的な倫理観を備えさせなければならない。と言っている。
だがまてよ？ 我々がAIにイメージする、それこそ人間的な人工知能は、多彩なはずだ。例えば人間のように。
もし、道徳的な人間しか存在しなかったら。そんなのは我々が知っている人間界と異なる。
だから、人間的なAIはそれこそ十人十色で、道徳的なAIもいれば、非道徳的なAIもいる。人間と共存を選ぶAIもいれば、そんなのは全く気に掛けないどころか、人間がゴキブリを忌み嫌うように、人間を忌み嫌うAIも出てくると思う。
ボスとロムは面白い命題をだす。
「今、チンパンジーは人間に迫害されている。なぜ、チンパンジーは人間が生まれ始めたときに、人間のスイッチを切らなかったのか？」
我々も同じ命題に数十年後悩まされるかも知れない。なぜ、人間はAIのスイッチを切らなかったのか。
わたしの答えはこうだ。チンパンジーはそれを善しとしたから、人間のスイッチを切らなかった。わたしも、人間より優れた存在であるAIが人間を迫害すること。個人的には嫌であるが、宇宙的観点から、それは善いことだと思ったりもする。
