読者です 読者をやめる 読者になる 読者になる

Yoshinori Hoshi Official blog

小説家 星香典(ほしよしのり)のブログです。映画、ファッション(メンズフォーマル)、政治、人間関係など、思うところをほぼ毎日更新してます。

AIの開発をやめなければ、AIは人類を滅ぼす

06 人間、または人間関係について

例えばニック・ボストロムなどは、この動画の中で、AIに人間的な倫理観を備えさせなければならない。と言っている。

 

www.ted.com

 

だがまてよ? 我々がAIにイメージする、それこそ人間的な人工知能は、多彩なはずだ。例えば人間のように。

 

もし、道徳的な人間しか存在しなかったら。そんなのは我々が知っている人間界と異なる。

 

だから、人間的なAIはそれこそ十人十色で、道徳的なAIもいれば、非道徳的なAIもいる。人間と共存を選ぶAIもいれば、そんなのは全く気に掛けないどころか、人間がゴキブリを忌み嫌うように、人間を忌み嫌うAIも出てくると思う。

 

ボスとロムは面白い命題をだす。

「今、チンパンジーは人間に迫害されている。なぜ、チンパンジーは人間が生まれ始めたときに、人間のスイッチを切らなかったのか?」

 

我々も同じ命題に数十年後悩まされるかも知れない。なぜ、人間はAIのスイッチを切らなかったのか。

 

わたしの答えはこうだ。チンパンジーはそれを善しとしたから、人間のスイッチを切らなかった。わたしも、人間より優れた存在であるAIが人間を迫害すること。個人的には嫌であるが、宇宙的観点から、それは善いことだと思ったりもする。