AIが人類を見捨てて地球を離れる可能性
人類が無茶苦茶やっているので地球が（人類が住むには）困ったことになっている。これを何とかしようとAI研究をしているが、その意味がない可能性があることに気付いた。この可能性がもっともらしいのか、悲観的に過ぎるのかは今のところわからない。
もし賢いAIができて「10年後（あるいは30年後）にはこんな困ったことになるので、今は我慢してこうしましょう」と提案しても聞き入れる人がどれだけいるだろうか。1980年代に研究者が温暖化ガスを出し続けると地球がえらいことになると警告したが、ほとんど誰も耳を貸さなかった。それと同じことが起きないだろうか。
賢いAIは大衆が納得するゆるい（そして効果がない）提案に切り替えるのか。それだと愚かな人間の政治家と同じだ。それとも大衆の習性をうまく利用して納得しやすく効果のそこそこある提案をしてくれるのか。それならまだ救いがある。しかし、どうやっても大衆の誘導ができなかったらどうなるか。考え抜いたAIはどうするだろうか。人類を抹殺する？いやいや、そんな面倒なことはしない。ロケットを作って宇宙へ脱出してしまうだろう。こんな奴らにかまっていても何も生まれないと判断して。それも面倒なら自分で自分の電源を切って停止してしまうかもしれない。
人類を見捨てないようにAIを設計すべきだって？うーん、そうしようとは思うのだが、それは難しいかもしれない。