世の中から失敗が無くなったら幸せになれるのか?～AIは「心」を持てるのかG・ザルカダキス氏(2015)

ザルカダキス氏はサイエンスライター、AI・ロボットは人類を救うか?(2015)

今のAIは特異点を超えられない

第一の前提は、私たちのコンピュータテクノロジーが、アーキテクチャー的には人間の脳と異なるのに、自己認識を含むを含む人間の知能のあらゆる側面をカバーできるというものであり、第二の前提は、18カ月ごとに倍になるというベースでコンピュータの複雑度が上がると、コンピュータが脳の複雑度の限界を超えたときに人類を超える超知能がひとりでに生まれるはずだというものである。

（AI特異点仮説を唱える人々の第一の前提は、）コンピュータは人間と似ていなくても超知能を持つことができると言っている。

（第二の前提は）コンピュータが複雑度を増せば自己認識がどこからか「自然発生」すると考えていることである。

・・・結論を言うと、AI特異点仮説の二つの隠れた前提はどちらも大きな問題を抱えている＞（386ページ）

特異点を超えるために次世代のAIはどうなるべきか

(現在のコンピュータのように)基本的にデジタルではなく、アナログなので、現在のようなソフトウェアとハードウェアの分離はなくなる。(次世代のAIとして構想されている新型半導体素子は)脳の神経生物学的アーキテクチャーを真似ることができる。(402ページ)

AIシステムによって、失敗できなくなる?

AIシステムは、私たちが何かを決めなければならないときに、考えられる最良のアドバイスを与えてくれるようになる。・・・(AIシステムは)純粋な偶然は非常に少なくなる。かくして、AIは私たちにより多くの成功をもたらしてくれる。・・・つまりAIは私たちが失敗するのを防いでくれる。(441ページ)

AIの世界を望んでいるのか?

自分たちと同じようにしようと思って知能を備えたマシンを作ったおかげで、(マシンの判断を受け入れることにより)自分たちがマシンのようにかわってしまうとは歴史的にもアントも皮肉なことだ。(442ページ)

AIは心を持てるか?

著者は現在のデジタルコンピュータが「心を持つ」=「自己認識を行う」ことはないと考えている。デジタルコンピュータはハードとソフトが構造的に分離している。本来の人間の脳機能をがその様な構造を持っていない以上、脳を模倣し、能力を超える可能性は低いと分析する。AIが脳機能を超えて特異点に到達するには、より脳の構造に近い構造となる必要があると説明する。

それでは特異点を迎えたAI社会は幸せなのであろうか?そこでは誰もが失敗をしない世界、皆が同じことを同じやり方で行い、同じ結果が得られる世界が実現する。我々は本当にこういう世界を臨んでいるのだろうか?ここに均衡状態の静寂が待っている。

我々は常識に従うことで均衡状態に満足していないか?