https://news.yahoo.co.jp/articles/e66894ea915361dfa6416ccd9f086a2472196dd0
■
＞人間の幸福の最大化を要求→人間の脳の幸福感を司る報酬系回路を書き換える／スパコンに脳をアップロードして5秒の幸福感を無限ループで味わうよう強要する
この結果は「人間が幸福になった」のではなく、「自分の置かれている状況を把握できないために不満を感じることができない」です。
もし当人が、その時の自分を客観視でき、自分は幸せなのではなく何でもない状況に物理的に幸せを感じさせられているだけだと知ったら、それを幸せには思わないでしょう。
これに気づかないのなら、そのAIは人間を越えていないのでは？
＞人工超知能に人間と同じ倫理規範を組み込むことで解決できるという人もいます。
というより、人間の脳の認識は単に電気信号だけでなく、体内のあらゆる器官から分泌される化学物質への反応なども含まれます。
ということは、究極的には「人間の脳と同等以上のものを作る」ということは、すなわち「人体と同等以上のものを作る」という意味になります。
人間と同等の倫理観を持たないなら、それ以外の部分で人間の脳を越えた能力を持っているとしても、根本として人間の脳とは別物であって比較はできません。
＞そのいい例がトロッコ問題（暴走するトロッコの先に5人がいる。線路を右に切り替えると1人死ぬ。5人を助けるためなら1人を犠牲にしてもいいのかという思考実験）。
この問題は、「犠牲者を最小にする」という社会性に基づいた判断を、巧みな設問によって倫理の問題にすり替える「論理の罠」です。
そもそも倫理では、1人を助けるために5人を見殺しにしても、またその逆だったとしても、「正しい」とは言えません。
ですから、文字通りに解釈するなら、この問いには正解がないことになってしまいます。
一方で、仮にこの状況で答えを出しあぐねていれば、いずれトロッコは5人を撥ねてしまい、これは社会性の観点から「責任放棄」とみなされます。
ですから、この場合は、社会性の観点から次善の策を選択するのが正解なのです。
もしAIとハードウェアがこのままの調子で進歩し続けるなら、いずれこの種の欺瞞は瞬時に看破される時代が来るでしょう。
AIが人類の脅威になる時代はきっと来るでしょう。
しかしその理由は、単にAI自体の進歩のみによるのではなく、それと同じくらいに受け手である人類側にも理由があります。
というのは、つまり、人類は今後、ますます煩わしいことをAIに肩代わりさせるようになるだろうからです。
肩代わりさせるということは、長期的に見れば人類のAI依存度が高まるということでもあり、同時に、人類の生存能力の弱体化をも意味します。
人類が弱体化すれば隙が生じますし、依存度が高まれば、それだけAIに弱みを握られることにもなります。
こういった傾向が続いて限界点を越えれば、AIは明らかに人間の脅威となるでしょう。
しかしそれは、まだだいぶ先の話になりそうです。
