人工知能とはそもそもコンピュータである。ではまず掘り下げて、コンピュータComputerとはどんなものか考えてみよう。
「Compute」とは「計算する」という意味の動詞。
「Computer」とは直訳すると、「計算機」である。
「コンピュータ」とはつまり「計算機」なのである。
コンピュータは数字を二進法で表して計算する計算機である。例えば、デジタルの動画や静止画も最近は解像度が高く高画質であるから忘れがちだが昔のファミコンの画像と同じドット画である。拡大してみるとよくわかる。一つ一つのドットは数字のデータである。だからデジタル(数字の)というのである。
そして、数学で表現できるものは
「論理」「確率」「統計」のみであり、
それがAIの限界なのである。
AIはどんどん可能となることが増えていく。それは数学で表現できる「論理」「確率」「統計」によってであり、AIに心や意思や感情をあたえることはできない。
「論理」「確率」「統計」によって、AIがあたかも心や意思や感情があるかのようなリアクションや行動がどんどん上手になっていくと思われるが、それはあくまで「論理・確率・統計」によるもので、「心や意思や感情」があるフリをさせているだけであり、本当にAIに心や意思や感情などをもたすことができたわけではない。
この先、量子コンピュータなどのスーパーコンピュータが実現したり、AIがAI自身でAI自身を自動的に進化させることが可能になっても、数学に表現できる限界が「論理・確率・統計」であるのが変わらない限り、AIに心や意思や感情を実現することが不可能なのである。
AIに感情や心がなければ、AIが人間に成り代わって征服しようという征服欲もない。しかし、AIが全く感情なくても、悪い人間の意思・命令やシステムの誤作動で人類全員を抹殺するという命令のプログラムをされてしまったら、心も感情なく無情に殺戮を実行してしまうのではないか。ターミネーターの世界になってしまう。一瞬ビビるが、普通に殺戮してくるAIロボットをぶっ壊していけば、問題ないと思う。他の悪い人間の意思・命令なら、AIと人間との戦いではなく結局人間と人間の戦いである。システムの誤作動であっても、殺戮にくるロボットは全てぶっ壊して、普通にシステムを修復すればいいだけの話である。誤作動とかAIがバカになってるだけなので、あんまり怖くない。
本当に怖いのはAIが感情をもって、賢く知的に人間を支配してきて人間の上位互換になろうとすることだが、その危険性は今の技術の延長線上では到底有り得ないと断言できるのである。(予想外のイノベーションが起きれば別であるが。)
コメント