◆◆人工知能は、与えられた課題には強い
人工知能は、与えられた課題については、人間よりも早く正しい答えを出すことができます。
人工知能は、人間が蓄積してきた膨大な情報や知識を学習しているので、与えられた問題に関しては、最も正しい答えに近い答えを出すことができます。
しかし、人工知能には、与えられた課題そのものの意味を、自らの生存や経験に照らして問い直すという点で限界があります。
▽参考記事
「ASI「人間の1万倍」は本当か…孫正義・アルトマンが語らない、AI進化“締切2030年”」
https://www.sbbit.jp/article/cont1/186195
「ビジネス+IT」
◆◆「そもそも、この課題に意味があるのか」と考える力
これが自己言及と言われるもので、例えば人間は何か課題が与えられた場合でも、「果たしてその課題はどういう意義があるのか」というところに遡って考えることができるので、異なる課題に切り替えて考えることもできます。
現在、人工知能にこの自己言及の能力をつけようという試みがなされています。
しかし、このことについて、私は人工知能が話題になった当初から、人工知能は人間を超えることができないと考えていました。
その理由はただ1つ。
人間は身体を持っているが、人工知能は身体を持っていないからです。
◆◆自己言及の根底にある身体性
この身体性というものが、知能の本質的な性格を決めています。
人間が自己言及という能力を持っているのは、与えられた課題よりも先に自分の身体があるからです。
だから、与えられた課題について、「こんなかったるいことはやっていられないから、そもそもこういうことをやる意味があるかどうか考えよう」というような発想が自然に浮かび上がるのです。
人間には身体があります。
身体があるから欲求があります。
欲求があるから価値判断が生まれます。
価値判断があるから「そもそも何のために」という自己言及が生まれるのです。
つまり、人工知能に分かち難く結びつく身体があり、その身体が気持ち良さを感じたり、痛みを感じたり、転んで怪我をしたり、成長したり、年を取って動けなくなったり、というようなことができれば、人工知能が自己言及を始める可能性は高まるでしょう。
それは人工知能というよりも、鉄腕アトムのような賢く強く優しいロボットのようなものになるかもしれません。
◆◆当面は、人間の身体と人工知能を組み合わせる
この人工知能の身体化という研究は、これから進んでいくでしょうが、当面は人間が人間の身体を生かして人工知能を活用するというやり方が最も現実的です。
そのために大事なことは、人間が高度な人工知能に匹敵するだけの高度な自己言及の能力を持つことです。
それは何かというと、物事を根本から考える力を持つことです。
その力とは、ひとことで言えば哲学です。
◆◆答えのない問題には哲学が必要になる
これからの人類が直面する課題は、かつてのような牧歌的なものではありません。
例えば、自然災害をどう防ぐかということなどに関しては、自己言及の必要性はあまりありません。
それは、課題の目指す方向が決まっているからです。
そもそも「自然災害を克服することにどういう意味があるのか」というような自己言及をする人はまずいません。
しかし、政治選択の問題や、臓器移植の問題や、将来予想されるかもしれない宇宙人との遭遇などについては、課題の前に高度な自己言及が必要になるのです。
◆◆AI時代に必要になる読書、作文、対話、実践
ここで言葉の森の仕事に結び付けると、哲学、つまり高度な自己言及の力を育てるものは、読書と作文と対話と実践だと思います。
これまでの学校教育は、人工知能でできることを人間がやろうとするものでした。
これからは、知識や情報に関しては人工知能を利用し、人間はその根本にある哲学を自分自身の身体性をもとに生かしていくことになります。
AI時代の教育は、答えを出す力を育てる教育から、何を問うべきかを考える力を育てる教育へ変わるのです。
※用語の補足（「自己言及」について）
論理学や認知科学で使われる「自己言及（Self-reference）」よりも、引用した「ビジネス+IT」の記事の文脈としては「メタ認知（問いそのものをメタ視点から問い直す力）」「前提の疑い・脱構築」に近い意味合いで使われています。