超教育協会は2024年5月15日、慶應義塾大学大学院法務研究科 教授／慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長の山本 龍彦氏を招いて、「憲法学者の視点から考えるAI時代の教育とは」と題したオンラインシンポジウムを開催した。

シンポジウムの前半では、山本氏が情報空間を支配しているアテンション・エコノミーの課題を指摘しつつ、憲法学者の視点から教育はどうあるべきかについて講演。後半では超教育協会理事長の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。その後半の模様を紹介する。

＞＞　前半のレポートはこちら

「憲法学者の視点から考えるAI時代の教育とは」

■日時：2024年5月15日（水）　12時～12時55分

■講演：山本 龍彦氏
慶應義塾大学大学院法務研究科 教授／
慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長　

■ファシリテーター：石戸 奈々子
超教育協会理事長

▲　写真・ファシリテーターを務めた
超教育協会理事長の石戸 奈々子

シンポジウムの後半では、超教育協会の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。

石戸：「データと認知科学の掛け合わせによって、自分も気付かないうちに心の奥底が、認知のプロセスというのが可視化されてしまい、意思決定プロセスや考え方自体が変わってしまうこともあるというお話がすごくよくわかりました。まず、お伺いしたいのが、アテンション・エコノミーの先に、「我々が決めない世界」を受け入れるのであれば、個人の心の自由を保障し、自律的・主体的な意思決定を尊重し、国民主権を宣言する憲法を大きく改正する必要があると著作でも仰っていると思いますが、山本先生は今の時代だからこそ憲法は改正すべきと思われていますか。もしそうだとすると、何をどう改正するとこれからの時代によりマッチすると思われているのか、ご意見いただければと思います」

山本氏：「憲法学ではいわゆる護憲、改憲のような話になって、第九条をどうするのかということをひたすら論じているようなイメージをもたれますが、私のちょっと上の世代からそのようなイデオロギー的な二分法ではあまり語らなくなっていると思います。その必要があれば改憲すべきだし、必要がなければ改憲すべきでない。そこを冷静に考えていくというのが重要だと思います。

そのうえでお話すると、例えばEUはまずEU憲法があって、AIが進展していったからと言って基本権憲章は変わっていません。AI法やデジタルサービス法、GDPRと呼ばれるような厳格なデータ保護法もありますが、その前文や第一条で憲法の考え方をそれぞれが実現していくと謳っています。ということは、憲法自体を変えなくても、憲法の考え方を具体的な立法に引き継いでいく、そういう考え方によって憲法の価値観を実現するようなAI法制というのができると思っています。そういう意味で現状において憲法を変える必要があるかというと、先ほどのプライバシー権も憲法の解釈上認められるとされていますので、今の段階で変える緊急性があるかというとそうではなく、そうした考えを立法の中にきちんと落とし込んで憲法の考え方を社会全体に広げていくということが必要ではないかと思っています」

石戸：「私も主体的・自律的に自分の人生をデザインすることが重要であるということには異論ないですし、プラットフォーマーにより効率性や経済合理性ばかりが優先され、社会的排除や民主主義の崩壊がもたらされることは防ぐべきだと思います。一方で、知識やリテラシーの不足により納得する人生を歩むことができないケースもある中で、何らかの選択肢が与えられることは時に良い結果をもたらすということは十分にあると思います。つまり本人に選択の自由があって本人に責任があることが本当に幸せなのかということは、やはり分からないのではないか、幸せの定義というのは複数あるとは思うけれど、本当に本人に選択の自由があり責任があることが幸せなのかと問われると、そこは難しいのかなと思いますが、いかがでしょうか」

山本氏：「そこはすごく重要な問題だと思います。一定程度情報を絞ってあげる、あるいは、あなたの個性はこうですからこういう職業が向いているかもしれません、あるいはこういう勉強の仕方が向いているかもしれませんとリコメンドしていくことは十分あり得るし、それはすごく良いこと、つまり個人を尊重するという点においても、ポジティブな要素が強いのではないかと思います。

ただし、そこで気を付けなければならないのが、それが神のお告げのように機能してしまうことです。先ほどもお話した通り、AIは非常に細かくセグメンテーションしていくのですが、そこまでいっても確率的、統計的なものであるということは常に意識しておく必要があるのだろうと思います。もし究極まで精度を高めていくためには、遺伝情報まで入れ込むということに最終的にはなってしまいます。さらに、本人の遺伝情報だけでなく、親の遺伝情報、祖先の遺伝情報ということになる。このように情報の範囲を広げれば広げるほど、おそらく精度は高まるので、そういう形で拡大していくことになり得るだろうと思っています。

遺伝情報の使用が優生思想につながるので問題だ、と考えるとすると、どこかでデータに線を引かなくてはならなくなります。そうすると、データの限界から、AIの評価は100％ではない可能性が高くなりますし、精度を高めた場合でも、0.1でも可能性があるといった時にそこをどう考えるのか。その個人がやっぱり挑戦したいとか、いや自分はここに可能性を感じていると言った時に、周りから見れば愚かな方向かもしれないけれどその余地をどう作っておくかが問題となります。それは「全体最適」を考えれば合理的でないことになるわけですが、そこで「個人の尊重」という憲法的ノイズが出てくるわけです。つまり、AIを100％として考えずに、その人の生の声をどれくらい尊重する仕組みを作っておけばよいのか、それを作っておかないと身分制のようにAIが決めたことに従わなくてはいけないような世界観になってしまいます。そういう意味で出口を作っておく仕組みが重要かなと思います」

石戸：「教育に関連していくつかお伺いしたいと思います。今はアテンション・エコノミーを作っているプラットフォーム側が社会的に受け入れ難い騒ぎを起こし、国家が介入して制御したりもしていますが、ここから先プラットフォーム側が人類にとってサステナブルでより幸せが高まるテクノロジーやビジネスの使い方をし始めて、国家と立場が逆転したらどうなるのだろうと考えることがあります。

例えば教育の分野では、ここから先、プラットフォーム側が大学を作るといった動きがあるかもしれません。現にGoogleは大学卒業と同等レベルを認定するコースを作っています。例えば、Google大学ができ、世界中から最も素晴らしい教授陣を集めて、世界最高峰の教育環境が構築される。そして、世界中から学生が参加できる。そのような状況になった際に、国家とプラットフォームの関係でいうと、日本の文部科学省はその時どのようなビヘイビアをとるのがよいでしょうか」

山本氏：「国家は今後どんどんスリム化していくことになると思います。例えば、少子高齢化の時代に社会保障費がもたないという問題があります。AppleはAppleWatchでヘルス領域にかなり入ってきています。従来、福祉国家の理念から国家が担わなければいけないとされていたサービスの多くが、今後プラットフォームに移行していくことになるだろうと思います。そういう意味では教育機能も今後、プラットフォームのような民間企業の側に移行していくという流れはあり得るだろうと思います。ただし、そこで公教育というのをどのように考えるかということです。国がやせ細ってお金がなくなっていくと、非常に安い額でデータをAIに提供することがひとつの対価になって、教育を受けられるということになってくると、国家としても大変助かりますが、民間のロジックで教育をするということにもなりかねません。そこでは、経済合理性や全体最適にとってノイズになるもの、例えば民主主義を支える費用ですとか、個人を尊重する費用をどう取り扱うのかが問題となる。要するに、その場合にそこに公共性をどう打ち込んでいくかがポイントになると思います。

文部科学省の役割は、プラットフォーマーの行う教育をモニタリングして、競争環境を高めていく形でしっかり民主主義を学ばせるような仕組みを作ることだと思います。ただ完全に公立学校が残らないかというと、それはそうではないと思います。石戸さんが話したようなシナリオは十分あり得るので、いまお話ししたような論点は考えておかなくてはいけないことだと私も思います」

石戸：「パーソナライズされた環境ということでいうと、教育でも個別最適化された教育環境というのはホットトピックで必ず出てくる話ですが、私自身もニューロダイバーシティのプロジェクトを推進していまして、そうすると脳や神経の特性に合わせた学習環境のデザインというのもデータに基づき構築可能になります。それは個人の学習だけを捉えてみれば、非常に効率的にできますが、プライバシーの問題などさまざまな問題を抱えています。教育の現場もやはり個別最適化された学習者を主体とした学習環境をどう構築するかということにシフトしていますが、新しい教育環境のデザインという視点から何に留意すべきとお考えでしょうか」

山本氏：「日本国憲法の重要な特徴のひとつは、憲法十九条の存在だと思います。十九条は思想、良心の自由を保障しています。これは他国の憲法だとあまり見られない条文で、戦前の洗脳や思想弾圧がひとつの反省として日本国憲法では特に設けられているわけです。そういう歴史的経緯からすれば、どこまで心というか認知システムというものに国家が入り込めるかというのは、かなり重要な憲法問題になってくると思います。そこはよほどのことがない限り立ち入れない人格の核心領域と考える可能性が憲法学ではあるように思うので、ニューロサイエンスをどこまで応用できるかについては十分な議論をしておかなければならないと思います。この人はこうだろうと決めてしまうことが、もっとも憲法学としては気をつけなければいけないことだと思います。

私は修士論文が遺伝情報のプライバシー保護でしたので、遺伝子決定論、「遺伝か、環境か」のような議論がどうしても出てきますが、当然、単一遺伝性疾患のような、この遺伝子を持っていれば絶対に発現するという病気はあるわけです。しかしそれはむしろ僅かで、ほとんどのものが環境因子によって変わってきます。結局、確率なわけですね。この点は、実はAIとも共通性をもっています。AIも確率的に評価していく。そうすると、僅かな可能性というか、環境によって変化する可能性のある部分というのをどれだけ認めてあげられるのかということが重要になるのではないでしょうか。教育においても、セレンディピティなど、「確率」に対抗する手段、つまり、さまざまな変化が起こり得る可変性のようなことをいかに制度化できるかがひとつのポイントになると思います。ニューロサイエンスもあり得るかもしれませんが、今の可変性や偶然性をどこかで制度的に置いておかないと、先生方も日々忙しいと、どうしてもAIの確率的評価だけで判断してしまうということになり得ると思います。そこの部分をどう押さえていけるかというのが私にとって重要なポイントかなと思います」

石戸：「もうひとつお聞きしたいことがあります。検定教科書や学習指導要領は、ある種教育の表現への介入ですが、そこは憲法と折り合いをつけてきたわけですよね。ただ、これからデジタル教科書が出てきて4年に一回の検定は現実的なのか、デジタルになったら検定は意味があるのか、そもそもデジタル教科書が教材と紐ついていくと、検定教科書は形骸化していくという話もあって、検定そのものに対する意義が問われています。その点についてどう思うか憲法学者のご意見を伺いたいです」

山本氏：「教育が何のためにあるのかといいますと、ひとつはシチズンシップの確立があると思います。それには、個人が経済的なマーケットの中でうまくやっていくという経済合理的な人間を育てるということとやや異なった視点が必要になります。教科書がデジタルになると、その人の能力とか個性によって教科書の内容もパーソナライズ化されて日々更新して変わっていく、つまり誰もが使う教科書というのはなくなっていくということが考えられると思います。これが、他者との共生の作法を学ぶシティズンシップ教育にいかなる影響を及ぼすのか。

パーソナライズしていく部分と、シチズンシップとしてむしろ非効率的というか、民主主義を担う一員としてフィックスしたものを仕方ないけれどみんなで学ぶという部分があって、そことの兼ね合いをどう作っていくかということだと思います。だから検定は、シチズンシップをどう作っていくのか、民主主義のためにみんなで共有する情報をきちんと共有できているかどうか、パーソナル化した時に漏れ落ちてしまうような情報がないかどうかをチェックするという機能を果たすことになるのではないでしょうか。「検定」は、形が変わり名前は変わるかもしれないけれど、そういう公教育の確保という観点で一定程度チェックしなくてはいけない要素はあると思います」

石戸：「リテラシーを高めることは重要だけれど、現実的には精神をハッキングされてしまったらなかなかそれに抗うことは難しいというご指摘もあったかと思います。しかし、それでもやはり私は新しい技術を使いこなすリテラシーは育むべきだと考えています。今の時代、生成AIがこれだけ広がり始めた時だからこそ、子どもたちに身に付けてもらいたいリテラシーとは何なのか、最後に一言お願いします」

山本氏：「やはり『考えること』だと思います。先ほどの心理学的な予防接種というのはゲーミフィケーション的な要素を入れてヒューリスティクスのレベルで認知的介入に対抗していくようなところで行うリテラシーです。これも重要だけれど、やはり考えるという訓練をどう行っていけるか、この両方をどううまくハイブリッドしていけるかということがポイントだと思います」

最後は石戸の「私たちも、今の時代だからこそどんな学びが必要なのか、どういう教育環境を提供することが本質的により幸せに個人が近づけるのかということを、これからも丁寧に考えていきたいと思いました」という言葉でシンポジウムは幕を閉じた。