超教育協会は2024年5月15日、慶應義塾大学大学院法務研究科 教授／慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長の山本 龍彦氏を招いて、「憲法学者の視点から考えるAI時代の教育とは」と題したオンラインシンポジウムを開催した。

シンポジウムの前半では、山本氏が情報空間を支配しているアテンション・エコノミーの課題を指摘しつつ、憲法学者の視点から教育はどうあるべきかについて講演。後半では超教育協会理事長の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。その前半の模様を紹介する。

＞＞　後半のレポートはこちら

「憲法学者の視点から考えるAI時代の教育とは」

■日時：2024年5月15日（水）　12時～12時55分

■講演：山本 龍彦氏
慶應義塾大学大学院法務研究科 教授／
慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長　

■ファシリテーター：石戸 奈々子
超教育協会理事長

山本氏は、約40分の講演において、憲法学者の視点から考える教育のあり方について講演した。主な講演内容は以下のとおり。

憲法学の視点から考えるアジア、の教育というテーマでお話をします。まず、我々がどのような情報空間の中にいるのか。現在の情報空間とは、プラットフォーム企業がゲートキーパーになっていて、ある人が他者とコミュニケーションをしたいと思ったときには、プラットフォーム企業が作った空間を経由しなければいけないし、ビジネスをしたいと考えたときもプラットフォームにかなり依存している状況です。プラットフォームが情報空間のゲートキーパー、ある種の「門番」になっているというのが現状だと思います。あらゆるコンテンツがプラットフォームの上で競争しています。そうなると、「支配」という言い方は語弊があるかもしれませんが、「統治」しているプラットフォームのビジネスモデルが重要になると思います。それがアテンション・エコノミーと呼ばれているものです。

▲　スライド1・情報空間を統治する
プラットフォームのビジネスモデルが
アテンション・エコノミー

インターネットの普及による情報過多な世界においては、マーケットに供給される情報量に対して我々が払えるアテンション、消費時間が圧倒的に希少になってきます。それが希少価値を持つ交換財として経済的に取り引きされるというビジネスモデルだとされています。多くの人が使っているSNSは、基本的には無料のサービスですが、本当に何も払っていないかというとそうではなく、我々の貴重な時間やアテンションを支払っているということになります。

あるアメリカの経済学者が、こういったプラットフォームのビジネスモデルのことを「セイレーン・サーバー」と言っています。セイレーンとは古代ギリシアの吟遊詩人ホメロスの「オデュッセイア」に出てくる海に棲む魔女のことです。魅惑的な歌声で海を航海している人を惹きつけて、命まで奪ってしまう非常に恐ろしい妖精です。経済学者のグレン・ワイルは、今の情報空間では、あらゆる場面でセイレーンが魅惑的で刺激的なコンテンツで我々を引きつけてアテンションを奪い、最終的には時間や個人データも含めて搾取してしまうものなのではないかと指摘しています。

そして、このアテンション・エコノミーの歴史というのは今に始まったことではありません。

▲　スライド2・アテンション・
エコノミーの歴史

アテンション・エコノミーは、アメリカでノーベル経済学賞を取ったハーバード・サイモンが1960年代の後半に予言していたことですし、アメリカの社会学者であるマイケル・ゴールドハーバー（※スライド2は誤記）は、アテンションは未来の通貨で、貨幣が時代遅れになるという大胆な主張までしていました。アテンション・エコノミーというのは、国連でも近年積極的に議論されていて、その課題が指摘されています。アテンション・エコノミーに支配された情報空間が非常に拡大してきているというのが現状ではないかと思います。

アテンション・エコノミーの世界の中では、プラットフォームでビジネスをする企業同士がユーザーの可処分時間を奪い合うことになります。そこでは、可能な限り多くの時間、アテンションを得るために個人データ、あるいはAIを駆使して、そのユーザーが最も強く反応あるいは反射するものが予測されています。

▲　スライド3・プラットフォームは
利用者が強く反応するものを予測している

このアテンションマーケットにおいては、どれだけ説得力を得るか、信頼を得るかを競う、クオリティの競争ではなくて、どれだけそのユーザーを刺激できるかどうかという「刺激の競争」になっていきます。そうなると刺激と反射の絶え間のない反復により、自己決定権、自律的な意思決定が揺らぐという課題がでてくると思います。

▲　スライド4・自律的な意思決定の
揺らぎがアテンション・エコノミーの課題

AIプロファイリングも広がっていて、個々人の脆弱性のプロファイリングも可能になってきているというのは、このシンポジウムの参加者の方々にとっては周知のことだと思います。憲法学で注目しているのは、2016年のアメリカ大統領選挙でトランプ陣営に与したとされているケンブリッジ・アナリティカというイギリスの選挙コンサルタント会社です。この会社はイギリスのブレグジットでも暗躍していたとされて、アメリカやイギリスの議会にも呼ばれていますが、ケンブリッジ・アナリティカがいわゆるマイクロターゲティングを行って、その心理的プロファイリングによってユーザーの性格分析をしていたことはよく知られています。神経症で過度に自意識過剰な人間であるか衝動的な怒りに流されるタイプか、フェイクニュースに騙されやすいタイプかなどをスコアリングして、それらのスコアが高い人に対してフェイクニュースや陰謀論との接触頻度を高める情報フィードを行う。フェイクニュースに騙されやすい人にフェイクニュースをリコメンドするといったやり方を行っていたわけです。そうすることで国民の投票行動を操作したと言われています。

こういったAIを使ったプロファイリングによって、個人の心の中身までもがかなり詳細にわかってくるようになってきていると思います。心理、あるいは認知的な傾向というものがわかることによって、どこに自分の有限のアテンションないし時間を振り分けるかという自律的な決定というものが侵されている。実際、強制的にアテンションや時間が奪われているのではないか、「アテンションの強奪」、「窃盗」が起きているのではないかという指摘があります。

▲　スライド5・アテンション決定を
行う2つの思考モード

ダニエル・カーネマンという有名な心理学者の二重過程理論によれば、人間には二つの思考モードがあって、ひとつはファストで直感的な思考モードである「システム1」、もうひとつは、スローな、熟慮的で内省的な思考モードである「システム2」です。この2つを人間は使い分けながら考えて行動しているということです。今のアテンション・エコノミーの情報空間の中では、このシステム1をいかに刺激して反射的な反応を得るかということが重視されて、むしろスローな考え方がされないようにする、つまり時間をかけた判断、熟慮を抑え込むようにしていくことが、非常に重要なビジネスモデルになっていると考えられています。

例えばTikTokという短尺動画のプラットフォームがあります。TikTokでは、縦スクロールの画面の中に、システム1を刺激するような動画を次々に表示させていると言われています。

▲　スライド6・認知科学を駆使して
UXでユーザーのアテンションを奪う傾向

全ての動画をその人が好むもので固めない。たまにその人にとってちょっとつまらない動画も入れ込む。それによって、次はもっと面白いもの、次はもっと刺激的なものとなって、「やめられない止められない」状態を作り出しています。しかも、縦スクロールで指でスワイプしないと次の動画を見られないという仕様になっており、射幸心を煽るアディクティブな中毒性の高いUXになっているという指摘があります。私も、TikTokなどショート系の動画を2、3分見ようと思って開くと、いつの間にか30分以上たっていることがあるのですが、まさにアテンションの振り分けに関する自己決定が奪われているように感じます。こういった状況のことをティム・ウーは同意によらないアテンションの「強奪」、「窃盗」であるという批判をしています。

EUで2024年2月に全面施行されたデジタルサービス法という法律がありますが、このデジタルサービス法の背景や目的には、まさにアテンション・エコノミーがあります。実際にTikTokに対しては、先ほど述べたような問題意識から、同法に基づき、今年の2月19日に欧州委員会が正式に調査をすることを発表しています。

▲　スライド7・欧州委員会が
TikTokに対する調査を実施

次に先般、成立したEUのAI法について説明します。ここでもAIを使った意思決定の操作というものが強く警戒され、第五条の禁止されるAI実践のなかでは「意図的に操作的もしくは欺瞞的な技法を展開するAIシステム」については禁止とし、第五条のB項においては、年齢や障害または特定の社会的もしくは経済的状況に起因する個人または特定の集団の脆弱性を悪用するようなAIシステムが禁止とされています。

▲　スライド8・EUのAI法案

特にEUでは、子どもの保護ということが強く意識されています。アテンション・エコノミーの課題として、他にも偽情報や誹謗中傷の拡散という問題も重要だと思います。アテンション・エコノミーのもとでは刺激的なコンテンツが経済的な利益を生むので、ジャーナリスティックな退屈なお話よりも、当然、芸能ゴシップや暴力的なものが広がっていく。いわゆるインプレゾンビと呼ばれるような、インプレッション数を稼いで広告収入の配分を受けるユーザーも、アテンション・エコノミーというビジネスモデルの構造の中で生まれてきます。アテンション・エコノミーという情報空間においては、偽情報や誹謗中傷という刺激的なコンテンツは必要不可欠なガソリンということになりますので、構造上、おそらく減らないと思います。

そのアテンション・エコノミーというビジネスモデル自体をどう改善していくのかという構造的なところに着目しないと、おそらく偽情報や誹謗中傷は減りません。先ほどから話しているように、情報空間は思想の競争から、いかに人を刺激して反射させるかという刺激の競争へと変わってきているからです。さらにフィルターバブル、エコーチェンバーという問題も、近年日本でかなり議論されていると思います。

▲　スライド9・フィルターバブル。
エコーチェンバーとは

先日の読売新聞の報道では、フィルターバブルやエコーチェンバー、あるいはアテンション・エコノミーという言葉を知らないという日本人の数は他国の国民に比べて非常に多いという調査が出ていました。また、朝日新聞でもアテンション・エコノミーを題材とした連載を行っていますが、まだまだ周知されていないところがあります。アテンション・エコノミーのもとでは、とにかくユーザーのアテンションを得る、反射を得ることが重要になりますので、個人データからプロファイリングをしてその人が好むであろうものを選択的にリコメンドしていく、逆に言うと、好まないだろうものをフィルタリングしていくことになる。そうなると、ユーザーは次第にフィルタリングされた泡の中に閉じ込められていく、これがフィルターバブルという現象です。

私は野球が好きですが、ヤフーニュースのタイムラインは野球のニュースで溢れているという状況です。フェイスブックのタイムラインでもやはり同業者の投稿が非常に多く掲載されています。エコーチェンバーというのは「声が反響する部屋」という意味です。特定の考え方がこのアテンション・エコノミーのもとでは次々とリコメンドされてくるので、右寄りの人にはどんどん右寄りの考え方が送られてきて、そういった声が響き渡り、反響していきます。

もちろん、逆もまた然りで、左寄りの人には左寄りの考え方が大量に送られてきます。そういうインフルエンサーの投稿が送られてきて、狭い情報空間の中で反響していくということになります。それによって考え方が極端化して、分断が広がっていく。また、「真実錯覚効果」という認知バイアスが心理学ではいわれているようで、人間は何度も同じ情報に触れていると真実であると錯覚してしまう。陰謀論も真実錯覚効果によって、その人にとっては真実ということになってしまうわけですが、そうした問題も、フィルターバブル、エコーチェンバーでは起きていると言われています。

このようにアテンション・エコノミーは、さまざまな問題を引き起こしているのではないかと思います。学生と話すと、「何が悪いのですか、自分の好きな情報に囲まれて何が問題なのでしょうか」と言われることがあります。ここはすごく重要な問題だと思います。功利主義的な快楽計算、人間の快を最大化していくということに合理性を見い出すある種ベンサム的な功利主義とアテンション・エコノミーは相性が良いわけです。逆に言えば、多様な幸福を認めるミルのような自由主義や、アリストテレス以降の民主主義との関係ではやはり問題になっていくのはないかという認識があります。

次に、これを踏まえて教育はどうあるべきか憲法学の視点からの雑感ということでお話させていただきたいと思います。

▲　スライド10・憲法学の視点から
「教育はどうあるべきか」を考えると…

まず、教育とは何かに関して、憲法学の視点から本当に大雑把に素人考えをお話しします。少し歴史をひもとくと、中世のヨーロッパはキリスト教、カトリック教会が支配していた時代と言われています。この中世は、神の決定に従うのが極めて重要です。アダムが自己決定によって神との約束を破ってしまった、それによって人間は原罪を負うことになったとされるので、人間が自己決定することはむしろ悪いことだったのです。

ところがルネッサンスで、古代ギリシアのアリストテレスの考え方と再び出会い、人間というのは捨てたものではないのではないかと、人間は自分で自己決定できる理性的な存在だという考えが広がっていきました。近代立憲主義も、こうした近代啓蒙主義の流れを汲んでいます。ですので、まだ未熟な子どもも、教育によって理性的な存在になる、ですから、終局的には人間は理性的な存在となりうる、ということが教育の前提となってきた側面があるのではないかと考えています。

ところが、ルネサンス期以降の近代啓蒙主義が考えてきた「人間は理性的な存在だ」という観念はもう多分、通用しないでしょう。人間は誰もが認知バイアスを持っているし、バルネラビリティ（脆弱性）を内在しているということが認知科学や脳神経科学、行動経済学あるいは心理学によって暴露されてきています。そういう意味では、人間というのは操作可能な動物に過ぎないということがばれてしまって、それを近代啓蒙主義な規範的な「人間」観で抑え込むことができなくなっていると思います。AIを用いた認知的な介入や操作に対抗していくためには、「啓蒙」的な教育だけでは不十分で、法制度・デジタル技術・リテラシーが三位一体となって対応していくことが重要になってくると思います。

では、リテラシーをどう考えていくのか、まさに教育をどう考えていくのか。今後、前提にすべき人間像は、今までの理性的で、自律的に主体的に意思決定できるという、近代的な人間像ではなくて、「弱いが、強い」という人間像が重要になるのではないかと私見では思っています。

英雄オデュッセウスは、自分も航海する際には海の妖精セイレーンの魅惑的な歌声につられてしまう、アテンションを奪われてしまう、つまり自分の「弱さ」というものを理解した上で、それに先回り的に対応しようとした。自分は「弱い」ということを認めた上で、誘惑に屈しないようにあえて自分の身を船のマストに縛り付けることをしたのです。このような、「弱さ」を認めていく「強さ」を人間像として前提にしていかなければいけないのではないか。そうすると、教育として重要なのは「弱さ」の学びです。人間の弱さ、認知バイアスを、認知心理学などの知見を前提に積極的に学ぶということがまず重要で、それによって様々な認知的介入・操作に対して心理学的な耐性を付けていく。心理的な「予防接種」などと心理学の世界では言われているようですが、心理学的に予防接種を打つということが、重要になるのではないでしょうか。

要するに、教育すれば賢くなる、合理的に考えられるようになるということは、もう神話に過ぎないので、そうではなくて、大人になっても弱いんだ、どんなに立派な人でも弱い、誰でも弱さを持っているという、その「弱さ」を前提として予防接種を打つ。ヒューリスティクスのレベルで教育をしていくことがまず重要ではないかと思います。もちろん、それだけでは駄目で、やはり強さというものを獲得していく。それには思考のための時間がやはり重要になってくると思います。そうすると、私はデジタル教育というのはとても重要でむしろ推進すべきだと思っていますが、他方で、思い通りにならない「他者」というものの存在をどう学ばせるかが重要になる。パーソナライズされているものと異なる存在、つまり、パーソナライズされない非サービス的な存在、つまり「他者」との人格的接触、これが重要で、いかにその時間を確保するのか。また、タイムパフォーマンス的な世界からの解放ということも重要になるのではないかと思います。パーソナライズされた世界というのがデジタルの世界の基本になると思いますが、もちろんそれもとても重要です。しかし、そういう世界から距離をとるという時間も同時に重要であろうと思います。

憲法と教育の関係では、憲法学で最も重要とされているのが昭和51年の最高裁の大法廷判決で、ここで現場の教師の自由ということについて語られています。

▲　スライド11・憲法と教育の関係で
重要なのは教授の自由

判決によれば、初等中等教育における教師に、大学教授が持っているような教える自由を認めることは到底許されないが、一定の範囲における教授の自由が保障されるべきことを肯定できないではない。その一定の範囲における現場の教師の自由というのはなにかというと、それは、スライド赤字のところですが、「教育が教師と子どもの間の直接の人格的接触を通じ、その個性に応じて行わなければならないという本質的要請に照らし、教えることの具体的内容および方法につき、ある程度自由な裁量が認められなければならない」というところです。

逆に言いますと、教師が、こういった子どもとの直接的な人格的接触の場を奪われると、憲法二十三条の学問の自由との関係で憲法違反とされる可能性が出てきます。今の判例をベースにする限りは、教師をガチガチに縛って裁量を奪うということは憲法上できないということになり、子どもと教師の間の人格的接触の確保が重要になってくるということになります。現代のオデュッセウス、「弱いが、強い個人」というのが、教育に求められている人間像だと思いますが、そうすると結局、弱さの学びであり、デジタルを積極的に使った心理的な予防接種、デバイスに没入しない時間の確保、「他者」との人格的接触の確保などが重要になると思います。

憲法十三条は個人の尊重を謳っています。この個人の尊重という考え方は何に対するアンチテーゼかというと、封建的身分制の時代に対するアンチテーゼです。この封建的身分制の時代の特徴というのは、いわばセグメンテーションの時代、つまり「身分」という集団、すなわちセグメントによって人間を効率的・確率的に分類してそれにより人生がほぼ自動的に規定されるという時代でした。これを克服するかたちで規定された個人の尊重というのは、セグメントではなくて、個人その人をちゃんと見てあげましょう、という考えになるわけです。セグメントという共通の属性を持った集団ではなくて、個人その人をコストと時間をかけてみてあげることが、個人を個人として尊重するという憲法十三条の意味のひとつであるということになります。

そうすると、憲法十三条の反対語は偏見ということになります。Aさんは〇〇に属しているからこうだ、Aさんは女性だからこうだ、Aさんは障害を持っているからこうだという短絡的な思考です。こういうセグメントによってAさんを短絡的に評価するという偏見が、Aさんの潜在的なケイパビリティを否定することになります。だから個人を個人として尊重することの反対語は、偏見によって個人を確率的に見るということになると思います。今敢えてセグメンテーションという言葉を使ったのは、AIの問題を意識してのことです。人間も弱い存在ですので、人を偏見によって見るという傾向があります。他方で、AIもセグメンテーションによって個人を確率的に評価する傾向があります。人間とAIの弱いところを相互に補っていくことによって人間の弱さ、そしてAIの弱さを補っていくことが今後、重要になっていくと思います。

これは教育の場でも同様です。個人を個人として尊重していく。いかに個人を時間とコストをかけて見てあげられるのかということ、これをAIやデジタルデータを使っていかに可能にするかということ。セグメント主義に陥らずに個人主義を実現するかがとても重要だと思っています。

ビッグファイブ理論と遺伝的差別について説明します。ビッグファイブというのはパーソナリティ特性の分類法ですが、これは遺伝的に決まる部分もあるのではないかとされています。ビッグファイブを見て人間をセグメンテーションしていくことは、ある種遺伝的な部分で人間をセグメンテーションするということに近づいてしまう可能性がある。遺伝によって人を区別するのは憲法で最も禁じられていることで、平成20年の判例でも、自らの意思や努力によって変えることのできない属性ないし要素で個人に不利益を課すことは憲法の平等原則に違反するとしています。

ビッグファイブ分析に寄りすぎると、「生まれ」によってセグメンテーションされることになる可能性も否定できないということです。教育の場でセグメンテーションを行うことはもちろん必要だと思います。それ自体が悪だということではない。過度に依存することが問題だということを言っているのです。このセグメンテーションというのはアテンション・エコノミーとの関係で、「全体最適」に結びつくことになります。しかし、ここで何をもって「最適」と考えるのかということは重要なところだと思います。

あるプラットフォーム企業の人と話をした時、パーソナライズすることはその人のウェルビーイングを向上させることにつながるのだ、ということでした。快適な生活を提供できるので、パーソナライゼーションは非常に重要であるというのです。これは一部分においてはそうだろうと思うのですが、パーソナライズ化されてリコメンドされることがウェルビーイングなのかは、人それぞれ異なる可能性があります。同様に、「幸福」も人によって違うということが通説的な理解だろうと思います。そうなると、「幸福」が個人によって異なるということと、多様性を維持することが重要になってきます。快楽だけではなくて、さまざまなウェルビーイングが複数存在している。そうした多様性を維持するために民主主義という仕組みが今のところベターだと考えられている。そういう意味ではアテンション・エコノミーが作り出すフィルターバブルやエコーチェンバーのようなものを批判的に捉えていく、あるいは「他者」や「ノイズ」の存在を認めていく必要もあるように思います。実はオデュッセウスはひどい人間で、助かっているのは自分だけです。船を漕ぐ他の人たちはセイレーンに食べられてしまう運命にあります。オデュッセウスは自分だけ知恵を持っていて、これを行使していたわけで、やはり他者との協力、共生ということが重要になると思います。

＞＞　後半へ続く