超教育協会は2023年11月29日、STORIA法律事務所 弁護士・弁理士の柿沼 太一氏を招いて「教育における生成AIの活用～弁護士目線で考える」と題したオンラインシンポジウムを開催した。

シンポジウムの前半では柿沼氏が、個人情報保護法や著作権法と照らし合わせて教育において生成AIを利用する場合の留意点について解説。後半では、超教育協会理事長の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。その前半の模様を紹介する。

＞＞　後半のレポートはこちら

＞＞　シンポジウム動画も公開中！Youtube動画

「教育における生成AIの活用～弁護士目線で考える」

■日時：2023年11月29日（水）12時～12時55分

■講演：柿沼 太一氏
STORIA法律事務所 弁護士・弁理士

■ファシリテーター：石戸 奈々子
超教育協会理事長

柿沼氏は約30分の講演において、学校と教育において生成AIを利用する場面を整理して、各場面において考えなければならないことや注意するべきことを説明した。

生成AIを教育に使う際に考えられる法的なリスクにはどのようなものがあるのでしょうか。生成AIの利用については、教育分野に限らずさまざまな利用ガイドラインが出ています。2023年7月4日には、文部科学省から「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」（以降、「暫定ガイドライン」と表記します）が発出されました。

教育で生成AIを使う場面は、大きく分けて2種類あると思います。ひとつは、学校教育現場で直接、児童生徒自身が授業で利用することと、先生が指導するときに利用することです。もうひとつは、学校の運営や行事にかかわる校務での書類作成などの事務作業で利用する場面です。

それらの場面において、考えなければならないことが3つあります。

１つめは、子供の成長や発達において、生成AIを使うことがどう影響するのか、まだ知見が確立されていないということです。暫定ガイドラインにも、創発性が抑制される懸念があるので最初から生成AIを使うことはよくないなどと書かれています。よい影響だけでなく悪い影響もあることを考えなければなりません。

2つめは、先生の業務を効率化する過程において誤ったことをしてはいけない、3つめは、使うときに人の権利を侵害したり法令違反したりしてはいけないということです。

これらは、私が整理したことですが、考えなければならないことの強弱は、利用される場面によって異なると思います。

生成AIを「うまく使うこと」と、「安全に使うこと」は、車の両輪のように両方必要です。「うまく使う」には、生成AIが得意とする、利用に適した領域で使うことと、生成AIは間違いを犯すことがあるといった限界を知ることが重要です。「安全に使う」とは、他人の権利侵害や法令違反をしないことで、こちらも重要です。さきほどの初等中等教育の暫定ガイドラインのチェックリストにも挙げられています。

▲　スライド1・生成AIを使う際の
重要ポイントは、3つに集約される

うまく安全に使うための方法としては、「守るべきルールを設定する」ことがあります。しかしルールを決めても徹底することはなかなか難しいため、「技術やシステムを作る」ことも必要になってきます。

これは企業においても全く同じです。例えば、従業員が自己判断でChatGPTを業務に使っているとすると、会社はその従業員がどんなプロンプト（指示文）を入力しているかも、生成AIが作ったものをどう業務に使っているかも把握できません。ルールを作ると同時に、社内で利用方法をコントロールできるようなシステムも必要になります。

教育向けの暫定ガイドラインでは、ChatGPTなど一般向けの生成AIサービスの利用が念頭に置かれ、独自システムを構築することは考えられていないようですが、今後は企業の対応と同じような流れになっていくと思われます。

▲　スライド2・企業では、
利用ガイドラインを制定し
それに準拠するシステムを作る流れがある

大きく分けると「どういうものを使えばよいのか」というシステムと技術の話、「どう使えばよいのか」というガイドラインやマニュアルを作って周知するルールの話になります。これらは、分けて考えた方がよいと思います。

安全に使うことについては、正解があるわけではありません。校務にうまく使う方法についても、実際に使ってみて、これはよい使い方、これはダメ、とノウハウはこれから蓄積され、共有されていくことになると思います。

▲　スライド3・学校で「どのようなAIを」、
「どのように利用するか」を考える

「どのような生成AIを使うか」。現状の学校教育現場では、第三者が提供する外部の生成AIサービスを利用することになると思います。チェックポイントはいろいろありますが、「当該外部AIサービス内で入力データがどのように取り扱われることになっているのか」を把握しておくことは重要です。

また、生成AIに質問する、やってほしいことをリクエストする「プロンプト」を入力する際、ときには学校の中のデータや情報を外に提供することにもなりかねませんので、注意が必要です。入力した情報が処理されて生成物が返ってくる仕組みが生成AIです。入力したデータが、どう処理されてその後どこで使われるのか。AIサービス自身の学習用データとして使われるケース、学習には使わないけれど監視するというケース、監視さえしないという3つぐらいのレベルがあり、リスクはかなり変わってきます。この違いをよく理解することが重要になってきます。

▲　スライド4・誰でも利用できる
生成AIサービス（外部サービス）を
利用する際の注意点

生成AIサービスの仕組みの違いも知っておく必要があるでしょう。

▲　スライド5・生成AIサービスの仕組み

Google Bard（グーグルバード）やChatGPTのWeb版、といった生成AIは、大規模言語モデルを作っている事業者によって直接サービス提供されています。利用者がプロンプトを入力し、何を作って欲しいのかを示すと、生成AIが作ったものを返してくれます。

大規模言語モデルを自らは作っていない事業者がサービスを提供していることもあります。利用者がデータを入力すると、間に入っているサービス事業者がデータを処理します。スライドで示している図の「LLM（大規模言語モデル）サービス」は、開発元のGoogleやMicrosoft、ChatGPTのOpenAIですが、簡単にいうと、サービス事業者からLLMサービスへデータを転送します。AIが生成したものが返ってくる時には、例えば「危ない情報をはじく」などの処理が加えられて、利用者側に返されます。

このほか、大規模言語モデルも含めて利用者自身が自前で作るパターンもあります。

民間企業に多いのは、自前のシステムと外部サービスを組み合わせる仕組みです。自前のシステムでユーザーアカウントを管理して入力内容を把握したり、よくない使い方をコントロールしたり、といったことができるようになります。

現在の教育現場は、外部サービスを利用したり、自前のシステムと外部サービスを組み合わせることが多いと思います。今後はそれ以外のパターンも増えてくるのではないかと考えています。

ここまで「どのような生成AIを使うか」を説明しました。次に「どのように利用するか」を考えます。「どのように利用するか」では、入力するときに気をつけなければならないことと、生成AIが出力した「生成物」を使うときに気をつけなければならないことがあります。リスクの管理については、著作権や個人情報という法律面からの切り口がありますが、それよりも、どのようなプロンプトなら入力して良いのか、生成された内容をどのように使って良いのかという切り口から見た方が分かりやすいように思います。重要なポイントに絞って説明します。

▲　スライド6・データ入力の際の注意点と、
生成物を利用する際の注意点

生成AIに生徒や保護者、先生の個人情報を入力するときには、個人情報保護法が適用されます。個人情報保護法には、あらかじめ特定した目的以外には個人情報を使ってはいけないという「目的規制」があります。例えば、学校の校務で使う目的で取得した生徒や保護者の個人情報を先生が私的に使うことはできません。

もうひとつ、勝手に第三者に個人データを提供してはいけない「第三者提供規制」もあります。個人データを第三者に提供する際には原則、本人の同意を得なければなりません。提供先の第三者が外国の事業者の場合は、さらに厳しい規制がかかります。生成AIに入力した生徒や保護者の個人情報が、第三者によって機械学習に使われた場合、本人同意を得ていないと法律違反になる可能性が高いです。つまり、個人データについては生成AIに入力してはいけない可能性があるということ。機械学習に使われない場合でいくつか要件を満たせば、適法になる余地はあり、どうしても必要な場合には弁護士が対応することもありますが、これらを学校が判断することは難しいため、暫定ガイドラインでは一律入力禁止とされています。

▲　スライド7・教育現場における
個人情報の扱いについて

また、暫定ガイドラインから引用すると、「教職員が授業や校務とは無関係に興味本位で生徒の個人情報を生成AIに入力した場合」は目的外規制に該当することになり、機械学習で使われるかどうか以前に法律違反になる可能性が高いとされています。

▲　スライド8・データ入力の際に、
「目的外規制」に該当法令違反となるケース

もうひとつは第三者提供規制の例です。教職員が入力した個人情報が機械学習に使われた場合、「利用目的内」であっても、本人の同意を得ていなければなりません。これは先ほど説明したとおりです。

▲　スライド9・「利用目的内」であっても
本人の同意を得ていなければならない

結論としては、学校現場においては、一律に「生成AIにプロンプトを入力する際は、個人情報やプライバシーに関する情報を入力しない」ことが重要になります。

もうひとつ、学校の要機密情報とは、2022年に発令された「教育情報セキュリティポリシーに関するガイドライン」に記載されている「セキュリティ侵害が、教職員又は児童生徒の生命、プライバシー等への重大な影響を及ぼすものや、学校事務及び教育活動の実施に重大又は軽微な影響を及ぼすもの」を示しています。さきほどのGoogle BardやChatGPTなどを利用するときには、この要件を満たしていない可能性があるため、要機密情報を入力してはいけないことになっています。入力してよい情報は、「外部公開されている公知情報が該当し、例えば、学校が運営しているHP等に掲示されている情報等」とされています。

▲　スライド10・「要機密情報に
該当するため入力してはいけないもの」と、
「入力してよいもの」

AIの生成物の使い方、著作権の問題は、皆さんの興味が高いのではないかと思います。

生成物には写真、イラスト、文章などありますが、既存のものと似ていることがあります。そうなる理由はさまざまですが、例えばプロンプトに著作物の名前を入れて「このように加工してください」と指示すると、出力物もそれに似たものになります。利用者がそうなるとわかって生成しているケースが多いのですが、意図せずそうなってしまうことも稀にあります。

生成AIは膨大なデータを使って学習しています。画像と言語は仕組みが少し違いますが、稀に学習に使われたデータと同じものが出てくることがあるのです。

利用者としては、生成AIサービスが開発される過程でどのようなデータが機械学習に使われたのかは知る由もありません。しかし、学習に使われたものが生成物として出てきてしまったとき、利用者自身が著作権侵害を問われる可能性があります。

私が企業で著作権侵害に関する説明をするときは次の3つを伝えています。ひとつは、「特定の作者や作家の作品だけに特化して学習したサービスは使わないでください」。AIは、学習のさせ方によって、生成物の出方が全く異なるのです。学校教育の場面ではないかもしれませんが、先生が使う可能性はゼロではないため、注意が必要です。ChatGPTなど超大規模な学習データを使っている場合は、学習データが出てくる可能性は極めて低いのですが、特定の作者の画像だけをずっと学習させることもできるため、そのように開発されたサービスの場合、学習に使ったデータが生成物として出てきてしまう可能性が高まります。これは使うAIサービスによって起きる問題です。

次は使い方です。既存著作物である小説の一部やイラスト、作家名や作品名を挙げて「これと同じような作品を作ってください」とプロンプト入力すると、既存のものと同じ生成物が出てくる可能性があります。これもしないでください。

最後に生成物のチェックです。
生成物を学校のホームページなどに載せる場合は、類似することがないように、Web検索などで調査する必要があります。また、権利制限規定という、例外的に使ってよいパターンに該当しないかを検討する必要があります。

著作権法35条が適用されれば、生成物を学校の教室の中だけで見るための複製なら無料でできる可能性がありますが、それ以外の方法での生成物を共有することはできない可能性がありますので、注意が必要です。いずれにしても、生成物が既存の著作物と似ていないかどうかは調査の必要があります。

▲　スライド11・既存の著作物に似た
生成物ができる可能性があるため、
十分注意が必要

暫定ガイドラインでは、この点について1ページを割いて書かれています。学校においても、文章などを使う場合は、既存の著作物に係る権利を侵害しないように注意する必要があり、似ていたり、それを元に作ったりした場合は、権利侵害になる可能性があります。

一方、学校の授業では、著作権法第35条により許諾なく著作物の複製や公衆送信ができるため、教師や児童生徒が生成AIを利用して生成したものが似ていたとしても、授業の範囲内で利用することは可能です。これは教育現場に限って許されていることですので、覚えておくとよいと思います。ただ、広く一般向けのHPに掲載することや、外部のコンテストに出品することは授業や教育の目的を超えてしまいますので35条が使えません。注意が必要です。

▲　スライド12・暫定ガイドラインより。
著作権保護については
特に詳しく解説されている

＞＞　後半へ続く