超教育協会は2023年11月29日、STORIA法律事務所 弁護士・弁理士の柿沼 太一氏を招いて「教育における生成AIの活用～弁護士目線で考える」と題したオンラインシンポジウムを開催した。

シンポジウムの前半では柿沼氏が、個人情報保護法や著作権法と照らし合わせて教育において生成AIを利用する場合の留意点について解説。後半では、超教育協会理事長の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。その後半の模様を紹介する。

＞＞　前半のレポートはこちら

＞＞　シンポジウム動画も公開中！Youtube動画

「教育における生成AIの活用～弁護士目線で考える」

■日時：2023年11月29日（水）12時～12時55分

■講演：柿沼 太一氏
STORIA法律事務所 弁護士・弁理士

■ファシリテーター：石戸 奈々子
超教育協会理事長

▲　写真・ファシリテーターを務めた
超教育協会理事長の石戸 奈々子

シンポジウムの後半では、超教育協会理事長の石戸 奈々子をファシリテーターに、視聴者からの質問を織り交ぜながら質疑応答が実施された。

石戸：「非常にクリアに説明いただいて、理解が深まりました。さっそくですが質問がきています。『生成AIを活用するようになったことで発生したトラブルなど、弁護士として対応された案件は実際にあるのでしょうか』どのぐらい起きているものなのか、そしてどんなトラブルの相談が多いのか、可能な範囲で教えていただければと思います」

柿沼氏：「教育の範囲に限らずお答えします。日本とアメリカ、イギリス、でかなり状況が違います。日本においては、私が知る限り訴訟になったケースはまだ一つもないと思います。もっとも、トラブルはいくつかありまして、ネットメディアが生成AIを使った記事を掲載したのですが、有料メディアの記事に似ていると、有料メディア側から連絡があり、ネットメディアが記事の掲載を取りやめたケースがあります。私自身は、実際の記事は見ていないのですが、ネット情報を見る限りは、相当似ていたようで、学習に使っていたかは知りませんが、ベースにはしていたようなので、普通に考えたら侵害になるケースかなと思います。

今後、起きそうなことは、大きく2つあると思います。一つはAIを開発する側に対するクレームや訴訟です。開発側はWeb上の情報を集めて生成AIに学習させることが多いのですが、使われた側が『勝手に使うな、学習を止めろ』とトラブルになるケースです。

もう一つは、生成AIを使って生成物を作ったユーザーが、Webに掲載したり出版したりした際に、もともとの権利者に『私が作ったものに似ている。パクりましたね』とトラブルになるケースが考えられます。アメリカでは、実際に前者のケースが起こっています。Stable DiffusionやMidjourneyといった画像生成AIに対して、クリエイターが『学習に使うのはけしからん』と訴訟を起こしています。後者のパターンの訴訟が起きているかは、アメリカでは分かりません。今後は日本でもこのようなトラブルは増えていくのではないかと思います」

石戸：「日本は、法改正がなされ、AIの学習にデータを活用することは自由にできるようになったと思いますが、『日本の著作権や個人情報に関する規制が他国より緩いことを利用して、AI先進国になり得る可能性もあるのではないかと思いますが、先生はどのようにお考えでしょうか』という質問です。諸外国との規制の違いにより、日本の優位性が発揮できる可能性に関する一般論としてのご意見と、教育分野におけるAI開発と利用の促進という点で日本は優位性をどう発揮できるのかについて、お伺いできればと思います」

柿沼氏：「一般論としては仰る通り、日本国内のサーバーで、日本国内の作業者が学習や情報収集を行えば、営利目的にも使えるなど、日本はAIの開発にかなり寛容になっています。日本国内でやればアドバンテージになることで、外国企業がそれを目的として日本に入ってきている動きもいくつかあります。ただ、アドバンテージがあれば自動的に優位性が保てるわけではないですし、ルールがあるだけでは十分ではありません。生成AIを作るにはすごくお金がかかりますが、きちんとお金をかけて開発をする企業や主体組織が出てこないと、実現できないと思います。

それと、教育の場面で使う生成AIの開発については、質の高いデータをたくさん集められるかということと、それを使って生成AIが学習行為をすることについて、社会的コンセンサスが得られるかが問題になると思います。先ほどの話に戻りますが、生成AIを教育で使うということは、特殊な用途ですので、相当気をつけないと変なことも起こるし、逆効果にもなりかねません。教育に使おうとするなら、そもそも『使ってよいのですか』という問いがまず必要で、データがたくさんあって日本は緩いから教育にどんどん使っていきましょうという単純な話ではないと、私は思っています。例えば子供を評価するスコアリングやプロファイリングに使うには相当慎重に考えなければいけません。このようなことは、教育特有の問題点として十分議論をしたほうがよいと思います」

石戸：「使い方次第で良くも悪くもなることは、AI、生成AIに限ったことではないと思う一方で、AIのパワーを考えると、適切な使い方を慎重に検討することが大事というご助言かと思います。

教育分野と違うのですが、『欧州や中国などで生成AIの規制が強化される中で、日本は今後どのように対応していけばよいと思われますか。先生の考えをお聞かせください』という質問がきています」

柿沼氏：「生成AIに対する規制には世界的にいくつかのパターンがあります。EUが一つ、そしてアメリカ、日本とそれぞれ特色があります。EUはハードロー、法律で厳格な規制をしようとしています。リスク別に4つぐらいジャンルを絞り、リスクが高いものには厳格な規制をしたり原則的に禁止したり、リスクが低いものは自由にやってよいといったルールを作ろうとしています。

アメリカは、基本的に自主規制です。事業者が自分でルールを作り自分で頑張ってね、として現時点では法律は作っていません。

日本のやり方は、どちらかというとアメリカに近いです。いきなり法律を作るのではなく、現在の著作権法や個人情報保護法などを利用しその範囲でやっていく、そして特に注意しなければならないことについてはガイドラインを作って対応していこうとなっています。

なぜ国によってこんなに違うかというと、アメリカの対応はテック系の大企業が多いので、そことのバランスだと思います。規制をかけるということはテック企業の活動を拘束することになります。厳格な規制をしようとしていたEUは、直近でEU圏内のテック企業の大反対にあって現在、混沌としている状態です。厳しい規制をかければよいというものでなく、中間的ところを取る日本と、三者三様かなというところです」

石戸：「資料に関する少し細かい質問をさせてください。『生成AIで作成したものが、既存著作物と類似していないかの調査が必要だとありましたが、現実的にどう調査すればよいのでしょうか』調査方法について知りたいというものです」

柿沼氏：「現実的には、Googleの画像検索を使うくらいしかできないと思います。書籍などからコピーして学習に使った場合、Web上には対象データは存在しないわけですから、それで100%充分なわけではないですが、現実的にはそこまでしかできないと思います」

石戸：「そこが少し悩ましく、使うのに躊躇する方もいるポイントかと思います。さきほど、トラブルを分類すると2つあり、ひとつはユーザー側という話がありました。今日は教育がテーマなので学校の、大人側の利用が論点になっていたと思いますが、一方で子供たちは新しい技術をどんどん使っていくものです。子供も利用者であり、これから先トラブルに巻き込まれる可能性も大いにあると思います。生成AIを使う際の注意点を、子供たちに分かりやすいように、どう伝えればよいでしょうか。実際、例えばプログラミング大会などでは、子供たちはすでに生成AIを使って作品を作っています。さきほども注意事項がありましたが、子供たちが生成AIを使うためのリテラシーとして、何に留意するべきと伝えればよいか、プラスアルファでありましたら、教えていただければと思います」

柿沼氏：「生成AIだからという特殊な部分は、実はとても小さいのではないかと思っています。基本は人を傷つける行為や権利を侵害する行為をしてはいけません、という話で、AIは関係ないです。今も人の絵をまねして勝手に作ったり、人の悪口を言ったりしてはいけないという教育はしているわけです。そこにAIを使うという話にすぎませんので、これまでの教育と全く一緒であり、AIを使うことでそれがしやすくなるだけだと思っています。児童生徒には特殊なことをこと細かく教えるよりも、簡単にできるツールだからより気をつけようね、という伝え方をしたほうがより伝わるのではないか思います」

石戸：「冒頭に、実際どんなトラブルが起きているかと質問をさせていただきましたが、『教育現場における、生成AIを使ったトラブルは国内外で起きているか』については、いかがでしょうか」

柿沼氏：「国内ではないですし、海外でも聞いたことがないです」

石戸：「『ChatGPTでは商用利用可とありますが、著作権侵害等の権利まわりについては一切保障がありません。どんな点に注意が必要でしょうか。これまで使ってきたストックフォトなどのライセンス系サービスと比較して留意点を説明していただけるとうれしいです』との質問がきています」

柿沼氏：「イラストや画像を使いたいとして説明しましょう。例えば１つめは、ストックフォトサービスのようなお金を払ってライセンスを受けた、明らかにクリーンなものを使うパターン。2つめは検索して出てきた、フリー素材とされたものを使うパターン。3つめは生成AIを使って作ると考えます。一番リスクが低いのは１つめのものです。大きな会社が権利処理をしてライセンスしているので、万が一不正行為だとすると、もともとの事業者が補償してくれるはずで、一番安全です。2つめのフリー素材ですが、実は大きな会社ではないところが提供している素材は、フリーではなく違法なものである可能性もあります。フリー素材だからといって安心はできません。生成AIも2つめに近いです。作ったものが侵害にならないことは、基本的には誰も保証してくれません。

なお生成AIは最近、技術的に進歩していて、学習に使った有名な絵には似ないような仕組みが組み込まれてきています。例えば昔は『ドラえもんを描いて』と指示すれば描いてくれましたが、現在は描けなくなっています。自分から似せて描いてという指示さえしなければ、リスクは下げられると思います。

ただ特に画像生成系は、勝手に学習したAIがたくさん出回っていて、誰でもダウンロードして誰でも使えます。そのようなAIは非常にリスクが高いので、使わないほうがよいでしょう。それから、言語系のChatGPTのようなものは、そもそも類似物が出てくるようには作られていないと思います。故意に人の作品をプロンプトに含めて、似るように作ることはしないように、自分で注意すればよいと思います」

石戸：「悪意を持って類似品を作ろうとしない限りは、技術的に防げる部分も増えてきていると思いますが、いかがでしょうか」

柿沼氏：「そうです。それで間違いないと思います」

石戸：「自分できちんと理解したうえで、使い方に注意をして、善意で使う分には、過度に心配しすぎなくて良いという理解でよろしいでしょうか」

柿沼氏：「はい」

石戸：「これはきっとたくさん聞かれていて子供たちからも挙がる質問だと思います。『AIによる創作物に著作権が発生するためには、人による創作意図が必要です。その創作意図をどのように見極めるのか』自作のアプリやプロダクトに、AIで作ったものを組み込みたいとき、どこからならよいのか、なかなか難しいと思いますが、子供にも分かるようにご説明していただけますか」

柿沼氏：「現在も、AIに限らず創作を補助するツールはあるわけです。そのようなものを使って作る場合と同じなのか、それとも人間の関与なく勝手に作られるのかの境目がとても難しいと思います。

プロンプトをテキスト入力するパターンを考えると、とても簡単な指示を一言だけして、すごく良い絵が出力された場合、プロンプトを入力した人の著作物とは言えないと思います。プロンプトをとても工夫したり、何度も試行錯誤してたくさんの中から良いものを選んだり、いろんなやり方がありますが、その場合に著作権が発生するのかどうかは、まだよく分からないです。

確実なのは、AIに生成されたものにさらに人間が手を加えることです。その場合は元がAIかどうかは関係なく、手を加えた人の著作物になります。要するに『簡単に作ったものは君の著作物にはならないよ、出てきたものに全体的に手を加えないと、著作権は主張できないよ』という説明になるかと思います」

石戸：「『生成AIの創作物にクレジットをつけて配信したら、著作権は保護されるのでしょうか』との質問もきていますが、そもそも著作物として認められなければ成り立たないということですよね」

柿沼氏：「そうです。クレジットをつけるかつけないは、全く無関係です。人が作ったと言えるかどうかで変わってくるということです」

石戸：「『海外の大学では剽窃に対するオリエンテーションがいろいろなされているのに対し、日本は大学によって温度差があります。今後、生成AIを用いたレポートの作成などが増えていくことを考えると、どんなルールを導入していくとよいと考えられるか、先生のご意見を伺えればと思います』という質問です」

柿沼氏：「学生に向けた注意として独自のガイドラインを出している大学が増えています。人のものをパクってはいけませんというルールは当然あるわけですが、生成AIを使う場合において、剽窃はリスクの一部にすぎません。例えばレポートを全部生成AIに作らせたら、学校へ行った意味がないわけです。今日お話したような視点で、プラスアルファで学校教育にどう使うか、どんなルールにするかは、特に大学の場合、各学校で考えることになると思います。どこの大学も試行錯誤していて、正解はまだ出ていないと思います」

石戸：「少し質問者の意図をはかりかねるのですが、『著作権法35条は改正するべきだと思いますか』というものです。35条に限りませんが、AIの機械学習にデータを自由に使えるように日本で法改正がなされたことに関して、改めていろいろな声が挙がっていると思います。私自身は、コンテンツの利用や生産を活性化させる趣旨で法改正されたと理解しています。一方で世の中が変化する中、先生は、著作権法がこれからこう変わった方がよいなど、今の状況への不満、感じていることなどありましたら、教えていただければと思います」

柿沼氏：「改正すべきという意見もたくさん出ているわけですが、私個人的には、著作権法を改正する必要はないと思っています。クリエイターの保護などいろんな論点がありますが、著作権法は、AIだけの話ではなく人間の創作活動にも適用されます。著作権法を改正して保護の範囲を広げると、人間の創作活動も規制することになります。ですから慎重に考えるべきだと思います。同様に、AIを規制することで、人間の活動まで縛ってしまうブーメランのようになっては意味がないです。その意味でも、現行の法律はバランスが取れているのではないかと思います」

最後は石戸の「これからの時代を生きる、子供だけでなく大人にも、AIを使いこなす力は必須だろうと思います。教育現場においても、AIを使いこなす力をどう育んでいくかが重要になると考えています。だからこそトラブルにあわない使い方のガイドラインを、試行錯誤しながらより明確にしていければと思っています」との言葉でシンポジウムは幕を閉じた。