今回の目的

今回も、前回に引き続き、生成AIを利用する場合のリスクについて解説します。 前回は、プロンプトに関するリスクをご説明しましたが、本記事では、生成AIを利用する場面で考慮したい生成物に関するリスクについて見ていきましょう。

生成物が知的財産権で保護されないリスク

たとえば、広告制作会社の従業員が自らの職務としてデザインしたポスターは、（ポスターの表現内容等にはよるものの）基本的には当該広告会社の著作権が認められ、模倣等から保護されることになります。 これに対し、広告制作会社の従業員が生成AIを利用してポスターのデザインを制作した場合、模倣等に対抗することはできるでしょうか。 著作権法上、ある作品が「著作物」であると言えるためには、人が創作意思を持ち、創作的寄与を行うことが必要であるとされています。そのため、簡単なプロンプトだけを入力してAIが自律的にコンテンツを生成した場合には、人の創作意思を表現したものではない、あるいは、人の創作的寄与がないとして、「著作物」には当たらず、模倣等が自由に認められてしまう、ということになりかねません。 もっとも、AIを道具として利用しているに過ぎない場合には、AIを利用した人による創作の範囲内であり、「著作物」にあたると評価される可能性はあります。例えば、JDLA（ディープラーニング協会）が公開している「生成AIの利用ガイドライン（第１版）」の【簡易解説】では、以下の4つのケースにおいて、著作権が認められる可能性があるとされています。

詳細かつ長いプロンプトを入力して画像を生成した場合

プロンプト自体の長さや構成要素を複数回試行錯誤する場合

同じプロンプトを何度も入力して複数の画像を生成し、その中から好みの画像をピックアップする場合

自動生成された画像に人間がさらに加筆・修正をした場合など

意図せず第三者の権利を侵害してしまうリスク

AI生成物は、究極的にはAIが学習したコンテンツを複合している面があり、時に、既存の作品と類似したものが生成されることがあります。この場合、当該生成物を利用することが、既存の作品の権利を侵害することにならないかが問題となります。 一般に、著作権（複製権・翻案権）侵害となるのは、利用するコンテンツが既存の作品に依拠しており（依拠性）、既存の作品と同一又は類似していること（類似性）という二つの要件を充足する場合と考えられています。 では、結果的に、AI生成物に、既存の作品との「類似性」が認められる場合、「依拠性」についてはどう考えるべきでしょうか。AI利用者が、プロンプトに既存の作品のタイトル等を入力したり、既存の作品風となるように生成を指示したりするような場合には、既存の作品（著作物）を意図的に利用しているものとして、依拠性が認められることが多いでしょう。これに対し、プロンプトを入力した人が、既存の作品に似せようという積極的な意図までは有していない場合は難しい問題です。AIが学習して記憶しているデータセットの中に、生成物と類似する既存の作品が含まれている可能性がある以上、依拠性は安易に否定できないと思われます。もっとも、既存の作品がデータセットに含まれていれば依拠性は当然に肯定されるべき、あるいは、少なくとも推定されるべきという説や、利用者が既存の作品と類似していることを認識しながら利用することが必要とする説など、様々な見解が提唱されていますが、まさに議論の途上であり、今後の議論の動向を見守る必要があります。 まとめると、採用される見解によっては、AI生成物を利用することが著作権侵害となるリスクがあることは否定できません。 なお、世界的に見ると、コンテンツがAIによって生成された旨の開示・表示を義務づける規制を導入する流れがあります。詳細は、別の記事でご紹介させていただきます。

AIが嘘をつくリスク、その他品質に関するリスク

最後に、AIは完全ではないということにご注意いただきたいと思います。
相対的に正確性が高いと言われているChatGPTでさえも明らかに誤った回答をすることは頻繁にあります（まるでAIが「幻覚」を見ているかのように、事実と異なる内容を含む文章が生成されることから、「ハルシネーション（hallucination）」（＝幻覚）と呼ばれています。）。そのようなAI生成物を何の疑いも持たずに利用した場合、生成物が自社や第三者の誤った行動をもたらしたり、生成物に含まれる名誉毀損・差別等の不適切な表現が世の中に出てしまったりといった様々なリスクが考えられます。そのため、生成物を利用した結果に対する責任は利用者自身で負うものであることを十分に理解し、その生成物についてのファクトチェックその他のレビューが必須であることにご留意いただければと思います。

今後の予定

• AI開発・学習の局面における法的問題
• 生成AIに対する規制の現在と今後
• 生成AIの社内利用に関するルール作りのポイント