AI作成の弁護士資料に捏造・誤り多発、米名門ロースクールが利用を禁止

米国の名門ロースクールが、弁護士や学生が作成した法律文書においてAIツールによる捏造・誤りが多発しているとして、法的作業でのAI利用を原則禁止する措置を講じたことが報じられています。存在しない判例の引用や、実際の判決内容と異なる情報が含まれた文書が複数確認されており、法曹界全体で深刻な問題として受け止められています。

この問題の背景には、ChatGPTをはじめとする大規模言語モデル（LLM）の「ハルシネーション（幻覚）」と呼ばれる現象があります。ハルシネーションとは、AIが実際には存在しない情報をあたかも事実であるかのように出力してしまう特性のことです。法律文書においては、架空の判例番号や、原告・被告の関係が逆転した要約などが生成されるケースが確認されており、これをそのまま裁判所に提出してしまう事例が米国内で後を絶ちません。

実際、2023年以降、米国の連邦裁判所では弁護士がAI生成文書をチェックせずに提出し、裁判官から厳重注意や制裁金を科されるケースが複数記録されています。こうした事案を受け、一部の連邦裁判所はすでにAI使用に関する開示義務を課すルールを導入していましたが、ロースクール自体が教育機関としての立場から禁止に踏み切ったのは異例の対応として注目されています。

一方で、法曹界においてAIを完全に排除することへの懐疑的な見方も根強くあります。契約書のレビューや判例検索、文書の下書き作成など、AIが法律業務の効率化に大きく貢献しているのも事実です。業界関係者の間では、「禁止」ではなく「適切な検証プロセスの義務化」によって活用と安全性を両立すべきだという意見も広まっており、各法律事務所がAI利用ガイドラインの整備を急いでいる状況です。

日本においても、法務省が弁護士や司法書士業務でのAI活用に関する調査・検討を進めているとみられており、米国での事例は日本の法曹界にとっても参考事例として注視されています。日本弁護士連合会も、AIを用いた法律文書作成に関して倫理的・技術的なガイドラインの整備が必要との認識を示しています。

AIの精度向上とともに、ハルシネーションのリスクを低減する技術として「RAG（検索拡張生成）」と呼ばれる手法への期待が高まっています。これは、AIが回答を生成する際に信頼性の高い外部データベースを参照させることで、誤情報の出力を抑制する仕組みです。法律分野向けの専門AIサービスを開発する企業の間では、公式の判例データベースとRAGを組み合わせたソリューションの開発が活発化しており、今後1〜2年で実用化が進むとみられます。

法律という高い正確性と倫理性が求められる分野でのAI活用は、今後も試行錯誤が続くと予想されます。今回の禁止措置は一つの「警告」として法曹界に広く受け取られており、AI開発企業・法律事務所・教育機関がそれぞれの役割を担いながら、責任ある活用の枠組みをどう構築するかが問われています。テクノロジーの恩恵を最大限に活かしつつ、リスクを制御するための国際的な基準づくりが急務となっています。