生成AIの編集で架空の判例が混入、弁護士が処分
AI要約 要約
コネティカット州最高裁判所の判決によると、ある弁護士が正確な法的文書の推敲に生成AIのChatGPTを使用し、気づかないうちに架空の判例が追加されるハルシネーション（幻覚）が発生した。裁判所は、AIによる編集後も引用の再確認を怠ったとして、追加の倫理研修や寄付などの処分を科した。執筆者は、AIを編集に使う場合は再確認を徹底するか、提案のみを受け入れるべきだと指摘している。
論点
- 弁護士が正確な法的草案をChatGPTで推敲したところ、無断で引用が改変・追加された
- 内容は実質的に正しかったため見落とされ、第三者の指摘によって判明した
- 裁判所は弁護士に倫理研修や寄付などの処分を科した
著者の立ち位置
AIツールを利用する際の事実関係を報告しつつ、編集における利用上の注意を促す法的な事実報告の立場
この要約は AI（gemini:gemini-3.5-flash-lite）が作成したもので、誤りを含むことがあります。正確な内容は元記事でご確認ください。