ChatGPTで判例を集めた弁護士、嘘の判例だらけという前代未聞の事態に

弁護士が裁判で使用する判例をChatGPTに依頼して集めたところ、大量の偽物をつかまされる事態となったそうだ(The Verge の記事、The New York Times の記事、Neowin の記事、裁判所文書)。

この裁判は 2019 年 8 月 27 日のエルサルバドル発ニューヨーク行きアビアンカ航空 670 便に搭乗し、機内食の配膳用カートをぶつけられた男性がアビアンカを訴えたものだ。アビアンカ側は出訴期限を過ぎていると主張して棄却申立を行い、男性側の弁護士は反論すべく8件の判例の要約を提出した。ところが、アビアンカ側が実際の判例を見つけられないと主張し、6件が架空の判例であることが判明した。

当初、弁護士はニューヨーク州上級裁判所で訴訟を提起したが、資格のない連邦地裁へ移送されたため同僚に弁護を任せ、調査を担当することになったという。法曹界では生成 AI の利用が進んでおり、弁護士も ChatGPT を利用することになる。しかし、弁護士はこれまでに ChatGPT を使ったことがなく、虚偽の情報が含まれる可能性があることを知らなかったそうだ。

弁護士は (問題が提起されてから) ChatGPT に判例が本物であるかどうかを確認しているが、ChatGPT は一部を訂正しつつすべての判例は本物だと主張している。だますつもりはなかったと弁護士は謝罪し、ChatGPT の利用を深く後悔しているとも述べたという。

判事は判例も引用も嘘ばかりという前代未聞の事態だと述べ、懲戒のための聴聞を 6 月 8 日に設定したとのことだ。　

スラドのコメントを読む | idleセクション | 法廷 | 人工知能 | idle

　関連ストーリー：
フリーランスITエンジニアの3割がChatGPTを仕事に使った経験。Hajimari調査 2023年05月22日
ChatGPT を活用して複数のフルタイム勤務をこなす人たち 2023年04月23日
鳥取県知事、議会でのChatGPTの使用を禁止へ。横須賀市は積極活用方針 2023年04月21日