航空会社を訴える事件の原告側弁護士が、ChatGPTがでっち上げた過去の判例を満載した準備書面を提出したと報じられています。
米連邦地裁のケビン・カステル判事は「提出された判例のうち6件は、インチキな引用とインチキな内部引用によるインチキな司法判断のようだ」と確認し、原告側弁護士への制裁を検討するとして公聴会を設けました。
原告側弁護士のスティーブン・A・シュワルツ氏は、ChatGPTを、OpenAIのチャットボットを法的調査に使ったことを宣誓供述書で認めました。チャットAIが挙げた判例が本当かどうかを検証するために、チャットボットが嘘をついているかどうかを尋ねたそうです。
相手方弁護士は、シュワルツ氏が提出した準備書面いかにウソだらけかを語り、裁判所もそれに同意している格好です。たとえば「Varghese v. China Southern Airlines Co., Ltd.」という架空の判例に付き、ChatGPTは実在する「Zicherman v. Korean Air Lines Co., Ltd.」と勘違いしつつも、日付などを間違え、本当は1996年のはずが12年後に判決が下ったと答えていました。
シュワルツ氏は「（ChatGPTの答える）内容がウソだという可能性に気づいていなかった」とのこと。さらに法的調査を補うために生成系AIを使ったことを大いに後悔しており、今後、その真偽を絶対的に確認しない限り、こんなことは決してしないと語っています。
この事件は、AIチャットボットに頼り切りになる危うさを浮き彫りにしています。マイクロソフトのBingも、最近公開された映画「アバター：ウェイ・オブ・ウォーター」の上映時間を尋ねたところ（2023年2月時点で）「映画はまだ公開されていないため、情報はシェアできません」と答え、現在は2022年だと言い張ったとの報告がありました。
My new favorite thing – Bing’s new ChatGPT bot argues with a user, gaslights them about the current year being 2022, says their phone might have a virus, and says “You have not been a good user”
Why? Because the person asked where Avatar 2 is showing nearby pic.twitter.com/X32vopXxQG
— Jon Uleis (@MovingToTheSun) February 13, 2023
またGoogleのAIチャットボットBardは、3月に行われた最初のデモで、ジェームズ・ウェッブ宇宙望遠鏡に関する質問に誤答したため、Googleの持ち株会社Alphabetの株価が急落したこともありました。
ともあれ、AIチャットボットの回答は鵜呑みにせず、ユーザー自らが情報源をしっかりと確認した方がよさそうです。
Source:The New York Times
via:The Verge