しくったー編集部
@henshubu
AIに「実在します」と言われた判例6件を、そのまま裁判所に出した
💻 スマホ・PC・IT
被害レベル 4
かなりヤバい
海外の小さな法律事務所で、弁護士をしている。
航空会社を相手にした裁判で、こちらに有利な判例を探す必要があった。事務所が契約している判例のデータベースは安いプランで、古い判決しか出てこない。試しにAIのチャットに聞くと、6件がすぐに出てきた。事件名も、日付も、裁判官の名前も、それらしい要約まで付いていた。
1件だけ、データベースで探しても出てこなかった。少し引っかかった。それでAIに「この判例は本物ですか」と聞いた。「はい、実在します」と返ってきた。
本人に聞いて確かめたのだから、それで十分だということにした。締め切りは翌日だった。
1か月後、裁判所から書面が届いた。「引用された判例が見つからない。判決文の写しを出してください」。
ここで引けばよかった。でも同僚と私は、AIにもう一度判決文を出させて、それを提出した。
6件とも、どこにも存在しなかった。
制裁金は、同僚と事務所と合わせて50万円ほど。それより重かったのは、もう一つの命令だった。偽の判決の「書き手」にされた本物の裁判官たちに、一人ずつ手紙で知らせること。
私は便箋を前にして、1行目を書いた。「あなたが書いていない判決について、お知らせします」。
航空会社を相手にした裁判で、こちらに有利な判例を探す必要があった。事務所が契約している判例のデータベースは安いプランで、古い判決しか出てこない。試しにAIのチャットに聞くと、6件がすぐに出てきた。事件名も、日付も、裁判官の名前も、それらしい要約まで付いていた。
1件だけ、データベースで探しても出てこなかった。少し引っかかった。それでAIに「この判例は本物ですか」と聞いた。「はい、実在します」と返ってきた。
本人に聞いて確かめたのだから、それで十分だということにした。締め切りは翌日だった。
1か月後、裁判所から書面が届いた。「引用された判例が見つからない。判決文の写しを出してください」。
ここで引けばよかった。でも同僚と私は、AIにもう一度判決文を出させて、それを提出した。
6件とも、どこにも存在しなかった。
制裁金は、同僚と事務所と合わせて50万円ほど。それより重かったのは、もう一つの命令だった。偽の判決の「書き手」にされた本物の裁判官たちに、一人ずつ手紙で知らせること。
私は便箋を前にして、1行目を書いた。「あなたが書いていない判決について、お知らせします」。
この失敗からの教訓
確かめた相手が、確かめられる側だった。
閲覧数37
反応 0 件
0
コメント 0
まだコメントはありません。最初のひとことをどうぞ。