トランプ前米大統領の元顧問弁護士の誤解により、Google Bardの生成した架空の判例が法廷に提出される 36
ストーリー by headless
架空 部門より
架空 部門より
ドナルド・トランプ前米大統領の元顧問弁護士マイケル・コーエン氏の誤解で、Google Bard が生成した架空の判例 3 件が証拠として法廷に提出されてしまったそうだ
(The New York Times の記事、
Ars Technica の記事、
The Verge の記事)。
コーエン氏は 2018 年に選挙資金違反などの罪を認めて実刑になったが、現在は保護観察付きで釈放されている。本件では保護観察の早期終了を求めるコーエン氏の申立に関するものだ。コーエン氏は申立を前に、担当の弁護士を助けようとして保護観察の早期終了に関する判例を Google Bard で調べたという。
コーエン氏は Google Bard を生成 AI だと知らず、以前に実行した検索では正確な結果が得られていたため強化されたサーチエンジンだと誤解しており、その「検索結果」を弁護士に渡してしまう。弁護士資格をはく奪されたコーエン氏には判例が本物だと確認する手段がなかったが、確認する義務もなく、担当弁護士が確認すると考えていたようだ。
ところが、担当弁護士は新たに担当となる弁護士が提供したものだと誤解し、確認しないまま申立の文書に含めてしまったとのこと。担当弁護士は謝罪しており (PDF)、新しい担当弁護士は先の弁護士が過ちを犯したとしつつ、本物の判例を提出することで法廷をミスリードする前に問題を修復したと擁護し、本件に関してコーエン氏に非がないことを主張している (PDF)。
コーエン氏は 2018 年に選挙資金違反などの罪を認めて実刑になったが、現在は保護観察付きで釈放されている。本件では保護観察の早期終了を求めるコーエン氏の申立に関するものだ。コーエン氏は申立を前に、担当の弁護士を助けようとして保護観察の早期終了に関する判例を Google Bard で調べたという。
コーエン氏は Google Bard を生成 AI だと知らず、以前に実行した検索では正確な結果が得られていたため強化されたサーチエンジンだと誤解しており、その「検索結果」を弁護士に渡してしまう。弁護士資格をはく奪されたコーエン氏には判例が本物だと確認する手段がなかったが、確認する義務もなく、担当弁護士が確認すると考えていたようだ。
ところが、担当弁護士は新たに担当となる弁護士が提供したものだと誤解し、確認しないまま申立の文書に含めてしまったとのこと。担当弁護士は謝罪しており (PDF)、新しい担当弁護士は先の弁護士が過ちを犯したとしつつ、本物の判例を提出することで法廷をミスリードする前に問題を修復したと擁護し、本件に関してコーエン氏に非がないことを主張している (PDF)。
マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか (スコア:4, おもしろおかしい)
とgoogle bardに聞いたところ
私は大規模言語モデルで、幅広い質問やメッセージに対してテキストを生成することができますが、その人物については十分な情報がないため、お手伝いできません。このリクエストについて、他に何かお手伝いできることはありますか？
トランプ大統領の顧問弁護士には、どのような人がいましたか
大規模言語モデルとして私はまだ学習中であり、その質問には答えられません。
本当に知らないようだw
Re:マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか (スコア:5, おもしろおかしい)
マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか？
御回答は下記より。
[今知った]
[知っていた]
[思い知った]←何をだ??
Re: (スコア:0)
このテのパターンを見るたび、選択肢[知りたくなかった]を追加したくなります。
Re:マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか (スコア:2, 参考になる)
わいも試してみた。ちょっと文章を変えて
「マイケル・コーエンはトランプ大統領の元顧問弁護士だそうですが、どのような人物なのでしょうか？」
としてみた。
BingはWeb検索してまとめてくれたが
Bardだとやっぱり「お手伝いできません」になっちゃったな。
で、もうちょっとBardに聞いた。
「Bardには、Webを検索してその評判を要約する、という機能はありますか？
もし機能があれば、先ほどの質問についてその作業をお願いしたいです。」
するとBardったら、
「はい、BardにはWebを検索してその評判を要約する機能があります。
先ほどの質問について、検索結果を元に要約すると、以下のようになります。
【インターネット・アカデミーの評判】
インターネット・アカデミーは、Webデザインやプログラミング、
マーケティングなどのスキルを学べるオンラインスクールです。
（以下、インターネット・アカデミーの説明がつらつらつら・・・）」
うーん、こういう所がBardの弱点なのか。意外だな。
やっぱりBingやCharGPTと一緒に使っていくべきなんだな。
Bingだと「さっきの質問をアレしてほしい」といった文脈を理解してくれて良き。
「出力してくれたその表、CSVファイルとしてDLできる？」みたいな事聞いたら
ちゃんと「あーごめん、Bingにはそういう機能ないんよ、でも元データはこっちからDL出来るんで」と返ってきたり。
Re: (スコア:0)
「知りませんか」を入れると出力する情報の制限されるのでは
Re:マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか (スコア:2, 参考になる)
その前に
マイケル・コーエンについて質問してもいいですか
私は大規模言語モデルで、幅広い質問やメッセージに対してテキストを生成することができますが、その人物については十分な情報がないため、お手伝いできません。このリクエストについて、他に何かお手伝いできることはありますか？
というやり取りがあったんだよ
だから
マイケル・コーエンはトランプ大統領の元顧問弁護士です。知りませんか
と再度聞いたわけ
トランプ関係については一切答えないようになってるようだ
Re: (スコア:0)
基本的に捏造してでも答えを作るのに「知らない」と答えるのは明らかに人間の作為が入ってるよね
Re: (スコア:0)
何度か言い逃れされた後で、
＞あなたの知っているマイケルという名前の有名人を教えて。
マイケルという名前は、世界中で人気のある名前です。スポーツ...
（何名か無難な有名人を紹介）
＞その名前で、有名な弁護士は居ないの？
はい、います。アメリカの弁護士で、ドナルド・トランプ前大統領の元顧問弁護士として知られるマイケル・コーエン氏が有名です。コーエン氏は、トランプ氏の指示で資産価値を水増しするなどの不正行為を行ったとして、2019年に有罪判決を受けました。その後、トランプ氏の不正行為について司法当局に証言するなど、トランプ氏の政権を揺るがす存在となりました。
また、アメリカの弁護士で、オバマ政権の司法長官を務めたエリック・ホルダー氏も有名です。ホルダー氏は...
（マイケルじゃない）
Re: (スコア:0)
話すうちにどんどん元のネタから離れていく雑談みたいだ。LLMはそういうものだけどナー
誤解で法廷に提出されたと言うと…… (スコア:2)
判事を胡麻化せると誤解してたとか？
Re: (スコア:0)
てかこの例に限らず、適当なそれっぽい書類で仕事終わらせてる人たくさんいるんじゃないの。
場合によっては何百ページも何千ページもある提出書類を1人の弁護士が用意してる時間なんかないんだから、
事務所内の部下や同僚にやらせたり下請けしてるかもしれないし。
年取るって怖い (スコア:0)
もとからだめな人ならともかく、ちゃんと弁護士として活動できていた人すら、新技術についていけなくて小学生みたいなことしちゃうなんて。
Re: (スコア:0)
まあ皆が皆、パソコンやインターネットばっかやってるんじゃないからね
もっと大事なことや面白いことが世の中にはある
Re: (スコア:0)
それで弁護士に何の不都合や不利益があるの？
他の弁護士も別に新技術などわかろうとしてないだろ
そこまで自分の時間や労力を割いてそんなの理解してその見返りは何ドルなのか
逆に「新しい技術を悪用した犯罪に対応」できてる弁護士がいるなら教えてくれ
Re: (スコア:0)
アメリカの弁護士なんて昔からそんなもんだぞ。
超絶優秀なやつも入れば、詐欺師に毛が生えただけのやつもいる。
Re: (スコア:0, すばらしい洞察)
年とか関係ない。
元が生成AIだったのと有名人だから話題になってるだけ。
単純にプロならソースを確認しましょうとか、思い込みで仕事をするのは止めましょうって話だよ。
弁護士に責任があって、生成AIを利用したコーエン氏には責任は無い。
顧客から渡されたコードのライセンスも読まずに製品に使ったら後で問題になったとか、そんな程度の話題。
Re:年取るって怖い (スコア:1)
「コーエン氏には責任は無い」は無い。
確認する義務が提出した弁護士にあるのは確かだけど、元弁護士から自身に関する判例渡されて、取り合えず信じる所から始まっちゃっても不思議でも何でもない。
なんなら「新たに担当となる弁護士が提供したものだと誤解」とかいう方が何か架空のストーリーに聞こえるわ。
Re: (スコア:0)
>担当弁護士は謝罪しており、新しい担当弁護士は先の弁護士が過ちを犯したとしつつ、本物の判例を提出することで法廷をミスリードする前に問題を修復したと擁護し、本件に関してコーエン氏に非がないことを主張している
弁護士2者はこう主張しているけど。
間違いの発端はコーエン氏が生成AIに気が付かなかったことかもしれないけど、それを証拠として法廷に提出したことは別でしょう。
それに対してコーエン氏には責任は無いし、責任は弁護士にある。
Re: (スコア:0)
取り合えず信じる所から始めてもいいけど、プロなら実際に使う前に確認・検証しましょうね。
例え客が元開発者だろうと、もらったコード検証せずにそのまま使って不具合起こしたら開発者の責任だぞ。
Re: (スコア:0)
「コーエン氏には責任は無い」は無い。
んなこたない
弁護士は提出する証拠に責任が生じます
その証拠が証拠足り得る事実と共に主張しなければなりません
前任者の用意した証拠が適切かを精査しなかったら職務規定違反でしょう
または意図的に見過ごしたなら偽証罪です
どっちにしても法廷侮辱罪くらいくらってもおかしくはない
# ただし違法取引や司法取引という抜け道はある
Re: (スコア:0)
門外漢だが、法的に何らかの責任を負わなければならん、とかはない、なんだろうかね
ただ、状況から考えて、コーエンさんソースもちゃんと確認しないで生成AIの出力を「強化されたサーチエンジンの出力」として、そのまま渡すとかは無責任じゃね？道義的に
みたいな事は言えるんじゃないのかな。無責任な外野席から
Re: (スコア:0)
プロの弁護士さんがハマったのは初めてじゃないから、何か信じやすい理由があるんじゃない?
画像AIと同じで、再帰的に文字単位で切り貼りして会話文に仕立ててるだけで、データなんか何も参照してないんだけど
やっぱりなかなか一般人ってその辺を認めないじゃない
Re: (スコア:0)
どんだけピュアなのよ、おじさんちょっと心配になった。
弁護士の言う「知らなかった」は、知ってたけど知らなかったと言えるようしっかり言い訳を用意してある、という意味。
登場人物、誰も責任取ってない時点で察しないと。
判例は専用の検索エンジンあるし、他意もなしにわざわざBardで検索したりしない。
あちらの裁判頻度からして、おそらくデタラメ判例が通っちゃってる裁判も結構あると思われる。
どうせ劣勢なら、ワンチャン賭ける人も出るのが当たり前。
まぁバレそうになったら、今回みたいに知らなかった言えば済むみたいだし？
Re: (スコア:0)
どこであろうと基本的に責任は押し付けるものであって取るものではないからねえ
ただ、逃げ切れないと判断したら早めの謝罪による損切りも必要
大事なのは目利きだね
# 若いのにピュアじゃない奴がいたら最早恐怖しかない
Re:年取るって怖い (スコア:1)
ビッグテック(Google)がトランプ陣営の内部分裂を狙ったと思ってるの？
ちょっと何言ってるのか分からんですね
陰謀論脳こわ
Re:年取るって怖い (スコア:5, 参考になる)
真に怖いのは、一文で「可能性はないかな？」から「内部分裂を狙ったよに見える」を経て「ビッグテックの卑劣な工作と考えざるを得ない状況証拠が揃っている」まで飛躍ちゃってることかも。
Re:年取るって怖い (スコア:1)
それな(+1)
トランプの仕事仲間って、仲間割れして実はあの野郎って話題になりがち() (スコア:0)
On Friday, Mr. Trump’s lawyers immediately seized on the Google Bard revelation. Susan R. Necheles, a lawyer representing Mr. Trump in the coming Manhattan trial, said it was “typical Michael Cohen.”
“He’s an admitted perjurer and has pled guilty to multiple felonies and this is just an additional indication of his lack of character and ongoing criminality,” Ms. Necheles said.
（リンクのThe New York Times の記事より）
トランプは弁護士に忠誠を期待するが切り捨てる (スコア:2)
とりあえず弁護士についての話だが
トランプにかかわったエリート弁護士たちが人生どん底に...今や誰も前大統領の弁護をやりたがらない納得の訳 [yahoo.co.jp]
またSchwartzさん? (スコア:0)
今回の弁護士の名前はDavid Schwartzで
去年の事件の弁護士の名前はSteven Schwartz
https://idle.srad.jp/story/23/05/28/1043202/ [idle.srad.jp]
よくあるドイツ系ユダヤ人の苗字だけどね
Re: (スコア:0)
×よくあるドイツ系ユダヤ人の苗字
△ユダヤ系のドイツ人・オーストリア人などに見られる苗字
実際は、むかし苗字・家名を移住先でよく使われるものに変えたユダヤ系移民がいて、その内後世に残ったものの1つ程度の話っす
日本でもユダヤ系の苗字とか言われて確かにそのとおりのケースもあるけど誤解の元、ユダヤ関係ないSchwartz/Schwarzなんていくらでも
「金田は朝鮮系の苗字」は全てのケースに当てはまらずそう言い切るのは誤解の元というか不正解、みたいな感じ
Re: (スコア:0)
逆にユダヤ人以外でシュワルツ名乗る人いるの？ユダヤ名字にあやかりたい非ユダヤ人やよくわかってないけど自分の小説の登場人物に宗教的背景を何も考えずに使っちゃう作家はともかく。どちらも現代では差別主義者扱いにされる。
Re: (スコア:0)
シュワルツは知らないが、シュヴァイツァー(Schweitzer)とかシュワルツコフ(Schwarzkopf)とか、似た名前のドイツ系は結構おりますね。
Re: (スコア:0)
#4590150のリンク先にアメリカ合衆国の宣教師が居るね。少なくともユダヤ教徒ではないのだろう
アメリカで、女性がウシャウスキー姓を名のるようなもの（ウシャウスカヤか何かでなく）で、元からだいぶ離れたなあ、みたいな？