パスワードを忘れた? アカウント作成
16627964 story
人工知能

ChatGPTで判例を集めた弁護士、嘘の判例だらけという前代未聞の事態に 186

ストーリー by headless
架空 部門より
弁護士が裁判で使用する判例をChatGPTに依頼して集めたところ、大量の偽物をつかまされる事態となったそうだ (The Verge の記事The New York Times の記事Neowin の記事裁判所文書)。

この裁判は 2019 年 8 月 27 日のエルサルバドル発ニューヨーク行きアビアンカ航空 670 便に搭乗し、機内食の配膳用カートをぶつけられた男性がアビアンカを訴えたものだ。アビアンカ側は出訴期限を過ぎていると主張して棄却申立を行い、男性側の弁護士は反論すべく8件の判例の要約を提出した。ところが、アビアンカ側が実際の判例を見つけられないと主張し、6件が架空の判例であることが判明した。

当初、弁護士はニューヨーク州上級裁判所で訴訟を提起したが、資格のない連邦地裁へ移送されたため同僚に弁護を任せ、調査を担当することになったという。法曹界では生成 AI の利用が進んでおり、弁護士も ChatGPT を利用することになる。しかし、弁護士はこれまでに ChatGPT を使ったことがなく、虚偽の情報が含まれる可能性があることを知らなかったそうだ。

弁護士は (問題が提起されてから) ChatGPT に判例が本物であるかどうかを確認しているが、ChatGPT は一部を訂正しつつすべての判例は本物だと主張している。だますつもりはなかったと弁護士は謝罪し、ChatGPT の利用を深く後悔しているとも述べたという。

判事は判例も引用も嘘ばかりという前代未聞の事態だと述べ、懲戒のための聴聞を 6 月 8 日に設定したとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by nemui4 (20313) on 2023年05月28日 20時29分 (#4467638) 日記

    >ChatGPT は一部を訂正しつつすべての判例は本物だと主張している

    嘘を嘘と見抜け無い人はネットの情報を使わない方が良いと
    いにしえに誰か言ってたような

    • by Takahiro_Chou (21972) on 2023年05月28日 22時54分 (#4467707) 日記

      ChatGPT「よって、私は人では無いので、嘘を見抜けるか否かに関わらず、ネット情報を活用してもいいんですね」

      親コメント
  • by Anonymous Coward on 2023年05月28日 20時45分 (#4467647)

    変数A=変数B=処理

    っていうコードが返ってきた。
    変数Bは最後の行まで一度も使わない。どこかからコピペしてきたのかな。
    検索しても出てこなかったけど。

  • 本当に (スコア:2, おもしろおかしい)

    by Anonymous Coward on 2023年05月28日 20時50分 (#4467652)

    AIって人間の職を奪うんだな。
    # クビだろ、この弁護士

  • アホなウソつき (スコア:2, すばらしい洞察)

    by Anonymous Coward on 2023年05月28日 20時58分 (#4467654)

    すいません、間違えました。
    正しくはこちらです。

    と言って出してくる情報もまた間違ってる。

    • by nemui4 (20313) on 2023年05月29日 7時53分 (#4467787) 日記

      さらにつっこむと「まだ習熟途中で未熟です(大意)」という感じで逃げていきますね

      聞いたことがない、それはしらない、よくわからない、諸説あります的な答えを返せるようになるにはどれくらいかかるんだろう

      親コメント
  • 人間もAIも嘘もつくし間違いもするが、今ん所は、人間のやらかした嘘や間違いの方が「何で嘘や間違いをやったか??」を突き止める事が出来る確率が高そう。

  • by machrider (49063) on 2023年05月29日 9時42分 (#4467850) 日記

    判例はダメ!絶対!って指示するだけじゃダメなのか。

  • by Anonymous Coward on 2023年05月28日 20時10分 (#4467633)

    正確な法令・政令・省令・告示・通達、裁判の判例等を学習させた、法令特化AIが出来て、
    こういった問題が解決するのでは?

    • by Anonymous Coward on 2023年05月28日 22時45分 (#4467704)

      「ソースを正しく出す」っていう行為はディープラーニングの構造の対極だと思うんだよね

      親コメント
    • by Anonymous Coward

      今のAIのしくみだと学習元が正しいからと言って出力が必ず正しくなるとは限らないからなぁ。
      無理なんじゃないか?

      • by Anonymous Coward on 2023年05月28日 21時00分 (#4467656)

        原理的に正確性を保証できなくても、実用上は人間が調べた時の精度を超えれば問題ないよね。
        今のDNN系の技術はそういう方向で発展していってる。

        親コメント
      • by Anonymous Coward on 2023年05月28日 23時01分 (#4467709)

        単純に今後の精度向上の問題だと思いますよ。
        じゃあ人間だったら出力が必ず正しくなるかって言ったらそんな訳はないです。
        問題はAIの出力の価値が人間の出力の価値を上回るかどうかということかと。
        単純化していますが、かたや人間が2~3日かけて精度9割の出力、AIが5分で精度8割の出力となれば、
        今後AIがますます進化していくことを考えると、人件費のかさむ専門職を雇う意味は少なくなっていくと思います。

        親コメント
        • by Anonymous Coward on 2023年05月29日 2時55分 (#4467751)

          裁判の判例を探してこいと命令されて全部存在しない判例を持ってきて、かつ追求されても存在すると言い張る奴は一般論として存在しないけど
          それが日常茶飯事のchatGPTと同一視して「人間でも出力が必ずしも正しい保証はない」ってすげー詭弁だな
          西村構文っぽい

          「じゃあ人間なら確実に100%正しいと保証されてるんですか?間違ってたらあなた死んでくれますか?(目パチパチ」

          親コメント
      • by Anonymous Coward

        そんなのは時間の問題でしょう
        AIは日進月歩で進んでるので、すぐに優秀な弁護士や裁判官を上回るAIになるのはほぼ確実

    • by Anonymous Coward

      それを誰が学習させるのか?
      大衆に学習を任せると絶対イタズラや勘違いで間違った学習をさせる輩が現れる。
      誰でも知ってるような一般的な知識なら多数派の力でそれらを打ち消せるが専門性の高い案件はそうもいかない。
      誰でも知ってるような知識に限定したらこんなツール要らないしね。
      現状のAIって、前提知識がある人が補助として使う以上には役に立たない。

  • by Anonymous Coward on 2023年05月28日 20時24分 (#4467637)

    弁護士いらねーよな

  • by Anonymous Coward on 2023年05月28日 21時03分 (#4467657)

    AIによって奪われる仕事の一つがひろゆきだったとわ...

    • by Takahiro_Chou (21972) on 2023年05月28日 23時05分 (#4467710) 日記

      AIひどゆき「私のオリジナルは所詮は人間です。人間のオリジナルより完璧な私が居る以上、人間のオリジナルは、最早、不要です」
      オリジナルひどゆき「それって、貴方の感想ですよね?」
      AIひどゆき「AIである私が『感想』を抱ける事を証明出来ない限り、貴方のその発言こそ『感想』です」

      親コメント
typodupeerror

計算機科学者とは、壊れていないものを修理する人々のことである

読み込み中...