アカウント名:
パスワード:
「アンコリーノ」もそうだけど、世の中のどこにもないウソ情報をChatGPTはどうやって出してくるんだろ検索エンジンみたいにネット上の情報から学習してるんだと思ってたんだけど違うのか
ハルシネーションという現象だよ。元データに十分な情報量がない場合に周囲からそれらしい断片を寄せ集めて対話として「噛み合う」ようにするがその情報が十分に正確ではないのはごく普通にある。言語モデルとして構築したものは言語として自然なものを生成するのであって専門分野の知識を体系的に持っているわけではないんだ。
訓練されていない人間は人間同士でのやりとりでも流暢さと正しさを混同するので当たり前のようにスッと出されると騙されてしまうという人間側の性質もある。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
皆さんもソースを読むときに、行と行の間を読むような気持ちで見てほしい -- あるハッカー
どこからウソ情報を取得しているのか (スコア:0)
「アンコリーノ」もそうだけど、世の中のどこにもないウソ情報をChatGPTはどうやって出してくるんだろ
検索エンジンみたいにネット上の情報から学習してるんだと思ってたんだけど違うのか
Re:どこからウソ情報を取得しているのか (スコア:0)
ハルシネーションという現象だよ。
元データに十分な情報量がない場合に周囲からそれらしい断片を寄せ集めて対話として「噛み合う」ようにするがその情報が十分に正確ではないのはごく普通にある。
言語モデルとして構築したものは言語として自然なものを生成するのであって専門分野の知識を体系的に持っているわけではないんだ。
訓練されていない人間は人間同士でのやりとりでも流暢さと正しさを混同するので当たり前のようにスッと出されると騙されてしまうという人間側の性質もある。