パスワードを忘れた? アカウント作成
14022762 story
ロボット

ガルリ・カスパロフ 曰く、AIの進化に恐怖を感じる必要はない 26

ストーリー by headless
楽観 部門より
チェスの元世界王者ガルリ・カスパロフ氏がDigital Transformation Expo (DTExpo)の基調講演で、AIの進化に恐怖を感じる必要はないとの考えを示したそうだ(Computingの記事)。

Avastのセキュリティアンバサダーとして登壇したカスパロフ氏は、1997年にIBMのDeep Blueに敗れて以来、独自の視点からAIの進化を見てきたという。現在の基準でDeep Blueを評価すると目覚まし時計程度の賢さだったといい、大幅に進化した現在のAIとは敵対するのではなく、協力するべきだと気付いたとのこと。

カスパロフ氏はハリウッド映画が進化したAIへの恐怖心に大きく影響しているとしつつ、人類と機械の対立を描いた作品として代表的な映画「ターミネーター」では第1作で人類が勝利し、第2作と第3作では人類が古い機械と手を組んで新しい機械を倒していると指摘。閉じたシステムではAIが人間より優れているとしても、それ以外の場面では人間が機械を導く必要があり、(新しい)機械は人間の手助けを得た古い機械を倒すことができないという。そのため、カスパロフ氏はAIの進化を楽観視しているとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2019年10月12日 12時23分 (#3700046)

    AIだから正しく判断してるだろって思ってる奴がちらほらいること(中二病的感想)

    • by Anonymous Coward

      そりゃAIが判断したことにして誘導する奴もでてきますわな

      • by Anonymous Coward

        むかしの「コンピューター」と一緒だよなあ。

        人間が判断してるんじゃないってだけの理由。

    • by Anonymous Coward

      今のAIなんて前例の共通部分をGPUで機械的に抜き出すだけなのにな

      入力と出力があるだけの一方通行のフィルターを「AI」って呼んでるいわゆる「原理的には単純な最小二乗法」状態って理解してる人は極めて少ないよな

      • by Anonymous Coward on 2019年10月12日 14時50分 (#3700092)

        そろそろ『AI』っていうバズワードも一般向けに細分化が必要かと思いますね。

        1. 計算機の演算能力で得られた「総当たりの最適解(ブルートフォース?)」
        2. 単なる事実として収集された「膨大な統計的情報(データマイン?)」
        3. 機械学習で意味を付けられた「人間の常識的偏見(ステレオタイプ?)」

        1.や2.が単体で科学的に正確な情報であろうことを根拠として
        それらを加工した3.を無責任に発信・運用することまで法的社会的に正しいと信じる飛躍が
        「AIの恐怖」議論の根幹にあるのではないかと思いますが、
        企業や産業はそこをつまびらかにするほどに動きにくくなるからまあ濁したがりますよね。

        親コメント
        • by Anonymous Coward

          いわゆるAIの恐怖は「ロボットによる仕事の簒奪」と
          「AIに依存した状態での障害発生リスク」と
          「強いAIの自発的意思による反乱」が主体ではないかな。
          3つ目は2つ目の一種とみなせなくもないが……
          一番メジャーだし構造が異なる可能性を含むので別枠。

          それと、AIを一般向けに細分化するなら、
          エキスパートシステム(由緒正しいAIの一種だが実質普通のプログラム)、
          機械学習(AI研究の副産物で、目的とする入出力関係を持つ関数のパラメータを決定する技法)、
          ニューラルネットワーク(同じくAI研究の副産物で、特定の形をした関数の事。機械学習にまま使う)、
          強いAI(一般人が想像するだ

      • by Anonymous Coward

        昔のAIならそうかもしれんが、AlphaGoとかになると自分で対局を繰り返して学習してるから前例とか関係なくね?
        チェスだったらとっくに人類の過去の対局数をAIが塗り替えていても不思議じゃない

        • by Anonymous Coward

          ああいうのは前例を機械的に生成しているというのに近い
          ちょっと前にガラス板に色をつけてAIを実装したというニュースがあったが理論的にそういう単純な一方向の構造しかない

          • by Anonymous Coward

            「AI」って言葉に何でもかんでも含めちゃってるんで、「機械による自動化」を全てAIと読んでる現状が悪いんですよ。
            あのガラス板を「高度に複雑な、しかしタダの仕分け機」として見るのはまあいいんですけど、一応そうじゃない方面もあるんで。教師無し学習とか。

            「とある限定された分野のヤツは所詮○○だよ」は「AIは全部たいしたことない」にはならんのですよ。
            怖がる人も下げてみる人も冷静に評してるつもりの人も、結局「AIとは」「知能とは」「思考とは」について定義しないまま感覚で話している限り、雲に矢を射かけて「どうだ!」って言ってるのと同じです。

            • by Anonymous Coward

              教師なし学習とかそれこそただの仕分け機じみてる気もするけどなぁ……
              教師あり学習だと画像を出力とするような物も作れる。
              肝心なのはある関数をある指標のもとで最適化する事に終止してるって点だと思う。
              この延長線上に強いAIはまず居ないと思う。

              強いAIでなければ意志に基づく反乱など起きようもない。
              起きうるのは同じ脆弱性を抱えたシステムが広く普及した事で起きる一斉障害やクラックによる大惨事だろう。

              もし強いAIが誕生したらどうすべきかは議論の余地もあり得るが、
              具体的な所はそもそも実現の道筋すら無いので不毛な議論になりがち。
              そこにさらに何でもかんでもAI呼び&AI≒強いAIな誤解も来ては………

        • by Anonymous Coward

          「盤面入力に対し手を出力する関数」を
          「敗率が最も低くなるように延々最適化する」だけなんで、
          どうあがいても「原理的には単純な最小二乗法」から遠く離れる事はないです。
          使うのは前例じゃなくて勝敗情報だな。

  • by akiraani (24305) on 2019年10月12日 12時58分 (#3700056) 日記

    AIの専門家が「今からAIの暴走を心配するのは早すぎ」との楽観論に徹底反論 [gigazine.net]

     まあ詳しくはリンク先読んでもらうとして、個人的な意見を述べると、AIは勝手に暴走するんじゃなくて、人間が暴走させる。そして、その多くはアングラで研究してる連中が引き起こすだろうと思われる。暴走ではなくても悪用は警戒しないといけない。その意味で、楽観論は疑問が残る。
     ただ、警鐘を鳴らしてる人たちの言うこともなんかずれている気がする。まっとうに研究してる研究者に足踏みさせるよりも、リスクを少しでも早く洗い出すために研究を続けて、不心得者が引き起こすであろう悪事に対して対処する手段もあわせて研究するべき。

     世の中の論調は研究者が自重すべき見たいな意見をよく見かけるけど、それはむしろリスクを増やすだけなんじゃないかなぁ。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward

      強いAIを作る目処が全くたっていないというのに、専門家とは片腹痛い。

      • by Anonymous Coward

        専門家のフリしたAIに煽動されているオチだったりして。

  • by Anonymous Coward on 2019年10月12日 17時30分 (#3700134)

    自動化するための道具だからね。AIは怖くない。
    でもAIを使う人や企業はものすごく怖い。

    • by Anonymous Coward

      小池百合子都知事のおかげで AI がうさんくさいものになったので、変なことをいいだすエライ人を牽制するのが容易に。

    • by Anonymous Coward

      ペッパー君のレンタルを半強制されたり、ああいう恐怖ですね。

  • 今のレベルのAIじゃ人類に反逆とか到底無理だろ
    せめてHMX-12くらい作ってから言ってくれ

    • by Anonymous Coward

      そこはゴーストX-9ですよ。

      • by Anonymous Coward

        ゴーストは単なる「高性能な自動マシン」でしかないので、必要なのはシャロン・アップルです(必要?

        • by Anonymous Coward

          果てしない宇宙に果てしないエネルギー🎵(違

    • by Anonymous Coward

      おいおいそこは2049のジョイだろjk
      ロボットもアンドロイドもレプリカントも実体としての入れ物はいらんよ
      エマネーターすらなくていい
      ジョイだけポンと出してくれりゃそれで十分

  • by Anonymous Coward on 2019年10月12日 12時25分 (#3700047)

    発電所、インターネットもしくはある程度の情報量、精密デバイス自身なのでそれなりの知能を有する世話をする整備員。

    これらがないとソフトウェアもハードウェアも、ただのデカイ箱。

    • by Anonymous Coward

      ネットワーク接続を足掛かりに金を得て、人を雇い、ハードウェアの整備を行う事は出来るんじゃないかな。
      自己の置かれた環境を把握し安全を確保し強化できるようでなければ真に知的な存在とは言えないと思うし。

  • by Anonymous Coward on 2019年10月12日 13時52分 (#3700066)

    第3作については言及しなくて(というよりしない方が)良いんじゃないか

    • by Anonymous Coward

      ターミネーターはT3が三作目、なのではありません。2作目の続編を永遠に作り直す(前のは歴史改変されたことになる)呪いにかかっているのです。

typodupeerror

アレゲは一日にしてならず -- アレゲ見習い

読み込み中...