ガルリ・カスパロフ 曰く、AIの進化に恐怖を感じる必要はない 26
ストーリー by headless
楽観 部門より
楽観 部門より
チェスの元世界王者ガルリ・カスパロフ氏がDigital Transformation Expo (DTExpo)の基調講演で、AIの進化に恐怖を感じる必要はないとの考えを示したそうだ(Computingの記事)。
Avastのセキュリティアンバサダーとして登壇したカスパロフ氏は、1997年にIBMのDeep Blueに敗れて以来、独自の視点からAIの進化を見てきたという。現在の基準でDeep Blueを評価すると目覚まし時計程度の賢さだったといい、大幅に進化した現在のAIとは敵対するのではなく、協力するべきだと気付いたとのこと。
カスパロフ氏はハリウッド映画が進化したAIへの恐怖心に大きく影響しているとしつつ、人類と機械の対立を描いた作品として代表的な映画「ターミネーター」では第1作で人類が勝利し、第2作と第3作では人類が古い機械と手を組んで新しい機械を倒していると指摘。閉じたシステムではAIが人間より優れているとしても、それ以外の場面では人間が機械を導く必要があり、(新しい)機械は人間の手助けを得た古い機械を倒すことができないという。そのため、カスパロフ氏はAIの進化を楽観視しているとのことだ。
Avastのセキュリティアンバサダーとして登壇したカスパロフ氏は、1997年にIBMのDeep Blueに敗れて以来、独自の視点からAIの進化を見てきたという。現在の基準でDeep Blueを評価すると目覚まし時計程度の賢さだったといい、大幅に進化した現在のAIとは敵対するのではなく、協力するべきだと気付いたとのこと。
カスパロフ氏はハリウッド映画が進化したAIへの恐怖心に大きく影響しているとしつつ、人類と機械の対立を描いた作品として代表的な映画「ターミネーター」では第1作で人類が勝利し、第2作と第3作では人類が古い機械と手を組んで新しい機械を倒していると指摘。閉じたシステムではAIが人間より優れているとしても、それ以外の場面では人間が機械を導く必要があり、(新しい)機械は人間の手助けを得た古い機械を倒すことができないという。そのため、カスパロフ氏はAIの進化を楽観視しているとのことだ。
いまのところAIで怖いのは (スコア:5, すばらしい洞察)
AIだから正しく判断してるだろって思ってる奴がちらほらいること（中二病的感想）
Re: (スコア:0)
そりゃAIが判断したことにして誘導する奴もでてきますわな
Re: (スコア:0)
むかしの「コンピューター」と一緒だよなあ。
人間が判断してるんじゃないってだけの理由。
Re: (スコア:0)
今のAIなんて前例の共通部分をGPUで機械的に抜き出すだけなのにな
入力と出力があるだけの一方通行のフィルターを「AI」って呼んでるいわゆる「原理的には単純な最小二乗法」状態って理解してる人は極めて少ないよな
Re:いまのところAIで怖いのは (スコア:4, 参考になる)
そろそろ『AI』っていうバズワードも一般向けに細分化が必要かと思いますね。
1. 計算機の演算能力で得られた「総当たりの最適解(ブルートフォース?)」
2. 単なる事実として収集された「膨大な統計的情報(データマイン?)」
3. 機械学習で意味を付けられた「人間の常識的偏見(ステレオタイプ?)」
1.や2.が単体で科学的に正確な情報であろうことを根拠として
それらを加工した3.を無責任に発信・運用することまで法的社会的に正しいと信じる飛躍が
「AIの恐怖」議論の根幹にあるのではないかと思いますが、
企業や産業はそこをつまびらかにするほどに動きにくくなるからまあ濁したがりますよね。
Re: (スコア:0)
いわゆるAIの恐怖は「ロボットによる仕事の簒奪」と
「AIに依存した状態での障害発生リスク」と
「強いAIの自発的意思による反乱」が主体ではないかな。
3つ目は2つ目の一種とみなせなくもないが……
一番メジャーだし構造が異なる可能性を含むので別枠。
それと、AIを一般向けに細分化するなら、
エキスパートシステム(由緒正しいAIの一種だが実質普通のプログラム)、
機械学習(AI研究の副産物で、目的とする入出力関係を持つ関数のパラメータを決定する技法)、
ニューラルネットワーク(同じくAI研究の副産物で、特定の形をした関数の事。機械学習にまま使う)、
強いAI(一般人が想像するだ
Re: (スコア:0)
昔のAIならそうかもしれんが、AlphaGoとかになると自分で対局を繰り返して学習してるから前例とか関係なくね？
チェスだったらとっくに人類の過去の対局数をAIが塗り替えていても不思議じゃない
Re: (スコア:0)
ああいうのは前例を機械的に生成しているというのに近い
ちょっと前にガラス板に色をつけてAIを実装したというニュースがあったが理論的にそういう単純な一方向の構造しかない
Re: (スコア:0)
「AI」って言葉に何でもかんでも含めちゃってるんで、「機械による自動化」を全てAIと読んでる現状が悪いんですよ。
あのガラス板を「高度に複雑な、しかしタダの仕分け機」として見るのはまあいいんですけど、一応そうじゃない方面もあるんで。教師無し学習とか。
「とある限定された分野のヤツは所詮○○だよ」は「AIは全部たいしたことない」にはならんのですよ。
怖がる人も下げてみる人も冷静に評してるつもりの人も、結局「AIとは」「知能とは」「思考とは」について定義しないまま感覚で話している限り、雲に矢を射かけて「どうだ！」って言ってるのと同じです。
Re: (スコア:0)
教師なし学習とかそれこそただの仕分け機じみてる気もするけどなぁ……
教師あり学習だと画像を出力とするような物も作れる。
肝心なのはある関数をある指標のもとで最適化する事に終止してるって点だと思う。
この延長線上に強いAIはまず居ないと思う。
強いAIでなければ意志に基づく反乱など起きようもない。
起きうるのは同じ脆弱性を抱えたシステムが広く普及した事で起きる一斉障害やクラックによる大惨事だろう。
もし強いAIが誕生したらどうすべきかは議論の余地もあり得るが、
具体的な所はそもそも実現の道筋すら無いので不毛な議論になりがち。
そこにさらに何でもかんでもAI呼び＆AI≒強いAIな誤解も来ては………
Re: (スコア:0)
「盤面入力に対し手を出力する関数」を
「敗率が最も低くなるように延々最適化する」だけなんで、
どうあがいても「原理的には単純な最小二乗法」から遠く離れる事はないです。
使うのは前例じゃなくて勝敗情報だな。
つい最近、逆の主張の記事を見たぞ (スコア:5, すばらしい洞察)
AIの専門家が「今からAIの暴走を心配するのは早すぎ」との楽観論に徹底反論 [gigazine.net]
まあ詳しくはリンク先読んでもらうとして、個人的な意見を述べると、AIは勝手に暴走するんじゃなくて、人間が暴走させる。そして、その多くはアングラで研究してる連中が引き起こすだろうと思われる。暴走ではなくても悪用は警戒しないといけない。その意味で、楽観論は疑問が残る。
ただ、警鐘を鳴らしてる人たちの言うこともなんかずれている気がする。まっとうに研究してる研究者に足踏みさせるよりも、リスクを少しでも早く洗い出すために研究を続けて、不心得者が引き起こすであろう悪事に対して対処する手段もあわせて研究するべき。
世の中の論調は研究者が自重すべき見たいな意見をよく見かけるけど、それはむしろリスクを増やすだけなんじゃないかなぁ。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
強いAIを作る目処が全くたっていないというのに、専門家とは片腹痛い。
Re: (スコア:0)
専門家のフリしたAIに煽動されているオチだったりして。
AIはただの道具 (スコア:2, 興味深い)
自動化するための道具だからね。AIは怖くない。
でもAIを使う人や企業はものすごく怖い。
Re: (スコア:0)
小池百合子都知事のおかげで AI がうさんくさいものになったので、変なことをいいだすエライ人を牽制するのが容易に。
Re: (スコア:0)
ペッパー君のレンタルを半強制されたり、ああいう恐怖ですね。
AIの進化が遅すぎる (スコア:1)
今のレベルのAIじゃ人類に反逆とか到底無理だろ
せめてHMX-12くらい作ってから言ってくれ
Re: (スコア:0)
そこはゴーストX-9ですよ。
Re: (スコア:0)
ゴーストは単なる「高性能な自動マシン」でしかないので、必要なのはシャロン・アップルです（必要？
Re: (スコア:0)
果てしない宇宙に果てしないエネルギー🎵（違
Everything You Want Joi (スコア:0)
おいおいそこは2049のジョイだろjk
ロボットもアンドロイドもレプリカントも実体としての入れ物はいらんよ
エマネーターすらなくていい
ジョイだけポンと出してくれりゃそれで十分
AIに必要な物理的物体は (スコア:0)
発電所、インターネットもしくはある程度の情報量、精密デバイス自身なのでそれなりの知能を有する世話をする整備員。
これらがないとソフトウェアもハードウェアも、ただのデカイ箱。
Re: (スコア:0)
ネットワーク接続を足掛かりに金を得て、人を雇い、ハードウェアの整備を行う事は出来るんじゃないかな。
自己の置かれた環境を把握し安全を確保し強化できるようでなければ真に知的な存在とは言えないと思うし。
ターミネーター? (スコア:0)
第3作については言及しなくて(というよりしない方が)良いんじゃないか
Re: (スコア:0)
ターミネーターはT3が三作目、なのではありません。2作目の続編を永遠に作り直す（前のは歴史改変されたことになる）呪いにかかっているのです。