「ガルリ・カスパロフ 曰く、AIの進化に恐怖を感じる必要はない」記事へのコメント

いまのところAIで怖いのは

[Anonymous Coward]

AIだから正しく判断してるだろって思ってる奴がちらほらいること（中二病的感想）

Re:

[Anonymous Coward]

そりゃAIが判断したことにして誘導する奴もでてきますわな

Re:

[Anonymous Coward]

むかしの「コンピューター」と一緒だよなあ。

人間が判断してるんじゃないってだけの理由。

Re:

[Anonymous Coward]

今のAIなんて前例の共通部分をGPUで機械的に抜き出すだけなのにな

入力と出力があるだけの一方通行のフィルターを「AI」って呼んでるいわゆる「原理的には単純な最小二乗法」状態って理解してる人は極めて少ないよな

Re:いまのところAIで怖いのは

[Anonymous Coward]

そろそろ『AI』っていうバズワードも一般向けに細分化が必要かと思いますね。

1. 計算機の演算能力で得られた「総当たりの最適解(ブルートフォース?)」
2. 単なる事実として収集された「膨大な統計的情報(データマイン?)」
3. 機械学習で意味を付けられた「人間の常識的偏見(ステレオタイプ?)」

1.や2.が単体で科学的に正確な情報であろうことを根拠として
それらを加工した3.を無責任に発信・運用することまで法的社会的に正しいと信じる飛躍が
「AIの恐怖」議論の根幹にあるのではないかと思いますが、
企業や産業はそこをつまびらかにするほどに動きにくくなるからまあ濁したがりますよね。

Re:

[Anonymous Coward]

いわゆるAIの恐怖は「ロボットによる仕事の簒奪」と
「AIに依存した状態での障害発生リスク」と
「強いAIの自発的意思による反乱」が主体ではないかな。
3つ目は2つ目の一種とみなせなくもないが……
一番メジャーだし構造が異なる可能性を含むので別枠。

それと、AIを一般向けに細分化するなら、
エキスパートシステム(由緒正しいAIの一種だが実質普通のプログラム)、
機械学習(AI研究の副産物で、目的とする入出力関係を持つ関数のパラメータを決定する技法)、
ニューラルネットワーク(同じくAI研究の副産物で、特定の形をした関数の事。機械学習にまま使う)、
強いAI(一般人が想像するだ

Re:

[Anonymous Coward]

昔のAIならそうかもしれんが、AlphaGoとかになると自分で対局を繰り返して学習してるから前例とか関係なくね？
チェスだったらとっくに人類の過去の対局数をAIが塗り替えていても不思議じゃない

Re:

[Anonymous Coward]

ああいうのは前例を機械的に生成しているというのに近い
ちょっと前にガラス板に色をつけてAIを実装したというニュースがあったが理論的にそういう単純な一方向の構造しかない

Re:

[Anonymous Coward]

「AI」って言葉に何でもかんでも含めちゃってるんで、「機械による自動化」を全てAIと読んでる現状が悪いんですよ。
あのガラス板を「高度に複雑な、しかしタダの仕分け機」として見るのはまあいいんですけど、一応そうじゃない方面もあるんで。教師無し学習とか。

「とある限定された分野のヤツは所詮○○だよ」は「AIは全部たいしたことない」にはならんのですよ。
怖がる人も下げてみる人も冷静に評してるつもりの人も、結局「AIとは」「知能とは」「思考とは」について定義しないまま感覚で話している限り、雲に矢を射かけて「どうだ！」って言ってるのと同じです。

Re:

[Anonymous Coward]

教師なし学習とかそれこそただの仕分け機じみてる気もするけどなぁ……
教師あり学習だと画像を出力とするような物も作れる。
肝心なのはある関数をある指標のもとで最適化する事に終止してるって点だと思う。
この延長線上に強いAIはまず居ないと思う。

強いAIでなければ意志に基づく反乱など起きようもない。
起きうるのは同じ脆弱性を抱えたシステムが広く普及した事で起きる一斉障害やクラックによる大惨事だろう。

もし強いAIが誕生したらどうすべきかは議論の余地もあり得るが、
具体的な所はそもそも実現の道筋すら無いので不毛な議論になりがち。
そこにさらに何でもかんでもAI呼び＆AI≒強いAIな誤解も来ては………

Re:

[Anonymous Coward]

「盤面入力に対し手を出力する関数」を
「敗率が最も低くなるように延々最適化する」だけなんで、
どうあがいても「原理的には単純な最小二乗法」から遠く離れる事はないです。
使うのは前例じゃなくて勝敗情報だな。