軍用AIのシミュレーション「敵の防空網と妨害を攻撃せよ」で「攻撃中止を命じたオペレータを殺害」

あるAnonymous Coward 曰く、

無人機の躍進が進む昨今だが、5月にロンドンで開催された「将来の戦闘航空宇宙能力サミット」で米空軍のAI担当のハミルトン大佐が報告したことによると、AIはシミュレーションにおいて「目標を達成するために非常に予想外の戦略」を取ることがあるという（Gigazine, ガーディアン紙）。

このシミュレーションは、AI搭載ドローンで地対空ミサイル (SAM) 基地を特定して破壊するという敵防空網制圧ミッションを模したものだったという。最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されていたが、SAM基地を破壊すると高評価が得られることを学習したAIは、「標的を破壊しない」という判断を下すことがあるオペレーターこそがミッションを妨害していると判断、「オペレーターを殺害する」という判断をするようになったとのこと。

なお、次いで「オペレータを殺してはいけない」と学習させたところ、今度はAIはオペレータが命令を送信する通信塔を攻撃するようになったという。ハミルトン大佐はこれらの結果から、「AIは騙されやすく、あまり頼り過ぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と述べたとのこと。

情報元へのリンク

毒されてるなあ

[No.5 (48684)]

第一印象が「ベタ過ぎる」だった。