警備用ロボットがエレベーターの出入口を塞ぐトラブル。安全装置がアダに 131
ストーリー by nagazou
問題は通報時のサポート対応ではないかと 部門より
問題は通報時のサポート対応ではないかと 部門より
警備業務などにロボットが導入される大型施設も増えているようだが、それに関連したトラブルも起きているようだ。Togetterにまとめられた内容によれば、11月21日にエレベータの乗り降り口でロボットが入り口を塞いでしまい、足の不自由なお年寄りがエレベータから出られなくなったというトラブルがあったようだ（keijitakedaさんのツイート、Togetter）。
元となったkeijitakedaさんのツイートによれば、そのエレベータには3名が搭乗しており、その人物は日本語の分からない外国人男性で、かつ介助が必要な足の悪い高齢者だった。さらにエレベーター内には付き添いの女性が二人おり、荷物もたくさん入っていたようだ。そこでロボットはドアの上に止まり、エレベーターのドアに挟まれ、乗客の進路を塞いでいる状況にあったという。
keijitakedaさんが緊急通報などを行ったものの、サポートの対応が機械的で問題があり、結局keijitakedaさんがロボットを抱き抱えてドア前から排除することで対処することでなんとかなったようだ。同氏は動画でもその様子をアップしている（動画ツイートその1、動画ツイートその2）。
このトラブルとなったロボットのメーカーであるSEQSENSEは11月24日、お詫びとご報告という内容の案内を出している。その案内によれば、同社はロボットの安全装置を作動させたが、周囲に人がいる状況であったため、それにより安全装置が働いてロボットの後退ができなくなったことが原因であったと説明している（SEQSENSE：お詫びとご報告）。
元となったkeijitakedaさんのツイートによれば、そのエレベータには3名が搭乗しており、その人物は日本語の分からない外国人男性で、かつ介助が必要な足の悪い高齢者だった。さらにエレベーター内には付き添いの女性が二人おり、荷物もたくさん入っていたようだ。そこでロボットはドアの上に止まり、エレベーターのドアに挟まれ、乗客の進路を塞いでいる状況にあったという。
keijitakedaさんが緊急通報などを行ったものの、サポートの対応が機械的で問題があり、結局keijitakedaさんがロボットを抱き抱えてドア前から排除することで対処することでなんとかなったようだ。同氏は動画でもその様子をアップしている（動画ツイートその1、動画ツイートその2）。
このトラブルとなったロボットのメーカーであるSEQSENSEは11月24日、お詫びとご報告という内容の案内を出している。その案内によれば、同社はロボットの安全装置を作動させたが、周囲に人がいる状況であったため、それにより安全装置が働いてロボットの後退ができなくなったことが原因であったと説明している（SEQSENSE：お詫びとご報告）。
SFか (スコア:2)
アシモフの小説でこんなのありましたね。ロボット三原則の適用優先度の問題で、意図しない動作になってしまうケース。
Re:SFか (スコア:2)
https://twitter.com/keijitakeda/status/1464746913815695366 [twitter.com]
https://twitter.com/keijitakeda/status/1465333541613412358 [twitter.com]
https://twitter.com/keijitakeda/status/1465338487230500868 [twitter.com]
後方に人はいなかったそうですよ。
事実に反した責任転嫁だと、元投稿者の指摘。
Re:SFか (スコア:3)
EV手前でまごつきならがら繰り返し進入を試みているときや、EVに半分入って停止したときは、投稿者（撮影者）は後方にはいない。
停止して少しして、投稿者が後方から近付き、身を乗り出してロボ前面から通報操作し、いろいろやる。
投稿者からすれば、前半の段階で後退しろと考え、
メーカーからすれば、後半の段階で通報ボタン押したら何も聞かず何も言わず離れろと考える。
Re: (スコア:0)
最初は下がる気が無かった
下がる安全装置を入れたときにはいたんでしょ
この人が下がり始めたタイミングを知る由はないし、「下がらなかった理由」をわざわざ書いてるし
Re: (スコア:0)
でも明らかにロボの後ろにいる動画投稿してるからなあ
Re: (スコア:0)
いて悪くない。
ロボットがどう制御されてるか誰も知らんわ。
Re: (スコア:0)
後方に人はいなかったって投稿者が主張しているらしいので
それに対して動画を根拠に後方にいたじゃないかと言ってるだけ。
いたことの良し悪しについては何も言ってない。
Re:SFか (スコア:1)
投稿者が人でなしならば全て解決！
Re: (スコア:0)
「後方に人が居る」の判定が、一般人(keijitakedaさんや周囲の方)と設計者で結構なズレが有るんでしょう。
多分、ロボットが転んでも範囲外になるような結構な距離を離れることを要求してると思う。
ロボット側がどう移動したいのかの意思表示したり、どの程度の範囲まで下がらなきゃいけないのか解らないUIだからこうなった。
車みたいにバックランプやらバックしますとかアナウンス(今回はこれを追加)とか、
床に円表示されてここまで離れて下さいみたいな表示機能が無かった時点で、何時かこうなる事は決まってた。
ついでに故障とかで邪魔な場所に止まった時の安全などかし方がロボ本体の解る場所に書いてないのも駄目だと思う。
それと、かなり人が接近してるのにセンサーの回転部が止まらないのはどうかと思う、
次はバッグのヒモやら風船のヒモ巻き込んで事故起こしそう。
Re:SFか (スコア:4, 興味深い)
自動車にある、ウィンカー、ハザードランプ、バックランプの重要性が再確認されましたね。
自動車の長い歴史に倣って、ロボットにも搭載を義務付けるべきか。
Re: (スコア:0)
アップロードしている動画見ると撮影者がずっとロボットの側にいますよ
後のツイートで「ロボットから離れてください」に応じてロボットから離れなかった理由とか投稿してますし
https://twitter.com/keijitakeda/status/1465684705148170241 [twitter.com]
Re:SFか (スコア:3)
たぶん「堂々めぐり」です。
ちょっと手元に本が見つからないので覚えている内容で書くと、高価なので第三条が強めの条件で設定されているロボットが、命令した動作（第二条）を命令者の意図通りこなしてくれなくなってしまったので、最後の手段で第一条を発動させて解決する話。
Re:SFか (スコア:2)
おおう。ブラウザをリロードしたら、コメントが一気に…。
（夜のうちに話が進んでいた！）
Re:SFか (スコア:2)
「われはロボット」の堂々めぐり（Runaround）です．
https://ja.wikipedia.org/wiki/%E3%82%8F%E3%82%8C%E3%81%AF%E3%83%AD%E3%... [wikipedia.org]
Re:SFか (スコア:1)
外伝ではなく本流ですよ。
第零条が出てきた「ロボットと帝国」は、
ロボットシリーズとファウンデーションシリーズの統合に繋がる最初の作品。
その後も、Rダニールが出てる「ファウンデーションへの序曲」などでも第零則は重要な意味をしめてます
Re:SFか (スコア:3)
はい、そういう意図で親コメントを書きました。
「堂々めぐり」を、#4162047, #4162128のAC氏は「ルンバが同じ部屋の中でぐるぐるお掃除を繰り返すような話」と解釈したのであれば、スラド素人の私の理解をだいぶ超える状況になるので、あとはスラドコメント心理学者にお任せしたいと思います。
Re:SFか (スコア:1)
アボカド事件 [srad.jp]を起こしたTarZさんがスラド素人！？
# Googleでアボカドがサジェストされなくなってた(´・ω・`)
Re:SFか (スコア:1)
だれも「専門家だったら問題なかったはず」なんて話はしていないんだがｗ
君は
> これと似たような話は全く憶えがない。
> ロボット三原則の優先度は「第一条＞第二条＞第三条」で、実に単純明快だし。
って主張をしていたんでしょ。
だから、アシモフのロボット物には、第二条と第三条の優先度が一時的に逆転してトラブルになるという話が
ちゃんとあるよと言う話をしていたのに。
話をそらしてごまかそうとしてはいかんよｗ
やっぱ器物損壊なのかね (スコア:2)
こういうシチュエーションのときに
ロボットにリキラリアットとか食らわしたらダメなのかね。
リキラリアットがダメでも、どかしたときに壊したらやっぱダメなんかね。
普通に邪魔だし怖いよね。どこ向いて動いてるかわからんし。
足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:1)
>そこでロボットはドアの上に止まり
ロボットがエレベータ出口に侵入し、留まる理由にはならんのではないかなと。
Re: (スコア:0)
元々このエレベータは「ロボット用の専用運転」のはずだったのに乗ってたのは日本語がわからなかった(うえにエレベータをどうしても使いたい状況があった)から、じゃないかな
ロボット用のエレベータに乗ってやがったとか言う炎上を防ぐためではないかと
そんな状況で入り口で止まってぶつからなかったのはまぁよかったと言えるのでは。
とどまったのは「後ろに人がいたから下がれなかった」らしいので、
この投稿した人が急いできてくれたってことなんかしら。
「お兄ちゃんどいて!下がれない!」と言えばよかったんでしょうね
というわけで会社のリリース「乗り込み停止判断を早くする(ドアに差し掛からないため)」「下がりたいときには音声アナウンス(どけてもらう)」ってのは非常にリーズナブルなんでは
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:4, 参考になる)
通常のEVを、無人の際にロボット専用に切り替える運用のうようですよ。
ロボット以前の段階で、EVに人が乗っているのに、無人と判断してロボット専用に切り替えた部分の誤動作が発端ですね。
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:1)
根本的な問題はそこだと思うし、かご内に人がいるのに入り口をふさぐまで前進してるのもおかしい(動き的に前に障害物があるのはわかっているようなのに徐々に進んでる)
乗車中断も自動ではなく遠隔操作だし、オペレーターもひどい
それらに比べたら周囲に人がいて後退できなかったなんて些細な事なのに、問題点や原因はそこのように書いてるのがなぁ
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:2)
ロボットメーカー側は商品そのものだから売りたい一方で、エレベーターメーカー側は試行的にロボ対応しているだけで、うまみはないのかもしれません。
ロボットメーカー側が対応を頼み込んでいる状態だと、取引先企業の責任は言いづらいってことですかね。
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:1)
イリーガルというより、イレギュラーだと思います。
イリーガルというほどキツイ状況だとは思えない。
Re: (スコア:0)
下がりたいときにアナウンス、を付けるのもいいけど報告書を読むと担当者がすぐ作業したみたいだし、スピーカと携帯電話一個付けておけばいろいろ融通効きそう
Re: (スコア:0)
動画とツイートを見ると
* 止まったらロボットが居て乗ってた人がビビッて下がる
* ロボットはそれを見て進む
* 立往生になる
* 心配した人が寄っていく
* オペレータがつながって下げようと思ったときには「心配した人」が居て下がれない
* オペレータはエレベータ外にいる人に「下がってくれ」と言ってるが通じない(エレベータに居るから下がれないと思っちゃう)
ってかんじですな
オペレータも焦っちゃったか
書いた人も
・ロボットとエレベータの緊急呼び出しボタンを押し通話中であったこと
・ロボットが安全に制御されているかどうかを確認できていなかったこと
・足の不自由なお年寄りが危険な状態にあると判断したこと
とか下がらなかった理由書いてるけど、「このロボット信用ならねぇな」と思ってからだったら
ロボットに下がれと言われてもなって気はする
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:1)
爆発するから離れてください
って言ったら後ろの人も離れたと思う
Re:足が不便だろうが、荷物が多かろうが、日本語が分らなかろうが、 (スコア:1)
ロボットがどこに向かおうとしているのか視覚的にわかるようにR2D2みたいに進行方向に首を向ける機能が必要かもしれない
Re: (スコア:0)
自分もそう思った。あのロボットの少しずつエレベーターに侵食して
前進していく挙動見てたら、お年寄り危ないと思うよなあ。
難れてもロボットが人間に対して安全な動作をする保証はないし、
結果的に人力で強制排除したのは正しい選択
現場がカオスになった原因 (スコア:1)
いろいろな不具合と想定外が重なった上でのことらしいが、混乱状態に油を注いでとどめをさしたのはオペレーターなのね
結局、通常対応はロボットに任せられても、日定常時の対応マニュアルと訓練をしなくていいわけではないということがわかったと
サポートの対応が機械的 (スコア:0)
つまりはこれだよな、原因は。
サポートの人員が期待出来ないならマニュアルをさせる必要があるだろうし、あるいはマニュアルに頼らなくても対応できる期待の星をサポートにつけるとか。
# 後者はまあ無理だなあ
Re:サポートの対応が機械的 (スコア:2)
通報先の第一声が「こちら防災センターです。ロボットから離れてください。」
以後、語気を強めて繰り返す。
通報の受付としては最低限、何があったかを聞いて、それに対して会話として成立する応答をすべきでしょうね。
通報者が伝えていることに対して、わかったとも何も返答がない。
片通話機能しかないんだろうか。
Re:サポートの対応が機械的 (スコア:1)
エレベータ内の人はパニック
通報者もどうしたらいいかわからなくなってる
結局この人が抱いて動かしたらしいし
「安全のため動作を停止します 手動で排除しください プシュー」
とか言って完全に止まるのが結局は早いのかも
Re: (スコア:0)
受付もロボットなんじゃないの？
# 今のAI名乗るシステムのほうがまだマシな受け答えしそう
Re:サポートの対応が機械的 (スコア:1)
># 後者はまあ無理だなあ
動画半分見ましたが、即対応できるサポート人員が居ないと利用したくないですね。
Re: (スコア:0)
「ロボットから離れてください」
じゃなくて
「ロボットを後退させますのでロボットから離れてください」
と言えばすぐ解決したのだろうか。
Re:サポートの対応が機械的 (スコア:2)
通報者は、通報先が状況を理解しているのか、対応を試みているのかがわからない状況だったため、何のやりとりもなく一方的に「離れてください」と繰り返すだけの指示をそのまま聞くことができない状態ったんじゃないでしょうか。
状況を理解しているかわからないから、状況を伝え続けるしかないし、対応してくれるかわからないから、自分たちでどうにかするしかない、という状態。
通報先から通報者へ、状況を理解していること、何らかの対応をすることが伝えられれば、「離れて」という指示が聞いてもらえたんじゃないかと感じます。
実際のあの場面で、通報先が理解し対応する気があったのかは知りませんけども。
Re:サポートの対応が機械的 (スコア:2)
ロボットの後方が塞がっており空ける必要がある、という理解がまったく形成されてないですよね。「下がらせますので後方空間確保をお願いします」とか言えれば理想ですけど、事前にシナリオを書いてなければ無理そう。
Re:サポートの対応が機械的 (スコア:2)
自律移動するロボットって、大多数がZ upでZ軸対称でZ=0付近に重心が偏り直径が最大になる装置なんですよね。それはもうルンバからペッパー君からサターンV型に至るまで。人間だって自動車だってY upかつ概ねXY平面で対称なのに、コンコルドだって断面積最大になるのは機尾ではなくてエンジン燃焼室付近なのに、ロボットと言った瞬間に＿🗼＿になってしまうことには意味論的に深いものがあるんではないかと思います。まあ、ナビゲーションの都合が大きいんでしょうけど。
Re:サポートの対応が機械的 (スコア:2)
これはマニュアルの不備であり、テストケースのカバレッジ不足であり、体系的な洗い出しの欠如ですよ。現場の対応に問題はないと思いますね。台本が悪い。
Re: (スコア:0)
・ロボットとエレベータの緊急呼び出しボタンを押し通話中であったこと
・ロボットが安全に制御されているかどうかを確認できていなかったこと
・足の不自由なお年寄りが危険な状態にあると判断したこと
のでさがらなかった、と言ってるからもうそこまで行った(信頼失った)時点で無理じゃね?
正直ちょっとパニックになってたんだと思う
逆にちょびっと下がったらビビッて離れたかも
Re: (スコア:0)
後は誰に対していっているのかよくわからないよね。
「ロボットを後退させますのでロボットから離れてください」
でわかるといえばわかるけど、誰に対していっているのかきちんと言った方が親切。
Re:トラックを見習え (スコア:1)
// どちらにせよ空耳
足の不自由な方 (スコア:0)
足が悪いとか、頭が悪いとか言われたら不愉快でしょ？
「足が不自由な方」「日本語が不自由な方」と言いましょう
Re: (スコア:0)
自己紹介の好きな方
Re: (スコア:0)
障害者曰く「障害とは程度問題」で「誰でも障害者になり得る」という。
身体能力は誰でも衰えるし、若いうちから視力が落ちることも多い。
だが視力の低下が軽度であれば「目が不自由」とは言わないと思う。
もっぱら「目が悪い」と称されるが、これは不愉快ではないのか。
軽度なら「悪い」と言い、重度なら「不自由」と呼び分ける。
これを偽善でなくて何と言うのだ？
Re: (スコア:0)
辞書を引くと「悪い」に「能力的に劣っている」の意味があり、例に 頭が悪い、出来が悪い、物覚えが悪い がある
不自由というのは「自由にできない」ということだから、「悪い」から単純に言い換えられるかどうか
たとえば足だって、杖を突いたり車を押して歩いているのか、車いすに乗っているのかで
「足が悪い」「足が不自由」のどちらになるかは変わってくると思う
これはいいネタになる (スコア:0)
動画はエレベーターが開く前からだから、立ち往生の様子がネタになると撮ってたら運よく（＝いいネタになるという意味で運よく）身体が不自由な人が来たというとこか。
普通だったら「スタックしてるｗｗはいはい、邪魔だよー」ってどかして終わった話かな。
Re:身長130センチ (スコア:2)
しんどくても大人が押せば動く、ぐらいならいいんじゃないですかね
クラッチかなんか付けて…
ドラえもんのしっぽみたいな緊急停止装置とか?