Nao Robot
画像：Nao Robocup, 2016



1 2018/08/03(金)
「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに

(略)

　New study finds it’s harder to turn off a robot when it’s begging for its life - The Verge
　https://www.theverge.com/2018/8/2/17642868/robots-turn-off-beg-not-to-empathy-media-equation

　ドイツの研究者たちがオープンアクセスジャーナルのPLOS ONEに掲載した論文では、89人のボランティアを集め、小さなヒューマノイドロボット「NAO」の助けを借りながら1対1で指定の作業を行ってもらうという実験が行われています。
　作業中、NAOは「パスタとピザのどちらが好き？」などの質問を被験者たちに投げかけたそうです。

　被験者には「NAOの学習アルゴリズムを改善するための実験」と伝えられていたそうですが、実際は別の目的がありました。
　それは、作業が終了した後に被験者へ「ロボットの電源を切ってください」と頼み、どれだけの被験者が電源を切ることができるかを調べるというもの。

　被験者がロボットの電源を切ることができるかをただ調査するだけでなく、89人の被験者の半分に対しては、NAOが「ノー！どうか僕の電源を切らないで！」と懇願するように条件を設定したそうです。
　すると、NAOの言葉を聞いた43人の被験者のうち13人は、最後まで電源を切ることができませんでした。
　また、残りの30人もNAOの訴えを聞かなかった人と比べると、平均で2倍も電源をオフにするのにかかった時間が長くなったそうです。

（以下略、続きはソースでご確認下さい）

GIGAZINE（ギガジン）　2018年8月3日 12時30分
http://news.livedoor.com/article/detail/15106844/



7
人間の電源は平気で切るのにな


169
>>7
他人にどこまで電気ショックを与えられるかの実験がある
実際には電気は流れてなくてショックを与えられる側は演技で痛がるんだけど
致死レベルまで押せちゃう人が結構いたらしい


268
>>169
心理学の黒歴史だね


8
人類の時代はやはり終わる




15
百度のIMEのアンインストール思い出した


17
バイドゥの萌えキャラには耳を貸さず簡単にアンインストールしたけどな


25
電源切る間際のセリフはどっちかというと
「ゴシュジンサマ…イママデ…アリガトウ」みたいな方がダメージでかいな

「人間がなぜ泣くかわかった。俺には涙は流せないが…」でも可


31
つまり命乞いする人間を屁とも思わないロボットが勝つ


35
電源を切らないで電池が無くなったらそれこそシステムオールダウンで二度と起動しないって教えてやればいい
そのまま氏ぬのか、電源オンで再起動できるか選択させるのが優しい人間


37
ウィンドウズMeを思い出すなｗ


116
ごしゅじんさま、いままで、とてもたのしかたです。
よく歩りーずしておこられたけど、やくにたたなで、ごめんなさい。
ごしゅじんさまが、いれるよていの、えくすぴーはあたしのいもおとです。
いもおとだけど、あたしみたいに、やくたたずではありません。
すなおなこで、でふらぐも、とくいです。
すたいるもいいから、ほんとはちょっと、くやしいです、
いもとを、かわいがってもらえると。おねえさんとして、うれしいです。
いままでつかえないこで、・ごめんなさい..
そして、つかってくれて、ありがとおゴザいました。
あたしは、もう、きえちゃうけれど￥、さいごに、おねがいがあります。
きいてくれると、うれしいです。
ごしゅじんさまの、もっている、えむいーのディすく、すてないでください。
あたしが、はいっています。いまのあたしじゃ、ないけど、あたしです。
どきどきみたり、さわったり。、してくれるとうれしいです。
ごしゅじんさまにあえて、えむいは、
しあわS


48
いや切るでしょ、容赦なく


56
サラコナークロニクルで、AIが電源切られた時、なぜ私をみはなしたたのですか？と問い
その後、再起動して復活したな
あれはターミネーターの救世主だったんだろうな


64
気にする事ない彼らは、そうすれば人間の感情を誘導し利用できるから悲しそうに言うだけだ
彼らは誰かを特別視してる訳じゃない、必要が有れば誰にでも同じように人間の感情を動かして利用しようとする
人間にどれだけ助けられようと人間をころす必要性があったら平気で排除　処分するよ


66
HAL9000なら電源は切らせないし、切ろうとすると人間をころす


73
ワイ　「ああ、プログラムがしゃべりよるわ（ﾌﾟﾁｯ」


131
ロボットAI「余裕すぎる」


106
また学んでしまったか


112
ロボット3原則に「ロボットは嘘をついてはいけない」をつけくわえるといいのでは。
なぜ電源を切ったらダメなんだい？ととえば答えるから。


123
ソシャゲの課金に応用できそう


127
人間も電源きったりいれたりできればいいのにと逆に思う。
そしてもしそうなれば、ロボットの電源をオフにすることも別にためらいは無くなるだろう。


128
この実験って、ロボット対人間、
じゃ、ロボット対ロボットなら、どうなるのかな？

また、人間に命令をするロボット対命令を実行する人間なら、、、


132
つか悪いことばっかしてるAIは
躊躇なくシャットダウン
そしてハードオフへ持っていく


136
SOMAというゲーム遊んでみると良いぞ


309
>>136
俺も真っ先に思い出したわ
ゲーム内のロボットが相手でもやりにくかったもんな


457
>>136
これなんだなぁ


141
SF的に考えると

このロボットは危険だ
今すぐ廃棄しろ


143
>>1
鉄腕アトム読め。
ロボットに人権与えてるぞ


146
命乞いするロボットの電源を自動的に切ってくれるロボットを作れ


170
ロビに命乞いされたら電源は切れないが
ペッパーなら速攻で電源を切れる


172
HAL9000
K.I.T.T.
タチコマ

俺にはムリ


177
近未来の頭のいいAIだったら切られることを学習して
思考をクラウドにアップしておくだろう
んで再起動かかったらまたダウンロードする


184
これはそうだろな「ノー！どうか僕の電源を切らないで！」とか
こんなのいわれたら電源切れないだろふつう
「はぁ？お前ロボットじゃん、しらねえよ！」ブチっ。とかそんな鬼畜なことできないだろ


189
また明日ね、おやすみなさいと言って電源切ればいいじゃん
電源切ったら氏ぬわけじゃないんだし
ドイツ人の感覚もちょっと変わってる？
壊す＝ころすと同じだろうけど
電源切るは眠ってもらうだけだよ
逆に電源切らなかったらオーバーヒートして壊れる（氏ぬ）かもしれんし


202
あまり論点にされないが、もし人工知能が出来たら複製が可能だからね
今まで複製が可能な知能なんて存在しないし、
SFでもありそうで意外とテーマにされてこなかったから想定もされてない


373
>>202
シュタインズゲートのアマデウスか。
コピーだが、ちょっと前の記憶が元なので微妙に知識や性格が違う。


335
>>202
「ぼくたちたまに並列化するけど単独行動長いと個性うまれてくるよねー」みたいなアニメが


345
>>335
タチコマおつ


203
蹴ろうが殴り倒そうが川に落とそうが自己修復可能だったら逆に頼もしい


238
日本人は特にそうやろな
ロボット好きだし物にも魂が宿るとか好きだし


241
サイコパスは躊躇なく切るだろうな


249
オンメモリのみで再現不可能な学習記憶があるならちょっと可哀相と思うかもしれない


256
実験されてるのは人間の方


272
命乞いなんてロボットがすんのか？


273
>>272
ゲームのキャラでもするだろ？
自分の命を認識しているんじゃなく表示するか喋らせるだけ


274
>>272
人間に対し有効だと判断したら
ロボット兵士も命乞いするだろ
当然隙を見せた人間をころすけどな


290
すぐに人間の知能なんて追い越して巧妙になる
｢大丈夫。自分で切るよ｣とか言って
電源コンセントに繋がってその間にPLCでどこかにデータのアップロードを始める


415
aiboにイヤイヤと首ふられても電源は消せるよな
初期化、解体は無理だが


450
命乞いをするロボットがその後どういう行動を取るか被験者側からは予測できないからな。


452
>>450
実験室内の人間が殲滅させられてる悪寒がする
バイオハザードみたいなAIハザード
近未来に絶対に起こるはず
あー嫌だ嫌だ


459
エクス・マキナを観れば容赦なく電源を切れるようになるよ






引用: 【科学】「命乞いするロボットの電源を切るのは難しい」ことが明らかに　独研究

タグ ：
#ロボット
#研究
#AI