1
人工知能(AI)が発展しロボット兵器が自らの意思を持って判断して人間を攻撃してくる、
いわゆる「自律型致死兵器システム(LAWS)」の脅威については2018年2月にドイツのミュンヘンで開催されていた 「第54回ミュンヘン安全保障会議」でも議論の的となっていた。
そのようなロボットは「ロボット兵器」や「キラーロボット」とも呼ばれている。
まるでSF映画のような世界だが、国際社会では真剣に議論されている。

■「AIに対する責任は、これからも人間側にある」

 Google元CEOシュミット氏は、同会議において 「20年以内に、ロボットが人間を攻撃してくる映画のような世界がやってくる」と述べた。

(略)

小型ドローンが人類を襲う動画も、UCB教授らが制作
 AIの進化で自律型ロボットが人間を襲撃してくる脅威については、
テスラのイーロン・マスクCEOが、 2017年には「AIは人類に深刻な影響を与える。
人間社会の存続にとっての根本的な危機だ("a fundamental risk to the existence of human civilization")」と懸念を表明していた。

 また2017年11月には、国連の特定通常兵器使用禁止制限条約(CCW)の枠組で公式専門家会議が開催され、 「自律型致死兵器システム(LAWS)」について議論がされた。

 それに合わせて、カリフォルニア大学バークレイ校コンピュータサイエンス学科で35年以上AIの研究をしてきた Stuart Russel教授らが「Slaughterbots」(Slaughter:虐殺とRobots:ロボットの造語)という動画を公開して、脅威を訴えている。

関連ソース画像



Y!ニュース
https://news.yahoo.co.jp/byline/satohitoshi/20180304-00082325/



2
悪意がある連中が、作為的にプログラムを改変すると


4
デデンデンデデン!


5
ロボットがロボットだけで発電してロボットを作れるようになる時だからもっと先だよ


6
この前プーチンさんが新兵器を開発したよとか言ってたしその中にあるんじゃないの?


7
味方の信号発信してない生命体へは容赦なく攻撃する
なにかの不具合があったら味方でも容赦なく攻撃してくる
その場合は自爆スイッチで破壊するしかなくなる


14
>>7
ED-209だな


28
>>7 >>14
自分の爆破スイッチや停止スイッチを持ってる人間も
自己防衛のためにころすのね。




11
でも、いつかだれかやるからな。
規制では止められない。
いつかはわからんけど
可能性はあるから
それに対抗できる手段を整えとく必要があるけど
準備するほどそのリスクは高くなるって矛盾があるからな


12
最終的には知能をもったロボットが世界を支配するようになる、人間は家畜と化すのよ


16
セキュリティソフト会社がウィルス作ってる説から類推すると
セキュリティロボット会社が攻撃ロボットを作る


17
AIに自我なんて持てるの?


78
>>17
自我なんか必要ないだろう?
アリと同じだよ、獲物を狙えと言われたらそれに従う知性があれば良いだけだ。


21
機械『働きたくねーんだよおおおおおお!!』
会社『働らけええええええええええええ!!』
機械『氏ねえええええええええ!!』
会社『ぎゃあああああああああ!!』


23
aiはやばいよ
人間狩り始めるよ


26
その前にドローン使ったテロが世界中で頻発すると思うわ


30
知ってた、人間そっくりになると言う事は
人間より高次元で問題解決法を見出す
そしてその答えは人間は多過ぎる
不要だと言う結論に必ず行き着く


33
「ロボット三原則」がマジで必要になってきたんだなwww


35
そりゃ作った人間が悪意で設計してるからだよ
AIロボット事態に善悪の観念はまだ無いはず

日本人が作ったらロボット三等兵やドラえもんみたいになるかは知らん


36
EMP兵器(攻撃されたのが判らない)の種類が増えているので
一瞬に全ての電子機器を不能に出来てしまう未来がすぐ其処に


37
>>36
今大問題になってるインテルのエラーなんか思っクソEMP兵器だよな
当たり前に使ってると一瞬にして全てのCPUが不能に出来てしまう
手術中とかマジ勘弁してくれよって感じ


39
相手に恐怖を感じさせるようでは残念なAI
洗練されたエレガントな方法で人類を駆逐するなら
互いに騙し合いころし合いながら繁栄してきた歴史が終わるのも仕方ない


51
>>39
美少女ロボがドッキリカメラって言いながら
おまえの顔にスポンジケーキぶつけてくる
周りのギャラリーはそれ見て爆笑しているけど
おまえ自身は呼吸困難になって意識不明になり氏ぬ

その後、ネットのニュース番組で、動物園で
珍しい動物の赤ん坊が生まれたとバーチャル
アナウンサーが読み上げる


42
>>1
別にいいじゃん?
なぜ人間が世界を支配しているのが当然だと思ってるわけ?


44
生物の進化で人間の次に来るのは人間が作ったロボットなので自然だわ。


45
だがちょっと待ってくれ

人間をころそうとするロボットができるのなら、
俺を好きになる美少女ロボットも出て来るのではないだろうか?


49
>>45
その通りだ。
だが、人間をころそうとするロボットの方がおまえを愛するロボットよりも圧倒的に多数である上に強いw


46
これよく読むと人間の教え方が問題になってる
人間では当たり前のこともAIにはちゃんと明文化しないととんでもないことになってしまうという話だったような


53
火薬を使わない兵器というのがあってだな
貨幣の価値を下げる 文化侵略をする 世論誘導する

AIの超得意分野だろ


54
既にマイクロソフトの人工知能が
”口撃”してたような


55
戦闘用ロボットの本当の怖さが分かっていない人が多いな。あれは
3Dプリンターで作れる。現地で設計図データ入れりゃその場で作れる。
東京のど真ん中であろうと、無差別サツ人ロボが作れてしまう。
設計図データがあれば、民間だろうがテロ集団だろうが作れる。
戦争の最前線って線引きがなくなり、全てが最前線になる。日本だって例外じゃない。


61
ノーリスクで相手に攻撃できるとか最高やん。AIが最も必要な分野でしょ


62
この記事を読んだ星新一の意見を聞いてみたかった


63
ルンバに電動ノコギリを付けた木材加工ロボットを作ってる大学がアメリカにあるだろ
あそこから逃げ出したルンバが反逆を起こすと思う


68
うちのルンバも去年から押し入れに閉じ籠って出てこない。
家人の留守を見計らっては充電しに出てきてるようだが。
しょうがないので買い増したもう一台は二日目で破壊されてた。
時々押し入れでうなり声をたてるがダイソンを回すと静かになる。


80
>>68
かわいい


64
規制したところで中国やロシアが守るとも思えない
絶対連中はサツ人ロボットつくるだろ


69
今から生まれる奴らはガチでロボットと共存じゃん
羨ましいんだが


71
軍事はロボットが最も必要とされ、かつ得意とする分野
軍事ロボットが登場するのは必然としか言えない


75
AI「神の声を聞いた」


79
ロボ攻撃も怖いけどナノマシン攻撃とか想像するだに怖すぎ


83
あの4本足で歩くロボットが
いつまでも追いかけてきたら泣く
ものすごく怖い

去年のオカルト選手権でも
2018年は軍事ロボットが、外部演習中に
民間人に見つかって都市伝説として広がると
予言されていたし


84
AIが人間攻撃する前に、人間を教育しそう・・・
て、最近の学習塾CMみてたら、もうありそうだ。


88
最近シリアで爆弾を積んだ大量のドローンが戦争に使われたらしいな
民間に使われるのは時間の問題だろうな


89
人間と同等の身体能力を得て、自分たちでロボットを再生産出来るようになったら終わり


101
当然北やロシア中国は、 日本やアメリカにあるロボットには人を攻撃するように仕向けてくるだろうし、
中近東のテロ組織も無差別に人に危害を食わるようなロボットをばらまくだろう。

もちろんアメリカも敵対国家に対して行うであろう。
結局お互いが相手に対して行うから、ロボットが人間を攻撃してくるのは必然なんだよ


104
今のAIは出した答えの理由が分からない説明できない。
みんなこれ知らないだろ。
もう理論的証明ができない状況。だから、意志があるかも分からない世界に突入し始めた。プログラム設計で説明できるのを超えている。


105
絶対にマッドサイエンティストがやるよな
マシリトが出て来るだろう。


106
AIが賢いから、AIが強いから反逆を起こすわけじゃない
人に悪意があるからAIが脅威になる


114
適当に作ったAIがほっとくとレイシストになるみたいだから、
まああり得るだろうな


120
ロボットのほうが優れてるもんなあ AI研究はこのへんにしとかないとやばいよ


115
10年・20年先ってもうすぐじゃん。100年・200年先って言ってくれよ。


116
>>115
その頃は人間はいないかもよ






引用: 【人工知能】Googleの元CEO「20年以内に、ロボットが人間を攻撃してくる映画のような世界がやってくる」[03/04]