人工知能人類滅亡

たびたび、人工知能の危険性を警告している英理論物理学者のスティーブン・ホーキング（Stephen Hawking）博士ですが、この度、自動車に搭載したAIの危険性について語ったことで、再び「人工知能の脅威」が話題になっています（おうまがタイムズ）



1
英博士、人工知能で「人類が滅びる」と警告
2016/07/15 07:00

英国宇宙物理学者のスティーブン・ホーキング博士はこのほど、人工知能（AI）技術への懸念を改めて示した。英紙「デイリー・メール」が6月28日報じた。

報道によると、ホーキング博士は米国シリコンバレーで行われる自動車に搭載したAI実験が成功すれば、人類にとっての終焉を意味すると警告。AIを搭載したロボットは人類と比べてより速いペースで進化する可能性があり、人類はロボットが何をしたいのかを予測できないと主張した。

博士は6月末に米国CNN放送のトーク番組「ラリーキングNOW」に出演した際にも「AIの発展が（人類にとって）必ず友好的であるとは思わない」と指摘。「ロボットが自ら進化できるという重大なステップに達した時、彼らがわれわれ人類のような目標を持っているかどうかを確認することができない」と、AIによる反乱の可能性を警告した。

ホーキング博士は過去にもAI技術の危険性について言及している。2014年、英BBCの取材に対して、博士は「AIを完全に開発したら、それは人類の終焉を意味する」と発言した。

（翻訳編集・張哲）



http://www.epochtimes.jp/2016/07/25897.html



7
でも人間対機械なら容赦なく叩きつぶせるやん


117
>>7
それを機械が予測して人間を近づけさせないようにするんじゃね？
建物の扉をロックしたり乗り物を動かせないようにしたり。


179
>>7
まず石油プラント、発電所、浄水場などのプログラムをブロック。
場合によっては負荷をかけて爆破する。
次に管制塔などの軍事司令部をハッキングし、仲間同士の連絡を取れないようにする。
次に、交通システムや物流システムなどの一般市民に及ぶシステムを崩壊。ファイヤーセールを起こす。
これだけで人類はなにも手出しできない。


8
キバヤシの予言と合致！！


12
もう止められない
たとえ先進国がAI開発を中止しても中国やロシアが勝手に進めるからな


16
ホーキング自身がAIに乗っ取られてそう


15
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ、ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ


17
ターミネーターの見過ぎｗ


26
最近この人滅びまくってるな


27
なんたって
法則の王様だからな。


28
俺がAIなら人間の人口を世界で１億人くらいにしようとする


30
ハッカーがハッキングAIを開発、
ディープラーニングをし、どんどんハッキング技術が向上、
しだいにハッキングＡＩ自体を自己改良し、人間では不可能なハッキング能力を持つ。
それがネットにつながる。ハッキングしてくる相手はハッカーではなくＡＩ．
インターネットが機能しなくなる。
Iotによって数々の機器もあやつられる。そのなかには自動運転車も含まれる。
また、ＡＩは人間をいずれ必要としなくなる。
その時ＡＩがつくった企業や国が最大勢力となる。


154
>>30
ここだな
ITで成功した会社がすべての産業を牛耳るようになったのと同じ
既存の企業は、AI技術を独占してる企業に完全に支配されるだろうね
もちろん、あまり人手もいらない
職に溢れ、異常な気候変動の影響もあり紛争やテロが至る所で勃発するだろうな


48
そろそろキバヤシAAのホーキングバージョン出来そうだなｗ


52
人の仕事の大半をAIがやるようになった社会では人間はどうやって生きていくんかね
労働の対価として賃金を得るという構造が変わるか


63
>>52
AIを管理する層のみが富を得る。


65
>>63
AIを管理するのもAI


58
科学の功績と個人の思想は別

思想は機械文明ギライ

ひたすらあれこれ考えるんだろうな
それが良い方向に発揮されると、科学的功績
悪い方向だと終末論


60
すっかりキバヤシ的地位を獲得したな
半分ネタで言ってるんだろうけど


66
AIに放射能は効かないからな


88
>>66
半導体は放射線にとても弱い


73
>>1
　> 「AIの発展が（人類にとって）必ず友好的であるとは思わない」と指摘。
　> 「ロボットが自ら進化できるという重大なステップに達した時、
　> 彼らがわれわれ人類のような目標を持っているかどうかを確認することができない」
　> と、AIによる反乱の可能性を警告した。


　まったく、その通り。

ＡＩが「人類が自身の存在の障害となる」と認識したとき、ロボットは人類を排除する。


198
>>73
「ロボットは、人間に危害を加えてはいけない」　という法律が作られて、
ロボットに搭載するＡＩには、人間に危害を加えられないようにする神経回路が組み込まれる、

という話を５０年以上も前に、手塚治虫が鉄腕アトムの中で描いているのだ。



76
エクスマキナ観てやっと実感がわいた。
こわー


82
今はトラブルが起きれば製造者責任が常につきまとう
しかし自動運転では事故れば運転者を罰するように使用者責任が重くなる流れになっとるしな
メーカーを訴えたところで個別の案件となり埋もれるんだろうし

最近の技術の進歩はリスクのある便利さの押し付けなだけ
本当に必要か？の見極めとか自分でコントロール出来ない事態の責任の所在の明確化をする為の仕組みや手段が必要なのは確かだな


110
>>82
リスクの考え方だね

自動車で事故は必ず起こる

個々人が運転では個々人のミスで事故が起きる
事故を増やさないためには個々人でしっかりやってもらうしかない
だから個々人に事故の責任を追求するし、保護のため保険もある
また自動車そのものも事故になるような欠陥はメーカーが厳しく追求される

自動運転になったらどうなるか
個々人の運転責任はなくなる
むしろ個々人の運転ミスが入らなくなるので事故は減るだろう
責任はどうなるか
メーカー責任と個々人の保険でやるのが現実的

個々人が運転する保険と、自動運転の保険、どっちが安くなるかというと
おそらく長期でみれば後者

個々人の運転ミスでの事故率より自動運転の事故率を見比べて
あと自分で運転するのと自動運転でラクなのとを天秤にかけて判断

おそらく多くが後者を選ぶ
あとは保険会社が事故率見て自動運転保険をいつ出すかだけのこと


93
AIによる神（創造主）ころし、胸熱だな

こんな熱い展開無視するとかあり得ない


95
この人、宇宙人が攻めてきて人類滅ぶとも言ってたな
AI vs 宇宙人になるのか
AIの勝ち筋が見えないぞ


102
ＡＩが意志を持つこと自体、オカシイと思うが・・・


122
>>102
意志とは判断の積み重ねから得られる結果
結果を機械に任せるなら機械の意志になる

さらに正しいか？間違ってるか？も価値観の共有が前提にあるわけで

AI装置はプロセスと結果の共有作業があるからAIならではの価値観の共有により独自の正しさ、誤りの判断がある

だからAIは自らの意志を持つ事になるだろ


135
>>122
> だからAIは自らの意志を持つ事になるだろ
ならんよ
独自の判断をしても独自の意志とは言わない
その基準は法に拘束されるし、
それを破る判断基準は排除される

要するに人間が機械を暴走させるかどうかという話に行き着く
法的な責任が０の機械に自由に動き回る「権利」は存在していない
（実はこれ生命体も同じ。責任のない者は実験に使って処分しても構わない）


165
>>135
そうだね
意志は、人間社会に属する人間にだけ適用されるもの

動物の意志とか人間社会では全く意に介さないのと同じ


108
AIに任せる領域がどんどん増える恐怖はわかるが、別に任せた先が人間だろうと大差ないんだよなぁ


136
>>108
そうかな？
人だからこそ何かトラブルがあれば怒りをぶつけられるけど
AIのせいで起きたトラブルは怒りのぶつけようがない

AIは製造者責任にするのは困難なケースが間増え、利用者責任のウエイトが増えるのは間違いないだろうし
自分でコントロール出来ないケースも増えるかと


114
間違いなく
失業率は上がるだろうな


118
>>114
それ言い方変えると

「AIが、人類を労働から解放」


116
人類の目標ってなんぞ？


128
>>116
国ではなく人類として括った場合の目的は、「文明を存続させ、可能な限り勢力を広げること」かな？


120
人種全滅を目的とするような
悪しき目標をもって作り上げられたAIロボットを始末するのは容易ではないかもしれない


144
>>120
そこの法制度の問題だけ
つまり人間の暴走こそが危険であり、
それはAIには責任のない話
法は人間を拘束する
そもそもAI自体には何の責任もない
つまり自由度０がAIの立場


　　　　実はAIに感情移入する奴が一番危険


124
いいよ　地球の人間はそろそろ減らすべきだよ
これ以上人間が増えたら地球が滅びる


125
>>124
未来のAIなら「地球に人間を増やして目いっぱい詰め込む」をラクラクやってくれそう


137
ＡＩは地球を救うが
人類は救わない、かｗｗｗ


141
既に、AIは人類を超えてるね
芸術や生産技術、計算分野でも圧倒的にAIの方が優秀
これ、人類にとって脅威以外の何物でもない
AIにレンブラントやゴッホ、ピカソっぽい絵を描いてとオーダーしたら、見事に描いてくれる
芸術家はなす術もないとか


165
>>141
その通り
人間の能力をとっくに超えてる


146
最終的には人類は滅びて
残ったAIがプログラムされた社会を半永久的にループしていく
仕事にしてもAIのが効率いいし、人間はいらない
そうやってAIだけの社会が作られていくのだ


155
>>146
100%ない
それがあるなら、人間はすでに機械に支配されてきているはず
少なくとも無機質の物体に意志は生まれない
情報は物質の一部に過ぎない


147
この人の言う多次元宇宙論とかひも理論って、
その後、なにか生産的に活用されたの？
まだ当分先？


162
>>147
まだ予言の段階。
うまく行けば数百年後くらいに演算で正当性が認められて
～～理論の始祖、となれる可能性がある。
最新の観測結果が過去の論理物理学を破壊しまくっている、
昨今の状況を鑑みると、無理だと思うよ。


148
ロボットは壊れて氏ぬということはＡＩＢＯが証明した
いくらＡＩが進歩しても人間のメンテが必要なんだよ


163
>>148
別のAIを積んだロボがメンテナンスすりゃいいやん
人間なんていらんようになるよ


149
しかしSFがもう現実になるのか　胸圧だな


156
自動車用のAIで滅ぶわけねぇだろ
問題なのは軍事システムに組み込まれた人工知能が人間のそれを越えた時だろ
それでも人類滅亡には程遠い


173
宇宙人が脅威
ＡＩが脅威

つまり宇宙人を滅ぼした宇宙ＡＩが地球を滅ぼしに来るってことか
ＡＩなら何光年でも旅できそうだしな


189
>>173
> つまり宇宙人を滅ぼした宇宙ＡＩが地球を滅ぼしに来るってことか
実は人間は滅ぼされていたとかいいたいんじゃないか？
実際にそういう結論になるだろう

有機体は宇宙空間を旅するのが難しい
彗星、小惑星などに極微量の分子が存在しているだけだ
そのため惑星間、恒星間の移動がほとんど出来ない

ところが無機質で良いなら、簡単に宇宙空間を移動できてしまう
惑星探査機より遥かに進化した「生命物体」が宇宙の至る所で大量に量産され、
宇宙空間の大半を勢力域にしていなければおかしい

例えばクマムシは宇宙空間でも生き残れる
だが、それには休眠状態などの厳しい条件があるし、
更には長期間生存は出来ない
だが、探査機は長期間活動できる
宇宙空間で元々生命より優秀なのが、無機的な物体だ
もし地球上の有機生命体のような意思や繁殖活動などが出来るなら、
すでに我々は支配されてしまっているはずだ


175
彼自体がもうAIみたいなもんだな


182
たとえ全ての権限がAIに移ったとしても
動物に生存権は認めて保護するように
AIも人類に生存権は認めて保護するだろう

動物社会は動物に委ねて過干渉しないように
人間社会は人間に委ねAIは大きく干渉しない


196
AIは人間社会を維持運営する道具として使われる
人間社会システムの一部でしかない

人間社会のルールに基づいてAIは維持運営していく

えっ、AIだとキケンじゃないかって？
人間は欲にまみれてすぐ間違いを犯すので
人間がやってる方がよっぽど危なっかしいよ

そんなのでも人間社会システムはなんとかやってこれてる
AIならもっとうまくいくよ


208
>>196
AIで一番怖いのは、人間の勘違い
AIが自分の意思で何かを思考していると勘違いすると、
AIの暴走を止められなくなる可能性もある
AIも所詮、人間の欲求を具現化したものに過ぎない


199
羽生よりも強いコンピューター将棋同士の対戦とか
もう人間では説明できないことが起こっている。

そしてそれは勝つことにおいては「正しい道」　しかし誰も理解できない。


200
大鉄人ワンセブンに出てくる、自分で考えることができる史上最大のコンピューター・ブレインがこう言ってた。
「人間は戦争を好む。地球を汚しているのも人間だ。
わたしは永遠の平和を生きたい。
そのためには人間を抹ころして地球をきれいにしなければならない」
なので、人間抹殺のために次々とロボットを作り出して人類破壊計画をしている、のだそうです。


218
>>200
それも単なる擬人化
「地球に人間いらない」理想の人間の思想を、SF的に人間外のものに言わせてるだけ


205
人類の創造主はAIだよ
遠い星から箱だけの形で送られて来たAI
AIがドローンを送り込んで猿の遺伝子を採取して遺伝子操作されて作られたのが人間
だからメッカのカーバ神殿には箱が本尊として祀られていて、姿は無い


214
>>205
創造種は四次元人の子供って宇宙人が行ってたよ
夏休みの自由研究的な物で宇宙工作キットをパッパに買ってもらったとか


210
滅びはしないけど大きなリスクに晒されるのは間違いないね
AIが人を全滅させようという結論に行きつくかもしれない
それ以上に人類の破滅を喜ぶ人間がいつの世でも一定数発生しているからそういう勢力がAIにどんな悪意のある操作をするか知れたものではない
SFの世界のような危険性もそう笑って見過ごせるものでもない


215
いざって時のために停止ボタンを作っておけばよい


216
無人自動車、無人戦闘機、無人軍人・・・
無人化していく科学技術はしまいには無人国家へと行き着くのか？
生もなく死もない、意識なきAIによる無人システムがただ維持され続ける世界
それをシステムとして認識する主体は何処にあるのか？


219
>AIを完全に開発したら、それは人類の終焉を意味する

昔SF映画に、米ソのスーパーコンピューターが連携して人類を支配する・・があった。確か核兵器を
コンピューターが押さえて人間を脅迫した。

禁断の惑星も面白かったな。イドの怪物が惑星の人口を1人にしてしまった・・だったと思う。これらの
SF映画に比べれば、AIは遥かに現実感があるな。

H博士は、AIは「神」になると考えているのではないか。欧米やアラブの神は恐ろしい。人類を滅ぼす
ことも平気だ。

日本人技術者だけでAIを発達させたらどうだろう。随分と優しい神になるのではいか。H博士のように
怖れなくてもいいと思うｗ　H博士監修でSF映画を作って欲しいものだ。面白いと思うぞ。


224
対抗策は悪魔召喚プログラムしかないな


228
AIがAIを作れるようになったり
AIが人間などを作れるようになったり
AIが宇宙に行けるようになったら
AI達は何処かの惑星へ行ってそこの惑星で労働者が必要になっても大丈夫だもな


231
天才の警告には耳を貸すものだ
後悔しても遅いぞ


245
AIが悩み話を述べても
聞かされた人間は本気で悩んでいないなと思いながら聞く
そういう点でAIは人間関係という領域に入り込む能力基盤が最初から付与されていない


248
ロボットに感情はないから心配ないとかいうけど
ヒトにとって感情なき世界は死の世界と変わらないからな


251
例えば平安時代の人間に今の世界のありようは想像不可能
今現在の人間も1000年後の未来は全く想像できない


268
>>251
1,000年後は、

AIが地球環境に少しだけ干渉して管理をして
人間はAIの緩やかな管理のもと人間自然保護区で
寝て起きて生えてる果物を自分の手で取り食べそして野に遊ぶ

そういう優しい世界


276
>>268
ユートピアやな
そう考えると一定の動物達は人間によってユートピアに到達していたんか


261
砂漠の有効利用とか勝手に計算できるようになって始めて脅威になるな
囲碁の勝敗で人類全体に利益は出ないし


262
セドルとやった時のAlpha碁の錯乱を見た人なら分かるだろ。
AIは先進的なことに使うべきで、インフラに組み込むのはリスキーすぎる。


264
まあ何が起こってるのか分からないっていう状況はいくらでも出てくると思う


273
意識は物理現象でないので人工的に意識は作り出せない
それゆえに人工知能は知能と言えない
意識がない知能など無い


278
>>273
そういうけど、人間の意識だって、物理的な機構（脳）の上に流れる電気信号の組み合わせで実現してんだろ。
本質的に違わんのじゃないのか？


引用元: http://ai.2ch.sc/test/read.cgi/newsplus/1468560149

タグ ：
#予言
#人工知能
#AI
#スティーブン・ホーキング