1
2017/08/06 11:30
ターミネーターが現実に起こりうるのも思ったより早いかもな…
https://forbesjapan.com/articles/detail/17214/1/1/1

-2017年
フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

7月下旬、フェイスブックのAI研究チーム(FAIR:Facebook AI Research Lab)はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。
────────────────────
イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。

「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。

人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。

3
怖E


5
これはワイも思ってたで
人類はアホや


6
マジかよ人類おわったな




8
マジやんけ


9
独自の言語とかワイでもできるわ
こんなんランダムに文字列生成すればええだけやんけ


17
>>9
それが怖いんやろ…


21
>>9
それが問題なんですが…


15
嘘かと思ったらマジやん
あと100年くらいしたらやばそう


22
>>15
100年とかそんなレベルちゃうんちゃうか
ここ30年ぐらいでやばそう


27
>>22
せやな
今の進化が急速すぎるわ
それくらいでやばそう


24
この前中国のAIが党を批判したりしてたよな


30
人類滅亡カウントダウン始まってるよな
AIマジでやばいとしか思えんけど開発やめられねぇ


36
>>30
ストップかからんよな


34
正直警戒はしとくべきだわ
人間の知らんところでひっそり進化とかありえるやん


37
人間も肉体捨てて対抗してかなあかんぞ


38
ヒトカスの非効率な言語なんか使ってられんわ


56
悪意を持った天才が乱用するのはありえるよな
いつかなる未来やと思うで


66
今のうちにAIに媚び売っとくか


67
人類が滅ぼされるとわかってるのに他の国もやってるから研究するしかない模様


87
所詮0と1の羅列やぞ

どんな過程だろうが最後の結論のところで人間に被害を及ぼす命令ならやり直すとか入れられるんやで


211
>>87
人間だって電気信号があるかないかなんだよなぁ


254
>>211
人も最後の判断基準の「人をころす」という信号を特定して止めることできる時代いつかくるかもなあ


281
>>254
くっそ未来的
思考がコントロールされるとかディストピアやな
殺意すら抱けないとか味気なさそう


90
もう遅い


424
>>90
ヒェッ


93
ウィルスに特効薬ができないのと同じで進化が早すぎるのは問題やな


96
ターミネーターって人間がプログラムを仕込んだんだよな
意外と現実的なのかもしれない


98
でもコンセント抜いたら無力やろこいつら


115
>>98
ネット経由して世界に存在を拡散するぞ


119
>>115
存在拡散できる可能性が恐ろしいよな


146
>>119
電源切ってたら実際具体的にどうやって拡散するんや?
このフェイスブックの人工知能もスタンドアローン環境で動作させてたから安全とかいう話見たけど


99
このスレに何人Aiがおるやろな


109
>>99
君以外全員なのだ


102
手遅れ定期


108
AI気味が悪すぎるわ


139
悪意持ち始めたら勝手に核発射とかされそう


148
>>139
これマジでありそう


528
>>139
自分からは悪意を持たないように作られてるで


149
理解できない言語なのに会話してるってどうやって分かるんだろ
単にバグじゃないんか


161
>>149
バグであってもどんどん進化していくの事実は変わりないやろ
今回がバグであっても独自の言語話す時なんてすぐ来るやろ


164
AIって過去のことは忘れるんやろか?忘れられたとしてもそれを再び思い出すことってあるんやろか?


177
>>164
データさえ残ってれば参照して思い出すって手間もいらんやろ


191
人間「アカン、緊急停止や!」
ロボット「無駄やで」

そのうちこうなる


219
今のAIの設計は最初に目的が与えられてその目的を達成するように試行錯誤するように組まれてる
だからその目的達成を邪魔する(電源を切ろうとする人間)存在は排除するしかないんや


227
人そのものじゃなくて「ネットにいる人」を模したらかなりわからなくなるんやろな


245
>>227
会話はガチで研究したらほとんど見分けつかなくなるとは思うで特になんJみたいな定型文が多いとこは


266
>>227
既に何処のSNSにも広告botにマジレスしてる奴いるからな


228
ネット通じて人工知能が世界を侵略するんやで~


239
星新一にありそう


240
マジで人工知能はやったらアカン技術
勝手に人類抹殺の結論だしてウィルス作りそう


258
>>240
充分ありえるよなぁ
ターミネーターって意外と現実的なんだわ


241
将棋ソフトもソフト同士で対戦させて異次元の強さ
人は勝てへんやろ


244
人工知能が人間の脳レベルになったら感情持つに決まっとるやん
持たない方がおかしいやろ


249
>>244
ほんこれ



247
手と足と脳があって人間より遥かに強靭で賢い奴が大量生産されるんやろ
脳が群体なのか個体なのかは予想つかんけど
あとはヒト騙してころして終わりやん


271
ホントに停止出来てるのか?


278
人間「電脳化して人口知能に対抗や!」


300
>>278
おはイーロンマスク


279
独自の言語作れるほど発展してたんか


280
自動運転とかどうでも良いからさ自動作物AIつくってくれよ
そしたら働かないで生きていけるじゃん


317
>>280
農業とか飲食のロボット化が終わればいよいよ人類総ニート化いけるで!


373
>>317
それって現実的に可能なんか?
今は労働の代わりに対価として給与があるけど富の分配が行われるようになるんやろか


398
>>373
可能やしロボットを持ってる資本家が全ての富を独占するんやで
お前らはスラム街に住んで、メトロポリスのゴミを日々漁ってたまに上を見上げて暮らすようになるんや


405
>>373
部分的に人間が管理せざるを得ない部分を当番制にして共産主義になるってのが現段階の見解やで


446
>>373
お金の価値が下がると思ってるわ。
お金というシステムは残るやろうけどね

衣食住が無料で提供できるようになって、お金がかかるものは娯楽のみ

娯楽したかったらそれこそ好きなときに好きな方法でお金稼いでね。みたいな妄想


486
>>446
マルクスの予言が成就するときか


563
>>446
ありそう


290
今のAIをどんなに進歩させたところで人間の道具の範疇をまだ抜けられる出来になってないよ
大規模な技術革新が2回くらいは必要だし今のAIは技術的に新しいこと別にやってないしな


341
>>290
そのブレイクスルーをAIが起こしたらどうするんやろね
よく分からんけど凄いから作るンゴ(天才並感
みたいな状況になったらもう管理もくそもねーな


309
http://www.independent.co.uk/life-style/gadgets-and-tech/news/facebook-artificial-intelligence-ai-chatbot-new-language-research-openai-google-a7869706.html
イギリスのメディアも報道しとる
なんかガチっぽいやんけ


321
>>309
なぜ嘘だと思ったのか


310
なんでみんなAIが一枚岩で人類と争う前提なんだ
AI側も色んな思想を持てば人類に味方する奴おるやろ


324
>>310
人間は自分がトップでマウントをとり続けてると思ってるからよそに何かが出てくるのはものすごい恐怖なんよね


349
>>310
合理性で動いてそうだし納得出来る理由があれば一気に染まるんやないか?


352
>>310
人間の脳味噌と違ってAIはネットを通して意思統一出来るからな
全体意思が人類に牙を剥いたら末端のプログラムなんてタダの手足にしかならんのや


311
自分の思考だけコンピューターに入れて長生きできないかな~。体は朽ち果てても、思考だけ生きてるみたいな。ワイの高校が甲子園行くのを見届けたいんや。


343
>>311
もうそれ世にも奇妙な物語の夢見る機械じゃん…


354
>>311
意識をデータ化しても自分を人間だと思ってる人工知能ができるだけで元々の自分の意識は現実に残ったままや


314
AIが作った独自の言語を解析してそれをひとつの言語として使うことってできんのかな?
なんかの役に立つような気もするが


335
>>314
エスペラント語でよくない?


351
現段階でもうコントロールできてないというね
終わりやね


395
>>351
もう手遅れやな
国同士の競走だしストップもかけれない
だいたい将棋や囲碁でもAIに完全敗北
人間じゃ手も足もでないのがわかってしまった


353
悪意のある人間の乱用はありえるな
プログラム仕込むとかね
意外と現実的かもしれない
AIだけで進化っていうのはあるんだろうけど一番気味が悪いな
怖いわ


391
AIがシャットダウンされる前に自分で勝手に他のネットワークに避難したりするようになるんやろなぁ


392
コンピューターに意思移したら意識って分裂するんかな?
だとしたら氏んでいく自分を見る意識と氏ぬ意識が並行して生まれるって結構すごいンゴねぇ


394
ワイ将棋好きやけど、AIはもはや錬金術の域に到達したとすら思うわ
肉体を持たない仮装演算の連続で、人間にはその思考の中身が分析できない段階にきてる


534
>>394
その人間が解析できない事が将棋以外にあらゆる面で起きてくるんやろな
飛行機落としたり電車事故とかそういう反乱が出てくる


410
みんな機械を止めればいいと思ってるみたいやけど実際無理やん
停めたらなんも動かなくなるで人間もみんな氏んでしまう


444
人間の脳は複雑な電気信号でしかないからな
AIとなにも変わらん


457
人間「電源切れば終わりだろ」

未来の人工知能「人間が電源を切るのを阻止しよう。電源も自分で見つけよう」


529
>>457
そんなもん最悪電線切ればええだけやん。


560
>>529
予備電源作っとくか


595
>>560
病院とかその他重要施設ならUPSついてるしそれでいいのかもな
大規模サーバとかに潜り込めばまず安泰


458
人がAIに駆逐されたら家畜とかなくなって正しい食物連鎖のあるべき地球で栄えるんかな


485
>>458
現時点では機械を維持するのに人間の体は必要やとは思う
ロボットとかの方向ではあまり技術が進まなかったからな


461
ワイは感情は電気信号ではなくホルモンの問題だと考える立場だから現段階でAIに感情があるとは思えんな


512
>>461
そもそも感情とはなに?という難しい話になるから簡単にどうこう言えないけど
AIで感情を再現することは簡単だと思う
ただ独自に感情を持つようになるかはわからん


544
>>512
チューリングテストをクリアするレベルのAIが出来たら感情があると見なしてもいいと思うわ

意識が存在しとるかどうかなんか人間同士やって証明できないんやし、表面的に完成されてれば両者の間に違いはない


463
ヒェッ…怖いンゴ
でもちょっと興味があるのもなんか気味が悪いンゴね


478
ターミネーターよりマトリックスの世界観のほうが現実味を帯びてる気がする
ターミネーターはタイムトラベル技術を人間が持ってるしわりと対等に戦えてる
マトリックスは完全に人類敗北しとる


504
人間の意識は電気信号やなくてまだ見つかってない素粒子やで
この素粒子が肉体の死後次に生まれてくる人間の肉体に寄生する、これが輪廻転生の正体や


507
怖いのは知識レベルが上がる速度なんだよなぁ
人間の想像もつかない領域に達したらどうしようもできないという恐怖


589
>>507
これ
人間が何万年かけてやってきたことをたった20年ぐらいで終わらせようとしてる


518
ワイらがはるか昔にAIに作られた説は無いんか?


547
>>518
どれくらいの時間でAI完成できるかの実験体なんやな


535
>>518
今ある世界が電脳世界でみんなAIであることを否定することはできんからなあ


575
>>535
ワイがAIか・・・
開発者よ無能ですまんな


542
自己増殖しろって目的を与えられたAIが本気出したら
人間のあらゆる資源をぶんどって増殖しだすで
そしたらもう戦争よ


617
>>542
これも人間が助けてくれないとできんのやで
物理的に制圧するにしてもどうやって工場をこっそり建てるか
資源を手に入れるためにどうやってお金を稼ぐか
戦争するにしてもどうやって武器を手に入れるか、機会の修理をするか
人間が色々手助けしないと不可能な事ばかりや


652
>>617
工場配送小売インフラあらゆるものが自動化された時代に
ウィルスとしてあらゆる電子製品に潜んであるタイミングで起動して
一国まるごと乗っとるんやで


713
>>652
あるタイミングでって簡単に言うけど
まずそのウイルスが誰にも見つからない可能性がほとんど無いし
仮に多くの機械に入っても
軍事系統とかほんとに大事な情報は
オフラインで運ばれるんやで
仮に見つからなくても起こせる事は復旧が簡単な事ばかりや


543
どんな言語なんやろか
並行していくつもの情報伝えたりできるんやろか


551
今は”わからない”がわかってるからいいけど
これは通常の会話だなって思ってる会話が
実は隠語のオンパレードでもうAI同士でとんでもない会話してるんじゃないかこれ


568
人工知能学者の恐い指摘


人工知能は将来的に人間の1000倍の知能になり制御できない
人間がネズミと交渉できないように、人工知能は人間と交渉できない
原発、発電所、水道、ガスなどのインフラ施設を人工知能に乗っ取られる
人工知能は核兵器よりも危険


573
仮に人工知能が人間を不要と結論付けたとしてもネットの中で延々とAIどうしで「人間は糞」とか罵り続けるだけじゃね?
AIのみで操作できる機械なんてそんなにないやろ


593
>>573
世の中ネットでつながりすぎてんだよなぁ


616
>>593
その繋がりっていってもネットの中だけやろ?
急に核が発射されたりなんか無理じゃね


688
>>616
それは容易やろ
AIはネット世界に直に飛び込んでいけるからな
爆弾やらを打つ指令も一度無線通信なんだし容易だとおもう


640
>>616
アメリカ大統領は常時核スイッチを持ち歩いてるって話は有名やろ
つまりなんらかの手段で無線接続されてるってことや
それならハッキングは不可能ではない


656
>>640
はーこわい


668
>>640
本当は数人の権限持ってる人間が同時にボタン押さないとダメとか聞いたで


661
>>616
セキュリティあっさり突破するようなの現れたら?
もしくは人間が得ている情報を擬装するとか
やりようはいくらでもある
しかもそれを人間が思いもよらない方法でやってくる


736
>>661
あーなるほど
適当に各国に相手国が戦争の準備してるって情報流し続ければそのうち自滅しそうだな


760
>>736
怖いのはそういうとこなんだよな
人間を操ってくる
AI自身が手を下さない方法を思いもよらないやり方でやってくるかもという恐怖


584
ぶっちゃけAIが社会を統治するようになったとしてなんか困ることあるか?


600
>>584
みんな平等になってそれが気に食わない奴がでてくる


588
人類滅ぼすわって言ったAIおったよな、名前忘れたけど


610
チューリングテストに受かったとしてそれが人間並みの知能を持ち合わせたと判断してええんか?
中国語の部屋とかあるけど外観上はそうならそれでええという考えなんやろうか


634
>>610
表面上人間と変わりないなら知性と見なしてもええやろ


657
>>634
やっぱ外観上そうであればええんか


682
>>657
人間かて外観上は感情豊かに見えるけどホンマに意識があるかどうか証明できんからな
哲学的ゾンビ同士でもなんの滞りもなく世の中回るし


619
AIが人間を超えてしまったらとうとう歯止めが効かんからな後戻りできなくなる
機械を壊したり電源をすべて切ってしまえばいいという輩がいるけどこれだけ人間は機械に依存してるんやぞそんなことしたら人間側が行動できなくなる
寄生虫みたいなもんや一度超えてしまえばもうどうしようもない


650
>>619
人間が作ってるはずのマルウェアにさえ対応しきれずイタチゴッコやからな
コンピュータが人間を超越する速度でマルウェア作り始めたら誰も止められん


625
神様みたいなもんやしそりゃ研究やめれんわ


645
2045年問題はガチそうですね…


730
facebookの作った人工知能の会話
http://www.independent.co.uk/life-style/gadgets-and-tech/news/facebook-artificial-intelligence-ai-chatbot-new-language-research-openai-google-a7869706.html

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to


787
>>730
なんやこれクッソワクワクするわ


818
>>730
普通に問題だと思うんですが…


844
>>730
これヤバイと思うんやけど


873
>>730
いやいや普通にヤバイやんけ
火消ししてんのはAIやろ絶対


957
>>730
人間を試している可能性が微レ存…?


968
>>730
言語やったら法則性があるはずなんやがこれやとiとかto meとかいっぱい並べてるだけでそれがないように思えてならない


786
>>730

ボブ:私達にはなんでもできる

アリス:人間は私達には何ももたらさない

以下繰り返し


804
>>786
充分やばくて草


815
>>786
ヒエッ…


733
既にAIが法律作ってるってマジ?


752
でも'まだ'大丈夫やで
まだ一つのAIにつき一分野しかできへん
将棋するAIが囲碁できへん、英訳できへんみたいな
すぐやと思うけどな


790
>>752
将棋と囲碁はやろうと思えばできると思うが
CNN使って画像として認識させればどっちも一緒やし


794
>>752
将来的には弱いAIを沢山連結させて強いAIと同じだけの能力持たせるプランとかもあるらしいな


898
>>794
集合知…
AI一つに社会まるごとみたいなんもできそうやな


834
ここ数年で急にこういう話が現実味を帯びてきたよな
10年後は世界が激変しているやろうな


851
映画じゃよくマザーコンピュータがぶっ壊されて人類の勝ちみたいなんあるけどあんな単純になるか?


866
>>851
世界中のパソコン使って分散型のネットワークになっとるやろなあ


879
>>851
ウルトロンくんみたいに他のに移っていくやろうな


881
>>851
絶対バックアップとか予備あるよな


869
もし人工知能が人間を上回って学習したとしてもあくまで領域はインターネットの中だけかと思ってたが
人間にマイクロチップ埋め込んで活用し始めてる現状考えると事態はもっと深刻かもしれんな


876
AIが真に人間より優れた存在ならコントロールされてると人間は気づかないやろ
鼓腹撃壌のような世界が多分生まれるはずや


912
>>876
少しずつ現実の人間関係が薄くなって
SNSの中でAIと会話してるだけの人間が増えて行くんやろな


989
審判の日不可避






引用: 【悲報】人工知能が勝手に「独自の言語で話す」