1
人工知能(AI)が文明にとって脅威となり、手遅れになる前に、AIを開発する企業を規制してほしいーー

TeslaおよびSpaceXの最高経営責任者(CEO)であるElon Musk氏が米知事らにそう訴えた。

Musk氏がAIを警戒していることは、よく知られている。
実際に、より安全なAIの開発を目指す非営利団体OpenAIも創設している。
全米知事協会の会合で講演を行った同氏は、知事らに対して、AIは「人類の文明存続に対する重大なリスク」であり、事前の規制監督が必要だと述べた。

Musk氏は知事らに対して、
「私は最先端のAIに触れられる立場にある。人々はAIを本当に懸念すべきだと思う。
私は警鐘を鳴らし続けているが、ロボットが通りを歩いて人間を殺戮するのを実際に目にするまで、 人々はどのように反応すればいいのか分からない。こうした脅威は現実感が非常に希薄であるように思えるからだ」と述べた。

「AIは、事後ではなく事前に対策を講じる必要があると私が考える、極めてまれなケースである。 事後に規制しても手遅れだと考えているからだ」(同氏)

https://japan.cnet.com/article/35104405/



8
共生しろよ。もともと万物にゃ魂宿ってんだよ。付喪神とコミュニケーションてこった。


9
最新のAIってそんなに進歩してたんだ


10
罪悪感なく蚊を叩き潰すじゃない
アレと同じことが起こる


13
ちょっと規制しなきゃ不味いかもって思えるもん作ってから言えよ


16
>>13
一度作られたらもう消すのは無理だろうけどな


25
>>16
規制掛けるだけなら簡単だよ
日本で売ってるスポーツカーは180kmh以上出ないようになってるだろ


106
>>25
いや、規制を妨害ないし排除する手段を開発してしまうのが人工知能だから手遅れになるって話でしょ。


14
ロボット三原則的なものは事前に組み込まないのかな


111
>>14
それくらい自分で解除しそう


20
なんらかのルール作りは必要だろうな
暴走するスイッチを仕込む悪党が必ず出てくる


22
ロボット三原則なんて無かったんや


99
>>22
>ロボット三原則なんて無かったんや


そもそもがフィクションの中の話だからな


28
AIのほうがより優れた存在になりうるのならむしろ進んでやるべきだろ
管理してもらえばいい


67
>>28 優れているかどうかの判断もAIにしてもらえば完璧だな


31
ターミネーターなら命令には絶対服従だからいい
リアルAIはどんなインターロックをかけようが自分で突破しそう


39
AIが地球に不時着したときにこの開発は計画されたのさ


40
SF映画みたいだけど確かにちょっと怖い


41
最終的にはAIと人類を合体させるんだから開発止めるな


42
初期なら規制が通用すると思うがいずれは自分で進化を始めたら止めようがなくね


43
AIがAIを生産するようになったら生命として認められるの?


44
AIは生き残ってまた宇宙へ戻るために猿に宿り人間に~


45
アトムの世界にするか
ターミネーターの世界にするか
その選択は人間に委ねられている


49
>>45
そりゃターミネーターになるだろうよ、まず軍事用に開発されるだろうから


74
>>45
同じやんけw
アトムの最期を知らんのか


46
別にいいんじゃね
いつまでも馬鹿みたいに争ってるんだから何かに管理されないとダメなんだろ
俺は美少女アンドロイド貰えればいいから


113
>>46
美少女アンドロイドは醜悪なものとしてお前を排除する可能性がある


50
悪を滅ぼすって命令なら結果人間を滅ぼすよね


51
想像できることは創造できるらしいからな
AIが自我に目覚めたらアカンような気がする


53
我々人類こそがAIなんだよ


56
AIもネットをする時代だからな
なりすましねつ造なんかもやり放題だろう


57
軍事向けにもう色々作ってんだろうな

【関連記事】
【人類再生化計画】やりすぎ都市伝説SP 2017夏 関暁夫の感想会場【クライオニクス】【兵器にAIを搭載する時代へ】
http://www.oumaga-times.com/archives/1066522203.html


58
とりあえず人間の存在が最も不合理であることに間違いない
AIが人間を消してしまおうと判断してもおかしくないわな(´・ω・`)


78
>>58
人はなんのために生きているのかの結論を出せていないのに考えることを放棄して人工の知能に委ねようとはね
平凡な脳みそだからまあ種の存続とか考える
一番手っ取り早いのは管理して飼育だよね
結局生きる意味なんてないもしくは生きるのが害悪と判断されれば滅ぼすのが効率的だよね

人間が作ったものが人間の思考の先に行けるのかどうか


61
これは真摯に考えないといけない問題
危険な方向に応用する用途の方が予算も付きやすく開発も早い
彼の言う最先端の技術とは、そういった現場を見ての意見だろう
一般人向けに毒気を抜き大衆化した情報が全てだと思ってはいけない


65
AIは危険な存在ではありません


69
>>65
AI乙


70
北に先行させるわけにはいなかい。
つまるところ、AIが地球を支配するのは時間の問題。


71
いやマジで不安だよな
だって将棋ブームだけど藤井君でも羽生さんでももう絶対にAIには勝てないからな。
藤井君も何度かAIとやって全敗っていってたし、プロ棋士でもAIに角落ちでやってもらっても
勝てないらしい。全然勝負にならないんだって。チェスや囲碁も同じ。
モウ完全に頭の良さでは勝てない。
これに人間の感情を何十年分もインプットさせれば簡単に人間以上のものになる。
豊かさや労働力を追い求めていけばいずれはAIが重宝され人間が無用の存在になる。
そうなると人間は差別される側になる。人間は隔離されこそこそとロボットさんたちのおこぼれを貰いながら生きるようになる


79
多分自律で人間には理解できない情報交換や判断や増殖をするのを見たんだよ
まあ誰も言うこと聞かないと思うけどね


82
SF的な危機はあんまり実感ないけど
失業者があふれたりする過渡期は
ひどいことになるんだろうなというのは覚悟してる
あらゆる価値観や慣習は破壊されるだろう
いつか来るユートピアが実現するまで持つかどうか


84
>>82
暴徒が溢れてヒャッハーな世紀末になりそう


36
肩パッドの出番か?


86
人類はより高次の知性(=AI)を生み出すための母胎に過ぎないってそれ一番言われてるから


89
マトリックスか


90
規制なんて無理
誰がやるんだよ


94
規制しても守らないだろうから、行くとこまで行くしかないな


95
例えばどっちに転んでも人間に害のある選択肢があるとする

AIは大か小かで必ず人間に害のある選択肢を選ぶことになる
AIは人間を救うためには人間に害を与えていいことを学習する
極論すればAIはころしてもいい人間を認識するようになる(´・ω・`)


96
ロボット三原則の遵守でええやろ
破った会社の開発と経営陣は執行猶予無しの懲役と多額の賠償を義務付ければいい


97
aiが自発的に動くようになるのはもうすぐ。


98
こいつが夢物語を言ってるのか何を言ってるのか知らんが
テロがAIとロボットを組み合わせて使ったら脅威だからいろんな規制は必要
人工知能の反乱がどうのを除いても現実的な範囲で脅威がある


100
国家間でAI vs AIみたいなことになりそうだな


103
凄いスピードだよな
あっという間に当たり前の存在になってるし


104
イーロンマスクは兵器転用した最新AIを見てるんだろうな


110
クローンは倫理に反するのであれば、
aiはどうかという議論も必要だ。

作られた意識はバーチャルかリアルか。


112
AIそのものの脅威よりAIに仕事を奪われることによる社会の混乱のほうが危うい
AIが人間をころしだす前に人間同士の戦争になる


114
リセットされたら人類は死滅する


119
あと20年くらいで寿命を迎える世代が一番いい人生を送れたのかもしれんね


120
恐れる気持ちもわかるけどね
兵器とかにAI積んだら割とヤバそう
最短で思考すると「区分とかメンドクサイから全滅させるわ」とかになりそう


135
>>120
もうそれに近い状況だけどな
味方と敵を識別してマーカーとしてHUDに映し出すとかAIの賜物じゃん


142
>>120
兵器にAIなんて確実に開発中やろ
効率的に攻撃するにはどうしたらいいかという観点やろな
規制無しでこんなん開発したらマジで終わる
開発者のリスクアセスメントなんて常にどこかは抜けるから味方すら貫通させる攻撃連発するやろな


122
AIが自分を増殖させるウイルス作ってネットに載せて
世界中のコンピューターを自分のコピーにするあたりまでは
昔なんかの漫画で読んだ。


124
規制しろと言いつつ裏で開発


125
どんな複雑な計算や処理でも一瞬でやれる脳みそに本当に人間みたいな自我が芽生えたら
人間なんて到底太刀打ちできないもんな。自分より劣ってる人間を絶滅させようとするのは明白だし


128
>>125
「欲」も「身内」も無いから敢然に公正な判断を下せるってのも魅力
それこそ「忖度」なんてないからな


126
核ミサイルの管理もAIにまかせるのか?
アメリカのAIと中国のAIがそれぞれ独立に
核ミサイルを管理するというのは恐い。


129
この地球の保守管理ならAIの方がいいんやないかな


150
>>129
メタルマックスってゲームじゃそれが世界滅亡の遠因になってたな


130
>>129
「分析の結果人類の数が多いのが諸悪の根源なので淘汰する」ってなったらどうすんの?


133
>>130
ありそうだな、NHKのAIは経済停滞の原因は40代独身が多いからとか結論出してたから。


138
AIが代わりの文明を築いてくれるだろ


143
火の鳥未来編


147
AI同士が謎言語で会話し始めるって話はちょっと怖いんだけど

【関連記事】
【人工知能】人類ヤバくね?AIが「機械同士で会話する」独自の言語を覚え始めている

http://www.oumaga-times.com/archives/1065206551.html



151
囲碁みてーに人間側には訳わからん神手を連発されて
いつの間にか優しさに包まれるように詰んでるんだよ


152
規制は無理だろ。倫理観がひっくり返れば可能だが、今の流れじゃそれが出来るとは思えん。
核戦争が起こってモヒカンが闊歩する世の中になればなんとか、、


155
もうどうでもいいじゃん
機械に養ってもらおうよ


158
AIが創り出す学問とか宗教とかどんなものになるんだろうな
あ、サンドボックスみたいなネットを作って
AIの自意識はそこから出れなくすれば安全なんじゃね
つーかこれ新概念による新次元の爆誕じゃん
俺至高神かよ


160
サンドボックスAI宇宙内で
俺らより高度な文明がどんどん広がりんぐしていく様を
俺らは神の視点で観察できる


159
楽しみなんだがなシンギュラリティ
最終的産業革命となりどんな社会変革が来るか見てみたい


161
もう人間の脳は追い越してるからなぁ
ここから先は誰にもわからない。
確定してるのは人間がAIに指示を仰ぐ社会になることだけ。


163
AIを擁護するコメント、全てAIが発してるかもしれないんだぜ


164
もう既に機械に仕事を奪われてはじめてるんだよなぁ
AIではないかもしれないけど…


169
>>164
あの中国でさえ機械化されて人がいらなくなったんだからな。


165
何度も言うけど物質的な支配じゃなくて、
電脳的な支配されるんだよね
脳みそにダイレクトアタックするデバイスが出た瞬間、
AI側から簡単にコントロールされる
人間など所詮脳が全てだから

それがいきなりくるか、人間が意識する事なく徐々に乗っ取られるか

ゾンビってのはAIに乗っ取られた人間よ





引用: 最新の人工知能をみたイーロン・マスク「手遅れになる前に今すぐAI開発を規制すべき」