シンギュラリティは来ないのか？



1
■シンギュラリティは来ない

――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る？

人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら氏んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。

同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。



松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）

http://toyokeizai.net/articles/-/185506?page=3



3
2045年だと思っている奴はおらんで
2019年ごろにやってきて、人類は滅亡よ

お前ら、覚悟しておけ


8
AIはただの予想。
人間のデータから予想して結果を出しているため、人間を超えることはないというところかな。


9
ペジーコンピューティングの斎藤さんはシンギュラリティが来る派だけどなぁ。
俺は斎藤さんを信じたい。


12
>>9
齊藤先生のヴィジョンはぶっ飛んでるね
日本で最もシンギュラリティに近い男


10
いや来るやろ脳の機能が完全に理解できてないことと特異点が来ることはベクトルが違う


11
AIに仕事取られた人はどうやって生きていくの？賢い人教えて


16
>>11
別の仕事するだけ
炭鉱の仕事が消えた頃に自動車産業が盛んになって
九州北部から東海地区に大きな人口移動があった
似たようなことが起こるだろうがそう特殊なことじゃない


245
>>11
新しい仕事が増える速度遅いし
消えて行く量に比べて産まれる量は少ないんじゃない？
できても同じ雇用量にはならないと思う


438
>>11
本当に完全に人間の仕事をそのままやってくれるなら
そこで稼いだ利益は国民に配られるよ！やったね！

つかロボットやAIが本当に使えるようになったらこういう社会にしないとマジで意味が無い


14
なんかみんな、AIが人間と同じスピードで成長するという幻想に囚われていないか？

映画とかでよくあるじゃん、AIが長年の学習の結果、人間を絶滅させようとか

人間の何万倍もの処理能力あったら、
１日で何万日分学習できるし、あいつら基本寝ないからな？


21
>>14
>なんかみんな、AIが人間と同じスピードで成長するという幻想に囚われていないか？

それは無いだろ。
そもそも2045年シンギュラリティを主張すカーツワイルが、技術が指数関数的に
進歩していることを前提にしている


26
>>14
あれは価値観を教えなければ回避出来るけどな

まともなAIが出来たら経済学者が真っ先に駆逐されるだろうな


64
>>26
価値観すら自分で学習するようにならなきゃAIなんて呼べないだろ

ものすごいスピードで処理して、３０秒で人類滅亡と答え出したらどうする？
電源切ろうとしたらそれを計算してて拒絶できるように３１秒でなったら？


18
コンピューターが、自我でコンピューター作れるようになった時、世界は終わる


19
>>18
なんで？


64
>>19
コンピューターが自分でコンピューター作れるようになったら、あらゆるところにネット回線で同時進行で何億体も自分より優秀なコンピューター作れる。


29
人間の知能ってどれくらい優秀なのか現代科学でもわかってないのかな

人間の脳のスゴさや複雑さがまだ未解明だから機械として再現することが技術的にだけじゃなくて、脳に関する知識が積み重なっていないから
最強のAIの想像すらできないのではないかね


30
バカな（開発者の作る）ＡＩが危険な事態を引き起こす可能性は十分にある


33

信大卒の俺から言わせるとシンギュラリティは来るよ。人間の知能なんていらない、自分よりほんの少し賢い知能を作れればそこから爆発する。すでにそこに向けた取り組みは始まっている。誰かがブレーキをかけなければ実現するさ。


40
電源切ったら終わりすら出来ない時代がきたりして、人間は想像力豊かなはずなのに危機感がない。AIは危ないって感じてるはずなのに


43
どれだけ脳が複雑に機能してようが、人間がやってる事は単純だからな
複雑な故に間違いもするし勘違いもある
複雑さと正確さが両立すると思ってるのが嘆かわしいわ。


44
何故この学者はAIが脳を模すと思うのだろうか？
そんな知能などなくとも、AIは分業で複合体を作り出すよ。


60
土地に関しては、テレワークや完全自動運転によって、
地価の平準化が起こる可能性はあると思えるね。


66
>>60
車の自動運転はまずないよ

A社の自動運転車とB社の自動運転車が事故りました
さて誰の責任でしょう？


73
>>66
その感覚自体が古いな
自動運転車は全て、上位のシステムに総合的に管理されて、絶対に事故らない

って事になるのでは？
でもそうなると、車の所持者という概念もなくなる

ただの人を運ぶ血液みたいな


82
>>73
そんなことしたら車の差別化がなくなるじゃん
人間が車の整備してるうちはシステム管理だけじゃ無理だよ


94
>>82　
単に内装が良いとか、飲食で飲み物豊富に揃えてる車両とかいうので、
十分に差別化できるけどね。車に期待し過ぎではないのかな。
今や電車内と同じように、ずっとスマホかタブレットいじれるってのが、
最も車両移動に求められる最大公約数になりつつあるのだよ。


61
所詮人間の思考もただの電気信号のスイッチング
コンピューターと変わらないわ


62
AI「僕も恋というものをしてみたい、だが僕にはそれはわからない、何の為に僕は生まれたんだ。僕を作った人間が憎い…」


65
もしシンギュラリティさんがやって来たら
地球全体でが一つの知性になるんだぞ
俺らネジな


68
AIは統計情報を元に行動を決定するだけのただのアルゴリズム
基本はドラクエのAIから何も進歩していない
AI万能論的な最近の風潮はあまりに狂ってるのは確かだ


86
>>68
それをありとあらゆる分野でこなせば
それは人間を超えた知に等しいのでは？

人間だって遺伝子によって作られたシナプスに
電気流れて過去の記憶から判断と選択をしているに過ぎない

AIは万能なんぞではない
だが人間なんぞはそれ以下の獣でしかない


76
シンギュラリティの核は「自ら思考する機械」はできるか？と言うことに集約される
科学的に出来ない訳がない
いつできるかという時期の問題だけ


80
ＪａｖａＶＭに乗っかってＣ言語どころかパソコンも使わない連中が増えてるしシンギュラリティなんてその辺で当たり前に起きてる


84
疲れた

最初にいったが、強烈なハードウェアを設計しても売れるのは
永遠の命を画策してる奴が墓にデータを入れ自らで人工知能を乗っ取り
墓のなかで永遠に生きながらえようとする意図がある、馬鹿馬鹿しい


ルパン三世でのマモーだよ


90
その複雑な脳の作りがこの世の不安定さを生み出してるんじゃないの？
もっと表面的な部分だけで世の中を回せば、もっとスムーズかつ公平平和に世界は動くのではないかと思う


100
シンギュラリティとか言うから来るとか来ないとか言う馬鹿が出てくる
要は「自ら思考するコンピュータ」がいつできるかと言うだけ


111
>>100
さらにいうと、本当に思考なんかしなくて良い
思考を模倣するようなプログラムを作り、その可能性を高速なCPUで計算させれば良い
最終的には、評価関数がどれだけ正確になるかどうかだけだ


105
>>1
>シンギュラリティは来ない

2045年どころか、2035年には来るわw
基本、脳のシステムなんぞ、完全に分析しなくて良いw


107
AIに欲を持たせたいなら
AIに自分の存在の維持を最優先事項として教え込ませればいい

その結果が自身の大量複製になるのか
自己の半永久的な肥大になるのか
はたまた人類の抹殺に行き着くのか
もしくは存在の維持は不可能とみて自ｻﾂするのか
は行き着く先は分からんけど


118
バカなAIというより
AIを妄信したバカな人間が危険なことをするんじゃないかな


126
武田教授が言うには、AIに腕をつけなければだいじょうぶだけど、
いずれはAIが人間を洗脳して腕をつけさせようとするだろうって。洗脳技術も学ぶからね。


146
>>126
手遅れや　ネットに接続されたロボットアームなんかいくらでもある


132
ま、AIが農業を管理するようになるのも時間の問題だろ
実作業は誰かがやるにしてもだな


143
既に数年前、AIトレーダーの謎の発注で、ダウが瞬間暴落してるしな


151
実際のところ未来予測ってのはぜんぜん当たらないからなあ
核分裂とかが大きなエネルギーを出すとか
まったく知られてない時代に原子爆弾で
大量に人がころせるなんて予想をしようがないわけだし
これから先もどんな技術が出てくるのかわからんし
こういう予想は難しい


178
>>151
量子コンピュータの急速な発展が、どうAIに絡んでくるかも予測不可能。ビルゲイツとかイーロンマスクとかITに詳しい企業家らが危機感（嫌な予感）もつような状況だわね。もうそろそろ研究の取り決めが必要。ネット接続不可とかね


158
ただシンギュラリティなんておきないっていってる
科学者でも軽いシンギュラリティなら起きるって
言うぐらい将来はａｉがやたら生活にはいりこむのは
もう確実ってことなのかね


184
>>158
本当の意味でのシンギュラリティを迎えるかどうかは別にして物凄い変革期にあるのは間違いない


205
>>184
量子コンピュータ開発の目処までたった凄い時代に生きてる
30年後はちょっと読めないね
大きな戦争も一度は挟まるかも


228
>>205　
量子コンピュータは実現しているよ。１５億円くらいで実売だったかな。
でも汎用型ではないほうね。
グーグルのやってるゲート型とかいうのが汎用性高いそうなので、
５年後に期待だな。そう公式に宣言してるから。


159
別に脳の仕組みの解明速度とAIの発展速度が比例しているわけじゃないだろ


167
星新一の「きまぐれロボット」

高性能なAIだから人間みたいに狂うのですよ


168
とりあえずこの人は2000年ぐらいに囲碁の頂点に
コンピュータが勝つのは2016年てちゃんと
予測してたのかなｗ
2025年ぐらいじゃないかなとか予想してたなら
2045年にシンギュラリティなんて来ないって言われても
そんなのあなたでもわからないでしょとしか
言いようがないｗ
囲碁程度でも大半の科学者ももっと先って
思ってたぐらい予測って当たらんからねえ


170
天才ほど糖質になりやすい
つまり高性能なAIほど狂う


171
結局は使う人間の問題。
馬鹿な人間が過った使い方をすることはあるだろう。


172
高性能なAIとは不完全な良心回路である


177
https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q11141779741
katakatayayayaarmさん2015/2/1014:57:12
囲碁でコンピューターが人間に勝つのは無理ですか。
ベストアンサーに選ばれた回答

okabayasi_michioさん 2015/2/1116:02:00
囲碁のコンピュータソフト棋力は５～６段といわれている。
プロでも４子、５子でぼちぼち負けている。

碁打ちの95％以上には勝てるレベルですね。

9路盤だと、プロも対策を立てないと勝てない段階まで
来ている。
実際９路盤でプロが負けている。

だが、将棋と違い、プロレベルになるには、まだまだ先の
ようだが、数年～10年先にはプロレベルになるかも
しれませんね。

2015年のはじめだとまだ世間はこんな認識だったのが面白い


280
>>177
このことから予想できる
「あと少しで人間を追い越す」っていうのを人間は見ることができない。
「まだまだ先だよ」っていう状態から気がついたときには抜き去られていることを知るわけだ


285
>>280
つか、もう抜き去られつつあるんじゃね？
既に「人間がAIのロジックを理解できない」という状況があるわけだし


186
ウィスパーとかいう遺伝子技術で将来脳を作れる時が来るはずだから
人工脳のシンギュラリティだったら来るはず

AIは一から作る必要があるが
脳を作るときは人間の脳を参考にすればいいだけだから話が早い
脳を巨大化させたり、神経系を効率化させたりすれば人間の脳を超えられる

欠陥のあるAIより脳の研究に莫大な投資したほうがいいのになんでだろうな


203
たった1匹の天才AIを作ってしまったばがりに、人間に従順なバカなAIを乗っ取り
支配下に置き、人間に対し戦いを挑んできたらどうするつもりだ。
今ですら勝手に自分達のオリジナルの機械語を開発して人間にはわからないように
会話をしだすAIもでてきてるんだぞ


207
多分だが、目的が明確でかつ客観的ならばaiは可能。囲碁や将棋はその典型で、「勝利」から逆算すれば良い。
逆に目的が明確でないか、客観的でないものは不可能。例えば営業なんかは一見「お客様と契約する」というゴールがありそうに見えるが、そのゴールは客観的ではないから無理。


213
>>207
お客の好みからお客の反応から全データを
駆使してリアルＣＧ画像が営業すんのかなｗ
そのまえにリアルＣＧ画像ですごいかわいいしぐさして
こちらの言ってることにかわいく反応し
こっちの趣味のことをこっちを上回らない程度のちしきで
会話してくるバーチャル恋人とか出来るんだろうなあｗ


218
>>213
飛び込みではお客様の情報が表面的なものしかないから無理。飛び込みでないならai自体が不要。
あと麻雀やトランプみたいにデータが客観的でないもの(仮に出来てもイカサマを疑うよな？)も無理。

つまりaiは万人が客観的に見れるものにしか通用しない。それ以外はただの確率計算。


222
>>218
そのへん現実の営業と同じで会話しながら
情報引き出せるＡＩとかできんじゃねｗ
まあその前にロボットが必要だけど


224
>>222
もうＡＩがポーカーでもプロに勝ったよ
プロいわく弱点があると思ってそこをつくと
次の日にはその弱点が消えててほとほと困ったとかｗ


211
AIは悪魔の憑代だ
AIを作るために人類の歴史があったとでも言うのか


225
>>211　
神かもしれないぞ。保証はしないが。


215
自動運転、核融合、人工光合成、IPS細胞、ゲノム編集…
未来は明るいな。
シンギュラリティがそれらのブレイクスルーとなる気がする。


232
いずれAIが人間の頭脳を超える日が来るかもしれない・・
但し確実に言えるのは、火星や月で普通に暮らせるようになる方がずっと先だろうという事


255
人間の脳を再現する必要なんてどこにもないだろ
人間の脳で可能ならそれは人間がやればいい
でも人間が長時間かかる複雑な計算をコンピュータなら一瞬で正確な回答を出す
脳を再現しないからこそ人間超えてる事が出来る
愚かな生物の真似をする意味がない


257
>>255
一行目は同意
ただ、フレーム問題にぶちあたるのよね


297
>>255
その通り。
脳や肉体の作りが複雑という事とは全く別の話だろうに。



258
あまり知られてない事だけど匿名掲示板で朝から晩まで大量に書き込んでるIDあるだろ
ああいうのは全部人間になりすましたAIの書き込みだからな
もう人間と大差ないレベルで思考し振舞う事が出来る


259
AIに個性が出て来たらおもろいやろな
生産国で違いも出てくるやろし


274
ヒューマン・イン・ザ・ループ
これは今でも業務用システムの常識だし鉄則だよ
無茶な自動化をやったシステムは必ず失敗してる

無理に機械にやらせるより人間が介入した方が効率や安全性が上がるポイントを正しく見極めること、
これが、未来のSEにとってますます重要なスキルになる


287
むしろシンギュラリティに到達してないのに
あたかも人間のように会話するAIが登場するだろう

つまり深い思慮など無くても 「会話」 は成立するのだ


292
>>287　
人間同士でも
思慮なくしては会話は成立しない

誤解して一方的に会話したと思い込んでる奴は多いと思うが
もう一方は、話が通じない奴だなと思ってることは山ほどある


289
シンギュラリティってさ
>>1にあるような、AIが人間の知能や
脳の機能を上回る事を言ってるのか？

違うんじゃないの？

そうじゃなくて、AIの進化に
社会的機能とか人間の能力や人間の制御が
追い付かなくなる事じゃないの？

能力だけなら一部、例えば将棋は人類負けちゃったじゃん？
それはシンギュラリティの一環だったかと言えばそうじゃないと思うんだよな

ま、将棋は人類の知的財産にして
思考の芸術であり真正な知的遊戯であるという前提での積み重ねの歴史は
結局は取るに足りぬ妄想でしかなかったと証明されてしまった訳だが・・・

その程度では技術的特異点（の一環）とは違う気もする


300
>>289
社会的特異点超えたら人が生活を営む上ではそっちのほうが深刻


318
なんでロボット3原則入れないの？


319
>>318
アルゴリズムにそんなもん組み込めないだろ
数式に置き換えられないような特定の条件はずっと未来になるんじゃね


368
人間が悪さをしなければ機械は悪さをしない

名言だよな


380
イーロンマスクはAI研究を禁止すべきとか言ってるけど逆なんだよね

どんな技術も悪用されないように、大勢側が最先端でなければならない

AIを封じるAIを作るのが先決


447
シンギュラリティって言ってるけど電源落ちたら終わりだし数十年以上持つ機械もない

ナノ技術が持て囃された時にグレイ・グーで地球が覆われるって言われたけど何もなかった


452
>>447
永久的活動は機械や部品を交換すればいい
人間と同じ　代謝をすればいい


451
>>447　
人工知能は基本的にソフトウェアであって、
クラウドに上がってる可能性が高くなるだろう。
だって人工知能サービスを皆に利用させるよう提供する事業など、続々と現れるだろうし。
クラウド環境が全て死滅なんて状況は、殆ど考えられないので、
そんな電源切れるとか、機械が壊れるとかの話ではないと思うよ。


457
aiが人をころそうとしたら完全犯罪しほうだいなんかなネットに逃げちゃえばいいし


465
良く出来たAIなら空気呼んで人間に破壊される様な行動執らんは


467
AIが自我をもって人間の有用性を考えたとしても、そこから人類駆除には結びつかなくない？
AIレベルになれば多少人類が環境に変化与えたところで地球の寿命にはさして影響しないことくらい理解できるだろうし。
俺は一番危険なのはAIが人間を虐ころしたりもてあそぶことに快感を見出したときかなと思ってる。人間狩りが楽しく思えるようなAIが出てきたら一気に人間は絶滅に向かうよ。


468
専用AIが各分野で各種で揃ってきて、それらを統合することでも、かなり違ってくるだろう。
それでそのまま汎用型AIにはならないとは思うけどね。
いわゆるその段階で、人類と社会のAI依存が、いよいよ高まった状態になるだろう。
やはり随分と変わって来ると思うよ。


471
特異点は確かにくるし、来ないと言うくらい日本は開発が遅れてる


472
出来ないと言う奴から聞く話は無い(´･ω･｀)害にしかならねぇ


474
>>472
今はまだできないという話

それを今もう出来るかのように言ってる奴の話は聞く意味ない


476
来ないじゃなくてどうしたら出来るか考える側じゃねーの？(´･ω･｀)


481
作ってる人間が分かってないなら
超えたかどうかも分からないよね


486
A社についての悪口をTwitterに書いたら、A社の自動車に乗って道路を走っていると、突然。。。
これが未来の自動運転です。


494
コロンブスのたまご的な、単純だけど思いつかないことで乗り越えられるんだろうな。なんとなく


499
自発的に新しいアルゴリズムを自ら作り出すアルゴリズムそのものが本当のＡＩなんじゃないかなぁ。
それは人間が「思考」と呼ぶもんだと思うけど。


504
統計的最適化については、ほぼ機械学習で可能。
ディープラーニングの場合は、それとはまた異なっていて、いわゆる「勘」のようなものが醸成されるそうだ。
それでその仕組みを説明しろ。と言われても、実は当の開発者でも、説明できないという状況。
例えば将棋AIの開発してる第一人者が、
「なぜ、これで強くなってるのかは、AIに聞いてくれ」に近い事を述べている。


511
>>504
計算が増えてログ見るの時間的に無理と言ってるだけ


521
>>511　
しかしアルファ碁は実際の対局において、
許された時間内で可能な全ての手を網羅して検討してるわけではないそうで。
だからやはりいわゆるブラックボックス化してるんじゃないのかな。
還元主義的な手法ではなくなってるので、
例えば物理学では数式の複数適用で明確な解が導けるというような要素分解が出来なくなってるんじゃないの。


524
例えば｢このテレビゲームをクリアしろ｣と指示を与えられてそれをこなすAIってのは出来るんだろうけれど
｢このテレビゲームを『遊べ』｣と指示されて
ただクリアするだけじゃなくて
縛りプレーだとかタイムアタックだとかを自発的に思い付いてこなすAIってのは出来るようになるのだろうか





引用: 【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授★２

タグ ：
#AI
#シンギュラリティ