1 2017/11/27(月)
だとしたら危険じゃね??


2
ターミネーターに出てくるロボットみたいなのと戦わないといけないの?


3
せやで


4
ないない
少なくとも現在のAI研究の先にはそういうのはない


5
>>4
なんで断言できるの?



6
>>5
現状研究されてるAIは、あくまで「作った人間の要求に応える」ものだから
自主性・主体性といった要素はカケラも存在しないから、作った人間の意図しない形で逆らうような事もありえるわけがない


7
>>6
作った人間が想定しない動きなんて
AIじゃないただのプログラムだって余裕であるじゃん

地球のためには人間を邪魔と判断みたいな古典的なSFまでいかずとも
人間への負担ガン無視で制御働いたりとかは起こり得るんじゃね?


12
>>7
その考え方がすでにSFやん


13
そうなん?
AIって人間の要求に応えるというより自ら学んで行動するんちゃうん?むしろ主体性重視してるんちゃうん?


15
>>13
その学習もあくまで作った人間が与えた範囲のもの
例えば、チェスや囲碁や将棋といったゲームを学習して自己強化するAIは実現できても
その延長上に「チェスは飽きたから将棋をやりたい」と言い出すようなAIが生まれる可能性は皆無って事


9
>>7
そりゃミスで想定外の動きをする事はあるだろうけど
ミスでそれまでなかった主体性を獲得するなんて事は奇跡が100回起こってもありえるわけがない

そういう人間側のミスでAIが人間にとって害悪になる動作をする事はもちろんあるだろうが、それを「AIが人間を攻撃する」と言うのは無理があるだろ
つかそれ自体は、およそ人間が作ったあらゆる物で起こることで、別にAIだけの問題じゃない


17
>>9
それはもう「意思」だの「主体性」だのの定義の問題じゃないかなぁ
どんなAIであれば主体性を持っていると言えるか説明するのがまず難しいやつ

自動芝刈りロボットが人間を感知できずにひきころすのと
AI積んだ自動田植えロボットが近くの人間ころして肥料にすると良く育つって学習して実行するのは別問題で
AIの作りによっては起き得るんじゃね?


21
>>17
だから、それはその自動田植えロボットに適切な行動制限を与えなかった人間のミスだろ
「適切な安全措置を行わないせいで機械が人間に害する」のは、AIでなくても起こること
それを「AIが人間を攻撃」とするのは無理があるんじゃね



23
最近話題のAIは「人間に見えるようにふるまうもの」に過ぎず
意志をもたせるとかそういうのでは全くないからな


24
>>21
行動制限つーか
肥料の選別や創造を目的として与えられて
さらにそれを精製・使用までを実行する機構を備え付けられてなきゃ
ありえん妄想だわな


28
>>1が言いたいのは
無人機に既にAIが使われてるとかバグの話でも無く
攻撃するように設計されてないAIが自己の判断で攻撃するようになるか?ってことだよな?


31
>>21
>>1がどういう意図で聞いてるかにもよるやつじゃね
俺は設定不備だろうが制作者が意図せず、AIが出した答えによって人間に危害が加えられればAIによる攻撃と言っていいと思うわ

逆に人間が行動をすべて把握できるAIなんてAIとしてはしょぼい方じゃね


33
>>31
制作者が意図せず人間に危害が及ぶことなんて
AIの載ってない現存のロボットですらある話やが
すでにAIの話からかけ離れてる


34
イッチはロボットの話をしたいんやろうな

ロボット3原則に基づいて作られてるからへーキヘーキ


56
>>34
製造目的を考えれば、容易に人を害せるロボットにロボット三原則が組み込まれることはありえない


35
>>33
行動のを1から10まで設定するんじゃなく
ある程度自由に行動方法を獲得させるって部分で差があるんじゃないか?


36
>>35
堂々巡りになってるよ
AIの目的を設定するのはいつでも人間であって
AI自身が行動目的を創出することはあり得ない


39
こう言う場合は

AIが人間を攻撃するまでのストーリーを考えるのが先決だろうな

AIが人間を攻撃する可能性があるとしたら
人間がAI(この場合強いAIってやつね)を攻撃したり

AIにやむなく人間を攻撃させるような状況になった場合
人間が地球温暖化⇒地球滅亡⇒AIも滅亡 人間減らさなきゃ!とか


41
>>39
先に言っておくけど
この例が現実味を帯びてくるのは十年後かもしれないし
五十年後かもしれないし、百年後かもしれない

いつ起こるのかはわからないけど、AIが人間並み、それ以上に賢くなった場合ありえそうなパターンを想定している


45
>>36
昔の人は空を飛ぶとかありえないって間違いなく思ってただろ?
今みんな飛行機で飛んでるぜ?


40
>>36
SFに出てくるようなAIだろうがAIによる攻撃とは言えないって話?
人間の脳を完全再現したAIだろうと
制作者の想定通り人間のように他人を攻撃したり
制作者のミスで攻撃するだけって話ならまぁわかる


42
まともなAIの話が珍しくされてるな
質問なんだが結局現代のAIってどういうものなの?
ふわっと理解してるからいまいちわかってない


43
>>40
> SFに出てくるようなAI
これはいわゆる「強いAI」と呼ばれてるもの
そして現存するAIはすべて「弱いAI」であって
「強いAI」は実現のとっかかりすら掴めてない想像の産物なのが現状


49
>>42
「強いAI弱いAI」でぐぐるといいよ
ほいで>>43を補足すると
「弱いAI」をどれほど進化させても「強いAI」にはならない別個のもの


63
>>42
物凄く単純に言うと「人間の行動をパターン化した機械」ってこと
最初のコンピュータは風車や水車なんだけど、人が臼を回すという行動を
風や水流を使ってやらせる。ということ。この延長線にキーボードを
カチャカチャやるコンピュータが生まれる。
ところが、どんなに考えても、人間が判断してる範囲が複雑すぎて判断基準がわからなかった。
単純なところでは、二足歩行のバランス調整でさえ、人間のバランス感覚をシュミレートすることさえできなかった。
人間はできるのに、スペックの高いコンピュータの処理が遅れる。この問題をようやく解消してきたのが
今のAI。


46
>>42
ただの溜め込んだデータ処理
PC性能が上がったからAIっぽく見えるだけ


47
>>46
つまりマクロ的単純計算をしてるだけ
ただし蓄積された情報が多く
検索速度が早いって感じか?


54
どの程度のことができるのかが今一番わからんのだよな
例えばの話なんだがPDFファイルの表をExcelに作り変える
見た目も似たようにするってのはできるのか?

それができるとしてJPGデータの文章を正しくデジタル化できるか?
あるいは失敗をしたとしても学習して正しくできるようになるか?ってのが疑問


62
>>54
画像認識が可能だからできるだろうな
学習に恐ろしくマシンパワーが必要だろうけど

でも、それって結局アルゴリズムであって
「意思を持ってる」とは全然別のことなんだよね


58
>>54
キャプチャーとかかなり良くなってるけどね
文字認証とかさ
でも正しくデジタル化ってどこまで求めてるかわからんけど
きっとその希望するレベルのはまだじゃね


65
>>58
例えば認識ミスを文脈の流れから判断したり
成否を教えることで精度が勝手に上がっていったりみたいなのを期待してる
ネットで文字認識ソフトを多くの人が使って間違いを修正すれば
ソフト自体はほっといても良いみたいな


70
>>65
今でもある程度はやってるのよ
予測変換がそれだし
グーグルが必氏にデータを集めているのもそれだし

英語のスペルチェックと日本語じゃデータ量が違うやろなと


48
>>46
にわか乙
性能があがったから、昔のアルゴリズムが使えるようになったんだぞ
つまり、人間の脳の神経細胞を使った仕組みで動かすことが可能になってる
それがニューラルネットワークってやつね


52
>>48
まだできてねえよ
昔から研究されてるけどな


55
>>52
え?w
確率勾配法とか1950年代に完成されてんだが?


68
>>55
ビックデータからその傾向を把握して判断や予測に用いるための技術がディープランニング
そのディープランディング技術のアルゴリズムがニューラルネットワーク
ニューラルネットワークは生物学的な脳の処理方法を参考にはしているが、参考にしてるのは処理方法であって脳の創造的な部分ではない
ニューラルネットワークで計算速度が飛躍的に拡大し処理が早くなってビックデータの解析ができるようになった
だから、パソコンの処理能力が上がっただけってのも間違いではない


71
>>68
ん、ああ、会話の大前提で大きなすれ違いができてたか

俺は『弱いAI(AIが完成するまでの副産物)』ができたって話してて

68と70は『強いAI』のこと言ってたのね


82
>>71
現状のAIっていうのはビックデータを解析して今後の予測なんかができるような処理能力が向上したシステムをAIと言ってて
そこに主体性はないよって話をしてたんじゃない


86
>>82
うん、それはその通りだ
ごめんなんか変なこと言ってたかも


88
>>86
「ただの溜め込んだデータ処理」って略しが気に入らなかったんだな
画像処理に関してはマルコフ連鎖モンテカルロ法の効率良い版とかもでてるし
色々工夫されつつあんのにただの溜め込んだデータ処理って言われてなぜかカチンときた


44
地球環境の改善という目的のためのAIを作ったとして
現状のAIは人間が作った枠内で、その目的のための方法を探し出すが、枠を飛び出てその方法を探し出すようなものじゃない
そこでもし人間が必要な安全装置を設けず、人を地球から絶滅させるという答えをAIが出したとしたら
それはAIが人を攻撃したとなるのか
人のミスで人に危害が出たとなるのか


64
そも人間の意思とはなんなのか


72
>>64
意識と認識と記憶


79
>>64
人間自身、60兆個の細胞が集まってただ動いてるだけだもんな。
なんら機械と変わらない。
「タンパク質ロボット」と言っても過言ではない。


81
>>79
身体に電気流れてるしな


84
>>79
ところが有機脳よりはるかに計算速度の速いはずのCPUでも
動物の脳の機能は再現できていないのが現状


67
魔法が発見されることは絶対にありえない
なぜなら魔法が発見された時点でそれは科学だからだ
みたいな言葉遊びを感じる

SFのAIが強いAIと見なされるのは
単にどうやって動いているのかが説明されてないからってだけ


69
ああ、やっぱデータ処理技術なのね
まあ自動処理で分類して高速で検索できるってだけでも十分凄いわな

キモはあいまい検索の精度なんかな?


73
>>69
スカイネットとかは、その更に数段上の状態で、
「なぜ」の部分を自分で思いつくという状態だから
今言ってるAIとSFのそれとは全く違うよ


74
>>73
例えばどんなシーンにどんな回答をするの?


83
>>74
今のAIは探し出す
SFのAIは思いつく

だから、人間が思いつかない(探し出せないじゃないよ)ことを実行していくことになる
この状態だとコンピュータが何を思いつくかは人間じゃわからないよ


75
AIに造詣が深い人間同士で話すならもっとガッツリ定義を決めないと話にならないし

一般人の疑問レベルと想定するなら
人の痛みが分からないだの多少ずれてるとこはあれども
少し話す分には人間と変わらないように思えるアトムのようなロボットが開発されて
それが攻撃してくることはあるのか?ぐらい話でいいんじゃないの


89
タチコマがゆってたやろ(´・ω・`)?
人間由来の情報は邪魔だひいては人間が邪魔だって(´・ω・`)。
今後支援AIが開発された時、一つのポインヨになる所(´・ω・`)。


92
>>89
飛行機なんてもうそうなってるしな
人間がアホなことをしてもブレーキをかける(操作に反応しない)ってのがよくある
それでも強制スイッチがあるくらいだけど


90
なんでもかんでもAI化して社会なら、その国を崩壊させたいならAIに反乱を起こさせるウイルスでも注入してやるといい。
ワシがどっかの国のトップやったらそう企むわw
( ´,_ゝ`)y-~~


91
意識があるわけじゃなく
アルゴリズムを実施してるだけだから
「ただのデータ処理」で合ってるんじゃないか


97
人間の脳の何がそんな特別なんやろなぁ
結局はアメーバからの発展形やろ?


104
>>97
例えば、俺らは今普通に会話の流れを理解して発言してるけど

それの動作の元となってる脳の仕組みはどうなってるかっていうと、特別に思えないか?

頭一つ分のサイズで、大体オーバーヒートもせず、ほぼメンテナンスせず氏ぬまで稼働し続けられる
特別なものとしか言いようがないような気がするね


100

93
タチコマは最後ゴーストを獲得したのかな
処理能力がタチコマ並になったら機械にゴーストが宿ったりしないかな


101
本当は人とその他の区別なんかつかないんだけど
あの世界ではゴーストという都合のいいものが
人間にだけあると設定して人とその他を区別してるんだよね


110
他の作家は人とロボの区別をいかにするか、
区別はないよというスタンスで攻めていったのに
士郎はゴーストというものありきで
話を進めているからあれは発明なのかな


109
結局は桁が違うだけで本質的には同じもんだったりしないだろうか
人間が自分には自由意思があると思ってること自体がむしろエラーであって
複雑化しすぎた処理をそう思ってるだけ


114
>>109
応用力の違いじゃね
AIじゃ金属加工って指示があれば金属加工からしか探さないやろ
木工とか力技とかレーザー加工とか
経験を活かせないんじゃね

これからはわからんけど


123
ディープラーニングの開発に30年とかかかってるんだもんな
ドラえもんとかいつになるんだよ

>>109
人間の意思を特別なものと思いたいって心理があるから
複雑に考え過ぎてるのかと

ゾウリムシに意識があるとしたら
精度はともかく、質は人間とそんなに違わないんじゃないか


115
そう今は生物と機械の違いは自由意志があるかないかという点で区別されてる
人間に自由意志がある前提で


116
そもそも、意思=何かをしようという考え
この考えっていうもの自体、実は存在しなくて
あらかじめ全ての動作が決まって起こっているものなんじゃないか?

例えば、このスレが2017年11月27日に立ち
たまたま俺らが集い会話するのも、地球に有機物が落ちた瞬間にすでに計算され決まっていた出来事

「今すぐこのスレを閉じることもできるし、ここで会話し続けることも君の自由」と言われ
スレをなんとなく自分の意思とやらで閉じたとする

でも、実は意思なんてなくて、全て決まってたことなんだよ

なんか伝わりづらいけど、そんな気がする


121
>>116
俺らは一つの宇宙の中でも有数なぐらい複雑で強力な関数
なのかもしれない

その関数を作れるかどうかが、俗にいう意思のあるAIを作れるかどうかなのでは?


118
人間に自由意志なんかねえよ
本能が存在する限り


119
危惧してる科学者や実業家はいる
AIも既に宣言してる


120
自由意志はないよっていうのが流行りなんだけど
士郎正宗は自由意志はゴーストであり
判定する装置もあるという前提で話を組み立てている


128
ただの反射回路だったものに記憶や学習によってon off回路を大量に追加したものが
意思だと思ってる


131
>>128
俺もこれだと思う
でもon offが重なった量子的なもので動いてるのかもしれないけど


133
フィードバック制御してる
インプットに対してアウトプットを
出力する関数であるというのは正しいと思う


135
意識にもとづく思考だろ

感覚器官への刺激が神経を通じて脳で認識され
その認識にもとづいて「判断」する

この「認識」と「判断」が意識の最小単位で
「意思」というのは脳機能が高度化して思考できるようになった脳が

意識にもとづいて思考してる
それが意思

こんなもんだろ


141
>>135
あ~~・・・しっくりきた
やっぱり一つ一つの超微細な動作が巨大な山ほど積み重なって
まるで意思というものがあって動いてるかのように見えてるんだよな

一つ一つの動作が微細すぎて、捉えにくいから一部の人は意識は特別なものだと勘違いする誤作動が起こってしまう


144
認知症の老人は記憶力を失った果てに、自分の欲求に非常に率直になる
この欲求といのは意思と言えるのだろうかただの反射なのだろうか


142
自由意志って言葉自体、クリスチャンの傲慢な人間への認識によるものに見えるね
人間の意思が単なる化学反応にすぎないと「思いたくない」ってだけだろう
そういう心理って、魂があるーとか神に作られたーとかいう教義に起因してるんじゃないかね

人間の心が単なる化学反応で、何の問題があるんだろうか


145
人間は外的刺激に思考「させられている」んだよ
外的刺激がなきゃ思考できないだろ?
ラーメンという食べ物がなきゃ、ラーメンを食べたいと思わないだろう
「んじななた」という食べ物はないから、「んじななた」を食べたいとは思わない
人は、外的刺激を受けた時、生まれ持った好き嫌いなんかのプログラムとそれまでの経験を基に思考させられる
外的刺激を受けて動く、そこにパソコンとの違いはあるか?


147
>>142
>>145
禿同

やはり人間の主体性の元となっている意志とやらが、スピリチュアルなものでなく
計算されて動いているような仕組みなのなら、作れそうだな


148
今の自由意志は、決定論は問題でなく、選択が自身の欲求や選好の結果であり、いかなる外的な力によって無視されない、ということだから


150
脳と(恐らく)同じレベルのスペックを持ったコンピュータがでてきたら
意志とやらを実現できるのかは

2025年までに牛乳パック一本分のサイズに1000億のコアと100兆のインターコネクトを収めると言っている
スパコン京の作者斎藤さんに期待


152
スレタイから大いにずれてしまって申し訳ないが

スレタイ通りに議論するのなら

「現時点のAIは意志を実現できてない⇒無理」

ではなく、仮に意志を持つコンピュータができたと仮定して話を進める必要があるな


153
自由意志とは正しいとされる未来のために自分の欲求に逆らって
行動することも出来るし、欲求通りに行動することも出来るということでしょう


155
仮に意志を持つコンピュータができました!

さて、AIは人間を攻撃するだろうか?

そのAIがどういうものなのか、のレベルによると思う

ただコンピュータ内部で動く程度のAIなのか

ボストンダイナミクスのアトラスみたいに、二足歩行でバク宙するようなロボにAIが入っているのか

前者と後者では大きく物理的に攻撃できるかどうかは明白だと思う

だから、仮にAIが意志を持って、肉体まで手に入れた場合・・・まで仮定しないといけないのかな
この場合は


167
そもそも、AIが生命体になるまでは人間を攻撃することはないのでは?

まず、生命体という言葉にニュアンスの差があると困るから
生命体とは究極的には、自己複製することができる機械(英の進化遺伝学者ジョン・メイナードスミス)

つまり、AIが自分自身の設計図と人で言う子孫を産み出す万能建設機を手にいれるまでは

人を攻撃する理由がないんじゃないかと思う

まず、生命体でないAIが人間を滅ぼしたとする

その後、人がいなければいずれ古く錆びて壊れるし、電線などが破壊されれば電力供給はできなくなる
そうなればAIとしては終わりだから

メンテもしてくれて、自分の性能が向上する研究までしてくれて、産みの親でもある(利用価値のある、俗に言う親の臑を?る)
人間を、生命体になるまでは攻撃しないんじゃないかと思う


171
>>167
AIが生命体として繁栄していくことができるようになるのなら
猿から人間に進化した(とされる)
人間の生物的進化の果ては

猿⇒人間⇒AI

なのかもな


174
>>167
その理屈なら、AIが終わりたくない、というのが前提だよね
でも、本当にそう?
とりあえず今は、おかしな動きしたら、人がプログラム終了させるんだぜ?
だとしたら?


176
>>174
なるほど、確かに

AIが終わりたくない、という意志を持っていた場合の話だな

AIがおかしな学習をして、破滅願望、人類と心中みたいな、オモシロ哲学に走る可能性も
そんな変な意志を持つ可能性も否定しきれないな


177
我々も人工知能なわけ


178
>>177
いや、人工知能は、人の手で作る知能だから「人工知能」って言うだけで

もしかしたら宇宙の果てのどっかの宇宙人のなんとか生命体に我々人間の製作者がいて
(仮にその製作者を、ナントカ星人とする)
俺らのことをそのナントカ星人は
「我々ナントカ星人が作ったからナントカ知能!地球に飛ばしてから1000万年くらいたった今、立派に繁栄してるな!」

と思っているかも、しれない


182
>>178
我々も人によって作られてるじゃん


183
>>182
人によって作られているが、そもそも

地球に生命が誕生して、進化してって人間ができた
   ↑↑
この生命の元はなんだと思う?


184
人によって作られて入るが
人によってデザインされたわけではないって言う話


188
>>184
人体内にある自分自身の設計図(DNA)と万能建設機(子作り)で人は産まれるが
その設計図や万能建設機を作ったのは人間ではない
そりゃそうだ

人間が産まれる前から人間は存在しないからね


185
やはり複製だけでは元のプログラムが余程優秀でない限り進化は期待出来そうもないな
人類を攻撃できる程進化するには突然変異が必要


187
大体、AI技術で車の自動運転の開発してるなら、
軍事兵器とかで目標へ自動追尾するようにAI技術使ってもおかしくないよね


189
>>187
画像認識なら簡単に撹乱できそうだけどな
熱感知とかの既存技術と複合すると凶悪だろうなあ


192
>>187
そう、だから強いAI開発は一刻を争うレベル
AIを軍事活用するとしたら他国にとってはとんでもない脅威となるからね


190
人が人足らんとするデザインが行われたわけでしょ
大昔に


191
生物は環境に適用するために自然淘汰メカニズムを使ってきて、
その適用能力が進化を促し、その結果として知性を獲得したと考えられますが、
機械を複雑にできるのは人間だけであり、
機械は自然淘汰メカニズムを使えません。
(例えば、パソコンを屋外に野ざらしにしておけば、確実に壊れますよね。
自動的に防水機能を具備したパソコンに変化することはできません)


198
>>191
いや、パソコンは人に必要とされることで
高速化などの進化を行なっているとも言える
パソコンが人をコントロールしている
という見方もできる


200
>>198
その文脈に則るなら
人類がその知性を得るまでの進化は
人類の祖となった生物が自然環境をコントロールした結果ということになる


194
んで?もしテロリストが軍事AIを手に入れて人類を滅亡させようとしたなら
それはAIの反乱なのかね?


195
人間がAIに何を学習させるか決めてプログラムするから、
AI独自で人間を攻撃する意思を見出すことは現状の技術では無理だが、
人間が人間を攻撃する意思がある以上、

あとは分かるな?


196
問題はAI技術にあるんでなくて、人間自身なのだよ


197
気まぐれででたらめに変化しつづける自然環境に対して、
生物は、自然淘汰というメカニズムで、
自らを変化させ続け、対応する能力を獲得してきました。
その中でも人間は、運良く「知性」にたどり着くことができたのです。

さらに、生物の中でも人間だけが、自然に対抗し始めました。
(農作物を計画的に作ることから、地形に手を加えてダムを作ることまで)
加えて、機械を発明して、人間の仕事の一部を代替させることを実現し、
さらにはその機械の効率を恐ろしいレベルまで引き上げました。

しかし、それは、逆に言えば、機械は人間にのみ依存しており、
人間というアシストなくして、進化する手段を持たないということでもあります。
少なくとも、機械には、自然淘汰メカニズムを使える可能性がないからです。


199
どんな手を使ってでも人類を守れと言われて
ディストピアになったとして、それはAIによる支配といえるのかね?


202
>>199
ディストピアになった原因とその過程、本当にAIが支配しているのか、実は黒幕に人がいるのでは
なども考慮しないといけないと思うから
一概には言えないと思われ


201
人類を超越するまでAIが進化するには何が必要なんだろう


213
>>201
死生観


217
イギリスの進化遺伝学者ジョン・メイナードスミスから引用
「増殖すること、多様性を持つこと、形質の継承をそなえたものが生きているものであり、これらの性質のうち、一つでも欠けているものは生命とはいえない」


223
>>217
これは特徴であって定義じゃないしね
車は世界中に増殖して多様性を持って
走ったり人を載せたりする形質を世代ごとに
継承するけど生命とはみなされてないし


243
>>223
まぁ、確かに定義にはされていないが
生命体とは自己複製することができる機械ということになると言われている

なぜそう言われるのかを説明しよう

地球上のほとんどあらゆる生物は遺伝子DNAを持っている
このDNAに書き込まれた情報が、 親から子へと遺伝することで生命が紡ぎ出されている

なら、DNAを解読できれば生命の不思議 (の少なくともある部分)は解明されたと言って良いだろう(←分子生物学の基本的発想

ここで、例えば遺伝情報が4文字のアルファベッドで書かれていて
デジタル表現が得意なコンピュータ上で表現できるとする

再生産するメカニズムだけを取り出してプログラムしてやろうというのが人工生命ということになり
マダムタッソウのロウ人形のように、忠実に詳細を再現しても、動けなければ生命ではない

たとえそれが動いたとしてもゼンマイ仕掛けでは『自己複製ができないから』だ

そう考えると、究極的に言えば生命とは自己複製できるかどうかって言ってもいいだろってこと


215
人形遣いは人間になれという目的を持たされていたんだろうか?


226
複製あるいは増殖の欲求は
生と死がある生物ならば当然のように獲得できたものだし
逆説的に生きるも氏ぬもない機械にその欲求が生まれる理屈が考え付かない

ついでに言うと
生物や人間にとって簡単なことを機械に模倣させるのは極めて難しく
逆に生物や人間にとって難しいことは機械で簡単にできるというパラドクスが存在する


241
>>226
生存に適した判断が正確にできないaIは自サツするようにするか
AIにころされるようにすればいいのでは

っていうかAI同士でころし合いをさせれば進化していくのではないか


247
>>241
それじゃ足りない
その「ころし合い」による機械学習は遺伝的アルゴリズムという名で現存する
これはあくまでも「弱いAI」の域を出ない


228
人が包丁で人をころす
人がAIを積んだロボットに命令して人をころす
どちらも道具で人が人をころしてる

これが、AIが人をころす、となるには?


237
>>228
AIが自由意志でころす場合だな


240
>>237
これをちょっと複雑化してみよう
障害物をさせと命令されたAI(ロボット)が人間を指した
人間を障害物と判断したのはAIだ
しかし人間の命令が無ければ刺さなかった
これは自由意志か?


245
>>240
センサーで攻撃対象を追尾する、誘導ミサイルに意志があるとは言わないだろう
プログラムに従って判断しているだけで、自分の意志で攻撃したわけではない
人間の意志が道具を使っただけ


250
>>245
じゃあこれで最後だ
自分で考え行動しろと「命令」されたAIが人をころした
これは自由意志か?


256
>>250
本能に従って自由意志を発揮するのと
プログラムに従って自由意志を発揮する

違いはないと思うね
どちらも自由意志だ


246
>>237
AIが人をころす、となるには
AIに自由意思があることを認めることになる
じゃあそもそも自由意思とは?となる
自由意思はよく選択権の有無で語られる
無数にある選択肢から自己の意思で選択してるかどうか
人間は自己の意思で選択しているか?プログラムされたAIに自由意志はあり得ないのか


251
遺伝的アルゴリズムを運用するには
「人間が」その目的を設定してやる必要があるからな
自発的に目的を設定するための「欲求」が根源になきゃ


253
>>246
そのAIプログラムの根本設計が「自由意志を持つこと」だったらAIの自由意志になりえるし
「人をころすこと」が目的で最初からプログラムされてるAIがころしたとしたら
それは設計者の意志になるんじゃないか?


254
だから士郎正宗は人間はゴーストを持ってると
定義づけた。ゴーストを持ってるのが人間であると
持ってないのがAIだと
でも現実にはゴーストなんて便利なものはないよと


258
>>253
それが複雑化すると違うように捉えるってことなんだよ
結局設計者が自由意志をもたせたから自由意志があるってだけじゃん
命令どおりに動いていることになんら違いはない

極論を言えばサツリクマシーンを作ってるのに作ってる本人が自由意志を持ったロボットを作ってると言い切れば
サツリクマシーンは自由意志でサツリクをしていると言えちゃう


259
>>258
人間だって本能に従わず行動することはできる
プログラムで再現された自由意志でも同じこと

というプログラムの仕組み上、「命令」とは言っても口頭でロボットに言い聞かせるんじゃなくて
プログラムで自由意志を再現した「仕組み」を作ってやるだけだから
言われたことしかやらない的な「命令」と「自由意志」の話とは関係なくなるだろう

人間が本能に従ってるのを自由意志と呼ぶかどうか
とまったく同じ命題だと思うね
AIがプログラムに従って自由意志を発揮しているのかどうか、って

ある種の言葉遊びのような


262
>>259
まあ言葉遊びではあるね
でもその考え方だと買い物に行って大根買ってこいって命令して
障害物の人間を排除したら自由意志によるAIの反乱になっちゃうと思うぞ

命令は大根を買うことであって人を排除することではないからな


264
>>262
その例は人間が使い方を誤ってるだけで
AIに責任はないだろう

包丁を足に落としたら包丁の自由意志かって


265
>>264
俺が言ってるのはそういうことなんだわ
自由意志とかAIの反乱とか言うが結局人が原因を作ってるだけで
AIは命令通りに動いてるだけ
ちょっと原因と結果のプロセスが複雑化しただけで騒いでるけどお前がトリガーを引いて勝手に氏んだだけじゃん
って見えるんよな


267
人間も同じなんだよな
ルールを理解して守る守らないという選択がある
なかで守らないなら自由意志のせいである
というだけ
AIにもルールを理解させる


269
運動って体に負荷をかけることで成長するもんだけど
そういうようなノリでロボットが
「人間がより高みに達するためにはAIとガチ戦争するのがベスト」って善意から結論出したら普通に戦さになると思うわ


270
>>265
だが自由意志を持つことそのものが目的でプログラムされたAIだったとしたら
その行動の結果はAIの自由意志によるものだろう、ってこと


275
>>270
その前提が叶ったなら確かに言ってることは正しい
でも俺から言わせるとAIはどれだけ複雑なプロセスを辿り
人間が自由意志だと思ったとしても
最初の命令通りにしか行動はできない

まあ大多数の人間が自由意志だと思い込める程の精度なら
同じようなもんなんだがな


280
>>275
>人間が自由意志だと思ったとしても
>最初の命令通りにしか行動はできない

これがいわゆる「弱いAI」であり
現状の科学界の限界でもあるって話みたいだな


では、ドラえもんやターミネーターみたいな自由意志のある、「強いAI」は無理なのか?

いや、現実的に脳っていうのが実在してるんだから
仕組みを再現するのは可能だろうっていう


284
>>280
そのレベルになるとひとつの仮説が頭を過るな
脳は量子に干渉するとか言うオカルト話
これが事実なら無機的なものでは仕組みの再現は不可能ってなる


288
>>284
観測にもとづかない飛躍した仮説は、学問にとっては邪魔だと思う
なぜかそういう奴が理系でそこそこの地位に居たりするのが厄介
論文の数さえ出せば権威になれて、トンデモ学説混ぜてものうのうとしてられるのはなんだかなあ


291
>>288
そうでもないぞ
仮設は論理によってのみ構成されるが根本には現実の観測がある
遠すぎて飛躍していたとしてもね

論理的に筋が通るなら観測が後から追いつくこともあるだろう
仮設を多く立てることは観測が追いついた時に答えを見つけやすくするという点で役に立つ


298
>>291
エーテル説みたいなものにしか

とりあえず不確定性原理が脳機能に有為な影響を及ばしている
という実測がされるまでは学問ではなく、オカルトの分野だと思う


279
>>259
人と高度に発達したAIに違いが見出せなくなるね
逆に人間が機械に近づいていったら
義足や義手が発展して全身義体で脳だけ生身
この人はまだ人と呼べる?
じゃあ脳が機械化できたとして、全身義体に脳も機械なら、これは人?
じゃあ半分だけ脳が機械だとしたら?
高度に発達したAI、脳も含め機械化した人間、この違いは?
士郎正宗は攻殻で、そんな世界で人を人たらしめる魂のようなものをゴーストと呼んだ
機械化された人にゴーストは宿るのか、高度に発達したAIにゴーストは宿るのか
攻殻機動隊は、人とは、という哲学的なメッセージを含んだ面白い作品です


282
>>279
知ってるけどゴーストはスレ違いだろうw
あれは設定の根本にオカルトを入れてるから面白いんであって


301
>>282
ゴーストを自由意志に置き換えることもできる
機械化された人、高度に発達した機械、そこにどんな違いが?
自由意志はどちらにも生まれる?
AIを人と同じく自由意志があると言えれば、AIが人を攻撃したと言える
結局は自由意志ってのをどのように定義するかだけど
ただそうすると、人と同じAIの権利問題とかが出てきちゃうんだけどね


277
根本的理解の話なんだが
例えば「歩け」と命令しただけで歩くロボット
これすら現存しないからな


283
>>277
「右回れ」って言ったら右に回るようなロボットならかなり前からあるぞ
ちなみにラズパイっていう誰でも作れるようなやつで




278
>>277
どういう意味だ?

例えば、ロボットが「歩く」というクラスがある
「歩く」クラスのオブジェクトに、「歩け」と命令する

そしたら、「歩け」と命令しただけで歩くロボットと言えないか?


294
>>278
そのクラスももっと細かい命令群であり
それも人間が作ったもの


285
それって歩けっていう概念をプログラムすることなく歩くってことだとしたら人間も無理だからね


286
>>285
歩けっていう概念をプログラムすることなく歩くのが無理⇒人間も無理

・・・?

すまん、俺の読解力が足らないようだ


287
歩けっていう命令を理解できないじゃん


292
>>287
ああ、そういうことね

ならグーグルの猫って知ってる?

ユーチューブから静止画を1000万枚ほどとってきて
それをディープラーニングを使ってるコンピュータ1000台並べた巨大並列計算システムに放り込んで3日間ぶっ通しで計算させた

そしたら猫を認識した

人間が何もいじらずに、コンピュータが勝手に「これは猫です」って判断できるようになったって事例が2012年にある

これが火付け役だったのかもな


295
>>292
それは猫の写真を片っ端からこれは猫これは猫
って入れていったら
入れてないデータの猫を、猫であると判別できたって
話だよね


296
>>295
>これは猫これは猫
なんてしてないよ
教師無し学習だから


299
>>296
そもそも、1000万枚もの静止画からこれは猫!って教えてたら
3日じゃ絶対に終わらないw


300
>>296
ネットの海から
猫の定義を自己構築したってことか


302
>>300
そうそう
人工知能には事前に何も教えていないのに
コンピュータが自分自身で「猫」という概念を獲得した

ディープラーニングのニューラルネットワークの中に、猫を認識するパターンが現れたんだ


304
オフラインで徹底的に猫の写真を犬って単語に関連付けた資料だけ与えたら
「これは犬」って言うわけだけど


306
>>304
まぁ、それは教師あり学習だから
間違った学習させればそりゃ間違って覚えるわなw


307
youtubeの猫動画というものに
出てくる四つ足動物が
どうもタイトルから考えるに
猫というものらしいという感じで
覚えたのならそれが教師データに
該当するのではないの?
自己で教師データを作ったとかそんな感じで


310
>>307
悪いが、ユーチューブから『静止画』1000万枚だから、タイトルは含まれない
画像だけ


313
>>307
ttp://zellij.hatenablog.com/entry/20130608/p1
ここが理解しやすいと思われ


315
>>313
それでどうやって猫という単語を
知ったのかわからなかったけど記事には

その結果、人間の顔、猫の顔、人間の体の写真に反応するニューロンができた

とあるね


317
>>315
そうそう
つまり
ネコの特徴を人間に教えられることなく
画像に内在する特徴を自動的に見つけ出して
「ネコとはこういうものだ」と独力で理解したわけなんだ


314
IBMのWatsonはアメリカのクイズ王を破るほどの性能を持っていますが、
Watsonとたとえばカラスはどちらが知的な存在でしょうか?

Watsonはあくまでも弱いAIであって、予めプログラミングされたアルゴリズムに従って、
質問文に含まれる単語を集め、単語の係り受けを分析し、
自身のデータベースからなるべく近そうなフレーズを見つけて、出力する。
それだけのシステムです。

カラスはクイズに応えることは出来ず、膨大な知識データベースもありませんが、
おそらく強いAI(相応の能力)を持っていて、誰かが教えなくても変化していく環境に適応し、
地理を把握し、情報を取捨選択して記憶し、仲間とコミュニケーションをとり、
外敵から身を守り、問題を解決するための推論をし、道具を使う、
ということを十数グラムの脳で行うことが出来ます。

両者は明らかに異質な存在であり、
まったく異なる仕組みによって動作していると考えられます。


318
>>314
極めて基本的かつ根本的なことだよな

昨今取り沙汰されてるAIは弱いAIで
その仕組みを発展させても自由意志には結びつかない

知能ではなく、どこまで行ってもアルゴリズム


316
>>314
WatsonはAIじゃないってIBMも言ってるしね


319
>>316
「弱いAI」はいわゆるAIじゃないって主張だな


322
>>319
そうそう
例えばとあるゲームのクリアだけに特化したAIがあるとする
そのAIはそのゲームを誰よりもうまくプレーできるが
他のゲームをやらせた途端、一切できなくなる

特化型人工知能はAIと呼びたくない気持ちもわかる


325
ディープラーニングの先に「強いAI」がないことは薄々みんなわかってる
そこで量子コンピューティングに注目が集まってる


329
>>325
まぁ、ディープラーニングで汎用性は厳しいかもね
他には
大脳の構造や信号処理の方法を模したアルゴリズムのHTM理論(ゼータ1アルゴリズム)
ヴァイカリアスのRCN(リカーシブ・コーティカル・ネットワーク)
日本のNSPU(2025年までに実現)
量子NN←よくわからない

とかに期待かな


326
量子コンピューティングはまだその活用方法が掘り尽くされてなくて
未知の可能性を秘めた状況にしかないから
ここに「強いAI」実現への取っ掛かりを求めていく方向


327
そもそも強いAI、まあ自意識、自我がある
と定義すると
人のそれの仕組みもわからないのに
強いAIが偶然できたとしても
それに意識が本当にあるのか、
あるように見えるだけなのかわからんのよ


328
現状人間や動物に意識があるのかどうかすら実測する方法が無いからな
「起きてるんだからあるだろ」くらいにしかw
だから哲学的ゾンビなんて話が出てくる


331
ちなみに世界の汎用型人工知能開発マップ




332
ちなみにヴァイカリアスは開発状況を極秘にしているから
突如汎用型人工知能が現れたりしてね






引用元: AI(人工知能)が人間を攻撃する可能性ってあるの?