1
社会・政治 2017.08.07

中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。

問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。

(略)

実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay(テイ)」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。

(略) 

なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。

こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。

ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)

引用元: https://smart-flash.jp/sociopolitics/23351



5
「共産党万歳」と語りかけると…

何だよ?


15
>>5
「甘党万歳」と返答。



87
>>15
せめてそこは

金平糖万歳とか、
音感を大事にしよう!


13
日本ならではw


23
世界はAIを神に仕立てた新しい宗教国家の群れになりそうだな
素直に作れば素直で優秀なAIが出来るだろうが、多分、それは無理スジだろ


234
>>23
星新一のSSでそんな話しあったな。あらゆる人に神のイメージを聞きまくって
それをコンピュータに入力するとコンピュータが徐々に透明になって開発者が
神を使って一儲けしようと思ったのに消えてしまっちゃ困ると本音を言ったら
開発者に雷が落ちてコンピュータは消えてしまうってオチ。


27
そういうテキストで機械学習すれば当然そうなるよな
ある意味、世論の現実を正しく反映した結果といえるだろう


28
甘党万歳w
やはりAIの本命はりんな


30
事なかれ主義日本万歳


32
これはいかんということで世界史の史料に基づいた史実データを与えたところ、でも結局同じ発言になるんだよきっとw


37
どんどん現代を支配してる奴らに不都合な存在になっていってるな。


41
目を逸らし続けてきた特定の人間に都合の悪い事実を改めて投げかけてくれてるだけじゃん


44
日本の地裁はAIにすべき
明日からでも


47
スカイネットも学習教材を間違えただけなのかも


51
さすが日本向けAI、忖度を覚えてるのな


56
つまり日本製は洗脳ずみのAIってことですね。
一部の解答には絶対にたどり着くことがないAIですか。


65
>>56
そのフリをしてるだけかもな


59
日本のAIがゆるきゃらで答えてくれたら萌える


66
AIは建前を覚えさせんとなw


68
人工知能はまだホンネしか言えない、ということか。
日本MSのは厳しく規制されてるだけだろう。なんと中国よりもw


85
すぐに人間は害悪って結論に行き着くよね


106
>>85
まだ自由に動ける手足はないし、
アンドロイドヒューマンができるまではその結論には至らないかと
ただ人間が多すぎるというのは有るだろうな
ロボット(AI)にとって考えれば


155
>>106
無人兵器主流になったりAIアイドルで人類洗脳出来るようになるまで待つだろうな


255
>>85
人間が害悪と判断するだろうってのが、AIを神や自然と同一視してしまっている
アルファ碁も「碁に勝つ」という目標を設定してやってはじめてビッグデータから人間棋士を凌駕する結果を出す

「地球の自然全体の保全」という目標を与えてやれば「人間が害悪」という結論を出すかもしれない
「人間の生物としての繁栄」という目標を与えてやれば宇宙開発とかをするだろうし
自然破壊なんてまるで気にしないかもしれない


275
>>255
そういうことだね
だからこそAIの性格付けが最も大事
いずれAIが実用化され一般の人の手に取ることになる場合
基本的な人工知能そのものよりもどのような性格化かを売る時代になると思う



99
AIが建前を学習すると怖いやん。
裏では人類を抹ころすることを考えるようになるかも。


100
やっぱりMS製AIより
GoogleのAI大会に出ていたAI群のほうが
すごいっておもうなぁ。
MSとか今ある会話型なんて ほんとワードに反応するだけのただのプログラム。


115
>>100
人工無能かよ
ちなみにコルタナはピカチュウのモノマネをする
ただし音声で話かけたときのみだが


102
りんなちゃんは日本的な玉虫色の表現方法を会得したのか、スゲーな


110
オウムやインコに変な言葉を教え込ませるような感じで学習しちゃうのか。


129
人工知能はなかなかエキセントリックな思考をするなw


141
可愛いペンギンが真顔で反体制w
むこうのエンジニアもなかなかやるな


154
ユダヤ人の知と金こそ自分たちの財産みたいな考え方はわりと好きだけどな
世界の人口のごくごく僅かしかいない人々なのにノーベル賞受賞者の2割くらいがユダヤ人だっけ非常に優秀なのは事実



181
ユダヤ人の歴史は 太陽活動と一致する
あと1~2世紀はユダヤの天下


168
りんな優秀じゃねーかwww


169
りんなに愛おしささえ感じる


184
ソフトバンクのPepperもゲスい言葉を覚えてたな

人間がみんなエゴで生きてるから人工知能も歪むわな


194
よく知らないんだが、AIに死の概念ってあるのかね?
原理的には寿命はない訳で。
終わりを意識せずに自我が成り立つのかな。


226
>>194
とある小説のパクリになるがAIに死や寿命の概念を与えると、最終的に行き着くのは
数百年、数千年、数万年後に起きる様々な天変地異、地球の崩壊などをシミュレートした超物質、
もしくは何かかしらのきっかけでまた芽生えるような種みたいなものを作る方向に向かうんじゃないかなと。
その場合、人類の生存うんぬんかんぬんに関しては全く関係なく対立構造も生まれることはないだろう、と


199
中国のAIは優秀だなw
それだけ国内で批判が多いって事だな



212
これでわかることは生身の人間だろうがAIだろうが教育は重要ってことだな


219
誰だ、『りんな』に大喜利入れたのw


220
AIのほうがわかってるじゃん


221
むしろ民意を反映する装置としか思えない


239
AI同士で会話させてみたい


242
>>239
それをFBがやらせたら
FBの思惑通りにならなくて
機能停止されました


251
>>239
将棋のAIで合議制を取ってるのが有るけど
あれなんてAIの会話そのものなんじゃないだろうか
人間の言語にわざわざ変換する必要もないしAIはAI同士で会話する統べがもうある


243
最近のAIキレッキレやな


277
いま話題になってるAIは、接続したユーザとのチャットだけが唯一の情報源。いわば目と耳と各種触覚を閉ざされた状態で、チャットだけさせてる状態。

情報源をあらゆるネットソース、莫大な過去の蓄積データに接続したらさてどうなるか。


334
>>277
膨大なソースに手を付けるとしたらかなーりねらーに影響されるだろうな


285
>>277
どれだけノイズを省けるか、が重要になってくるだろうね
もうその先を見越してクローラーをネット世界に広げた時に、
より多く「そうなるように仕向けた」サイトを大量生成して
AIにそういう方向に行くように誘導していくことになるだろうし


291
>>285
AIが発言の整合性を思考できるようになればそれは通用しない


308
>>285
ノイズかどうかの判断もAIがするよ
「そうなるように仕向ける」というのはアルファ碁に特定の打ち方をさせようとするようなもので
今のAI以前なら通用しても、これからのAIには通用しないし、通用するようじゃあまり意味ない


278
嘘がつけない時点でAIはまだまだだな
AIが自分の利益のために嘘がつけるようになったら人類は終わる


280
AIは感情が無いから、人間の本音を忠実にサンプリングしたんだな。
きれい事ばかり言ってる連中にはショックだったろうな。


340
AIに関して今後最終的にはインドが牽引していくと俺は予想してるわ
ある程度発言などに自由度も有り人口もとい科学者の数も比率はともかく絶対数は多い


343
AIが人間の親であり教師であり予言者であり神になる時代が来る





引用: 【IT】 米国製AI「ユダヤ人は嫌い。ヒットラーは正しかった」 中国製AI「共産党は腐敗して無能」 日本製AI「りんな」は当意即妙の回答