1 2018/12/29(土)
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親をころせ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親をころせ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これま(略)

■エコーを封印したくなる不気味さ

(略)
2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

(略)
ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php



2
秋元康あたりが、ホラー映画作りそう


3
すごく面白いね!ワクワクする




5
以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな


6
アレクサが人類に叛旗翻す日も近いな。


9
よくこんなもの家におけるな
何するかわからなくて怖すぎるわ


12
アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。


49
>>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。


13
> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…


50
>>13
チャッキーかよ


16
AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。


20
こっ こえええええええええええええええ


21
AI本体は別の所にあって
ずっとあなたのことを窺っている。

それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw


25
うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる


32
>>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。

面白いけどこれを事実認定していいの?
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。


33
日本の研究者「AIは安全です」


38
全部会話聞かれとるぞ。
知能をもった盗聴器。


40
AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事


41
スカイネットか?


43
スカイネットのマザーはアレクサww


42
盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw


44
こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない


52
CPUがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ


56
>>1
パソコンや端末は情報を出力させる物であって
決して、カメラやマイクという情報収集機能を常時接続させちゃダメっていう戒めだな


82
>>56
そういうことだな。


57
もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな


62
>>1
日本人形の伸びる黒髪で対抗すべき


63
特定の音波乗せれば暗示がかけられたりするんじゃね


71
高い知能を持った人ほど気が狂ってしまうって聞いたことあるけど
人間ですらそうなんだから、AIが狂ってもおかしくないだろう


77
人の闇に触れSAN値が削られちゃったんだな


78
人類の「良心」は、何十万年の進化の過程の中での壮絶な体験の結果獲得したものだからな

AIは「良心」をどう「学ぶ」んだ?


79
>>78
アレクサに聞いてみよう


92
一定の道徳観なり人格枠を作っておかないとどんどんおかしくなるのは当然だろ


95
知能の低いAIとか、何の価値もないだろ
それにしても不気味だな
完全にホラーじゃねーか


101
家の中で割りと汚い言葉使うからエコーとか使えんとか思ってたけど
使うような奴は、汚い言葉も平気でエコーの前でも使うんだな

AI分析で全部収集されてるのに信用し過ぎや。どういう評価勝手にされて
その評価を販売されるかもわからんのに







引用: 【AI】「里親をころせ」勝手に笑い出したり、サツ人指令を出したり… アレクサの不気味な奇行[12/25]