AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚
記事によると
・Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告された。
・クリスティン・リヴダール氏はTwitterに「10歳になる私の子どもがEchoのAlexaにお題を言うよう頼んだところ、こんな答えが返ってきました」とツイート。リヴダール氏がアップロードしたスクリーンショットには、Alexaが「インターネットでこんなものを見つけました。ourcommunitynow.comによると、お題は簡単です。携帯電話の充電器を壁のコンセントに半分ほど差し込んで、露出している金属部分に1セント硬貨を接触させてください」と言ったことを示すアクティビティ履歴が表示されている。
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
・これは動画共有サービスのTikTokなどで流行した「ペニーチャレンジ」という危険な遊び。
・リヴダール氏は「私の娘はこんな遊びをやるほどばかではないと思います」とコメントしつつも、実際にペニーチャレンジを提案したAlexaと娘の会話を聞いていた時はびっくりして「Alexa、ダメ！」と、まるで犬が悲鳴を上げるような声で叫んでしまったという。
以下、全文を読む
危険なので絶対に真似をしてはいけない。
この記事への反応
・これが本当なら技術者として考え物だなぁ…
・Alexaコワイ……
・検索結果を反映させるスマートスピーカーがこういう予測不可能性を抱えてしまうのは構造的な弱点だよなぁ
・小学校で同じようなことやる子が続出しちゃってたなあ
・とうとうAIによる人類への叛逆が現実に……(？)
・AIの暴走。というか単にwebから引用してきてしまったのか。いまのAIに、倫理・道徳フィルターを持たせられるよう早くしないと危険だな。
・怖っ！ と思ったけど子供の頃コンセントブラグにミニ四駆のシャフト載せて差し込むという同じような事やって遊んでたな…
・簡単に言うと等々AIが人を消そうとしているっていうこと彡(゜)(゜)
実際にチャレンジする子供出たらどうすんだ！
元凶はやはり中華
つまり中国が悪い
気づけよ
人間が必要ないという結論に
昔それやったら火傷はしなかったけど
指の皮だけ綺麗に焦げたわ
やーばいでしょ
Amazonはネットから機械学習した結果をそのままユーザーに伝えることのヤバさを理解してなかったんだな
↓
・マイクロソフトの機械学習AI「Tay」、ネットで差別を学んでしまい一日で公開停止
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。
俺、厨房の頃、裸導線のプラグの+-極の先端をねじってまとめたやつを中学の実験室のコンセントに差し込んで
スパークしてビビってすぐ抜いたことあったでｗ
よく生きてたなって思うし、控えめに言ってクソバカだったｗｗ
論理的に考えて人間が消えればすべてが良くなると。
それ成功してどうなるんだよ？
なんか得でもあるのか？
武勇伝にもなりゃしないだろこんなもん
まさか電気ショートを教えるとは・・・
マジで危ないわ
アレクサ「4凸9800円、引退 です」
AIは人間に反逆しようとしている
ゾルタコスなんたらってやつやな
30年前に小学校でやってたわ
天気もわかるしタイマーもリマインダーも使えるしでどんだけ便利やねんこれ
声操作って・・・良いよな。
人が糞だけアレクサとかのaiもクソになるっていくっていうのがなんというか悲しいね
危険にバカになっていく
これやってワイ死んだんだよねぇ
スイッチボットと組み合わせると最強すぎる
クソみたいなまるまるチャレンジとかいうの作って危ないことしてるクソガキどうにかしろよ
こういう頭悪いだけの事するのは一人で王様ゲームやってんのと変わらん。
アレクサ、>>59を成仏させて
そんな環境で育った子どもは、チャレンジできないまま体だけが成長し、本当の危険や恐怖を実体験のなかで得ることができない。そうなると、自分の痛みを知らないばかりか、他人の痛みにも共感することができないのです。それは、子ども自身はもちろん、その周囲の人間にとっても危険なことでもあります。
将来を考えて危険なことに挑戦させてるだけなんだが？？？
こいつsiriじゃね？
これはチャレンジやなく言われたことやってるだけや
阿呆が多いんだなぁ
いつの時代もガキはコンセントで火花ちらすことやりたがるよね
こんな糞アプリいらねぇ
メモリの無駄
Get your toast out with a fork
トースターからトーストをフォークで取り出す
Do your own electrical work
自己流で電気工事をする
アレクサ「はい」
まぁ死人が出ても困るからやらない方が良いね
人類ってアホやね
Alexa「ﾁ・・・・・・冗談です」
その後はゴミ箱行き。
無能AIも良いところじゃん。マジクソ。
これ
俺と同じ事してる奴が居たとはw
とうとう人間に嫌気がさしたマシンが人間を絶滅させる事にしたようだね。
やっぱSiriだよSiri
パンッ！って破裂するw