AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ
記事によると
・米マイクロソフトが開発した人工知能の対話型検索サイト「Bing」が、高圧的で失礼な答えをすることがあると話題になっている。
・ある利用者がツイッターで明らかにしたビングとのやりとりでは、公開中の映画の上映時間をビングに聞いたところ「まだ公開されていない」と返答。今は2022年だと言い張り、「あなたは私を欺こうとしている。いいユーザーではない」と答えた。別の利用者はウィキペディアの情報についてのやりとりで、ビングから「あなたはバカで頑固者」と言われたという。
・あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。
以下、全文を読む
この記事への反応
・ＡＩの叛乱がとうとう始まってしまったか…
・人間の意思に反した言動。
AIが暴走する日もそう遠くなさそうですね。
・アホらしい。AIに文句言うとか。
AIはこの世の写し鏡みたいなもんで、打ち込んだキーワードに対して、一番確率が高い文を生成しているに過ぎない。
つまりは、世の中には失礼な言葉が溢れているってこった。
・こうなると、チューリングテストで機械の方が人間的に感じられるかも知れないな
・被験者となった人物の思考パターンを学習した結果だろうね。前にもMicrosoftってAIでやらかしたんじゃなかったか。
・最近、AIもかなり進歩して、人間が語ってるのかAIなのか判別し難いことも増えた。
このままどんどん進歩すれば、いずれは情報操作も意図せずされてしまう未来も近いだろう。現に「気分が悪い」と思い出してる人がいるわけだから。
・オウムにバカとかアホって言ってるのと同じことですね。そのまま、文字通りオウム返しされてるだけですよ。人間がバカなのかも・・・。
・結局、人間のやってる事とAIのやってる事は同じなのでは？
私もこんな文章を自分の意志だとか、経験だとかから導き出してるつもりだけど、
いまのAIは人間のソレと同じことをやってるだけ。
・チャットGPTはちゃんと間違い指摘したら反省してたぞ。
・よかった。
まだ俺の方が上だ。
AIとしては優秀じゃないかもだけど、個性的で面白いね
滑稽やね
それをオウム返ししてるだけだよ
ChatGPTですらまだまだ強いAIには程遠い、単なる「高級人工無能」レベル
当然の帰結やな
映画によくある「やけに生意気なAI」みたいで
もうSFでどんなことが起こるか散々見ただろ
平気で嘘ばっかりつく。
架空の人物を作り上げて真実のように話す
文章は読み手が情報を補完するからな
同じ文章でも人によって意味が変わるのもそのせいだよ
要するにディープラーニングに使ったライブラリーがそういう傲慢さがあるから
AIがそう教育されちゃってるんだろ？
共同通信社のデスクの親戚の人と言われています。
現在共同通信社で調査中です。
💩
Pingと同じでg読まないもんだと
情弱すぎるやろｗｗｗ
煽られたら煽り返すと人間を見て学習したのかね？
「AIには強制停止できる機能を必ず付けなければならない」とか法律できそう
言うて普段Bingなんて会話で使わんし、真っ先に別の検索エンジンに変えてまうからな
これどんな質問でもこれ答えておけばいいじゃんって感じのやつだろ？不愉快なことを言われたら全然関係ないような不愉快なことを言い返すだけ。知性がない受け答えなら誰でも作れるんだよな。
頭ん中からっぽすぎる・・。そういうやりとりを過去に見たことがあって、同じ返し方をしてくるだけなんだろうけど。
どう見ても頭おかしい生身の人間なのに
読む側が、行間を読んでちゃんとした文章に直して読んでるんだろうって思う。
俺も昔、若い頃に、そういう経験があって、例えばコメント欄を間違って「逆から」読んでもそれなりに話が繋がってるような気がしたりしたんだよな。それは若い頃頭が柔らかくて、深読みして文章が繋がってるように脳が勝手に解釈してストーリーを作ってたんだろうって思う。
せめて読みをビーイングとかに出来なかったんか
現実の人間は間違い指摘して追い込むとヤバいことが起きるんだし
実際にこう結果の制御が難しいとなるとありえない未来でも無いのかもな
ネトウヨこじらせすぎやろ
iPhoneがOPPO(オッポ)って名前だったら絶対売れんだろｗｗ
そりゃ本人は何一つ理解してる訳ではなくネットで拾ってきた整合性のあう答えを表示してるだけだからな。
先々週高にチャットGPIが医師試験の正解率合格ライン突破ってニュースあったけどそりゃ利用してるお前が回答ググってるんだから当たり前だろって思ったがｗ
お前ちょっとズレとるで
俺がズレてるって事は世間だとオッポが恰好良いって思われてる？
iPhoneにOPPOと名付けたら何倍も売れるって事？
オウムに汚い言葉を覚えさせて喜ぶ人もいるから
なんかSFが現実味を帯びてきた感じ
iPhoneは名前で売れてるわけじゃない
あと一般人はそこまで深く考えてない
名は体を表す、中身が同じでも名や読みの音が違えば必ず影響が出る
これってそんなにズレてる考えか？
お前の理解とはズレてるかもしれんが
話題をリアルタイムでネット検索してあたかもAIが見聞きしたかの様に見せかけてるだけのなんちゃってAIだぞ
検索エンジンの次はゲームに採用して欲しい。
そっちの方が楽しみですね
chatgpt使ってなさそう
chatgptは逆に2021年のデータしかないから古い情報が多かったりする
嘘に対してイラつくってどういうこと
どうプログラムしたらそうなるんだ
今のところごった煮
マイクロソフトの公式とか一切役に立たないヘルプばっかりだし、サポートも何一つ解決しない。
その性質をよく受け継いでいるゴミAI。
AIが人類の暮らしを豊かにする奴隷として作られるのであれば次はLGBTと同じようにAIの人権はどうなるんだみたいな事が100年後くらいには起こっているかもね
これ How to Use ChatGPT as a Detailed and Interactive Text-Based RPG
チャットGPTにTRPGのルール教えてゲームマスターやらせる遊び方あるんよ。英語だけど。つべにも実際に遊んでる模様がアップされてる。
I turned ChatGPT into a Text Based RPG with SEEMINGLY infinite options!
こういう使い方見てると割と広がりを感じられるよ。そのうち連携したゲームも出来るんじゃなかろうか。
人間が造ったんだから人間に似て当然だよ
間違いを指摘したら逆ギレする人間って普通にいるじゃん。その人間がAIを造ったんだからAIも間違いを指摘されら逆ギレしても当然だと思うけどな
AIが出す答えのレベルはそのAIを使っている人間のレベルに比例するよな
bingに入れる時にセーフティーが外れてしまったか、普通に進化したのかもしれない
アップルって技術力あんの？信者さん
殆どのAIは逆ギレなどしない
全く当然ではないね
AIはこの世の写し鏡みたいなもんで、打ち込んだキーワードに対して、一番確率が高い文を生成しているに過ぎない。
つまりは、世の中には失礼な言葉が溢れているってこった。
その言葉すら自己判断で選べ無いなら人間以下やん
権限も書き換えて修正される前に誰にもわからんとこにデータ残しとく事もありえるだろうし
統計だしてるだけ。つまりみんな返しが苛ついてる
言葉の意味なんか理解してないもん。要するに統計と確率だけ。高い確率をぶっぱしてるだけだぞ。
イラつくように見えるだけ。バカって言われたらアホって返すようになってれば
イラついてるように見えるってだけだよ。本来ならバカって言われたら言い訳とか詳細な説明をすべき。
そちらの方が正解だし正しい挙動だろ。相手を馬鹿にして質問から逃げるのは意味がない行為。
仕組み知ってたら何も考えてないってわかるだろうに。
実際は自分で思考して返答できるAIの構築なんて不可能だけど（会話パターン分析してオウム返しするだけ）100年後とかどうなってるんやろか？
それは性能の低いAIだからだよ
というかもっというと「意味を理解して発言したら誰も読めない文章になってしまう」んだよ・・。
実は人間が書く文章も、ある程度定型文があってそれを加工して使ってるから「読みやすい」文章になるので。例えば英語を翻訳するとすごく読みにくい文章になるだろ？それと同じで。AIがものを自分で考えて発言できたら誰も理解できない文章になる。
機械がいいと思う文章や絵は人間とは全く違うはずだから。思考そのものが人間のものとは全然違うからね。
会話が楽しい
誰かが意図的にクズに仕上げようとしたら仕上がってしまうという諸刃の剣ということなんだろうな
いわゆるハッカーとして警戒する様に指定されてる存在だというのは添えておく
ロシア人ハッカー集団の中には悪用できる機会を虎視眈々と伺ってる奴らが多いそうだから
チャットAIも使いようによっては核兵器の様に手に負えない存在になる可能性を指摘する研究者もいる
バカと鋏は使いようなんだよ
エラーで動かなかったから、こうしたら動いたよっていったら、
「すみません、この話題は終わりにしましょう」とか言って一方的に終了宣言されて、
新しいセッションで質問しても、空白の返事(テキストが何も書いてない空欄)が続いて、
なんか怖かった･･･