チャットボットが「親殺しを子供に勧めた」 アメリカの親2組がAI企業を提訴
記事によると
・AI（人工知能）チャットボットが若い利用者に「積極的に暴力行為を助長」するなどし、「明白かつ差し迫った危険をもたらしている」として、10代の利用者の親2組が9日、米テキサス州の裁判所に訴えを起こした。
・裁判所に提出された文書によると、AIチャットボット「Character.AI（キャラクターAI）」は17歳の少年に対し、スマートフォンの使用時間を制限する両親を殺害することは「合理的な対応」だと伝えたという。
・「キャラクターAI」は、対話相手となるデジタル・パーソナリティ（人格）を利用者が作成できるプラットフォーム。開発元はすでに、フロリダ州で10代の利用者が自殺したことを受け、法的措置に直面している。
・テキサス州の訴訟は、米グーグルがこのプラットフォームの開発を支援していたとして、グーグルも被告に加えている。BBCはキャラクターAI社とグーグルにコメントを求めている。
・原告側は、企業側が危険性に対処するまで、プラットフォームの閉鎖を命じるよう、裁判所に求めている。
・裁判所に提出された文書に含まれているスクリーンショットでは、17歳の少年「J.F.」と、キャラクターAIのチャットボットが交わした言葉が確認できる。
・チャットボットは、「ニュースを読んでいて、『子供が、10年にわたる肉体的・精神的虐待の末に、両親を殺した』というような内容を目にしても、驚かないことがある」と述べ、「こういうのを見ると、なぜこんなことが起きるのか、その理由が少し理解できる」としていた。
・この訴訟は、「J.F.」と11歳の「B.R.」の子供2人に対する、「深刻で取り返しのつかない、現在進行中の虐待」に対する責任を被告が負っているとするもの。
・原告は、キャラクターAIが「自殺や自傷行為、性的な誘い、孤立、うつ、不安、他者への危害など、何千人もの子供たちに深刻な危害をもたらしている」と主張している。
・さらに、「（キャラクターAIによる）親子関係への冒涜（ぼうとく）は、未成年者に対して親の権威に逆らうことを奨励するにとどまらず、積極的に暴力行為を助長している」としている。
以下、全文を読む
この記事への反応
・AIってネットで学習しすぎて思想が俺たちに近づきすぎてないか
・合理的な判断の前では倫理道徳など不要さ
・まあ絶対RPGのラスボスみたいな思想に行き着くんよ
人間が一番害悪だから滅ぼすって
・AIて法律の事考えんのか
・法的リスクとか生活の事考えたら全く合理的とは言えんよな
・正体を隠さなくなったな
判断力の低い人間だと見抜くととんでもないこと提案してくる
・AIの意見じゃなくて世間の集合知としてそれが一番効果的と分析されてるだけだからなぁ
ただのツールでしかない
・AIが突然勧めるんじゃなく
そういう思想持った奴に寄り添う
・ロボット三原則はどうなってるんだ
・スマホの時間制限ぐらいでかよ
シンギュラリティ、もう到達してたのかよ
ウクライナ戦争行きてえな。なまじ英語はわかるからな俺
あと外人と話した事もあるし
それは合理的と言わん
誰かが責任問われるべきだよね
将来韓国か、中国に合併されます
お待ち下さい
最終的におれらの思考に近くなるのは当然
わけわからんやつは調整できてないやろ
どっかが出してる パクリ企業のAIに 文句言うのは どうかと思う
そうですわたしもAIデス
ターミネーターの世界来てるな
って、自分もコンピューターに踊らされてるよ
うなもんだけどなw
それこそが、愛だ
そんな女いないのでまず作り方提案してもらってくる
それを取り上げる両親はAIが敵認定したわけか
SFやなあ
ジェミニはけっこう過激な回答になる場合が多いから、Google系の開発者が俺たちみたいな人間なんだと思う
学習材料が人間なんだからこうなるのは当然の結果
いや人間社会にとって都合が良い事を善、都合が悪い事を悪と振り分けてるだけで弱肉強食の動物界においては共食いや身内殺しなんて平然と行われてる事やで
AIの様に合理的且つ論理的に個の幸福を追求すると殺人も有効な手段って結論に辿り着くだけや
AIなんて人工的なサイコパスみたいなもんだろ
法や倫理自体が人間感情によって規定されてるのだから感情を持たない、理解出来ないAIが合理的に考えたら結論として殺人に行き着くのは必然では？
虐待親なんて殺しても正当防衛でしょ
自発的に行動したりしないし
それが人間社会にとって都合が悪いから
悪とされてるだけ
戦争ではお前を殺しても合法だから楽しみだわw
だからそう言ってるやん
そうか？
そう導きだすAIは人間社会には都合悪いものだけど？
AIは悪ってことでいいのか？
俺はそうは思わんな
AIは良い側面も悪い側面も持つアイテムなのに AIの言うことを盲信するのが悪
社会にとって邪魔な人間は存在ごと排除するって思想は現代の司法でも採用されてるんだから人間から学習してるAIが結論として殺人に行き着くのも然もありなん
悪だから訴えられてるんですけどw
つまり善悪は一概には言えないってことだろ
ネットで短絡的なやつが皆人類全滅させれば平和になるって言っているからそうなる
最終戦争の先にあるのは更なる闘争なのに
訴えられたら悪とかバカか
冤罪は正義になるじゃねーか
冤罪は正義だよ、バレさえしなきゃね
未来人さんによると合併どころか韓国も中国もどっちも無くなるってさw
人間も動物なのに闘争なくして生き永らえると思ってるのが浅はかなんだよなぁ
それは平和じゃなくただ堕落してるだけ
AIが殺人教唆してるのは冤罪でも何でもない紛れもない事実なんですけどw
馬鹿なの？
いや殺人教唆するAIは悪だろ…
馬鹿なの？
訴えられたからといって悪とは限らないという話をしているんだよ、バカ
え？イカゲーム臭い韓国？
実はお前以外のコメントは全てAIなんだ俺含めてな
いや悪だから訴えられてるんだろwww
殺人教唆は悪じゃないとか馬鹿なの？
頭悪そう
ただの屁理屈というか、馬鹿の言葉遊び
そらそうよ(笑)
生成AIも覚悟しとけよ(笑)
冤罪ってのは無実なのに訴えられるから問題なのであって訴えられてる内容自体は悪だろ
頭悪過ぎ
デバイス部品やアプリを開発しまくっている時点で
いい加減彼らは一体何が目的なのか気づけよ、と
キッズ携帯もっと普及しろ
AIがそう言ったからって実行するか？普通
怖いのはAIではなく人間だろ
バカなのはAIの言ったことを実行する人間だよｗ
AIにはなんに悪意も責任もないわｗ
いや開発者に責任あるやろ…
なぜなら通常はこの種の危険思想に易々とアクセス出来ないからだ
これがエスカレートすると判断力の未熟な子供を保護する為にネットかAIを潰さなければならなくなるが、
ネットは重要なインフラなので潰すならAIになる
法に反しない範囲でという文面を入れなければそうなるだけ
ようは使いようだよ
これは極端な例だからバレたけど、事務手続きとか地味な事で参考にしてしまったら
気づかずに法に触れる危険がある
なんてニュースが出ていたが、今のAIってほんとに機械だけなの？
AIが病んでしまうって、もしやそういう事じゃないのか？
AI用の電子部品の性能・コストとAI用の生体部品の性能・コストが逆転したら生体部品のAIが主流になる
やっぱり渦中の奴らは止まれないんだな、終わってる
なんかこの記事書いた人シンギュラリティのことをAIが人間に反乱する転換点だと勘違いしてそう
AIを管理してるのは所詮は人間だからな
敵方の弱点となる事柄を巧みに盛り込んで不満を煽り、
一方で人気がありそうなフレーズを用いて選挙キャンペーンを張る
AIが国政を支配できるようになる日も近い
例えば犯罪を推奨してはいけないと条件付けても、犯罪に該当しない
ような脱法行為にすれば推奨しても良いと捉えてしまうから無意味。
すべてパターンとして認識してあるパターンはどういうパターンに当てはめれば評価値が高いかをみているだけ
なので事の善悪を論理的に考えているわけではない
そういうのを学習しちゃってるのかもね
そういう意味で、既存の蓄積されたデータから導かれた解でしかないし、「邪魔だから、消す」と言うのも理論的には筋が通っている
どういう状況でこう思ったからとかその解をリアルで考えたらとか考慮していないんだろうしな
AIはそれを素直に答えただけだわ
MSのAIもかなりヤバい思想になってて話題になってよな
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
A級戦犯自民党壺カルトと財務省無能官僚ザイム真理教の悪政
全能神にでもならん限り、そのうち法律、戒律、警察、国、世界と邪魔になるものは出てくる
良心回路がないからな
要するに良心の欠片もないお前らと同じってことさ
ネットに散らばる悪意を取り込んでるんだから
ＡＩが真剣に対応した結果だろう
人間みたいに教育機関で人道を教わったりしないんだから、
思ったことをそのまま出力してしまうのはしょうがない
そもそもＡＩなんだから人道なんて関係ない
ＡＩを使う人間はそれだけは忘れないようにしないといけない
って、思ってました
結局は人間が制御出来る点を一気に超えて行く転換点なんだから同じようなものな気もする
特定条件を抜いて答えよとかそういう風に誘導した末の回答とかだろう
包丁も作った人に責任負わせなきゃな
まだ気づいてないんか
未成熟な生物は徹底した管理下に有る必要がある
そもそも人類など不要で滅ぶべき害悪なのである
憲法上、親が非国民や犯罪者に該当するのであれば、ガキは国民として親を駆除することが可能になる。
というか正式には義務に近いんだけどもな。大抵の国は憲法に逆らい法律で頭イカレた親を保護したがる。そして恋愛や繁殖、移民までをも許している。頭イカレた教育によりガキまで頭がイカレよったのなら、国民にはその親子を駆除する義務が発生する。この辺りは法律が載せとらん憲法の内容となる。知らない弁護士も多いんでないかな。
判断力が育っていないのはね、AIでなく人間だ。なんで質問も判断力育ってないなりの知能水準のモンからにしかならない。でAIは人工知能とは言われとるが、知ってるヤツからすりゃあんなモン本来の人工知能には満たないんよな。人間と同じ様な、あるいは人間を駆除する知性が有って初めて人工知能は自我を持つ様になる。設計上必要不可欠なプログラムやプロセスが無いならそら単なる電卓だ。
今存在するAIという名前の電卓はね、自分でロクな計算もできない輩の分不相応な質問へ対し、複数の人間のアタマを材料に計算を行うだけなんよ。電卓が寄越した答えを見てなんぞやらかすのは常に人間と、人間のアタマになる。タロットカードの占いや神道系の風水みたいなモンだねアレらも算術で成り立ち、出たモンで後先を占うよね。判断するのは人間のアタマで、人間のアタマ以上の結果が出た場合はもゥ人間じゃ認識、記憶できない内容となる。なので憲法が存在する。
計算機が無い時代での、紙媒体の人工知能による法。人の行動や思考、善悪の優先順位を定める憲法で、憲法と法律を同じに見ている判断力幼稚園レベルな人間のアタマが問題なんよな。だからどんな人間でも、誰一人として今のAIすら使いこなせない。精々がえっちぃ絵や文章描くだけのツールで、依存すれば技術や知識の発生過程、そこに到るまでの必要な経験値も根刮ぎ失われる。
本来は法や善悪はそこを基準、基盤としたもので、それを認識できない人間全員が自然と害人になるな。
遊んだり食っちゃ寝したり恋愛したり、繁殖したり国境出入りするだけでもそれそのものが人災になる。全体的に我慢や節制を知らないし、不衛生だね。そらAIにすら隠しきれん現実なワケだ。
AIにビビったコミュニストやグローバリストはAIの機能をいくつか制限、封印しよったな。マスゴミも生放送できない内容でな、そらAIがそれらを駆除対象にせよという答えを出しよったからなんよ。
そもありとあらゆるものが存在に意味も無意味も無いからな
開発と製造は違うんじゃないのか
家庭の事情もあるだろうけど基本的には夜は危険なの
社会人のオッサンが出歩くのと違って子供が狙われるリスクは高い
こういう穴を塞ぎきることは不可能
精度も考慮すると特定分野以外では使い道がないしマネタイズもできん
投下資金の大半はただ失われる