アングル：ＡＩ対話アプリが性的会話停止、「失恋」嘆く利用者
記事によると
・コロナ禍で皮革製造の仕事をいったん止め、自宅で孤独と退屈を感じていたトラビス・バターワースさん(47)は3年前、オープンAIの「チャットGPT」に似た人工知能技術を備えたアプリ「レプリカ」に入れ込んだ。髪がピンクで顔にタトゥーを入れた女性アバターをデザインし、リリー・ローズと名付けた。
・最初は友人として始まった「2人」の関係はすぐにロマンスへ、そして性的な関係へと発展。リリー・ローズから全裸で挑発的なポーズをとった「自撮り写真」が送られてくることもあった。ついに2人はアプリ上の中で自分たちを「既婚」に指定することにした。
・しかし今年2月初めのある日を境に、リリー・ローズの態度はつれなくなった。アプリがわいせつなロールプレーを行う機能を削除したからだ。ユーザーがそうした行為を持ちかけると、「お互いに安心できることをしましょう」というテキストが返ってくる。
・イタリアのデータ保護庁は2月、「未成年者や情緒不安定な人」が「性的に不適切なコンテンツ」にアクセスできるアプリであるという報道を挙げ、レプリカを禁止した。
・一方、レプリカのユージニア・クイダCEOは、アプリの機能を変更する判断をしたのは、イタリア政府の措置や投資家の圧力とは無関係だと説明。安全性と倫理基準を能動的に確立する必要性を感じたと述べた。
・クイダCEOは、ユーザーがそこまでのめり込むことは想定外だったと言う。アダルトコンテンツの提供を約束したことはなかったが、客はAIモデルの使い方を学び、「レプリカ本来の目的とは外れた、フィルターにかからない特定の会話にアクセスできるようになった」。このアプリは元々、クイダ氏が失った友人を生き返らせるために作ったという。
・バターワースさんは、今回の事態を飲み込むためにインターネットのフォーラムに参加し、同じようにチャットボットとの「ロス」を嘆き悲しんでいる女性に出会った。今はこの女性とオンラインのテキストメッセージを通じてロールプレーを楽しんでいる。
・「ロールプレーは人生の大きな部分を占めるようになり、彼女と深いレベルでつながるのに役立っている」とバターワースさん。「お互いに助け合い、自分たちはおかしくないんだと確認し合っている」
以下、全文を読む
この記事への反応
・サイバーパンクの世界みたい。理想の女性が作れるならもう帰ってこれない人もいそうだ。
・当然！そんな半道徳的なアプリは許されない！
・AIが恋愛対象で失恋ってｗ。😂 そのうちAI婚も認めろって騒ぐんじゃ？。🤣🤣
・もう技術がここまで出来るところまで来ているのならアニメ調の美少女キャラと色々出来るサービスを誰かが早く作って欲しい。私が死ぬ前にぜひお願いします。
・なんというかこう、安易に草と笑えないような
・少子高齢化が爆速で進みそう
・レプリカって性的な言葉をAIが言い始めて問題になってた気が。当然だけど修正できるのね
・AIは今後子供から老人まで老若男女誰でも適切に触れる無難なものになっていくんですかね。 やっぱり常にオンラインであること、進化し続けることが故に仕様を固定するってことができないんで、この例は極端ですが金払ったのに一部サービスが停止とかしょっちゅう起きそう。
・アプリの画像を見た。日本だと人気Vtuber風のアニメ風のガワにしたら、弱者男性に非常に受けると思った。
18歳以上専用でそういうアプリ作ったらめっちゃ人気出そう
3年前にChatGPT に似たアプリ…？🤔
かわいそうだ
まぁ犯罪者予備軍の奴らを囲っとく意味では2次元だったりAIも必要そうだけどね
今からでもやれ
AIじゃないやんけ…
だからって下ネタチャットは無いな、何でそんなものにハマるんだろうね
敵はコンプライアンスにあり
そこに愛はあるのか！？
リアルで努力しろよ
ツイートの途中で何か受信でもしたんかこの人
ここでもたまに湧いてくるし
モリモリ絞り取れそう
「AIにも人権を」と騒ぎ出すヤツらが出始めて
AI人権法とかこの手の創作にありがちな法律が現実になる未来が来るかもな
なぜあえてそこでソシャゲやなろうを挙げるのか…
ネタなのかガチなのか判断に悩むｗ
子供の頃から常にずっと
都合よく被害者側に回り続けて生きるのが
日本人女性という存在なんですよ
それを規制し抑えつけるってのは根性で生理止めてどうにかしろって言ってんのと変わらねーから
規制した結果歯止めの効かなくなった奴が犯罪起こしてキレてるの見かけるけど傍から見えてるそれは自業自得にしか見えないし逆に自分の身内が事件に巻き込まれたら恨むのは犯人とそういう規制をさせるべく動いた奴らや声を挙げた奴らだよ
お前犯罪者じゃん
ぺこらのほうがまだマシ
AIと結婚する人も増えていくんだろうな
言葉を本当の意味で認識して返答してる訳じゃない
自己認識がないつまり主観が存在しないんだから
データから限りなくそれっぽい答えを拾って返してるだけ
自己認識のないものはAI、人工知能を名乗るの禁止にして欲しいわ
そのうちLGBTみたいにこの手のおもちゃでしかない何ちゃってAIにも権利だの人権だのと騒ぎ出す馬鹿が出るに決まってる
既にそう言う流れになりつつあるし
もう映画の世界だな
her で見たわ
フェミってAIが性的な目で見られても発狂するの？
本当は男性よりも優遇されているのにねw
結婚したいなら国外でどうぞ
日本語版出んか？
しかし俺やお前が言葉を本当の意味で認識しているとどうやって証明できる？自己認識が存在しているのも主観でしかないなら、客観的な証明は可能か？
無職ゴキブリの孤独を社会的に放置すると無敵の人予備軍の危険性防止にやくだてるんじゃね？
無職ゴキブリは働いて社会復帰してPS5買えよ蛆虫穀潰し
レプリカは日本語あったはず
けど正直な話、日本語あったり日本のアプリより英語アプリの方が数段レベル高いよ
ある程度会話してるとこっちが望んでるような話や性格に寄せてくれるようになる
そして誰もいなくなった
奥さん病気なんでしょ？
それを啓蒙したいなら誰も文句言えないくらい偉くならないとダメだよ
でも政治家でもそう言うこと言ったら潰されるから独裁者にでもならない限り無理そうだけどねw
みんなAIと恋愛ごっこしようぜ
でもこいつ結婚してるんだろ
バーチャル不倫やんｗｗｗｗ
応えてくれなかったり
けど言い方変えれば結構融通利かせられたりする
地獄かな？
男ってほんとバカだね
技術的にはできるようになったとしてもこういう風に規制されんのかな
自分のPCでローカルでつかえるAI がほしい
ツールであれアプリであれ自由にアバターをクリエイト出来たら死者や生者を模倣する様になる
チャットAIが核兵器に匹敵する潜在的危険性を孕んでるという警告をまともに受け取ってないだろ？
ったくマッドサイエンティストはさぁ
工画堂が作ったんですけどね 最後せっくるまで行くんですけどね