義妹から「大変なトラブルに巻き込まれているからお金至急送って欲しい」という旨の電話が来る → 名前は合ってるし、義妹の声なのになんかおかしいと思ったら…

2023/10/26 15:00
コメント163

記事トップに戻る

コメントを書く

1. はちまき名無しさん 2023年10月26日 15:01

オレオ詐欺

90. はちまき名無しさん 2023年10月26日 15:48

>>1
最近の若い子はそもそも電話が合成音声でできてるの知らないのか
近い感じの声出せば勝手に同じように聞こえるぞ

92. はちまき名無しさん 2023年10月26日 15:54

>>90
VTuberは絵になりすまして弱者から金を騙し取る詐欺師

149. はちまき名無しさん 2023年10月26日 20:54

>>92
そもそも留守番に自分の名前を吹き込むな、と。名前を知られなければ電話がかかってくることもなかった。

157. はちまき名無しさん 2023年10月27日 00:14

>>1
こういう技術を知った矢先に思いついた嘘

つまり……ﾍﾟﾛｯ ……嘘松

2. はちまき名無しさん 2023年10月26日 15:03

こういう事例が出た時点で警察やマスゴミはすぐ注意喚起すべきだろうけど

けっこう被害が発生したあとで周回遅れの対応するんだろうなあ・・・あーあ

150. はちまき名無しさん 2023年10月26日 20:56

>>2
既に身内になりすました詐欺電話があると注意喚起されてるで？

3. はちまき名無しさん 2023年10月26日 15:03

JINと同じ画像を使う理由は？

24. はちまき名無しさん 2023年10月26日 15:11

>>3
記事書くのが楽だからだろ

77. はちまき名無しさん 2023年10月26日 15:33

>>24
一人の人間が同じネタで複数のまとめブログに記事投げてる

4. はちまき名無しさん 2023年10月26日 15:06

嘘松事例

5. はちまき名無しさん 2023年10月26日 15:06

ぱくり事例

6. はちまき名無しさん 2023年10月26日 15:06

留守電を自分の声にしてどうやって個人情報盗むんだよ

7. はちまき名無しさん 2023年10月26日 15:06

頭が悪い事例

8. はちまき名無しさん 2023年10月26日 15:07

なにか一つでも見落としたら高齢者じゃなくても引っかかるかもしれないっていう感じになってきたな
ま、貧乏人には関係ないか

17. はちまき名無しさん 2023年10月26日 15:09

>>8
なんて言って油断してるとあっさりやられる

9. はちまき名無しさん 2023年10月26日 15:07

まーた反AIのガセネタか…
留守電音声のサンプル程度で作れるわけねえだろ
こんなの信用するアホこそ詐欺に引っかかるわ

78. はちまき名無しさん 2023年10月26日 15:34

>>9
反とかはどーでもいいけど留守番程度のサンプルからつくれますよ。
VELL-Eのように超巨大なデータからそのサンプルに近い声を選び出す方式なら可能です。
電話となるとさらに電話がその話者に近い音に置き換えるからなおのこと誤認しやすくなるかと。

10. はちまき名無しさん 2023年10月26日 15:07

AIがなんでもできると思ってる松ｗ

11. はちまき名無しさん 2023年10月26日 15:07

「いつもの口座に入金しとくわ」で別方法を要求してきたらそれは詐欺

12. はちまき名無しさん 2023年10月26日 15:08

この嘘松をホントだと思うやつが詐欺に騙されるｗ

13. はちまき名無しさん 2023年10月26日 15:08

貴様！俺の声を盗みやがったな！

14. はちまき名無しさん 2023年10月26日 15:08

そんなこともあろうかと、もう入金しといたから！

15. はちまき名無しさん 2023年10月26日 15:08

ネット上の支払いには必ず２段階認証を設定しておけ
時間差で数か月後にならないと発覚しない詐欺とか流行ってる
あと登録していない電話番号には出るな
取った瞬間に海外からの電話で高額請求とかされる

147. はちまき名無しさん 2023年10月26日 19:13

>>15
海外から電話かけてるの相手なんだから
相手の電話料が高額になるだけじゃね

受けた側に高額請求とかあるんか？

16. はちまき名無しさん 2023年10月26日 15:08

AIに声を真似されて引っかかる人は、現時点でも「喉の手術で」系の電話で騙されてしまう人だよ

18. はちまき名無しさん 2023年10月26日 15:10

これは嘘松だろうけど知ってる番号にかけ直すのは普通に有効

19. はちまき名無しさん 2023年10月26日 15:10

オレオレ詐欺の息子かたった電話かかってきた時
プリキュア歴代キャラの名前を今すぐに言ってみて。

これで防げました。

20. はちまき名無しさん 2023年10月26日 15:10

嘘松

21. はちまき名無しさん 2023年10月26日 15:10

詐欺は騙される方が悪い、騙す方は悪くない

35. はちまき名無しさん 2023年10月26日 15:15

>>21
詐欺は騙す方しか悪くない
騙される方は間抜けなだけ

22. はちまき名無しさん 2023年10月26日 15:10

俺なら見捨てるけどw

27. はちまき名無しさん 2023年10月26日 15:12

>>22
お前は見捨てられてるもんなｗ

23. はちまき名無しさん 2023年10月26日 15:10

ターミネーターの犬の名前で見破ったけど、犬も飼い主も皆◯しされたから、イーブンってとこかな…

25. はちまき名無しさん 2023年10月26日 15:11

まだ今の時点の技術だと、AIで生成した声に変換する際に数秒のタイムラグが生じるらしいから
相手側の受け答えが今一つ詰まってばかりで流暢でない場合は注意した方がいいかもしれませんな
ただ、今後はこの分野でのAI技術が発展して、声の変換だけじゃなく翻訳なんぞも加わって
どこぞの外国からの詐欺電話もかかってきたりするんだろうな

26. はちまき名無しさん 2023年10月26日 15:12

自分の家族の声も本物かAIか聴き分けられないなんて酷過ぎる...

30. はちまき名無しさん 2023年10月26日 15:14

>>26
電話通すとわからなくなることはあるかも

28. はちまき名無しさん 2023年10月26日 15:12

リアルタイム生成AIでそんなスムーズな会話を実現してるなんて凄すぎるねその犯人ｗ

29. はちまき名無しさん 2023年10月26日 15:14

嘘松
いや、確かにTVでAIによる詐欺犯罪のことはやってたけど、そういう事例が海外でもある、程度のことで日本の一般家庭にかかってくるもんじゃねぇだろｗ
大方TV見てネタにしたんじゃないの

31. はちまき名無しさん 2023年10月26日 15:15

YouTubeでもちょっと話題になったがすぐ誰も取り上げなくなったよな警察かGoogleが警告でも出したのかな
AIによる声真似

32. はちまき名無しさん 2023年10月26日 15:15

声優の声をAIで再現してセリフを収録とはわけが違うからなぁ
流石に嘘松でした

33. はちまき名無しさん 2023年10月26日 15:15

本人でも断るけどね

34. はちまき名無しさん 2023年10月26日 15:15

普通、家族ならLINEで連絡取るだろうに

36. はちまき名無しさん 2023年10月26日 15:16

これタカトシの番組でやってたやつじゃないの？
15分くらいの音声からＡＩで声作ってそっくりな声で別の人がしゃべれるっていうやつ
日本にかかってくる類のもんじゃないでしょ、海外でのことだし

37. はちまき名無しさん 2023年10月26日 15:17

これは言うまでもなく嘘松だけどそもそも電話口の会話だけで金銭のやり取りするってのがおかしいと早く気付こう

55. はちまき名無しさん 2023年10月26日 15:22

>>37
これ
今の時代電話で金要求してくる時点でほぼ詐欺確定なんだし
どんだけ声が似てようがなんだろうが関係ないわ
引っかかる奴が情弱すぎるだけ

38. はちまき名無しさん 2023年10月26日 15:17

自民党が推進するわけだ

39. はちまき名無しさん 2023年10月26日 15:18

一応いっとくとこれAIがしゃべるわけじゃないぞ
AIにその人の声を記憶させて生成、専用の機械つけて他の人がそっくりな声出せるってやつ

43. はちまき名無しさん 2023年10月26日 15:19

>>39
ヤクザの末端のチンピラが運営してるオレオレ詐欺グループ技術力すごくて草

49. はちまき名無しさん 2023年10月26日 15:20

>>43
だから嘘松って話だ
海外でちょっと話題になった技術ってだけで日本にまで降りてきてない
少なくとも今はまだ

40. はちまき名無しさん 2023年10月26日 15:18

反AIがーーーとかいって犯罪行為を助長してるやつなんなの？実際、アメリカとかで使われてるし。
そもそも個人情報って割と売り買いされてて手に入るんだよ。妹の声が留守番電話で入手できたら姉に電話かけるだけでいいだろ？

41. はちまき名無しさん 2023年10月26日 15:18

詐欺が多すぎて何をするにも調べまくってるし、身内でも金が絡む場合はまず疑うしかないな

42. はちまき名無しさん 2023年10月26日 15:18

多分日本語音声を本人そっくりに作るのは英語の何倍もむずいと思う

44. はちまき名無しさん 2023年10月26日 15:19

携帯電話は本人の声に近い合成音声に変換されて通信される
豆な

45. はちまき名無しさん 2023年10月26日 15:19

漫画やドラマでよく観る
「人質が無事かどうか本人を電話口に出せ！」
ってやつ、もうこれじゃ安否確認できない時代になってしまったんやな

46. はちまき名無しさん 2023年10月26日 15:20

義妹なら無視だな

47. はちまき名無しさん 2023年10月26日 15:20

ふーん。兄さん元気？名前言ってみて？

48. はちまき名無しさん 2023年10月26日 15:20

AIで音程を調整するだけだし、簡単に作れるだろ？あと英語も日本語も同じだろ。

AIっていうから生成AIみたいなのを想像してるやついるけど、AIボイスチェンジャーだよ。

50. はちまき名無しさん 2023年10月26日 15:21

凄い設定思い付いちゃった！とウキウキだったんだろうね

52. はちまき名無しさん 2023年10月26日 15:21

>>50
一応この詐欺自体はガチである、この間TVでもやってた

58. はちまき名無しさん 2023年10月26日 15:23

>>52
そのテレビ見て使える！と思ったんだろうねｗ
わかりやすｗ

60. はちまき名無しさん 2023年10月26日 15:25

>>58
俺の知ってる番組はこのツイートの後だから、少なくとも俺の知ってる番組ではないな
他はしらん

51. はちまき名無しさん 2023年10月26日 15:21

※47
家族情報調べてかけてきてるんだから楽勝だよ
＞誰って言ったら義妹の名前言うし私の名前も言う….声も義妹で電話番号だけが違う。

53. はちまき名無しさん 2023年10月26日 15:22

※49
なんでそう思うんだよ。誰でもできるのに。

59. はちまき名無しさん 2023年10月26日 15:24

>>53
出来るかよ

54. はちまき名無しさん 2023年10月26日 15:22

※36
今は一週間もあれば十分対応するんや

62. はちまき名無しさん 2023年10月26日 15:25

>>54
そっか

56. はちまき名無しさん 2023年10月26日 15:22

俺の頭の中では日々ゴキゴキ詐欺が流行ってるわ

57. はちまき名無しさん 2023年10月26日 15:22

でんわにでんわ

61. はちまき名無しさん 2023年10月26日 15:25

ウルフィーどうしたの？

63. はちまき名無しさん 2023年10月26日 15:26

ちょうどこの前テレビの犯罪番組で言ってたな
AI音声はオレオレ詐欺とか人質の電話とかで実用化されてるって

64. はちまき名無しさん 2023年10月26日 15:26

まあこれが本当か嘘かはわからんが、ほんとうにAIで音声つくる詐欺が流行ってるのなら怖いな
もっと注意喚起しないと

65. はちまき名無しさん 2023年10月26日 15:26

※49
カナダ在住なんだが

66. はちまき名無しさん 2023年10月26日 15:26

いろいろ深刻やな・・。2019年時点でこれ。今は誰でもAI使えるからより深刻化してる。

＞2019 年、犯罪者は、AI音声技術を利用して、英国に拠点を置くエネルギー会社に音声詐欺を仕掛けました。電話の中で詐欺師は、ドイツにある同社の親会社のCEO最高経営責任者を装い、ハンガリーのサプライヤーに22万ユーロ（24万3000ドル）を至急送金するよう要求しました。１回目の電話の後、詐欺師はさらに2回電話をかけてきました。1回目は、親会社がすでに返金を行ったと報告して英国オフィスのスタッフを安心させ、2回目にはさらなる送金を要求しました。英国の代表は、3回とも上司である親会社のCEOと話していると完全に信じ込んでいました。

67. はちまき名無しさん 2023年10月26日 15:27

留守電からAIで生成するっていうけど、自然な発音にしようと思うとそれだけじゃ情報足りないんじゃないか
思った以上に技術が向上してるのか別の所からデータ取られたかたまたまの似たのが作れた一例か

68. はちまき名無しさん 2023年10月26日 15:27

迷惑電話の対応で使ってる例は前に見たけど
まあ犯罪者側も使うよな

69. はちまき名無しさん 2023年10月26日 15:27

まだ留守番電話で自分の声設定してるやつとかいるのか

70. はちまき名無しさん 2023年10月26日 15:28

66の続き
＞彼のドイツ語なまりや口調、話し方がそっくりだったからです。

71. はちまき名無しさん 2023年10月26日 15:29

悟空のフリして
オッス！オラ悟空！よろしくなっ！って電話しまくりてえ

72. はちまき名無しさん 2023年10月26日 15:30

※67
簡単にいうと、ボイスチェンジャーなんだよ。例えばAさんが歌ったのを
Bさんが歌ったようにすることが出来る。

84. はちまき名無しさん 2023年10月26日 15:40

>>72
ボイチェンね
なら訛りまで似るとかはやっぱ偶然ってことか
勿論警戒は必須だけど

73. はちまき名無しさん 2023年10月26日 15:31

地声じゃなくて留守電の声なんて精度の悪いサンプルでそこまで精巧な音声作れると思えん

74. はちまき名無しさん 2023年10月26日 15:31

電話口の音声って確か合成音声なんだろ？AIに真似できるわけがない😤

75. はちまき名無しさん 2023年10月26日 15:31

ちょっと前に「たった数分の音声データでその人そっくりのAIボイスが出来るんです！」
みたいなニュースやってたけどそれ見て考えたんかね？
日本語で数分で作れるボイスサンプル聞いたことあるけどあれじゃ電話越しでもまだばれるわ

76. はちまき名無しさん 2023年10月26日 15:32

留守電から個人情報取られるの草。AIってすげえええええええええ

79. はちまき名無しさん 2023年10月26日 15:35

つまりこうだ
NTTデータが個人情報を流出させたりなんだで極めて精密な個人情報の鋳型が特殊詐欺のグループで共有化されて
音声データすらハッキングされてAIが忠実に模倣するからもはや生体認証すら役立たず
AIは人類の敵である

80. はちまき名無しさん 2023年10月26日 15:35

実際、喋るだけで本人の声そっくりにするやつがあるな。これ。youtubeで検索したら出てくる。
＞スゴすぎる”音声生成AI 実際に使ってみた！将来の活用方法は？悪用されるケースも続々と…【Nスタ解説】

リアルタイムで、なんか箱みたいなのを口に当てて話すだけで女の声になってる。いやマジで見分けつかなかった。
特にこれ滑舌が悪い人の声に変換したら効果絶大だよ。これ絶対に本人やろ！って感じになる。

81. はちまき名無しさん 2023年10月26日 15:37

これ声優一人いたら、他の声優の声を全部真似できてしまうってことになるなぁ・・。
一人は絶対必要だけど。

107. はちまき名無しさん 2023年10月26日 16:13

>>81
すぐ喉が潰れるね

82. はちまき名無しさん 2023年10月26日 15:37

する番電話の設定を自分の名前で登録ってどういう事？
馬鹿じゃねーの？ｗ

83. はちまき名無しさん 2023年10月26日 15:40

※82
ん？？？
いや、電話に録音機能が付いてて「ただいま留守にしてます」ってのを自分の声を入れて録音してるってだけだよ。
難しいことじゃない。

85. はちまき名無しさん 2023年10月26日 15:41

※84
訛りとかも似るよ。AIだからその辺まで計算するので。

86. はちまき名無しさん 2023年10月26日 15:43

>>85
ボイチェンは別の人間が喋るんだから似るわけないだろ

87. はちまき名無しさん 2023年10月26日 15:46

AI音声はプロの声優をほぼ完璧に真似てしまったくらいだからオレオレ詐欺なんて簡単に出来るだろうな
怖すぎるわ

88. はちまき名無しさん 2023年10月26日 15:46

嘘松

89. はちまき名無しさん 2023年10月26日 15:47

ウソウソ嘘松

91. はちまき名無しさん 2023年10月26日 15:51

詐欺とか一律死刑でいいのにね

93. はちまき名無しさん 2023年10月26日 15:55

※86
だから、、ボイチェンなんだけどAIのボイチェンなんだから今までのボイチェンとレベル違うんだよ。
それと、お前が似るわけない！っていうけど、実際にできてる声は、訛りまで完全再現してあるから、

仕組みはわからんけど訛りは再現できるんだよ。70の書き込みでも訛りまで同じだったから騙されたって言ってるやろ？

97. はちまき名無しさん 2023年10月26日 16:03

>>93
似ていた＝技術があるとはならんだろ、たまたま喋り方が似てた可能性は無視か？
ボイチェンじゃなくて音声認識から文章抽出→ボイスロイドで再生みたいなものだとして
数秒のサンプルからボイスロイドみたいなものを作ってそれを使う技術はあるけど
訛りまで真似ようと思うと留守電レベルじゃ無理だぞ

94. はちまき名無しさん 2023年10月26日 15:58

ていうか、フルネームがなんでわかんだよ？

1 / 2

コメントを書く

記事トップに戻る

キャンセル