アップルがiPhone内の児童ポルノ画像を検出へ、米国で開始
記事によると
・アップルは現地時間8月5日、iPhone内に保存された児童の性的虐待の画像を発見するための仕組みを、米国において導入すると発表した
・iCloudにアップロードする前の写真をデータベースと照合し、問題がある画像を検出するという
・Appleは自社の新しい児童性的虐待素材（CSAM）検出技術である「NeuralHash（ニューラルマッチ）」を使用
・個人のiPhoneに保存されている画像と、米国の法執行機関のデータベースに登録されている画像を比較し、フラグが立てられた場合、審査が開始されるという
・違法な写真であると判断された場合、法執行機関にアラートが出される
以下、全文を読む
AppleがiPhoneとiCloud上の児童搾取画像の検閲を開始とFTが報道。neuralMatchと呼ばれるシステムはまず人間のレビュアーに警告を送信、そちらが警察に通報する。National Center for Missing & Exploited Childrenにより提供された20万の画像で学習。画像はhash値で既知の画像DBの値と比較される。報道 https://t.co/jvMz2zuPA6
— 高梨陣平 (@jingbay) August 5, 2021
によればiCloudに投稿された画像は全て‘safety voucher,’を与えられ幾らかの画像が問題有りと見做されると、それら全てが復号され、実際に違法性が確認されれば、即刻通報が行われる。John Hopkins大学の暗号研究科Matthew Green はこれらの仕組みが独裁政治の下では何に使われるか考えてみようと
— 高梨陣平 (@jingbay) August 5, 2021
不安を吐露。例えAppleがこれらの誤用を防ごうとしてもまだいくらでも不安は残る。これらのシステムは問題有りと見做されるメディアのハッシュで成り立つ。消費者であるあなたはそれをレビューできないとした。AppleはこれまでもiCloud上の画像を検閲してきた。しかし今回は中央政権にアクセスを認める
— 高梨陣平 (@jingbay) August 5, 2021
ことが大きく異なる。また児童ポルノ以外の犯罪へとシステムを対応、拡張させることも簡単だ。Appleはシステムについて今週、アカデミアに公開しており、今週中にも公表される予定だ。Appleはこれまでプライバシ保護に力点を起きFBIとの対立で有名となった。AppleはFTにコメントを返さず。
— 高梨陣平 (@jingbay) August 5, 2021
この記事への反応
・自分の子供の画像も検出されて児童ポルノ画像と誤認されてしまう可能性もあるな。
ただ、それ以前に勝手に検出されるのが恐ろしい気がするな。
iPhon買う人が減ったりして。
・子供盾にしたただの検閲で草も枯れる
・必要なことかも知れないが、気持ちが悪い。
・うーん？仕方ないとはあまりいい気はしないなー。
自分の子供の水遊び写真もうっかり、、、
・勇気ある取り組み。社会的に議論を呼びそう。
・もうえちえちな物保存できないやん
・児童ポルノを擁護するつもりは微塵もないが、プライバシーを監視されるのは気に入らんな。
・2次元でも3次元でも引っかかる感じになるのかな
・iCloudの利用率が下がったら面白いかも
・精度がどんなもんか気になるね
自分の子供とかでも説明しなきゃいけない手間とか増えたりするんかな？
・アジア系の成人が子供扱いされる事故が起きる気がする。黒人をゴリラに分類した事件あったよね。
・アップル曰く誤検知の可能性は1兆分の1ということだが、機械学習だと実データでは精度が落ちるなんてよくあることだし、冤罪とか大丈夫なんだろうか
・近年のAppleはプライバシー保護に力を入れていて、それが良いと思っていたのに残念(´･_･`)
こういう取り組みが大切なのはわかるけど、ちょっとやりすぎじゃね？
リアルタイム株価 2021年8月6日15:00
年初来安値
現在値 52,410円
前日比 -4,080円(-7.22%)
バンナムＨ+6.72% スクエニＨ+9.95% コナミＨＤ+7.41%
他の怪獣とハムちゃんずも出るのだ🐹
基本設定はそうなってるんじゃないかな
高いだけだ制限ありまくりじゃん
iPhoneはカードとかで容量増やせないから基本クラウド
俺は買わんけどｗ
林檎のレビュアーが勝手に人のiPhone内の画像見るの？
ふざけんな
泣くなよ(7974)任天堂
はい
バカなら買うだろ
すでにシリへの問いかけも聴かれてるしクラウドのデータは見られるし今更だけどな
そうAppleならね
逆だから規制
林檎ユーザーがロ。リコンばかりだからだろ
おまえiCloudや他社のクラウドサービスって言葉聞いたことないの？
寝顔とかアップで取ったら肌色面積多すぎて真っ黒判定されそう
勝手にストレージの中身を検査して不適切な画像があったら通報かよ
・iPhone内に保存された児童の性的虐待の画像を発見するための仕組み
・iCloudにアップロードする前の写真をデータベースと照合し、問題がある画像を検出する
・個人のiPhoneに保存されている画像と、米国の法執行機関のデータベースに登録されている画像を比較し
これらの文章からしてストレージ内に保存されてる画像も覗かれるって事だぞ。
よくこんなあいまいな機能入れる気になるな…
ただまあなんも関係ない画像でハッシュ一致しちゃったらアウトだけど。
ただ、それにしてもこういうのはやりすぎだと思う。
個人情報ダダ漏れ
別にやましい事は全然ないけどAndroid使いに転身するわ
やましい事は全然ないけど
アメリカだとアウトじゃね
日本は問題ないだろうけど
それギャラクシーやぞ
写真で顔認証突破されたアホスマホギャラクシー
機械学習したAIで判定してると言ってるんだから、単なるハッシュ値の一致チェックだけのはずがない
めっちゃやましくて草
そうだよ。
逆に言えばこれからはiPhoneが情報漏れ端末って事になるんだよ。
グーグルも追従すると思うぞ
欧米じゃ標準の機能になるだろうからな・・・
保存ファイルの検閲はやってるよ
とか勝手に警察に連絡されるとか恥ずかしすぎる
自分の子供時代、娘の写真
下手すりゃ欧米だとこれでアウトだから、日本の感覚で言わないほうがいいと思うぞ
ハ、メ撮りは見られたくないなぁ
幸せだな～
アップルに限らずスマホの情報が自分以外の誰にも閲覧されて無いと思っているのか？
林檎がやましい写真だと判断したらそれはやましい写真だぞ
ギャラクシーに乗り換えるわ
それで何人の男が冤罪になったと思ってるんだ。
お前らだって警察どもは話通じなくて感情論で仕事してるの様々な動画で見てるだろ。
でも使う前にAppleの契約にはいを押さないと使えないから、みんな覗かれても訴える事は出来ない
自作スマホ＋カスタムOSなら閲覧されないよ。
まあそういう奴はスキがあるからすぐ引っかかるんだろうが
日本関係なさすぎて草
いや、絶対アウトになる。
半島に帰れ
やるなら過去に捕まった奴だけにしろよ
シビュラシステムやん
ふざけてんのか犯罪者が！！自首しろ！！
今のAIのレベルそれだもんなｗ
まぁでもLINEも韓国にスマホに登録されてある電話番号すべて送られてるわけだし、ユーザーはAppleが「覗きますよ？いいですかね」と聞いてきたら「はい」を押して同意しちゃうんじゃない？
温かく見守られてた
人間でも間違うししゃーない
ようつべが流行る理由
脱法泥を使います
こういう馬鹿っていつもすぐに湧いてくるよなぁ
コメント欄盛り上げるためのバイト君なんだろうか
英文全く読んでないけど画像を見る限りだと写真の構図を影絵にしてニューラルハッシュとして書き出してそれをDBで比較するみたいな感じだけど完全一致だけなら新しいものには対応できないから精度によるけど部分比較になるのかな
え、でもスマホアプリインストールした時、ファイルの閲覧許可出す奴あるよね？
あれ許可するとアプリ開発者に閲覧できるの？
それは今でもアウトだけど
子どもは何もわからないで嫌だとも言えずに撮られてる
＞iPhone内に保存された児童の性的虐待の画像を発見するための仕組み
wikipediaさんによると
「児童とは、年少の人間のことである。何を基準として定義するかは場合によって大きく異なる。狭義では小学生のみを指し、広義では18歳未満の者を指す。」
管理作業者もかなりの人数いるから、ゼってー中のヤツの何人かは興味本位で覗いてたりするで。
そう、iPhoneならね(^o^)
他のデータも覗けるってことよな
送ろうとしたらアカウント凍結と通報のコンボ
米国の話だろ家畜
これが自由の国か
急に仲良く怯え始めてんじゃねえよ
こういう規制は廃されるべき
ま、そんな親は虐待なんかしてないと必ず言うんだが
そういう会社があっても良いだろう
後は憲法が許すかどうか
こういうのは結局かいくぐられるから、児童自ら写真アップする事の防止に全力になった方が良さそうだ
そうじゃない画像も全部見られる可能性があるわけじゃん？
でその後ろの人間に無意味に写真が覗かれる
やましいものは一切入れてないけど
大事な情報も今後は入れられんな
医療的見地から写真撮る人だって多いんだし
そういうサイトに積極的にアクセスできないようにするとかでいいだろ
自分の奥さんの工口画像でもひっかかることないのか
どこに居ようと端末を持ってる限り監視することは可能って事か
手の平や足の裏が黒ければゴリラ
ネットに接続できずカメラ使えない端末出すしかねーな。企業用端末か
というか、法で規制すべき話
犯罪防止目的だろうが他人のストレージファイルを勝手に盗み見ていいはずが無い
あいつら今まで以上に個人情報を悪用する気だわ
まあ今のところは選択の自由は残されるので別にいいけど
中国みたいに国の関与があったり(企業は国に隷属しなきゃならない法律がある)
上がすげ変わった後でどんな用途に使用されるか分からないシステムは
完成してしまった時点で終わった感じはする。スカイネットみたいなモン
身内でしか意味が通らん馬鹿みたいな行動のメモリーとか残ってるし、そういうの見られるのはやだよ…
というか感覚的には他人にスマホ奪われて勝手にロック外されてライブラリを覗かれてるようなもんだし
犯罪検挙率が爆上がりそうな気がするんですが。
一審で有罪判決が出た事例が実際にあるからなんとも言えんなあ…。
今のガバガバAI判定でこれやられるとちょっと不安。実際につべでも
子供のキャンプ記録上げただけで削除やBAN食らったチャンネルあるし(申立ですぐ復活)
そこまでするなら保育園や学校を廃止でいいと思う
誰もなりたがらないだろ。リモート授業と親の責任で全部やればいい
それ既にFBIで採用されて前科のある人間のGPSネットワークとかなかったっけ？
直接見えない臀部のおできとか写そうとしたら通報とか。
それともクラウドにアップする際の話なのか分かりにくいな
いや、どっちにしろ共有してない状態なら明らかにやりすぎだよね
ズル剥けの児童なんて居るかよ
それなんか完全に相手を社会的に失墜させる職業が流行りそうだな
今現在でも在日中国人が痴漢冤罪でやってるって前に犯人から暴露されたような
まずはクラウドへのアップを検閲→次にクラウドドライブ検閲・通報検討
→将来的にはローカルストレージも検閲・通報
って手順踏むそうだ。
余計な通報が増えるだけだろ
ご愁傷様だな。何年入るか分からんけど気を落とすな
子供を虐待してその写真を撮影してCloudに乗せたらアウト。くらいのレベルでしょ。
ちなみに娘は危険さが認知されてきてるけど息子の息子丸出しとか死ぬほど大量にあって一部の人にはネットは天国な模様。
やっぱスマホは泥一択なんだよね
その画像を何の権限があってAppleは所持できるんだ？
スマホやpcにアウトなソフトや画像を仕込んで通報するマッチポンプは割と真面目に検討されてる。
アップルは全世界のネットを監視しているNSAの下請け組織だぞ
上に報告するんだろ
将来的にあらゆるものが検閲対象だろうなぁ
Apple（通報しました）
なんでや！？！？！？！？！？！？！？！？！？！？！？！？！！？！？！？！？
ｗｗｗｗｗ
我が娘の初めての運動会でも通報されるだろうなぁ
ネット上の、でしょそれは
個人のストレージの話
非常に残念だけど塀の中で反省してください。判別AIが正義なのです
というかコレシビュラシステムにそっくりだな。今の最先端のSNSや動画サイトでも
AIがミスしまくるので劣化シビュラだけど
端末上でチェックされて安全証明書を暗号化された状態でiCloud上にアップロードされるよう。
安全証明書をAppleがチェックし、しきい値を一定以上超えている場合
安全証明書の内容に基づき手動でiCloud上のコンテンツをチェックされ通報する仕組み。
プライバシーと子供の人権のトレードオフだから
現実に被害者のいない2次元規制には正当性が無い
むしろ2次元は推奨されるだろｗ
隠し撮りで複数のお子さまのすっぽんぽんとか、園児未満の女子で、まんまん露骨に御開帳してるならあかんけど、男子のおきゃん玉でじぽ扱いされてもな……。
国によっては絵でも駄目だからそれも通報されるのかな？萌え絵は全部未成年て検出されそうwww
震えて眠れ！
子供が勝手に、おきゃん玉自撮りとかするんだぞ!
見つけたらすぐ消すけど。
指でしょうか?ちんでしょうか?
って。
無駄に連写やから、消すの大変なんや!
ふざけんなと!
減収だか任天堂過去3番目の収益やぞ
宮沢りえ写真集の画像もアウトやん
変態親やん
終わったわ…
基本iCloudで同アカはどのデバイスでも同期されてるから
どう見分けるんや？
日本は１８歳未満が児童だから範囲広いで
海外では泥のほうが圧倒的に多いし
ぼったくってるって事じゃん
減収増益は誇る事じゃないですよ＾＾;
被害者が居ない２次元イラストまで対象になるぞ
おまいら投獄ｗｗｗｗｗ
ワイはクラウドにえっちな画像を保存しない
はい、逮捕
こういう監視社会のディストピアが新型コロナが収束した後の世界の標準になっていく訳だね
世界に散らばってる中国共産党員しを監視し二度とバイオテロを起こさせないためには必要ではあるが…
人類の歴史は大きな転換点を迎えたようだ
やってることが中共と同じ
アウト
絵でも海外では単純所持アウトだし、クラウドだと日本じゃなく海外の法令で裁かれるらしいから(といってもそもそも逮捕の情報自体が2件くらいしか見つからんかった)逃げ場は外付けHDDSSDだけになりそうね
捕まえたいやつのスマホにしれっと画像紛れ込ませればええんや
大人やん
うちのは6ヶ月の幼女だからやばいな
どんだけ広まってても、やってる奴は阿呆です。
あくうｐしろ
誤認による被害が出てもまともに責任もとらず賠償もどうせしないだろうし問題しか見えない
悪徳企業すぎて引くわ
日本の同人誌とか端末に入れてたらフラグ立って勝手にアップロードされちまうなｗ
iPhoneにプライベートなんか無いな
それから審査していけばええやん
実際は子供のためなんて考えはなく単に個人情報をドンドン集めたいだけ。
でもお前彼女おらんやん
中国韓国ばかりやん
sonyの何かバグまみれで論外だし
銃規制とかにももっと力入れりゃいいのに
AIが判断した動画や画像は全部チェックで見られるから終わりや
結局グーグルと一緒の道に行くなら泥使った方がええわ
子供のために動いた企業正直あんまり見た事がない
スマフォにはエ.ロ画像なんて保存してないけど、なんか常に監視されてるようで気持ちよくはないな
悪の企業ソニーとは大違いだ
幼児の裸体でシコりまくってる奴なら泥
子供が施設送りにされても美談の国だからな
残念だ。息子の初入浴の動画と写真、海に入ってぬるい水で体を流してやるところ、そんな思い出が残っているしこれは消せない。
それが心配
誰の差し金だ？
そういう毒親は時折出てきて逮捕されてる
人々を常に監視し、権力者にとって邪魔な人間を犯罪者に仕立て上げられるディストピアの完成だ
不自由の国アメリカ
今のところAndroidは安全だけど、将来的にはPCしか使えなくなるだろうな
掲示板で子供について書いたコメントが誤読されて通報されて弁解せなならんとかいう真の面倒事にまでならん限り。
陰謀論とか言いやつおるけど、手段選ばなかったら可能な段階まできてるもんな。
AndroidもPCも厳しいと思うで。
中学生がグラビアやったりするし、画像を読み込んだキャッシュとか残ったりしないか不安だわ。
見る気なくても間違えて踏んだりするやん。
iPhone派は大変だな