Samsung、ChatGPTの社内利用で3件の機密漏洩
記事によると
・韓国이코노미스트(Economist)は3月30日、Samsung Electronicsが社内でChatGPTの使用を許可したところ、機密性の高い社内情報をChatGPTに入力してしまう事案が発生したと報じた。少なくとも3件が確認されているという。
・事案の詳細は、1件目が、半導体設備測定データベースのダウンロードソフトに関するエラーを解消するため、ソースコードをChatGPTに入力して解決策を問い合わせたもの。2件目が、歩留まりや不良設備を把握するプログラムに関するソースコードをChatGPTに入力し、コードの最適化を図ったもの。3件目が、社内会議の録音データを文書ファイルに変換後、ChatGPTに入力し、議事録を作成したものだという。
・ChatGPTでは、入力されたデータを学習データとして活用する場合があるため、機密性の高い内容を入力すると、不特定多数にその内容が流出する恐れがある。これについてはOpenAI側でも、ChatGPTを利用するユーザーに対し、機密情報を入力しないよう注意喚起している。
以下、全文を読む
この記事への反応
・開いた口が塞がらないとはこのこと
・誰でもうっかりやってしまいそう
・リテラシーの問題だけど、お粗末だなぁ…😅
・あー、こうゆうの出てきちゃったかー
・Samsongが気づいたこと自体が凄い。恐らく殆どの企業では漏洩した事自体を検知できないのでは。
・だから人間は不完全で間抜けな存在なのです。
・これな。会社で使おうとするとこの問題が出てくる。
・ChatGPTを会社から使えないようにする必要性ってこういうところにあるんよな 一定数働かない奴とこんなことするバカな社員がいるからね🙄
これ、絶対日本でもやらかしてるやつおるで
最終コーナーに突入した
住所不定無職の社会のゴミ共!😡
今から仕事を探すんだ!😡
ゴーオン絆スペシャルで
チェッカーフラッグされたいのか!😡
2023.1.24 02:00 はちま起稿
・米マイクロソフトは、チャットボット「ChatGPT」などを手掛けるオープンAIに100億ドル(約1兆3000億円)投資する。投資は複数年にわたって行われる見通し。
・マイクロソフトは1週間足らず前に1万人の削減を発表したばかり。ただ当時の発表で同社は、重要な優先分野では投資と人材採用を続けると説明していた。
・オープンAIは23日の発表文で、マイクロソフトによる投資により「独立した研究の継続が可能になり、安全性と有用性、力強さを増した人工知能を開発できるようになる」と説明した。
2023.2.23 00:00 はちま起稿
・米新興オープンAIが開発した対話型人工知能「ChatGPT」について、中国の規制当局がアリババ集団など国内の主要IT企業にサービスを提供しないよう指示したことが分かった。利用者の質問に対し、習近平指導部に批判的な回答をしかねないと警戒しているとみられる。
・チャットGPTに類似した独自サービスを提供する際にも、事前に規制当局に報告する必要があるという。
・チャットGPTは中国では公式には利用できないが、一部のネット利用者はVPN（仮想私設網）を通して使っている。中国で利用者の多いテンセントの対話アプリ「WeChat（ウィーチャット）」では、チャットGPTの機能を提供するとうたう他の企業によるサービスが多く公開されている。
・関係者によると、テンセントは中国当局の圧力でこうしたサービスの一部提供を中止した。
2023／3／28(火) 12:05配信 ITmedia NEWS
これらの企業は業務に大きな影響を与えるChatGPTを、なぜ従業員に使わせようとしないのか。それはChatGPTに入力するプロンプト（ChatGPTに対する指示を表したテキスト）を通じた情報漏えいのリスクがあるためだ。
気付かないうちに、重要情報を入力するリスク
英国のNCSC（国家サイバーセキュリティセンター）は、GPT-4が発表された3月14日に公式ブログ上で「ChatGPTと大規模言語モデル：何がリスクなのか？」と題された記事を発表している。その中で同センターは、英語で「口は災いの元」を意味する慣用句「loose lips sink ships」（緩い唇が船を沈める）をもじって「Do loose prompts sink ships？」（プロンプトは災いの元？）と問いかけている。プロンプトはAIへの質問や指示と、それを補完する情報で構成されている。例えば「謝罪文を書いてください」というプロンプトであれば「書いてください」が指示で「謝罪文」が保管情報となる。NCSCのブログでは、後者を「コンテキスト情報」と表現し、ユーザーがChatGPTからの返答の精度を上げるためにコンテキスト情報を追加することを「プロンプト補強」（プロンプト・オーギュメンテーション）と呼んでいる。
2023／3／28(火) 12:05配信 ITmedia NEWS
問題はこのプロンプト補強をするために、ユーザーが多くのテキストやデータをChatGPTに与えがちという点だ。例えば「謝罪文を書いてください」を実際に入力してみると、ChatGPTからこんな答えが返って来る（モデルはGPT-4を使用）。これだけでもかなり優秀だが、実は謝罪したい問題は、プロジェクトの遅延に関してだった。それを踏まえて、こんな風にプロンプト補強してみよう。コンテキスト情報として「基幹システム刷新プロジェクトが1カ月遅延していて、それを顧客側のプロジェクトマネジャーに謝罪するためのメールなんだけど」というプロンプトを与えた。ChatGPTは「予期せぬ技術的課題」を遅延の原因としているが、それが事実と異なるのであれば、さらなるプロンプト補強をしてやれば良い。「遅延の原因は顧客の仕様変更なので、それを間接的に伝えて」のように。
だいぶ意図した文面に近くなった。これで一件落着、といきたいところだが、ここまでの会話で筆者は「とある顧客の基幹システム刷新プロジェクトに参加していて、そこで顧客側の仕様変更を原因とする1カ月の遅延が発生している」ことをChatGPTに漏らしてしまった。この程度であれば大した問題ではないかもしれないが、ユーザーはプロンプト補強をしているうちに、知らず知らず重要な情報を入力してしまう恐れがある。
半年ROMれ！
2023.4.1 15:00 はちま起稿
・イタリアの当局は、アメリカのベンチャー企業が開発した対話式AI、「ChatGPT」について、膨大な個人データの収集などが個人情報の保護に関する法律に違反している疑いがあるとして一時的に使用を禁止すると発表しました。
・イタリアのデータ保護を担当する当局が先月31日に発表した声明によりますと、アメリカのオープンAIが開発したChatGPTを巡って、先月20日、利用者の会話の内容や支払いに関する情報についてデータの侵害があったという報告が寄せられたということです。
・当局が調査を進めた結果、収集しているデータの内容を利用者に適切に通知していなかったことや、アクセスする際に年齢を確認する仕組みがないことがわかったとしています。
・AI＝人工知能の学習に必要な膨大な個人データを法的根拠がないまま収集していたとみられ、こうした手法が個人情報の保護に関するイタリアの法律に違反している疑いがあるとしてChatGPTの使用を一時的に禁止するとしています。使用が禁止されるのは欧米ではイタリアが初めてだということです。
ほんと韓国ってだけでバカにするに日本は民度低いわ
なんなら上司も「おっその手があったか」みたいな顔して蔓延する
アナログ国家にChatGPTは早すぎるから
心配ないよ
あらゆる問題解決に有用か試したくなるもんでしょｗ
これからは全てオープンソースでいこうよｗ
もう爆熱サムスンはTSMCについて行けないだろうね
最強のアドバイザーにもほどがある
サムスンの3nm製品化は無理だろうなぁ
次の記事はキングオージャーでお願いします
誰かに聞くよりすぐに答えてくれるから普通にあり得る
もうファウンドリとしては脱落者かな
日米台の半導体連合に恐怖してやがる
クアルコムも爆熱サムスンからTSMCに移行されて大口顧客逃亡
世界のどんな有能企業でも、頭お花畑な社員は少なからず居るんだよ
チソポハムニダ
ネトウヨはサムスンに周回遅れにされてるのに
勝ってると思い込んでるからなw
でも日本でやっても同じことは余裕で起こるだろうな
…ここによく湧くAI最強論者とか実はやらかしてそう
音声を文字に変換できてるならほぼ終わったも同然だろ
どこまで手抜きしたいんだよ
一部の人間だけ見て日本民度低いって決めつけるのも短絡的じゃね
APIだと一定期間でデータは削除されるみたい
google検索で機密情報なんて入力しないだろ
かつて日本の植民地なんだけあるわ
バーカ
日本人は把握することすらできてないんじゃない？
外部に漏れてから気付きそう日本の企業じゃ。
この３件の漏洩と引き換えに、どれだけの効率化が図られたのかを考えると空恐ろしい
日本はいまだに情報漏洩ガーとネットさえ使わせないからな・・・
韓国紙「フランスで韓国語人気が日本語を追い越すのは時間の問題」→ 嘘とバレる ｗｗｗｗｗｗｗｗｗ
中国3位の通販アプリ（月間7億5000万人利用）、全世界の人々のデータにアクセス、通話記録やメッセージ・写真を盗み見 米グーグル、中国ネット通販アプリを停止
社内サーバーとかの閉鎖された環境で構築できるなら良いけどネットに繋がって
データベースにアクセスする限り自分たちも学習対象になってしまう
Open AI APIダウンロードして自分で鯖立ち上げればいいだけでは？
悲劇とも喜劇とも取れるけど、機密をうっかりミスで漏らされたチャットAIには良心なんて無いんだ
きっとこれからも機密情報を入手したチャットAIが人類滅亡の計画に利用するかと思うと悲しくなる
ちゃっとじーぴーてぃー
の存在すら知らない無能幹部のおっさんだらけだから社員がやらかしまくってるよ。使ってる社員もなんでも教えてくれるらすごいツールぐらいの認識だからまずい。
鬱陶しかったから、ちょうどいいけど。
サムスン逝ったか？
どの国にも一定数いるだろうに
「こういうことがあるからAI活用は危ない」じゃなく
「このインシデントからの反省点を将来に生かしたフロー構築」の方が重要
先に動き出した方が勝つ
そんなの導入して大丈夫か？
ただのアルゴリズムで機密情報は含まないと思うが
コンパイラの劇的進化と思えばわからなくもないが、もう人間要らなくないか？
みずほ銀行の開発担当者とかならChatGPTにぶん投げたくなっただろうな。
ﾁｮｰｰｰｰﾝ