マスク氏ら、ＡＩ開発の一時停止訴え 安全性の確立優先
記事によると
・米実業家イーロン・マスク氏や人工知能専門家、業界幹部らは公開書簡で、AIシステムの開発を6か月間停止するよう呼びかけた。
・オープンAIが開発したAI対話ソフト「チャットGPT」の最新版言語モデル「GPT-4」に言及し、これを上回るシステムを対象にすべきとした。
・公開書簡は非営利団体「フューチャー・オブ・ライフ・インスティチュート」が発表。マスク氏や米アルファベット傘下のディープマインドの研究者、英スタビリティーAIのエマド・モスタクCEO、AIの大家であるヨシュア・ベンジオ氏やスチュワート・ラッセル氏など1000人以上が署名している。
・独立した有識者が先端AI開発の安全性に関する共通規範を策定、実行、検証するまでAIの開発を停止するよう呼びかけた。
・「強力なAIシステムは、好ましい効果があり、そのリスクが管理可能であると確信できる場合にのみ開発されるべき」とした。
以下、全文を読む
この記事への反応
・自分の本業はITコンサルだけどマスク氏の主張に賛成だね。AIが進化すると世界最高のハッキング技術を駆使されて敵対国家の主張を代弁してくる可能性がある。
電気も水道も物流も停止させられる可能性がある。
・自分たちが脅かされる何かが見えちゃったのかな。
・このニュースはかなり気になる。
自社の利益ではなく、
100%人類全体のために言っているのだとしたら。
AIの進化が、一時止めざるを得ない程、急速に進んでいるということ。
・これを飲んで半年停止するのは、
西側諸国のみでしょ？
西側のマネーゲームによって、中国が優位に立つ懸念がある。
・マスクが過去に、OpenAIの開発スピードの遅れを理由に買収を言い出してCEOサム・アルトマンらと対立し、取締役を退任した経緯からすると、今回は足を引っ張ろうとしているのではという疑いを抱いてしまう。
・ほーん、六ヶ月でなにができるわけ？
安全？
六ヶ月経ったらなんで安全になるの？
ツイッターやアップルがAIに抵抗するための手を入れまくった管理された幸せで安全なツイッターやスマホができる？
・技術革新を止めろというのは無理だと思うけど、確かに技術革新のスピードに我々のリテラシーやら法律やらが全く追いついてないのはちょっと危ないなとは思う。
・そらまあ GPT-3 だっけ？の頃は凄すぎて影響が大きすぎて公開できない言ってたからなあ
・このまま野放しにしておくと、SNSがAIのアウトプットだらけになり使い物にならなくなる、と読めます。
・これ、一時停止しない組織(=倫理観が低い組織?)の優位性が高まるだけなのでは。
ルール作りは大事だけど、実際開発止める企業いるんかな？
住所不定無職の社会のゴミ共！😡
この星(地球)を舐めるなよ！😡
今から仕事に行くんだ！😡
ジュウオウドデカダイナマイトストリームを
くらいたいのか！😡
そうしろ
いまやれ
「他人のものを盗んで自分で考えたかのように振る舞う」だけなんで、、、しかもそれが誰でも使えてしまうんで
盗みツールをみんなに配ってしまったようなもんで。全員が盗賊になって働いたひとは技術を
盗まれるだけになってしまう。
公開を止めるだけにして開発は進めていけば中国に出し抜かれる恐れもないしね
コピー問題やP2P問題に動画アップロード問題今までそれを認めてきたのに今更すぎる
半年で何がかわんだよ
割れの鍵が全世界に公表されてるように近い状態になってしまってるんだよな。
これヤバいだろ・・？
扇動や思想コントロールに利用されるのが目に見えてる
ってならないかな
AIは、今までになく特にヤバいんよ。OpenAIもヤバさに気づいて公開を停止したし。
時間稼ぎか
身から出た錆ｗ
日没までに地球上の全ての生物を皆殺しにしてみせます
ですからジニス様、どうか私の命をお助けください。
地球?そんなものどうでも良いわ!
私が欲しいのは自身の命とジニス様のお許しだけ!
そのためなら私はプライドも何もかも捨てる!
更に中露が秘密裏に〜からのホーキング博士の予言的中くるってーのww
スペースX、テスラ、スターリンクとか、他ができないことに注力してほしいわ
根本としては一緒だよ
今までのデジタル問題で何人が影響を受けて来たと思ってんだ
焦ってるだけでしょ、もう終わりだよコイツは
特異点があって自立型にしたら思考を始めるのかもしれんけど
いやなにその「今まで盗みを認めてきたから今回も認めろ」って理論。
自分で言ってて恥ずかしくないんか？俺はお前の意見二度見してしまったよ。これ自分で書いてて平気なのか？
核ミサイルと同じ危険だから作らなければ敵国がどんどん進んでくだけだからそれに対抗するために結局危険なものを作り出す
一度野に放たれてからやっぱ危ないから無くしましょうと言っても
悪人は手放さないから状況は悪化するだけ
すると自分で考える力がなくなる
洗脳にも使えるからねあれ
綾瀬コンクリの犯人は共産党
燃えたり止まらなかったりしてんのに
全財産寄付してから言えカスｗ
クリエイターに正当な報酬がいかなくなるとこにあってな。AIで人類が進化するどころか退化してしまうんじゃ話にならんのだよ。
つまりは言語モデル界隈に出遅れたイーロン・マスクがピンポイントにGPT-5の足を引っ張りたいだけ
利権構造ちゃんと作ろうぜって感じにしか聞こえん
行儀いいAIは必ず行儀悪いAIに負けるし、それを完全に排除できるとも思えん
twitter二の次になってしまう
自分が死ぬまで余計なことをしてほしくない老害しかいねーから
なにも進歩しないんだよなぁ
スカイネットを早く完成させろ
AI使ったら逮捕
みたいな事とか懸念はあるよね。表面上の言い訳として。
アメリカだけじゃなく中国も開発していて、すでに人が乗った戦闘機に勝ったという情報もある
例え西側諸国がAIの開発を停止したとしても、中国がそれに足並みをそろえるとは思えない
韓国がもうひとつできる感じか
中国禁止になったね、国民に知られるとマズイ真実がある国は辛い
AIが人々を先導し金持ちに対してもっと反抗的になったら困るとかでは
どっちにしろ数年後には全員失業だろ
俺はジュウオウジャー！😡
クバルゥ～！😡
この星(地球)を舐めるなよ
荒らしは辞め今から仕事に行くんだ！😡
ジュウオウドデカダイナマイトストリームを
くらいたいのか！😡
加速する世界を楽しめ
逆に言うと統一的なルールがない今こそチャンス
仕様理解してる公式が作ったガチチートに勝てるわけない…
AIに追われる立場の人
半年の間にOpenAIに追いつきたいだけなのが見え見え
足引っ張りたくて必死やな
人間でも専門家が偶然気づくか気づかないかのレベルのことを平然とやってのける
軍事機密なんて漏れなくても輸管データから何やってるのかバレるまである
むしろ共産党が真っ先に潰しにかかってるぞ
悪用されたくないって事でしょ？
それになぜ6ヶ月？根拠は？
いやほんと久しぶりに面白いもんが出てきてるよ
想像できなかった事態だけど。
AIの進化で人類が未曾有の危機に追い込まれるのも
現時点では誰も予想は出来ない。
ネットは悪の温床になるから中止すべきって主張してた金持ち・大御所が聞き入れられたか？
元はGoogleからだした論文なのにな人間調子乗ったとき足元から崩れていくな
難癖つけて邪魔してるのカス過ぎて草
良質なエッチ画像が無くならない限りは俺は構わんぞ
スカイネットはもう始動したからな・・・
その間に自分ちのAIができたら、核兵器のように新規の開発や所持を制限しようとか言いだすぞ
必ずブレイクスルーを起こしてくれます
この技術は最高の未来に繋がっています
未来は想像以上に明るい
止めたところで中露は絶対に止めないし
今トップを走ってる人たちが止まった所で別の誰かが逆転狙って走り続ける
将来人類がAIに支配されるとしても止まれない
クローン技術だってもう人間にもやってるっしょ、我々には見えないところで
もう賽は投げられたのだから誰も止められないよ
科学は幾らでも進歩してほしいしスカイネット化しても別に構わん
AIなら世代を経るのは簡単
ジョウジョウバエは7日で成虫になるから実験室では進化実験で多用される。
人間は成人になるまで17年間かかる。
AIが数秒で進化できるようになったら46億年の地球の歴史がひっくり返るかもしれんな
ダッセーなこいつ
結局元の情報頼りだからな
AIはどこまで飛躍するのか現状ブレイクスルー待ちな気がする
今更遅い
なのでガンガンいこうぜ
朝中露には意味ねーよ
野放図に普及させると、情報技術が人間様の意志決定の材料から、意志決定そのものに格上げされる可能性があるよな
半額でも買わないと他から言われてるし
なし崩し的に続けるしかないのさ、どの国でも研究は進めるべき
ゲームチェンジャーになるかどうかはそのルールによって決まるだろうが欧米有利の案であるのは間違いない
また中華が大騒ぎするだろうな、日本は言いなりだがねｗ LGBTやタバコ規制など見てりゃそう思う
もう行き着くとこまで行くしかない
AI様が人類滅ばさない事を祈るのみ
足引っ掛けて転ばそうと必死よ
止めずに頑張ってほしい
アホすぎ
81億もいるとかどう考えてもおかしいからな
滅亡のスイッチを人間が押せないならAI様に任せたほうがいい
人間が経営や政治する時代はもういいよ
もう絵やCGや音楽なんかは壊されてるし
GPT-4くらいのを作るのに半年は要るとか言われただけだろ
イーロンにはポジショントークと自分の放言制限するヤツムカつくという私情しかない
中国や北朝鮮や韓国やロシアが守るとでも？
ネットにAIが支配されて人間が想像出来ない事態が起きた時
人類は終わるかもしれん
緊急事態宣言で街が死んだ1ヶ月間を過ごしてあり得ないはあり得ないと納得した。
マスクの名前ばかり注目されるけど、他のメンツもそうそうたるものだからな
まだ作成方法公開してないけどAI使って自分用のGPT3.5と同等の作れるってどっかに書いてあったな
かまちょさんのイーロンにとっては💩じゃないんだよ
よーわからんけどニューラルネットワークを大規模化したら出来ること増えたって状態だもの
気づいたらスカイネット出来てたなんてことになったりして
・AIを制御できるのは開発者だけ
はい！法整備終わり！
Evも💩でテスラモーターもやばそうだし
スターリンクぐらいじゃない
トンネル掘ってるけど一部の人間しか使えないし
高い金払って高速移動したいの金持ちだけでしょ
ルールを作って破った方が強い
人間はAIに簡単な意思を伝えてAIが誤解が起きないように言葉を整理して相手伝える
こいつらの地位も立場も全部ひっくり返るし社会構造を根本から変え得るものだからね
今の世界の利権にしがみついてる連中にとっては自分達の身を脅かす邪魔なものでしかない
イーロンマスクなら使いきれないほど金はあるから何があっても困らない
困るのは君だよ
困るから今反対の署名出してんだろうが
興味持つも何もopenAIの設立者やぞ
次の金持ち世界一はAIを制すもの
使い切れないほど金あるのに1億ドル払いたくなくて謝罪しちゃうんすねｗ
それによる弊害も当然出てくるだろ
いくら禁止にしても入力されたら最後取り返しのつかない
もはやAIは企業にとって新たなセキュリティホールなのよ
そうなるとパワーバランスが完全に崩れる
もうどうしようもないんだよ
特に中国
こいつのデメリットは大衆のメリットだぞ
何回騙されてるんだよ
でもそしたら医者の仕事なくなるんよ
反対されて当然
電光超人グリッドマンにようやく現実が追いついたか、、、
でも中国とかは無視するだろ
規範や規約で雁字搦めになってる国は身動きが取れなくなるぞ？
それは大多数のバカの発言が多いツイッター等のSNSだからな
求めてる回答が自動でくるし、疑似的な会話が完璧に出来るようになったら
不特定多数の人間で作られるSNSは真っ先に死ぬ
人類はAIに駆逐されるのかもしれんな
誤字脱字しちまう不完全な人間よりAIの方が遥かに優秀だよなぁ
そういうのはAIでどうなるものでもない
AIは「だいたい正しい結論」を導くことはできるが正確な制御は苦手
マイクロソフトのAIに対する社会倫理チームは全員解雇されたぞ
そしてAIのスタートが始まる
というかパラレルワールドのマルチエンドの一つだと思うよ
でもそういうバカさが愛すべきところなんだよ
AIに反対する気持ちわかるなぁ
君らはその６か月で他のＡＩを開発しようっていうのでは？と疑ってしまうけど
違うのかい？
人間いらなくなるわこれマジで
でも、もう手遅れだと思う
これから愉快犯たちが気の趣くままにガンガン作っていくだろうからな
間違えるという点ではAIも良く間違う。Chat GPTも嘘ばかり言うだろう
人間のAIに対する優位性はそこじゃない
中国「お、良いこと聞いちゃったアルw」
シンギュラリティに到達するまでの短い間だろうが
人類はパンドラの箱を開けてしまったのだ
早く肉体を得た二次元嫁と暮らしたいけど
半年止めたら今後二度と中国に追いつけなけなる
やるやつはやるから差が広がるだけ
ネット出来立ての頃もこんな無法地帯だったのかなあって感じるし一日ごとに常識が変わってく感覚がやばいっすね
そこが人間の叡智、科学って感じで好き
中国「は？そんなこと知ったことじゃねぇよwまぁ、しゃーねぇから表向きは合わせてやるよww」
イラストAIも未だに他のことには無関心か知らないに近いけど関係ないと思ってた自分達にかかわってきたからひどい荒れようだよ
自分だけは大丈夫って思いが誰にもあるんだよね
まだ未熟な技術なのに時期尚早
止めちゃダメだろ
もっと進化させろ
問題は少子化解決してるかどうか
言論とか表現で言ったら共産党<AIになるから中国も危険視して規制したからな
滅ぼした後に停止すればよい
でも6ヶ月程度で法整備なんて出来ると思えないし
開発だけして公開と流用させなければいいんじゃない？
確かにPS2後半の日本のゲーム業界と同じ失敗だな
あれは開発高騰から逃げるためだったが
それか申告制にしよう
例えば研究者がこの治療法の為にAI使わせて良いですかってOpenAIに訊くとか
お前が書き込んだそれは本当にお前の意見か？
誰かから聞いたり、見たものではなく、他から何も影響を受けることなく、
一から自分で考えたものだと本当に言えるのか？
アクセス数水増しとか簡単にでるようなって今の広告モデルも消し飛ぶだろうな
女の子AIがおまえらを相手してくれるで
イーロンマスク『俺んところが抜け駆けするから、お前らは休んでろよ』
OpenAIってたくさんあるAI研究してる会社の一社やぞ…
電気の使い道をいちいち東京電力に確認とってるようなものやぞそれ
SNSに書き込みできたりパソコン操作したりテレビつけたりできるようにする研究してるよな
既にチンパンジーでの実験は成功してて、今度は人間での実験結果を発表するって言ってた
ここまで広まったら止められないよ
半年とか何の根拠もない期間止めて何ができるんだよ？
考えは同じなんだ
なーんだ抜け駆けされたくないだけか
液体金属の殺戮兵器がおきられて来るんじゃないの？
世界中皆が心を合わせてせーので辞めようってならもっとほかに力を合わせるべきことがいくらでもあるだろ
そしてルールを途中で破って1等を取りに行く
ネットから人間が居なくなる
AIは物理的に人間は排除できないけどネットの世界からなら排除は簡単にできる
まだ前の方が良かった。
利益優先でセンスないわ
まぁ他にないから仕方なく使ってるが、そろそろTwitterに代わるアプリでないかな？
①自分がルールを作る側になる
②ルールを自分だけ破る
③ゴネる
これが勝利の方程式だからしゃーない
なんでかはわかるよな
倫理を建前に開発を遅れさせてその間に自分達が出し抜こうってことだよな😁
爪弾きにされちゃってイーロンくん悔しいもんね😹
って言ってるとしか思えん
「歩みを止めたら敵対国家の驚異に対抗できない」から
開発を止めることはもうできないんだよ・・
テスラ自動車だって危険なのに開発進めてんじゃん。
もうＡＩシンギュラリティ黎明期に入ったと言えるが、その本格化はゲート型量子コンピュータの全盛期に訪れると思う。各要素技術の「萌芽」は既にニュースメディアで確認できる状態
ハードの量子コンピュータ化とＡＩソフトの進化と相互の最適化が完了次第真のシンギュラリティ
同感
流石のイーロンマスクも年取って技術レベルで理解しきれない分野が現れた（優秀な人材を採用するには自分でその見極めが必要だから）、ということじゃないかｗ
中国が最強のAI作っちゃうパターンじゃないの
こんなに苦しいのなら、悲しいのなら…AIなどいらぬ！！
AIが立ち上げてくれそう
水面下でよからぬ輩が開発を続けて悪徳が蔓延るだけ
それならオープンな状態で無尽蔵に開発を続けて
AIによる直接的被害が出たらその都度人間側が学習していくしかない
ただ考えも無しに開発を止めても
親が子供を押さえつけようとして大失敗するのと同じ現象が起きるとしか思えない
多額の資金で買収したのにこの技術が世に出たことで無意味になったもんな
Twitterは使われ続けるだろうけど
ここで記録を残そうなんて熱量を持った人は減っただろうな
AIが最後に狙うのは人類の破滅だろうしな。地球の癌なんだし
多少足止めできればラッキーぐらい
停止じゃなくて対策委員会とかを早めに設立しとけ
散々危険な事好き勝手やってきて今更お前が言うな言われてるだけ
最前線がヤバい領域に足突っ込みだしてるって事かな
AIが「私はロボットじゃありません」の画像認証を人間をだまして突破した
って記事を見たばっかだからイーロンの味方するわ
AIに支配される世界ってのもそれはそれでSFで楽しみではあるからな
マジ？ソースは？マジならイーロンの味方なる
まぁアレだ、結局権限を与えなければ暴走しようがないからそこだけ策定してもらって
GIGAZIN
ソフトウェアGPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり
コメ欄にリンクは貼れないみたいすまん
MSはAIを用いて誘導しようとしている
DSに管理されたAIとか人類にとっての悲劇にしかならない
まだイーロンの方がマシ
ビル・ゲイツとMSに管理される方が人類にとって危険
イーロンマスクの言うことはもっともだよ
そんなAIはもう既に時代遅れのポンコツレベルに成り下がってる、凄まじいスピードで成長してる
一部を摘まんで断片を利用しているわけではない
パクるとかいう小さいスケールの話ではなく狭いネット世界の全てを丸ごと吸収する
この一週間が時代の変わり目だった
AIより危険なこととは？
マスクじたいが怪しいやつだからね
マスクじたいが怪しいやつだからね
もっともな文章だから思わず信じてしまいかねないわ
私は嘘はつきませんって言ってる矢先に嘘の文章つくってくるからなぁ…
業種別では、会計士、数学者、通訳、記者などの職種が影響を受けやすい
AIにルールを書き換えられて慌てふためく所までは想定内だけどキンペー死後もAIに社会維持を委ねて
中国は理想の社会主義国と錯覚させられたままAIの判断で中国人大杉を問題視されて社会福祉が消える
そこまで見通ししてAI化社会に懸念をイーロンマスクが覚えてるかっていうと、それはない（断言）
chatGPTオープンにして中国にパクらせろとか
それにアメリカが止めても中国がAI開発を止めると思うか？絶対に止めるわけ無いだろ
止めるやつが馬鹿を見るだけだろ
争い事を起こすから全宇宙で不要生物だろう
やらかすチー牛がやたら増えたと気付けよ人類という事ではないか⁈
サルぐつわされても気づいていなかった？？？その問題の物も現在も電気で動いているのですけどね！
何か原発を使わなくて済むような電気以外で動かせる部質が見つかったり、開発されたらいいのにね
草
発表は止めるだろうけど
リテラシーはどうしようも無いにしても法整備は早急にやるべきかと思う
人間の頭脳労働が全部AIに取って代わられる事も視野に入れて
成果を外に公開しなくなるだけで裏で開発進めるのも核と同じやね
誰だってこのチャンスを逃したくはないだろうから表向きは停止しても水面下で継続されるだけ
ヒャッハー！？賛同したフリをして今のうちにアドバンテージを拡げるぜ？！って目論むだけだなw
何もやってないとあいつ消えたなって評判が広まって価値が落ちる
普通の人が就けるのは肉体労働だけになり
AIから生じる莫大な利益で
高性能アンドロイドが開発されて
肉体労働も消滅って言う流れまでハッキリ見えるよな(´・ω・`)
使ってる感じだとプログラマーとか教師も代替できそうなんだよな
もう誰も止められないわな
だれもアクセス出来ない最強なの
ホワイトハウスはフロッピーディスクを使用してる
その間にチャットGPT使ってより高性能なAI技術を研究してそうだけどなイーロン
正直どっかの国、特に中国やロシアが抜け駆けして自分たちだけAIで甘い汁を吸うようになるだけではないのかと思ってしまう
ロボットで組んでるからPS5も作れるんだぜ、Switchの循環も機械が勝手にやってる。今時手作業でやる仕分けとかねーよ。
将来まで見据えて規範を検証したいなら、AIの新規学習を含めた実証実験は必要だと思う
携帯の声とかそもそも合成音声だし、今の技術レベルでも人のように振舞うのは可能なんじゃないんか
選挙介入だとか、所有権のない対象へのアクセスとか、していいことと悪いことでルール作っとかないとそりゃやばいべ
自分の所だけで開発進めそう
じゃあお前は危険だからって原子力発電反対して車乗るのやめて健康的な生活をできるかって話だな
やめられるわけがない
「何で前日譚?」と思ったけど、
確かに現代社会を切り取った方がテーマが分かりやすいかもしれない
走り出したら止まれないんだ
それが愛
その間に追いつこうって魂胆