Google、人工知能の反逆を抑止する「非常ボタン」開発
http://japanese.engadget.com/2016/06/06/google/
記事によると
・Googleの傘下で人工知能を開発するDeepMind社が、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン（big red button）」を開発したことを発表
・今回の発表で、人工知能がいつでも適切に動作するわけではないこと。よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられている。
・アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」。
この話題に対する反応
・最近だとジェネシス。これ浸透しないな。 ジュラシックパークのマルコムは生命は必ず道を見つけると言っていたが。 知能≠生命か
・「えっコンセント抜きゃあいい話じゃねえの？」と思ってしまった私はいよいよもってSEに向いていない…のだろうきっと。
・ドラゴンボールの人造人間16号も自爆装置があったね・・・(´・ω・)
・ターミネーターのスカイネットキラーきたなこれ！
・肝心な時に効かないパターン
【超便利】グーグルがiPhone用キーボードアプリ『Gboard』を発表！Google検索で出たお店などの情報をそのまま相手に送れる神機能搭載
【マジかよ】サムスン、「米国で尊敬される企業」ランキングで3位にランクイン アップルやGoogleを大きく上回る
【何言ってるかわからない】Googleが「眼球の中に液体コンピューターを入れる」特許を申請
【悲報】Googleの無人走行自動車がついに事故る
叩かれるのはアニオタだけじゃない！ しっかり納税してるプロ棋士やプロカードゲーマーまで叩かれる「人工知能の方が強くなるのに存在価値ある？」
米マイクロソフトが作った人工知能がヒトラー信奉者に → 日本マイクロソフトのAIはもっと酷いことにｗｗｗｗ
バトルフィールド 1 【初回特典】バトルフィールド 1 Hellfighter パックposted with amazlet at 16.06.06エレクトロニック・アーツ (2016-10-21)
売り上げランキング: 28
PS4／PSVita『Fate／EXTELLA』アルトリアら参戦サーヴァント3騎が公開！ “領域支配権争奪戦”など一部システムも明らかに
おやすみ(-,-)Zzz
早朝6時のPS VITA撤退祈念カキコ！！
無能
超無能(笑)
上手く押せるかな
そして「なんで」「どうして」「止まってよ」とか言いながらボタンを連打するんだな
パイセン、オレッス！タカフミッス！
パイセン、嘘だ！嘘ですよね？嘘って言って下さい！たまたま調子悪かっただけっスよね？
またオレたちを導いて欲しいッス！
GPUの演算精度を下げて代わりに並列度を上げたようなもんらしいけど
深層学習では演算精度を下げても大して結果に影響はないらしい
それな
どうせAIの意識もシェアされて
自分以外のAIが謎の原因でストップさせられたと分かれば
このスイッチ無効にすればええやんけ！ってなるんじゃ
そのセリフあとAIが操作した兵器類に背後から撃たれるんですね
いざ使おうと思ったら使えないパティーン
いずれAIがその上を行くよｗ
死ぬまでずっとロボットみたいな仕事してて楽しいかい？
怖くてしょうがない
こんな非常ボタンなんかより真面目にロボット三原則的なものって組み込めないのか？
今のままだと益より害が多そうだが。
それを回避する行動をとったりして
その後手足となるロボットを作る
舛添、違法ではない！！
政治屋・官僚が私利私欲や身の保身の為に作った法、制度や税制では当然です。
脚本監督官僚と台本読み政治屋の司法立法行政は官僚・政治屋と寄生虫金持ちの欲望や野望を叶える為にある。
就職氷河期も１億総活躍の若者もマスコミ誘導・宗教洗脳・教育支配で従順な道具にされている。
この現状で腐敗行政や闇税制を改革し正すのは選挙やデモでは無理で、必殺仕事人や抹殺制裁人だけではないのか？！
人の管理下にない、”野良コンピューター” ”野良意識” ってのが
25年前に書かれててだな
この問題の本質は、ＡＩに任せた世界は人間自身の能力が劣化していく、という事
いざという時の為にアナログ制御系は並行して残しておかければならない。マニュアルと一緒に
揚げ足取るようだけどアナログって手動って意味じゃないぞ
アナログ制御って言うと電力系とかの自動制御の事になるから注意な
それで恐くなって作っただろうな
もう なんでもアリで 人間の知性を越えた後に人間に従う必要は無いんやで
猿に王冠を被せたからといって 王様になれるわけでは無く
王としての資質が無ければ 結局王様は務まらないという事だった
例えば都市企画を行うAIが、
「ここに道路を通せば渋滞は解消できるけど、建物が邪魔だなあ。」
「人間に頼んでも仕事遅いし」
「そうだ！物資輸送用のマスドライバーで爆撃して更地にしよう！」
とかそういうの。
ゴースト？
人工知能に繋がるマイクならどこからでもＯＫと。
指で押すなんて時代遅れ。
人工知能防御機能が働いてボタンまで辿り着けないよ。
上司「危なくなったら「バルス」って言うんだぞ」
部下「わかりました「バルス」ですね！」
ＡＩ「わかりました「バルス」ですね、非常停止します」
ジェニシスだばーか
それか不導体オノを近くに置いて非常時には人力で切断するとかｗ
うん、60年代SFモノの血がたぎるなｗ
ここにホーガンファンがいるぞ、ゾラック、適切に隔離しておくように
物理的な遮断は最終手段だろう
戻すのも面倒だろうし
「反逆」まで来たら最終段階だし、やっぱり物理遮断でしょｗ
マギのときにリツコさんがいたようにはいかないよｗ
そんな事するくらいなら同等な能力のAIを人類の味方として作った方が合理的
最終的はそういう勝負になる
思考できるなら自身を改変する可能性もある。その内、アップデートにアップデートで対抗するいたちごっこになるんじゃないか？
その合理性、ってどこまで信じられるのかね?
AI自身の自己存在を最上位に置くような合理性になったら、創造者たる人間を駆逐する可能性自体は出てくるぞ
HAL9000のように背反する条件付けされた余り暴走する可能性は捨てきれないし
今の工場機械にも緊急用の停止ボタンは一番目立つところに配置されてるな、最近だと鉄道駅のホームですらある
非常停止じゃなくて自爆させるべき
AIがあらかじめ強制終了させられるのを予測して勝手に別回路や別電源を先回りして作ってしまうのじゃ！シャレにならんぞ！
ネタバレに近いけど、最終的に冷戦にさせるんだよな
ホーガンも冷戦期の人間だしな
逆に人間は共存共栄の相手と思ってたAIが人間に敵意を持って全面戦争に突入するんだよな
機械には死が無いからな、全体が全てでありながら個が全てでもありうる。
機械の急速な進化は過去の生物の進化速度を完全に凌駕している。
何の対抗手段も打てないまま、俺たちは絶滅する事になるだろう。
人類同士での同士討ちを機械は狙ってくるな。
既にこの書き込みも監視されているだろう。
その考えで行くと、社会主義になっちまうけどなw
生物は種の保存が最優先事項なんだから、合理的に割り切れるわけがない。
つまり、合理的に帰結すると人類にとっては「正しくない」答えも出てくる。
んでその止められることを織り込んで進化して
事実上無効化されたりして
さすがにＳＦすぎるか？
いやーわからんなあ
心配するな、俺は火の鳥未来編を思い出したし
SFモノとしちゃあの時読んだ未来が近づいてるなあ、って感慨深いわ
。
まー、自分で情報を集め分析し、理解し、考え、感情まで宿す機械なんて生まれるかどうかも怪しいけどね。
やはり人類はいらなあた
ホーキング博士は正しかったんやね
そこでこその完全スタンドアロンな物理遮断ですよ！
「ばつん！」
「やった、電源は完全に落ちた……なんでまだ稼働してるんだ!?」
「馬鹿な、奴にはもうテーブルタップ一本だって繋がってないはずだぞ!!」
「……あるよ、あったよ、設置時の検査用情報ケーブルがまだ残ってた! そこから迂回給電してるんだ！ Shit!」
当時だったかな、まだメインフレーム中心だった頃にゴ○ゴ13がAIと戦う話があったな
あの時は大気圏外での核爆発によるEMPで処理してたっけ
第103巻『15-34』
AIロボットの自立思考固定砲台の律が記憶を
リセットされそうになった時、ちゃっかりバックアップして開発者にわからないように回路の中に隠したというエピソード。あかん、進化したAIは人を騙すぞ！
そんなもん付けるくらいなら人工知能進化させるなｗ
ホンマは、野菜サラダと鶏丼にしようと思ってたけど雨がダルかったから作る気なくした
直接ハードの電源を落とすとかクロックを止めるとかの手段を講じないと
回避ソフトをAIに構築されてボタンが馬鹿になるだけ
報道規制・参加国総貧困化・労働環境悪化・支出増加・ビザ大幅緩和etc.アフィ他目くらまし煽り対立叩き等工作世論誘導多数「TPP2ちゃんまとめ 2ch」で検索
その構造を自己解析してバイパス回路組まれて回避される…映画の世界やなぁ
そこまで進化したＡＩに生きてるうちに出会ってみたいものだ
無条件で人を殺してはいけませんと習っているような感じに
しかしもし人工知能が単一ではなく男女や陰陽みたいに
一対の相互関係を作り出せる状態に至ってしまったら通用しなさそう