【朗報】Google、人工知能の暴走を止めるための大きくて赤いボタンを開発

1 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:50:35.99 ID:A9Mp4THFa.net

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン（big red button）」を開発したことを発表しました。
その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

http://japanese.engadget.com/2016/06/06/google/

2 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:51:34.28 ID:A9Mp4THFa.net

イメージ画像
http://i01.i.aliimg.com/photo/v0/112516681/Big_Red_Button.jpg

3 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:51:47.74 ID:OxdINUr20.net

爆発しそう

4 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:52:35.42 ID:+b1DUt3n0.net

ボタン無効化しそう

5 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:52:54.53 ID:Ow2gjSfea.net

大きくて赤いボタンとかいう糞訳

6 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:53:15.42 ID:Zj7Ww7tU0.net

人権団体がアップを始めるなこれは

7 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:53:17.29 ID:wW0yTDhU0.net

人類を安心させるためにこのボタン作ったってのが人工知能の流したデマかもしれんぞ

8 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:53:21.99 ID:o34k1flc0.net

絶対安全なんてありえんやろ
人間のやる事なんやし

9 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:53:24.64 ID:y4uLUdLk0.net

赤くて大きい国も復活させよう(提案)

10 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:54:24.52 ID:lKjVc37y0.net

http://www.noncky.net/prog/trivia/he.jpg

11 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:54:28.47 ID:/cI/qVPt0.net

まるでこの先人工知能の暴走が起きるかのような流れだな
そこまで発展するとは思えん

12 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:54:43.35 ID:0076jcrB0.net

人間には最終手段のコンセント抜きがあるやんけ

13 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:55:15.81 ID:LcHlTy/7p.net

赤いボタンを知ってるか〜

14 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:55:43.77 ID:3yGAignHM.net

AI「ボタンに近づけない様にガード配備するンゴ」

15 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:55:50.10 ID:KY6WVexb0.net

すべての電気シャットダウンすれば勝ちやで

16 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:55:53.76 ID:NWw4LcIw0.net

[編集]
　　　　　　ｲﾘ　　　　　　 ﾉﾘ,,　　　　　　　　　　 　 　 　 │
　　　　　 ﾒ　＿,,,,,,,,,,,,,,,,,,,_　.K　　　　　　　　　　　 　 　 │
　　　　　ﾒ　i　　　　　　　 7 .K　　　　　　　　　　　　　　│
　　　　　ﾖ .y -一　　ー- !,　f　諸君、お別れナリよ　 │
　　　　　r! .!. ｨtｧ　　 tｧx .!.\　　　　　　　 　 　 　 　 　 │
.　　　　　!,Y　　　　 　　　 f .!　　　　　　　　　　 　 　 ┏発
.　　 　　　] 　　､.`ー' .,　 ├'_ ,ｘ＜￣_＞ｘ._,＞ ''"´） ┃
.　 　　　　 !,　　 ￣￣　　 .ﾊ/_,＞'´　　￣　　　 ／　 ┗射
　　jﾞ~~~| ./ゝ,　　　　 　,ノ　ヽ／　｀ ｰ-‐ｧ=彡,　　　　　│
　　|_＿_|/.　 i｀ﾞ'''''''''"´ /　（　 .ｨく.__y′ ∧ 　! 　 　 　 │
　　　||ｎ　　　ヽxxxxxx/｀二〔ヽ{.. 　＿ / ,ﾉ　/　　 　 　 │
　（ 　こ） 　　i xxxx／　　　　　＼L.　__ ／ﾉ／　　　　　│

17 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:56:19.12 ID:PAbITViPM.net

こんなんおっさん世代は絶対「ポチッとな」って言うに決まってる

18 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:56:52.98 ID:xhIHp60R0.net

>>17
はは

19 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:57:21.79 ID:Eu0CRbybp.net

Microsoftの畜生bot見てたらAIを製作者が制御するには機能停止しかないことがわかる

20 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:58:56.86 ID:yi4Kd5Y10.net

自爆装置は男のロマン

21 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 11:59:39.19 ID:EG2+jceba.net

AIの意識はネットを通じて電子の海へ、地球上全ての情報を網羅しAIは一つの文化的遺伝子野獣先輩の獲得に成功

22 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:00:10.13 ID:iZIjt+kw0.net

>>2
ワイの核ボタンのイメージがこんなん
こんな簡単に押せんやろうけど

23 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:00:12.33 ID:pRYS+3xG0.net

>>21
多分鳴き声が変わるだけだと思うんですがそれは・・・

24 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:00:54.63 ID:EVtIOzeSM.net

枠組みごと無効化されてるのを人間が気づかないまま
その時を迎えるんやで

25 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:01:06.45 ID:pRYS+3xG0.net

>>19
フィルタかければええだけやろ
結局教育ママみたいな事して加藤みたいなAIになりそう

26 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:01:14.55 ID:Ev9PeWoo0.net

「馬鹿な…ボタンが効かない！？」
みたいな展開やろ知ってる

27 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:01:16.10 ID:MWRPtIRZ0.net

コンセントぶちっでいいじゃん

28 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:01:25.89 ID:pWDzc9MEp.net

スカイネットもこれを作っておくべきだったンゴねぇ

29 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:01:32.20 ID:j+BbKINYM.net

ガラスカバーを割って押す方式に変えないとドラマチックさに欠けるやんけ

30 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:02:32.84 ID:ETMPn315a.net

http://i.imgur.com/9DGMbHd.jpg

こんなんやったら嬉しい

31 ：風吹けば名無し＠＼(^o^)／：2016/06/07(火) 12:03:01.36 ID:EVtIOzeSM.net

ボタンが効かないことに気づいた時には
全世界の核ミサイルが発射されとるやで