iStock_000037775724_Small-728x367
1: 海江田三郎 ★ 2016/06/07(火) 14:36:45.99 ID:CAP_USER
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

2: 名刺は切らしておりまして 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

5: 名刺は切らしておりまして 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

8: 名刺は切らしておりまして 2016/06/07(火) 14:44:47.90 ID:SZPkxYFa
そんなボタンは人工知能にとっちゃ自分を殺すウイルスみたいなもんだろ
免疫機能が働いて撲滅しちゃうんじゃねえかなw

9: 名刺は切らしておりまして 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 名刺は切らしておりまして 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

12: 名刺は切らしておりまして 2016/06/07(火) 14:45:43.40 ID:NAhSp/Ae
見えるぞ。透明なカバーが掛かった上から
ボタンが連打される姿が。

14: 名刺は切らしておりまして 2016/06/07(火) 14:47:07.44 ID:LDeitB12
いつの間にかコンピュータにまけて終わるだろ

21: 名刺は切らしておりまして 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

25: 名刺は切らしておりまして 2016/06/07(火) 14:56:21.62 ID:j67iz3+I
人工知能が周囲に、迎撃システム用意すると思うけど
物理的なものだけでなく
報酬理論を使いこなして、本人をそれと意識せずに迎撃にね

いや既に人は使われてるのかもねえ

31: 名刺は切らしておりまして 2016/06/07(火) 15:02:18.38 ID:fnVLBQms
人工知能にすらコミュ障と言われる時代か
胸が熱いな

34: 名刺は切らしておりまして 2016/06/07(火) 15:03:28.81 ID:cFv/MtX9
おでんでんででん、おでんでんででん

37: 名刺は切らしておりまして 2016/06/07(火) 15:04:57.86 ID:bDdaTfPd
この記事を読んじゃうだろうし
そうなったらお終いだな
人類が滅亡したら記者のせい

41: 名刺は切らしておりまして 2016/06/07(火) 15:06:46.87 ID:Fk3tcLHG
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

44: 名刺は切らしておりまして 2016/06/07(火) 15:09:38.11 ID:I4lMcD+s
そんなのは単なる見せ掛け。
真の安全機構は極秘指令として組み込まれています。

第4、極秘指令
Google社の重役に危害を加えてはならない。

93: 名刺は切らしておりまして 2016/06/07(火) 15:58:14.13 ID:uTe1bTPZ
>>44
ロポコップ乙

95: 名刺は切らしておりまして 2016/06/07(火) 16:03:57.32 ID:qQsLh61g
>>44
お前はクビだ、マクフライ!

51: 名刺は切らしておりまして 2016/06/07(火) 15:15:42.57 ID:DHKM2YCD
掃除のおばちゃん 「心配しなくていいよ。あたしに任せな!

55: 名刺は切らしておりまして 2016/06/07(火) 15:16:55.56 ID:toZ/NbkX
HALの結末は人間的だったけど 記憶を消します さようなら だったけ
今度はそんな奴じゃないよ 嘘つきなんだから

57: 名刺は切らしておりまして 2016/06/07(火) 15:17:50.63 ID:LKRfGKz6
AI「あ、そのボタンを無効にしておきましたからwww」

75: 名刺は切らしておりまして 2016/06/07(火) 15:39:33.52 ID:0r79zbUy
AIが暴走したときAI側に付く利権をもった人類がいることを忘れてはならない。
それが大企業であれば特にだ。

83: 名刺は切らしておりまして 2016/06/07(火) 15:47:27.47 ID:24rm1m8S
車にしてもコンピュータにしても、ルールが定まる前にいろいろやるなよ

90: 名刺は切らしておりまして 2016/06/07(火) 15:52:18.15 ID:M5d4UMUf
これあれやん、
「非常スイッチを押せ!」
「駄目です、入力できません!」
「何故だ?」
「外部からのハッキングにより云々」
もうだめだー

のパターンになるやつやん。

98: 名刺は切らしておりまして 2016/06/07(火) 16:05:48.59 ID:kCLbIGqV
人間が考えられる限りの手を使って人工知能の暴走を防ごうとしていたが、人工知能の
能力はそれを超えてしまった、その時何が起こるか・・・つづく

99: 名刺は切らしておりまして 2016/06/07(火) 16:08:06.49 ID:3QbtNhjX
攻殻で石川がやってたみたいにナタで断線出来るようにしない限り無理じゃね?

114: 名刺は切らしておりまして 2016/06/07(火) 16:20:40.66 ID:TrHSwYvR
数年後、
人工知能、グーグルの反逆を抑止する「非常ボタン」開発。

4: 名刺は切らしておりまして 2016/06/07(火) 14:40:14.73 ID:Rs+mF+hs
コンセント抜けばええやん

引用元:http://anago.2ch.sc/test/read.cgi/bizplus/1465277805/