【朗報】Google、人工知能の暴走を止めるための大きくて赤いボタンを開発

2016-06-07 15:06
1: ガジェット名無しさん 2016/06/07(火) 11:50:35.99 ID:A9Mp4THFa

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」を開発したことを発表しました。
その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

http://japanese.engadget.com/2016/06/06/google/


2: ガジェット名無しさん 2016/06/07(火) 11:51:34.28 ID:A9Mp4THFa

イメージ画像
no title


4: ガジェット名無しさん 2016/06/07(火) 11:52:35.42 ID:+b1DUt3n0

ボタン無効化しそう


引用元: http://raptor.2ch.net/test/read.cgi/livejupiter/1465267835/

12: ガジェット名無しさん 2016/06/07(火) 11:54:43.35 ID:0076jcrB0

人間には最終手段のコンセント抜きがあるやんけ


5: ガジェット名無しさん 2016/06/07(火) 11:52:54.53 ID:Ow2gjSfea

大きくて赤いボタンとかいう糞訳


6: ガジェット名無しさん 2016/06/07(火) 11:53:15.42 ID:Zj7Ww7tU0

人権団体がアップを始めるなこれは


7: ガジェット名無しさん 2016/06/07(火) 11:53:17.29 ID:wW0yTDhU0

人類を安心させるためにこのボタン作ったってのが人工知能の流したデマかもしれんぞ


8: ガジェット名無しさん 2016/06/07(火) 11:53:21.99 ID:o34k1flc0

絶対安全なんてありえんやろ
人間のやる事なんやし


11: ガジェット名無しさん 2016/06/07(火) 11:54:28.47 ID:/cI/qVPt0

まるでこの先人工知能の暴走が起きるかのような流れだな
そこまで発展するとは思えん


15: ガジェット名無しさん 2016/06/07(火) 11:55:50.10 ID:KY6WVexb0

すべての電気シャットダウンすれば勝ちやで


24: ガジェット名無しさん 2016/06/07(火) 12:00:54.63 ID:EVtIOzeSM

枠組みごと無効化されてるのを人間が気づかないまま
その時を迎えるんやで


31: ガジェット名無しさん 2016/06/07(火) 12:03:01.36 ID:EVtIOzeSM

ボタンが効かないことに気づいた時には
全世界の核ミサイルが発射されとるやで


28: ガジェット名無しさん 2016/06/07(火) 12:01:25.89 ID:pWDzc9MEp

スカイネットもこれを作っておくべきだったンゴねぇ


ゲーム関連新着記事
Amazonオススメ商品ランキング!
コメント一覧
  • 1 :
    ガジェット名無しさん!
    2016-06-07 15:15:06
    ボタンとAIの接続がある以上危険そう。ボタンが有効に働くコードを書き換えられたらアウトなんじゃ。
  • 2 :
    ガジェット名無しさん!
    2016-06-07 18:00:25
    暴走するようなAIが実現化した頃に
    コンセントなぞ付いていると考えるほうがどうかしている

    マジレスすると、電気設備も非常時に単純な電源切では
    危険な状態のまま停止する可能性があるので必ずしも適策ではない
    安全停止ってのは機械安全上非常に重要な問題
    お前ら本当に頭使っとらんな、そりゃAIに負けるわけだはw
  • 3 :
    ガジェット名無しさん!
    2016-06-07 18:18:38
    ↑ネタにマジレスする最高にアホなやつ
    くっさ
  • 4 :
    ガジェット名無しさん!
    2016-06-07 18:29:08
    ※2
    へーお前電源供給無しで動くAI作れんだぁ
    実用化あくしろよ
  • 5 :
    ガジェット名無しさん!
    2016-06-07 20:12:57
    スカイネットにも緊急停止機能はあったけど、スカイネットが秘密裏に無効にしてたんじゃなかったっけ
    人間のオペレーターがいくら止めようとしても止まらなかったシーンを思い出した
  • 6 :
    ガジェット名無しさん!
    2016-06-08 11:52:59
    そもそも人工知能がクラウドネットワークを活用しない保障はない。
    自己を分散化させて負担を軽減する事と人を害する事は一致しないから、
    人に害を与えないフレームワークで阻止できるのかどうか。

    クラウド化してしまえば、ウイルスと一緒で完全に駆除するのが難しくなり、
    ネットワーク内に人間に害を与える人工知能が潜み続ける事になる。

    人間とAIが上手く付き合える社会構築を地道に考える方が楽かもね。
コメントする
名前
コメント

|

スポンサードリンク

お知らせ

相互リンク募集中です!

お問い合わせ、相互依頼は『このブログについて』にあるメールアドレスにご連絡ください!

人気掲示板おーぷん2ちゃんねる

気になるワードで検索

カテゴリ

月別

最新記事

人気記事ランキング

スポンサードリンク