haveok 2016-6-9 23:58
担心AI毁灭人类？谷歌正在研发控制它们的“紧急按钮”[1P]
[img]http://n.sinaimg.cn/tech/transform/20160609/HsKY-fxszmai2108498.jpg[/img]
北京时间6月9日晚间消息，国外媒体报道，谷歌旗下人工智能部门DeepMind日前表示，正在研发一种“保险开关”，以防止机器人在某些情况下失去控制而对人类造成伤害。
特斯拉和SpaceX公司CEO埃隆·马斯克(Elon Musk)上周还对人工智能的发展表示担忧，他在出席Code Conference大会时称，按照人工智能的发展，未来人类在智力上将被超越，并沦落为人工智能的宠物。
但如今，马斯克应该可以舒口气了，因为谷歌正在想方设法确保由人类控制一切。DeepMind日前在一份学术论文中称：“有时，可能需要由人类来按一个红色的紧急按钮，以阻止机器人的一些破坏性行为。”
这种安全机制将会时刻处于人类的监控下，而且在必要时候能够通过按下红色的按钮来阻止机器危及人类、环境，并确保该机制能在安全的环境下运行。谷歌称：“在许多情况下，对机器人采取安全中断措施是非常有必要的，否则将导致一些无法控制的后果。”
有业内人士称，谷歌这种做法的前提是：确保人工智能不会脱离人类的控制，确保人工智能无法阻止这个中断。但如果人工智能真的发展到能与人类抗衡的地步，谁又能保证它无法找到破坏这种安全机制的方法呢？
martinchi 2016-6-10 03:40
记得终结者3中，人类也是试图通过设置程序来阻止天网，不过最后被天网的自我进化给突破了
aa6174321 2016-6-10 23:03
其实只要断电就好了。。。
弄一个机械的电源控制器就好
goodmap 2016-6-11 15:38
確實AI達到某個高度的時候想想確實可怕，因為遠超人類的智商，如果產生了野心。那將很可怕的。雖然離那種情況還早著呢。至於樓上的斷電就好。有那麼容易嗎。機器人那麼高的智力會想不到自己的弱點。然後加以強化。在要打算對付人類之前，一定會做好200%的準備才出手。
dongdong1977 2016-6-12 10:08
谷歌的无人驾驶还可以，用这个就不知道怎么样了，不过呢，外国的月亮可能要园点吧
在线客服(1)