担心AI毁灭人类?谷歌正研发控制它们的紧急按钮

谷歌旗下人工智能部门DeepMind日前表示，正在研发一种“保险开关”，以防止机器人在某些情况下失去控制而对人类造成伤害。

　　特斯拉和SpaceX公司CEO埃隆·马斯克(Elon Musk)上周还对人工智能的发展表示担忧，他在出席Code Conference大会时称，按照人工智能的发展，未来人类在智力上将被超越，并沦落为人工智能的宠物。

　　但如今，马斯克应该可以舒口气了，因为谷歌正在想方设法确保由人类控制一切。DeepMind日前在一份学术论文中称：“有时，可能需要由人类来按一个红色的紧急按钮，以阻止机器人的一些破坏性行为。”

　　这种安全机制将会时刻处于人类的监控下，而且在必要时候能够通过按下红色的按钮来阻止机器危及人类、环境，并确保该机制能在安全的环境下运行。谷歌称：“在许多情况下，对机器人采取安全中断措施是非常有必要的，否则将导致一些无法控制的后果。”

　　有业内人士称，谷歌这种做法的前提是：确保人工智能不会脱离人类的控制，确保人工智能无法阻止这个中断。但如果人工智能真的发展到能与人类抗衡的地步，谁又能保证它无法找到破坏这种安全机制的方法呢？

百尺竿头更进一步...

小菜一碟

别无选择

难以置信