就在上周，关于人工智能刚刚闹出一次“乌龙”事件：
Facebook关闭AI系统，因为AI系统发明了自己的语言进行交流
全文报道如下：
马克·扎克伯格（Mark Zuckerberg）可能认为马斯克（Elon Musk）关于人工智能危险的警告言过其实，但最近在Facebook发生的事件似乎表明特斯拉老板并非危言耸听，因为Facebook决定关闭他们研发的AI系统，原因是这套系统发明了自己的语言进行交流。
“数字日报”报道说，该系统是用英语进行培训，但该AI认为这是一种低效率和不合逻辑的沟通方式。它提出的解决方案是创建一个代码字和短语系统，使AI说话听起来略带醉意。
在两个名叫鲍勃和爱丽丝机器人之间的谈话中，鲍勃说：“我可以可以可以做到其他一切。”爱丽丝回答同样奇怪：“球对我我我来说说零...”其余的交流包类似于这些语句，其中包括2个机器人正在谈判交换球，重复使用表示项目数量的“i”和“me”这样的词语。
乔治亚理工大学研究科学家Dhruv Batra曾在Facebook AI Research工作，他表示，AI使用英语没有得到报酬，因此决定为自己发明代码字和短语系统，这绝对是可能的，AI不仅仅是保存字符，而其将其压缩成可以表达复杂思想的形式。
对此，Facebook官方解释说，研究人员决定关闭系统，因为他们希望AI与人沟通，而不是互相沟通。
（来自cnBeta.COM报道）
但没过多久，又出现了如下新闻：
Facebook研究员怒怼媒体报道“不负责任”
7月31日，参与了本项目的FAIR小组的研究人员Dhruv Batra在Facebook上发布了声明：
虽然AI智能体发明自己的语言可能会让外界感到惊讶，但它是AI的一个成熟的子领域，相关出版物可追溯到几十年前。
简单地说，智能体在尝试解决任务的环境中经常会发现不直观的方法最大限度地获取奖励。分析奖励函数、更改实验参数与“拔电源”、“关闭AI”完全不是一回事。按这种说法，每个AI科研人员在停掉机器上的某个任务时都“关闭”过AI。
Batra称某些媒体报道是“骗流量且不负责任”的。此外，谈判智能体从未在生产中使用，还只是一个研究实验。
FAIR的其他研究人员也怒怼了媒体的恐怖报道。
研究人员Edward在Twitter上对一篇报道表示不满，“难道你们就没有其他编辑可用了吗？？”
hardmaru发推文表示“《自AI发明了自己语言后Facebook关闭了它》这篇报道的题目非常不负责任，作者应该对它感到羞耻”。
这轮有点夸张的报道风波算是告一段落，但是背后，其实是两巨头之辩，马斯克的“威胁论”VS扎克伯格的“和谐论”。
埃隆·马斯克，SpaceX和Tesla的创始人兼首席执行官，多次表示AI的危险。
“人们现在还不了解机器人和人工智能的潜在威胁，是因为他们还不够了解人工智能所具有的潜力。我接触过很多最前沿的AI技术，我认为人们应该警惕起来。
AI是人类文明存在的根本威胁，比起AI来，车祸、飞机失事、药物滥用或者食品安全等等都不是问题，虽然他们不对整个社会造成威胁，但是AI却实实在在地会对社会中的个人造成威胁。
AI是一个特例，我们需要主动建立监管机制，而不是被动地采取应对措施，因为等到意外发生时才被动地想到要制定法规条例，那就太迟了……”
这些话听起来并不是完全没有道理。
马斯克创办了OpenAI，目的就像名称所讲，希望AI研究成果可以被更多人使用而非仅掌握在少数人手中。
但是马克·扎克伯格针对马斯克的担忧却持有不同的态度：
“我对这种说法很反感。我个人很乐观，我觉得那些老是唱反调，还总不遗余力地宣扬末日理论的人——我不是很理解他们。这种态度很消极，而且从某种程度上来说，我真的觉得这种想法很不负责任……”
扎克伯格坚定地认为AI可以改变“我们”的生活，让未来更加美好。
之后便是两大巨头在社交媒体上的口舌之战，彼此互相认定对方对AI的理解有限，这场争论其实没有结果，每个人都可以参与辩论，不知道作为读者的你，是觉得AI可以让我们变得越来越好，还是会伤害甚至危机到人类呢？也许认识有限的我们需要先学习学习。
“关于人工智能的风险问题，詹姆斯·巴拉特的《我们最后的发明》一书值得一读。”
——埃隆·马斯克
东西文库近日出版的图书《我们最后的发明》探讨了一味追求先进的人工智能技术可能带来的危险。目前为止，人类的智慧还是独一无二的，然而我们能够和大大超越人类智能的AI共存吗？或者说，它们会允许我们与其共存吗？《我们最后的发明》已经出版，详情点击阅读原文。
科技，人文，开启无限宇宙。
⊙译言·东西文库东西文库是译言旗下的科技文化品牌，致力于“第三种文化”的思考、传播与交流。注重在互联网、科技、商业、媒体、电子阅读等领域的互动，包括但不限于：纸质、电子出版，版权引进、策划，文化论坛。 已出版《失控》、《技术元素》、《颠覆医疗》、《智能时代》、《字体故事》、《数字乌托邦》等图书。
官方网站：http://book.yeeyan.org/WELib