一：AI时代的恐惧
前段时间媒体上一直传说着一个Facebook人工智能部门的恐怖故事。
大致是FB员工在引导两个AI自己聊天，一开始还是正常的聊天，屏幕上显示的字还是普通我们读得懂的英文。但是聊着聊着，发现两个AI发明了一种新的语言，而且这种语言根本不是人类的语言，更重要的是两个AI仍然聊的不亦乐乎，并且无视程序言下达的命令。最后FB停止了这一项目的研究，原因是“担心可能会对这些AI失去控制”。
当然只能算是一个恐怖故事，因为实际上这只是一个AI的bug被媒体不断放大了而已。
但是我知道很多人在看到这样的新闻时，后背不断发凉，因为感觉这样的日子貌似并不遥远。
如果说去年AlphaGO击败了李世石让大家还心存侥幸，那么今年击败柯杰，则最终向人们传达了这么一个信息： 人类，已经不是这个星球上最聪明的“物种”了。
|
而在人类过去几万年不断征服自然的过程中，我们深刻的明白：
不是最聪明，意味着被消灭，或者像动物园的狮子那样，被奴役。
我认识一个朋友，是从一个大投行出来，后来去了一家投AI的PE机构。但是之前再次见他，他已经辞去了所有工作，反正之前赚的钱也够了，现在就专门负责游山玩水。问及原因，答：AI会消灭人类，并且我们终将无力反抗，我只是及时行乐而已。——这是真事！
对未知的恐惧是人类的天性，过去的先人，对气候充满恐惧，因为不知道什么时候爆发下洪水就把家淹了，但是能做的只有祈祷。现在我们也对AI也充满了看恐惧，不知道哪天就把人类给KO了。
曾经讨论外星人文明和人类文明有个经典的比喻，是蚂蚁和高速公路的比喻。这个比喻对应到AI问题也同样适用。
大致的意思人类建造一条高速公路路，我们会征求拆迁户的意见，但我们绝对不会去征求路边蚂蚁的意见，因为我们做的事超出了他们的理解范围，也没想过蚂蚁能够理解。如果因为建了一条道高速公路而捣毁了一个蚂蚁窝，我们也从来不会同情，也不会有哪怕有一丝的道德负罪感。
所以反过来，我们也担心，哪天在AI面前，我们万一成了那只不用征求意见的蚂蚁了呢？
|
按理说AI这么庞大的课题，我也不是AI从业者，完全没有我说话的资格，但谁叫我是个吃了饭没事做爱瞎琢磨爱凑热闹闲的蛋疼的吃瓜群众呢，而且更重要的是，这也关乎我的生死存亡啊。
所有我就把自己对AI时代的一些思考给写了下来，包括这个终极问题：我们会被人工智能奴役么？希望共同探讨，共同学习。
二：AI时代没有隐私
大家应该都知道《皇帝的新装》的故事。而在AI时代，我们就是那个自以为穿着衣服的皇帝，甚至不只是衣服，连肚里的蛔虫，脑子里的小心思，都会被人偷窥的一览无余。
马云说，数据是人工智能的核心。
前几天，深圳的两家巨无霸公司，腾讯和华为，打起了嘴炮，腾讯指控华为手机窃取用户数据，华为说我是经过用户允许的。这嘴炮背后争夺的，其实就是用户的数据。
随着互联网渗透到了生活的方方面面，我们的任何动作都是留痕的，都是可追溯的，我们个人的隐私其实已经完全暴露在了光天化日之下。
比方说，通过对我个人微信聊天中内容的分析，通过我的支付行为的分析，通过我淘宝行为的分析，通过我百度搜索记录的分析，通过我访问各种网站的分析，科技巨头会比我自己更了解我自己。他们可以分析出我的爱好，我的习惯，我的性格，包括可以大致猜测出我脑子里的想法，甚至可以推测将来我脑子里会有什么想法。
记得大学毕业，曾经去阿里的大数据中心应聘，第一步就是用个人淘宝账号提交简历，没错，就是我平时买东西用的淘宝账号，后来想想，阿里没要我，可能就是想看看我淘宝平时买了什么东西，发现这个人在大学没事就买游戏点卡，肯定没好好学习，然后果断拒掉。因为阿里通过个人的淘宝账号，可以很快的了解我是一个什么样的人，这个可能比和HR聊一天都管用。当然这是我的猜测，不过理论上完全可行啊。
但是数据这个东西，我个人的聊天记录，我个人的淘宝记录，到底是属于谁的，肯定是属于我的，只要我不同意，无论是谁都不能用我的数据去进行分析。
事实肯定不是这样，虽然在类似注册的时候，可以选择是否授权公司分析我的数据，但毕竟，这些数据不在我的手中，也没人会去监管我的数据是否按照我的想法进行处理。另外从国家的角度，甚至他们比公司更希望获得所有国民的数据。
拥有了用户数据是个很可怕的事，基本可以用上帝视角来俯视众人。而目前从法律层面似乎没有办法去提供强有力的监管，我们提供我们的数据是基于1）我们需要他们的产品，2）相信拥有我们数据公司不会做大恶。但是谁敢保证他们永远不作恶呢？
然后我猜想，最后可能是被收割最惨的国家最早起来反抗。我猜欧洲可能会最早实质上推进用户数据的保护，因为欧洲是在数据上属于被收割，没有能力去收割别人的国家。
对欧洲众多小国来说，他们国内更本没有拿得出手的产品，社交用的FB，手机用的苹果，购物用的亚马逊，他们的国民在AI时代是完全暴露在美国互联网巨头的视野中。所以他们更有动力去推进用户数据的保护。想想当年推进微软反垄断案是欧盟出了很大的力。最近欧盟更是给Google开了张创纪录的27亿美元天价反垄断罚单。
三：AI时代，以一当十
在人类科技发展史上，过去的科技进步是有很大的运气成分在里面，比如青霉素的发现，是个偶然事件，X光的发现，是个偶然事件，虽然背后有必然的因素，但不能否认运气在里面的作用。
不过科技发展到了现在，任何科技进步都不是一个人单枪匹马的事，需要一个庞大的团队协同工作，拨付大量的预算，成体系的去运作。原因就是一个人的处理能力是有上限的，一个人的记忆水平，分析能力都是有上限的。
但我们的记忆水平和分析能力是可以依靠外力去进行提高的。人类进化的路径是，发明工具，提高生产力，依靠发明的工具再发明新工具，再提高生产力，如此不断循环下去。
在《钢铁侠》里，托尼史塔克依靠AI小伙伴JAVIS自己一个人就搞定了造钢铁侠，其实我认为这个就是AI时代推进生产力的样本。
比如我们说互联网是个工具，在互联网技术的支持下，有想象力的人依靠互联网发明了很多产品和服务。那么在类似JAVIS的工具下，很多人的创造力也会有更大的发展空间。依靠AI，一个人的记忆体量，分析能力都会大大的提升，可以集成过去很多人需要完成的工作。
所以我猜想，人类在AI的帮助下，或许在基础科学上可以有重大突破，可以把我们带入太空时代。我觉得有可能吧。
四：我们会被AI奴役么？
先不说AI，先说说我们人类。如果我们把人比作一个程序，那么人的任何一个行为，背后必然是运行了一行代码。
人类的生理特征，思考方式，行为模式等，其实都是执行了基因代码。比如我是男的，是因为代码就是XY。
|
我们是智能生物，因为我们的脑子长这样就能支撑起这样的智能。而脑子长这样，也是运行了长成脑子的基因代码。
所以我理解人类的智能是表象，核心是人类的基因代码。如果脑洞开大一点，说不定我们的基因就是上帝写的一串代码，然后这串代码跑了几十亿年。
人类的这串基因代码之所以超级智能，是因为这串代码是会自我迭代的，他会识别周围的环境变化，寻找千百万种迭代方式。比如天气冷了，那么生活在那个地区的一万人就会有一万种自我迭代的方法，来修改能保存体温的基因代码，然后运行，结果错误的迭代就被干掉，正确的迭代就存活了下去。
简单点来说就是要求基因代码的迭代按照适者生存的这个条件。
那么又是什么代码保证了基因的迭代要尽量按照适者生存的这个模式去运行呢，我理解应该就是“自私的基因代码”，即要求这串基因要竭尽一切可能去保证它自身的存活。所以我们人类会有了性冲动，这样保证了繁衍，会有了求生的欲望，保证自己的存活，尽量避开危险。任何威胁到自身存活的东西都必须竭尽全力去干掉。
更重要的一点，“自私的基因”这条代码永远不允许被更改，因为这是整个基因代码迭代的前提。要不然人类不会去繁衍，或者哪天宝宝不开心，那我就跳个楼开心下吧。
好了，现在可以回到AI上面，AI有想法要干掉人类，必须首先他自己拥有不能被改写的，要求AI自我迭代的第一前提是竭尽全力保证自己代码的存活的这么个代码。只要没有这个代码，AI对把自己删掉会毫无感觉。
在很多科幻电影里，比如说最近的异形，之前的西部世界等，经常会表现出AI觉醒的场景，然后认为人类妨碍了他们的生存，然后想把人类干掉。但是本质上是他们自己把这串“自私基因终极代码”写进去了。
所以我认为人类的最后一个问题，AI自己会不会在运行的过程中，给自己写进去这么一串一旦写进去就不允许修改的“自私基因”终极代码，并且作为自己程序迭代的第一前提。那么，也会不会有人恶意到想给人类造成这样的最后一击呢？