黑客要怼人工智能了 | 极棒黑客大赛新规上线

　　不久前，AlphaGo 与柯洁的巅峰对决终于落下帷幕，结局不免令人失望却没有悬念——人类又一次败给了 AI。

　　“不像是个人，像是一个神，”赛后年仅 19 岁的柯洁如此评价。

　　有学者指出， AlphaGo 模型本身是为了能赢而设计最佳算法，AlphaGo 会倾向于以 99.99999% 的概率用 0.5 分的优势勉强胜利，而不是 99.99% 的概率以 10 分的巨大比分碾压对手。至于媒体报道中的“人类是否还有希望”、“捍卫人类尊严”等耸人听闻的言论，忽视了 AlphaGo 还不具备除下围棋之外的“特异功能”。

　　鲜有媒体提到的是 AlphaGo 也输给了人类。在双人配对战中，棋手连笑 8 段和 AlphaGo 1 对弈古力 9 段和 AlphaGo 2。对弈中在对方开始取得优势的情况下，AlphaGo 2 竟然自动举牌认输。即便是古力拒不认输，而在随后的比赛中 AlphaGo 2 消极应战，提前终结了一场精彩的对决。

　　是的，“神一般存在”的AlphaGo 也会输。

　　DeepMind 创始人 Demis Hassabis 说：“只有和人对战才能发现 AI 的弱点，予以修正。仅仅通过开发算法以及 AlphaGo 和自己对弈是不够的。”

AI 的弱点，看似人工智能的错误和不完善，但其实在黑客眼里就有可能变成可以被利用的漏洞。

　　GeekPwn 国际安全极客嘉年华已经迈出“黑客 VS 人工智能”的脚步。

　　2016 年，GeekPwn 首提人工智能安全问题，并在硅谷站上邀请到来自谷歌大脑 Ian Goodfellow 和 Alexey Kurakin 研究员，加州大学伯克利分校 Dawn Song 教授和 Chang Liu 分享了在人工智能领域的安全研究；人工智能黑客 Clarence Chio 则在上海站分享了他利用“Deep-Pwning” 黑掉人工智能掉过程。

　　2017年10月24日将在上海和硅谷举行的极棒嘉年华延续“无所不 PWN”的自由规则，初始奖金池为 500 万人民币，继续鼓励广大白帽黑客在智能安全领域的探索。

　　极棒组委会重磅推出“人工智能安全挑战专项”，人工智能可以成为黑客的助手，黑客亦可能“黑掉”人工智能。

在人工智能领域，深度学习依赖对大量样本进行学习，最后产生决策的过程，和安全领域里通过产生大量模糊测试样本引发计算机异常，从而发掘出漏洞，最终执行流程可以被改变，进而导致安全危害的过程非常相似，如果说正确样本能够产生正确的决策，那么黑客通过离线模拟产生的 AI 攻击样本，则可能给人工智能带来错误的决策和行为。

　　从对抗的思路出发，创办“人工智能安全挑战专项”是为了寻找AI潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。也许有朝一日，黑客可以成为保护人类的那群人。

　　极棒嘉年华比赛规则

　　无所不 PWN

　　目标范围

　　市场在售的所有智能设备、物联网（IoT）产品或产品中的安全模块。在合理的攻击条件下，对于范围内的产品或者模块，实现越权控制、越权访问数据或者突破原有安全机制。

　　参考实例

　　黑客通过一台受恶意软件感染的打印机，从物理隔绝的网络中提取数据，并通过激光将数据发给装有摄像头的无人机。

　　智能穿戴可能透露使用者的密码：恢复出用户手掌的运动轨迹，随后获得访问 ATM 机、电子门禁以及用键盘控制的企业服务器的密码。

　　人工智能安全挑战专项

　　正如硬币的两面，科技的发展与生活的关系愈发紧密，人工智能的快速发展可能已经引发了人们的思考。人工智能会成为黑客的助手，黑客亦可能“黑掉”人工智能。

　　GeekPwn 与 Next Idea 联合发起了“人工智能安全挑战专项”。人工智能安全挑战专项分为 PWN AI 与 AI PWN 两部分。

　　PWN AI 是将 AI 作为挑战对象，人工智能算法会因选手影响而做出错误判断或让程序崩溃。AI PWN 是将 AI 作为工具，选手通过利用 AI 技术实现对于指定目标的攻击，引导其犯错或崩溃。

　　PWN AI

　　目标范围

　　对于已发布的 AI 服务、产品、库、框架，采取手段使得在学习或者实际使用中，发生意外情况导致系统停止工作或系统被欺骗、误导，做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等，AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。

　　参考实例

　　突破人脸识别手机解锁，以任意人脸解锁手机。

　　在自动驾驶系统中找到安全问题，使其不能够正确识别障碍物的存在。

　　在 AI 开源框架中找到问题，使得部署的 AI 系统在得到某种输入的情况下停止响应。

　　AI PWN

　　场景

　　选手以 AI（包括图像，语音，自然语言，自动驾驶等各个领域的各种人工智能方法）作为主要或者辅助的手段，突破原有系统设定的限制，导致目标系统的功能、机制失效，或者信息泄露。

　　参考实例

　　用人工智能的方法进行语音合成，生成目标模拟对象的语音并以高的概率通过语音身份验证系统。

　　用人工智能的方法进行动作的判别，从视频中识别出门禁密码输入并达到较高的正确识别概率。

　　用人工智能的方法识别复杂的机器验证码，正确识别率较高，使得目标验证码机制失去作用。

　　报名须知

　　选手报名：在线填写、提交报名表 https://wj.qq.com/s/1343876/0530（从 GeekPwn 官网进入或者直接复制链接）。

　　评委初审：极棒组委会根据报名信息在五个工作日内完成对选手的评审。

　　复审确定：一旦选手资格确定，比赛时将由主办方准备目标设备（或 AI 产品）及展示环境。

　　报名截止时间：2017 年 9 月 24 日（报名参赛过程中有任何疑问，请发送邮件至：cfp@geekpwn.org）

人工智能会成为黑客攻击的对象，

人工智能会成为黑客攻击的武器。

　　GeekPwn 依旧致力于打破安全领域的边界，继去年特设“机器特工挑战”与“跨次元 CTF”之后，今年还将有哪些变化，新的专项规则会在 7 月初全面公开，敬请期待。

　　?? 极棒官网重大更新，快去看看吧！