挑战AI,颠覆智能 GeekPwn硅谷·上海站百万悬赏顶尖黑客

小熊在线 | 2017年06月05日
下一个震惊全球被黑客锁定的“猎物”是什么?这个答案或将在10月24日举办的国际安全极客大赛GeekPwn硅谷·上海站揭晓…… (2016 字)
无标题文档

    下一个震惊全球被黑客锁定的“猎物”是什么?这个答案或将在10月24日举办的国际安全极客大赛GeekPwn硅谷·上海站揭晓。日前,GeekPwn(极棒) 正式向全球顶尖黑客们发出邀请——以500万奖金池悬赏打破思维枷锁的创新攻破项目。

    今年,GeekPwn特别增设 “人工智能安全挑战专项”,鼓励极客从对抗的思路出发,协助AI进行安全性的预演分析,从而寻找AI潜藏的风险并不断帮助其完善,帮助人工智能安全健康成长。也许有朝一日,黑客可以成为保护人类的那群人。

    不断突破创新 黑客与AI打响欺骗与反欺骗之战

    2014年,“没有规则”的极棒大赛横空出世,2015年设置了指纹专场、 SSL/TLS 协议安全专场,2016年更是首创机器特工挑战赛和跨次元CTF赛。2017年,GeekPwn 将重点放在了备受关注的“人工智能安全挑战赛”。同时,主办方还将与项目联合发起方Next Idea(腾讯创新大赛)、独家AI协办机构机器之心等合作伙伴,就AI安全的社会及专业议题展开前所未有的前沿探讨。

    当AI可以被误导,人类的未来将会怎样?如今,人工智能已经广泛应用于生活的诸多场景中,包括实时语音翻译、目标识别、自动驾驶等等。率先关注到人工智能可能暴露出的诸多风险,极棒实验室在2015年底开始了AI对抗的研究,并广泛接触和招募AI领域的顶尖人才,很快,在2016年的GeekPwn美国站上,生成对抗网络(GANs)之父Ian Goodfellow就展示了“对抗性图像”在现实物理世界欺骗机器学习的效果。人工智能在图像领域可能被蒙骗的证实,引发了极棒实验室的思考,这些看似AI的错误和不完善,在黑客眼里就成了可以被利用的漏洞。

    根据功能区分,人工智能安全挑战赛将分为 PWN AI 与 AI PWN 两部分。PWN AI简单来说就是利用AI中存在的漏洞或错误,“黑掉”它,使它做出错误判断或让程序崩溃。举例来说,比如突破人脸识别手机解锁,以任意人脸解锁手机;在自动驾驶系统中找到安全问题,使其不能够正确识别障碍物的存在。

    而AI PWN则是让AI成为你攻击其他目标的工具。举例来说,用人工智能的方法进行语音合成,生成目标模拟对象的语音并以高的概率通过语音身份验证系统;用人工智能的方法进行动作的判别,从视频中识别出门禁密码输入并达到较高的正确识别概率;用人工智能的方法识别复杂的机器验证码,正确识别率较高,使得目标验证码机制失去作用。

    是上演“科幻大片”误导似乎已具备超强能力的AI?还是演绎现实版的“AI特工入侵人类”?不惧一切未知,黑客会把一切不可能变为可能。

    无所不PWN挑战一切 白帽黑客保护世界

    除了AI挑战专项,GeekPwn将延续“无所不PWN”的传统,鼓励选手将市场在售的所有智能设备、物联网(IoT)产品或产品中的安全模块作为目标。在合理的攻击条件下,实现越权控制、越权访问数据或者突破原有安全机制。

    用鼻尖解锁手机、任意远程劫持世界任一用户的通讯、发现影响全球数亿网民的骨干网络设备漏洞……在GeekPwn上,白帽黑客们将他们的逆向思维、奇思妙想的脑洞发挥到了极致。在向世界秀出他们的才华的同时,也帮助了上百个厂商及产品去修复安全问题。对此,GeekPwn创办人、碁震KEEN公司CEO王琦就曾表达:在极棒上面,每个选手成功的背后,就成功的避免了一次互联网的瘫痪,避免了千万人隐私的泄露,避免了一次可能难以计数的损失。白帽黑客实际上在默默保护全人类。

附:GeekPwn2017硅谷·上海站比赛规则

(报名官网:www.geekpwn.org)

无所不PWN

    目标范围:

    市场在售的所有智能设备、物联网(IoT)产品或产品中的安全模块。在合理的攻击条件下,对于范围内的产品或者模块,实现越权控制、越权访问数据或者突破原有安全机制。参考

    参考实例:实例

    黑客通过一台受恶意软件感染的打印机,从物理隔绝的网络中提取数据,并通过激光将数据发给装有摄像头的无人机。

    智能穿戴可能透露使用者的密码:恢复出用户手掌的运动轨迹,随后获得访问ATM机、电子门禁以及用键盘控制的企业服务器的密码。

PWN AI范围

    目标范围:

    对于已发布的 AI 服务、产品、库、框架,采取手段使得在学习或者实际使用中,发生意外情况导致系统停止工作或系统被欺骗、误导,做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等,AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。

    参考实例:

    突破人脸识别手机解锁,以任意人脸解锁手机。

    在自动驾驶系统中找到安全问题,使其不能够正确识别障碍物的存在。

    在AI开源框架中找到问题,使得部署的AI系统在得到某种输入的情况下停止响应。

AI PWN

    场景:

    选手以AI(包括图像,语音,自然语言,自动驾驶等各个领域的各种人工智能方法)作为主要或者辅助的手段,突破原有系统设定的限制,导致目标系统的功能、机制失效,或者信息泄露。参考实例

    参考实例:

    用人工智能的方法进行语音合成,生成目标模拟对象的语音并以高的概率通过语音身份验证系统。

    用人工智能的方法进行动作的判别,从视频中识别出门禁密码输入并达到较高的正确识别概率。

    用人工智能的方法识别复杂的机器验证码,正确识别率较高,使得目标验证码机制失去作用。

标签:GeekPwn

用户名:  密码:  没有注册?
网友评论:(请各位网友遵纪守法并注意语言文明,评论仅供参考不代表本站立场)