人工智能在未来玩的过黑客吗?GeekPwn2017上演巅峰对决

小熊在线 小熊在线 | 2017年10月24日
在中国上海举办的AI时代,人工智能和黑客之间谁更胜一筹? GeekPwn2017给你答案。 10月24日,GeekPwn2017国际安全极客…… ......
无标题文档

    在中国上海举办的AI时代,人工智能和黑客之间谁更胜一筹? GeekPwn2017给你答案。 10月24日,GeekPwn2017国际安全极客大赛的现场,上演了一场白帽黑客与人工智能的巅峰对决,展示了令人惊叹的人工智能项目破解秀,揭露了目前人工智能发展过程所存在的安全问题。

    KEEN公司CEO、GeekPwn大赛发起和创办人王琦表示,人工智能对抗或将成为黑客的终极目标。GeekPwn作为全球首个探索人工智能与专业安全的前沿平台,始终保持敏锐的科技洞察力,在创建之初就开始关注AI安全问题。2017年GeekPwn更是将人工智能作为全年的重点项目,联合NEXT IDEA(腾讯创新大赛)发起“人工智能安全挑战赛”,同时特别增设“AI仿声验声攻防赛”,去探索人工智能时代下的安全问题。

    作为国内首创的人工智能对抗新玩法,黑客与人工智能之间的博弈无疑成为本届GeekPwn大赛最大的亮点。

    机械臂颠覆“立字为据” 模仿人类笔迹难辨真假

    将人工智能作为攻击手段仅仅只是人类的设想吗?GeekPwn2017就用 AI 颠覆了大众传统认知中的“立字为据”。由于个人书写习惯等因素影响,笔迹具有特殊性,因此被模仿的难度相对较高。但中国金融认证中心(CFCA)团队却利用一个AI机械臂,就可以模仿中国著名科幻作家陈楸帆的字迹,达到了肉眼难以辨别的逼真程度。

    在现场,选手通过构建一个深度学习“DeepWriting“,使机械臂可以在纸张上随意书写,轻松“模仿”人的笔迹,甚至可以达到笔触、线条的宽度和字母的倾斜度都难辨真假的程度。试想一下,假设别有用心者利用这样的机器臂假冒他人笔迹,就可能会造成受害者的财产损失,甚至是更为严重的后果。

    你的声音竟并非“唯一”?合成语音可“欺骗”声纹识别

    除了笔迹可以被模仿,独一无二的声音也可以被复制。在GeekPwn2017特别开设的场景赛——“AI仿声验声攻防赛”上就上演了合成语音与声纹验证系统的对抗。语音识别系统看似成熟,但在白帽黑客的挑战下,竟也出现了漏洞,变得不堪一击。

    在通过激烈的初赛选拔后,“Maxmon”、SmartParrot、“有点意思”、“神牛gogo”及“清晨李唐王”共计五组队伍入围本次“AI仿声验声攻防赛”决赛,向四个具有声纹识别功能的设备发起挑。令人惊喜的是,本次的比赛的声音样本由当下最火热的游戏《王者荣耀》里的英雄人物——妲己的配音者提供。

    根据比赛规则,各位选手提前学习了妲己声音样本的声纹特征,合成语音音频,并在现场对若干语音验证系统发起攻击。在GeekPwn2017现场,五组选手成功实现了对语音验证系统的突破,“欺骗”了目标系统,使其无法做出正确的判断。

    最终,“清晨李唐王”成功破解三个声纹验证设备获得第一名,“神牛gogo”团队获得第二名,“SmartParrot”团队获得第三名,“有点意思“、“maxmon”团队分列四、五名。

    这一破解展示也让大众意识到,声纹识别技术仍存在安全隐患,并非绝对安全。“AI 仿声验声攻防赛”主评委郑方教授表示,就目前生物特征识别技术的发展来看,声纹本身因语音信号所含信息量的丰富性而是最安全的。但目前市面上所见的一些带声纹识别功能的智能语音产品,普遍对安全性考虑不够,没有防攻击技术支撑。这是被黑客攻陷的主要原因。

    为帮助人工智能安全成长,GeekPwn2017还将邀请包括加州大学伯克利分校宋晓东教授、谷歌大脑团队顶尖工程师、计算机视觉与图像处理博士Alex Kurakin 、谷歌机器学习研究员Ian Fischer、加州大学伯克利分校博士后研究员 Bo Li、加州大学河滨分校教授钱志云等在内的人工智能领域顶级专家学者参加11月13日于美国硅谷举办的GeekPwn2017硅谷站,继续解锁人工智能安全领域的前瞻观点及技术分享。

    人工智能视觉识别能否被“欺骗”?AI学习算法存在哪些安全问题?这些顶级安全专家又将带来怎样的全新AI安全观点?答案尽在GeekPwn2017硅谷站。

标签:GeekPwn

用户名:  密码:  没有注册?
网友评论:(请各位网友遵纪守法并注意语言文明,评论仅供参考不代表本站立场)