锦佰安科技受邀参加第六届中国网络安全大会 AI对抗欺骗与安全防御备受关注

来源:互联网 时间:2018-06-14

6月13日,第六届中国网络安全大会在北京国家会议中心顺利召开。本届大会由国家计算机病毒应急处理中心、国家网络与信息系统安全产品质量监督检验中心、赛可达实验室、首都创新大联盟及百家行业联盟共同举办。锦佰安科技创始人兼CEO冯继强受邀参加本届大会,并在知名网络安全技术大咖和顶级白帽子云集的大师讲堂论坛中,发表了题为《AI领域对抗欺骗与安全防御》的主题演讲。

冯继强指出,账号登录的本质是为了区别人和机器,还有区别人和人。但静态密码、短信验证码、图片验证码易被破解,U盾等硬件设备则由于成本高、用户体验差等问题制约了其应用场景,因此,这些传统认证方式都不能安全便捷地实现人机识别和身份认证。

AI对抗欺骗威胁生物识别安全

此外,看似安全和成熟的生物识别方案也存在极高的安全隐患。冯继强强调:“生物识别方式中,无论是人脸还是指纹都有一个共同特点,它们为了便捷性不可避免地牺牲安全性。人脸和指纹都可被低成本方式收集,本质上来看,这相当于把认证的凭据放置在公共空间,有心的人总能收集到,并恶意使用。同时,恶意用户也可用AI对抗AI的方式一定程度上绕过这种检测。”

冯继强用具体的事例生动地讲解了三种攻击AI的主要方式:一是污染训练数据;二是生成对抗样本;三是深度学习库大量依赖三方包,也极有可能被挖掘出漏洞。同时他还指出,层出不穷的攻击AI手段也促使防御措施不断进化,比如在今年4月的一篇论文中,牛津大学的研究人员提出用低秩结构增强网络压缩和对抗稳健性,并发现低秩结构可以在一定程度上防御对抗样本。

最后,冯继强提出了对于防止深度学习被攻击的思考:首先,使用低秩增强的网络进行训练,如果收集到对抗样本,可以放到训练集中训练;其次,某些任务不要完全依赖深度学习,在深度学习验证前设置一些校验,或有意分解任务,在深度学习前用统计方式解决;再次,尽量使用新版本的深度学习框架,内部挖洞。

网络安全防御应积极运用AI技术

在网络安全领域,只有永远的对抗,没有永久的安全。冯继强的演讲也表明,在人工智能时代,网络攻防中以AI对抗AI的情况会持续增多,机器学习技术将会越来越多地运用到网络安全领域。

据悉,锦佰安科技已率先推出基于AI的行为识别身份认证产品——SecID AI行为识别身份认证系统,通过机器学习手段为用户独特、不可复制的行为特征建立识别模型,即可准确识别其身份,确保只有本人才能登录账户,防止密码泄漏导致的安全风险,亦体现出该公司在将AI技术应用于网络安全方面有着不俗的自主创新能力。面对层出不穷的攻击手段,安全从业者应积极运用前沿AI技术,从而进一步推动我国网络安全保障体系建设,提升国家重点行业的网络安全防护水平。

项目推荐

A5创业网 版权所有

返回顶部