神刀安全网

机器学习被带到沟里了?恶意软件可轻易逃脱检测(包括Gmail)

作者:许伟林(美国弗吉尼亚大学博士研究生)

近年来机器学习越来越火,被很多人视为神器,指哪打哪,所向披靡,地球人已经不是对手了。很多安全领域的难题也用到机器学习技术来解决,比如垃圾邮件分类、僵尸号检测、恶意软件分类等。去年微软在Kaggle上赞助了一个Windows恶意软件分类比赛[5],冠军队赛前并没有任何恶意软件知识,仅凭基本的机器学习技能就赢得第一名,模型准确率接近100%。这似乎意味着数据科学家开始来抢安全专家饭碗了!

然而,今年NDSS‘2016有一篇论文[1]指出:机器学习做安全只是看起来很美。论文标题AutomaticallyEvadingClassifiers,作者来自美国弗吉尼亚大学UniversityofVirginia,论文slides已搬运到墙内[2]:

该论文采用遗传编程(GeneticProgramming)随机修改恶意软件的方法,成功攻击了两个号称准确率极高的恶意PDF文件分类器:PDFrate[3]和Hidost[4]。实验中所有500个恶意PDF样本被稍加修改后都被判为无害,然而其携带的恶意代码照样在目标平台中运行。值得注意的是,这些逃逸检测的恶意文件都是算法自动修改出来的,并不需要PDF安全专家介入。

两个受攻击的分类器PDFrate和Hidost分别采用PDF文件内容和PDF文件结构作为分类特征,在原测试数据集中均显示出极佳的分类性能。然而,该论文的攻击实验结果表明,不论是文件内容还是文件结构都不能训练出可靠的恶意PDF分类器。尽管在训练数据中确实可以观察到两类样本在文件结构(内容)上的差异,这些差异往往并非必然,以此训练出来的分类器将存在很大盲区。举个例子,现实中收集到的恶意PDF样本往往文件尺寸都比较小,因为攻击者通常只要把一小段可执行代码植入PDF就够了,并不需要真正的PDF页面。用机器学习训练分类器时,把文件尺寸作为特征或许可以在特定的数据集中帮助区分恶意/无害样本,然而这并非是恶意软件的真正特征,攻击者只须简单地植入更多PDF内容页就可以迷惑分类器。

机器学习用在安全业务中到底可不可行,学术界一直争议不断。这篇论文以扎实的证据指出:安全领域的任务有其特殊性——攻击者会不断改变策略,至少不能以传统的机器学习视角来看待安全类问题了。以后安全从业者接触到本领域的机器学习分类器,不应该只问准确率、误报率之类的传统度量,而应该认真思考一下其分类特征是否靠谱,否则机器学习做安全只是看起来很美而已。

作者在宣讲论文时还披露了Gmail内嵌的恶意软件分类器更加脆弱,只须4行代码修改已知恶意PDF样本就可以达到近50%的逃逸率,10亿Gmail用户都受到影响。然而Google安全团队表示恶意软件检测是个大难题,他们暂时也无能为力。计算机安全行业如何保护亿万用户任重而道远!

论文作者简介:

机器学习被带到沟里了?恶意软件可轻易逃脱检测(包括Gmail)

许伟林,美国弗吉尼亚大学计算机系PhD学生,研究方向Adversarial Machine Learning,师从David Evans和Yanjun Qi教授。本科毕业于北京邮电大学,获北邮最高学术奖,其间两次参加Google Summer of Code的网络安全类开源项目,贡献了Nmap的IPv6扫描功能和Honeynet的IPv6入侵检测器6Guard。赴美留学前在清华大学网络与信息安全实验室(NISL)任职工程师,负责IPv6蜜罐项目。

参考链接:

[1]论文全文下载: NDSS会议网站 2016-0315-automatically-evading-classifiers

[2]从百度文库下载报告Slides: http://wenku.baidu.com/view/0f30f8dba6c30c2258019e02

[3]ACSAC‘2012: PDFrate https://www.acsac.org/2012/openconf/modules/request.php?module=oc_program&action=summary.php&id=70

[4] NDSS‘2013 :Hidost http://www.internetsociety.org/doc/detection-malicious-pdf-files-based-hierarchical-document-structure

[5]Windows恶意软件分类比赛: https://www.kaggle.com/c/malware-classification/

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 机器学习被带到沟里了?恶意软件可轻易逃脱检测(包括Gmail)

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
分享按钮