研究人员发现绕过Cylance Protect的简单方法

显示全部楼层 · 发表于 2019-7-19 10:05:45

本帖最后由 B100D1E55 于 2019-7-19 10:12 编辑

https://www.vice.com/amp/en_ca/article/9kxp83/researchers-easily-trick-cylances-ai-based-antivirus-into-thinking-malware-is-goodware

今天翻VICE的时候看到的文章，以下是我随便写的内容摘要：

Cylance（今年2月已经被黑莓以14亿美元收购）自称突破性地运用AI技术检测未知威胁，但澳大利亚的研究人员已经发现一种能够在不更改恶意程序源代码前提下直接让Cylance判白的方法——只需要将一个非恶意文件的字符串添加到恶意程序当中就会使得判定系统认为样本为无害。

这个情况发生主要是由于Cylance的机器学习算法的缺陷会使其在看到非恶意程序字符串时忽略其他恶意特征。研究人员只需要对WannaCry， Samsam勒索程序，Mimikatz等流行毒样本添加一个无害白名单内网游程序的字符串特征，就可以使得这些样本中的大部分躲过Cylance的引擎检测。

VirusBulletin的一个编辑认为这个结果毫不令人意外：“这就是当今所谓AI的工作原理，如果你们将恶意程序装饰得和正常文件一样，那么你也可以做到（免杀）”另一个专家表示：“通常人们会使用机器学习来解决那些未知的或者人工没法完成的事情，机器学习大部分情况下的确表现得不错，但总有一些情况使得那些模型无法解决一些边角案例”“他们并非错在人工智能代码写得不好，而是错在将这些东西称作人工智能”

Cylance自称使用传统特征码或者启发规则，而是通过提取约四百万不同的特征和数据点，对十亿个黑白样本进行学习甚至预测恶意程序特征的发展趋势，模型仅需要约每六个月训练一次。

为了研究Cylance的弱点，研究人员购买了一套Cylance软件并进行了逆向分析来确定其特征提取点和对应权重。Cylance内部模型会对待测样本进行打分，分数范围为-1000~1000（-1000意味着恶意置信度最高）。一开始研究人员以为因为特征繁多，逆向过程会需要耗费数个月的时间，但他们后面立刻发现Cylance会在内部“拉白”一系列家族的可执行程序来缓解误报问题。在对恶意程序嵌入了白文件的字符串后，Mimikatz的分数从-799变成了998，WannaCry从-1000变成了545。这就和那些扰乱AI识图的手段类似。随后研究人员又额外测试了384个流行样本，发现平均下来这些样本免杀前分数为-920分而简单免杀后平均分一下涨到630分，其中84%的样本这样简单免杀后直接判白。而且，他们还进行了动态测试：在电脑上实际运行这些免杀过的程序，发现Cylance后续防御也没法查杀这些程序

研究人员认为虽然在AI程序中进行白名单的做法有点诡异，但也能理解这背后的缘由——如果AI引擎对一些白程序产生了误报，那么将这些白程序的权重在算法中提高使其直接绕过原本的算法判识的确是一个去误报的方法。

Cylance则表示虽然他们的产品中也有一些特征码检测和启发规则，但AI判别在整个检测流程中仍旧是最大权重。Cylance表示总的来说在所有这些AI场景中，模型总是包含着概率问题。当使用黑白特征训练一个模型的时候过高估计某个特征背后的“白权重”是完全有可能的。面对AI他们仍旧在一个学习的过程中，公司也在对抗ML方向投入了大量人力物力

澳大利亚的研究人员认为为了修复这个问题，Cylance很有可能需要重新训练整个系统，这将是一个复杂且昂贵的流程。而Cylance认为只要他们知道了这个绕过方法的细节，重新训练模型并不会耗费太长时间。但澳大利亚的研究人员不买账：他们认为从根本上在模型内将这些误报特征“拉白”且不牺牲已有的侦测精度并不是一个简单的问题。

======================================

个人感想：反正0源码修改的前提下随便改恶意程序PE资源糊弄这些静态NGAV也不是什么新闻，嘿嘿

显示全部楼层 · 发表于 2019-7-19 10:57:32

机器学习还是不好使，特征码启发等传统技术依旧离不开的，太依赖玄学的ML是会出大问题的

显示全部楼层 · 发表于 2019-7-19 13:06:47

现在都讲究....复合，多重啊什么的，单一被针对的可能性较高，纯魅力属性很难走.....

显示全部楼层 · 发表于 2019-7-19 13:58:48

AI的属性决定了的，只要知道颠覆AI的认知就可以攻克

显示全部楼层 · 发表于 2019-7-19 14:58:06

谁来试试绕过“使用了当今世界上最先进的AI人工智能查毒技术的宇宙霸主智量”？？？

显示全部楼层 · 发表于 2019-7-19 15:07:59

机器学习已经先进了,不过个别绕过正常,不见怪.我关心的是后续怎么拉黑...

显示全部楼层 · 发表于 2019-7-19 15:23:59

这个嘛...是软件总会有漏洞

显示全部楼层 · 发表于 2019-7-19 17:52:33

Cylance的风评好像一直都不太好

显示全部楼层 · 发表于 2019-7-19 22:09:52

个人觉得，如果一个病毒专门针对某个杀软的绕过，对于那些大神应该不是难事吧

显示全部楼层 · 发表于 2019-7-19 22:15:56

小新爱打小怪兽发表于 2019-7-19 22:09
个人觉得，如果一个病毒专门针对某个杀软的绕过，对于那些大神应该不是难事吧

不难，其实VT上几乎所有引擎普通扫描绕过对菜鸡来说都不难。就这篇文章里提到的也是相当基础且老套的手段，只不过在Cylance这个产品上用一个最简单的手法能过80%以上样本就非常讽刺

这里主要是啪啪打脸那些把这种检测技术吹嘘的神乎其神的公司，以及过分信奉这种“MATH”的用户。早年攻击其他老厂过时需要特征码更新且预测能力差，结果自己面对这种连APT都算不上的东西照样是脆弱到不堪一击

[转帖] 研究人员发现绕过Cylance Protect的简单方法

评分

评分