讲给前端的正则表达式(4):避免灾难性回溯[每日前端夜话0x105]
前文:
正则表达式可以解决许多问题,但也有可能是使我们头痛的根源。最近 Cloudfare 的一次停机事故就是由于 正则表达式导致全球大量机器上的 CPU 峰值飙升至100%【 https://blog.cloudflare.com/cloudflare-outage/ 】 。在本文中,我们将会学习需要注意的情况,例如 灾难性的回溯。 为了帮助我们理解问题,还分析了 贪婪 和 懒惰 量词以及为什么 lookahead 可能会有所帮助。
有些人遇到问题时会想:“我知道,我将使用正则表达式。”现在他们有两个问题了。
Jamie Zawinski
如果你遇到了 Perl 的问题我很为你担忧,孩子——
我遇到了99个问题,
所以我用了正则表达式,
现在我有100个问题了。
深入研究量词
正则表达式引擎非常复杂。尽管我们可以用 regexp 创造奇迹,但需要考虑可能会遇到的一些问题。所以需要更深入地研究如何去执行某些正则表达式。
贪婪量词
在本系列文章的前几部分中,我们使用了 +
之类的 量词 。它告诉引擎至少匹配一个。
1const expression = /e+/; 2 3expression.test('Hello!'); // true 4expression.test('Heeeeello!'); // true 5expression.test('Hllo!'); // false
让我们仔细看看第二个例子: /e+/.test('Heeeeello!')
。我们可能想知道用这个表达式匹配多少个字母。
由于默认情况下量词是 贪婪的 ,因此我们会匹配尽可能多的字母。可以用 match 函数来确认这一点。
1'Heeeeello!'.match(/e+/); 2// ["eeeee", index: 1, input: "Heeeeello!", groups: undefined]
另一个不错的例子是处理一些 HTML 标签:
1const string = 'Beware of greedy quantifiers!'; 2 3//.test(string); // true
最初的猜测可能是它与 之类的东西匹配。不完全是!
1string.match(//); 2// ["greedy" (...) ]
如你所见,贪婪的量词与最长的字符串匹配!
惰性量词
在本系列中,我们还将介绍 ?
量词。这意味着匹配零或一次。
1function wereFilesFound(string) { 2 return /[1-9][0-9]* files? found/.test(string); 3} 4 5wereFilesFound('0 files found'); // false 6wereFilesFound('No files found'); // false 7wereFilesFound('1 file found'); // true 8wereFilesFound('2 files found'); // true
有趣的是,通过将其添加到贪婪的量词中,我们告诉它重复尽可能少的次数,因此使其变得 懒惰 。
1const string = 'Beware of greedy quantifiers!'; 2string.match(//); 3 4// ["", (...) ]
灾难性的回溯
要了解量词如何影响正则表达式的行为,我们需要仔细研究被称为 回溯 的过程。
先让我们看一下这段看似清白的代码!
1const expression = /^([0-9]+)*$/;
乍一看,它可以成功检测到一系列数字。让我们分解一下它的工作方式。
1expression.test('123456789!');
-
首先,引擎处理
[0-9]+
。它是贪婪的,所以它会首先尝试匹配尽可能多的数字。首先匹配的是123456789
-
然后引擎尝试应用
*
量词,但没有其他数字了 -
因为用的是
$
符号,所以我们希望字符串以数字结尾——!
符号不会发生这种情况 -
现在由于 回溯 ,在
[[0-9]+]
中匹配的字符数量减少了。它匹配12345678
。 -
然后使用
*
量词,因此([0-9]+)*
产生两个子字符串:12345678
和9
-
由于上述子字符串均不在字符串末尾,因此与
$
匹配失败 -
引擎通过减少
[0-9]+
匹配的位数来保持 回溯
上述过程会产生多种不同的组合。
我们的字符串以 !
符号结尾。因此,正则表达式引擎尝试回溯,直到在提供的字符串的末尾找到数字为止。
1[12345678][9]! 2 3[1234567][89]! 4 5[1234567][8][9]! 6 7[123456][789]! 8 9[123456][7][89]! 10 11[123456][78][9]!
经过了大量的计算,但是没有找到匹配的结果。这可能会导致性能大幅下降。如果使用非常长的字符串,浏览器可能会挂起,从而破坏用户体验。
通过将贪婪量词更改为惰性量词,有时可以提高性能,但是这个特定的例子并不属于这种情况。
先行断言(Lookahead)
要解决上述问题,最直接方法是完全重写正则表达式。上面的解决方案并不总是很容易,而且有可能会造成很大的痛苦。解决上述问题的方法是使用 先行断言(lookahead) 。
在最基本的形式中,它声明 x 仅会在其后跟随 y 时才匹配。
1const expression = /x(?=y)/; 2 3expression.test('x'); // false 4expression.test('xy'); // true
我们将其称为 正向 先行断言。仅当 x 后面 不 跟随 y 时,用 负向 先行断言匹配 x
1const expression = /x(?!y)/; 2 3expression.test('x'); // true 4expression.test('xy'); // false
先行断言很酷的地方在于它是原子性的。在满足条件后,引擎将不会回溯并尝试其他排列。
回溯引用(Backreference)
我们在这里需要涉及到的的另一个问题是回溯引用。
1const expression = /(a|b)(c|d)\1\2/;
上面的 \1
表示第一个捕获组的内容,而 \2
表示第二个捕获组的内容。
1expression.test('acac'); // true 2expression.test('adad'); // true 3expression.test('bcbc'); // true 4expression.test('bdbd'); // true 5 6expression.test('abcd'); // false
我们可以结合使用先行断言和回溯引用来处理回溯问题:
1const expression = /^(?=([0-9]+))\1*$/
这看起来很复杂。让我们对它进行分解。
-
表达式
(?=([0-9]+))
寻找最长的数字字符串,因为+
是贪婪的 -
引擎不会回溯寻找不同的组合
-
表达式
(?=([0-9]+))\1
的回溯引用指出,先行查找的内容需要出现在字符串中
由于上述所有原因,我们可以安全地测试很长的字符串,而不会产生性能问题。
1const expression = /^(?=([0-9]+))\1*$/; 2expression.test('5342193376141170558801674478263705216832 D:'); //false 3expression.test('7558004377221767420519835955607645787848'); // true
总结
在本文中,我们更深入地研究了量词。可以将它们分为 贪婪 和 懒惰 两种量词,并且它们可能会对性能产生影响。我们还讨论了量词可能导致的另一个问题: 灾难性回溯 。我们还学习了如何使用 先行断言(lookahead) 来改善性能,而不仅仅是去重写表达式。有了这些知识,我们可以编写更好的代码,避免出现Cloudflare这样的问题。
原文: https://wanago.io/2019/09/23/regex-course-part-four-avoiding-catastrophic-backtracking-using-lookahead/