繁体   English   中英

Java对正则表达式库中的非BMP Unicode字符(即代码点> 0xFFFF)的支持?

[英]Java support for non-BMP Unicode characters (i.e. codepoints > 0xFFFF) in their Regular Expression Library?

我目前正在使用Java 6(我没有选择转移到Java 7),我正在尝试使用java.util.regex包来对包含Unicode字符的字符串进行模式匹配。

我知道java.lang.String支持补充字符(即代码点> 0xFFFF的字符)(自Java 5起),但我没有看到一种简单的方法来与这些字符进行模式匹配。 java.util.regex.Pattern仍然只允许使用4位数表示十六进制数(例如\\ uFFFF)

有谁知道我在这里错过了一个API吗?

我从来没有用补充字符进行模式匹配,但我认为它就像编码它们(在模式和字符串中)一样简单,就像两个16位数字(一个UTF-16代理对)\\ unnnn \\ ummmm。 java.util.regex 应该足够聪明,可以将这两个数字(Java字符)解释为模式和字符串中的单个字符(尽管Java仍会将它们视为两个字符,作为字符串的元素)。

两个链接:

Java Unicode编码

http://java.sun.com/developer/technicalArticles/Intl/Supplementary/

从最后一个链接(参考Java 5):

java.util.regex包已更新,因此模式字符串和目标字符串都可以包含补充字符,这些字符将作为完整单元处理。

另请注意,如果您使用UTF8作为编码(对于源文件),您也可以直接编写它们(请参阅最后一个链接中的“在源文件中表示补充字符”一节)。

例如:

    String pat1 = ".*\uD840\uDC00{2}.*";
    String s1  = "HI \uD840\uDC00\uD840\uDC00 BYE";
    System.out.println(s1.matches(pat1) + " len=" + s1.length());

    String pat2 = ".*\u0040\u0041{2}.*";
    String s2 = "HI \u0040\u0041\u0040\u0041 BYE";
    System.out.println(s2.matches(pat2) + " len=" + s2.length());

这是用Java 6编译的,打印出来的

true len=11
false len=11

与上述内容一致。 在第一种情况下,我们有一个代码点,表示为一对代理java字符(两个16位字符,一个多余的Unicode字符), {2}量词适用于该对(= codepoint)。 在第二个中,我们有两个不同的BMP字符,量词适用于最后一个 - 因此,没有匹配。

但请注意,字符串长度是相同的(因为Java测量的字符串长度计算Java字符,而不是Unicode代码点)。

最简单的解决方案是对源代码使用UTF-8编码。 然后直接将字符放入。 您永远不应该在任何程序中指定单独的代码单元。

然而,字符类仍然存在问题,因为Java蹩脚暴露的UTF-16内部编码会使它们混乱。 在JDK7之前不能使用完整的Unicode,即使这样,您也必须使用间接的\\x{HHHHH}表示法指定逻辑代码点。 您仍然无法在charclass中包含任何文字代码点,但您可以使用\\x{H..H}来避开它。

不完美,但它比它好多了。 UTF-16始终是妥协。 内部使用UTF-8或UTF-32的系统没有这些限制。 它们也永远不会让您指定与代码点不同的代码单元。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM