如何使用哈希图从Java中的Unicode字符串中删除重音符号？

Question

我正在使用以下链接来创建键= Unicode字符值的哈希图，值是应映射到的实际字符-https: //github.com/lmjabreu/solr-conftemplate/blob/master/mapping-ISOLatin1Accent。文本

到目前为止，我已经编写了以下代码来删除字符串中的重音符号

public class ACCENTS {

    public static void main(String[] args){

        // this is the hashmap that stores the mappings of the characters to their ascii equivalent
        HashMap<Character, Character> characterMappings = new HashMap<>();

        characterMappings.put('\u00C0', 'A');
        characterMappings.put('\u00C1', 'A');
        characterMappings.put('\u00C2', 'A');
        characterMappings.put('\u00C3', 'A');
        characterMappings.put('\u00C4', 'A');
        characterMappings.put('\u00C5', 'A');
        characterMappings.put('\u00C7','C');
        characterMappings.put('\u00C8', 'E');
        characterMappings.put('\u00C9','E');
        characterMappings.put('\u00CA', 'E');
        characterMappings.put('\u00CB', 'E');
        characterMappings.put('\u00CC', 'I');
        characterMappings.put('\u00CD', 'I');
        characterMappings.put('\u00CE', 'I');
        characterMappings.put('\u00CF', 'I');
        characterMappings.put('\u00D0', 'D');
        characterMappings.put('\u00D1', 'N');
        characterMappings.put('\u00D2', 'O');
        characterMappings.put('\u00D3', 'O');
        characterMappings.put('\u00D4', 'O');
        characterMappings.put('\u00D5', 'O');
        characterMappings.put('\u00D6', 'O');
        characterMappings.put('\u00D8', 'O');
        characterMappings.put('\u00D9', 'U');
        characterMappings.put('\u00DA', 'U');
        characterMappings.put('\u00DB', 'U');
        characterMappings.put('\u00DC', 'U');
        characterMappings.put('\u00DD', 'Y');
        characterMappings.put('\u0178', 'Y');
        characterMappings.put('\u00E0', 'a');
        characterMappings.put('\u00E1', 'a');
        characterMappings.put('\u00E2', 'a');
        characterMappings.put('\u00E3','a');
        characterMappings.put('\u00E4', 'a');
        characterMappings.put('\u00E5', 'a');
        characterMappings.put('\u00E7', 'c');
        characterMappings.put('\u00E8', 'e');
        characterMappings.put('\u00E9', 'e');
        characterMappings.put('\u00EA','e');
        characterMappings.put('\u00EB', 'e');
        characterMappings.put('\u00EC', 'i');
        characterMappings.put('\u00ED', 'i');
        characterMappings.put('\u00EE', 'i');
        characterMappings.put('\u00EF', 'i');
        characterMappings.put('\u00F0', 'd');
        characterMappings.put('\u00F1','n' );
        characterMappings.put('\u00F2', 'o');
        characterMappings.put('\u00F3', 'o');
        characterMappings.put('\u00F4', 'o');
        characterMappings.put('\u00F5', 'o');
        characterMappings.put('\u00F6', 'o');
        characterMappings.put('\u00F8', 'o');
        characterMappings.put('\u00F9', 'u');
        characterMappings.put('\u00FA', 'u');
        characterMappings.put('\u00FB', 'u');
        characterMappings.put('\u00FC', 'u');
        characterMappings.put('\u00FD', 'y');
        characterMappings.put('\u00FF', 'y');

        String token = "nа̀ра";
        String newString = "";


        for(int i = 0 ; i < token.length() ; ++i){
            if( characterMappings.containsKey(token.charAt(i)) )
                newString += characterMappings.get(token.charAt(i));
            else
                newString += token.charAt(i);
        }

        System.out.println(newString);
    }
}

预期结果应该是“ napa”，但事实证明没有执行任何转换，这可能是导致这种情况偏离的原因，我找不到。

Answer 1

不知道为什么要使用HashMap。 但是，如果您只想删除变音符号，则可能会有所帮助：

String s = "nа̀ра";
s = Normalizer.normalize( s, Normalizer.Form.NFD );
s = s.replaceAll("\\p{InCombiningDiacriticalMarks}+", "");
System.out.println( s );

->纳帕

（如果您坚持使用HashMap，则应该再看看'Normalizer'类，因为它也可以在另一个方向上工作。）

摘自本文： http : //blog.smartkey.co.uk/2009/10/how-to-strip-accents-from-strings-using-java-6/

Answer 2

您遇到了Java的一些最丑陋的“特征”：一个unicode字符可能由一个字符的tupel（甚至是tripel）来表示。

实际上，令牌的长度为5个字符。 á是两个字符的组合，只能表示为字符串。

这就是为什么

 characterMappings.put('а̀`', 'y'); //(accent can't be displayed correctly in code-mode, try it yourself)

不会编译。

这是更多说明。

在我看来，String是Java中最差的类之一。 特别是如果您使用“非标准”字符。

为了解决您的问题，我建议将地图更改为Map<String,String>或Map<String,Character> 。 这样，您就可以映射“字符”，并且，如果您消除了转义的unicode字符，那么整洁的副作用将使您的代码更具可读性。

有关更多信息，请谷歌查询HighSurrogate或CodePoint。 代码点是有效的（=可显示的）字符序列，如前所述，这些字符序列不必一定与字符串中的字符数相对应。

这是必需的，因为Java字符只有2个字节宽。 对于所有unicode字符，请减小为该大小，但在大多数情况下要足够大（=，只要您使用标准的拉丁字符即可）。

编辑：

即使使用Map<String,String> ，您的代码也无法正常工作，因为您仍然会遍历char。 但是没有一个Java字符会与您的特殊unicode字符匹配。

这可能会有所帮助，尽管在任何情况下都可能不起作用（毕竟Java字符串很讨厌）：

HashMap<String, String> characterMappings = new HashMap<>();
characterMappings.put("а̀", "a");

String token = "nа̀ра";
String newString = "";

for (Entry<String, String> e : characterMappings.entrySet()) {
    token = token.replaceAll(e.getKey(), e.getValue());
}
System.out.println(token);

编辑2

由于将代码作为注释发布很烂：

    String s = "brûlée";
    String s1 = Normalizer.normalize(s, Normalizer.Form.NFKD);
    String regex = "[\\p{InCombiningDiacriticalMarks}\\p{IsLm}\\p{IsSk}]+";

    String s2 = new String(s1.replaceAll(regex, "").getBytes("ascii"),
            "ascii");

    System.out.println(s2);

到目前为止，我所做的一切都对我有用。 @Scheintod仍然值得赞扬。 在这里找到源

最好的祝福

SAM