通过迭代优化HashMap

Question

我有一个包含30万条记录的ResultSet ，并且我正在执行以下操作来对其进行迭代（以及收集到的其他操作）。 此过程大约需要2分钟才能完成。 有什么方法可以优化它吗？

Map<String,Map<String,String>> internalMap  = new HashMap<String,Map<String,String>>(); 

while (resultSet.next()) {
    final Integer val1 = resultSet.getInt("val1");
    final String val2 = resultSet.getString("val2");
    final String val3 = resultSet.getString("val3");
    final String val4 = resultSet.getString("val4");
    final String type = resultSet.getString("type");
    final String id = resultSet.getString("id");

    addIntern(internalMap,val2,val1,val3,val4,type,id);
}

以及addIntern方法

private static void addIntern(Map<String,Map<String,String>> internalMap, String val2, Integer val1,
    String val3,String val4,String type,String id) {
    String key = id+"##"+val4;
    if (internalMap.get(key) == null) {
        internalMap.put(key, new HashMap<String,String>());
    }
    internalMap.get(key).put("val3", val3);
    internalMap.get(key).put("val2", val2);


    if("create".equals(type)){
        internalMap.get(key).put("create", val1.toString());
    }
    if("update".equals(type)){
        internalMap.get(key).put("update", val1.toString());
    }
    if("delete".equals(type)){
        internalMap.get(key).put("delete", val1.toString());
    }
}

Answer 1

调整您的resultSet的获取大小；

resultSet.setFetchSize(100);

而且您当然可以简化您的add方法（每个get是一个O(1)调用，但它们相加），例如

private static void addIntern(Map<String, Map<String, String>> internalMap, String val2, Integer val1, String val3,
        String val4, String type, String id) {
    String key = id + "##" + val4;
    Map<String, String> kMap;
    if (internalMap.containsKey(key)) {
        kMap = internalMap.get(key);
    } else {
        kMap = new HashMap<>();
        internalMap.put(key, kMap);
    }
    kMap.put("val3", val3);
    kMap.put("val2", val2);
    if ("create".equals(type) || "update".equals(type) || "delete".equals(type)) {
        kMap.put(type, val1.toString());
    }
}

Answer 2

您将无法优化太多，因为您无法减少迭代次数。

但是我可以看到可以做的一项更改

 if("create".equals(type)){
    internalMap.get(key).put("create", val1.toString());
 }
 if("update".equals(type)){
    internalMap.get(key).put("update", val1.toString());
 }
 if("delete".equals(type)){
    internalMap.get(key).put("delete", val1.toString());
 }

上面也可以写成如下

internalMap.get(key).put(type, val1.toString());

如果进行检查，这将删除300k或更多。

当您的type只能包含create/update/delete值时，这将起作用。 如果更多，则可以输入一个if来检查它是否等于3中的任何一个。

Answer 3

尝试这个。 （Java 8）

private static void addIntern(Map<String,Map<String,String>> internalMap,
    String val2, Integer val1,
    String val3,String val4,String type,String id) {
    String key = id+"##"+val4;
    Map<String, String> valueMap = internalMap.computeIfAbsent(key, k -> new HashMap<>());
    valueMap.put("val3", val3);
    valueMap.put("val2", val2);
    if("create".equals(type) || "update".equals(type) || "delete".equals(type))
        valueMap.put(type, val1.toString());
}

Answer 4

如果您有足够的可用堆空间，则设置映射初始容量可能会有所帮助：

Map<String,Map<String,String>> internalMap  = new HashMap<String,Map<String,String>>(300000*2); 

通过使用默认的初始容量，由于要添加300000项，所以必须多次重新映射internalMap。