繁体   English   中英

Kolmogorov-Smirnov 2 样本测试 Java 给出 0 p 值

[英]Kolmogorov-Smirnov 2 Sample Test Java give 0 p-value

我正在使用 Apache Commons Math Kolmogorov-Smirnov 测试来确定我的 RNG 生成的样本是否是均匀分布。

我正在使用UniformIntegerDistribution来产生均匀分布,我得到了 2000000 个整数的样本。 然后我把它们放到一个double[]

我也从我的 RNG 2000000 数字中生成并将它们放在一个double[]中。

我已经绘制了样本,我看到它是均匀的,但 KS 检验给我的 p 值为 0.0,这表明 null 假设两者来自同一分布(即均匀)是无效的。 这意味着我的 RNG 样本不符合均匀分布。

double alpha = test.kolmogorovSmirnovTest(a, b); 给我alpha = 0.0

该方法的 Javadoc 内容如下:

计算两样本 Kolmogorov-Smirnov 检验的 p 值或观察到的显着性水平,该检验评估 null 假设,即 x 和 y 是从相同概率分布中抽取的样本。

所以我预计 p 值会很高,因为我看到 plot 显然是均匀的。

    IntegerDistribution uniform = new UniformIntegerDistribution(1, 81);

    ArrayList<Integer> lis = new ArrayList<>();
    int i = 0;
    while (i < 100000) {

        //Creates a list of 20 numbers ε [1,80]
        List<Integer> l = ls.createRandomNumbersInclusive(80, 20);
        lis.addAll(l);
        Assertions.assertFalse(l.stream().anyMatch(it -> it > 80));
        Assertions.assertFalse(l.stream().anyMatch(it -> it < 1));

        i++;
    }

    KolmogorovSmirnovTest test = new KolmogorovSmirnovTest();

    var sample = uniform.sample(2000000);

    List<Integer> ll = new ArrayList<>();
    double[] a = new double[2000000];

    for(var j = 0; j<2000000; j++) {
        a[j] = sample[j];
    }

    double[] b = lis.stream().map(it -> Double.valueOf(it)).mapToDouble(Double::doubleValue).toArray();

    var alpha = test.kolmogorovSmirnovTest(a, b); 

    System.out.println("Alpha "+ alpha); //This gives me 0.0

     /** I am doing the below to get the count per numbers [1,80] and plot them.
     * I see them being uniform 
     * 1 ===
     * 2 ===
     *  ...
     * 80 === 
     */
     Map<Integer, Long> result = lis.stream().collect(Collectors.groupingBy(it -> it, Collectors.counting()));

让我担心的是,如果我创建一个新的UniformIntegerDistribution并获得一个sample2然后将其放入test.kolmogorovSmirnovTest(a, b); ,我确实得到了一个接近 1 的 p 值,这是我所期望的。

我要么对 Java 做错了什么,要么在 RNG 产生的数字中有一些我没有得到的东西。

createRandomNumbersInclusive的代码是

public List<Integer> fetchNumberList(final int drawNumberMin, final int drawNumberMax, final int drawNumberCount) {

    final List<Integer> range = new ArrayList<Integer>();
    for (int i = drawNumberMin; i <= drawNumberMax; i++) {
        range.add(i);
    }

    Collections.shuffle(range, rng);

    return new ArrayList<Integer>(range.subList(0, drawNumberCount));
}

RNG 是rng = SecureRandom.getInstance("NativePRNGNonBlocking");

我找到了问题背后的原因。 我最初使用的UniformRealDistributionkolmogorovSmirnovTest(RealDistribution distribution, double[] data)一起使用

然而,出于某种原因, UniformIntegerDistribution是包容性的。

当我更改IntegerDistribution uniform = new UniformIntegerDistribution(1, 81); IntegerDistribution uniform = new UniformIntegerDistribution(1, 80); 有效。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM