以数值稳定的方式评估log（1-normal_cdf（x））

Question

如何以数值稳定的方式评估log(1 - normal_cdf(x)) ？ 在此， normal_cdf是标准正态分布的累积分布函数。

例如，在Python中：

import scipy 
from scipy.stats import norm

np.log(1 - norm.cdf(10))

使用RuntimeWarning: divide by zero encountered in log给出-inf RuntimeWarning: divide by zero encountered in log -inf ，因为norm.cdf(10)几乎等于1 。 是否有像logsumexp这样的函数可以避免数值下logsumexp ？

Answer 1

由于正态分布关于0对称，所以我们有

1 - F(x) = P(X > x)
         = P(X < -x)
         = F(-x)

因此

np.log(1 - norm.cdf(10)) = np.log(norm.cdf(-10))
                         = norm.logcdf(-10)

Answer 2

@HongOoi利用对称性的建议很棒。 但是对于scipy.stats的任意分布（包括norm ），您可以使用logsf方法精确地进行此计算。 sf表示生存函数 ，它是函数1 - cdf(x) 。

例如，

In [25]: import numpy as np

In [26]: from scipy.stats import norm, gamma

这是norm.logsf的示例：

In [27]: norm.logsf(3, loc=1, scale=1.5)
Out[27]: -2.3945773661586434

In [28]: np.log(1 - norm.cdf(3, loc=1, scale=1.5))
Out[28]: -2.3945773661586434

这是gamma.logsf的示例：

In [29]: gamma.logsf(1.2345, a=2, scale=1.8)
Out[29]: -0.16357333194167956

In [30]: np.log(1 - gamma.cdf(1.2345, a=2, scale=1.8))
Out[30]: -0.16357333194167956

这说明了为什么要使用logsf(x)而不是log(1 - cdf(x)) ：

In [35]: norm.logsf(50, loc=1, scale=1.5)
Out[35]: -537.96178420294677

In [36]: np.log(1 - norm.cdf(50, loc=1, scale=1.5))
/Users/warren/miniconda3scipy/bin/ipython:1: RuntimeWarning: divide by zero encountered in log
  #!/Users/warren/miniconda3scipy/bin/python
Out[36]: -inf