Probability |

多次取 (0, 1) 之间的随机实数, 期望多少次后其和恰不小于 1

Tue, 27 Aug 2024 19:42:49 +0000

设事件 \(\omega_{n}\) 表示随机取 \(n\) 个 \((0, 1)\) 中的实数, 其和小于 \(1\).

\[ \begin{aligned} E &= \sum_{n = 1}^{\infty} n P(\omega_{n - 1} \overline{\omega_n}) \\ &= \sum_{n = 1}^{\infty} n \left[ P(\omega_{n - 1}) - P(\omega_{n - 1}\omega_n) \right] \\ &= \sum_{n = 1}^{\infty} n \left[ P(\omega_{n - 1}) - P(\omega_n) \right] \\ &= 1 + \sum_{n = 1}^{\infty} P(\omega_n) \end{aligned} \]

考虑根据定义求 \(\omega_{n}\):

\[ \omega_n = \int_{0}^1 \mathrm{d}x_1 \int_{0}^{1 - x_1} \mathrm{d}x_2 \int_{0}^{1 - x_1 -x_2} \mathrm{d}x_3 \cdots \int_{0}^{1 - \sum_{i \lt n} x_i} \mathrm{d}x_n \]

将 \(1\) 用形式变量 \(x\) 代替, 即得

\[ \omega_n(x) = \int_{0}^x \mathrm{d}x_1 \int_{0}^{x - x_1} \mathrm{d}x_2 \int_{0}^{x - x_1 -x_2} \mathrm{d}x_3 \cdots \int_{0}^{x - \sum_{i \lt n} x_i} \mathrm{d}x_n \]

考虑寻找 \(\omega_{n + 1}\) 和 \(\omega_{n}\) 之间的关系, 有

\[ \omega_{n + 1}(x) = \int_{0}^{x} \omega_n(x - x_{n + 1}) \mathrm{d}x_{n + 1} \]

注意到在积分内部, \(\mathrm{d}(x - x_{n + 1})\) 与 \(\mathrm{d}x_{n + 1}\) 实际上是等价的, 于是得到递推式

\[ \omega_{n + 1}(x) = \int_{0}^{x} \omega_n(t) \mathrm{d}t \]

根据定义 \(\omega_{1}(x) = x\), 于是归纳得

\[ \omega_{n}(x) = \int_{0}^{x} \frac{t^{n - 1}}{(n - 1)!} \mathrm{d}t = \frac{x^n}{n!} \]

将 \(x\) 换回 \(1\), 回代得

\[ E = 1 + \sum_{n = 1}^{\infty} \frac{1}{n!} = \mathrm{e} \]

关于「顺序遍历随机排列取尽可能大的值」问题的一些思考

Thu, 11 Apr 2024 17:23:40 +0000

一个广为流传的结论是: 从前往后遍历 \(37\%\) 的元素(事实上是 \(\frac{1}{e}\)), 称其中最大的为 \(\max\), 继续往后遍历, 一旦一个元素大于 \(\max\) 就立刻选择, 找不到则选最后一个元素 .

写了一个程序来验证这个结论:

import random
import matplotlib.pyplot as draw

n, t = map(int, input().split()) # n, t = 1000, 100000
p = [i for i in range(n)]
aveval = [0 for _ in range(n)]
maxval = [0 for _ in range(n)]

def calcave (pos):
 Max = -1
 for i in range(pos): Max = max(Max, p[i])
 for i in range(pos, n):
 if p[i] > Max: return p[i]
 return p[n - 1]

def calcmax (pos):
 Max = -1
 for i in range(pos): Max = max(Max, p[i])
 for i in range(pos, n):
 if p[i] > Max: return (p[i] == n - 1)
 return (p[n - 1] == n - 1)

for _ in range(t):
 random.shuffle(p)
 for i in range(n): aveval[i] += calcave(i)
 for i in range(n): maxval[i] += calcmax(i)

aveval = list(map(lambda x: x / t / n, aveval))
maxval = list(map(lambda x: x / t, maxval))

draw.plot([100 / n * i for i in range(n)], aveval)
draw.plot([100 / n * i for i in range(n)], maxval)

idx, val = 0, 0
for i in range(n):
 if aveval[i] > val:
 val, idx = aveval[i], 100 / n * i
draw.plot(idx, val, 'or')
draw.text(idx, val, "({:.1f}%, {:.2f})".format(idx, val), color = 'r')
idx, val = 0, 0
for i in range(n):
 if maxval[i] > val:
 val, idx = maxval[i], 100 / n * i
draw.plot(idx, val, 'or')
draw.text(idx, val, "({:.1f}%, {:.2f})".format(idx, val), color = 'r')

draw.show()

得到结果如下:

其中蓝线为这种策略取到的元素大小期望除以 \(n\) 的值, 也即取到的元素占最大值百分比的期望. 橙线表示取到最大值的概率. 横坐标为观察的元素数量占总元素数量的比例.

可以发现, 虽然观察 \(37.1\%\) 的元素有最大的概率取到最大值, 但只观察 \(3.1\%\) 的元素就出手获得的元素期望是最大的, 这启发我们, 直接取某一个位置之后的第一个前缀最大值是否有些呆板了呢? 我们是否可以做一些更加动态的决策呢?

接下来会尝试训练一个神经网络用以决策, 未完待续……

一类贝叶斯定理相关积分的变换技巧

Tue, 09 Apr 2024 16:43:16 +0000

考虑非负实数域上某可用条件概率刻画的期望：

\[ E(x) = \int_{0}^{+\infty} xP(t = x|q) \mathrm{d}x \]

其中 \(q\) 为已知，且 \(P(q|t = x)\) 是可用初等函数刻画的，于是：

考虑贝叶斯定理：

\[ E(x) = \int_{0}^{+\infty} x\frac{P(q|t = x)P(t = x)}{P(q)} \mathrm{d}x \]

观察发现对 \(x\) 微分本质上就是在枚举每个 \(t = x\) 的情况，于是 \(P(t = x)\) 已经被 \(\mathrm{d}x\) 包含，可以看作 \(1\)，故

\[ E(x) = \int_{0}^{+\infty} x\frac{P(q|t = x)}{P(q)} \mathrm{d}x \]

大多数情况下，哪怕 \(P(q)\) 可以用初等函数刻画，整个式子也会难以化简，于是考虑拆 \(P(q)\)：

\[ E(x) = \int_{0}^{+\infty} x\frac{P(q|t = x)}{\int_{0}^{+\infty} P(q|t = y) \mathrm{d}y } \mathrm{d}x \]

整理可得

\[ E(x) = \frac{\int_{0}^{+\infty} xP(q|t = x) \mathrm{d}x}{\int_{0}^{+\infty} P(q|t = x) \mathrm{d}x } \]

设 \(P(q|t = x) = f(x)\)，其中 \(f(x)\) 是初等函数，又设 \(\delta\) 为积分算子（即 \([\delta f(x)]' = f(x)\) ），即得

\[ E(x) = \frac{\int_{0}^{+\infty} xf(x) \mathrm{d}x}{\int_{0}^{+\infty} f(x) \mathrm{d}x } = \lim_{\varepsilon \to 0^+}^{m \to +\infty}\frac{\delta mf(m) - \delta \varepsilon f(\varepsilon)}{\delta f(m) - \delta f(\varepsilon)} \]