概率与对偶性:从抛硬币到高维几何

2025-09-21

本文探讨了几个看似无关的概率问题,例如随机图中路径存在概率和单位圆上四点凸包包含原点的概率,都出奇地等于1/2。作者巧妙地运用对偶性技巧和组合论证,揭示了这些问题背后的深刻联系。通过分析线性超平面切割高维空间的单元数,以及研究随机矩阵的性质,作者最终解释了这些概率结果,并提出了几个未解的数学难题,引发读者对概率、几何和对偶性之间奇妙关系的思考。

阅读更多
杂项 对偶性

混合分布的熵:一个关于信息和差异的引人入胜的故事

2025-07-01

这篇文章探讨了混合概率密度函数的熵与其混合因子之间的关系。作者发现,熵作为概率的函数是凹的,这种凹性与两个分布之间的互信息直接相关。通过引入伯努利变量和条件熵的概念,文章深入解释了互信息如何量化已知混合因子后预测的惊喜程度变化。此外,文章还引入了“倾向性”这一新概念,并将其与KL散度和交叉熵联系起来,并讨论了Jensen-Shannon散度以及高阶泰勒展开式中出现的Neyman χ²散度。最终,文章得出结论:混合分布的熵函数完整地描述了两个概率分布的似然比分布,这为理解概率分布之间的关系提供了新视角。

阅读更多