前言
基础概念
最大熵原理
最大熵原理是指，在只掌握关于未知分布的部分知识时，应该选取符合这些知识但熵值最大的概率分布。
换而言之，存在多种分布符合已知知识，最大熵原理是一种从多种分布中选取符合目标的原则。这种原则可表述为，关于未知分布最合理的推荐就是符合已知知识的最不确定或最随机分布。
按照吴军博士所说，
这是一种不偏不倚的选择，任何其他的选择都意味这增加了其他的约束和假设，而这些约束或假设无法根据我们掌握的信息给出.
拉格朗日乘数法
lagrange multiplier 是一种寻找多元函数在其变量受到多个条件约束时的求极值的方法。
勒贝格积分和黎曼积分
黎曼积分是对定义域进行划分；勒贝格积分是对值域进行划分。
黎曼积分在震荡强烈的函数，无法有效定义。换而言之，黎曼积分适用于局部平缓的函数。
