统计学/数值方法

统计问题的解决和/或方法通常涉及使用数值数学工具。例如 最大似然估计 的 ${\widehat {\Theta }}$，它涉及对 似然函数 $L$ 进行最大化。

${\widehat {\Theta }}=\max _{\theta }\,\,L(\theta |x_{1},...,x_{n})$.

这里的最大化需要使用优化例程。其他数值方法及其在统计中的应用将在本节中介绍。

本节内容

• 基本线性代数和格拉姆-施密特正交化

本节专门介绍格拉姆-施密特正交化，它在解决统计问题中经常出现。此外，还提供了一些代数理论的结果，这些结果对于理解格拉姆-施密特正交化是必要的。格拉姆-施密特正交化是一种算法，它从一组线性相关向量中生成一组新的线性无关向量，它们跨越相同的空间。基于线性无关向量的计算比基于线性相关向量的计算更简单。

• 无约束优化

数值优化出现在各种问题中 - 一个突出的例子是如上所述的最大似然估计。因此，本节介绍了一类重要的优化算法，即所谓的梯度方法。在描述了理论并对一般过程形成直觉之后，将更详细地介绍三种特定算法（最速下降法、牛顿法、可变度量法类）。特别是，我们提供了针对特定准则函数（Himmelblau 函数和 Rosenbrock 函数）这三种算法性能的（图形）评估。此外，我们将回到最大似然估计，并提供一个具体示例，说明如何用本节中开发的方法解决这个问题。

• 分位数回归

在OLS中，主要目标是确定随机变量 $Y$ 的条件均值，给定一些解释变量 $x_{i}$，$E[Y|x_{i}]$。分位数回归超越了这一点，使我们能够在条件分布函数的任何分位数上提出这样的问题。因此，它侧重于给定分位数下因变量与其解释变量之间的相互关系。

• 统计软件的数值比较

统计计算需要额外的精度，并且容易出现一些错误，例如截断错误或抵消错误等。这些错误是由于二进制表示和有限精度造成的，可能会导致不准确的结果。在这项工作中，我们将讨论统计软件的精度、用于衡量精度的不同测试和方法以及不同软件包的比较。

• Excel 中的数值

本文的目的是评估 MS Excel 在统计程序方面的精度，并得出 MS Excel 是否应该用于（统计）科学目的的结论。评估针对 MS Excel 版本 97、2000、XP 和 2003 进行。

• 随机数生成