非线性回归_Nonlinear Regression
非线性回归是一种回归分析形式，旨在将数据拟合到一个模型中，并将其表达为数学函数。简单线性回归通过一条直线（y = mx + b）将两个变量（X和Y）联系起来，而非线性回归则在非直线（曲线）关系中关联这两个变量。
该模型的目标是尽可能缩小平方和。平方和是一个测量指标，用于跟踪Y观测值偏离用于预测Y的非线性（曲线）函数的程度。
计算步骤是，首先找出拟合的非线性函数与数据集中每个Y点之间的差异。接着，将这些差异进行平方运算，最后将所有平方后的数值加总。平方和越小，函数对数据点的拟合程度越好。非线性回归使用对数函数、三角函数、指数函数、幂函数、洛伦兹曲线、高斯函数等多种拟合方法。
关键要点
- 线性回归与非线性回归均用于从X变量（或多个变量）预测Y响应。
- 非线性回归是X变量（或多个变量）的曲线函数，用于预测Y变量。
- 非线性回归可以展示随时间变化的人口增长预测。
非线性回归建模与线性回归建模相似，均旨在图形化追踪特定响应与一组变量之间的关系。由于非线性模型的构建需要通过一系列近似（迭代）方法，这使得其开发过程比线性模型更为复杂，常常需要反复试验。数学家们采用多种成熟的方法，例如高斯-牛顿法和列文伯格-马夸特法。
许多初看似乎非线性的回归模型实际上是线性的。曲线估计程序可用于识别你数据中潜在的功能关系，帮助你选择合适的回归模型，无论是线性还是非线性。线性回归模型尽管通常形成直线，但根据线性回归方程的形式也可以形成曲线。同样，也可以通过代数变换将非线性方程转换为类似线性方程的形式，这种非线性方程称为“内在线性”。
注意： 线性回归通过直线关联两个变量；而非线性回归则使用曲线关联这些变量。
非线性回归示例
非线性回归的一个应用示例是预测人口随时间的增长。[1]时间与人口增长之间的关系在时间变化的人口数据散点图中显得非线性，因此需要使用非线性回归模型。逻辑斯蒂人口增长模型能够为没有测量的时期提供人口估计，并预测未来的人口增长。
在非线性回归中，使用的自变量和因变量应为定量变量。类似地区或宗教这样的分类变量应编码为二元变量或其他类型的定量变量。
为了从非线性回归模型中获得准确的结果，需确保所指定的函数准确描述自变量与因变量之间的关系。此外，合理的起始值也是必要的。起始值选择不当，可能导致模型无法收敛，或仅得到局部优化的解，而非全球最优解，尽管你已指定了正确的模型功能形式。
参考文献
[1] IBM. "Nonlinear Regression."