fbpx
维基百科

非参数回归

非参数回归指的是一类回归分析,其中的预测子不是预先确定的,而根据从数据中获得的信息。也就是说,预测子与因变量之间的关系不会假定为参数形式。非参数回归需要更大的样本量,因为数据必须提供参数模型结构和模型估计值。

定义 编辑

非参数回归中,有随机变量  ,并假设其关系如下:

 

其中 是某个确定函数。线性回归也是非参数回归的一种, 假定为仿射。 有些学者使用了稍强的加性噪声假设:

 

其中随机变量 是“噪声项”,均值为0. 若不假设 属于特定的函数参数族,就不可能得到 的无偏估计,但大多数估计量在适当条件下都是一致的。

通用非参数回归算法列表 编辑

这是非参数回归模型的非详尽列表。

例子 编辑

高斯过程回归/克里金法 编辑

高斯过程回归也称克里金法,假设回归曲线的先验为正态分布,并假设误差遵循多元正态分布,回归曲线由后验模式估计。正态先验可能取决于未知的超参数,可用经验贝叶斯方法估计。 超参数通常指定一个先验协方差核。若核也要从数据中进行非参数推断,则可使用临界滤波器。

平滑样条法可解释为高斯过程货柜的后验模式。

核回归 编辑

 
使用高斯核平滑器对小数据集(黑点)进行非参数回归拟合(红线)。粉色阴影展示了核函数,以获得给定x值的y估计值。核函数定义了在得出目标点估计值时,给每个数据点的权。

核回归用核函数卷积数据点位置,从有限的数据点中估计连续因变量。近似地说,核函数说明了“模糊”数据点影响的方法,以便用它们的值预测附近位置的值。

回归树 编辑

决策树学习算法可以从数据中学习,以预测因变量。[2]虽然最初的分类回归树(CART)公式仅适用于预测单变量数据,该框架也可用于预测多变量数据,包括时间序列。[3]

另见 编辑

参考文献 编辑

  1. ^ Statistical and neural network techniques for nonparametric regression by Vladimir Cherkassky, Filip Mulier https://link.springer.com/chapter/10.1007/978-1-4612-2660-4_39 (页面存档备份,存于互联网档案馆
  2. ^ Breiman, Leo; Friedman, J. H.; Olshen, R. A.; Stone, C. J. Classification and regression trees. Monterey, CA: Wadsworth & Brooks/Cole Advanced Books & Software. 1984. ISBN 978-0-412-04841-8. 
  3. ^ Segal, M.R. Tree-structured methods for longitudinal data. Journal of the American Statistical Association (American Statistical Association, Taylor & Francis). 1992, 87 (418): 407–418. JSTOR 2290271. doi:10.2307/2290271. 

阅读更多 编辑

  • Bowman, A. W.; Azzalini, A. Applied Smoothing Techniques for Data Analysis. Oxford: Clarendon Press. 1997. ISBN 0-19-852396-3. 
  • Fan, J.; Gijbels, I. Local Polynomial Modelling and its Applications. Boca Raton: Chapman and Hall. 1996. ISBN 0-412-98321-4. 
  • Henderson, D. J.; Parmeter, C. F. Applied Nonparametric Econometrics. New York: Cambridge University Press. 2015. ISBN 978-1-107-01025-3. 
  • Li, Q.; Racine, J. Nonparametric Econometrics: Theory and Practice. Princeton: Princeton University Press. 2007. ISBN 978-0-691-12161-1. 
  • Pagan, A.; Ullah, A. Nonparametric Econometrics . New York: Cambridge University Press. 1999. ISBN 0-521-35564-8. 

外部链接 编辑

  • HyperNiche, software for nonparametric multiplicative regression (页面存档备份,存于互联网档案馆).
  • Scale-adaptive nonparametric regression (页面存档备份,存于互联网档案馆) (with Matlab software).

非参数回归, 指的是一类回归分析, 其中的预测子不是预先确定的, 而根据从数据中获得的信息, 也就是说, 预测子与因变量之间的关系不会假定为参数形式, 需要更大的样本量, 因为数据必须提供参数模型结构和模型估计值, 目录, 定义, 通用算法列表, 例子, 高斯过程回归, 克里金法, 核回归, 回归树, 另见, 参考文献, 阅读更多, 外部链接定义, 编辑中, 有随机变量x, displaystyle, nbsp, displaystyle, nbsp, 并假设其关系如下, displaystyle, mathbb,. 非参数回归指的是一类回归分析 其中的预测子不是预先确定的 而根据从数据中获得的信息 也就是说 预测子与因变量之间的关系不会假定为参数形式 非参数回归需要更大的样本量 因为数据必须提供参数模型结构和模型估计值 目录 1 定义 2 通用非参数回归算法列表 3 例子 3 1 高斯过程回归 克里金法 3 2 核回归 3 3 回归树 4 另见 5 参考文献 6 阅读更多 7 外部链接定义 编辑非参数回归中 有随机变量X displaystyle X nbsp Y displaystyle Y nbsp 并假设其关系如下 E Y X x m x displaystyle mathbb E Y mid X x m x nbsp 其中m x displaystyle m x nbsp 是某个确定函数 线性回归也是非参数回归的一种 m x displaystyle m x nbsp 假定为仿射 有些学者使用了稍强的加性噪声假设 Y m X U displaystyle Y m X U nbsp 其中随机变量U displaystyle U nbsp 是 噪声项 均值为0 若不假设m displaystyle m nbsp 属于特定的函数参数族 就不可能得到m displaystyle m nbsp 的无偏估计 但大多数估计量在适当条件下都是一致的 通用非参数回归算法列表 编辑这是非参数回归模型的非详尽列表 最邻近法 参考 最近邻插值 和K 近邻算法 决策树学习 核回归 局部回归 多元自适应回归样条 平滑样条 神经网络 1 例子 编辑高斯过程回归 克里金法 编辑 主条目 高斯过程回归 高斯过程回归也称克里金法 假设回归曲线的先验为正态分布 并假设误差遵循多元正态分布 回归曲线由后验模式估计 正态先验可能取决于未知的超参数 可用经验贝叶斯方法估计 超参数通常指定一个先验协方差核 若核也要从数据中进行非参数推断 则可使用临界滤波器 平滑样条法可解释为高斯过程货柜的后验模式 核回归 编辑 主条目 核回归 nbsp 使用高斯核平滑器对小数据集 黑点 进行非参数回归拟合 红线 粉色阴影展示了核函数 以获得给定x值的y估计值 核函数定义了在得出目标点估计值时 给每个数据点的权 此章節沒有提供參考來源 內容可能無法查證 2020年8月1日 核回归用核函数卷积数据点位置 从有限的数据点中估计连续因变量 近似地说 核函数说明了 模糊 数据点影响的方法 以便用它们的值预测附近位置的值 回归树 编辑 主条目 决策树学习 决策树学习算法可以从数据中学习 以预测因变量 2 虽然最初的分类回归树 CART 公式仅适用于预测单变量数据 该框架也可用于预测多变量数据 包括时间序列 3 另见 编辑Lasso算法 局部回归 非参数统计 半参数回归 保序回归 多元自适应回归样条法参考文献 编辑 Statistical and neural network techniques for nonparametric regression by Vladimir Cherkassky Filip Mulier https link springer com chapter 10 1007 978 1 4612 2660 4 39 页面存档备份 存于互联网档案馆 Breiman Leo Friedman J H Olshen R A Stone C J Classification and regression trees Monterey CA Wadsworth amp Brooks Cole Advanced Books amp Software 1984 ISBN 978 0 412 04841 8 Segal M R Tree structured methods for longitudinal data Journal of the American Statistical Association American Statistical Association Taylor amp Francis 1992 87 418 407 418 JSTOR 2290271 doi 10 2307 2290271 阅读更多 编辑Bowman A W Azzalini A Applied Smoothing Techniques for Data Analysis Oxford Clarendon Press 1997 ISBN 0 19 852396 3 Fan J Gijbels I Local Polynomial Modelling and its Applications Boca Raton Chapman and Hall 1996 ISBN 0 412 98321 4 Henderson D J Parmeter C F Applied Nonparametric Econometrics New York Cambridge University Press 2015 ISBN 978 1 107 01025 3 Li Q Racine J Nonparametric Econometrics Theory and Practice Princeton Princeton University Press 2007 ISBN 978 0 691 12161 1 Pagan A Ullah A Nonparametric Econometrics nbsp New York Cambridge University Press 1999 ISBN 0 521 35564 8 含有內容需登入查看的頁面 link 外部链接 编辑HyperNiche software for nonparametric multiplicative regression 页面存档备份 存于互联网档案馆 Scale adaptive nonparametric regression 页面存档备份 存于互联网档案馆 with Matlab software 取自 https zh wikipedia org w index php title 非参数回归 amp oldid 79180237, 维基百科,wiki,书籍,书籍,图书馆,

文章

,阅读,下载,免费,免费下载,mp3,视频,mp4,3gp, jpg,jpeg,gif,png,图片,音乐,歌曲,电影,书籍,游戏,游戏。