Some Nonparametric Estimators of Regression Function

Abstract

In the paper some nonparametric estimators of regression function are studied: Nadaraya-Watson estimator and k-nearest neighbour one. Properties of these estimators and possibilities of using them in practice are taken into consideration. A comparative study of the two estimators is presented. Different techniques of choosing method’s parameters (kernel function, smoothing parameter h and parameter k) are used in this study to choose the optimal ones. Some practical rules are proposed and they are used in this study.

W pracy przedstawiono wybrane dwa nieparametryczne estymatory funkcji regresji: estymator jądrowy Nadaraya-Watsona oraz estymator k-najbliższego sąsiada. Podano ich własności, możliwości wykorzystania oraz dokonano porównania tych estymatorów. Przedstawiono również przykład zastosowania estymatora jądrowego regresji z uwzględnieniem właściwego doboru parametrów metody (funkcji jądra i parametru wygładzania h) oraz estymatora k-najbliższego sąsiada z uwzględnieniem właściwego doboru parametru k. Zaproponowano również praktyczne zasady wyboru parametrów estymacji funkcji regresji i wykorzystano je w przykładzie.