MISE of kernel estimates of a density and its derivatives (Q1097603)

Ce travail prolonge un travail de l'auteur [Ann. Stat. 5, 394-399 (1977; Zbl 0359.62032)]. Soit \(X_ 1,...,X_ n\) un échantillon d'une loi F de densité f possédant une dérivée d'ordre p notée \(f^{(p)}\). On souhaite construire un estimateur \(\hat f^{(p)}\) de \(f^{(p)}\). Pour cela, on introduit une classe \({\mathcal K}\) \(r_ p\) de fonctions K à valeurs réelles boréliennes de carré intégrable sur \({\mathbb{R}}\) et telles que, pour tout entier r vérifiant \(r>p\), \(\forall j\in \{0,1,...,r-1\}\), \[ (1/j!)\int y^ jK(y)dy= \begin{cases} 1 &\text{si \(j=p,\)} \\ 0 &\text{si \(j\neq p,\)}\end{cases} \] et \(\int | y^ rK(y)| dy\) est finie. Soit encore \(\{h_ n\}\) une suite de réels strictement positifs qui converges vers zéro. On définit des statistiques \(Y_ j\) en posant, pour tout réel x, \(Y_ j(x)=K((X_ j-x)/h_ n)\), et l'estimateur cherché en posant \[ \hat f^{(p)}(x)=(1/nh_ n^{p+1})\sum^{n}_{j=1}Y_ j(x). \] Le résultat essentiel concerne l'évaluation de l'erreur quadratique moyenne (MISE=mean integrated square error) \[ MISE(\hat f^{(p)})= {\mathbb{E}}(\int (\hat f^{(p)}(x)-f^{(p)}(x))^ 2dx). \] On montre en effet que, si on a \(r>p\), \(\int (f^{(r)})^ 2 < +\infty\) et \(K\in {\mathcal K}^ r_ p\), alors \[ MISE(\hat f^{(p)})\leq | k|^ 2_ r h_ n^{2(r- p)}\int (f^{(r)})^ 2+ (1/nh_ n^{2p+1})\int K^ 2, \] où \(| k_ r| =(1/r!)\int | y^ r K(y)| dy\). Ce résultat entraîne que, pour une suite \(\{h_ n\}\) bien choisie, la vitesse de convergence vers zéro de MISE\((\hat f^{(p)})\) est meilleure que celle de l'estimateur de \textit{S. C. Schwartz} [Ann. Math. Stat. 38, 1261- 1265 (1967; Zbl 0157.479)]. L'auteur précise ce résultat en montrant que, si en plus des hypothèses précédentes, on suppose que \(f^ 2\) est intégrable, que \(f^{(r)}\) est presque partout continue et de carré intégrable et que \(| f^{(r)}|\) est intégrable, alors les suites \{MISE\((\hat f^{(p)})\}\) et \[ \{h_ n^{2(r-p)}k^ 2_ r\int (f^{(r)})^ 2+ (1/nh_ n^{2p+1})\int K^ 2\} \] sont équivalentes (où \(k_ r=(1/r!)\int y^ r K(y)dy).\) L'article est encore complété par deux théorèmes qui donnent des hypothèses suffisantes pour que la suite \{MISE\((\hat f^{(p)})\}\) converge vers zéro, quand on ne suppose plus que \(f^{(p)}\) est différentiable, (ce qui interdit, dans les théorèmes précédents d'utiliser un r tel que \(r>p)\). Ces deux systèmes d'hypothèses sont: 1) \(f^{(p)}\) continue presque partout intégrable et de carré intégrable, K appartenant à \({\mathcal K}^ 2_ p\) et telle que \(y\to | y^ p K(y)|\) est intégrable et converge vers zéro à l'infini, et n \(h_ n^{2p+1}\to +\infty.\) 2) \(f^{(p)}\) continue presque partout et de carré intégrable, K appartenant à \({\mathcal K}^ p_ p\) et nulle en dehors de \([0,1],\) et \(nh_ n^{2p+1}\to +\infty\).