密度核估计强相合性的一致收敛速度

设X_1,…,X_n为取自一维总体的iid.样本,F(x)及f(x)分别为总体的分布函数和密度函数.取概率密度K(x)作为核,则可作出f(x)的核估计     

平稳序列密度函数及其导函数的随机窗宽核估计的一致强相合性

设{X_n}_(n=1)~∞是R~1上的平稳、强混合随机变量序列,具有公共的密度函数f(x)。我们选定一个概率密度K(x),假定f(x)与K(x)都具有r(≥0)阶导数,则可定义基于观测值X_1,…,X_n的f~(r)(x)的核估计其中窗宽h_n(x)■h_n(x;X_1,…,X_n)>0不仅依赖于X_1,…,X_n,而且也与x有关。本文是在随机序列{X_n}_(n=1)~∞是平稳、强混合的情况下,讨论f_n~(r)(x)的一致强相合性。     

一般损失下k近预测条件风险的指数界

<正> 设(X,θ)为R~d×R~1上随机变量.(X_1,θ_1),…,(X_n,θ_n)为它的独立同分布样本.设X的值已观测,记Z_n=((X_1,θ_1),…,(X_n,θ_n)),要用X和Z_n的值去预测θ的值.设‖·‖为R~d中欧氏距离或最大分量模距离,将X_1,…,X_n重排为X_(n1),…,X_(nn).使得‖X_(n1)‖-X‖≤‖X_(n2)-X‖≤…≤‖X_(nn)-X‖,以θ_(n1),…,θ_(nn)记相应的匹     

一类密度函数最近邻估计的一致收敛速度

<正> 设 X_1,X_2,…,X_n 是来自 R_d(d≥1)上的具分布函数 F(x)的总体的 iid.样本.F(x)有概率密度 f(x),k=k(n)是与 n 有关的自然数.找最小正数 a_n(x),使得     

两阶段抽样的序贯密度估计

§1 引言 设X_1,…,X_n为自一维总体中取出的iid样本,F(x)及f(x)分别为总体的分布函数及密度函数。为估计f(x),Wolverton和Wagner,以及Yamato独立地进行了递归密度估计 f_n(x)=1/n sum from j=1 to n(1/h_j k(x-x_j/h_j)) (1) 此处,K(x)为核密度,{h_j}为一串趋于0的正数。 设x固定,且f(x)>0。1976年,Carroll在[3]中利用Bickel和Wichura关于多参数过程弱收敛的准则,构造了f(x)的Chow-Robbins意义下的序贯区间估计(参看[5])。     

一种概率密度近邻估计的相合性

设一维r v.X有分布F,密度f,X_1,…,X_n为X的iid.观察值.Loftsgarden和Quesenberry在1965年提出了f(x)的一种近邻估计法.该法先给定自然数k_n≤n,对任何x∈R~1,以a_n(x)=a_n(x;X_1,…,X_n)记最小的a,使[x-a,x a]中至少包含X_1,…,X_n中的k_n个,然后以     

刀切最近邻密度估计的强收敛速度

设X_1,…,X_n是从具有分布F和密度f的一维总体中抽出的iid样本。1965年Loftsgarden和Quesen berry在[1]中提出f(x)的最近邻密度估计f_n(x)=(k_n-1)/2nv_n(x)(1)其中k(?)k_n为预先选定的与n有关的自然数,v_n(x)是使[x-v_n(x),x v_n(x)]中至少含k个样本点的最小的v_n(x)。这种估计引起了不少作者的兴趣,在关于相合性及其收敛     

随机窗宽核估计L1模相合性

设X_1,…,X_n是来自某个具有分布F(x)和密度f(x)的d维总体的i.i.d.样本。为估计f(x),国内外统计学家提出了许多切合实际的估计,并在其相合性方面取得了大量的成果。随机窗宽核估计就是其中之一,见文献[1—3]等等。最近Breiman L.等,Devroye L.考虑了另一类型随机窗宽核估计即:     

近邻预测风险的收■性

§1 引言和结果设(X,θ)是一个取值于 R~d×R~l 的随机向量,对其分布一无所知。(X_1,θ_1),…,(X_n,θ_n)为(X,θ)的观察样本。假定(X,θ)(X_1,θ_t),…,(X_n,θ_n)是独立同分布(iid.)的。设已有了 X 的观察值 x,但θ之值未观察。要依据样本(X_i,θ_i),i=1,…,n,及 X 的已知值 x,去预测θ的值。由于对(X,θ)的分布无所知,这个问题是非参数性的,通常的线性回归方法等都不适用。有一种简单而比较实用的非参数方法,叫近邻预测法,其法如下:先按与 x 的距离     

Hill估计的重对数律

设{X_n,n≥1}是 i.i.d.序列,分布函数具有形式 F(x)=1-,x>0,其中 L(x)是缓慢变化函数,0相似文献   

渐近Bayes判别

<正> 一、引言设(θ,X),(θ_1,X_1),…,(θ_n,X_n)为 iid 随机变量,其中 X 取值于只 R~d(d≥1),θ只取0,1两个值,记 P(θ=0)=η_0,P(θ=1)=η_1=1-η_0,设 X 在给定θ=i 时的条件密度为 f_i(x)dx,i=0,1.(θ_1,X_1),…,(θ_n,X_n)是已知的样本,常称为训练样本,在实际应用上,常需借助于它们,以根据 X 之观测值,对θ的值做出判別.记 f(x)=η_0f_0(x)+η_1f_1(x),则后验概率为     

变换核估计和迭代算法

设X_1,X_2,…,X_n为独立同分布的随机变量,其密度函数为f(x),该函数有较陡的起始部分和较长的尾部,如对数正态和威布尔密度函数等。考虑一个变换T:Y_i=T(X_i),使得Y_i的密度函数g(y)具有较小的估计误差。这样,f(x)可用T′(x)g(T(X))来估计。本文给出了变换核估计的迭代算法。并讨论了估计的特性,蒙特卡罗方法模拟的结果表明变换核估计对对数正态及威布尔分布的密度函数的估计是合适的。     

相依样本分布函数、回归函数的非参数估计的强相合性

设 X_1,X_2,…,X_n 是来自未知分布函数 F(x)的 R~d(d≥1)维随机样本,通常用基于 X_1,X_2,…,X_n 的经验分布函数 F_n(x)来估计 F(x).当样本是独立时,'F_n(x)的大样本性质是众所周知的.Yamato 在1973年提出了 F(x)的核估计的方法:设 W_(?)(x)是 R~d 上的已知分布函数,定义 F(x)的核估计为     

密度泛函估计的重对数律，中心极限定理和不变原理

设X_1,…,X_n是从分布密度为f(单变量实值函数)的总体中抽出的iid.样本.μ=EX_1。本文研究了密度泛函θ=f(μ)的核型估计为通常的Rosenblatt-Parzen核估计)的大样本性质。     

众数的核估计问题

设 X_1,…X_n,为 iid 样本,其总体的分布函数、密度函数、众数分别记为 F(x)、f(x)、θ,即有 f(θ)=supf(x)。我们来考虑θ的估计问题。Parzen[1]在研究密度 f 的核估计问题时首先提出了 θ 的核估计方法,并在一定假设条件下证明了这种估计具有弱相合性。陈桂景在[7]中进一步证明了众数 θ 的核估计还具有强相合性,而且当 f 的二阶导函数连续有界时,这种估计的强收敛速度可达到 O((1nn/n)~(2/7))。那么,一个自然的问题是,     

经验Bayes估计渐近理论中的若干未决问题

这里介绍Singh在[3]中提出的关于经验Bayes估计的渐近理论的几个猜测,及某些有关问题。 设有绝对连续的一维指数分布族 dP_θ(x)=f_θ(x)dx=C(θ)~(θx)h(x)dx,θ∈ 为R~1上的一有限或无限区间。假定取平方损失L(a,θ)=(a-θ)~2θ有先验分布G.θ的Bayes估计记为d_G=d_G(x),其Bayes风险记为B(G). 设有历史样本X_1,…,X_n,当前样本X。按经验Bayes理论的基本假定,X_1,…,X_,(X,θ)相互独立,且每个X_i的分布与X的边缘分布相同。任一同时依赖于X_19,…,X_n和X的估计d_n=d_n(X_1,…,X_n,X)称为θ的一经验Bayes估计,其Bayes风险定义为     

截尾寿命试验中参数的 MLE 的收敛速度

本文所考虑的截尾寿命试验是一种包含定时和定数截尾的混合型寿命试验。它的做法是从总体中随机抽取 n 个个体,同时进行寿命试验。如果在时刻 T 之前观察到 r_n 个个体“寿终”,则试验就在第 r_n 个寿终的时刻停止,否则就进行到时刻 T 为止。确切地,设 n个样品的寿命为 X_1(ω),X_2(ω),…,X_n(ω),它们均取值于(0,∞),为样本空间((?),(?),P_θ∶θ∈Θ)上相互独立同分布的随机变量。P_θ{X_i(ω)x}=F(x,(?)θ)(1≤i≤n),且F(x,θ)具有密度函数 f(x,θ)。这里θ∈Θ,Θ是 m 维欧氏空间中非空开集。设 X_1~(n)(ω)≤X_2~(n)(ω)≤…≤X_n~(n)(ω)是 X_1(ω),X_2(ω),…,X_n(ω)的从小到大的变叙。令     

多参数同时估计的容许性

令 X_1,…,X_n 是一串独立随机变量,且 X_1～P_(θ_i)θ_i∈(?)_i,(i=1,2,…,n),假设估计θ_i 的损失函数为 L(θ_i,d_i),δ_i(X_i)是仅依赖 X_i,θ_i 的一个容许估计(i=1,2,…,n).现在我们要同时估计(θ_1,…,θ_n)′(?)θ,其损失函数取为 sum from i=1 to n L(θ_i,d_i),那么(δ_i(X_1),…,δ_n(X_n))′是θ的容许估计吗?早在50年代,Stein 就证明了,在 n≥3,X_i～N(θ_i,1),L(θ_i,d_i)=(θ_i-d_i)~2条件下,上述结论不成立.近20余年,很多作者也研究了这个问题,指出 Stein 的现象对许多分布,例如 Poisson 分布,Gama 分布,负二项分布及位置参数估计皆存在.但在什么条件下,(δ,(X_1),…,δ_n(X))′是容许的则很少研究,仅仅有少数特殊情况下的结果(见[3]).本文给出了相当一般的充分条件(定理1.1),利用定理1.1,研究了 L(θ_i,d_i)=λ(θ_i)(g(θ_i)-d_i)~2时,结论成立的充分条件(定理2.1).还给出了多个位置参数,Pitman 估计为容许的充分条件.最后一节给出了五个具体例子,它包括在平方损失下,多个正态密度及分布函数的容许估计;参数自然区间 为有限区间之指数族分布,在平方损失下,同时估计多个均值的线性容许估计;若 X_i～Poisson 分布 P_(2_i),i=1,2,…,n(a_1x_1,…,a_nx_n)′在损失函数sum from i=1 to n     

半参数模型的密度函数估计

令X,X_1,…,X_n为一串彼此独立具有相同分布的k维随机向量序列,此分布的密度函数f(x)∈f■f■={f(x,θ):θ∈①■R~p}我们建立了f(x)的一个估计不论是参数模型(f∈f~0)成立与否皆几乎处处收敛到f(x)而且在f∈f~0时此估计比非参数估计要好,我们不仅考虑了正则条件也考虑了非正则条件。     

Sufficient And Necessary Condition For Convergence of Conditional Error Probability in NN-Pattern Discrimination

Let (θ_1,X_1),…, (θ_n,X_n), (θ, X) be iid random vectors ,where θ∈{0,1},X∈R~d Denote by θ′_n the nearest neighbour discriminator of θ based on the training samples (θ_1,X_1),…, (θ_n,X_n) and the observed X; put and This paper gives a sufficient and necessary condition for as n→∞, namely (P(θ=0, X=x)-P(θ=1, X=x))~2·P(θ=0, X=x)·P(θ=1, X=x)=0 for every x∈R~d.This generalizes a previous result of the authors [5] and improves a result of Wagner, T.J. [2].