多参数同时估计的容许性

令 X_1,…,X_n 是一串独立随机变量,且 X_1～P_(θ_i)θ_i∈(?)_i,(i=1,2,…,n),假设估计θ_i 的损失函数为 L(θ_i,d_i),δ_i(X_i)是仅依赖 X_i,θ_i 的一个容许估计(i=1,2,…,n).现在我们要同时估计(θ_1,…,θ_n)′(?)θ,其损失函数取为 sum from i=1 to n L(θ_i,d_i),那么(δ_i(X_1),…,δ_n(X_n))′是θ的容许估计吗?早在50年代,Stein 就证明了,在 n≥3,X_i～N(θ_i,1),L(θ_i,d_i)=(θ_i-d_i)~2条件下,上述结论不成立.近20余年,很多作者也研究了这个问题,指出 Stein 的现象对许多分布,例如 Poisson 分布,Gama 分布,负二项分布及位置参数估计皆存在.但在什么条件下,(δ,(X_1),…,δ_n(X))′是容许的则很少研究,仅仅有少数特殊情况下的结果(见[3]).本文给出了相当一般的充分条件(定理1.1),利用定理1.1,研究了 L(θ_i,d_i)=λ(θ_i)(g(θ_i)-d_i)~2时,结论成立的充分条件(定理2.1).还给出了多个位置参数,Pitman 估计为容许的充分条件.最后一节给出了五个具体例子,它包括在平方损失下,多个正态密度及分布函数的容许估计;参数自然区间 为有限区间之指数族分布,在平方损失下,同时估计多个均值的线性容许估计;若 X_i～Poisson 分布 P_(2_i),i=1,2,…,n(a_1x_1,…,a_nx_n)′在损失函数sum from i=1 to n     

下标降序法最近邻判别分析

§1 引言设(X_1,θ_1),…,(X_n,θ_n),(X,θ)为在R~d×{1,…,M}上取值的i.i.d.随机向量。问题是要利用X的观察值及历史样本(X_i,θ_i),i=1,…,n对类别变量θ进行判别。假定在R~d上给定了某一距离函数p(·,·)(比如欧氏距离等),那么可按照诸X_i与X的距离由小到大把诸X_i重新排列为X_(R1),X_(R2),…,X_(R_n,相应的θ_i也被排列为θ_(R1),θ_(R2),…,θ_(Rn)。若采用θ_(R1)来判别θ,这就是所谓的最近邻判别法。Derroye,Wagner,Fritz,陈希孺及白志     

K-近邻预测后验风险的指数限

设(X,θ),(X_i,θ_i),i=1,…,n,为iid随机向量,取值于R~d×R~1.要根据X,借助于样本Z~n={(X_i,θ_i),i=1,…,n},去预测θ之值,Cover在[1]中把k近邻方法用于这个问题。其法如下:在R~d上引进距离‖x-y‖,把X_1,…,X_n按其与X的距离重排为(当等号出现时,可采用“足标小的排前”的原则),取定自然数k,     

截尾寿命试验中参数的 MLE 的收敛速度

本文所考虑的截尾寿命试验是一种包含定时和定数截尾的混合型寿命试验。它的做法是从总体中随机抽取 n 个个体,同时进行寿命试验。如果在时刻 T 之前观察到 r_n 个个体“寿终”,则试验就在第 r_n 个寿终的时刻停止,否则就进行到时刻 T 为止。确切地,设 n个样品的寿命为 X_1(ω),X_2(ω),…,X_n(ω),它们均取值于(0,∞),为样本空间((?),(?),P_θ∶θ∈Θ)上相互独立同分布的随机变量。P_θ{X_i(ω)x}=F(x,(?)θ)(1≤i≤n),且F(x,θ)具有密度函数 f(x,θ)。这里θ∈Θ,Θ是 m 维欧氏空间中非空开集。设 X_1~(n)(ω)≤X_2~(n)(ω)≤…≤X_n~(n)(ω)是 X_1(ω),X_2(ω),…,X_n(ω)的从小到大的变叙。令     

近邻预测风险的收■性

§1 引言和结果设(X,θ)是一个取值于 R~d×R~l 的随机向量,对其分布一无所知。(X_1,θ_1),…,(X_n,θ_n)为(X,θ)的观察样本。假定(X,θ)(X_1,θ_t),…,(X_n,θ_n)是独立同分布(iid.)的。设已有了 X 的观察值 x,但θ之值未观察。要依据样本(X_i,θ_i),i=1,…,n,及 X 的已知值 x,去预测θ的值。由于对(X,θ)的分布无所知,这个问题是非参数性的,通常的线性回归方法等都不适用。有一种简单而比较实用的非参数方法,叫近邻预测法,其法如下:先按与 x 的距离     

随机化最近邻判别分析中错误概率估计的极限性质

设(X,θ)是取值于 R~d×{1,…,M)的随机向量.我们分别称 X 与θ为指标变量和类别变量.又设 Z~n(?){(X_i,θ_i),i=1,…,n}为(X,θ)的 iid.样本,称之为训练样本.判别分析的问题就是要依据 Z~n 及 X 的观察值对θ进行判别.假定在 R~d 中引进了某一距离ρ(x,y),x,y∈R~d.于是当 X=x 给定时,我们可按照距离ρ(x,X_j),j=1,…,n,的上升秩序,把 X_1,…,X_n 重新排列成 X_((R)_1),…,     

再论最近邻判别分析

一、引言: 设(X,θ)为在R~d×{1,…,M}中取值的随机向量,称X为指标变量,θ为类别变量。假定X的值已知,据此要对与其匹配的θ值进行判定,这就是判别分析问题。在(X,θ)的分布未知的情况下,为进行判别,除利用X的当前观察值外,还要借助于历史知识。设(X_i,θ_i),i=1,…,n,是(X,θ)的一组iid样本,常称为训练样本。此时我们考虑的问题是,利用(X_i,θ_i),i=1,…,n及X值对θ进行判别。假定在R~d中引进了某一距离函数p(x,     

平方损失下的最近邻预测理论

§1.引言 设在R~d×R~1(d≥1)取值的变量(x,θ),(x_i,θ_i),i=1,…,n相互独立,此处(X_i,θ_i)是已知样本,X之值已观测,而要依据它们去预测θ之值。引进平方损失(θ—a)~2,即用a去预测θ时,所蒙受的损失。 若知道了(x,θ)的联合分布,则风险最小的预测,即Bayes预测 δ(x)=E(θ|X=x),可无需求助于样本(X_i,θ_i),i=1,…,n而定出。当X=x时,此预测之后验风险     

最近邻预测问题中条件风险估计的强收敛速度

设(X_4,θ_4),i=1,2,…,n,是d 1维随机向量(X,θ)的iid.样本。又设L_n是平方损失下最近邻(简记为NN)预测在给定(X_4,θ_4),i=1,2,…n条件下的风险。众所周知,在一定条件下L_n→2E~*,a.s.,这里R~*表示Bayes风险。L_n的NN估计定义为其中θ_(nj)表示以(X_1,θ_1),…,(X_(j-1),θ_(j-1),(X_(j 1),θ_(j 1),…,(X_n,θ_n)为训练样本时,通过X_j=x_j对θ_j所做的NN预测。本文在E|θ|~(2 δ)<∞(δ>0)以及其他一些条件下证明了其中ξ是一个事先任意给定的近于0的正常数。     

EXPONENTIAL BOUNDS OF POSTERIOR RISK FOR k-NN PREDICTION

Let (X,θ),(X_1,θ_1),…,(X_n,θ_n) be R~d×R~1-valued random vectors, it is desired to predict the value of θ, based on the observed value of X and with the help of the training sample Z~n={(X_i,θ_i), i=1,…,n}. Cover(1) used the k-Nearest Neighbor method to this problem, the method is as follows: Introduce a metric ‖X-Y‖ in R_d. Rearrange X_1,…,X_n into X_(n1),…, X_(nn), such that ‖X_(n1)-X‖≤ ‖X_(n2)-X‖≤…≤‖X_(nn)-X‖,and break ties by comparing indices. Choose positive integer k. Denote by θ_(ni) the θ-value associated with X_(ni), i. e., θ_(ni) =θ_j when X_(ni)=X_j. Under the square loss L(θ,α)=     

截断数据模型中的两阶段抽样序贯密度估计

令X_1,X_2,…是iid随机变量序列,满足分布F密度函数f.X_i被随机变量Y_i右截断,而Y_i是iid随机变量,且与X_t独立。我们仅能观察到样本 Z_i=min(X_i,Y_i),δ_i=I(X_i≤Y_i)估计量f_n和_n是基于KM估计量的f的核型估计,在本文中,我们基于f_n和_n分别构造f的两阶段抽样的序贯固定长度2d,渐近置信系数1-α。(0<α<1)的置信区间。并讨论了停时的渐近性质。     

两样本秩次统计量的几乎处处界

设 X_1,…,X_n i.i.d.X_1～F_Y_1,…,Y_n,i.i.d.Y_1～G,这里 F 和 G 是两个一维连续分布函数.以 R_i 记 X_i 在合并样本(X_1,…,X_m,Y_1,…,Y_n)中的秩,且设φ(μ)定义于(0,1),φ_N(n)定义于1/(N 1),…,N/(N 1).本文给出了如下结果:在φ(x)与φx(x)满足一定条件下其中     

一类非平稳高斯序列超过数点过程与和的渐近性

设{X_i}_(i=1)~∞是标准化非平稳高斯序列,N_n为X_1,X_2,…,X_n依次对水平μ_(n1),μ_(n2),…,μ_(nn)的超过数形成的点过程.记Υ_(ij)=X_iX_j,S_n=■X_i.当Υ_(ij)满足一定条件时,证明了N_n依分布收敛到Poisson过程,且N_n与S_n渐近独立.     

渐近Bayes判别

<正> 一、引言设(θ,X),(θ_1,X_1),…,(θ_n,X_n)为 iid 随机变量,其中 X 取值于只 R~d(d≥1),θ只取0,1两个值,记 P(θ=0)=η_0,P(θ=1)=η_1=1-η_0,设 X 在给定θ=i 时的条件密度为 f_i(x)dx,i=0,1.(θ_1,X_1),…,(θ_n,X_n)是已知的样本,常称为训练样本,在实际应用上,常需借助于它们,以根据 X 之观测值,对θ的值做出判別.记 f(x)=η_0f_0(x)+η_1f_1(x),则后验概率为     

RS联合最佳逼近

1 引言 设X是Hausdorff空间,C(X)表示定义在X上的实连续函数全体组成的空间,λ_i>0(i=1,…,N)(1≤N≤+∞)。且sum from i=1 to n(λ_i)=1,再设X_i是X的紧子集(i=1,…,N),(?)X_i至少含有n+1个点,对f∈C(X_i)令     

一般损失下k近预测条件风险的指数界

<正> 设(X,θ)为R~d×R~1上随机变量.(X_1,θ_1),…,(X_n,θ_n)为它的独立同分布样本.设X的值已观测,记Z_n=((X_1,θ_1),…,(X_n,θ_n)),要用X和Z_n的值去预测θ的值.设‖·‖为R~d中欧氏距离或最大分量模距离,将X_1,…,X_n重排为X_(n1),…,X_(nn).使得‖X_(n1)‖-X‖≤‖X_(n2)-X‖≤…≤‖X_(nn)-X‖,以θ_(n1),…,θ_(nn)记相应的匹     

双向删失数据情形下的置信限

设X_1,X_2,…,X_n是概率空间(Ω,f,P_e)(θ∈①)上的独立同分布随机变量列,共同分布函数是F(x,θ).(F(0,θ)=0).给定正数t_1,…,t_n及函数9(θ):①→[-∞,∞].设Y_i=l(X_i>t_i)(i=1,2,…,n),这里l_A是集合A的示性函数。本文中我们给出了9(θ)的基于观测值y=(y_1,y_2,…,y_n)的最优的置信下限,当①=((?),(?)) (-∞≤(?)<(?)≤∞)而且F(t_i,θ)是θ的严格减函数时,我们得到了计算最优置信限的有效方法。     

概率论中的最优耦合与博弈论中的最优合作

本文推广了二重最优耦合的概念,得到结果 I:设X和Y是Polish空间,φ:X×Y→R可测,μ∈P(X),ν∈P(Y),(i)如果φ是有下界的下半连续函数,那么φ最优耦合γ_φ存在;(ii)如果φ是有上界的上半连续函数,那么φ上最优耦合γ~φ存在.结果 II:设G_i(i=1, 2)是从可测空间(?i, F_i)到Polish空间(X_i,ρ_i, B(X_i))上的转移概率测度序列,(i)如果φ:X_1×X_2→R是有下界的下半连续函数,则G_1和G_2的φ最优可测耦合存在;(ii)如果φ:X_1×X_2→R是有上界的上半连续函数,则G_1和G_2的φ上最优可测耦合存在.本文提出一种带约束的n重最优耦合的概念并证明这种最优耦合的存在性,由此定义了一种博弈论中的Nash均衡的最优合作均衡,并举例说明这种新均衡优于Nash均衡.     

检验k母体协差阵相等中的不变性问题

<正> 设X′=(x_(1),…,x_(n)),x_(i):p×1,t=1,…,n.记n_i=n_1+…+n_i,n_i>p,n=n_1+…+n_k,x_(ni+1),…,x_(ni+ni+1)来自多元正态总体N_p(μ_i,∑_i),μ_i∈R~p,∑_i∈δ_p,容量为n_(i+1)的样本,i=1,…,k,其中δ_p={∑|∑:p×p,∑>0}.考虑     

椭球等高分布族中T_0~2的精确分布

设X～EC_9(U_1,Σ,φ),即X服从椭球等高布分;X_1,X_2,…,X_n是来自X的样本,作 T_0~2=((?)-u)′Σ~(-1)((?)-u),((?)=1/n sum from i=1 to n (X_i))本文将在一定条件下,给出T_0~2的密度函数。