关于微分熵的一类强偏差定理

利用关于乘积分布密度的相对熵和相对熵率的概念,建立了相依连续型随机变量序列关于参考微分熵的一类强偏差定理,证明中给出了将Laplace变换应用于微分熵强偏差定理的研究的一种途径．     

关于可列非齐次马氏泛函的一类强偏差定理

本文利用关于{σn(ω),n≥0)的样本相对熵率的概念,研究相依离散型随机变量序列函数的极限性质,从而建立了一类关于可列非齐次马氏泛函的强偏差定理.     

Cayley树上随机场的马尔可夫逼近与一类小偏差定理

通过引进样本相对熵率作为Cayley树上任意随机场与马尔可夫链场之间的偏差的一种度量, 建立了关于状态序偶频率的一类小偏差定理. 证明中应用了研究马尔可夫链强极限定理的一种新的分析方法.     

任意信源的一类Shannon-Mcmillan逼近定理

该文通过概率空间上的任意分布与另一任意分布相比较,研究任意随机序列相对熵密度的小偏差定理.并由此得出若干任意信源,m阶马氏信源的Shannon-Mcmillan定理.将已有的关于离散信源的结果加以推广.     

广义熵在统计中的应用

本文提出了判别拟合曲线优劣的广义熵原则，用此原则可求参数的估计；证明了样本的频率分布关于理论分布广义熵的渐近性质，从而可用其作分布律假设检验的统计量     

关于有限马氏链相对熵密度和随机条件熵的一类极限定理

本文引进有限非齐次马链随机条件熵的概念，研究这个概念与相对熵密度的关系，并通过数列的绝对平均收敛的概念给出了有限非齐次马氏链的相对频率，相对熵密度和平均随机条件熵ａ．ｅ收敛于常数及有限非齐次马氏链熵率存在的条件。     

关于相依离散随机序列的若干强偏差定理

首次引入随机序列滑动似然比与滑动相对熵概念作为刻画任意相依随机序列的独立逼近的随机性度量,利用B-C引理与分析方法相结合,研究任意离散随机序列部分和滑动平均的强偏差定理.作为推论,得到了关于广义经验分布函数的一个极限定理.最后,给出了若干例子.     

对任意离散信源相对熵密度普遍成立的极限性质

利用相对于无记忆信源熵密度偏差的概念,给出对任意离散信源相对熵密度普通成立的一个用不等式表示的极限性质(称之为强偏差定理).     

任意信源与马氏信源比较及小偏差定理

设{X_n,n≥0}是在S={1,2,…N}中取值的可测函数列,P、Q是测度空间上的两个概率测度,其中Q关于{X_n,n≥0}是马氏测度.本文引进了P关于Q的样本散度率距离的概念,并利用这个概念得到了任意信源二元函数一类平均值的小偏差定理,作为推论得到了任意信源熵密度的小偏差定理.最后我们将Shannon-McMillan定理推广到非齐次马氏信源情形.     

任意信源的一类广义Shannon-McMillan定理

本文研究了任意信源随机和相对熵密度的强极限定理.利用构造相容分布与非负上鞅的方法,获得了m阶马氏信源的随机Shannon-McMillan定理,将已有的关于离散信源的结果加以推广.     

Relativization of dynamical properties

In the past twenty years,great achievements have been made by many researchers in the studies of chaotic behavior and local entropy theory of dynamical systems.Most of the results have been generalized to the relative case in the sense of a given factor map.In this survey we offer an overview of these developments.     

A note on the existence of a largest topological factor with zero entropy

Given a topological system on a -compact Hausdorff space and its factor we show the existence of a largest topological factor containing such that for each -invariant measure , . When a relative variational principle holds, .

     

Relative entropy functions for factor maps between subshifts

Let and be topological dynamical systems and a factor map. A function is a compensation function for if for all . For a factor code between subshifts of finite type, we analyze the associated relative entropy function and give a necessary condition for the existence of saturated compensation functions. Necessary and sufficient conditions for a map to be a saturated compensation function will be provided.

     

对数似然比与整值随机变量序列的一类强律

本文引进对数似然比作为整值随机变量序列相对于服从几何分布的独立随机变量序列的偏差的一种度量,并通过限制对数似然比给出了样本空间的一个子集.在此子集上得到了一类用不等式表示的强律,其中包含整值随机变量序列与相对熵密度及几何分布的熵函数有关的若干极限性质.     

任意信源关于赌博系统的一类Shannon-McMillan定理

采用网微分法和分析运算方法来研究赌博系统中任意随机变量序列随机条件熵的一类强极限定理,并由此得出若干任意信源的Shannon-Mcmillan定理.将已有的关于离散信源的结果加以推广.     

A Pathwise Approach of Some Classical Inequalities

The aim of this pedagogical paper is to show how some renowned inequalities may be obtained via a simple argument: entropy projection from the path space onto finite-dimensional coordinates spaces. Some applications are given: ergodic behaviour, perturbation.     

关于滑动相对熵的若干极限性质

引入滑动似然比和滑动相对熵等概念,讨论了滑动相对熵的若干渐近性质.主要结果是,获得了随机变量任意状态的相对频率与滑动相对熵之间的关系,并且给出了滑动相对熵基于相对频率的上界的估计.作为推论,得到了随机序列滑动平均的强大数定理.     

Some small deviation theorems for arbitrary continuous random sequence

Let (Xn)n∈N be a sequence of arbitrary continuous random variables, by the notion of relative entropy h(μ)μ(ω) as a measure of dissimilarity between probability measure μ and reference measure (μ), the explicit, general bounds for the partial sums of arbitrary continuous random variables under suitable conditions are developed. The argument uses the known and elementary lemma of convergence for likelihood ratio.     

Some properties and applications of cumulative Kullback–Leibler information

The cumulative Kullback–Leibler information has been proposed recently as a suitable extension of Kullback–Leibler information to the cumulative distribution function. In this paper, we obtain various results on such a measure, with reference to its relation with other information measures and notions of reliability theory. We also provide some lower and upper bounds. A dynamic version of the cumulative Kullback–Leibler information is then proposed for past lifetimes. Furthermore, we investigate its monotonicity property, which is related to some new concepts of relative aging. Moreover, we propose an application to the failure of nanocomponents. Finally, in order to provide an application in image analysis, we introduce the empirical cumulative Kullback–Leibler information and prove an asymptotic result. Copyright © 2015 John Wiley & Sons, Ltd.