stopping.tex

   1 \documentclass{article}
   2 %\usepackage{prentcsmacro}
   3 %\sloppy
   4 \usepackage[a4paper]{geometry}
   5 \geometry{hmargin=3cm, vmargin=3cm }
   6
   7 \usepackage[latin1]{inputenc}
   8 \usepackage[T1]{fontenc}
   9 \usepackage[english]{babel}
  10 \usepackage{amsmath,amssymb,latexsym,eufrak,euscript}
  11 \usepackage{subfigure,pstricks,pst-node,pst-coil}
  12
  13
  14 \usepackage{url,tikz}
  15 \usepackage{pgflibrarysnakes}
  16
  17 \usepackage{multicol}
  18
  19 \usetikzlibrary{arrows}
  20 \usetikzlibrary{automata}
  21 \usetikzlibrary{snakes}
  22 \usetikzlibrary{shapes}
  23
  24 %% \setlength{\oddsidemargin}{15mm}
  25 %% \setlength{\evensidemargin}{15mm} \setlength{\textwidth}{140mm}
  26 %% \setlength{\textheight}{219mm} \setlength{\topmargin}{5mm}
  27 \newtheorem{theorem}{Theorem}
  28 %\newtheorem{definition}[theorem]{Definition}
  29 % %\newtheorem{defis}[thm]{D\'efinitions}
  30  \newtheorem{example}[theorem]{Example}
  31 % %\newtheorem{Exes}[thm]{Exemples}
  32 \newtheorem{lemma}[theorem]{Lemma}
  33 \newtheorem{proposition}[theorem]{Proposition}
  34 \newtheorem{construction}[theorem]{Construction}
  35 \newtheorem{corollary}[theorem]{Corollary}
  36 % \newtheorem{algor}[thm]{Algorithm}
  37 %\newtheorem{propdef}[thm]{Proposition-D\'efinition}
  38 \newcommand{\mlabel}[1]{\label{#1}\marginpar{\fbox{#1}}}
  39 \newcommand{\flsup}[1]{\stackrel{#1}{\longrightarrow}}
  40
  41 \newcommand{\stirlingtwo}[2]{\genfrac{\lbrace}{\rbrace}{0pt}{}{#1}{#2}}
  42 \newcommand{\stirlingone}[2]{\genfrac{\lbrack}{\rbrack}{0pt}{}{#1}{#2}}
  43
  44 \newenvironment{algo}
  45 { \vspace{1em}
  46 \begin{algor}\mbox
  47 \newline \vspace{-0.1em}
  48 \begin{quote}\begin{rm}}
  49 {\end{rm}\end{quote}\end{algor}\vspace{-1.5em}\vspace{2em}}
  50 %\null \hfill $\diamondsuit$ \par\medskip \vspace{1em}}
  51
  52 \newenvironment{exe}
  53 {\begin{example}\rm }
  54 {\end{example}
  55 %\vspace*{-1.5em}
  56 %\null  \hfill $\triangledown$ \par\medskip}
  57 %\null  \hfill $\triangledown$ \par\medskip \vspace{1em}}
  58 }
  59
  60
  61 \newenvironment{proof}
  62 { \noindent {\sc Proof.\/}  }
  63 {\null  \hfill $\Box$ \par\medskip \vspace{1em}}
  64
  65
  66
  67 \newcommand {\tv}[1] {\lVert #1 \rVert_{\rm TV}}
  68 \def \top {1.8}
  69 \def \topt {2.3}
  70 \def \P {\mathbb{P}}
  71 \def \ov {\overline}
  72 \def \ts {\tau_{\rm stop}}
  73 \begin{document}
  74 \label{firstpage}
  75
  76 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
  77 \section{Mathematical Backgroung}
  78
  79
  80
  81 Let $\pi$, $\mu$ be two distribution on a same set $\Omega$. The total
  82 variation distance between $\pi$ and $\mu$ is denoted $\tv{\pi-\mu}$ and is
  83 defined by
  84 $$\tv{\pi-\mu}=\max_{A\subset \Omega} |\pi(A)-\mu(A)|.$$ It is known that
  85 $$\tv{\pi-\mu}=\frac{1}{2}\sum_{x\in\Omega}|\pi(x)-\mu(x)|.$$ Moreover, if
  86 $\nu$ is a distribution on $\Omega$, one has
  87 $$\tv{\pi-\mu}\leq \tv{\pi-\nu}+\tv{\nu-\mu}$$
  88
  89 Let $P$ be the matrix of a markov chain on $\Omega$. $P(x,\cdot)$ is the
  90 distribution induced by the $x$-th row of $P$. If the markov chain induced by
  91 $P$ has a stationary distribution $\pi$, then we define
  92 $$d(t)=\max_{x\in\Omega}\tv{P^t(x,\cdot)-\pi},$$
  93 and
  94
  95 $$t_{\rm mix}(\varepsilon)=\min\{t \mid d(t)\leq \varepsilon\}.$$
  96 One can prove that
  97
  98 $$t_{\rm mix}(\varepsilon)\leq \lceil\log_2(\varepsilon^{-1})\rceil t_{\rm mix}(\frac{1}{4})$$
  99
 100 It is known that $d(t+1)\leq d(t)$.
 101
 102
 103 %% A {\it coupling} with transition matrix $P$ is a process $(X_t,Y_t)_{t\geq 0}$
 104 %% such that both $(X_t)$ and $(Y_t)$ are markov chains of matric $P$; moreover
 105 %% it is required that if $X_s=Y_s$, then for any $t\geq s$, $X_t=Y_t$.
 106 %% A results provides that if   $(X_t,Y_t)_{t\geq 0}$ is a coupling, then
 107 %% $$d(t)\leq \max_{x,y} P_{x,y}(\{\tau_{\rm couple} \geq t\}),$$
 108 %% with $\tau_{\rm couple}=\min_t\{X_t=Y_t\}$.
 109
 110
 111 Let $(X_t)_{t\in \mathbb{N}}$ be a sequence of $\Omega$ valued random
 112 variables. A $\mathbb{N}$-valued random variable $\tau$ is a {\it stopping
 113   time} for the sequence $(X_i)$ if for each $t$ there exists $B_t\subseteq
 114 \omega^{t+1}$ such that $\{tau=t\}=\{(X_0,X_1,\ldots,X_t)\in B_t\}$.
 115
 116 Let $(X_t)_{t\in \mathbb{N}}$ be a markov chain and $f(X_{t-1},Z_t)$ a
 117 random mapping representation of the markov chain. A {\it randomized
 118   stopping time} for the markov chain is a stopping time for
 119 $(Z_t)_{t\in\mathbb{N}}$. It he markov chain is irreductible and has $\pi$
 120 as stationary distribution, then a {\it stationay time} $\tau$ is a
 121 randomized stopping time (possibily depending on the starting position $x$),
 122 such that  the distribution of $X_\tau$ is $\pi$:
 123 $$\P_x(X_\tau=y)=\pi(y).$$
 124
 125 \begin{proposition}
 126 If $\tau$ is a strong stationary time, then $d(t)\leq \max_{x\in\Omega}
 127 \P_x(\tau > t)$.
 128 \end{proposition}
 129 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
 130 \section{Random walk on the modified Hypercube}
 131
 132
 133 Let $\Omega=\{0,1\}^N$ be the set of words of length $N$. Let $E=\{(x,y)\mid
 134 x\in \Omega, y\in \Omega,\ x=y \text{ or } x\oplus y \in 0^*10^*\}$. Let $h$
 135 be a function from $\Omega$ into $\{1,\ldots,N\}$.
 136
 137 We denote by $E_h$ the set $E\setminus\{(x,y)\mid x\oplus y =
 138 0^{N-h(x)}10^{h(x)-1}\}$. We define the matrix $P_h$ has follows:
 139 $$\left\{
 140 \begin{array}{ll}
 141 P_h(x,y)=0 & \text{ if } (x,y)\notin E_h\\
 142 P_h(x,x)=\frac{1}{2}+\frac{1}{2N} & \\
 143 P_h(x,x)=\frac{1}{2N} & \text{otherwise}\\
 144
 145 \end{array}
 146 \right.
 147 $$
 148
 149 We denote by $\ov{h}$ the function from $\Omega$ into $\omega$ defined
 150 by $x\oplus\ov{h}(x)=0^{N-h(x)}10^{h(x)-1}.$
 151 The function $\ov{h}$ is said {\it square-free} if for every $x\in E$,
 152 $\ov{h}(\ov{h}(x))\neq x$.
 153
 154 \begin{lemma}\label{lm:h}
 155 If $\ov{h}$ is bijective and square-free, then $h(\ov{h}^{-1}(x))\neq h(x)$.
 156 \end{lemma}
 157
 158 \begin{proof}
 159
 160 \end{proof}
 161
 162 Let $Z$ be a random variable over
 163 $\{1,\ldots,N\}\times\{0,1\}$ uniformaly distributed. For $X\in \Omega$, we
 164 define, with $Z=(i,x)$,
 165 $$
 166 \left\{
 167 \begin{array}{ll}
 168 f(X,Z)=X\oplus (0^{N-i}10^{i-1}) & \text{if } x=1 \text{ and } i\neq h(X),\\
 169 f(X,Z)=X& \text{otherwise.}
 170 \end{array}\right.
 171 $$
 172
 173 The pair $f,Z$ is a random mapping representation of $P_h$.
 174
 175
 176
 177
 178 %%%%%%%%%%%%%%%%%%%%%%%%%%%ù
 179 \section{Stopping time}
 180
 181 An integer $\ell\in\{1,\ldots,N\}$ is said {\it fair} at time $t$ if there
 182 exists $0\leq j <t$ such that $Z_j=(\ell,\cdot)$ and $h(X_j)\neq \ell$.
 183
 184
 185 Let $\ts$ be the first time all the elements of $\{1,\ldots,N\}$
 186 are fair. The integer $\ts$ is a randomized stopping time for
 187 the markov chain $(X_t)$.
 188
 189
 190 \begin{lemma}
 191 The integer $\ts$ is a strong stationnary time.
 192 \end{lemma}
 193
 194 \begin{proof}
 195 Let $\tau_\ell$ be the first time that $\ell$ is fair. The random variable
 196 $Z_{\tau_\ell-1}$ is of the form $(\ell,\delta)$ with $\delta\in\{0,1\}$ and
 197 $\delta=1$ with probability $\frac{1}{2}$ and $\delta=0$ with probability
 198 $\frac{1}{2}$. Since $h(X_{\tau_\ell-1})\neq\ell$ the value of the $\ell$-th
 199 bit of $X_{\tau_\ell}$ is $\delta$. By symetry, for $t\geq \tau_\ell$, the
 200 $\ell$-th bit of $X_t$ is $0$ or $1$ with the same probability, proving the
 201 lemma.
 202 \end{proof}
 203
 204 \begin{proposition} \label{prop:stop}
 205 If $\ov{h}$ is bijective and square-free, then
 206 $E[\ts]\leq 8N^2+ N\ln (N+1)$.
 207 \end{proposition}
 208
 209 For each $x\in \Omega$ and $\ell\in\{1,\ldots,N\}$, let $S_{x,\ell}$ be the
 210 random variable counting the number of steps done until reaching from $x$ a state where
 211 $\ell$ is fair. More formaly
 212 $$S_{x,\ell}=\min \{m \geq 1\mid h(X_m)\neq \ell\text{ and }Z_m=\ell\text{ and } X_0=x\}.$$
 213
 214  We denote by
 215 $$\lambda_h=\max_{x,\ell} S_{x,\ell}.$$
 216
 217
 218 \begin{lemma}\label{prop:lambda}
 219 If $\ov{h}$ is a square-free bijective function, then one has $E[\lambda_h]\leq 8N^2.$
 220 \end{lemma}
 221
 222 \begin{proof}
 223 For evey $x$, every $\ell$, one has $\P(S_{x,\ell})\leq 2)\geq
 224 \frac{1}{4N^2}$. Indeed, if $h(x)\neq \ell$, then
 225 $\P(S_{x,\ell}=1)=\frac{1}{2N}\geq \frac{1}{4N^2}$. If $h(x)=\ell$, then
 226 $\P(S_{x,\ell}=1)=0$. Let $X_0=x$. Since $\ov{h}$ is square-free,
 227 $\ov{h}(\ov{h}^{-1}(x))\neq x$. It follows that $(x,\ov{h}^{-1}(x))\in E_h$.
 228 Thefore $P(X_1=\ov{h}^{-1}(x))=\frac{1}{2N}$. Now,
 229 by Lemma~\ref{lm:h},  $h(\ov{h}^{-1}(x))\neq h(x)$. Therefore
 230 $\P(S_{x,\ell}=2\mid X_1=\ov{h}^{-1}(x))=\frac{1}{2N}$, proving that
 231 $\P(S_{x,\ell}\leq 2)\geq \frac{1}{4N^2}$.
 232
 233 Therefore, $\P(S_{x,\ell}\geq 2)\leq 1-\frac{1}{4N^2}$. By induction, one
 234 has, for every $i$, $\P(S_{x,\ell}\geq 2i)\leq
 235 \left(1-\frac{1}{4N^2}\right)^i$.
 236  Moreover,
 237 since $S_{x,\ell}$ is positive, it is known~\cite[lemma 2.9]{}, that
 238 $$E[S_{x,\ell}]=\sum_{i=1}^{+\infty}\P(S_{x,\ell}\geq i).$$
 239 Since $\P(S_{x,\ell}\geq i)\geq \P(S_{x,\ell}\geq i+1)$, one has
 240 $$E[S_{x,\ell}]=\sum_{i=1}^{+\infty}\P(S_{x,\ell}\geq i)\leq
 241 \P(S_{x,\ell}\geq 1)+2 \sum_{i=1}^{+\infty}\P(S_{x,\ell}\geq 2i).$$
 242 Consequently,
 243 $$E[S_{x,\ell}]\leq 1+2
 244 \sum_{i=1}^{+\infty}\left(1-\frac{1}{4N^2}\right)^i=1+2(4N^2-1)=8N^2-2,$$
 245 which concludes the proof.
 246 \end{proof}
 247
 248 Let $\ts^\prime$ be the first time that there are exactly $N-1$ fair
 249 elements.
 250
 251 \begin{lemma}\label{lm:stopprime}
 252 One has $E[\ts^\prime]\leq N \ln (N+1).$
 253 \end{lemma}
 254
 255 \begin{proof}
 256 This is a classical  Coupon Collector's like problem. Let $W_i$ be the
 257 random variable counting the number of moves done in the markov chain while
 258 we had exactly $i-1$ fair bits. One has $\ts^\prime=\sum_{i=1}^{N-1}W_i$.
 259  But when we are at position $x$ with $i-1$ fair bits, the probability of
 260  obtaining a new fair bit is either $1-\frac{i-1}{N}$ if $h(x)$ is fair,
 261  or  $1-\frac{i-2}{N}$ if $h(x)$ is not fair. It follows that
 262 $E[W_i]\leq \frac{N}{N-i+2}$. Therefore
 263 $$E[\ts^\prime]=\sum_{i=1}^{N-1}E[W_i]\leq N\sum_{i=1}^{N-1}
 264  \frac{1}{N-i+2}=N\sum_{i=3}^{N+1}\frac{1}{i}.$$
 265
 266 But $\sum_{i=1}^{N+1}\frac{1}{i}\leq 1+\ln(N+1)$. It follows that
 267 $1+\frac{1}{2}+\sum_{i=3}^{N+1}\frac{1}{i}\leq 1+\ln(N+1).$
 268 Consequently,
 269 $E[\ts^\prime]\leq N (-\frac{1}{2}+\ln(N+1))\leq N\ln(N+1)$.
 270 \end{proof}
 271
 272 One can now prove Proposition~\ref{prop:stop}.
 273
 274 \begin{proof}
 275 One has $\ts\leq \ts^\prime+\lambda_h$. Therefore,
 276 Proposition~\ref{prop:stop} is a direct application of
 277 lemma~\ref{prop:lambda} and~\ref{lm:stopprime}.
 278 \end{proof}
 279
 280 \end{document}