]> AND Private Git Repository - prng_gpu.git/blob - prng_gpu.tex
Logo AND Algorithmique Numérique Distribuée

Private GIT Repository
Fin de la partie general chaootic iterations
[prng_gpu.git] / prng_gpu.tex
1 \documentclass{article}
2 \usepackage[utf8]{inputenc}
3 \usepackage[T1]{fontenc}
4 \usepackage{fullpage}
5 \usepackage{fancybox}
6 \usepackage{amsmath}
7 \usepackage{amscd}
8 \usepackage{moreverb}
9 \usepackage{commath}
10 \usepackage{algorithm2e}
11 \usepackage{listings}
12 \usepackage[standard]{ntheorem}
13
14 % Pour mathds : les ensembles IR, IN, etc.
15 \usepackage{dsfont}
16
17 % Pour avoir des intervalles d'entiers
18 \usepackage{stmaryrd}
19
20 \usepackage{graphicx}
21 % Pour faire des sous-figures dans les figures
22 \usepackage{subfigure}
23
24 \usepackage{color}
25
26 \newtheorem{notation}{Notation}
27
28 \newcommand{\X}{\mathcal{X}}
29 \newcommand{\Go}{G_{f_0}}
30 \newcommand{\B}{\mathds{B}}
31 \newcommand{\N}{\mathds{N}}
32 \newcommand{\BN}{\mathds{B}^\mathsf{N}}
33 \let\sur=\overline
34
35 \newcommand{\alert}[1]{\begin{color}{blue}\textit{#1}\end{color}}
36
37 \title{Efficient generation of pseudo random numbers based on chaotic iterations
38 on GPU}
39 \begin{document}
40
41 \author{Jacques M. Bahi, Rapha\"{e}l Couturier, and Christophe
42 Guyeux\thanks{Authors in alphabetic order}}
43
44 \maketitle
45
46 \begin{abstract}
47 This is the abstract
48 \end{abstract}
49
50 \section{Introduction}
51
52 Interet des itérations chaotiques pour générer des nombre alea\\
53 Interet de générer des nombres alea sur GPU
54 \alert{RC, un petit state-of-the-art sur les PRNGs sur GPU ?}
55 ...
56
57
58 \section{Basic Recalls}
59 \label{section:BASIC RECALLS}
60 This section is devoted to basic definitions and terminologies in the fields of
61 topological chaos and chaotic iterations.
62 \subsection{Devaney's chaotic dynamical systems}
63
64 In the sequel $S^{n}$ denotes the $n^{th}$ term of a sequence $S$ and $V_{i}$
65 denotes the $i^{th}$ component of a vector $V$. $f^{k}=f\circ ...\circ f$
66 denotes the $k^{th}$ composition of a function $f$. Finally, the following
67 notation is used: $\llbracket1;N\rrbracket=\{1,2,\hdots,N\}$.
68
69
70 Consider a topological space $(\mathcal{X},\tau)$ and a continuous function $f :
71 \mathcal{X} \rightarrow \mathcal{X}$.
72
73 \begin{definition}
74 $f$ is said to be \emph{topologically transitive} if, for any pair of open sets
75 $U,V \subset \mathcal{X}$, there exists $k>0$ such that $f^k(U) \cap V \neq
76 \varnothing$.
77 \end{definition}
78
79 \begin{definition}
80 An element $x$ is a \emph{periodic point} for $f$ of period $n\in \mathds{N}^*$
81 if $f^{n}(x)=x$.% The set of periodic points of $f$ is denoted $Per(f).$
82 \end{definition}
83
84 \begin{definition}
85 $f$ is said to be \emph{regular} on $(\mathcal{X}, \tau)$ if the set of periodic
86 points for $f$ is dense in $\mathcal{X}$: for any point $x$ in $\mathcal{X}$,
87 any neighborhood of $x$ contains at least one periodic point (without
88 necessarily the same period).
89 \end{definition}
90
91
92 \begin{definition}
93 $f$ is said to be \emph{chaotic} on $(\mathcal{X},\tau)$ if $f$ is regular and
94 topologically transitive.
95 \end{definition}
96
97 The chaos property is strongly linked to the notion of ``sensitivity'', defined
98 on a metric space $(\mathcal{X},d)$ by:
99
100 \begin{definition}
101 \label{sensitivity} $f$ has \emph{sensitive dependence on initial conditions}
102 if there exists $\delta >0$ such that, for any $x\in \mathcal{X}$ and any
103 neighborhood $V$ of $x$, there exist $y\in V$ and $n > 0$ such that
104 $d\left(f^{n}(x), f^{n}(y)\right) >\delta $.
105
106 $\delta$ is called the \emph{constant of sensitivity} of $f$.
107 \end{definition}
108
109 Indeed, Banks \emph{et al.} have proven in~\cite{Banks92} that when $f$ is
110 chaotic and $(\mathcal{X}, d)$ is a metric space, then $f$ has the property of
111 sensitive dependence on initial conditions (this property was formerly an
112 element of the definition of chaos). To sum up, quoting Devaney
113 in~\cite{Devaney}, a chaotic dynamical system ``is unpredictable because of the
114 sensitive dependence on initial conditions. It cannot be broken down or
115 simplified into two subsystems which do not interact because of topological
116 transitivity. And in the midst of this random behavior, we nevertheless have an
117 element of regularity''. Fundamentally different behaviors are consequently
118 possible and occur in an unpredictable way.
119
120
121
122 \subsection{Chaotic iterations}
123 \label{sec:chaotic iterations}
124
125
126 Let us consider  a \emph{system} with a finite  number $\mathsf{N} \in
127 \mathds{N}^*$ of elements  (or \emph{cells}), so that each  cell has a
128 Boolean  \emph{state}. Having $\mathsf{N}$ Boolean values for these
129  cells  leads to the definition of a particular \emph{state  of the
130 system}. A sequence which  elements belong to $\llbracket 1;\mathsf{N}
131 \rrbracket $ is called a \emph{strategy}. The set of all strategies is
132 denoted by $\llbracket 1, \mathsf{N} \rrbracket^\mathds{N}.$
133
134 \begin{definition}
135 \label{Def:chaotic iterations}
136 The      set       $\mathds{B}$      denoting      $\{0,1\}$,      let
137 $f:\mathds{B}^{\mathsf{N}}\longrightarrow  \mathds{B}^{\mathsf{N}}$ be
138 a  function  and  $S\in  \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$  be  a  strategy.  The  so-called
139 \emph{chaotic      iterations}     are     defined      by     $x^0\in
140 \mathds{B}^{\mathsf{N}}$ and
141 \begin{equation}
142 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
143 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
144 \begin{array}{ll}
145   x_i^{n-1} &  \text{ if  }S^n\neq i \\
146   \left(f(x^{n-1})\right)_{S^n} & \text{ if }S^n=i.
147 \end{array}\right.
148 \end{equation}
149 \end{definition}
150
151 In other words, at the $n^{th}$ iteration, only the $S^{n}-$th cell is
152 \textquotedblleft  iterated\textquotedblright .  Note  that in  a more
153 general  formulation,  $S^n$  can   be  a  subset  of  components  and
154 $\left(f(x^{n-1})\right)_{S^{n}}$      can     be      replaced     by
155 $\left(f(x^{k})\right)_{S^{n}}$, where  $k<n$, describing for example,
156 delays  transmission~\cite{Robert1986,guyeux10}.  Finally,  let us  remark that
157 the term  ``chaotic'', in  the name of  these iterations,  has \emph{a
158 priori} no link with the mathematical theory of chaos, recalled above.
159
160
161 Let us now recall how to define a suitable metric space where chaotic iterations
162 are continuous. For further explanations, see, e.g., \cite{guyeux10}.
163
164 Let $\delta $ be the \emph{discrete Boolean metric}, $\delta
165 (x,y)=0\Leftrightarrow x=y.$ Given a function $f$, define the function:
166 \begin{equation}
167 \begin{array}{lrll}
168 F_{f}: & \llbracket1;\mathsf{N}\rrbracket\times \mathds{B}^{\mathsf{N}} &
169 \longrightarrow & \mathds{B}^{\mathsf{N}} \\
170 & (k,E) & \longmapsto & \left( E_{j}.\delta (k,j)+f(E)_{k}.\overline{\delta
171 (k,j)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket},%
172 \end{array}%
173 \end{equation}%
174 \noindent where + and . are the Boolean addition and product operations.
175 Consider the phase space:
176 \begin{equation}
177 \mathcal{X} = \llbracket 1 ; \mathsf{N} \rrbracket^\mathds{N} \times
178 \mathds{B}^\mathsf{N},
179 \end{equation}
180 \noindent and the map defined on $\mathcal{X}$:
181 \begin{equation}
182 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), \label{Gf}
183 \end{equation}
184 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
185 (S^{n})_{n\in \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow (S^{n+1})_{n\in
186 \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$ and $i$ is the \emph{initial function} 
187 $i:(S^{n})_{n\in \mathds{N}} \in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow S^{0}\in \llbracket
188 1;\mathsf{N}\rrbracket$. Then the chaotic iterations defined in
189 (\ref{sec:chaotic iterations}) can be described by the following iterations:
190 \begin{equation}
191 \left\{
192 \begin{array}{l}
193 X^0 \in \mathcal{X} \\
194 X^{k+1}=G_{f}(X^k).%
195 \end{array}%
196 \right.
197 \end{equation}%
198
199 With this formulation, a shift function appears as a component of chaotic
200 iterations. The shift function is a famous example of a chaotic
201 map~\cite{Devaney} but its presence is not sufficient enough to claim $G_f$ as
202 chaotic. 
203
204 To study this claim, a new distance between two points $X = (S,E), Y =
205 (\check{S},\check{E})\in
206 \mathcal{X}$ has been introduced in \cite{guyeux10} as follows:
207 \begin{equation}
208 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
209 \end{equation}
210 \noindent where
211 \begin{equation}
212 \left\{
213 \begin{array}{lll}
214 \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
215 }\delta (E_{k},\check{E}_{k})}, \\
216 \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
217 \sum_{k=1}^{\infty }\dfrac{|S^k-\check{S}^k|}{10^{k}}}.%
218 \end{array}%
219 \right.
220 \end{equation}
221
222
223 This new distance has been introduced to satisfy the following requirements.
224 \begin{itemize}
225 \item When the number of different cells between two systems is increasing, then
226 their distance should increase too.
227 \item In addition, if two systems present the same cells and their respective
228 strategies start with the same terms, then the distance between these two points
229 must be small because the evolution of the two systems will be the same for a
230 while. Indeed, the two dynamical systems start with the same initial condition,
231 use the same update function, and as strategies are the same for a while, then
232 components that are updated are the same too.
233 \end{itemize}
234 The distance presented above follows these recommendations. Indeed, if the floor
235 value $\lfloor d(X,Y)\rfloor $ is equal to $n$, then the systems $E, \check{E}$
236 differ in $n$ cells ($d_e$ is indeed the Hamming distance). In addition, $d(X,Y) - \lfloor d(X,Y) \rfloor $ is a
237 measure of the differences between strategies $S$ and $\check{S}$. More
238 precisely, this floating part is less than $10^{-k}$ if and only if the first
239 $k$ terms of the two strategies are equal. Moreover, if the $k^{th}$ digit is
240 nonzero, then the $k^{th}$ terms of the two strategies are different.
241
242 Finally, it has been established in \cite{guyeux10} that,
243
244 \begin{proposition}
245 Let $f$ be a map from $\mathds{B}^n$ to itself. Then $G_{f}$ is continuous in
246 the metric space $(\mathcal{X},d)$.
247 \end{proposition}
248
249 The chaotic property of $G_f$ has been firstly established for the vectorial
250 Boolean negation \cite{guyeux10}. To obtain a characterization, we have secondly
251 introduced the notion of asynchronous iteration graph recalled bellow.
252
253 Let $f$ be a map from $\mathds{B}^n$ to itself. The
254 {\emph{asynchronous iteration graph}} associated with $f$ is the
255 directed graph $\Gamma(f)$ defined by: the set of vertices is
256 $\mathds{B}^n$; for all $x\in\mathds{B}^n$ and $i\in \llbracket1;n\rrbracket$,
257 the graph $\Gamma(f)$ contains an arc from $x$ to $F_f(i,x)$. 
258 The relation between $\Gamma(f)$ and $G_f$ is clear: there exists a
259 path from $x$ to $x'$ in $\Gamma(f)$ if and only if there exists a
260 strategy $s$ such that the parallel iteration of $G_f$ from the
261 initial point $(s,x)$ reaches the point $x'$.
262
263 We have finally proven in \cite{bcgr11:ip} that,
264
265
266 \begin{theorem}
267 \label{Th:Caractérisation   des   IC   chaotiques}  
268 Let $f:\mathds{B}^n\to\mathds{B}^n$. $G_f$ is chaotic  (according to  Devaney) 
269 if and only if $\Gamma(f)$ is strongly connected.
270 \end{theorem}
271
272 This result of chaos has lead us to study the possibility to build a
273 pseudo-random number generator (PRNG) based on the chaotic iterations. 
274 As $G_f$, defined on the domain   $\llbracket 1 ;  n \rrbracket^{\mathds{N}} 
275 \times \mathds{B}^n$, is build from Boolean networks $f : \mathds{B}^n
276 \rightarrow \mathds{B}^n$, we can preserve the theoretical properties on $G_f$
277 during implementations (due to the discrete nature of $f$). It is as if
278 $\mathds{B}^n$ represents the memory of the computer whereas $\llbracket 1 ;  n
279 \rrbracket^{\mathds{N}}$ is its input stream (the seeds, for instance).
280
281 \section{Application to Pseudo-Randomness}
282
283 \subsection{A First Pseudo-Random Number Generator}
284
285 We have proposed in~\cite{bgw09:ip} a new family of generators that receives 
286 two PRNGs as inputs. These two generators are mixed with chaotic iterations, 
287 leading thus to a new PRNG that improves the statistical properties of each
288 generator taken alone. Furthermore, our generator 
289 possesses various chaos properties that none of the generators used as input
290 present.
291
292 \begin{algorithm}[h!]
293 %\begin{scriptsize}
294 \KwIn{a function $f$, an iteration number $b$, an initial configuration $x^0$
295 ($n$ bits)}
296 \KwOut{a configuration $x$ ($n$ bits)}
297 $x\leftarrow x^0$\;
298 $k\leftarrow b + \textit{XORshift}(b)$\;
299 \For{$i=0,\dots,k$}
300 {
301 $s\leftarrow{\textit{XORshift}(n)}$\;
302 $x\leftarrow{F_f(s,x)}$\;
303 }
304 return $x$\;
305 %\end{scriptsize}
306 \caption{PRNG with chaotic functions}
307 \label{CI Algorithm}
308 \end{algorithm}
309
310 \begin{algorithm}[h!]
311 \KwIn{the internal configuration $z$ (a 32-bit word)}
312 \KwOut{$y$ (a 32-bit word)}
313 $z\leftarrow{z\oplus{(z\ll13)}}$\;
314 $z\leftarrow{z\oplus{(z\gg17)}}$\;
315 $z\leftarrow{z\oplus{(z\ll5)}}$\;
316 $y\leftarrow{z}$\;
317 return $y$\;
318 \medskip
319 \caption{An arbitrary round of \textit{XORshift} algorithm}
320 \label{XORshift}
321 \end{algorithm}
322
323
324
325
326
327 This generator is synthesized in Algorithm~\ref{CI Algorithm}.
328 It takes as input: a function $f$;
329 an integer $b$, ensuring that the number of executed iterations is at least $b$
330 and at most $2b+1$; and an initial configuration $x^0$.
331 It returns the new generated configuration $x$.  Internally, it embeds two
332 \textit{XORshift}$(k)$ PRNGs \cite{Marsaglia2003} that returns integers
333 uniformly distributed
334 into $\llbracket 1 ; k \rrbracket$.
335 \textit{XORshift} is a category of very fast PRNGs designed by George Marsaglia,
336 which repeatedly uses the transform of exclusive or (XOR, $\oplus$) on a number
337 with a bit shifted version of it. This PRNG, which has a period of
338 $2^{32}-1=4.29\times10^9$, is summed up in Algorithm~\ref{XORshift}. It is used
339 in our PRNG to compute the strategy length and the strategy elements.
340
341
342 We have proven in \cite{bcgr11:ip} that,
343 \begin{theorem}
344   Let $f: \mathds{B}^{n} \rightarrow \mathds{B}^{n}$, $\Gamma(f)$ its
345   iteration graph, $\check{M}$ its adjacency
346   matrix and $M$ a $n\times n$ matrix defined as in the previous lemma.
347   If $\Gamma(f)$ is strongly connected, then 
348   the output of the PRNG detailed in Algorithm~\ref{CI Algorithm} follows 
349   a law that tends to the uniform distribution 
350   if and only if $M$ is a double stochastic matrix.
351 \end{theorem} 
352
353
354
355 \subsection{Improving the speed of the former generator}
356
357 Instead of updating only one cell at each iteration, we can try to choose a
358 subset of components and to update them together. Such an attempt leads
359 to a kind of merger of the two sequences used in Algorithm 
360 \ref{CI Algorithm}. When the updating function is the vectorial negation,
361 this algorithm can be rewritten as follows:
362
363 \begin{equation}
364 \left\{
365 \begin{array}{l}
366 x^0 \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket, S \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket^\mathds{N} \\
367 \forall n \in \mathds{N}^*, x^n = x^{n-1} \oplus S^n,
368 \end{array}
369 \right.
370 \label{equation Oplus}
371 \end{equation}
372 where $\oplus$ is for the bitwise exclusive or between two integers. 
373 This rewritten can be understood as follows. The $n-$th term $S^n$ of the
374 sequence $S$, which is an integer of $\mathsf{N}$ binary digits, presents
375 the list of cells to update in the state $x^n$ of the system (represented
376 as an integer having $\mathsf{N}$ bits too). More precisely, the $k-$th 
377 component of this state (a binary digit) changes if and only if the $k-$th 
378 digit in the binary decomposition of $S^n$ is 1.
379
380 The single basic component presented in Eq.~\ref{equation Oplus} is of 
381 ordinary use as a good elementary brick in various PRNGs. It corresponds
382 to the following discrete dynamical system in chaotic iterations:
383
384 \begin{equation}
385 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
386 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
387 \begin{array}{ll}
388   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
389   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
390 \end{array}\right.
391 \end{equation}
392 where $f$ is the vectorial negation and $\forall n \in \mathds{N}$, 
393 $\mathcal{S}^n \subset \llbracket 1, \mathsf{N} \rrbracket$ is such that
394 $k \in \mathcal{S}^n$ if and only if the $k-$th digit in the binary
395 decomposition of $S^n$ is 1. Such chaotic iterations are more general
396 than the ones presented in Definition \ref{Def:chaotic iterations} for 
397 the fact that, instead of updating only one term at each iteration,
398 we select a subset of components to change.
399
400
401 Obviously, replacing Algorithm~\ref{CI Algorithm} by 
402 Equation~\ref{equation Oplus}, possible when the iteration function is
403 the vectorial negation, leads to a speed improvement. However, proofs
404 of chaos obtained in~\cite{bg10:ij} have been established
405 only for chaotic iterations of the form presented in Definition 
406 \ref{Def:chaotic iterations}. The question is now to determine whether the
407 use of more general chaotic iterations to generate pseudo-random numbers more 
408 fastly, does not deflate their topological chaos properties.
409
410 \subsection{Proofs of chaos of the general formulation of the chaotic iterations}
411
412 Let us consider the discrete dynamical systems in chaotic iterations having 
413 the general form:
414
415 \begin{equation}
416 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
417 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
418 \begin{array}{ll}
419   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
420   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
421 \end{array}\right.
422 \label{general CIs}
423 \end{equation}
424
425 In other words, at the $n^{th}$ iteration, only the cells whose id is
426 contained into the set $S^{n}$ are iterated.
427
428 Let us now rewrite these general chaotic iterations as usual discrete dynamical
429 system of the form $X^{n+1}=f(X^n)$ on an ad hoc metric space. Such a formulation
430 is required in order to study the topological behavior of the system.
431
432 Let us introduce the following function:
433 \begin{equation}
434 \begin{array}{cccc}
435  \chi: & \llbracket 1; \mathsf{N} \rrbracket \times \mathcal{P}\left(\llbracket 1; \mathsf{N} \rrbracket\right) & \longrightarrow & \mathds{B}\\
436          & (i,X) & \longmapsto  & \left\{ \begin{array}{ll} 0 & \textrm{if }i \notin X, \\ 1 & \textrm{if }i \in X,  \end{array}\right.
437 \end{array} 
438 \end{equation}
439 where $\mathcal{P}\left(X\right)$ is for the powerset of the set $X$, that is, $Y \in \mathcal{P}\left(X\right) \Longleftrightarrow Y \subset X$.
440
441 Given a function $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, define the function:
442 \begin{equation}
443 \begin{array}{lrll}
444 F_{f}: & \mathcal{P}\left(\llbracket1;\mathsf{N}\rrbracket \right) \times \mathds{B}^{\mathsf{N}} &
445 \longrightarrow & \mathds{B}^{\mathsf{N}} \\
446 & (P,E) & \longmapsto & \left( E_{j}.\chi (j,P)+f(E)_{j}.\overline{\chi
447 (j,P)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket},%
448 \end{array}%
449 \end{equation}%
450 where + and . are the Boolean addition and product operations, and $\overline{x}$ 
451 is the negation of the Boolean $x$.
452 Consider the phase space:
453 \begin{equation}
454 \mathcal{X} = \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N} \times
455 \mathds{B}^\mathsf{N},
456 \end{equation}
457 \noindent and the map defined on $\mathcal{X}$:
458 \begin{equation}
459 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), \label{Gf}
460 \end{equation}
461 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
462 (S^{n})_{n\in \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow (S^{n+1})_{n\in
463 \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}$ and $i$ is the \emph{initial function} 
464 $i:(S^{n})_{n\in \mathds{N}} \in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow S^{0}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)$. 
465 Then the general chaotic iterations defined in Equation \ref{general CIs} can 
466 be described by the following discrete dynamical system:
467 \begin{equation}
468 \left\{
469 \begin{array}{l}
470 X^0 \in \mathcal{X} \\
471 X^{k+1}=G_{f}(X^k).%
472 \end{array}%
473 \right.
474 \end{equation}%
475
476 Another time, a shift function appears as a component of these general chaotic 
477 iterations. 
478
479 To study the Devaney's chaos property, a distance between two points 
480 $X = (S,E), Y = (\check{S},\check{E})$ of $\mathcal{X}$ must be introduced.
481 Let us introduce:
482 \begin{equation}
483 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
484 \label{nouveau d}
485 \end{equation}
486 \noindent where
487 \begin{equation}
488 \left\{
489 \begin{array}{lll}
490 \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
491 }\delta (E_{k},\check{E}_{k})}\textrm{ is another time the Hamming distance}, \\
492 \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
493 \sum_{k=1}^{\infty }\dfrac{|S^k\Delta {S}^k|}{10^{k}}}.%
494 \end{array}%
495 \right.
496 \end{equation}
497 where $|X|$ is the cardinality of a set $X$ and $A\Delta B$ is for the symmetric difference, defined for sets A, B as
498 $A\,\Delta\,B = (A \setminus B) \cup (B \setminus A)$.
499
500
501 \begin{proposition}
502 The function $d$ defined in Eq.~\ref{nouveau d} is a metric on $\mathcal{X}$.
503 \end{proposition}
504
505 \begin{proof}
506  $d_e$ is the Hamming distance. We will prove that $d_s$ is a distance
507 too, thus $d$ will be a distance as sum of two distances.
508  \begin{itemize}
509 \item Obviously, $d_s(S,\check{S})\geqslant 0$, and if $S=\check{S}$, then 
510 $d_s(S,\check{S})=0$. Conversely, if $d_s(S,\check{S})=0$, then 
511 $\forall k \in \mathds{N}, |S^k\Delta {S}^k|=0$, and so $\forall k, S^k=\check{S}^k$.
512  \item $d_s$ is symmetric 
513 ($d_s(S,\check{S})=d_s(\check{S},S)$) due to the commutative property
514 of the symmetric difference. 
515 \item Finally, $|S \Delta S''| = |(S \Delta \varnothing) \Delta S''|= |S \Delta (S'\Delta S') \Delta S''|= |(S \Delta S') \Delta (S' \Delta S'')|\leqslant |S \Delta S'| + |S' \Delta S''|$, 
516 and so for all subsets $S,S',$ and $S''$ of $\llbracket 1, \mathsf{N} \rrbracket$, 
517 we have $d_s(S,S'') \leqslant d_e(S,S')+d_s(S',S'')$, and the triangle
518 inequality is obtained.
519  \end{itemize}
520 \end{proof}
521
522
523 Before being able to study the topological behavior of the general 
524 chaotic iterations, we must firstly establish that:
525
526 \begin{proposition}
527  For all $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, the function $G_f$ is continuous on 
528 $\left( \mathcal{X},d\right)$.
529 \end{proposition}
530
531
532 \begin{proof}
533 We use the sequential continuity.
534 Let $(S^n,E^n)_{n\in \mathds{N}}$ be a sequence of the phase space $%
535 \mathcal{X}$, which converges to $(S,E)$. We will prove that $\left(
536 G_{f}(S^n,E^n)\right) _{n\in \mathds{N}}$ converges to $\left(
537 G_{f}(S,E)\right) $. Let us remark that for all $n$, $S^n$ is a strategy,
538 thus, we consider a sequence of strategies (\emph{i.e.}, a sequence of
539 sequences).\newline
540 As $d((S^n,E^n);(S,E))$ converges to 0, each distance $d_{e}(E^n,E)$ and $d_{s}(S^n,S)$ converges
541 to 0. But $d_{e}(E^n,E)$ is an integer, so $\exists n_{0}\in \mathds{N},$ $%
542 d_{e}(E^n,E)=0$ for any $n\geqslant n_{0}$.\newline
543 In other words, there exists a threshold $n_{0}\in \mathds{N}$ after which no
544 cell will change its state:
545 $\exists n_{0}\in \mathds{N},n\geqslant n_{0}\Rightarrow E^n = E.$
546
547 In addition, $d_{s}(S^n,S)\longrightarrow 0,$ so $\exists n_{1}\in %
548 \mathds{N},d_{s}(S^n,S)<10^{-1}$ for all indexes greater than or equal to $%
549 n_{1}$. This means that for $n\geqslant n_{1}$, all the $S^n$ have the same
550 first term, which is $S^0$: $\forall n\geqslant n_{1},S_0^n=S_0.$
551
552 Thus, after the $max(n_{0},n_{1})^{th}$ term, states of $E^n$ and $E$ are
553 identical and strategies $S^n$ and $S$ start with the same first term.\newline
554 Consequently, states of $G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are equal,
555 so, after the $max(n_0, n_1)^{th}$ term, the distance $d$ between these two points is strictly less than 1.\newline
556 \noindent We now prove that the distance between $\left(
557 G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is convergent to
558 0. Let $\varepsilon >0$. \medskip
559 \begin{itemize}
560 \item If $\varepsilon \geqslant 1$, we see that distance
561 between $\left( G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is
562 strictly less than 1 after the $max(n_{0},n_{1})^{th}$ term (same state).
563 \medskip
564 \item If $\varepsilon <1$, then $\exists k\in \mathds{N},10^{-k}\geqslant
565 \varepsilon > 10^{-(k+1)}$. But $d_{s}(S^n,S)$ converges to 0, so
566 \begin{equation*}
567 \exists n_{2}\in \mathds{N},\forall n\geqslant
568 n_{2},d_{s}(S^n,S)<10^{-(k+2)},
569 \end{equation*}%
570 thus after $n_{2}$, the $k+2$ first terms of $S^n$ and $S$ are equal.
571 \end{itemize}
572 \noindent As a consequence, the $k+1$ first entries of the strategies of $%
573 G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are the same ($G_{f}$ is a shift of strategies) and due to the definition of $d_{s}$, the floating part of
574 the distance between $(S^n,E^n)$ and $(S,E)$ is strictly less than $%
575 10^{-(k+1)}\leqslant \varepsilon $.\bigskip \newline
576 In conclusion,
577 $$
578 \forall \varepsilon >0,\exists N_{0}=max(n_{0},n_{1},n_{2})\in \mathds{N}%
579 ,\forall n\geqslant N_{0},
580  d\left( G_{f}(S^n,E^n);G_{f}(S,E)\right)
581 \leqslant \varepsilon .
582 $$
583 $G_{f}$ is consequently continuous.
584 \end{proof}
585
586
587 It is now possible to study the topological behavior of the general chaotic
588 iterations. We will prove that,
589
590 \begin{theorem}
591 \label{t:chaos des general}
592  The general chaotic iterations defined on Equation~\ref{general CIs} satisfy
593 the Devaney's property of chaos.
594 \end{theorem}
595
596 Let us firstly prove the following lemma.
597
598 \begin{lemma}[Strong transitivity]
599 \label{strongTrans}
600  For all couples $X,Y \in \mathcal{X}$ and any neighborhood $V$ of $X$, we can 
601 find $n \in \mathds{N}^*$ and $X' \in V$ such that $G^n(X')=Y$.
602 \end{lemma}
603
604 \begin{proof}
605  Let $X=(S,E)$, $\varepsilon>0$, and $k_0 = \lfloor log_{10}(\varepsilon)+1 \rfloor$. 
606 Any point $X'=(S',E')$ such that $E'=E$ and $\forall k \leqslant k_0, S'^k=S^k$, 
607 are in the open ball $\mathcal{B}\left(X,\varepsilon\right)$. Let us define 
608 $\check{X} = \left(\check{S},\check{E}\right)$, where $\check{X}= G^{k_0}(X)$.
609 We denote by $s\subset \llbracket 1; \mathsf{N} \rrbracket$ the set of coordinates
610 that are different between $\check{E}$ and the state of $Y$. Thus each point $X'$ of
611 the form $(S',E')$ where $E'=E$ and $S'$ starts with 
612 $(S^0, S^1, \hdots, S^{k_0},s,\hdots)$, verifies the following properties:
613 \begin{itemize}
614  \item $X'$ is in $\mathcal{B}\left(X,\varepsilon\right)$,
615  \item the state of $G_f^{k_0+1}(X')$ is the state of $Y$.
616 \end{itemize}
617 Finally the point $\left(\left(S^0, S^1, \hdots, S^{k_0},s,s^0, s^1, \hdots\right); E\right)$, 
618 where $(s^0,s^1, \hdots)$ is the strategy of $Y$, satisfies the properties
619 claimed in the lemma.
620 \end{proof}
621
622 We can now prove the Theorem~\ref{t:chaos des general}...
623
624 \begin{proof}[Theorem~\ref{t:chaos des general}]
625  On the one hand, strong transitivity implies transitivity. On the other hand, 
626 the regularity is exactly Lemma~\ref{strongTrans} with $Y=X$. As the sensitivity
627 to the initial condition is implied by these two properties, we thus have
628 the theorem.
629 \end{proof}
630
631
632
633 \section{Efficient PRNG based on Chaotic Iterations}
634
635 In  order to  implement efficiently  a PRNG  based on  chaotic iterations  it is
636 possible to improve  previous works [ref]. One solution  consists in considering
637 that the  strategy used contains all the  bits for which the  negation is
638 achieved out. Then in order to apply  the negation on these bits we can simply
639 apply the  xor operator between  the current number  and the strategy. In
640 order to obtain the strategy we also use a classical PRNG.
641
642 Here  is an  example with  16-bits numbers  showing how  the bitwise  operations
643 are
644 applied.  Suppose  that $x$ and the  strategy $S^i$ are defined  in binary mode.
645 Then the following table shows the result of $x$ xor $S^i$.
646 $$
647 \begin{array}{|cc|cccccccccccccccc|}
648 \hline
649 x      &=&1&0&1&1&1&0&1&0&1&0&0&1&0&0&1&0\\
650 \hline
651 S^i      &=&0&1&1&0&0&1&1&0&1&1&1&0&0&1&1&1\\
652 \hline
653 x \oplus S^i&=&1&1&0&1&1&1&0&0&0&1&1&1&0&1&0&1\\
654 \hline
655
656 \hline
657  \end{array}
658 $$
659
660 %% \begin{figure}[htbp]
661 %% \begin{center}
662 %% \fbox{
663 %% \begin{minipage}{14cm}
664 %% unsigned int CIprng() \{\\
665 %%   static unsigned int x = 123123123;\\
666 %%   unsigned long t1 = xorshift();\\
667 %%   unsigned long t2 = xor128();\\
668 %%   unsigned long t3 = xorwow();\\
669 %%   x = x\textasciicircum (unsigned int)t1;\\
670 %%   x = x\textasciicircum (unsigned int)(t2$>>$32);\\
671 %%   x = x\textasciicircum (unsigned int)(t3$>>$32);\\
672 %%   x = x\textasciicircum (unsigned int)t2;\\
673 %%   x = x\textasciicircum (unsigned int)(t1$>>$32);\\
674 %%   x = x\textasciicircum (unsigned int)t3;\\
675 %%   return x;\\
676 %% \}
677 %% \end{minipage}
678 %% }
679 %% \end{center}
680 %% \caption{sequential Chaotic Iteration PRNG}
681 %% \label{algo:seqCIprng}
682 %% \end{figure}
683
684
685
686 \lstset{language=C,caption={C code of the sequential chaotic iterations based
687 PRNG},label=algo:seqCIprng}
688 \begin{lstlisting}
689 unsigned int CIprng() {
690   static unsigned int x = 123123123;
691   unsigned long t1 = xorshift();
692   unsigned long t2 = xor128();
693   unsigned long t3 = xorwow();
694   x = x^(unsigned int)t1;
695   x = x^(unsigned int)(t2>>32);
696   x = x^(unsigned int)(t3>>32);
697   x = x^(unsigned int)t2;
698   x = x^(unsigned int)(t1>>32);
699   x = x^(unsigned int)t3;
700   return x;
701 }
702 \end{lstlisting}
703
704
705
706
707
708 In listing~\ref{algo:seqCIprng}  a sequential version of  our chaotic iterations
709 based   PRNG    is   presented.   The    xor   operator   is    represented   by
710 \textasciicircum.  This   function  uses  three  classical   64-bits  PRNG:  the
711 \texttt{xorshift},  the   \texttt{xor128}  and  the   \texttt{xorwow}.   In  the
712 following,  we call  them  xor-like  PRNGSs.  These  three  PRNGs are  presented
713 in~\cite{Marsaglia2003}.  As each  xor-like PRNG used works with  64-bits and as
714 our PRNG works  with 32-bits, the use of \texttt{(unsigned  int)} selects the 32
715 least significant bits whereas  \texttt{(unsigned int)(t3$>>$32)} selects the 32
716 most  significants bits  of the  variable \texttt{t}.   So to  produce  a random
717 number realizes  6 xor operations with  6 32-bits numbers produced  by 3 64-bits
718 PRNG.  This version successes the  BigCrush of the TestU01 battery [P.  L’ecuyer
719   and R. Simard. Testu01].
720
721 \section{Efficient prng based on chaotic iterations on GPU}
722
723 In  order to benefit  from computing  power of  GPU, a  program needs  to define
724 independent blocks of threads which  can be computed simultaneously. In general,
725 the larger the number of threads is,  the more local memory is used and the less
726 branching  instructions are  used (if,  while, ...),  the better  performance is
727 obtained  on  GPU.  So  with  algorithm  \ref{algo:seqCIprng}  presented in  the
728 previous section, it is possible to  build a similar program which computes PRNG
729 on  GPU. In  the CUDA  [ref] environment,  threads have  a  local identificator,
730 called \texttt{ThreadIdx} relative to the block containing them.
731
732
733 \subsection{Naive version for GPU}
734
735 From the CPU version, it is possible  to obtain a quite similar version for GPU.
736 The principe consists in assigning the computation of a PRNG as in sequential to
737 each thread  of the  GPU.  Of course,  it is  essential that the  three xor-like
738 PRNGs  used for  our computation  have different  parameters. So  we  chose them
739 randomly with  another PRNG. As the  initialisation is performed by  the CPU, we
740 have chosen to use the ISAAC PRNG  [ref] to initalize all the parameters for the
741 GPU version  of our  PRNG.  The  implementation of the  three xor-like  PRNGs is
742 straightforward  as soon  as their  parameters have  been allocated  in  the GPU
743 memory. Each xor-like  PRNGs used works with an internal  number $x$ which keeps
744 the last generated random numbers. Other internal variables are also used by the
745 xor-like PRNGs. More  precisely, the implementation of the  xor128, the xorshift
746 and  the xorwow  respectively  require 4,  5  and 6  unsigned  long as  internal
747 variables.
748
749 \begin{algorithm}
750
751 \KwIn{InternalVarXorLikeArray: array with internal variables of the 3 xor-like
752 PRNGs in global memory\;
753 NumThreads: Number of threads\;}
754 \KwOut{NewNb: array containing random numbers in global memory}
755 \If{threadIdx is concerned by the computation} {
756   retrieve data from InternalVarXorLikeArray[threadIdx] in local variables\;
757   \For{i=1 to n} {
758     compute a new PRNG as in Listing\ref{algo:seqCIprng}\;
759     store the new PRNG in NewNb[NumThreads*threadIdx+i]\;
760   }
761   store internal variables in InternalVarXorLikeArray[threadIdx]\;
762 }
763
764 \caption{main kernel for the chaotic iterations based PRNG GPU naive version}
765 \label{algo:gpu_kernel}
766 \end{algorithm}
767
768 Algorithm~\ref{algo:gpu_kernel}  presents a naive  implementation of  PRNG using
769 GPU.  According  to the available  memory in the  GPU and the number  of threads
770 used simultenaously,  the number  of random numbers  that a thread  can generate
771 inside   a    kernel   is   limited,   i.e.    the    variable   \texttt{n}   in
772 algorithm~\ref{algo:gpu_kernel}. For example, if  $100,000$ threads are used and
773 if $n=100$\footnote{in fact, we need to add the initial seed (a 32-bits number)}
774 then   the  memory   required   to  store   internals   variables  of   xor-like
775 PRNGs\footnote{we multiply this number by $2$ in order to count 32-bits numbers}
776 and  random  number of  our  PRNG  is  equals to  $100,000\times  ((4+5+6)\times
777 2+(1+100))=1,310,000$ 32-bits numbers, i.e. about $52$Mb.
778
779 All the  tests performed  to pass the  BigCrush of TestU01  succeeded. Different
780 number of threads, called \texttt{NumThreads} in our algorithm, have been tested
781 upto $10$ millions.
782
783 \begin{remark}
784 Algorithm~\ref{algo:gpu_kernel}  has  the  advantage to  manipulate  independent
785 PRNGs, so this version is easily usable on a cluster of computer. The only thing
786 to ensure is to use a single ISAAC PRNG. For this, a simple solution consists in
787 using a master node for the initialization which computes the initial parameters
788 for all the differents nodes involves in the computation.
789 \end{remark}
790
791 \subsection{Improved version for GPU}
792
793 As GPU cards using CUDA have shared memory between threads of the same block, it
794 is possible  to use this  feature in order  to simplify the  previous algorithm,
795 i.e. using less  than 3 xor-like PRNGs. The solution  consists in computing only
796 one xor-like PRNG by thread, saving  it into shared memory and using the results
797 of some  other threads in the  same block of  threads. In order to  define which
798 thread uses the result of which other  one, we can use a permutation array which
799 contains  the indexes  of  all threads  and  for which  a  permutation has  been
800 performed.  In Algorithm~\ref{algo:gpu_kernel2}, 2 permutations arrays are used.
801 The    variable   \texttt{offset}    is    computed   using    the   value    of
802 \texttt{permutation\_size}.   Then we  can compute  \texttt{o1}  and \texttt{o2}
803 which represent the indexes of the  other threads for which the results are used
804 by the  current thread. In  the algorithm, we  consider that a  64-bits xor-like
805 PRNG is used, that is why both 32-bits parts are used.
806
807 This version also succeed to the BigCrush batteries of tests.
808
809 \begin{algorithm}
810
811 \KwIn{InternalVarXorLikeArray: array with internal variables of 1 xor-like PRNGs
812 in global memory\;
813 NumThreads: Number of threads\;
814 tab1, tab2: Arrays containing permutations of size permutation\_size\;}
815
816 \KwOut{NewNb: array containing random numbers in global memory}
817 \If{threadId is concerned} {
818   retrieve data from InternalVarXorLikeArray[threadId] in local variables\;
819   offset = threadIdx\%permutation\_size\;
820   o1 = threadIdx-offset+tab1[offset]\;
821   o2 = threadIdx-offset+tab2[offset]\;
822   \For{i=1 to n} {
823     t=xor-like()\;
824     shared\_mem[threadId]=(unsigned int)t\;
825     x = x $\oplus$ (unsigned int) t\;
826     x = x $\oplus$ (unsigned int) (t>>32)\;
827     x = x $\oplus$ shared[o1]\;
828     x = x $\oplus$ shared[o2]\;
829
830     store the new PRNG in NewNb[NumThreads*threadId+i]\;
831   }
832   store internal variables in InternalVarXorLikeArray[threadId]\;
833 }
834
835 \caption{main kernel for the chaotic iterations based PRNG GPU efficient
836 version}
837 \label{algo:gpu_kernel2}
838 \end{algorithm}
839
840
841
842 \section{Experiments}
843
844 Differents experiments have been performed in order to measure the generation
845 speed.
846 \begin{figure}[t]
847 \begin{center}
848   \includegraphics[scale=.7]{curve_time_gpu.pdf}
849 \end{center}
850 \caption{Number of random numbers generated per second}
851 \label{fig:time_naive_gpu}
852 \end{figure}
853
854
855 First of all we have compared the time to generate X random numbers with both
856 the CPU version and the GPU version. 
857
858 Faire une courbe du nombre de random en fonction du nombre de threads,
859 éventuellement en fonction du nombres de threads par bloc.
860
861
862
863 \section{The relativity of disorder}
864 \label{sec:de la relativité du désordre}
865
866 \subsection{Impact of the topology's finenesse}
867
868 Let us firstly introduce the following notations.
869
870 \begin{notation}
871 $\mathcal{X}_\tau$ will denote the topological space
872 $\left(\mathcal{X},\tau\right)$, whereas $\mathcal{V}_\tau (x)$ will be the set
873 of all the neighborhoods of $x$ when considering the topology $\tau$ (or simply
874 $\mathcal{V} (x)$, if there is no ambiguity).
875 \end{notation}
876
877
878
879 \begin{theorem}
880 \label{Th:chaos et finesse}
881 Let $\mathcal{X}$ a set and $\tau, \tau'$ two topologies on $\mathcal{X}$ s.t.
882 $\tau'$ is finer than $\tau$. Let $f:\mathcal{X} \to \mathcal{X}$, continuous
883 both for $\tau$ and $\tau'$.
884
885 If $(\mathcal{X}_{\tau'},f)$ is chaotic according to Devaney, then
886 $(\mathcal{X}_\tau,f)$ is chaotic too.
887 \end{theorem}
888
889 \begin{proof}
890 Let us firstly establish the transitivity of $(\mathcal{X}_\tau,f)$.
891
892 Let $\omega_1, \omega_2$ two open sets of $\tau$. Then $\omega_1, \omega_2 \in
893 \tau'$, becaus $\tau'$ is finer than $\tau$. As $f$ is $\tau'-$transitive, we
894 can deduce that $\exists n \in \mathds{N}, \omega_1 \cap f^{(n)}(\omega_2) =
895 \varnothing$. Consequently, $f$ is $\tau-$transitive.
896
897 Let us now consider the regularity of $(\mathcal{X}_\tau,f)$, \emph{i.e.}, for
898 all $x \in \mathcal{X}$, and for all $\tau-$neighborhood $V$ of $x$, there is a
899 periodic point for $f$ into $V$.
900
901 Let $x \in \mathcal{X}$ and $V \in \mathcal{V}_\tau (x)$ a $\tau-$neighborhood
902 of $x$. By definition, $\exists \omega \in \tau, x \in \omega \subset V$.
903
904 But $\tau \subset \tau'$, so $\omega \in \tau'$, and then $V \in
905 \mathcal{V}_{\tau'} (x)$. As $(\mathcal{X}_{\tau'},f)$ is regular, there is a
906 periodic point for $f$ into $V$, and the regularity of $(\mathcal{X}_\tau,f)$ is
907 proven. 
908 \end{proof}
909
910 \subsection{A given system can always be claimed as chaotic}
911
912 Let $f$ an iteration function on $\mathcal{X}$ having at least a fixed point.
913 Then this function is chaotic (in a certain way):
914
915 \begin{theorem}
916 Let $\mathcal{X}$ a nonempty set and $f: \mathcal{X} \to \X$ a function having
917 at least a fixed point.
918 Then $f$ is $\tau_0-$chaotic, where $\tau_0$ is the trivial (indiscrete)
919 topology on $\X$.
920 \end{theorem}
921
922
923 \begin{proof}
924 $f$ is transitive when $\forall \omega, \omega' \in \tau_0 \setminus
925 \{\varnothing\}, \exists n \in \mathds{N}, f^{(n)}(\omega) \cap \omega' \neq
926 \varnothing$.
927 As $\tau_0 = \left\{ \varnothing, \X \right\}$, this is equivalent to look for
928 an integer $n$ s.t. $f^{(n)}\left( \X \right) \cap \X \neq \varnothing$. For
929 instance, $n=0$ is appropriate.
930
931 Let us now consider $x \in \X$ and $V \in \mathcal{V}_{\tau_0} (x)$. Then $V =
932 \mathcal{X}$, so $V$ has at least a fixed point for $f$. Consequently $f$ is
933 regular, and the result is established.
934 \end{proof}
935
936
937
938
939 \subsection{A given system can always be claimed as non-chaotic}
940
941 \begin{theorem}
942 Let $\mathcal{X}$ be a set and $f: \mathcal{X} \to \X$.
943 If $\X$ is infinite, then $\left( \X_{\tau_\infty}, f\right)$ is not chaotic
944 (for the Devaney's formulation), where $\tau_\infty$ is the discrete topology.
945 \end{theorem}
946
947 \begin{proof}
948 Let us prove it by contradiction, assuming that $\left(\X_{\tau_\infty},
949 f\right)$ is both transitive and regular.
950
951 Let $x \in \X$ and $\{x\}$ one of its neighborhood. This neighborhood must
952 contain a periodic point for $f$, if we want that $\left(\X_{\tau_\infty},
953 f\right)$ is regular. Then $x$ must be a periodic point of $f$.
954
955 Let $I_x = \left\{ f^{(n)}(x), n \in \mathds{N}\right\}$. This set is finite
956 because  $x$ is periodic, and $\mathcal{X}$ is infinite, then $\exists y \in
957 \mathcal{X}, y \notin I_x$.
958
959 As $\left(\X_{\tau_\infty}, f\right)$ must be transitive, for all open nonempty
960 sets $A$ and $B$, an integer $n$ must satisfy $f^{(n)}(A) \cap B \neq
961 \varnothing$. However $\{x\}$ and $\{y\}$ are open sets and $y \notin I_x
962 \Rightarrow \forall n, f^{(n)}\left( \{x\} \right) \cap \{y\} = \varnothing$.
963 \end{proof}
964
965
966
967
968
969
970 \section{Chaos on the order topology}
971
972 \subsection{The phase space is an interval of the real line}
973
974 \subsubsection{Toward a topological semiconjugacy}
975
976 In what follows, our intention is to establish, by using a topological
977 semiconjugacy, that chaotic iterations over $\mathcal{X}$ can be described as
978 iterations on a real interval. To do so, we must firstly introduce some
979 notations and terminologies. 
980
981 Let $\mathcal{S}_\mathsf{N}$ be the set of sequences belonging into $\llbracket
982 1; \mathsf{N}\rrbracket$ and $\mathcal{X}_{\mathsf{N}} = \mathcal{S}_\mathsf{N}
983 \times \B^\mathsf{N}$.
984
985
986 \begin{definition}
987 The function $\varphi: \mathcal{S}_{10} \times\mathds{B}^{10} \rightarrow \big[
988 0, 2^{10} \big[$ is defined by:
989 \begin{equation}
990  \begin{array}{cccl}
991 \varphi: & \mathcal{X}_{10} = \mathcal{S}_{10} \times\mathds{B}^{10}&
992 \longrightarrow & \big[ 0, 2^{10} \big[ \\
993  & (S,E) = \left((S^0, S^1, \hdots ); (E_0, \hdots, E_9)\right) & \longmapsto &
994 \varphi \left((S,E)\right)
995 \end{array}
996 \end{equation}
997 where $\varphi\left((S,E)\right)$ is the real number:
998 \begin{itemize}
999 \item whose integral part $e$ is $\displaystyle{\sum_{k=0}^9 2^{9-k} E_k}$, that
1000 is, the binary digits of $e$ are $E_0 ~ E_1 ~ \hdots ~ E_9$.
1001 \item whose decimal part $s$ is equal to $s = 0,S^0~ S^1~ S^2~ \hdots =
1002 \sum_{k=1}^{+\infty} 10^{-k} S^{k-1}.$ 
1003 \end{itemize}
1004 \end{definition}
1005
1006
1007
1008 $\varphi$ realizes the association between a point of $\mathcal{X}_{10}$ and a
1009 real number into $\big[ 0, 2^{10} \big[$. We must now translate the chaotic
1010 iterations $\Go$ on this real interval. To do so, two intermediate functions
1011 over $\big[ 0, 2^{10} \big[$ must be introduced:
1012
1013
1014 \begin{definition}
1015 \label{def:e et s}
1016 Let $x \in \big[ 0, 2^{10} \big[$ and:
1017 \begin{itemize}
1018 \item $e_0, \hdots, e_9$ the binary digits of the integral part of $x$:
1019 $\displaystyle{\lfloor x \rfloor = \sum_{k=0}^{9} 2^{9-k} e_k}$.
1020 \item $(s^k)_{k\in \mathds{N}}$ the digits of $x$, where the chosen decimal
1021 decomposition of $x$ is the one that does not have an infinite number of 9: 
1022 $\displaystyle{x = \lfloor x \rfloor + \sum_{k=0}^{+\infty} s^k 10^{-k-1}}$.
1023 \end{itemize}
1024 $e$ and $s$ are thus defined as follows:
1025 \begin{equation}
1026 \begin{array}{cccl}
1027 e: & \big[ 0, 2^{10} \big[ & \longrightarrow & \mathds{B}^{10} \\
1028  & x & \longmapsto & (e_0, \hdots, e_9)
1029 \end{array}
1030 \end{equation}
1031 and
1032 \begin{equation}
1033  \begin{array}{cccc}
1034 s: & \big[ 0, 2^{10} \big[ & \longrightarrow & \llbracket 0, 9
1035 \rrbracket^{\mathds{N}} \\
1036  & x & \longmapsto & (s^k)_{k \in \mathds{N}}
1037 \end{array}
1038 \end{equation}
1039 \end{definition}
1040
1041 We are now able to define the function $g$, whose goal is to translate the
1042 chaotic iterations $\Go$ on an interval of $\mathds{R}$.
1043
1044 \begin{definition}
1045 $g:\big[ 0, 2^{10} \big[ \longrightarrow \big[ 0, 2^{10} \big[$ is defined by:
1046 \begin{equation}
1047 \begin{array}{cccc}
1048 g: & \big[ 0, 2^{10} \big[ & \longrightarrow & \big[ 0, 2^{10} \big[ \\
1049  & x & \longmapsto & g(x)
1050 \end{array}
1051 \end{equation}
1052 where g(x) is the real number of $\big[ 0, 2^{10} \big[$ defined bellow:
1053 \begin{itemize}
1054 \item its integral part has a binary decomposition equal to $e_0', \hdots,
1055 e_9'$, with:
1056  \begin{equation}
1057 e_i' = \left\{
1058 \begin{array}{ll}
1059 e(x)_i & \textrm{ if } i \neq s^0\\
1060 e(x)_i + 1 \textrm{ (mod 2)} & \textrm{ if } i = s^0\\
1061 \end{array}
1062 \right.
1063 \end{equation}
1064 \item whose decimal part is $s(x)^1, s(x)^2, \hdots$
1065 \end{itemize}
1066 \end{definition}
1067
1068 \bigskip
1069
1070
1071 In other words, if $x = \displaystyle{\sum_{k=0}^{9} 2^{9-k} e_k + 
1072 \sum_{k=0}^{+\infty} s^{k} ~10^{-k-1}}$, then:
1073 \begin{equation}
1074 g(x) =
1075 \displaystyle{\sum_{k=0}^{9} 2^{9-k} (e_k + \delta(k,s^0) \textrm{ (mod 2)}) + 
1076 \sum_{k=0}^{+\infty} s^{k+1} 10^{-k-1}}. 
1077 \end{equation}
1078
1079
1080 \subsubsection{Defining a metric on $\big[ 0, 2^{10} \big[$}
1081
1082 Numerous metrics can be defined on the set $\big[ 0, 2^{10} \big[$, the most
1083 usual one being the Euclidian distance recalled bellow:
1084
1085 \begin{notation}
1086 \index{distance!euclidienne}
1087 $\Delta$ is the Euclidian distance on $\big[ 0, 2^{10} \big[$, that is,
1088 $\Delta(x,y) = |y-x|^2$.
1089 \end{notation}
1090
1091 \medskip
1092
1093 This Euclidian distance does not reproduce exactly the notion of proximity
1094 induced by our first distance $d$ on $\X$. Indeed $d$ is finer than $\Delta$.
1095 This is the reason why we have to introduce the following metric:
1096
1097
1098
1099 \begin{definition}
1100 Let $x,y \in \big[ 0, 2^{10} \big[$.
1101 $D$ denotes the function from $\big[ 0, 2^{10} \big[^2$ to $\mathds{R}^+$
1102 defined by: $D(x,y) = D_e\left(e(x),e(y)\right) + D_s\left(s(x),s(y)\right)$,
1103 where:
1104 \begin{center}
1105 $\displaystyle{D_e(E,\check{E}) = \sum_{k=0}^\mathsf{9} \delta (E_k,
1106 \check{E}_k)}$, ~~and~ $\displaystyle{D_s(S,\check{S}) = \sum_{k = 1}^\infty
1107 \dfrac{|S^k-\check{S}^k|}{10^k}}$.
1108 \end{center}
1109 \end{definition}
1110
1111 \begin{proposition}
1112 $D$ is a distance on $\big[ 0, 2^{10} \big[$.
1113 \end{proposition}
1114
1115 \begin{proof}
1116 The three axioms defining a distance must be checked.
1117 \begin{itemize}
1118 \item $D \geqslant 0$, because everything is positive in its definition. If
1119 $D(x,y)=0$, then $D_e(x,y)=0$, so the integral parts of $x$ and $y$ are equal
1120 (they have the same binary decomposition). Additionally, $D_s(x,y) = 0$, then
1121 $\forall k \in \mathds{N}^*, s(x)^k = s(y)^k$. In other words, $x$ and $y$ have
1122 the same $k-$th decimal digit, $\forall k \in \mathds{N}^*$. And so $x=y$.
1123 \item $D(x,y)=D(y,x)$.
1124 \item Finally, the triangular inequality is obtained due to the fact that both
1125 $\delta$ and $\Delta(x,y)=|x-y|$ satisfy it.
1126 \end{itemize}
1127 \end{proof}
1128
1129
1130 The convergence of sequences according to $D$ is not the same than the usual
1131 convergence related to the Euclidian metric. For instance, if $x^n \to x$
1132 according to $D$, then necessarily the integral part of each $x^n$ is equal to
1133 the integral part of $x$ (at least after a given threshold), and the decimal
1134 part of $x^n$ corresponds to the one of $x$ ``as far as required''.
1135 To illustrate this fact, a comparison between $D$ and the Euclidian distance is
1136 given Figure \ref{fig:comparaison de distances}. These illustrations show that
1137 $D$ is richer and more refined than the Euclidian distance, and thus is more
1138 precise.
1139
1140
1141 \begin{figure}[t]
1142 \begin{center}
1143   \subfigure[Function $x \to dist(x;1,234) $ on the interval
1144 $(0;5)$.]{\includegraphics[scale=.35]{DvsEuclidien.pdf}}\quad
1145   \subfigure[Function $x \to dist(x;3) $ on the interval
1146 $(0;5)$.]{\includegraphics[scale=.35]{DvsEuclidien2.pdf}}
1147 \end{center}
1148 \caption{Comparison between $D$ (in blue) and the Euclidian distane (in green).}
1149 \label{fig:comparaison de distances}
1150 \end{figure}
1151
1152
1153
1154
1155 \subsubsection{The semiconjugacy}
1156
1157 It is now possible to define a topological semiconjugacy between $\mathcal{X}$
1158 and an interval of $\mathds{R}$:
1159
1160 \begin{theorem}
1161 Chaotic iterations on the phase space $\mathcal{X}$ are simple iterations on
1162 $\mathds{R}$, which is illustrated by the semiconjugacy of the diagram bellow:
1163 \begin{equation*}
1164 \begin{CD}
1165 \left(~\mathcal{S}_{10} \times\mathds{B}^{10}, d~\right) @>G_{f_0}>>
1166 \left(~\mathcal{S}_{10} \times\mathds{B}^{10}, d~\right)\\
1167     @V{\varphi}VV                    @VV{\varphi}V\\
1168 \left( ~\big[ 0, 2^{10} \big[, D~\right)  @>>g> \left(~\big[ 0, 2^{10} \big[,
1169 D~\right)
1170 \end{CD}
1171 \end{equation*}
1172 \end{theorem}
1173
1174 \begin{proof}
1175 $\varphi$ has been constructed in order to be continuous and onto.
1176 \end{proof}
1177
1178 In other words, $\mathcal{X}$ is approximately equal to $\big[ 0, 2^\mathsf{N}
1179 \big[$.
1180
1181
1182
1183
1184
1185
1186 \subsection{Study of the chaotic iterations described as a real function}
1187
1188
1189 \begin{figure}[t]
1190 \begin{center}
1191   \subfigure[ICs on the interval
1192 $(0,9;1)$.]{\includegraphics[scale=.35]{ICs09a1.pdf}}\quad
1193   \subfigure[ICs on the interval
1194 $(0,7;1)$.]{\includegraphics[scale=.35]{ICs07a95.pdf}}\\
1195   \subfigure[ICs on the interval
1196 $(0,5;1)$.]{\includegraphics[scale=.35]{ICs05a1.pdf}}\quad
1197   \subfigure[ICs on the interval
1198 $(0;1)$]{\includegraphics[scale=.35]{ICs0a1.pdf}}
1199 \end{center}
1200 \caption{Representation of the chaotic iterations.}
1201 \label{fig:ICs}
1202 \end{figure}
1203
1204
1205
1206
1207 \begin{figure}[t]
1208 \begin{center}
1209   \subfigure[ICs on the interval
1210 $(510;514)$.]{\includegraphics[scale=.35]{ICs510a514.pdf}}\quad
1211   \subfigure[ICs on the interval
1212 $(1000;1008)$]{\includegraphics[scale=.35]{ICs1000a1008.pdf}}
1213 \end{center}
1214 \caption{ICs on small intervals.}
1215 \label{fig:ICs2}
1216 \end{figure}
1217
1218 \begin{figure}[t]
1219 \begin{center}
1220   \subfigure[ICs on the interval
1221 $(0;16)$.]{\includegraphics[scale=.3]{ICs0a16.pdf}}\quad
1222   \subfigure[ICs on the interval 
1223 $(40;70)$.]{\includegraphics[scale=.45]{ICs40a70.pdf}}\quad
1224 \end{center}
1225 \caption{General aspect of the chaotic iterations.}
1226 \label{fig:ICs3}
1227 \end{figure}
1228
1229
1230 We have written a Python program to represent the chaotic iterations with the
1231 vectorial negation on the real line $\mathds{R}$. Various representations of
1232 these CIs are given in Figures \ref{fig:ICs}, \ref{fig:ICs2} and \ref{fig:ICs3}.
1233 It can be remarked that the function $g$ is a piecewise linear function: it is
1234 linear on each interval having the form $\left[ \dfrac{n}{10},
1235 \dfrac{n+1}{10}\right[$, $n \in \llbracket 0;2^{10}\times 10 \rrbracket$ and its
1236 slope is equal to 10. Let us justify these claims:
1237
1238 \begin{proposition}
1239 \label{Prop:derivabilite des ICs}
1240 Chaotic iterations $g$ defined on $\mathds{R}$ have derivatives of all orders on
1241 $\big[ 0, 2^{10} \big[$, except on the 10241 points in $I$ defined by $\left\{
1242 \dfrac{n}{10} ~\big/~ n \in \llbracket 0;2^{10}\times 10\rrbracket \right\}$.
1243
1244 Furthermore, on each interval of the form $\left[ \dfrac{n}{10},
1245 \dfrac{n+1}{10}\right[$, with $n \in \llbracket 0;2^{10}\times 10 \rrbracket$,
1246 $g$ is a linear function, having a slope equal to 10: $\forall x \notin I,
1247 g'(x)=10$.
1248 \end{proposition}
1249
1250
1251 \begin{proof}
1252 Let $I_n = \left[ \dfrac{n}{10}, \dfrac{n+1}{10}\right[$, with $n \in \llbracket
1253 0;2^{10}\times 10 \rrbracket$. All the points of $I_n$ have the same integral
1254 prat $e$ and the same decimal part $s^0$: on the set $I_n$,  functions $e(x)$
1255 and $x \mapsto s(x)^0$ of Definition \ref{def:e et s} only depend on $n$. So all
1256 the images $g(x)$ of these points $x$:
1257 \begin{itemize}
1258 \item Have the same integral part, which is $e$, except probably the bit number
1259 $s^0$. In other words, this integer has approximately the same binary
1260 decomposition than $e$, the sole exception being the digit $s^0$ (this number is
1261 then either $e+2^{10-s^0}$ or $e-2^{10-s^0}$, depending on the parity of $s^0$,
1262 \emph{i.e.}, it is equal to $e+(-1)^{s^0}\times 2^{10-s^0}$).
1263 \item A shift to the left has been applied to the decimal part $y$, losing by
1264 doing so the common first digit $s^0$. In other words, $y$ has been mapped into
1265 $10\times y - s^0$.
1266 \end{itemize}
1267 To sum up, the action of $g$ on the points of $I$ is as follows: first, make a
1268 multiplication by 10, and second, add the same constant to each term, which is
1269 $\dfrac{1}{10}\left(e+(-1)^{s^0}\times 2^{10-s^0}\right)-s^0$.
1270 \end{proof}
1271
1272 \begin{remark}
1273 Finally, chaotic iterations are elements of the large family of functions that
1274 are both chaotic and piecewise linear (like the tent map).
1275 \end{remark}
1276
1277
1278
1279 \subsection{Comparison of the two metrics on $\big[ 0, 2^\mathsf{N} \big[$}
1280
1281 The two propositions bellow allow to compare our two distances on $\big[ 0,
1282 2^\mathsf{N} \big[$:
1283
1284 \begin{proposition}
1285 Id: $\left(~\big[ 0, 2^\mathsf{N} \big[,\Delta~\right) \to \left(~\big[ 0,
1286 2^\mathsf{N} \big[, D~\right)$ is not continuous. 
1287 \end{proposition}
1288
1289 \begin{proof}
1290 The sequence $x^n = 1,999\hdots 999$ constituted by $n$ 9 as decimal part, is
1291 such that:
1292 \begin{itemize}
1293 \item $\Delta (x^n,2) \to 0.$
1294 \item But $D(x^n,2) \geqslant 1$, then $D(x^n,2)$ does not converge to 0.
1295 \end{itemize}
1296
1297 The sequential characterization of the continuity concludes the demonstration.
1298 \end{proof}
1299
1300
1301
1302 A contrario:
1303
1304 \begin{proposition}
1305 Id: $\left(~\big[ 0, 2^\mathsf{N} \big[,D~\right) \to \left(~\big[ 0,
1306 2^\mathsf{N} \big[, \Delta ~\right)$ is a continuous fonction. 
1307 \end{proposition}
1308
1309 \begin{proof}
1310 If $D(x^n,x) \to 0$, then $D_e(x^n,x) = 0$ at least for $n$ larger than a given
1311 threshold, because $D_e$ only returns integers. So, after this threshold, the
1312 integral parts of all the $x^n$ are equal to the integral part of $x$. 
1313
1314 Additionally, $D_s(x^n, x) \to 0$, then $\forall k \in \mathds{N}^*, \exists N_k
1315 \in \mathds{N}, n \geqslant N_k \Rightarrow D_s(x^n,x) \leqslant 10^{-k}$. This
1316 means that for all $k$, an index $N_k$ can be found such that, $\forall n
1317 \geqslant N_k$, all the $x^n$ have the same $k$ firsts digits, which are the
1318 digits of $x$. We can deduce the convergence $\Delta(x^n,x) \to 0$, and thus the
1319 result.
1320 \end{proof}
1321
1322 The conclusion of these propositions is that the proposed metric is more precise
1323 than the Euclidian distance, that is:
1324
1325 \begin{corollary}
1326 $D$ is finer than the Euclidian distance $\Delta$.
1327 \end{corollary}
1328
1329 This corollary can be reformulated as follows:
1330
1331 \begin{itemize}
1332 \item The topology produced by $\Delta$ is a subset of the topology produced by
1333 $D$.
1334 \item $D$ has more open sets than $\Delta$.
1335 \item It is harder to converge for the topology $\tau_D$ inherited by $D$, than
1336 to converge with the one inherited by $\Delta$, which is denoted here by
1337 $\tau_\Delta$.
1338 \end{itemize}
1339
1340
1341 \subsection{Chaos of the chaotic iterations on $\mathds{R}$}
1342 \label{chpt:Chaos des itérations chaotiques sur R}
1343
1344
1345
1346 \subsubsection{Chaos according to Devaney}
1347
1348 We have recalled previously that the chaotic iterations $\left(\Go,
1349 \mathcal{X}_d\right)$ are chaotic according to the formulation of Devaney. We
1350 can deduce that they are chaotic on $\mathds{R}$ too, when considering the order
1351 topology, because:
1352 \begin{itemize}
1353 \item $\left(\Go, \mathcal{X}_d\right)$ and $\left(g, \big[ 0, 2^{10}
1354 \big[_D\right)$ are semiconjugate by $\varphi$,
1355 \item Then $\left(g, \big[ 0, 2^{10} \big[_D\right)$ is a system chaotic
1356 according to Devaney, because the semiconjugacy preserve this character.
1357 \item But the topology generated by $D$ is finer than the topology generated by
1358 the Euclidian distance $\Delta$ -- which is the order topology.
1359 \item According to Theorem \ref{Th:chaos et finesse}, we can deduce that the
1360 chaotic iterations $g$ are indeed chaotic, as defined by Devaney, for the order
1361 topology on $\mathds{R}$.
1362 \end{itemize}
1363
1364 This result can be formulated as follows.
1365
1366 \begin{theorem}
1367 \label{th:IC et topologie de l'ordre}
1368 The chaotic iterations $g$ on $\mathds{R}$ are chaotic according to the
1369 Devaney's formulation, when $\mathds{R}$ has his usual topology, which is the
1370 order topology.
1371 \end{theorem}
1372
1373 Indeed this result is weaker than the theorem establishing the chaos for the
1374 finer topology $d$. However the Theorem \ref{th:IC et topologie de l'ordre}
1375 still remains important. Indeed, we have studied in our previous works a set
1376 different from the usual set of study ($\mathcal{X}$ instead of $\mathds{R}$),
1377 in order to be as close as possible from the computer: the properties of
1378 disorder proved theoretically will then be preserved when computing. However, we
1379 could wonder whether this change does not lead to a disorder of a lower quality.
1380 In other words, have we replaced a situation of a good disorder lost when
1381 computing, to another situation of a disorder preserved but of bad quality.
1382 Theorem \ref{th:IC et topologie de l'ordre} prove exactly the contrary.
1383  
1384
1385
1386
1387
1388
1389
1390
1391 \section{Conclusion}
1392 \bibliographystyle{plain}
1393 \bibliography{mabase}
1394 \end{document}