]> AND Private Git Repository - prng_gpu.git/blob - prng_gpu.tex
Logo AND Algorithmique Numérique Distribuée

Private GIT Repository
Merge branch 'master' of ssh://bilbo.iut-bm.univ-fcomte.fr/prng_gpu
[prng_gpu.git] / prng_gpu.tex
1 \documentclass{article}
2 \usepackage[utf8]{inputenc}
3 \usepackage[T1]{fontenc}
4 \usepackage{fullpage}
5 \usepackage{fancybox}
6 \usepackage{amsmath}
7 \usepackage{amscd}
8 \usepackage{moreverb}
9 \usepackage{commath}
10 \usepackage{algorithm2e}
11 \usepackage{listings}
12 \usepackage[standard]{ntheorem}
13
14 % Pour mathds : les ensembles IR, IN, etc.
15 \usepackage{dsfont}
16
17 % Pour avoir des intervalles d'entiers
18 \usepackage{stmaryrd}
19
20 \usepackage{graphicx}
21 % Pour faire des sous-figures dans les figures
22 \usepackage{subfigure}
23
24 \usepackage{color}
25
26 \newtheorem{notation}{Notation}
27
28 \newcommand{\X}{\mathcal{X}}
29 \newcommand{\Go}{G_{f_0}}
30 \newcommand{\B}{\mathds{B}}
31 \newcommand{\N}{\mathds{N}}
32 \newcommand{\BN}{\mathds{B}^\mathsf{N}}
33 \let\sur=\overline
34
35 \newcommand{\alert}[1]{\begin{color}{blue}\textit{#1}\end{color}}
36
37 \title{Efficient Generation of Pseudo-Random Numbers based on Chaotic Iterations
38 on GPU}
39 \begin{document}
40
41 \author{Jacques M. Bahi, Rapha\"{e}l Couturier, and Christophe
42 Guyeux, Pierre-Cyrille Heam\thanks{Authors in alphabetic order}}
43
44 \maketitle
45
46 \begin{abstract}
47 In this paper we present a new pseudo-random numbers generator (PRNG) on
48 graphics processing units  (GPU). This PRNG is based  on chaotic iterations.  it
49 is proven  to be chaotic  in the Devanay's  formulation. We propose  an efficient
50 implementation  for  GPU which  succeeds  to  the  {\it BigCrush},  the  hardest
51 batteries of test of TestU01.  Experimentations show that this PRNG can generate
52 about 20 billions of random numbers  per second on Tesla C1060 and NVidia GTX280
53 cards.
54
55
56 \end{abstract}
57
58 \section{Introduction}
59
60 Random  numbers are  used in  many scientific  applications and  simulations. On
61 finite  state machines,  as computers,  it is  not possible  to  generate random
62 numbers but only pseudo-random numbers. In practice, a good pseudo-random numbers
63 generator (PRNG) needs  to verify some features to be used  by scientists. It is
64 important  to  be  able  to  generate  pseudo-random  numbers  efficiently,  the
65 generation  needs to  be reproducible  and a  PRNG needs  to satisfy  many usual
66 statistical properties. Finally, from our point a view, it is essential to prove
67 that  a PRNG  is  chaotic.  Concerning  the  statistical tests,  TestU01 is  the
68 best-known public-domain statistical testing package.   So we use it for all our
69 PRNGs, especially the {\it BigCrush}  which provides the largest serie of tests.
70 Concerning  the  chaotic properties,  Devaney~\cite{Devaney}  proposed a  common
71 mathematical formulation of chaotic dynamical systems.
72
73 In a  previous work~\cite{bgw09:ip}  we have proposed  a new familly  of chaotic
74 PRNG  based on  chaotic iterations. We  have proven  that these  PRNGs are
75 chaotic in the Devaney's sense.  In this paper we propose a faster version which
76 is also proven to be chaotic.
77
78 Although graphics  processing units (GPU)  was initially designed  to accelerate
79 the manipulation of  images, they are nowadays commonly  used in many scientific
80 applications. Therefore,  it is important  to be able to  generate pseudo-random
81 numbers inside a GPU when a scientific application runs in a GPU. That is why we
82 also provide  an efficient  PRNG for  GPU respecting based  on IC.  Such devices
83 allows us to generated almost 20 billions of random numbers per second.
84
85 In order  to establish  that our  PRNGs are chaotic  according to  the Devaney's
86 formulation, we  extend what we  have proposed in~\cite{guyeux10}.
87
88 The rest of this paper  is organised as follows. In Section~\ref{section:related
89   works} we  review some GPU implementions  of PRNG.  Section~\ref{section:BASIC
90   RECALLS} gives some basic recalls  on Devanay's formation of chaos and chaotic
91 iterations. In  Section~\ref{sec:pseudo-random} the proof of chaos  of our PRNGs
92 is   studied.    Section~\ref{sec:efficient    prng}   presents   an   efficient
93 implementation of  our chaotic PRNG  on a CPU.   Section~\ref{sec:efficient prng
94   gpu}   describes   the  GPU   implementation   of   our   chaotic  PRNG.    In
95 Section~\ref{sec:experiments}     some    experimentations     are    presented.
96  Finally, we give a conclusion and some perspectives.
97
98
99
100
101 \section{Related works on GPU based PRNGs}
102 \label{section:related works}
103 In the litterature many authors have work on defining GPU based PRNGs. We do not
104 want to be exhaustive and we just give the most significant works from our point
105 of view. When authors mention the  number of random numbers generated per second
106 we mention  it. We  consider that  a million numbers  per second  corresponds to
107 1MSample/s and than a billion numbers per second corresponds to 1GSample/s.
108
109 In \cite{Pang:2008:cec},  the authors define  a PRNG based on  cellular automata
110 which  does   not  require  high  precision  integer   arithmetics  nor  bitwise
111 operations. There is no mention of statistical tests nor proof that this PRNG is
112 chaotic.  Concerning   the  speed  of   generation,  they  can   generate  about
113 3.2MSample/s on a GeForce 7800 GTX GPU (which is quite old now).
114
115 In \cite{ZRKB10}, the authors propose  different versions of efficient GPU PRNGs
116 based on  Lagged Fibonacci, Hybrid  Taus or Hybrid  Taus.  They have  used these
117 PRNGs   for  Langevin   simulations   of  biomolecules   fully  implemented   on
118 GPU. Performance of  the GPU versions are far better than  those obtained with a
119 CPU and these PRNGs succeed to pass the {\it BigCrush} test of TestU01. There is
120 no mention that their PRNGs have chaos mathematical properties.
121
122
123 Authors of~\cite{conf/fpga/ThomasHL09}  have studied the  implementation of some
124 PRNGs on  diferrent computing architectures: CPU,  field-programmable gate array
125 (FPGA), GPU and massively parallel  processor. This study is interesting because
126 it  shows the  performance  of the  same  PRNGs on  different architeture.   For
127 example,  the FPGA  is globally  the  fastest architecture  and it  is also  the
128 efficient one because it provides the fastest number of generated random numbers
129 per joule. Concerning the GPU,  authors can generate betweend 11 and 16GSample/s
130 with a GTX 280  GPU. The drawback of this work is  that those PRNGs only succeed
131 the {\it Crush} test which is easier than the {\it Big Crush} test.
132
133 Cuda  has developped  a  library for  the  generation of  random numbers  called
134 Curand~\cite{curand11}.        Several       PRNGs        are       implemented:
135 Xorwow~\cite{Marsaglia2003} and  some variants of Sobol. Some  tests report that
136 the  fastest version provides  15GSample/s on  the new  Fermi C2050  card. Their
137 PRNGs fail to succeed the whole tests of TestU01 on only one test.
138 \newline
139 \newline
140 To the best of our knowledge no GPU implementation have been proven to have chaotic properties.
141
142 \section{Basic Recalls}
143 \label{section:BASIC RECALLS}
144 This section is devoted to basic definitions and terminologies in the fields of
145 topological chaos and chaotic iterations.
146 \subsection{Devaney's Chaotic Dynamical Systems}
147
148 In the sequel $S^{n}$ denotes the $n^{th}$ term of a sequence $S$ and $V_{i}$
149 denotes the $i^{th}$ component of a vector $V$. $f^{k}=f\circ ...\circ f$
150 is for the $k^{th}$ composition of a function $f$. Finally, the following
151 notation is used: $\llbracket1;N\rrbracket=\{1,2,\hdots,N\}$.
152
153
154 Consider a topological space $(\mathcal{X},\tau)$ and a continuous function $f :
155 \mathcal{X} \rightarrow \mathcal{X}$.
156
157 \begin{definition}
158 $f$ is said to be \emph{topologically transitive} if, for any pair of open sets
159 $U,V \subset \mathcal{X}$, there exists $k>0$ such that $f^k(U) \cap V \neq
160 \varnothing$.
161 \end{definition}
162
163 \begin{definition}
164 An element $x$ is a \emph{periodic point} for $f$ of period $n\in \mathds{N}^*$
165 if $f^{n}(x)=x$.% The set of periodic points of $f$ is denoted $Per(f).$
166 \end{definition}
167
168 \begin{definition}
169 $f$ is said to be \emph{regular} on $(\mathcal{X}, \tau)$ if the set of periodic
170 points for $f$ is dense in $\mathcal{X}$: for any point $x$ in $\mathcal{X}$,
171 any neighborhood of $x$ contains at least one periodic point (without
172 necessarily the same period).
173 \end{definition}
174
175
176 \begin{definition}[Devaney's formulation of chaos~\cite{Devaney}]
177 $f$ is said to be \emph{chaotic} on $(\mathcal{X},\tau)$ if $f$ is regular and
178 topologically transitive.
179 \end{definition}
180
181 The chaos property is strongly linked to the notion of ``sensitivity'', defined
182 on a metric space $(\mathcal{X},d)$ by:
183
184 \begin{definition}
185 \label{sensitivity} $f$ has \emph{sensitive dependence on initial conditions}
186 if there exists $\delta >0$ such that, for any $x\in \mathcal{X}$ and any
187 neighborhood $V$ of $x$, there exist $y\in V$ and $n > 0$ such that
188 $d\left(f^{n}(x), f^{n}(y)\right) >\delta $.
189
190 $\delta$ is called the \emph{constant of sensitivity} of $f$.
191 \end{definition}
192
193 Indeed, Banks \emph{et al.} have proven in~\cite{Banks92} that when $f$ is
194 chaotic and $(\mathcal{X}, d)$ is a metric space, then $f$ has the property of
195 sensitive dependence on initial conditions (this property was formerly an
196 element of the definition of chaos). To sum up, quoting Devaney
197 in~\cite{Devaney}, a chaotic dynamical system ``is unpredictable because of the
198 sensitive dependence on initial conditions. It cannot be broken down or
199 simplified into two subsystems which do not interact because of topological
200 transitivity. And in the midst of this random behavior, we nevertheless have an
201 element of regularity''. Fundamentally different behaviors are consequently
202 possible and occur in an unpredictable way.
203
204
205
206 \subsection{Chaotic Iterations}
207 \label{sec:chaotic iterations}
208
209
210 Let us consider  a \emph{system} with a finite  number $\mathsf{N} \in
211 \mathds{N}^*$ of elements  (or \emph{cells}), so that each  cell has a
212 Boolean  \emph{state}. Having $\mathsf{N}$ Boolean values for these
213  cells  leads to the definition of a particular \emph{state  of the
214 system}. A sequence which  elements belong to $\llbracket 1;\mathsf{N}
215 \rrbracket $ is called a \emph{strategy}. The set of all strategies is
216 denoted by $\llbracket 1, \mathsf{N} \rrbracket^\mathds{N}.$
217
218 \begin{definition}
219 \label{Def:chaotic iterations}
220 The      set       $\mathds{B}$      denoting      $\{0,1\}$,      let
221 $f:\mathds{B}^{\mathsf{N}}\longrightarrow  \mathds{B}^{\mathsf{N}}$ be
222 a  function  and  $S\in  \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$  be  a  ``strategy''.  The  so-called
223 \emph{chaotic      iterations}     are     defined      by     $x^0\in
224 \mathds{B}^{\mathsf{N}}$ and
225 \begin{equation}
226 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
227 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
228 \begin{array}{ll}
229   x_i^{n-1} &  \text{ if  }S^n\neq i \\
230   \left(f(x^{n-1})\right)_{S^n} & \text{ if }S^n=i.
231 \end{array}\right.
232 \end{equation}
233 \end{definition}
234
235 In other words, at the $n^{th}$ iteration, only the $S^{n}-$th cell is
236 \textquotedblleft  iterated\textquotedblright .  Note  that in  a more
237 general  formulation,  $S^n$  can   be  a  subset  of  components  and
238 $\left(f(x^{n-1})\right)_{S^{n}}$      can     be      replaced     by
239 $\left(f(x^{k})\right)_{S^{n}}$, where  $k<n$, describing for example,
240 delays  transmission~\cite{Robert1986,guyeux10}.  Finally,  let us  remark that
241 the term  ``chaotic'', in  the name of  these iterations,  has \emph{a
242 priori} no link with the mathematical theory of chaos, presented above.
243
244
245 Let us now recall how to define a suitable metric space where chaotic iterations
246 are continuous. For further explanations, see, e.g., \cite{guyeux10}.
247
248 Let $\delta $ be the \emph{discrete Boolean metric}, $\delta
249 (x,y)=0\Leftrightarrow x=y.$ Given a function $f$, define the function:
250 \begin{equation}
251 \begin{array}{lrll}
252 F_{f}: & \llbracket1;\mathsf{N}\rrbracket\times \mathds{B}^{\mathsf{N}} &
253 \longrightarrow & \mathds{B}^{\mathsf{N}} \\
254 & (k,E) & \longmapsto & \left( E_{j}.\delta (k,j)+f(E)_{k}.\overline{\delta
255 (k,j)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket},%
256 \end{array}%
257 \end{equation}%
258 \noindent where + and . are the Boolean addition and product operations.
259 Consider the phase space:
260 \begin{equation}
261 \mathcal{X} = \llbracket 1 ; \mathsf{N} \rrbracket^\mathds{N} \times
262 \mathds{B}^\mathsf{N},
263 \end{equation}
264 \noindent and the map defined on $\mathcal{X}$:
265 \begin{equation}
266 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), \label{Gf}
267 \end{equation}
268 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
269 (S^{n})_{n\in \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow (S^{n+1})_{n\in
270 \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$ and $i$ is the \emph{initial function} 
271 $i:(S^{n})_{n\in \mathds{N}} \in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow S^{0}\in \llbracket
272 1;\mathsf{N}\rrbracket$. Then the chaotic iterations proposed in
273 Definition \ref{Def:chaotic iterations} can be described by the following iterations:
274 \begin{equation}
275 \left\{
276 \begin{array}{l}
277 X^0 \in \mathcal{X} \\
278 X^{k+1}=G_{f}(X^k).%
279 \end{array}%
280 \right.
281 \end{equation}%
282
283 With this formulation, a shift function appears as a component of chaotic
284 iterations. The shift function is a famous example of a chaotic
285 map~\cite{Devaney} but its presence is not sufficient enough to claim $G_f$ as
286 chaotic. 
287 To study this claim, a new distance between two points $X = (S,E), Y =
288 (\check{S},\check{E})\in
289 \mathcal{X}$ has been introduced in \cite{guyeux10} as follows:
290 \begin{equation}
291 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
292 \end{equation}
293 \noindent where
294 \begin{equation}
295 \left\{
296 \begin{array}{lll}
297 \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
298 }\delta (E_{k},\check{E}_{k})}, \\
299 \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
300 \sum_{k=1}^{\infty }\dfrac{|S^k-\check{S}^k|}{10^{k}}}.%
301 \end{array}%
302 \right.
303 \end{equation}
304
305
306 This new distance has been introduced to satisfy the following requirements.
307 \begin{itemize}
308 \item When the number of different cells between two systems is increasing, then
309 their distance should increase too.
310 \item In addition, if two systems present the same cells and their respective
311 strategies start with the same terms, then the distance between these two points
312 must be small because the evolution of the two systems will be the same for a
313 while. Indeed, the two dynamical systems start with the same initial condition,
314 use the same update function, and as strategies are the same for a while, then
315 components that are updated are the same too.
316 \end{itemize}
317 The distance presented above follows these recommendations. Indeed, if the floor
318 value $\lfloor d(X,Y)\rfloor $ is equal to $n$, then the systems $E, \check{E}$
319 differ in $n$ cells ($d_e$ is indeed the Hamming distance). In addition, $d(X,Y) - \lfloor d(X,Y) \rfloor $ is a
320 measure of the differences between strategies $S$ and $\check{S}$. More
321 precisely, this floating part is less than $10^{-k}$ if and only if the first
322 $k$ terms of the two strategies are equal. Moreover, if the $k^{th}$ digit is
323 nonzero, then the $k^{th}$ terms of the two strategies are different.
324 The impact of this choice for a distance will be investigate at the end of the document.
325
326 Finally, it has been established in \cite{guyeux10} that,
327
328 \begin{proposition}
329 Let $f$ be a map from $\mathds{B}^\mathsf{N}$ to itself. Then $G_{f}$ is continuous in
330 the metric space $(\mathcal{X},d)$.
331 \end{proposition}
332
333 The chaotic property of $G_f$ has been firstly established for the vectorial
334 Boolean negation $f(x_1,\hdots, x_\mathsf{N}) =  (\overline{x_1},\hdots, \overline{x_\mathsf{N}})$ \cite{guyeux10}. To obtain a characterization, we have secondly
335 introduced the notion of asynchronous iteration graph recalled bellow.
336
337 Let $f$ be a map from $\mathds{B}^\mathsf{N}$ to itself. The
338 {\emph{asynchronous iteration graph}} associated with $f$ is the
339 directed graph $\Gamma(f)$ defined by: the set of vertices is
340 $\mathds{B}^\mathsf{N}$; for all $x\in\mathds{B}^\mathsf{N}$ and 
341 $i\in \llbracket1;\mathsf{N}\rrbracket$,
342 the graph $\Gamma(f)$ contains an arc from $x$ to $F_f(i,x)$. 
343 The relation between $\Gamma(f)$ and $G_f$ is clear: there exists a
344 path from $x$ to $x'$ in $\Gamma(f)$ if and only if there exists a
345 strategy $s$ such that the parallel iteration of $G_f$ from the
346 initial point $(s,x)$ reaches the point $x'$.
347
348 We have finally proven in \cite{bcgr11:ip} that,
349
350
351 \begin{theorem}
352 \label{Th:Caractérisation   des   IC   chaotiques}  
353 Let $f:\mathds{B}^\mathsf{N}\to\mathds{B}^\mathsf{N}$. $G_f$ is chaotic  (according to  Devaney) 
354 if and only if $\Gamma(f)$ is strongly connected.
355 \end{theorem}
356
357 This result of chaos has lead us to study the possibility to build a
358 pseudo-random number generator (PRNG) based on the chaotic iterations. 
359 As $G_f$, defined on the domain   $\llbracket 1 ;  \mathsf{N} \rrbracket^{\mathds{N}} 
360 \times \mathds{B}^\mathsf{N}$, is build from Boolean networks $f : \mathds{B}^\mathsf{N}
361 \rightarrow \mathds{B}^\mathsf{N}$, we can preserve the theoretical properties on $G_f$
362 during implementations (due to the discrete nature of $f$). It is as if
363 $\mathds{B}^\mathsf{N}$ represents the memory of the computer whereas $\llbracket 1 ;  \mathsf{N}
364 \rrbracket^{\mathds{N}}$ is its input stream (the seeds, for instance).
365
366 \section{Application to Pseudo-Randomness}
367 \label{sec:pseudo-random}
368 \subsection{A First Pseudo-Random Number Generator}
369
370 We have proposed in~\cite{bgw09:ip} a new family of generators that receives 
371 two PRNGs as inputs. These two generators are mixed with chaotic iterations, 
372 leading thus to a new PRNG that improves the statistical properties of each
373 generator taken alone. Furthermore, our generator 
374 possesses various chaos properties that none of the generators used as input
375 present.
376
377 \begin{algorithm}[h!]
378 %\begin{scriptsize}
379 \KwIn{a function $f$, an iteration number $b$, an initial configuration $x^0$
380 ($n$ bits)}
381 \KwOut{a configuration $x$ ($n$ bits)}
382 $x\leftarrow x^0$\;
383 $k\leftarrow b + \textit{XORshift}(b)$\;
384 \For{$i=0,\dots,k$}
385 {
386 $s\leftarrow{\textit{XORshift}(n)}$\;
387 $x\leftarrow{F_f(s,x)}$\;
388 }
389 return $x$\;
390 %\end{scriptsize}
391 \caption{PRNG with chaotic functions}
392 \label{CI Algorithm}
393 \end{algorithm}
394
395 \begin{algorithm}[h!]
396 \KwIn{the internal configuration $z$ (a 32-bit word)}
397 \KwOut{$y$ (a 32-bit word)}
398 $z\leftarrow{z\oplus{(z\ll13)}}$\;
399 $z\leftarrow{z\oplus{(z\gg17)}}$\;
400 $z\leftarrow{z\oplus{(z\ll5)}}$\;
401 $y\leftarrow{z}$\;
402 return $y$\;
403 \medskip
404 \caption{An arbitrary round of \textit{XORshift} algorithm}
405 \label{XORshift}
406 \end{algorithm}
407
408
409
410
411
412 This generator is synthesized in Algorithm~\ref{CI Algorithm}.
413 It takes as input: a function $f$;
414 an integer $b$, ensuring that the number of executed iterations is at least $b$
415 and at most $2b+1$; and an initial configuration $x^0$.
416 It returns the new generated configuration $x$.  Internally, it embeds two
417 \textit{XORshift}$(k)$ PRNGs~\cite{Marsaglia2003} that returns integers
418 uniformly distributed
419 into $\llbracket 1 ; k \rrbracket$.
420 \textit{XORshift} is a category of very fast PRNGs designed by George Marsaglia,
421 which repeatedly uses the transform of exclusive or (XOR, $\oplus$) on a number
422 with a bit shifted version of it. This PRNG, which has a period of
423 $2^{32}-1=4.29\times10^9$, is summed up in Algorithm~\ref{XORshift}. It is used
424 in our PRNG to compute the strategy length and the strategy elements.
425
426
427 We have proven in \cite{bcgr11:ip} that,
428 \begin{theorem}
429   Let $f: \mathds{B}^{n} \rightarrow \mathds{B}^{n}$, $\Gamma(f)$ its
430   iteration graph, $\check{M}$ its adjacency
431   matrix and $M$ a $n\times n$ matrix defined as in the previous lemma.
432   If $\Gamma(f)$ is strongly connected, then 
433   the output of the PRNG detailed in Algorithm~\ref{CI Algorithm} follows 
434   a law that tends to the uniform distribution 
435   if and only if $M$ is a double stochastic matrix.
436 \end{theorem} 
437
438 This former generator as successively passed various batteries of statistical tests, as the NIST tests~\cite{bcgr11:ip}.
439
440 \subsection{Improving the Speed of the Former Generator}
441
442 Instead of updating only one cell at each iteration, we can try to choose a
443 subset of components and to update them together. Such an attempt leads
444 to a kind of merger of the two sequences used in Algorithm 
445 \ref{CI Algorithm}. When the updating function is the vectorial negation,
446 this algorithm can be rewritten as follows:
447
448 \begin{equation}
449 \left\{
450 \begin{array}{l}
451 x^0 \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket, S \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket^\mathds{N} \\
452 \forall n \in \mathds{N}^*, x^n = x^{n-1} \oplus S^n,
453 \end{array}
454 \right.
455 \label{equation Oplus}
456 \end{equation}
457 where $\oplus$ is for the bitwise exclusive or between two integers. 
458 This rewritten can be understood as follows. The $n-$th term $S^n$ of the
459 sequence $S$, which is an integer of $\mathsf{N}$ binary digits, presents
460 the list of cells to update in the state $x^n$ of the system (represented
461 as an integer having $\mathsf{N}$ bits too). More precisely, the $k-$th 
462 component of this state (a binary digit) changes if and only if the $k-$th 
463 digit in the binary decomposition of $S^n$ is 1.
464
465 The single basic component presented in Eq.~\ref{equation Oplus} is of 
466 ordinary use as a good elementary brick in various PRNGs. It corresponds
467 to the following discrete dynamical system in chaotic iterations:
468
469 \begin{equation}
470 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
471 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
472 \begin{array}{ll}
473   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
474   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
475 \end{array}\right.
476 \label{eq:generalIC}
477 \end{equation}
478 where $f$ is the vectorial negation and $\forall n \in \mathds{N}$, 
479 $\mathcal{S}^n \subset \llbracket 1, \mathsf{N} \rrbracket$ is such that
480 $k \in \mathcal{S}^n$ if and only if the $k-$th digit in the binary
481 decomposition of $S^n$ is 1. Such chaotic iterations are more general
482 than the ones presented in Definition \ref{Def:chaotic iterations} for 
483 the fact that, instead of updating only one term at each iteration,
484 we select a subset of components to change.
485
486
487 Obviously, replacing Algorithm~\ref{CI Algorithm} by 
488 Equation~\ref{equation Oplus}, possible when the iteration function is
489 the vectorial negation, leads to a speed improvement. However, proofs
490 of chaos obtained in~\cite{bg10:ij} have been established
491 only for chaotic iterations of the form presented in Definition 
492 \ref{Def:chaotic iterations}. The question is now to determine whether the
493 use of more general chaotic iterations to generate pseudo-random numbers 
494 faster, does not deflate their topological chaos properties.
495
496 \subsection{Proofs of Chaos of the General Formulation of the Chaotic Iterations}
497 \label{deuxième def}
498 Let us consider the discrete dynamical systems in chaotic iterations having 
499 the general form:
500
501 \begin{equation}
502 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
503 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
504 \begin{array}{ll}
505   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
506   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
507 \end{array}\right.
508 \label{general CIs}
509 \end{equation}
510
511 In other words, at the $n^{th}$ iteration, only the cells whose id is
512 contained into the set $S^{n}$ are iterated.
513
514 Let us now rewrite these general chaotic iterations as usual discrete dynamical
515 system of the form $X^{n+1}=f(X^n)$ on an ad hoc metric space. Such a formulation
516 is required in order to study the topological behavior of the system.
517
518 Let us introduce the following function:
519 \begin{equation}
520 \begin{array}{cccc}
521  \chi: & \llbracket 1; \mathsf{N} \rrbracket \times \mathcal{P}\left(\llbracket 1; \mathsf{N} \rrbracket\right) & \longrightarrow & \mathds{B}\\
522          & (i,X) & \longmapsto  & \left\{ \begin{array}{ll} 0 & \textrm{if }i \notin X, \\ 1 & \textrm{if }i \in X,  \end{array}\right.
523 \end{array} 
524 \end{equation}
525 where $\mathcal{P}\left(X\right)$ is for the powerset of the set $X$, that is, $Y \in \mathcal{P}\left(X\right) \Longleftrightarrow Y \subset X$.
526
527 Given a function $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, define the function:
528 \begin{equation}
529 \begin{array}{lrll}
530 F_{f}: & \mathcal{P}\left(\llbracket1;\mathsf{N}\rrbracket \right) \times \mathds{B}^{\mathsf{N}} &
531 \longrightarrow & \mathds{B}^{\mathsf{N}} \\
532 & (P,E) & \longmapsto & \left( E_{j}.\chi (j,P)+f(E)_{j}.\overline{\chi
533 (j,P)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket},%
534 \end{array}%
535 \end{equation}%
536 where + and . are the Boolean addition and product operations, and $\overline{x}$ 
537 is the negation of the Boolean $x$.
538 Consider the phase space:
539 \begin{equation}
540 \mathcal{X} = \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N} \times
541 \mathds{B}^\mathsf{N},
542 \end{equation}
543 \noindent and the map defined on $\mathcal{X}$:
544 \begin{equation}
545 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), \label{Gf}
546 \end{equation}
547 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
548 (S^{n})_{n\in \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow (S^{n+1})_{n\in
549 \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}$ and $i$ is the \emph{initial function} 
550 $i:(S^{n})_{n\in \mathds{N}} \in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow S^{0}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)$. 
551 Then the general chaotic iterations defined in Equation \ref{general CIs} can 
552 be described by the following discrete dynamical system:
553 \begin{equation}
554 \left\{
555 \begin{array}{l}
556 X^0 \in \mathcal{X} \\
557 X^{k+1}=G_{f}(X^k).%
558 \end{array}%
559 \right.
560 \end{equation}%
561
562 Another time, a shift function appears as a component of these general chaotic 
563 iterations. 
564
565 To study the Devaney's chaos property, a distance between two points 
566 $X = (S,E), Y = (\check{S},\check{E})$ of $\mathcal{X}$ must be defined.
567 Let us introduce:
568 \begin{equation}
569 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
570 \label{nouveau d}
571 \end{equation}
572 \noindent where
573 \begin{equation}
574 \left\{
575 \begin{array}{lll}
576 \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
577 }\delta (E_{k},\check{E}_{k})}\textrm{ is another time the Hamming distance}, \\
578 \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
579 \sum_{k=1}^{\infty }\dfrac{|S^k\Delta {S}^k|}{10^{k}}}.%
580 \end{array}%
581 \right.
582 \end{equation}
583 where $|X|$ is the cardinality of a set $X$ and $A\Delta B$ is for the symmetric difference, defined for sets A, B as
584 $A\,\Delta\,B = (A \setminus B) \cup (B \setminus A)$.
585
586
587 \begin{proposition}
588 The function $d$ defined in Eq.~\ref{nouveau d} is a metric on $\mathcal{X}$.
589 \end{proposition}
590
591 \begin{proof}
592  $d_e$ is the Hamming distance. We will prove that $d_s$ is a distance
593 too, thus $d$ will be a distance as sum of two distances.
594  \begin{itemize}
595 \item Obviously, $d_s(S,\check{S})\geqslant 0$, and if $S=\check{S}$, then 
596 $d_s(S,\check{S})=0$. Conversely, if $d_s(S,\check{S})=0$, then 
597 $\forall k \in \mathds{N}, |S^k\Delta {S}^k|=0$, and so $\forall k, S^k=\check{S}^k$.
598  \item $d_s$ is symmetric 
599 ($d_s(S,\check{S})=d_s(\check{S},S)$) due to the commutative property
600 of the symmetric difference. 
601 \item Finally, $|S \Delta S''| = |(S \Delta \varnothing) \Delta S''|= |S \Delta (S'\Delta S') \Delta S''|= |(S \Delta S') \Delta (S' \Delta S'')|\leqslant |S \Delta S'| + |S' \Delta S''|$, 
602 and so for all subsets $S,S',$ and $S''$ of $\llbracket 1, \mathsf{N} \rrbracket$, 
603 we have $d_s(S,S'') \leqslant d_e(S,S')+d_s(S',S'')$, and the triangle
604 inequality is obtained.
605  \end{itemize}
606 \end{proof}
607
608
609 Before being able to study the topological behavior of the general 
610 chaotic iterations, we must firstly establish that:
611
612 \begin{proposition}
613  For all $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, the function $G_f$ is continuous on 
614 $\left( \mathcal{X},d\right)$.
615 \end{proposition}
616
617
618 \begin{proof}
619 We use the sequential continuity.
620 Let $(S^n,E^n)_{n\in \mathds{N}}$ be a sequence of the phase space $%
621 \mathcal{X}$, which converges to $(S,E)$. We will prove that $\left(
622 G_{f}(S^n,E^n)\right) _{n\in \mathds{N}}$ converges to $\left(
623 G_{f}(S,E)\right) $. Let us remark that for all $n$, $S^n$ is a strategy,
624 thus, we consider a sequence of strategies (\emph{i.e.}, a sequence of
625 sequences).\newline
626 As $d((S^n,E^n);(S,E))$ converges to 0, each distance $d_{e}(E^n,E)$ and $d_{s}(S^n,S)$ converges
627 to 0. But $d_{e}(E^n,E)$ is an integer, so $\exists n_{0}\in \mathds{N},$ $%
628 d_{e}(E^n,E)=0$ for any $n\geqslant n_{0}$.\newline
629 In other words, there exists a threshold $n_{0}\in \mathds{N}$ after which no
630 cell will change its state:
631 $\exists n_{0}\in \mathds{N},n\geqslant n_{0}\Rightarrow E^n = E.$
632
633 In addition, $d_{s}(S^n,S)\longrightarrow 0,$ so $\exists n_{1}\in %
634 \mathds{N},d_{s}(S^n,S)<10^{-1}$ for all indexes greater than or equal to $%
635 n_{1}$. This means that for $n\geqslant n_{1}$, all the $S^n$ have the same
636 first term, which is $S^0$: $\forall n\geqslant n_{1},S_0^n=S_0.$
637
638 Thus, after the $max(n_{0},n_{1})^{th}$ term, states of $E^n$ and $E$ are
639 identical and strategies $S^n$ and $S$ start with the same first term.\newline
640 Consequently, states of $G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are equal,
641 so, after the $max(n_0, n_1)^{th}$ term, the distance $d$ between these two points is strictly less than 1.\newline
642 \noindent We now prove that the distance between $\left(
643 G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is convergent to
644 0. Let $\varepsilon >0$. \medskip
645 \begin{itemize}
646 \item If $\varepsilon \geqslant 1$, we see that distance
647 between $\left( G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is
648 strictly less than 1 after the $max(n_{0},n_{1})^{th}$ term (same state).
649 \medskip
650 \item If $\varepsilon <1$, then $\exists k\in \mathds{N},10^{-k}\geqslant
651 \varepsilon > 10^{-(k+1)}$. But $d_{s}(S^n,S)$ converges to 0, so
652 \begin{equation*}
653 \exists n_{2}\in \mathds{N},\forall n\geqslant
654 n_{2},d_{s}(S^n,S)<10^{-(k+2)},
655 \end{equation*}%
656 thus after $n_{2}$, the $k+2$ first terms of $S^n$ and $S$ are equal.
657 \end{itemize}
658 \noindent As a consequence, the $k+1$ first entries of the strategies of $%
659 G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are the same ($G_{f}$ is a shift of strategies) and due to the definition of $d_{s}$, the floating part of
660 the distance between $(S^n,E^n)$ and $(S,E)$ is strictly less than $%
661 10^{-(k+1)}\leqslant \varepsilon $.\bigskip \newline
662 In conclusion,
663 $$
664 \forall \varepsilon >0,\exists N_{0}=max(n_{0},n_{1},n_{2})\in \mathds{N}%
665 ,\forall n\geqslant N_{0},
666  d\left( G_{f}(S^n,E^n);G_{f}(S,E)\right)
667 \leqslant \varepsilon .
668 $$
669 $G_{f}$ is consequently continuous.
670 \end{proof}
671
672
673 It is now possible to study the topological behavior of the general chaotic
674 iterations. We will prove that,
675
676 \begin{theorem}
677 \label{t:chaos des general}
678  The general chaotic iterations defined on Equation~\ref{general CIs} satisfy
679 the Devaney's property of chaos.
680 \end{theorem}
681
682 Let us firstly prove the following lemma.
683
684 \begin{lemma}[Strong transitivity]
685 \label{strongTrans}
686  For all couples $X,Y \in \mathcal{X}$ and any neighborhood $V$ of $X$, we can 
687 find $n \in \mathds{N}^*$ and $X' \in V$ such that $G^n(X')=Y$.
688 \end{lemma}
689
690 \begin{proof}
691  Let $X=(S,E)$, $\varepsilon>0$, and $k_0 = \lfloor log_{10}(\varepsilon)+1 \rfloor$. 
692 Any point $X'=(S',E')$ such that $E'=E$ and $\forall k \leqslant k_0, S'^k=S^k$, 
693 are in the open ball $\mathcal{B}\left(X,\varepsilon\right)$. Let us define 
694 $\check{X} = \left(\check{S},\check{E}\right)$, where $\check{X}= G^{k_0}(X)$.
695 We denote by $s\subset \llbracket 1; \mathsf{N} \rrbracket$ the set of coordinates
696 that are different between $\check{E}$ and the state of $Y$. Thus each point $X'$ of
697 the form $(S',E')$ where $E'=E$ and $S'$ starts with 
698 $(S^0, S^1, \hdots, S^{k_0},s,\hdots)$, verifies the following properties:
699 \begin{itemize}
700  \item $X'$ is in $\mathcal{B}\left(X,\varepsilon\right)$,
701  \item the state of $G_f^{k_0+1}(X')$ is the state of $Y$.
702 \end{itemize}
703 Finally the point $\left(\left(S^0, S^1, \hdots, S^{k_0},s,s^0, s^1, \hdots\right); E\right)$, 
704 where $(s^0,s^1, \hdots)$ is the strategy of $Y$, satisfies the properties
705 claimed in the lemma.
706 \end{proof}
707
708 We can now prove the Theorem~\ref{t:chaos des general}...
709
710 \begin{proof}[Theorem~\ref{t:chaos des general}]
711 Firstly, strong transitivity implies transitivity.
712
713 Let $(S,E) \in\mathcal{X}$ and $\varepsilon >0$. To
714 prove that $G_f$ is regular, it is sufficient to prove that
715 there exists a strategy $\tilde S$ such that the distance between
716 $(\tilde S,E)$ and $(S,E)$ is less than $\varepsilon$, and such that
717 $(\tilde S,E)$ is a periodic point.
718
719 Let $t_1=\lfloor-\log_{10}(\varepsilon)\rfloor$, and let $E'$ be the
720 configuration that we obtain from $(S,E)$ after $t_1$ iterations of
721 $G_f$. As $G_f$ is strongly transitive, there exists a strategy $S'$ 
722 and $t_2\in\mathds{N}$ such
723 that $E$ is reached from $(S',E')$ after $t_2$ iterations of $G_f$.
724
725 Consider the strategy $\tilde S$ that alternates the first $t_1$ terms
726 of $S$ and the first $t_2$ terms of $S'$: $$\tilde
727 S=(S_0,\dots,S_{t_1-1},S'_0,\dots,S'_{t_2-1},S_0,\dots,S_{t_1-1},S'_0,\dots,S'_{t_2-1},S_0,\dots).$$ It
728 is clear that $(\tilde S,E)$ is obtained from $(\tilde S,E)$ after
729 $t_1+t_2$ iterations of $G_f$. So $(\tilde S,E)$ is a periodic
730 point. Since $\tilde S_t=S_t$ for $t<t_1$, by the choice of $t_1$, we
731 have $d((S,E),(\tilde S,E))<\epsilon$.
732 \end{proof}
733
734
735
736 \section{Efficient PRNG based on Chaotic Iterations}
737 \label{sec:efficient prng}
738
739 In  order to  implement efficiently  a PRNG  based on  chaotic iterations  it is
740 possible to improve  previous works [ref]. One solution  consists in considering
741 that the  strategy used contains all the  bits for which the  negation is
742 achieved out. Then in order to apply  the negation on these bits we can simply
743 apply the  xor operator between  the current number  and the strategy. In
744 order to obtain the strategy we also use a classical PRNG.
745
746 Here  is an  example with  16-bits numbers  showing how  the bitwise  operations
747 are
748 applied.  Suppose  that $x$ and the  strategy $S^i$ are defined  in binary mode.
749 Then the following table shows the result of $x$ xor $S^i$.
750 $$
751 \begin{array}{|cc|cccccccccccccccc|}
752 \hline
753 x      &=&1&0&1&1&1&0&1&0&1&0&0&1&0&0&1&0\\
754 \hline
755 S^i      &=&0&1&1&0&0&1&1&0&1&1&1&0&0&1&1&1\\
756 \hline
757 x \oplus S^i&=&1&1&0&1&1&1&0&0&0&1&1&1&0&1&0&1\\
758 \hline
759
760 \hline
761  \end{array}
762 $$
763
764
765
766
767
768 \lstset{language=C,caption={C code of the sequential chaotic iterations based
769 PRNG},label=algo:seqCIprng}
770 \begin{lstlisting}
771 unsigned int CIprng() {
772   static unsigned int x = 123123123;
773   unsigned long t1 = xorshift();
774   unsigned long t2 = xor128();
775   unsigned long t3 = xorwow();
776   x = x^(unsigned int)t1;
777   x = x^(unsigned int)(t2>>32);
778   x = x^(unsigned int)(t3>>32);
779   x = x^(unsigned int)t2;
780   x = x^(unsigned int)(t1>>32);
781   x = x^(unsigned int)t3;
782   return x;
783 }
784 \end{lstlisting}
785
786
787
788
789
790 In listing~\ref{algo:seqCIprng}  a sequential version of  our chaotic iterations
791 based PRNG is  presented.  The xor operator is  represented by \textasciicircum.
792 This  function uses  three classical  64-bits PRNG:  the  \texttt{xorshift}, the
793 \texttt{xor128}  and  the  \texttt{xorwow}.   In  the following,  we  call  them
794 xor-like PRNGSs.   These three PRNGs are  presented in~\cite{Marsaglia2003}.  As
795 each xor-like PRNG  used works with 64-bits and as our  PRNG works with 32-bits,
796 the use of \texttt{(unsigned int)} selects the 32 least significant bits whereas
797 \texttt{(unsigned int)(t3$>>$32)}  selects the 32 most significants  bits of the
798 variable \texttt{t}.   So to produce a  random number realizes  6 xor operations
799 with 6 32-bits  numbers produced by 3 64-bits PRNG.   This version successes the
800 BigCrush of the TestU01 battery~\cite{LEcuyerS07}.
801
802 \section{Efficient PRNGs based on chaotic iterations on GPU}
803 \label{sec:efficient prng gpu}
804
805 In  order to benefit  from computing  power of  GPU, a  program needs  to define
806 independent blocks of threads which  can be computed simultaneously. In general,
807 the larger the number of threads is,  the more local memory is used and the less
808 branching  instructions are  used (if,  while, ...),  the better  performance is
809 obtained  on  GPU.  So  with  algorithm  \ref{algo:seqCIprng}  presented in  the
810 previous section, it is possible to  build a similar program which computes PRNG
811 on   GPU.  In  the   CUDA~\cite{Nvid10}  environment,   threads  have   a  local
812 identificator, called \texttt{ThreadIdx} relative to the block containing them.
813
814
815 \subsection{Naive version for GPU}
816
817 From the CPU version, it is possible  to obtain a quite similar version for GPU.
818 The principe consists in assigning the computation of a PRNG as in sequential to
819 each thread  of the  GPU.  Of course,  it is  essential that the  three xor-like
820 PRNGs  used for  our computation  have different  parameters. So  we  chose them
821 randomly with  another PRNG. As the  initialisation is performed by  the CPU, we
822 have  chosen  to  use  the  ISAAC  PRNG~\cite{Jenkins96}  to  initalize  all  the
823 parameters for  the GPU version  of our PRNG.   The implementation of  the three
824 xor-like  PRNGs  is  straightforward  as  soon as  their  parameters  have  been
825 allocated in  the GPU memory.  Each xor-like PRNGs  used works with  an internal
826 number  $x$  which keeps  the  last  generated  random numbers.  Other  internal
827 variables  are   also  used   by  the  xor-like   PRNGs.  More   precisely,  the
828 implementation of the  xor128, the xorshift and the  xorwow respectively require
829 4, 5 and 6 unsigned long as internal variables.
830
831 \begin{algorithm}
832
833 \KwIn{InternalVarXorLikeArray: array with internal variables of the 3 xor-like
834 PRNGs in global memory\;
835 NumThreads: Number of threads\;}
836 \KwOut{NewNb: array containing random numbers in global memory}
837 \If{threadIdx is concerned by the computation} {
838   retrieve data from InternalVarXorLikeArray[threadIdx] in local variables\;
839   \For{i=1 to n} {
840     compute a new PRNG as in Listing\ref{algo:seqCIprng}\;
841     store the new PRNG in NewNb[NumThreads*threadIdx+i]\;
842   }
843   store internal variables in InternalVarXorLikeArray[threadIdx]\;
844 }
845
846 \caption{main kernel for the chaotic iterations based PRNG GPU naive version}
847 \label{algo:gpu_kernel}
848 \end{algorithm}
849
850 Algorithm~\ref{algo:gpu_kernel}  presents a naive  implementation of  PRNG using
851 GPU.  According  to the available  memory in the  GPU and the number  of threads
852 used simultenaously,  the number  of random numbers  that a thread  can generate
853 inside   a    kernel   is   limited,   i.e.    the    variable   \texttt{n}   in
854 algorithm~\ref{algo:gpu_kernel}. For example, if  $100,000$ threads are used and
855 if $n=100$\footnote{in fact, we need to add the initial seed (a 32-bits number)}
856 then   the  memory   required   to  store   internals   variables  of   xor-like
857 PRNGs\footnote{we multiply this number by $2$ in order to count 32-bits numbers}
858 and  random  number of  our  PRNG  is  equals to  $100,000\times  ((4+5+6)\times
859 2+(1+100))=1,310,000$ 32-bits numbers, i.e. about $52$Mb.
860
861 All the  tests performed  to pass the  BigCrush of TestU01  succeeded. Different
862 number of threads, called \texttt{NumThreads} in our algorithm, have been tested
863 upto $10$ millions.
864 \newline
865 \newline
866 {\bf QUESTION : on laisse cette remarque, je suis mitigé !!!}
867
868 \begin{remark}
869 Algorithm~\ref{algo:gpu_kernel}  has  the  advantage to  manipulate  independent
870 PRNGs, so this version is easily usable on a cluster of computer. The only thing
871 to ensure is to use a single ISAAC PRNG. For this, a simple solution consists in
872 using a master node for the initialization which computes the initial parameters
873 for all the differents nodes involves in the computation.
874 \end{remark}
875
876 \subsection{Improved version for GPU}
877
878 As GPU cards using CUDA have shared memory between threads of the same block, it
879 is possible  to use this  feature in order  to simplify the  previous algorithm,
880 i.e., using less  than 3 xor-like PRNGs. The solution  consists in computing only
881 one xor-like PRNG by thread, saving  it into shared memory and using the results
882 of some  other threads in the  same block of  threads. In order to  define which
883 thread uses the result of which other  one, we can use a permutation array which
884 contains  the indexes  of  all threads  and  for which  a  permutation has  been
885 performed.  In Algorithm~\ref{algo:gpu_kernel2}, 2 permutations arrays are used.
886 The    variable   \texttt{offset}    is    computed   using    the   value    of
887 \texttt{permutation\_size}.   Then we  can compute  \texttt{o1}  and \texttt{o2}
888 which represent the indexes of the  other threads for which the results are used
889 by the  current thread. In  the algorithm, we  consider that a  64-bits xor-like
890 PRNG is used, that is why both 32-bits parts are used.
891
892 This version also succeeds to the {\it BigCrush} batteries of tests.
893
894 \begin{algorithm}
895
896 \KwIn{InternalVarXorLikeArray: array with internal variables of 1 xor-like PRNGs
897 in global memory\;
898 NumThreads: Number of threads\;
899 tab1, tab2: Arrays containing permutations of size permutation\_size\;}
900
901 \KwOut{NewNb: array containing random numbers in global memory}
902 \If{threadId is concerned} {
903   retrieve data from InternalVarXorLikeArray[threadId] in local variables including shared memory and x\;
904   offset = threadIdx\%permutation\_size\;
905   o1 = threadIdx-offset+tab1[offset]\;
906   o2 = threadIdx-offset+tab2[offset]\;
907   \For{i=1 to n} {
908     t=xor-like()\;
909     t=t$\oplus$shmem[o1]$\oplus$shmem[o2]\;
910     shared\_mem[threadId]=t\;
911     x = x $\oplus$ t\;
912
913     store the new PRNG in NewNb[NumThreads*threadId+i]\;
914   }
915   store internal variables in InternalVarXorLikeArray[threadId]\;
916 }
917
918 \caption{main kernel for the chaotic iterations based PRNG GPU efficient
919 version}
920 \label{algo:gpu_kernel2}
921 \end{algorithm}
922
923 \subsection{Theoretical Evaluation of the Improved Version}
924
925 A run of Algorithm~\ref{algo:gpu_kernel2} consists in three operations having 
926 the form of Equation~\ref{equation Oplus}, which is equivalent to the iterative
927 system of Eq.~\ref{eq:generalIC}. That is, three iterations of the general chaotic
928 iterations are realized between two stored values of the PRNG.
929 To be certain that we are in the framework of Theorem~\ref{t:chaos des general},
930 we must guarantee that this dynamical system iterates on the space 
931 $\mathcal{X} = \mathcal{P}\left(\llbracket 1, \mathsf{N} \rrbracket\right)^\mathds{N}\times\mathds{B}^\mathsf{N}$.
932 The left term $x$ obviously belongs into $\mathds{B}^ \mathsf{N}$.
933 To prevent from any flaws of chaotic properties, we must check that each right 
934 term, corresponding to terms of the strategies,  can possibly be equal to any
935 integer of $\llbracket 1, \mathsf{N} \rrbracket$. 
936
937 Such a result is obvious for the two first lines, as for the xor-like(), all the
938 integers belonging into its interval of definition can occur at each iteration.
939 It can be easily stated for the two last lines by an immediate mathematical
940 induction.
941
942 Thus Algorithm~\ref{algo:gpu_kernel2} is a concrete realization of the general
943 chaotic iterations presented previously, and for this reason, it satisfies the 
944 Devaney's formulation of a chaotic behavior.
945
946 \section{A cryptographically secure prng for GPU}
947
948 It is  possible to build a  cryptographically secure prng based  on the previous
949 algorithm (algorithm~\ref{algo:gpu_kernel2}).   It simply consists  in replacing
950 the  {\it  xor-like} algorithm  by  another  cryptographically  secure prng.  In
951 practice, we suggest  to use the BBS algorithm~\cite{BBS}  which takes the form:
952 $$x_{n+1}=x_n^2~ mod~ M$$  where $M$ is the product of  two prime numbers. Those
953 prime numbers  need to be congruent  to 3 modulus  4. In practice, this  PRNG is
954 known to  be slow and  not efficient for  the generation of random  numbers. For
955 current  GPU   cards,  the  modulus   operation  is  the  most   time  consuming
956 operation. So in  order to obtain quite reasonable  performances, it is required
957 to use only modulus on 32  bits integer numbers. Consequently $x_n^2$ need to be
958 less than  $2^{32}$ and the  number $M$  need to be  less than $2^{16}$.   So in
959 pratice we can  choose prime numbers around 256 that are  congruent to 3 modulus
960 4.  With  32 bits numbers,  only the  4 least significant  bits of $x_n$  can be
961 chosen  (the   maximum  number  of   undistinguishing  is  less  or   equals  to
962 $log_2(log_2(x_n))$). So  to generate a 32 bits  number, we need to  use 8 times
963 the BBS algorithm, with different combinations of $M$ is required.
964
965 \section{Experiments}
966 \label{sec:experiments}
967
968 Different experiments  have been  performed in order  to measure  the generation
969 speed. We have used  a computer equiped with Tesla C1060 NVidia  GPU card and an
970 Intel  Xeon E5530 cadenced  at 2.40  GHz for  our experiments  and we  have used
971 another one  equipped with  a less performant  CPU and  a GeForce GTX  280. Both
972 cards have 240 cores.
973
974 In Figure~\ref{fig:time_gpu}  we compare the number of  random numbers generated
975 per second. The xor-like prng  is a xor64 described in~\cite{Marsaglia2003}.  In
976 order to obtain the optimal performance  we remove the storage of random numbers
977 in the GPU memory. This step is time consuming and slows down the random number
978 generation.  Moreover, if you are interested by applications that consume random
979 numbers  directly   when  they  are  generated,  their   storage  is  completely
980 useless. In this  figure we can see  that when the number of  threads is greater
981 than approximately 30,000 upto 5 millions the number of random numbers generated
982 per second  is almost constant.  With the  naive version, it is  between 2.5 and
983 3GSample/s.   With  the  optimized   version,  it  is  approximately  equals  to
984 20GSample/s. Finally  we can remark  that both GPU  cards are quite  similar. In
985 practice,  the Tesla C1060  has more  memory than  the GTX  280 and  this memory
986 should be of better quality.
987
988 \begin{figure}[htbp]
989 \begin{center}
990   \includegraphics[scale=.7]{curve_time_xorlike_gpu.pdf}
991 \end{center}
992 \caption{Number of random numbers generated per second with the xorlike based prng}
993 \label{fig:time_xorlike_gpu}
994 \end{figure}
995
996
997 In  comparison,   Listing~\ref{algo:seqCIprng}  allows  us   to  generate  about
998 138MSample/s with only one core of the Xeon E5530.
999
1000
1001
1002
1003 \begin{figure}[htbp]
1004 \begin{center}
1005   \includegraphics[scale=.7]{curve_time_bbs_gpu.pdf}
1006 \end{center}
1007 \caption{Number of random numbers generated per second with the bbs based prng}
1008 \label{fig:time_bbs_gpu}
1009 \end{figure}
1010
1011
1012
1013 %% \section{Cryptanalysis of the Proposed PRNG}
1014
1015
1016 %% Mettre ici la preuve de PCH
1017
1018 %\section{The relativity of disorder}
1019 %\label{sec:de la relativité du désordre}
1020
1021 %In the next two sections, we investigate the impact of the choices that have
1022 %lead to the definitions of measures in Sections \ref{sec:chaotic iterations} and \ref{deuxième def}.
1023
1024 %\subsection{Impact of the topology's finenesse}
1025
1026 %Let us firstly introduce the following notations.
1027
1028 %\begin{notation}
1029 %$\mathcal{X}_\tau$ will denote the topological space
1030 %$\left(\mathcal{X},\tau\right)$, whereas $\mathcal{V}_\tau (x)$ will be the set
1031 %of all the neighborhoods of $x$ when considering the topology $\tau$ (or simply
1032 %$\mathcal{V} (x)$, if there is no ambiguity).
1033 %\end{notation}
1034
1035
1036
1037 %\begin{theorem}
1038 %\label{Th:chaos et finesse}
1039 %Let $\mathcal{X}$ a set and $\tau, \tau'$ two topologies on $\mathcal{X}$ s.t.
1040 %$\tau'$ is finer than $\tau$. Let $f:\mathcal{X} \to \mathcal{X}$, continuous
1041 %both for $\tau$ and $\tau'$.
1042
1043 %If $(\mathcal{X}_{\tau'},f)$ is chaotic according to Devaney, then
1044 %$(\mathcal{X}_\tau,f)$ is chaotic too.
1045 %\end{theorem}
1046
1047 %\begin{proof}
1048 %Let us firstly establish the transitivity of $(\mathcal{X}_\tau,f)$.
1049
1050 %Let $\omega_1, \omega_2$ two open sets of $\tau$. Then $\omega_1, \omega_2 \in
1051 %\tau'$, becaus $\tau'$ is finer than $\tau$. As $f$ is $\tau'-$transitive, we
1052 %can deduce that $\exists n \in \mathds{N}, \omega_1 \cap f^{(n)}(\omega_2) =
1053 %\varnothing$. Consequently, $f$ is $\tau-$transitive.
1054
1055 %Let us now consider the regularity of $(\mathcal{X}_\tau,f)$, \emph{i.e.}, for
1056 %all $x \in \mathcal{X}$, and for all $\tau-$neighborhood $V$ of $x$, there is a
1057 %periodic point for $f$ into $V$.
1058
1059 %Let $x \in \mathcal{X}$ and $V \in \mathcal{V}_\tau (x)$ a $\tau-$neighborhood
1060 %of $x$. By definition, $\exists \omega \in \tau, x \in \omega \subset V$.
1061
1062 %But $\tau \subset \tau'$, so $\omega \in \tau'$, and then $V \in
1063 %\mathcal{V}_{\tau'} (x)$. As $(\mathcal{X}_{\tau'},f)$ is regular, there is a
1064 %periodic point for $f$ into $V$, and the regularity of $(\mathcal{X}_\tau,f)$ is
1065 %proven. 
1066 %\end{proof}
1067
1068 %\subsection{A given system can always be claimed as chaotic}
1069
1070 %Let $f$ an iteration function on $\mathcal{X}$ having at least a fixed point.
1071 %Then this function is chaotic (in a certain way):
1072
1073 %\begin{theorem}
1074 %Let $\mathcal{X}$ a nonempty set and $f: \mathcal{X} \to \X$ a function having
1075 %at least a fixed point.
1076 %Then $f$ is $\tau_0-$chaotic, where $\tau_0$ is the trivial (indiscrete)
1077 %topology on $\X$.
1078 %\end{theorem}
1079
1080
1081 %\begin{proof}
1082 %$f$ is transitive when $\forall \omega, \omega' \in \tau_0 \setminus
1083 %\{\varnothing\}, \exists n \in \mathds{N}, f^{(n)}(\omega) \cap \omega' \neq
1084 %\varnothing$.
1085 %As $\tau_0 = \left\{ \varnothing, \X \right\}$, this is equivalent to look for
1086 %an integer $n$ s.t. $f^{(n)}\left( \X \right) \cap \X \neq \varnothing$. For
1087 %instance, $n=0$ is appropriate.
1088
1089 %Let us now consider $x \in \X$ and $V \in \mathcal{V}_{\tau_0} (x)$. Then $V =
1090 %\mathcal{X}$, so $V$ has at least a fixed point for $f$. Consequently $f$ is
1091 %regular, and the result is established.
1092 %\end{proof}
1093
1094
1095
1096
1097 %\subsection{A given system can always be claimed as non-chaotic}
1098
1099 %\begin{theorem}
1100 %Let $\mathcal{X}$ be a set and $f: \mathcal{X} \to \X$.
1101 %If $\X$ is infinite, then $\left( \X_{\tau_\infty}, f\right)$ is not chaotic
1102 %(for the Devaney's formulation), where $\tau_\infty$ is the discrete topology.
1103 %\end{theorem}
1104
1105 %\begin{proof}
1106 %Let us prove it by contradiction, assuming that $\left(\X_{\tau_\infty},
1107 %f\right)$ is both transitive and regular.
1108
1109 %Let $x \in \X$ and $\{x\}$ one of its neighborhood. This neighborhood must
1110 %contain a periodic point for $f$, if we want that $\left(\X_{\tau_\infty},
1111 %f\right)$ is regular. Then $x$ must be a periodic point of $f$.
1112
1113 %Let $I_x = \left\{ f^{(n)}(x), n \in \mathds{N}\right\}$. This set is finite
1114 %because  $x$ is periodic, and $\mathcal{X}$ is infinite, then $\exists y \in
1115 %\mathcal{X}, y \notin I_x$.
1116
1117 %As $\left(\X_{\tau_\infty}, f\right)$ must be transitive, for all open nonempty
1118 %sets $A$ and $B$, an integer $n$ must satisfy $f^{(n)}(A) \cap B \neq
1119 %\varnothing$. However $\{x\}$ and $\{y\}$ are open sets and $y \notin I_x
1120 %\Rightarrow \forall n, f^{(n)}\left( \{x\} \right) \cap \{y\} = \varnothing$.
1121 %\end{proof}
1122
1123
1124
1125
1126
1127
1128 %\section{Chaos on the order topology}
1129 %\label{sec: chaos order topology}
1130 %\subsection{The phase space is an interval of the real line}
1131
1132 %\subsubsection{Toward a topological semiconjugacy}
1133
1134 %In what follows, our intention is to establish, by using a topological
1135 %semiconjugacy, that chaotic iterations over $\mathcal{X}$ can be described as
1136 %iterations on a real interval. To do so, we must firstly introduce some
1137 %notations and terminologies. 
1138
1139 %Let $\mathcal{S}_\mathsf{N}$ be the set of sequences belonging into $\llbracket
1140 %1; \mathsf{N}\rrbracket$ and $\mathcal{X}_{\mathsf{N}} = \mathcal{S}_\mathsf{N}
1141 %\times \B^\mathsf{N}$.
1142
1143
1144 %\begin{definition}
1145 %The function $\varphi: \mathcal{S}_{10} \times\mathds{B}^{10} \rightarrow \big[
1146 %0, 2^{10} \big[$ is defined by:
1147 %\begin{equation}
1148 % \begin{array}{cccl}
1149 %\varphi: & \mathcal{X}_{10} = \mathcal{S}_{10} \times\mathds{B}^{10}&
1150 %\longrightarrow & \big[ 0, 2^{10} \big[ \\
1151 % & (S,E) = \left((S^0, S^1, \hdots ); (E_0, \hdots, E_9)\right) & \longmapsto &
1152 %\varphi \left((S,E)\right)
1153 %\end{array}
1154 %\end{equation}
1155 %where $\varphi\left((S,E)\right)$ is the real number:
1156 %\begin{itemize}
1157 %\item whose integral part $e$ is $\displaystyle{\sum_{k=0}^9 2^{9-k} E_k}$, that
1158 %is, the binary digits of $e$ are $E_0 ~ E_1 ~ \hdots ~ E_9$.
1159 %\item whose decimal part $s$ is equal to $s = 0,S^0~ S^1~ S^2~ \hdots =
1160 %\sum_{k=1}^{+\infty} 10^{-k} S^{k-1}.$ 
1161 %\end{itemize}
1162 %\end{definition}
1163
1164
1165
1166 %$\varphi$ realizes the association between a point of $\mathcal{X}_{10}$ and a
1167 %real number into $\big[ 0, 2^{10} \big[$. We must now translate the chaotic
1168 %iterations $\Go$ on this real interval. To do so, two intermediate functions
1169 %over $\big[ 0, 2^{10} \big[$ must be introduced:
1170
1171
1172 %\begin{definition}
1173 %\label{def:e et s}
1174 %Let $x \in \big[ 0, 2^{10} \big[$ and:
1175 %\begin{itemize}
1176 %\item $e_0, \hdots, e_9$ the binary digits of the integral part of $x$:
1177 %$\displaystyle{\lfloor x \rfloor = \sum_{k=0}^{9} 2^{9-k} e_k}$.
1178 %\item $(s^k)_{k\in \mathds{N}}$ the digits of $x$, where the chosen decimal
1179 %decomposition of $x$ is the one that does not have an infinite number of 9: 
1180 %$\displaystyle{x = \lfloor x \rfloor + \sum_{k=0}^{+\infty} s^k 10^{-k-1}}$.
1181 %\end{itemize}
1182 %$e$ and $s$ are thus defined as follows:
1183 %\begin{equation}
1184 %\begin{array}{cccl}
1185 %e: & \big[ 0, 2^{10} \big[ & \longrightarrow & \mathds{B}^{10} \\
1186 % & x & \longmapsto & (e_0, \hdots, e_9)
1187 %\end{array}
1188 %\end{equation}
1189 %and
1190 %\begin{equation}
1191 % \begin{array}{cccc}
1192 %s: & \big[ 0, 2^{10} \big[ & \longrightarrow & \llbracket 0, 9
1193 %\rrbracket^{\mathds{N}} \\
1194 % & x & \longmapsto & (s^k)_{k \in \mathds{N}}
1195 %\end{array}
1196 %\end{equation}
1197 %\end{definition}
1198
1199 %We are now able to define the function $g$, whose goal is to translate the
1200 %chaotic iterations $\Go$ on an interval of $\mathds{R}$.
1201
1202 %\begin{definition}
1203 %$g:\big[ 0, 2^{10} \big[ \longrightarrow \big[ 0, 2^{10} \big[$ is defined by:
1204 %\begin{equation}
1205 %\begin{array}{cccc}
1206 %g: & \big[ 0, 2^{10} \big[ & \longrightarrow & \big[ 0, 2^{10} \big[ \\
1207 % & x & \longmapsto & g(x)
1208 %\end{array}
1209 %\end{equation}
1210 %where g(x) is the real number of $\big[ 0, 2^{10} \big[$ defined bellow:
1211 %\begin{itemize}
1212 %\item its integral part has a binary decomposition equal to $e_0', \hdots,
1213 %e_9'$, with:
1214 % \begin{equation}
1215 %e_i' = \left\{
1216 %\begin{array}{ll}
1217 %e(x)_i & \textrm{ if } i \neq s^0\\
1218 %e(x)_i + 1 \textrm{ (mod 2)} & \textrm{ if } i = s^0\\
1219 %\end{array}
1220 %\right.
1221 %\end{equation}
1222 %\item whose decimal part is $s(x)^1, s(x)^2, \hdots$
1223 %\end{itemize}
1224 %\end{definition}
1225
1226 %\bigskip
1227
1228
1229 %In other words, if $x = \displaystyle{\sum_{k=0}^{9} 2^{9-k} e_k + 
1230 %\sum_{k=0}^{+\infty} s^{k} ~10^{-k-1}}$, then:
1231 %\begin{equation}
1232 %g(x) =
1233 %\displaystyle{\sum_{k=0}^{9} 2^{9-k} (e_k + \delta(k,s^0) \textrm{ (mod 2)}) + 
1234 %\sum_{k=0}^{+\infty} s^{k+1} 10^{-k-1}}. 
1235 %\end{equation}
1236
1237
1238 %\subsubsection{Defining a metric on $\big[ 0, 2^{10} \big[$}
1239
1240 %Numerous metrics can be defined on the set $\big[ 0, 2^{10} \big[$, the most
1241 %usual one being the Euclidian distance recalled bellow:
1242
1243 %\begin{notation}
1244 %\index{distance!euclidienne}
1245 %$\Delta$ is the Euclidian distance on $\big[ 0, 2^{10} \big[$, that is,
1246 %$\Delta(x,y) = |y-x|^2$.
1247 %\end{notation}
1248
1249 %\medskip
1250
1251 %This Euclidian distance does not reproduce exactly the notion of proximity
1252 %induced by our first distance $d$ on $\X$. Indeed $d$ is finer than $\Delta$.
1253 %This is the reason why we have to introduce the following metric:
1254
1255
1256
1257 %\begin{definition}
1258 %Let $x,y \in \big[ 0, 2^{10} \big[$.
1259 %$D$ denotes the function from $\big[ 0, 2^{10} \big[^2$ to $\mathds{R}^+$
1260 %defined by: $D(x,y) = D_e\left(e(x),e(y)\right) + D_s\left(s(x),s(y)\right)$,
1261 %where:
1262 %\begin{center}
1263 %$\displaystyle{D_e(E,\check{E}) = \sum_{k=0}^\mathsf{9} \delta (E_k,
1264 %\check{E}_k)}$, ~~and~ $\displaystyle{D_s(S,\check{S}) = \sum_{k = 1}^\infty
1265 %\dfrac{|S^k-\check{S}^k|}{10^k}}$.
1266 %\end{center}
1267 %\end{definition}
1268
1269 %\begin{proposition}
1270 %$D$ is a distance on $\big[ 0, 2^{10} \big[$.
1271 %\end{proposition}
1272
1273 %\begin{proof}
1274 %The three axioms defining a distance must be checked.
1275 %\begin{itemize}
1276 %\item $D \geqslant 0$, because everything is positive in its definition. If
1277 %$D(x,y)=0$, then $D_e(x,y)=0$, so the integral parts of $x$ and $y$ are equal
1278 %(they have the same binary decomposition). Additionally, $D_s(x,y) = 0$, then
1279 %$\forall k \in \mathds{N}^*, s(x)^k = s(y)^k$. In other words, $x$ and $y$ have
1280 %the same $k-$th decimal digit, $\forall k \in \mathds{N}^*$. And so $x=y$.
1281 %\item $D(x,y)=D(y,x)$.
1282 %\item Finally, the triangular inequality is obtained due to the fact that both
1283 %$\delta$ and $\Delta(x,y)=|x-y|$ satisfy it.
1284 %\end{itemize}
1285 %\end{proof}
1286
1287
1288 %The convergence of sequences according to $D$ is not the same than the usual
1289 %convergence related to the Euclidian metric. For instance, if $x^n \to x$
1290 %according to $D$, then necessarily the integral part of each $x^n$ is equal to
1291 %the integral part of $x$ (at least after a given threshold), and the decimal
1292 %part of $x^n$ corresponds to the one of $x$ ``as far as required''.
1293 %To illustrate this fact, a comparison between $D$ and the Euclidian distance is
1294 %given Figure \ref{fig:comparaison de distances}. These illustrations show that
1295 %$D$ is richer and more refined than the Euclidian distance, and thus is more
1296 %precise.
1297
1298
1299 %\begin{figure}[t]
1300 %\begin{center}
1301 %  \subfigure[Function $x \to dist(x;1,234) $ on the interval
1302 %$(0;5)$.]{\includegraphics[scale=.35]{DvsEuclidien.pdf}}\quad
1303 %  \subfigure[Function $x \to dist(x;3) $ on the interval
1304 %$(0;5)$.]{\includegraphics[scale=.35]{DvsEuclidien2.pdf}}
1305 %\end{center}
1306 %\caption{Comparison between $D$ (in blue) and the Euclidian distane (in green).}
1307 %\label{fig:comparaison de distances}
1308 %\end{figure}
1309
1310
1311
1312
1313 %\subsubsection{The semiconjugacy}
1314
1315 %It is now possible to define a topological semiconjugacy between $\mathcal{X}$
1316 %and an interval of $\mathds{R}$:
1317
1318 %\begin{theorem}
1319 %Chaotic iterations on the phase space $\mathcal{X}$ are simple iterations on
1320 %$\mathds{R}$, which is illustrated by the semiconjugacy of the diagram bellow:
1321 %\begin{equation*}
1322 %\begin{CD}
1323 %\left(~\mathcal{S}_{10} \times\mathds{B}^{10}, d~\right) @>G_{f_0}>>
1324 %\left(~\mathcal{S}_{10} \times\mathds{B}^{10}, d~\right)\\
1325 %    @V{\varphi}VV                    @VV{\varphi}V\\
1326 %\left( ~\big[ 0, 2^{10} \big[, D~\right)  @>>g> \left(~\big[ 0, 2^{10} \big[,
1327 %D~\right)
1328 %\end{CD}
1329 %\end{equation*}
1330 %\end{theorem}
1331
1332 %\begin{proof}
1333 %$\varphi$ has been constructed in order to be continuous and onto.
1334 %\end{proof}
1335
1336 %In other words, $\mathcal{X}$ is approximately equal to $\big[ 0, 2^\mathsf{N}
1337 %\big[$.
1338
1339
1340
1341
1342
1343
1344 %\subsection{Study of the chaotic iterations described as a real function}
1345
1346
1347 %\begin{figure}[t]
1348 %\begin{center}
1349 %  \subfigure[ICs on the interval
1350 %$(0,9;1)$.]{\includegraphics[scale=.35]{ICs09a1.pdf}}\quad
1351 %  \subfigure[ICs on the interval
1352 %$(0,7;1)$.]{\includegraphics[scale=.35]{ICs07a95.pdf}}\\
1353 %  \subfigure[ICs on the interval
1354 %$(0,5;1)$.]{\includegraphics[scale=.35]{ICs05a1.pdf}}\quad
1355 %  \subfigure[ICs on the interval
1356 %$(0;1)$]{\includegraphics[scale=.35]{ICs0a1.pdf}}
1357 %\end{center}
1358 %\caption{Representation of the chaotic iterations.}
1359 %\label{fig:ICs}
1360 %\end{figure}
1361
1362
1363
1364
1365 %\begin{figure}[t]
1366 %\begin{center}
1367 %  \subfigure[ICs on the interval
1368 %$(510;514)$.]{\includegraphics[scale=.35]{ICs510a514.pdf}}\quad
1369 %  \subfigure[ICs on the interval
1370 %$(1000;1008)$]{\includegraphics[scale=.35]{ICs1000a1008.pdf}}
1371 %\end{center}
1372 %\caption{ICs on small intervals.}
1373 %\label{fig:ICs2}
1374 %\end{figure}
1375
1376 %\begin{figure}[t]
1377 %\begin{center}
1378 %  \subfigure[ICs on the interval
1379 %$(0;16)$.]{\includegraphics[scale=.3]{ICs0a16.pdf}}\quad
1380 %  \subfigure[ICs on the interval 
1381 %$(40;70)$.]{\includegraphics[scale=.45]{ICs40a70.pdf}}\quad
1382 %\end{center}
1383 %\caption{General aspect of the chaotic iterations.}
1384 %\label{fig:ICs3}
1385 %\end{figure}
1386
1387
1388 %We have written a Python program to represent the chaotic iterations with the
1389 %vectorial negation on the real line $\mathds{R}$. Various representations of
1390 %these CIs are given in Figures \ref{fig:ICs}, \ref{fig:ICs2} and \ref{fig:ICs3}.
1391 %It can be remarked that the function $g$ is a piecewise linear function: it is
1392 %linear on each interval having the form $\left[ \dfrac{n}{10},
1393 %\dfrac{n+1}{10}\right[$, $n \in \llbracket 0;2^{10}\times 10 \rrbracket$ and its
1394 %slope is equal to 10. Let us justify these claims:
1395
1396 %\begin{proposition}
1397 %\label{Prop:derivabilite des ICs}
1398 %Chaotic iterations $g$ defined on $\mathds{R}$ have derivatives of all orders on
1399 %$\big[ 0, 2^{10} \big[$, except on the 10241 points in $I$ defined by $\left\{
1400 %\dfrac{n}{10} ~\big/~ n \in \llbracket 0;2^{10}\times 10\rrbracket \right\}$.
1401
1402 %Furthermore, on each interval of the form $\left[ \dfrac{n}{10},
1403 %\dfrac{n+1}{10}\right[$, with $n \in \llbracket 0;2^{10}\times 10 \rrbracket$,
1404 %$g$ is a linear function, having a slope equal to 10: $\forall x \notin I,
1405 %g'(x)=10$.
1406 %\end{proposition}
1407
1408
1409 %\begin{proof}
1410 %Let $I_n = \left[ \dfrac{n}{10}, \dfrac{n+1}{10}\right[$, with $n \in \llbracket
1411 %0;2^{10}\times 10 \rrbracket$. All the points of $I_n$ have the same integral
1412 %prat $e$ and the same decimal part $s^0$: on the set $I_n$,  functions $e(x)$
1413 %and $x \mapsto s(x)^0$ of Definition \ref{def:e et s} only depend on $n$. So all
1414 %the images $g(x)$ of these points $x$:
1415 %\begin{itemize}
1416 %\item Have the same integral part, which is $e$, except probably the bit number
1417 %$s^0$. In other words, this integer has approximately the same binary
1418 %decomposition than $e$, the sole exception being the digit $s^0$ (this number is
1419 %then either $e+2^{10-s^0}$ or $e-2^{10-s^0}$, depending on the parity of $s^0$,
1420 %\emph{i.e.}, it is equal to $e+(-1)^{s^0}\times 2^{10-s^0}$).
1421 %\item A shift to the left has been applied to the decimal part $y$, losing by
1422 %doing so the common first digit $s^0$. In other words, $y$ has been mapped into
1423 %$10\times y - s^0$.
1424 %\end{itemize}
1425 %To sum up, the action of $g$ on the points of $I$ is as follows: first, make a
1426 %multiplication by 10, and second, add the same constant to each term, which is
1427 %$\dfrac{1}{10}\left(e+(-1)^{s^0}\times 2^{10-s^0}\right)-s^0$.
1428 %\end{proof}
1429
1430 %\begin{remark}
1431 %Finally, chaotic iterations are elements of the large family of functions that
1432 %are both chaotic and piecewise linear (like the tent map).
1433 %\end{remark}
1434
1435
1436
1437 %\subsection{Comparison of the two metrics on $\big[ 0, 2^\mathsf{N} \big[$}
1438
1439 %The two propositions bellow allow to compare our two distances on $\big[ 0,
1440 %2^\mathsf{N} \big[$:
1441
1442 %\begin{proposition}
1443 %Id: $\left(~\big[ 0, 2^\mathsf{N} \big[,\Delta~\right) \to \left(~\big[ 0,
1444 %2^\mathsf{N} \big[, D~\right)$ is not continuous. 
1445 %\end{proposition}
1446
1447 %\begin{proof}
1448 %The sequence $x^n = 1,999\hdots 999$ constituted by $n$ 9 as decimal part, is
1449 %such that:
1450 %\begin{itemize}
1451 %\item $\Delta (x^n,2) \to 0.$
1452 %\item But $D(x^n,2) \geqslant 1$, then $D(x^n,2)$ does not converge to 0.
1453 %\end{itemize}
1454
1455 %The sequential characterization of the continuity concludes the demonstration.
1456 %\end{proof}
1457
1458
1459
1460 %A contrario:
1461
1462 %\begin{proposition}
1463 %Id: $\left(~\big[ 0, 2^\mathsf{N} \big[,D~\right) \to \left(~\big[ 0,
1464 %2^\mathsf{N} \big[, \Delta ~\right)$ is a continuous fonction. 
1465 %\end{proposition}
1466
1467 %\begin{proof}
1468 %If $D(x^n,x) \to 0$, then $D_e(x^n,x) = 0$ at least for $n$ larger than a given
1469 %threshold, because $D_e$ only returns integers. So, after this threshold, the
1470 %integral parts of all the $x^n$ are equal to the integral part of $x$. 
1471
1472 %Additionally, $D_s(x^n, x) \to 0$, then $\forall k \in \mathds{N}^*, \exists N_k
1473 %\in \mathds{N}, n \geqslant N_k \Rightarrow D_s(x^n,x) \leqslant 10^{-k}$. This
1474 %means that for all $k$, an index $N_k$ can be found such that, $\forall n
1475 %\geqslant N_k$, all the $x^n$ have the same $k$ firsts digits, which are the
1476 %digits of $x$. We can deduce the convergence $\Delta(x^n,x) \to 0$, and thus the
1477 %result.
1478 %\end{proof}
1479
1480 %The conclusion of these propositions is that the proposed metric is more precise
1481 %than the Euclidian distance, that is:
1482
1483 %\begin{corollary}
1484 %$D$ is finer than the Euclidian distance $\Delta$.
1485 %\end{corollary}
1486
1487 %This corollary can be reformulated as follows:
1488
1489 %\begin{itemize}
1490 %\item The topology produced by $\Delta$ is a subset of the topology produced by
1491 %$D$.
1492 %\item $D$ has more open sets than $\Delta$.
1493 %\item It is harder to converge for the topology $\tau_D$ inherited by $D$, than
1494 %to converge with the one inherited by $\Delta$, which is denoted here by
1495 %$\tau_\Delta$.
1496 %\end{itemize}
1497
1498
1499 %\subsection{Chaos of the chaotic iterations on $\mathds{R}$}
1500 %\label{chpt:Chaos des itérations chaotiques sur R}
1501
1502
1503
1504 %\subsubsection{Chaos according to Devaney}
1505
1506 %We have recalled previously that the chaotic iterations $\left(\Go,
1507 %\mathcal{X}_d\right)$ are chaotic according to the formulation of Devaney. We
1508 %can deduce that they are chaotic on $\mathds{R}$ too, when considering the order
1509 %topology, because:
1510 %\begin{itemize}
1511 %\item $\left(\Go, \mathcal{X}_d\right)$ and $\left(g, \big[ 0, 2^{10}
1512 %\big[_D\right)$ are semiconjugate by $\varphi$,
1513 %\item Then $\left(g, \big[ 0, 2^{10} \big[_D\right)$ is a system chaotic
1514 %according to Devaney, because the semiconjugacy preserve this character.
1515 %\item But the topology generated by $D$ is finer than the topology generated by
1516 %the Euclidian distance $\Delta$ -- which is the order topology.
1517 %\item According to Theorem \ref{Th:chaos et finesse}, we can deduce that the
1518 %chaotic iterations $g$ are indeed chaotic, as defined by Devaney, for the order
1519 %topology on $\mathds{R}$.
1520 %\end{itemize}
1521
1522 %This result can be formulated as follows.
1523
1524 %\begin{theorem}
1525 %\label{th:IC et topologie de l'ordre}
1526 %The chaotic iterations $g$ on $\mathds{R}$ are chaotic according to the
1527 %Devaney's formulation, when $\mathds{R}$ has his usual topology, which is the
1528 %order topology.
1529 %\end{theorem}
1530
1531 %Indeed this result is weaker than the theorem establishing the chaos for the
1532 %finer topology $d$. However the Theorem \ref{th:IC et topologie de l'ordre}
1533 %still remains important. Indeed, we have studied in our previous works a set
1534 %different from the usual set of study ($\mathcal{X}$ instead of $\mathds{R}$),
1535 %in order to be as close as possible from the computer: the properties of
1536 %disorder proved theoretically will then be preserved when computing. However, we
1537 %could wonder whether this change does not lead to a disorder of a lower quality.
1538 %In other words, have we replaced a situation of a good disorder lost when
1539 %computing, to another situation of a disorder preserved but of bad quality.
1540 %Theorem \ref{th:IC et topologie de l'ordre} prove exactly the contrary.
1541
1542
1543
1544
1545
1546
1547
1548 \section{Security Analysis}
1549
1550
1551
1552
1553 In this section the concatenation of two strings $u$ and $v$ is classically
1554 denoted by $uv$.
1555 In a cryptographic context, a pseudo-random generator is a deterministic
1556 algorithm $G$ transforming strings  into strings and such that, for any
1557 seed $w$ of length $N$, $G(w)$ (the output of $G$ on the input $w$) has size
1558 $\ell_G(N)$ with $\ell_G(N)>N$.
1559 The notion of {\it secure} PRNGs can now be defined as follows. 
1560
1561 \begin{definition}
1562 A cryptographic PRNG $G$ is secure if for any probabilistic polynomial time
1563 algorithm $D$, for any positive polynomial $p$, and for all sufficiently
1564 large $k$'s,
1565 $$| \mathrm{Pr}[D(G(U_k))=1]-Pr[D(U_{\ell_G(k)}=1]|< \frac{1}{p(N)},$$
1566 where $U_r$ is the uniform distribution over $\{0,1\}^r$ and the
1567 probabilities are taken over $U_N$, $U_{\ell_G(N)}$ as well as over the
1568 internal coin tosses of $D$. 
1569 \end{definition}
1570
1571 Intuitively, it means that there is no polynomial time algorithm that can
1572 distinguish a perfect uniform random generator from $G$ with a non
1573 negligible probability. The interested reader is referred
1574 to~\cite[chapter~3]{Goldreich} for more information. Note that it is
1575 quite easily possible to change the function $\ell$ into any polynomial
1576 function $\ell^\prime$ satisfying $\ell^\prime(N)>N)$~\cite[Chapter 3.3]{Goldreich}.
1577
1578 The generation schema developed in (\ref{equation Oplus}) is based on a
1579 pseudo-random generator. Let $H$ be a cryptographic PRNG. We may assume,
1580 without loss of generality, that for any string $S_0$ of size $N$, the size
1581 of $H(S_0)$ is $kN$, with $k>2$. It means that $\ell_H(N)=kN$. 
1582 Let $S_1,\ldots,S_k$ be the 
1583 strings of length $N$ such that $H(S_0)=S_1 \ldots S_k$ ($H(S_0)$ is the concatenation of
1584 the $S_i$'s). The cryptographic PRNG $X$ defined in (\ref{equation Oplus})
1585 is the algorithm mapping any string of length $2N$ $x_0S_0$ into the string
1586 $(x_0\oplus S_0 \oplus S_1)(x_0\oplus S_0 \oplus S_1\oplus S_2)\ldots
1587 (x_o\bigoplus_{i=0}^{i=k}S_i)$. Particularly one has $\ell_{X}(2N)=kN=\ell_H(N)$. 
1588 We claim now that if this PRNG is secure,
1589 then the new one is secure too.
1590
1591 \begin{proposition}
1592 If $H$ is a secure cryptographic PRNG, then $X$ is a secure cryptographic
1593 PRNG too.
1594 \end{proposition}
1595
1596 \begin{proof}
1597 The proposition is proved by contraposition. Assume that $X$ is not
1598 secure. By Definition, there exists a polynomial time probabilistic
1599 algorithm $D$, a positive polynomial $p$, such that for all $k_0$ there exists
1600 $N\geq \frac{k_0}{2}$ satisfying 
1601 $$| \mathrm{Pr}[D(X(U_{2N}))=1]-\mathrm{Pr}[D(U_{kN}=1]|\geq \frac{1}{p(2N)}.$$
1602 We describe a new probabilistic algorithm $D^\prime$ on an input $w$ of size
1603 $kN$:
1604 \begin{enumerate}
1605 \item Decompose $w$ into $w=w_1\ldots w_{k}$, where each $w_i$ has size $N$.
1606 \item Pick a string $y$ of size $N$ uniformly at random.
1607 \item Compute $z=(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y
1608   \bigoplus_{i=1}^{i=k} w_i).$
1609 \item Return $D(z)$.
1610 \end{enumerate}
1611
1612
1613 Consider  for each $y\in \mathbb{B}^{kN}$ the function $\varphi_{y}$
1614 from $\mathbb{B}^{kN}$ into $\mathbb{B}^{kN}$ mapping $w=w_1\ldots w_k$
1615 (each $w_i$ has length $N$) to 
1616 $(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y
1617   \bigoplus_{i=1}^{i=k_1} w_i).$ By construction, one has for every $w$,
1618 \begin{equation}\label{PCH-1}
1619 D^\prime(w)=D(\varphi_y(w)),
1620 \end{equation}
1621 where $y$ is randomly generated. 
1622 Moreover, for each $y$, $\varphi_{y}$ is injective: if 
1623 $(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y\bigoplus_{i=1}^{i=k_1}
1624 w_i)=(y\oplus w_1^\prime)(y\oplus w_1^\prime\oplus w_2^\prime)\ldots
1625 (y\bigoplus_{i=1}^{i=k} w_i^\prime)$, then for every $1\leq j\leq k$,
1626 $y\bigoplus_{i=1}^{i=j} w_i^\prime=y\bigoplus_{i=1}^{i=j} w_i$. It follows,
1627 by a direct induction, that $w_i=w_i^\prime$. Furthermore, since $\mathbb{B}^{kN}$
1628 is finite, each $\varphi_y$ is bijective. Therefore, and using (\ref{PCH-1}),
1629 one has
1630 \begin{equation}\label{PCH-2}
1631 \mathrm{Pr}[D^\prime(U_{kN})=1]=\mathrm{Pr}[D(\varphi_y(U_{kN}))=1]=\mathrm{Pr}[D(U_{kN})=1].
1632 \end{equation}
1633
1634 Now, using (\ref{PCH-1}) again, one has  for every $x$,
1635 \begin{equation}\label{PCH-3}
1636 D^\prime(H(x))=D(\varphi_y(H(x))),
1637 \end{equation}
1638 where $y$ is randomly generated. By construction, $\varphi_y(H(x))=X(yx)$,
1639 thus
1640 \begin{equation}\label{PCH-3}
1641 D^\prime(H(x))=D(yx),
1642 \end{equation}
1643 where $y$ is randomly generated. 
1644 It follows that 
1645
1646 \begin{equation}\label{PCH-4}
1647 \mathrm{Pr}[D^\prime(H(U_{N}))=1]=\mathrm{Pr}[D(U_{2N})=1].
1648 \end{equation}
1649  From (\ref{PCH-2}) and (\ref{PCH-4}), one can deduce that
1650 there exist a polynomial time probabilistic
1651 algorithm $D^\prime$, a positive polynomial $p$, such that for all $k_0$ there exists
1652 $N\geq \frac{k_0}{2}$ satisfying 
1653 $$| \mathrm{Pr}[D(H(U_{N}))=1]-\mathrm{Pr}[D(U_{kN}=1]|\geq \frac{1}{p(2N)},$$
1654 proving that $H$ is not secure, a contradiction. 
1655 \end{proof}
1656
1657
1658
1659
1660
1661 \section{Conclusion}
1662
1663
1664 In  this  paper  we have  presented  a  new  class  of  PRNGs based  on  chaotic
1665 iterations. We have proven that these PRNGs are chaotic in the sense of Devenay. 
1666
1667 An efficient implementation on GPU allows us to generate a huge number of pseudo
1668 random numbers  per second  (about 20Gsample/s). Our  PRNGs succeed to  pass the
1669 hardest batteries of test (TestU01).
1670
1671 In future  work we plan  to extend our  work in order to  have cryptographically
1672 secure PRNGs because in some situations this property may be important.
1673
1674 \bibliographystyle{plain}
1675 \bibliography{mabase}
1676 \end{document}