]> AND Private Git Repository - prng_gpu.git/blob - prng_gpu.tex
Logo AND Algorithmique Numérique Distribuée

Private GIT Repository
fajflak
[prng_gpu.git] / prng_gpu.tex
1 %\documentclass{article}
2 \documentclass[10pt,journal,letterpaper,compsoc]{IEEEtran}
3 \usepackage[utf8]{inputenc}
4 \usepackage[T1]{fontenc}
5 \usepackage{fullpage}
6 \usepackage{fancybox}
7 \usepackage{amsmath}
8 \usepackage{amscd}
9 \usepackage{moreverb}
10 \usepackage{commath}
11 \usepackage[ruled,vlined]{algorithm2e}
12 \usepackage{listings}
13 \usepackage[standard]{ntheorem}
14 \usepackage{algorithmic}
15 \usepackage{slashbox}
16 \usepackage{ctable}
17 \usepackage{tabularx}
18 \usepackage{multirow}
19
20 % Pour mathds : les ensembles IR, IN, etc.
21 \usepackage{dsfont}
22
23 % Pour avoir des intervalles d'entiers
24 \usepackage{stmaryrd}
25
26 \usepackage{graphicx}
27 % Pour faire des sous-figures dans les figures
28 \usepackage{subfigure}
29
30 \usepackage{color}
31
32 \newtheorem{notation}{Notation}
33
34 \newcommand{\X}{\mathcal{X}}
35 \newcommand{\Go}{G_{f_0}}
36 \newcommand{\B}{\mathds{B}}
37 \newcommand{\N}{\mathds{N}}
38 \newcommand{\BN}{\mathds{B}^\mathsf{N}}
39 \let\sur=\overline
40
41 \newcommand{\alert}[1]{\begin{color}{blue}\textit{#1}\end{color}}
42
43 \title{Efficient and Cryptographically Secure Generation of Chaotic Pseudorandom Numbers on GPU}
44 \begin{document}
45
46 \author{Jacques M. Bahi, Rapha\"{e}l Couturier,  Christophe
47 Guyeux, and Pierre-Cyrille Héam\thanks{Authors in alphabetic order}}
48    
49
50 \IEEEcompsoctitleabstractindextext{
51 \begin{abstract}
52 In this paper we present a new pseudorandom number generator (PRNG) on
53 graphics processing units  (GPU). This PRNG is based  on the so-called chaotic iterations.  It
54 is firstly proven  to be chaotic according to the Devaney's  formulation. We thus propose  an efficient
55 implementation  for  GPU that successfully passes the   {\it BigCrush} tests, deemed to be the  hardest
56 battery of tests in TestU01.  Experiments show that this PRNG can generate
57 about 20 billion of random numbers  per second on Tesla C1060 and NVidia GTX280
58 cards.
59 It is then established that, under reasonable assumptions, the proposed PRNG can be cryptographically 
60 secure.
61 A chaotic version of the Blum-Goldwasser asymmetric key encryption scheme is finally proposed.
62
63
64 \end{abstract}
65 }
66
67 \maketitle
68
69 \IEEEdisplaynotcompsoctitleabstractindextext
70 \IEEEpeerreviewmaketitle
71
72
73 \section{Introduction}
74
75 Randomness is of importance in many fields such as scientific simulations or cryptography. 
76 ``Random numbers'' can mainly be generated either by a deterministic and reproducible algorithm
77 called a pseudorandom number generator (PRNG), or by a physical non-deterministic 
78 process having all the characteristics of a random noise, called a truly random number
79 generator (TRNG). 
80 In this paper, we focus on reproducible generators, useful for instance in
81 Monte-Carlo based simulators or in several cryptographic schemes.
82 These domains need PRNGs that are statistically irreproachable. 
83 In some fields such as in numerical simulations, speed is a strong requirement
84 that is usually attained by using parallel architectures. In that case,
85 a recurrent problem is that a deflation of the statistical qualities is often
86 reported, when the parallelization of a good PRNG is realized.
87 This is why ad-hoc PRNGs for each possible architecture must be found to
88 achieve both speed and randomness.
89 On the other side, speed is not the main requirement in cryptography: the great
90 need is to define \emph{secure} generators able to withstand malicious
91 attacks. Roughly speaking, an attacker should not be able in practice to make 
92 the distinction between numbers obtained with the secure generator and a true random
93 sequence. \begin{color}{red} Or, in an equivalent formulation, he or she should not be
94 able (in practice) to predict the next bit of the generator, having the knowledge of all the 
95 binary digits that have been already released. ``Being able in practice'' refers here
96 to the possibility to achieve this attack in polynomial time, and to the exponential growth
97 of the difficulty of this challenge when the size of the parameters of the PRNG increases.
98 \end{color}
99
100 Finally, a small part of the community working in this domain focuses on a
101 third requirement, that is to define chaotic generators.
102 The main idea is to take benefits from a chaotic dynamical system to obtain a
103 generator that is unpredictable, disordered, sensible to its seed, or in other word chaotic.
104 Their desire is to map a given chaotic dynamics into a sequence that seems random 
105 and unassailable due to chaos.
106 However, the chaotic maps used as a pattern are defined in the real line 
107 whereas computers deal with finite precision numbers.
108 This distortion leads to a deflation of both chaotic properties and speed.
109 Furthermore, authors of such chaotic generators often claim their PRNG
110 as secure due to their chaos properties, but there is no obvious relation
111 between chaos and security as it is understood in cryptography.
112 This is why the use of chaos for PRNG still remains marginal and disputable.
113
114 The authors' opinion is that topological properties of disorder, as they are
115 properly defined in the mathematical theory of chaos, can reinforce the quality
116 of a PRNG. But they are not substitutable for security or statistical perfection.
117 Indeed, to the authors' mind, such properties can be useful in the two following situations. On the
118 one hand, a post-treatment based on a chaotic dynamical system can be applied
119 to a PRNG statistically deflective, in order to improve its statistical 
120 properties. Such an improvement can be found, for instance, in~\cite{bgw09:ip,bcgr11:ip}.
121 On the other hand, chaos can be added to a fast, statistically perfect PRNG and/or a
122 cryptographically secure one, in case where chaos can be of interest,
123 \emph{only if these last properties are not lost during
124 the proposed post-treatment}. Such an assumption is behind this research work.
125 It leads to the attempts to define a 
126 family of PRNGs that are chaotic while being fast and statistically perfect,
127 or cryptographically secure.
128 Let us finish this paragraph by noticing that, in this paper, 
129 statistical perfection refers to the ability to pass the whole 
130 {\it BigCrush} battery of tests, which is widely considered as the most
131 stringent statistical evaluation of a sequence claimed as random.
132 This battery can be found in the well-known TestU01 package~\cite{LEcuyerS07}.
133 \begin{color}{red}
134 More precisely, each time we performed a test on a PRNG, we ran it
135 twice in order to observe if all $p-$values are inside [0.01, 0.99]. In
136 fact, we observed that few $p-$values (less than ten) are sometimes
137 outside this interval but inside [0.001, 0.999], so that is why a
138 second run allows us to confirm that the values outside are not for
139 the same test. With this approach all our PRNGs pass the {\it
140   BigCrush} successfully and all $p-$values are at least once inside
141 [0.01, 0.99].
142 \end{color}
143 Chaos, for its part, refers to the well-established definition of a
144 chaotic dynamical system proposed by Devaney~\cite{Devaney}.
145
146 In a previous work~\cite{bgw09:ip,guyeux10} we have proposed a post-treatment on PRNGs making them behave
147 as a chaotic dynamical system. Such a post-treatment leads to a new category of
148 PRNGs. We have shown that proofs of Devaney's chaos can be established for this
149 family, and that the sequence obtained after this post-treatment can pass the
150 NIST~\cite{Nist10}, DieHARD~\cite{Marsaglia1996}, and TestU01~\cite{LEcuyerS07} batteries of tests, even if the inputted generators
151 cannot.
152 The proposition of this paper is to improve widely the speed of the formerly
153 proposed generator, without any lack of chaos or statistical properties.
154 In particular, a version of this PRNG on graphics processing units (GPU)
155 is proposed.
156 Although GPU was initially designed  to accelerate
157 the manipulation of  images, they are nowadays commonly  used in many scientific
158 applications. Therefore,  it is important  to be able to  generate pseudorandom
159 numbers inside a GPU when a scientific application runs in it. This remark
160 motivates our proposal of a chaotic and statistically perfect PRNG for GPU.  
161 Such device
162 allows us to generate almost 20 billion of pseudorandom numbers per second.
163 Furthermore, we show that the proposed post-treatment preserves the
164 cryptographical security of the inputted PRNG, when this last has such a 
165 property.
166 Last, but not least, we propose a rewriting of the Blum-Goldwasser asymmetric
167 key encryption protocol by using the proposed method.
168
169 The remainder of this paper  is organized as follows. In Section~\ref{section:related
170   works} we  review some GPU implementations  of PRNGs.  Section~\ref{section:BASIC
171   RECALLS} gives some basic recalls  on the well-known Devaney's formulation of chaos, 
172   and on an iteration process called ``chaotic
173 iterations'' on which the post-treatment is based. 
174 The proposed PRNG and its proof of chaos are given in  Section~\ref{sec:pseudorandom}.
175 \begin{color}{red}
176 Section~\ref{The generation of pseudorandom sequence} illustrates the statistical
177 improvement related to the chaotic iteration based post-treatment, for
178 our previously released PRNGs and a new efficient 
179 implementation on CPU.
180 \end{color}
181  Section~\ref{sec:efficient PRNG
182   gpu}   describes and evaluates theoretically  the  GPU   implementation. 
183 Such generators are experimented in 
184 Section~\ref{sec:experiments}.
185 We show in Section~\ref{sec:security analysis} that, if the inputted
186 generator is cryptographically secure, then it is the case too for the
187 generator provided by the post-treatment.
188 Such a proof leads to the proposition of a cryptographically secure and
189 chaotic generator on GPU based on the famous Blum Blum Shub
190 in Section~\ref{sec:CSGPU}, \begin{color}{red} to a practical
191 security evaluation in Section~\ref{sec:Practicak evaluation}, \end{color} and to an improvement of the
192 Blum-Goldwasser protocol in Sect.~\ref{Blum-Goldwasser}.
193 This research work ends by a conclusion section, in which the contribution is
194 summarized and intended future work is presented.
195
196
197
198
199 \section{Related work on GPU based PRNGs}
200 \label{section:related works}
201
202 Numerous research works on defining GPU based PRNGs have already been proposed  in the
203 literature, so that exhaustivity is impossible.
204 This is why authors of this document only give reference to the most significant attempts 
205 in this domain, from their subjective point of view. 
206 The  quantity of pseudorandom numbers generated per second is mentioned here 
207 only when the information is given in the related work. 
208 A million numbers  per second will be simply written as
209 1MSample/s whereas a billion numbers per second is 1GSample/s.
210
211 In \cite{Pang:2008:cec}  a PRNG based on  cellular automata is defined
212 with no  requirement to an high  precision  integer   arithmetic  or to any bitwise
213 operations. Authors can   generate  about
214 3.2MSamples/s on a GeForce 7800 GTX GPU, which is quite an old card now.
215 However, there is neither a mention of statistical tests nor any proof of
216 chaos or cryptography in this document.
217
218 In \cite{ZRKB10}, the authors propose  different versions of efficient GPU PRNGs
219 based on  Lagged Fibonacci or Hybrid  Taus.  They have  used these
220 PRNGs   for  Langevin   simulations   of  biomolecules   fully  implemented   on
221 GPU. Performances of  the GPU versions are far better than  those obtained with a
222 CPU, and these PRNGs succeed to pass the {\it BigCrush} battery of TestU01. 
223 However the evaluations of the proposed PRNGs are only statistical ones.
224
225
226 Authors of~\cite{conf/fpga/ThomasHL09}  have studied the  implementation of some
227 PRNGs on  different computing architectures: CPU,  field-programmable gate array
228 (FPGA), massively parallel  processors, and GPU. This study is of interest, because
229 the  performance  of the  same  PRNGs on  different architectures are compared. 
230 FPGA appears as  the  fastest  and the most
231 efficient architecture, providing the fastest number of generated pseudorandom numbers
232 per joule. 
233 However, we notice that authors can ``only'' generate between 11 and 16GSamples/s
234 with a GTX 280  GPU, which should be compared with
235 the results presented in this document.
236 We can remark too that the PRNGs proposed in~\cite{conf/fpga/ThomasHL09} are only
237 able to pass the {\it Crush} battery, which is far easier than the {\it Big Crush} one.
238
239 Lastly, Cuda  has developed  a  library for  the  generation of  pseudorandom numbers  called
240 Curand~\cite{curand11}.        Several       PRNGs        are       implemented, among
241 other things 
242 Xorwow~\cite{Marsaglia2003} and  some variants of Sobol. The  tests reported show that
243 their  fastest version provides  15GSamples/s on  the new  Fermi C2050  card. 
244 But their PRNGs cannot pass the whole TestU01 battery (only one test is failed).
245 \newline
246 \newline
247 We can finally remark that, to the best of our knowledge, no GPU implementation has been proven to be chaotic, and the cryptographically secure property has surprisingly never been considered.
248
249 \section{Basic Recalls}
250 \label{section:BASIC RECALLS}
251
252 This section is devoted to basic definitions and terminologies in the fields of
253 topological chaos and chaotic iterations. We assume the reader is familiar
254 with basic notions on topology (see for instance~\cite{Devaney}).
255
256
257 \subsection{Devaney's Chaotic Dynamical Systems}
258 \label{subsec:Devaney}
259 In the sequel $S^{n}$ denotes the $n^{th}$ term of a sequence $S$ and $V_{i}$
260 denotes the $i^{th}$ component of a vector $V$. $f^{k}=f\circ ...\circ f$
261 is for the $k^{th}$ composition of a function $f$. Finally, the following
262 notation is used: $\llbracket1;N\rrbracket=\{1,2,\hdots,N\}$.
263
264
265 Consider a topological space $(\mathcal{X},\tau)$ and a continuous function $f :
266 \mathcal{X} \rightarrow \mathcal{X}$.
267
268 \begin{definition}
269 The function $f$ is said to be \emph{topologically transitive} if, for any pair of open sets
270 $U,V \subset \mathcal{X}$, there exists $k>0$ such that $f^k(U) \cap V \neq
271 \varnothing$.
272 \end{definition}
273
274 \begin{definition}
275 An element $x$ is a \emph{periodic point} for $f$ of period $n\in \mathds{N}^*$
276 if $f^{n}(x)=x$.% The set of periodic points of $f$ is denoted $Per(f).$
277 \end{definition}
278
279 \begin{definition}
280 $f$ is said to be \emph{regular} on $(\mathcal{X}, \tau)$ if the set of periodic
281 points for $f$ is dense in $\mathcal{X}$: for any point $x$ in $\mathcal{X}$,
282 any neighborhood of $x$ contains at least one periodic point (without
283 necessarily the same period).
284 \end{definition}
285
286
287 \begin{definition}[Devaney's formulation of chaos~\cite{Devaney}]
288 The function $f$ is said to be \emph{chaotic} on $(\mathcal{X},\tau)$ if $f$ is regular and
289 topologically transitive.
290 \end{definition}
291
292 The chaos property is strongly linked to the notion of ``sensitivity'', defined
293 on a metric space $(\mathcal{X},d)$ by:
294
295 \begin{definition}
296 \label{sensitivity} The function $f$ has \emph{sensitive dependence on initial conditions}
297 if there exists $\delta >0$ such that, for any $x\in \mathcal{X}$ and any
298 neighborhood $V$ of $x$, there exist $y\in V$ and $n > 0$ such that
299 $d\left(f^{n}(x), f^{n}(y)\right) >\delta $.
300
301 The constant $\delta$ is called the \emph{constant of sensitivity} of $f$.
302 \end{definition}
303
304 Indeed, Banks \emph{et al.} have proven in~\cite{Banks92} that when $f$ is
305 chaotic and $(\mathcal{X}, d)$ is a metric space, then $f$ has the property of
306 sensitive dependence on initial conditions (this property was formerly an
307 element of the definition of chaos). To sum up, quoting Devaney
308 in~\cite{Devaney}, a chaotic dynamical system ``is unpredictable because of the
309 sensitive dependence on initial conditions. It cannot be broken down or
310 simplified into two subsystems which do not interact because of topological
311 transitivity. And in the midst of this random behavior, we nevertheless have an
312 element of regularity''. Fundamentally different behaviors are consequently
313 possible and occur in an unpredictable way.
314
315
316
317 \subsection{Chaotic Iterations}
318 \label{sec:chaotic iterations}
319
320
321 Let us consider  a \emph{system} with a finite  number $\mathsf{N} \in
322 \mathds{N}^*$ of elements  (or \emph{cells}), so that each  cell has a
323 Boolean  \emph{state}. Having $\mathsf{N}$ Boolean values for these
324  cells  leads to the definition of a particular \emph{state  of the
325 system}. A sequence which  elements belong to $\llbracket 1;\mathsf{N}
326 \rrbracket $ is called a \emph{strategy}. The set of all strategies is
327 denoted by $\llbracket 1, \mathsf{N} \rrbracket^\mathds{N}.$
328
329 \begin{definition}
330 \label{Def:chaotic iterations}
331 The      set       $\mathds{B}$      denoting      $\{0,1\}$,      let
332 $f:\mathds{B}^{\mathsf{N}}\longrightarrow  \mathds{B}^{\mathsf{N}}$ be
333 a  function  and  $S\in  \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$  be  a  ``strategy''.  The  so-called
334 \emph{chaotic      iterations}     are     defined      by     $x^0\in
335 \mathds{B}^{\mathsf{N}}$ and
336 \begin{equation}
337 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
338 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
339 \begin{array}{ll}
340   x_i^{n-1} &  \text{ if  }S^n\neq i \\
341   \left(f(x^{n-1})\right)_{S^n} & \text{ if }S^n=i.
342 \end{array}\right.
343 \end{equation}
344 \end{definition}
345
346 In other words, at the $n^{th}$ iteration, only the $S^{n}-$th cell is
347 \textquotedblleft  iterated\textquotedblright .  Note  that in  a more
348 general  formulation,  $S^n$  can   be  a  subset  of  components  and
349 $\left(f(x^{n-1})\right)_{S^{n}}$      can     be      replaced     by
350 $\left(f(x^{k})\right)_{S^{n}}$, where  $k<n$, describing for example,
351 delays  transmission~\cite{Robert1986,guyeux10}.  Finally,  let us  remark that
352 the term  ``chaotic'', in  the name of  these iterations,  has \emph{a
353 priori} no link with the mathematical theory of chaos, presented above.
354
355
356 Let us now recall how to define a suitable metric space where chaotic iterations
357 are continuous. For further explanations, see, e.g., \cite{guyeux10}.
358
359 Let $\delta $ be the \emph{discrete Boolean metric}, $\delta
360 (x,y)=0\Leftrightarrow x=y.$ Given a function $f$, define the function
361 $F_{f}:  \llbracket1;\mathsf{N}\rrbracket\times \mathds{B}^{\mathsf{N}} 
362 \longrightarrow  \mathds{B}^{\mathsf{N}}$
363 \begin{equation*}
364 \begin{array}{lrll}
365 & (k,E) & \longmapsto & \left( E_{j}.\delta (k,j)+ f(E)_{k}.\overline{\delta
366 (k,j)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket}%
367 \end{array}%
368 \end{equation*}%
369 \noindent where + and . are the Boolean addition and product operations.
370 Consider the phase space:
371 \begin{equation}
372 \mathcal{X} = \llbracket 1 ; \mathsf{N} \rrbracket^\mathds{N} \times
373 \mathds{B}^\mathsf{N},
374 \end{equation}
375 \noindent and the map defined on $\mathcal{X}$:
376 \begin{equation}
377 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), \label{Gf}
378 \end{equation}
379 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
380 (S^{n})_{n\in \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow (S^{n+1})_{n\in
381 \mathds{N}}\in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}$ and $i$ is the \emph{initial function} 
382 $i:(S^{n})_{n\in \mathds{N}} \in \llbracket 1, \mathsf{N} \rrbracket^\mathds{N}\longrightarrow S^{0}\in \llbracket
383 1;\mathsf{N}\rrbracket$. Then the chaotic iterations proposed in
384 Definition \ref{Def:chaotic iterations} can be described by the following iterations:
385 \begin{equation}
386 \left\{
387 \begin{array}{l}
388 X^0 \in \mathcal{X} \\
389 X^{k+1}=G_{f}(X^k).%
390 \end{array}%
391 \right.
392 \end{equation}%
393
394 With this formulation, a shift function appears as a component of chaotic
395 iterations. The shift function is a famous example of a chaotic
396 map~\cite{Devaney} but its presence is not sufficient enough to claim $G_f$ as
397 chaotic. 
398 To study this claim, a new distance between two points $X = (S,E), Y =
399 (\check{S},\check{E})\in
400 \mathcal{X}$ has been introduced in \cite{guyeux10} as follows:
401 \begin{equation}
402 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
403 \end{equation}
404 \noindent where
405 \begin{equation}
406 \left\{
407 \begin{array}{lll}
408 \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
409 }\delta (E_{k},\check{E}_{k})}, \\
410 \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
411 \sum_{k=1}^{\infty }\dfrac{|S^k-\check{S}^k|}{10^{k}}}.%
412 \end{array}%
413 \right.
414 \end{equation}
415
416
417 This new distance has been introduced to satisfy the following requirements.
418 \begin{itemize}
419 \item When the number of different cells between two systems is increasing, then
420 their distance should increase too.
421 \item In addition, if two systems present the same cells and their respective
422 strategies start with the same terms, then the distance between these two points
423 must be small because the evolution of the two systems will be the same for a
424 while. Indeed, both dynamical systems start with the same initial condition,
425 use the same update function, and as strategies are the same for a while, furthermore
426 updated components are the same as well.
427 \end{itemize}
428 The distance presented above follows these recommendations. Indeed, if the floor
429 value $\lfloor d(X,Y)\rfloor $ is equal to $n$, then the systems $E, \check{E}$
430 differ in $n$ cells ($d_e$ is indeed the Hamming distance). In addition, $d(X,Y) - \lfloor d(X,Y) \rfloor $ is a
431 measure of the differences between strategies $S$ and $\check{S}$. More
432 precisely, this floating part is less than $10^{-k}$ if and only if the first
433 $k$ terms of the two strategies are equal. Moreover, if the $k^{th}$ digit is
434 nonzero, then the $k^{th}$ terms of the two strategies are different.
435 The impact of this choice for a distance will be investigated at the end of the document.
436
437 Finally, it has been established in \cite{guyeux10} that,
438
439 \begin{proposition}
440 Let $f$ be a map from $\mathds{B}^\mathsf{N}$ to itself. Then $G_{f}$ is continuous in
441 the metric space $(\mathcal{X},d)$.
442 \end{proposition}
443
444 The chaotic property of $G_f$ has been firstly established for the vectorial
445 Boolean negation $f_0(x_1,\hdots, x_\mathsf{N}) =  (\overline{x_1},\hdots, \overline{x_\mathsf{N}})$ \cite{guyeux10}. To obtain a characterization, we have secondly
446 introduced the notion of asynchronous iteration graph recalled bellow.
447
448 Let $f$ be a map from $\mathds{B}^\mathsf{N}$ to itself. The
449 {\emph{asynchronous iteration graph}} associated with $f$ is the
450 directed graph $\Gamma(f)$ defined by: the set of vertices is
451 $\mathds{B}^\mathsf{N}$; for all $x\in\mathds{B}^\mathsf{N}$ and 
452 $i\in \llbracket1;\mathsf{N}\rrbracket$,
453 the graph $\Gamma(f)$ contains an arc from $x$ to $F_f(i,x)$. 
454 The relation between $\Gamma(f)$ and $G_f$ is clear: there exists a
455 path from $x$ to $x'$ in $\Gamma(f)$ if and only if there exists a
456 strategy $s$ such that the parallel iteration of $G_f$ from the
457 initial point $(s,x)$ reaches the point $x'$.
458 We have then proven in \cite{bcgr11:ip} that,
459
460
461 \begin{theorem}
462 \label{Th:Caractérisation   des   IC   chaotiques}  
463 Let $f:\mathds{B}^\mathsf{N}\to\mathds{B}^\mathsf{N}$. $G_f$ is chaotic  (according to  Devaney) 
464 if and only if $\Gamma(f)$ is strongly connected.
465 \end{theorem}
466
467 Finally, we have established in \cite{bcgr11:ip} that,
468 \begin{theorem}
469   Let $f: \mathds{B}^{n} \rightarrow \mathds{B}^{n}$, $\Gamma(f)$ its
470   iteration graph, $\check{M}$ its adjacency
471   matrix and $M$
472   a $n\times n$ matrix defined by 
473   $
474   M_{ij} = \frac{1}{n}\check{M}_{ij}$ %\textrm{ 
475   if $i \neq j$ and  
476   $M_{ii} = 1 - \frac{1}{n} \sum\limits_{j=1, j\neq i}^n \check{M}_{ij}$ otherwise.
477   
478   If $\Gamma(f)$ is strongly connected, then 
479   the output of the PRNG detailed in Algorithm~\ref{CI Algorithm} follows 
480   a law that tends to the uniform distribution 
481   if and only if $M$ is a double stochastic matrix.
482 \end{theorem} 
483
484
485 These results of chaos and uniform distribution have led us to study the possibility of building a
486 pseudorandom number generator (PRNG) based on the chaotic iterations. 
487 As $G_f$, defined on the domain   $\llbracket 1 ;  \mathsf{N} \rrbracket^{\mathds{N}} 
488 \times \mathds{B}^\mathsf{N}$, is built from Boolean networks $f : \mathds{B}^\mathsf{N}
489 \rightarrow \mathds{B}^\mathsf{N}$, we can preserve the theoretical properties on $G_f$
490 during implementations (due to the discrete nature of $f$). Indeed, it is as if
491 $\mathds{B}^\mathsf{N}$ represents the memory of the computer whereas $\llbracket 1 ;  \mathsf{N}
492 \rrbracket^{\mathds{N}}$ is its input stream (the seeds, for instance, in PRNG, or a physical noise in TRNG).
493 Let us finally remark that the vectorial negation satisfies the hypotheses of both theorems above.
494
495 \section{Application to Pseudorandomness}
496 \label{sec:pseudorandom}
497
498 \subsection{A First Pseudorandom Number Generator}
499
500 We have proposed in~\cite{bgw09:ip} a new family of generators that receives 
501 two PRNGs as inputs. These two generators are mixed with chaotic iterations, 
502 leading thus to a new PRNG that 
503 \begin{color}{red}
504 should improve the statistical properties of each
505 generator taken alone. 
506 Furthermore, the generator obtained by this way possesses various chaos properties that none of the generators used as input
507 present.
508
509
510
511 \begin{algorithm}[h!]
512 \begin{small}
513 \KwIn{a function $f$, an iteration number $b$, an initial configuration $x^0$
514 ($n$ bits)}
515 \KwOut{a configuration $x$ ($n$ bits)}
516 $x\leftarrow x^0$\;
517 $k\leftarrow b + PRNG_1(b)$\;
518 \For{$i=0,\dots,k$}
519 {
520 $s\leftarrow{PRNG_2(n)}$\;
521 $x\leftarrow{F_f(s,x)}$\;
522 }
523 return $x$\;
524 \end{small}
525 \caption{An arbitrary round of $Old~ CI~ PRNG_f(PRNG_1,PRNG_2)$}
526 \label{CI Algorithm}
527 \end{algorithm}
528
529
530
531
532 This generator is synthesized in Algorithm~\ref{CI Algorithm}.
533 It takes as input: a Boolean function $f$ satisfying Theorem~\ref{Th:Caractérisation   des   IC   chaotiques};
534 an integer $b$, ensuring that the number of executed iterations
535 between two outputs is at least $b$
536 and at most $2b+1$; and an initial configuration $x^0$.
537 It returns the new generated configuration $x$.  Internally, it embeds two
538 inputted generators $PRNG_i(k), i=1,2$,
539  which must return integers
540 uniformly distributed
541 into $\llbracket 1 ; k \rrbracket$.
542 For instance, these PRNGs can be the \textit{XORshift}~\cite{Marsaglia2003},
543 being a category of very fast PRNGs designed by George Marsaglia
544 that repeatedly uses the transform of exclusive or (XOR, $\oplus$) on a number
545 with a bit shifted version of it. Such a PRNG, which has a period of
546 $2^{32}-1=4.29\times10^9$, is summed up in Algorithm~\ref{XORshift}. 
547 This XORshift, or any other reasonable PRNG, is used
548 in our own generator to compute both the number of iterations between two
549 outputs (provided by $PRNG_1$) and the strategy elements ($PRNG_2$).
550
551 %This former generator has successively passed various batteries of statistical tests, as the NIST~\cite{bcgr11:ip}, DieHARD~\cite{Marsaglia1996}, and TestU01~\cite{LEcuyerS07} ones.
552
553
554 \begin{algorithm}[h!]
555 \begin{small}
556 \KwIn{the internal configuration $z$ (a 32-bit word)}
557 \KwOut{$y$ (a 32-bit word)}
558 $z\leftarrow{z\oplus{(z\ll13)}}$\;
559 $z\leftarrow{z\oplus{(z\gg17)}}$\;
560 $z\leftarrow{z\oplus{(z\ll5)}}$\;
561 $y\leftarrow{z}$\;
562 return $y$\;
563 \end{small}
564 \caption{An arbitrary round of \textit{XORshift} algorithm}
565 \label{XORshift}
566 \end{algorithm}
567
568
569 \subsection{A ``New CI PRNG''}
570
571 In order to make the Old CI PRNG usable in practice, we have proposed 
572 an adapted version of the chaotic iteration based generator in~\cite{bg10:ip}.
573 In this ``New CI PRNG'', we prevent from changing twice a given
574 bit between two outputs.
575 This new generator is designed by the following process. 
576
577 First of all, some chaotic iterations have to be done to generate a sequence 
578 $\left(x^n\right)_{n\in\mathds{N}} \in \left(\mathds{B}^{32}\right)^\mathds{N}$ 
579 of Boolean vectors, which are the successive states of the iterated system. 
580 Some of these vectors will be randomly extracted and our pseudorandom bit 
581 flow will be constituted by their components. Such chaotic iterations are 
582 realized as follows. Initial state $x^0 \in \mathds{B}^{32}$ is a Boolean 
583 vector taken as a seed and chaotic strategy $\left(S^n\right)_{n\in\mathds{N}}\in 
584 \llbracket 1, 32 \rrbracket^\mathds{N}$ is
585 an \emph{irregular decimation} of $PRNG_2$ sequence, as described in 
586 Algorithm~\ref{Chaotic iteration1}.
587
588 Then, at each iteration, only the $S^n$-th component of state $x^n$ is 
589 updated, as follows: $x_i^n = x_i^{n-1}$ if $i \neq S^n$, else $x_i^n = \overline{x_i^{n-1}}$.
590 Such a procedure is equivalent to achieve chaotic iterations with
591 the Boolean vectorial negation $f_0$ and some well-chosen strategies.
592 Finally, some $x^n$ are selected
593 by a sequence $m^n$ as the pseudorandom bit sequence of our generator.
594 $(m^n)_{n \in \mathds{N}} \in \mathcal{M}^\mathds{N}$ is computed from $PRNG_1$, where $\mathcal{M}\subset \mathds{N}^*$ is a finite nonempty set of integers.
595
596 The basic design procedure of the New CI generator is summarized in Algorithm~\ref{Chaotic iteration1}.
597 The internal state is $x$, the output state is $r$. $a$ and $b$ are those computed by the two input
598 PRNGs. Lastly, the value $g(a)$ is an integer defined as in Eq.~\ref{Formula}.
599 This function must be chosen such that the outputs of the resulted PRNG are uniform in $\llbracket 0, 2^\mathsf{N}-1 \rrbracket$. Function of \eqref{Formula} achieves this
600 goal (other candidates and more information can be found in ~\cite{bg10:ip}).
601
602 \begin{equation}
603 \label{Formula}
604 m^n = g(y^n)=
605 \left\{
606 \begin{array}{l}
607 0 \text{ if }0 \leqslant{y^n}<{C^0_{32}},\\
608 1 \text{ if }{C^0_{32}} \leqslant{y^n}<\sum_{i=0}^1{C^i_{32}},\\
609 2 \text{ if }\sum_{i=0}^1{C^i_{32}} \leqslant{y^n}<\sum_{i=0}^2{C^i_{32}},\\
610 \vdots~~~~~ ~~\vdots~~~ ~~~~\\
611 N \text{ if }\sum_{i=0}^{N-1}{C^i_{32}}\leqslant{y^n}<1.\\
612 \end{array}
613 \right.
614 \end{equation}
615
616 \begin{algorithm}
617 \textbf{Input:} the internal state $x$ (32 bits)\\
618 \textbf{Output:} a state $r$ of 32 bits
619 \begin{algorithmic}[1]
620 \FOR{$i=0,\dots,N$}
621 {
622 \STATE$d_i\leftarrow{0}$\;
623 }
624 \ENDFOR
625 \STATE$a\leftarrow{PRNG_1()}$\;
626 \STATE$k\leftarrow{g(a)}$\;
627 \WHILE{$i=0,\dots,k$}
628
629 \STATE$b\leftarrow{PRNG_2()~mod~\mathsf{N}}$\;
630 \STATE$S\leftarrow{b}$\;
631     \IF{$d_S=0$}
632     {
633 \STATE      $x_S\leftarrow{ \overline{x_S}}$\;
634 \STATE      $d_S\leftarrow{1}$\;
635
636     }
637     \ELSIF{$d_S=1$}
638     {
639 \STATE      $k\leftarrow{ k+1}$\;
640     }\ENDIF
641 \ENDWHILE\\
642 \STATE $r\leftarrow{x}$\;
643 \STATE return $r$\;
644 \medskip
645 \caption{An arbitrary round of the new CI generator}
646 \label{Chaotic iteration1}
647 \end{algorithmic}
648 \end{algorithm}
649 \end{color}
650
651 \subsection{Improving the Speed of the Former Generator}
652
653 Instead of updating only one cell at each iteration,\begin{color}{red} we now propose to choose a
654 subset of components and to update them together, for speed improvements. Such a proposition leads\end{color}
655 to a kind of merger of the two sequences used in Algorithms 
656 \ref{CI Algorithm} and \ref{Chaotic iteration1}. When the updating function is the vectorial negation,
657 this algorithm can be rewritten as follows:
658
659 \begin{equation}
660 \left\{
661 \begin{array}{l}
662 x^0 \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket, S \in \llbracket 0, 2^\mathsf{N}-1 \rrbracket^\mathds{N} \\
663 \forall n \in \mathds{N}^*, x^n = x^{n-1} \oplus S^n,
664 \end{array}
665 \right.
666 \label{equation Oplus}
667 \end{equation}
668 where $\oplus$ is for the bitwise exclusive or between two integers. 
669 This rewriting can be understood as follows. The $n-$th term $S^n$ of the
670 sequence $S$, which is an integer of $\mathsf{N}$ binary digits, presents
671 the list of cells to update in the state $x^n$ of the system (represented
672 as an integer having $\mathsf{N}$ bits too). More precisely, the $k-$th 
673 component of this state (a binary digit) changes if and only if the $k-$th 
674 digit in the binary decomposition of $S^n$ is 1.
675
676 The single basic component presented in Eq.~\ref{equation Oplus} is of 
677 ordinary use as a good elementary brick in various PRNGs. It corresponds
678 to the following discrete dynamical system in chaotic iterations:
679
680 \begin{equation}
681 \forall    n\in     \mathds{N}^{\ast     },    \forall     i\in
682 \llbracket1;\mathsf{N}\rrbracket ,x_i^n=\left\{
683 \begin{array}{ll}
684   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
685   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
686 \end{array}\right.
687 \label{eq:generalIC}
688 \end{equation}
689 where $f$ is the vectorial negation and $\forall n \in \mathds{N}$, 
690 $\mathcal{S}^n \subset \llbracket 1, \mathsf{N} \rrbracket$ is such that
691 $k \in \mathcal{S}^n$ if and only if the $k-$th digit in the binary
692 decomposition of $S^n$ is 1. Such chaotic iterations are more general
693 than the ones presented in Definition \ref{Def:chaotic iterations} because, instead of updating only one term at each iteration,
694 we select a subset of components to change.
695
696
697 Obviously, replacing the previous CI PRNG Algorithms by 
698 Equation~\ref{equation Oplus}, which is possible when the iteration function is
699 the vectorial negation, leads to a speed improvement 
700 (the resulting generator will be referred as ``Xor CI PRNG''
701 in what follows).
702 However, proofs
703 of chaos obtained in~\cite{bg10:ij} have been established
704 only for chaotic iterations of the form presented in Definition 
705 \ref{Def:chaotic iterations}. The question is now to determine whether the
706 use of more general chaotic iterations to generate pseudorandom numbers 
707 faster, does not deflate their topological chaos properties.
708
709 \subsection{Proofs of Chaos of the General Formulation of the Chaotic Iterations}
710 \label{deuxième def}
711 Let us consider the discrete dynamical systems in chaotic iterations having 
712 the general form: $\forall    n\in     \mathds{N}^{\ast     }$, $  \forall     i\in
713 \llbracket1;\mathsf{N}\rrbracket $,
714
715 \begin{equation}
716   x_i^n=\left\{
717 \begin{array}{ll}
718   x_i^{n-1} &  \text{ if  } i \notin \mathcal{S}^n \\
719   \left(f(x^{n-1})\right)_{S^n} & \text{ if }i \in \mathcal{S}^n.
720 \end{array}\right.
721 \label{general CIs}
722 \end{equation}
723
724 In other words, at the $n^{th}$ iteration, only the cells whose id is
725 contained into the set $S^{n}$ are iterated.
726
727 Let us now rewrite these general chaotic iterations as usual discrete dynamical
728 system of the form $X^{n+1}=f(X^n)$ on an ad hoc metric space. Such a formulation
729 is required in order to study the topological behavior of the system.
730
731 Let us introduce the following function:
732 \begin{equation}
733 \begin{array}{cccc}
734  \chi: & \llbracket 1; \mathsf{N} \rrbracket \times \mathcal{P}\left(\llbracket 1; \mathsf{N} \rrbracket\right) & \longrightarrow & \mathds{B}\\
735          & (i,X) & \longmapsto  & \left\{ \begin{array}{ll} 0 & \textrm{if }i \notin X, \\ 1 & \textrm{if }i \in X,  \end{array}\right.
736 \end{array} 
737 \end{equation}
738 where $\mathcal{P}\left(X\right)$ is for the powerset of the set $X$, that is, $Y \in \mathcal{P}\left(X\right) \Longleftrightarrow Y \subset X$.
739
740 Given a function $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, define the function:
741 $F_{f}:  \mathcal{P}\left(\llbracket1;\mathsf{N}\rrbracket \right) \times \mathds{B}^{\mathsf{N}} 
742 \longrightarrow \mathds{B}^{\mathsf{N}}$
743 \begin{equation*}
744 \begin{array}{rll}
745  (P,E) & \longmapsto & \left( E_{j}.\chi (j,P)+f(E)_{j}.\overline{\chi(j,P)}\right) _{j\in \llbracket1;\mathsf{N}\rrbracket}%
746 \end{array}%
747 \end{equation*}%
748 where + and . are the Boolean addition and product operations, and $\overline{x}$ 
749 is the negation of the Boolean $x$.
750 Consider the phase space:
751 \begin{equation}
752 \mathcal{X} = \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N} \times
753 \mathds{B}^\mathsf{N},
754 \end{equation}
755 \noindent and the map defined on $\mathcal{X}$:
756 \begin{equation}
757 G_f\left(S,E\right) = \left(\sigma(S), F_f(i(S),E)\right), %\label{Gf} %%RAPH, j'ai viré ce label qui existe déjà avant...
758 \end{equation}
759 \noindent where $\sigma$ is the \emph{shift} function defined by $\sigma
760 (S^{n})_{n\in \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow (S^{n+1})_{n\in
761 \mathds{N}}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}$ and $i$ is the \emph{initial function} 
762 $i:(S^{n})_{n\in \mathds{N}} \in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)^\mathds{N}\longrightarrow S^{0}\in \mathcal{P}\left(\llbracket 1 ; \mathsf{N} \rrbracket\right)$. 
763 Then the general chaotic iterations defined in Equation \ref{general CIs} can 
764 be described by the following discrete dynamical system:
765 \begin{equation}
766 \left\{
767 \begin{array}{l}
768 X^0 \in \mathcal{X} \\
769 X^{k+1}=G_{f}(X^k).%
770 \end{array}%
771 \right.
772 \end{equation}%
773
774 Once more, a shift function appears as a component of these general chaotic 
775 iterations. 
776
777 To study the Devaney's chaos property, a distance between two points 
778 $X = (S,E), Y = (\check{S},\check{E})$ of $\mathcal{X}$ must be defined.
779 Let us introduce:
780 \begin{equation}
781 d(X,Y)=d_{e}(E,\check{E})+d_{s}(S,\check{S}),
782 \label{nouveau d}
783 \end{equation}
784 \noindent where $ \displaystyle{d_{e}(E,\check{E})} = \displaystyle{\sum_{k=1}^{\mathsf{N}%
785  }\delta (E_{k},\check{E}_{k})}$  is once more the Hamming distance, and
786 $  \displaystyle{d_{s}(S,\check{S})}  =  \displaystyle{\dfrac{9}{\mathsf{N}}%
787  \sum_{k=1}^{\infty }\dfrac{|S^k\Delta {S}^k|}{10^{k}}}$,
788 %%RAPH : ici, j'ai supprimé tous les sauts à la ligne
789 %% \begin{equation}
790 %% \left\{
791 %% \begin{array}{lll}
792 %% \displaystyle{d_{e}(E,\check{E})} & = & \displaystyle{\sum_{k=1}^{\mathsf{N}%
793 %% }\delta (E_{k},\check{E}_{k})} \textrm{ is once more the Hamming distance}, \\
794 %% \displaystyle{d_{s}(S,\check{S})} & = & \displaystyle{\dfrac{9}{\mathsf{N}}%
795 %% \sum_{k=1}^{\infty }\dfrac{|S^k\Delta {S}^k|}{10^{k}}}.%
796 %% \end{array}%
797 %% \right.
798 %% \end{equation}
799 where $|X|$ is the cardinality of a set $X$ and $A\Delta B$ is for the symmetric difference, defined for sets A, B as
800 $A\,\Delta\,B = (A \setminus B) \cup (B \setminus A)$.
801
802
803 \begin{proposition}
804 The function $d$ defined in Eq.~\ref{nouveau d} is a metric on $\mathcal{X}$.
805 \end{proposition}
806
807 \begin{proof}
808  $d_e$ is the Hamming distance. We will prove that $d_s$ is a distance
809 too, thus $d$, as being the sum of two distances, will also be a distance.
810  \begin{itemize}
811 \item Obviously, $d_s(S,\check{S})\geqslant 0$, and if $S=\check{S}$, then 
812 $d_s(S,\check{S})=0$. Conversely, if $d_s(S,\check{S})=0$, then 
813 $\forall k \in \mathds{N}, |S^k\Delta {S}^k|=0$, and so $\forall k, S^k=\check{S}^k$.
814  \item $d_s$ is symmetric 
815 ($d_s(S,\check{S})=d_s(\check{S},S)$) due to the commutative property
816 of the symmetric difference. 
817 \item Finally, $|S \Delta S''| = |(S \Delta \varnothing) \Delta S''|= |S \Delta (S'\Delta S') \Delta S''|= |(S \Delta S') \Delta (S' \Delta S'')|\leqslant |S \Delta S'| + |S' \Delta S''|$, 
818 and so for all subsets $S,S',$ and $S''$ of $\llbracket 1, \mathsf{N} \rrbracket$, 
819 we have $d_s(S,S'') \leqslant d_e(S,S')+d_s(S',S'')$, and the triangle
820 inequality is obtained.
821  \end{itemize}
822 \end{proof}
823
824
825 Before being able to study the topological behavior of the general 
826 chaotic iterations, we must first establish that:
827
828 \begin{proposition}
829  For all $f:\mathds{B}^\mathsf{N} \longrightarrow \mathds{B}^\mathsf{N} $, the function $G_f$ is continuous on 
830 $\left( \mathcal{X},d\right)$.
831 \end{proposition}
832
833
834 \begin{proof}
835 We use the sequential continuity.
836 Let $(S^n,E^n)_{n\in \mathds{N}}$ be a sequence of the phase space $%
837 \mathcal{X}$, which converges to $(S,E)$. We will prove that $\left(
838 G_{f}(S^n,E^n)\right) _{n\in \mathds{N}}$ converges to $\left(
839 G_{f}(S,E)\right) $. Let us remark that for all $n$, $S^n$ is a strategy,
840 thus, we consider a sequence of strategies (\emph{i.e.}, a sequence of
841 sequences).\newline
842 As $d((S^n,E^n);(S,E))$ converges to 0, each distance $d_{e}(E^n,E)$ and $d_{s}(S^n,S)$ converges
843 to 0. But $d_{e}(E^n,E)$ is an integer, so $\exists n_{0}\in \mathds{N},$ $%
844 d_{e}(E^n,E)=0$ for any $n\geqslant n_{0}$.\newline
845 In other words, there exists a threshold $n_{0}\in \mathds{N}$ after which no
846 cell will change its state:
847 $\exists n_{0}\in \mathds{N},n\geqslant n_{0}\Rightarrow E^n = E.$
848
849 In addition, $d_{s}(S^n,S)\longrightarrow 0,$ so $\exists n_{1}\in %
850 \mathds{N},d_{s}(S^n,S)<10^{-1}$ for all indexes greater than or equal to $%
851 n_{1}$. This means that for $n\geqslant n_{1}$, all the $S^n$ have the same
852 first term, which is $S^0$: $\forall n\geqslant n_{1},S_0^n=S_0.$
853
854 Thus, after the $max(n_{0},n_{1})^{th}$ term, states of $E^n$ and $E$ are
855 identical and strategies $S^n$ and $S$ start with the same first term.\newline
856 Consequently, states of $G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are equal,
857 so, after the $max(n_0, n_1)^{th}$ term, the distance $d$ between these two points is strictly less than 1.\newline
858 \noindent We now prove that the distance between $\left(
859 G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is convergent to
860 0. Let $\varepsilon >0$. \medskip
861 \begin{itemize}
862 \item If $\varepsilon \geqslant 1$, we see that the distance
863 between $\left( G_{f}(S^n,E^n)\right) $ and $\left( G_{f}(S,E)\right) $ is
864 strictly less than 1 after the $max(n_{0},n_{1})^{th}$ term (same state).
865 \medskip
866 \item If $\varepsilon <1$, then $\exists k\in \mathds{N},10^{-k}\geqslant
867 \varepsilon > 10^{-(k+1)}$. But $d_{s}(S^n,S)$ converges to 0, so
868 \begin{equation*}
869 \exists n_{2}\in \mathds{N},\forall n\geqslant
870 n_{2},d_{s}(S^n,S)<10^{-(k+2)},
871 \end{equation*}%
872 thus after $n_{2}$, the $k+2$ first terms of $S^n$ and $S$ are equal.
873 \end{itemize}
874 \noindent As a consequence, the $k+1$ first entries of the strategies of $%
875 G_{f}(S^n,E^n)$ and $G_{f}(S,E)$ are the same ($G_{f}$ is a shift of strategies) and due to the definition of $d_{s}$, the floating part of
876 the distance between $(S^n,E^n)$ and $(S,E)$ is strictly less than $%
877 10^{-(k+1)}\leqslant \varepsilon $.
878
879 In conclusion,
880 %%RAPH : ici j'ai rajouté une ligne
881 %%TOF : ici j'ai rajouté un commentaire
882 %%TOF : ici aussi
883 $
884 \forall \varepsilon >0,$ $\exists N_{0}=max(n_{0},n_{1},n_{2})\in \mathds{N}
885 ,$ $\forall n\geqslant N_{0},$
886 $ d\left( G_{f}(S^n,E^n);G_{f}(S,E)\right)
887 \leqslant \varepsilon .
888 $
889 $G_{f}$ is consequently continuous.
890 \end{proof}
891
892
893 It is now possible to study the topological behavior of the general chaotic
894 iterations. We will prove that,
895
896 \begin{theorem}
897 \label{t:chaos des general}
898  The general chaotic iterations defined on Equation~\ref{general CIs} satisfy
899 the Devaney's property of chaos.
900 \end{theorem}
901
902 Let us firstly prove the following lemma.
903
904 \begin{lemma}[Strong transitivity]
905 \label{strongTrans}
906  For all couples $X,Y \in \mathcal{X}$ and any neighborhood $V$ of $X$, we can 
907 find $n \in \mathds{N}^*$ and $X' \in V$ such that $G^n(X')=Y$.
908 \end{lemma}
909
910 \begin{proof}
911  Let $X=(S,E)$, $\varepsilon>0$, and $k_0 = \lfloor log_{10}(\varepsilon)+1 \rfloor$. 
912 Any point $X'=(S',E')$ such that $E'=E$ and $\forall k \leqslant k_0, S'^k=S^k$, 
913 are in the open ball $\mathcal{B}\left(X,\varepsilon\right)$. Let us define 
914 $\check{X} = \left(\check{S},\check{E}\right)$, where $\check{X}= G^{k_0}(X)$.
915 We denote by $s\subset \llbracket 1; \mathsf{N} \rrbracket$ the set of coordinates
916 that are different between $\check{E}$ and the state of $Y$. Thus each point $X'$ of
917 the form $(S',E')$ where $E'=E$ and $S'$ starts with 
918 $(S^0, S^1, \hdots, S^{k_0},s,\hdots)$, verifies the following properties:
919 \begin{itemize}
920  \item $X'$ is in $\mathcal{B}\left(X,\varepsilon\right)$,
921  \item the state of $G_f^{k_0+1}(X')$ is the state of $Y$.
922 \end{itemize}
923 Finally the point $\left(\left(S^0, S^1, \hdots, S^{k_0},s,s^0, s^1, \hdots\right); E\right)$, 
924 where $(s^0,s^1, \hdots)$ is the strategy of $Y$, satisfies the properties
925 claimed in the lemma.
926 \end{proof}
927
928 We can now prove the Theorem~\ref{t:chaos des general}.
929
930 \begin{proof}[Theorem~\ref{t:chaos des general}]
931 Firstly, strong transitivity implies transitivity.
932
933 Let $(S,E) \in\mathcal{X}$ and $\varepsilon >0$. To
934 prove that $G_f$ is regular, it is sufficient to prove that
935 there exists a strategy $\tilde S$ such that the distance between
936 $(\tilde S,E)$ and $(S,E)$ is less than $\varepsilon$, and such that
937 $(\tilde S,E)$ is a periodic point.
938
939 Let $t_1=\lfloor-\log_{10}(\varepsilon)\rfloor$, and let $E'$ be the
940 configuration that we obtain from $(S,E)$ after $t_1$ iterations of
941 $G_f$. As $G_f$ is strongly transitive, there exists a strategy $S'$ 
942 and $t_2\in\mathds{N}$ such
943 that $E$ is reached from $(S',E')$ after $t_2$ iterations of $G_f$.
944
945 Consider the strategy $\tilde S$ that alternates the first $t_1$ terms
946 of $S$ and the first $t_2$ terms of $S'$: 
947 %%RAPH : j'ai coupé la ligne en 2
948 $$\tilde
949 S=(S_0,\dots,S_{t_1-1},S'_0,\dots,S'_{t_2-1},S_0,$$$$\dots,S_{t_1-1},S'_0,\dots,S'_{t_2-1},S_0,\dots).$$ It
950 is clear that $(\tilde S,E)$ is obtained from $(\tilde S,E)$ after
951 $t_1+t_2$ iterations of $G_f$. So $(\tilde S,E)$ is a periodic
952 point. Since $\tilde S_t=S_t$ for $t<t_1$, by the choice of $t_1$, we
953 have $d((S,E),(\tilde S,E))<\epsilon$.
954 \end{proof}
955
956
957 \begin{color}{red}
958 \section{Statistical Improvements Using Chaotic Iterations}
959
960 \label{The generation of pseudorandom sequence}
961
962
963 Let us now explain why we are reasonable grounds to believe that chaos 
964 can improve statistical properties.
965 We will show in this section that chaotic properties as defined in the
966 mathematical theory of chaos are related to some statistical tests that can be found
967 in the NIST battery. Furthermore, we will check that, when mixing defective PRNGs with
968 chaotic iterations, the new generator presents better statistical properties
969 (this section summarizes and extends the work of~\cite{bfg12a:ip}).
970
971
972
973 \subsection{Qualitative relations between topological properties and statistical tests}
974
975
976 There are various relations between topological properties that describe an unpredictable behavior for a discrete 
977 dynamical system on the one
978 hand, and statistical tests to check the randomness of a numerical sequence
979 on the other hand. These two mathematical disciplines follow a similar 
980 objective in case of a recurrent sequence (to characterize an intrinsically complicated behavior for a
981 recurrent sequence), with two different but complementary approaches.
982 It is true that the following illustrative links give only qualitative arguments, 
983 and proofs should be provided later to make such arguments irrefutable. However 
984 they give a first understanding of the reason why we think that chaotic properties should tend
985 to improve the statistical quality of PRNGs.
986 %
987 Let us now list some of these relations between topological properties defined in the mathematical
988 theory of chaos and tests embedded into the NIST battery. %Such relations need to be further 
989 %investigated, but they presently give a first illustration of a trend to search similar properties in the 
990 %two following fields: mathematical chaos and statistics.
991
992
993 \begin{itemize}
994     \item \textbf{Regularity}. As stated in Section~\ref{subsec:Devaney}, a chaotic dynamical system must 
995 have an element of regularity. Depending on the chosen definition of chaos, this element can be the existence of
996 a dense orbit, the density of periodic points, etc. The key idea is that a dynamical system with no periodicity
997 is not as chaotic as a system having periodic orbits: in the first situation, we can predict something and gain a
998 knowledge about the behavior of the system, that is, it never enters into a loop. A similar importance for periodicity is emphasized in
999 the two following NIST tests~\cite{Nist10}:
1000     \begin{itemize}
1001         \item \textbf{Non-overlapping Template Matching Test}. Detect generators that produce too many occurrences of a given non-periodic (aperiodic) pattern.
1002         \item \textbf{Discrete Fourier Transform (Spectral) Test}. Detect periodic features (i.e., repetitive patterns that are near each other) in the tested sequence that would indicate a deviation from the assumption of randomness.
1003     \end{itemize}
1004
1005 \item \textbf{Transitivity}. This topological property introduced previously states that the dynamical system is intrinsically complicated: it cannot be simplified into 
1006 two subsystems that do not interact, as we can find in any neighborhood of any point another point whose orbit visits the whole phase space. 
1007 This focus on the places visited by orbits of the dynamical system takes various nonequivalent formulations in the mathematical theory
1008 of chaos, namely: transitivity, strong transitivity, total transitivity, topological mixing, and so on~\cite{bg10:ij}. A similar attention 
1009 is brought on states visited during a random walk in the two tests below~\cite{Nist10}:
1010     \begin{itemize}
1011         \item \textbf{Random Excursions Variant Test}. Detect deviations from the expected number of visits to various states in the random walk.
1012         \item \textbf{Random Excursions Test}. Determine if the number of visits to a particular state within a cycle deviates from what one would expect for a random sequence.
1013     \end{itemize}
1014
1015 \item \textbf{Chaos according to Li and Yorke}. Two points of the phase space $(x,y)$ define a couple of Li-Yorke when $\limsup_{n \rightarrow +\infty} d(f^{(n)}(x), f^{(n)}(y))>0$ et $\liminf_{n \rightarrow +\infty} d(f^{(n)}(x), f^{(n)}(y))=0$, meaning that their orbits always oscillates as the iterations pass. When a system is compact and contains an uncountable set of such points, it is claimed as chaotic according
1016 to Li-Yorke~\cite{Li75,Ruette2001}. A similar property is regarded in the following NIST test~\cite{Nist10}.
1017     \begin{itemize}
1018         \item \textbf{Runs Test}. To determine whether the number of runs of ones and zeros of various lengths is as expected for a random sequence. In particular, this test determines whether the oscillation between such zeros and ones is too fast or too slow.
1019     \end{itemize}
1020     \item \textbf{Topological entropy}. The desire to formulate an equivalency of the thermodynamics entropy
1021 has emerged both in the topological and statistical fields. Another time, a similar objective has led to two different
1022 rewritten of an entropy based disorder: the famous Shannon definition of entropy is approximated in the statistical approach, 
1023 whereas topological entropy is defined as follows.
1024 $x,y \in \mathcal{X}$ are $\varepsilon-$\emph{separated in time $n$} if there exists $k \leqslant n$ such that $d\left(f^{(k)}(x),f^{(k)}(y)\right)>\varepsilon$. Then $(n,\varepsilon)-$separated sets are sets of points that are all $\varepsilon-$separated in time $n$, which
1025 leads to the definition of $s_n(\varepsilon,Y)$, being the maximal cardinality of all $(n,\varepsilon)-$separated sets. Using these notations, 
1026 the topological entropy is defined as follows: $$h_{top}(\mathcal{X},f)  = \displaystyle{\lim_{\varepsilon \rightarrow 0} \Big[ \limsup_{n \rightarrow +\infty} \dfrac{1}{n} \log s_n(\varepsilon,\mathcal{X})\Big]}.$$
1027 This value measures the average exponential growth of the number of distinguishable orbit segments. 
1028 In this sense, it measures complexity of the topological dynamical system, whereas 
1029 the Shannon approach is in mind when defining the following test~\cite{Nist10}:
1030     \begin{itemize}
1031 \item \textbf{Approximate Entropy Test}. Compare the frequency of overlapping blocks of two consecutive/adjacent lengths ($m$ and $m+1$) against the expected result for a random sequence.
1032     \end{itemize}
1033
1034     \item \textbf{Non-linearity, complexity}. Finally, let us remark that non-linearity and complexity are 
1035 not only sought in general to obtain chaos, but they are also required for randomness, as illustrated by the two tests below~\cite{Nist10}.
1036     \begin{itemize}
1037 \item \textbf{Binary Matrix Rank Test}. Check for linear dependence among fixed length substrings of the original sequence.
1038 \item \textbf{Linear Complexity Test}. Determine whether or not the sequence is complex enough to be considered random.
1039       \end{itemize}
1040 \end{itemize}
1041
1042
1043 We have proven in our previous works~\cite{} that chaotic iterations satisfying Theorem~\ref{Th:Caractérisation   des   IC   chaotiques} are, among other
1044 things, strongly transitive, topologically mixing, chaotic as defined by Li and Yorke,
1045 and that they have a topological entropy and an exponent of Lyapunov both equal to $ln(\mathsf{N})$,
1046 where $\mathsf{N}$ is the size of the iterated vector.
1047 These topological properties make that we are ground to believe that a generator based on chaotic
1048 iterations will probably be able to pass all the existing statistical batteries for pseudorandomness like
1049 the NIST one. The following subsections, in which we prove that defective generators have their
1050 statistical properties improved by chaotic iterations, show that such an assumption is true.
1051
1052 \subsection{Details of some Existing Generators}
1053
1054 The list of defective PRNGs we will use 
1055 as inputs for the statistical tests to come is introduced here.
1056
1057 Firstly, the simple linear congruency generators (LCGs) will be used. 
1058 They are defined by the following recurrence:
1059 \begin{equation}
1060 x^n = (ax^{n-1} + c)~mod~m,
1061 \label{LCG}
1062 \end{equation}
1063 where $a$, $c$, and $x^0$ must be, among other things, non-negative and less than 
1064 $m$~\cite{LEcuyerS07}. In what follows, 2LCGs and 3LCGs refer as two (resp. three) 
1065 combinations of such LCGs. For further details, see~\cite{bfg12a:ip,combined_lcg}.
1066
1067 Secondly, the multiple recursive generators (MRGs) will be used, which
1068 are based on a linear recurrence of order 
1069 $k$, modulo $m$~\cite{LEcuyerS07}:
1070 \begin{equation}
1071 x^n = (a^1x^{n-1}+~...~+a^kx^{n-k})~mod~m .
1072 \label{MRG}
1073 \end{equation}
1074 Combination of two MRGs (referred as 2MRGs) is also used in these experiments.
1075
1076 Generators based on linear recurrences with carry will be regarded too.
1077 This family of generators includes the add-with-carry (AWC) generator, based on the recurrence:
1078 \begin{equation}
1079 \label{AWC}
1080 \begin{array}{l}
1081 x^n = (x^{n-r} + x^{n-s} + c^{n-1})~mod~m, \\
1082 c^n= (x^{n-r} + x^{n-s} + c^{n-1}) / m, \end{array}\end{equation}
1083 the SWB generator, having the recurrence:
1084 \begin{equation}
1085 \label{SWB}
1086 \begin{array}{l}
1087 x^n = (x^{n-r} - x^{n-s} - c^{n-1})~mod~m, \\
1088 c^n=\left\{
1089 \begin{array}{l}
1090 1 ~~~~~\text{if}~ (x^{i-r} - x^{i-s} - c^{i-1})<0\\
1091 0 ~~~~~\text{else},\end{array} \right. \end{array}\end{equation}
1092 and the SWC generator designed by R. Couture, which is based on the following recurrence:
1093 \begin{equation}
1094 \label{SWC}
1095 \begin{array}{l}
1096 x^n = (a^1x^{n-1} \oplus ~...~ \oplus a^rx^{n-r} \oplus c^{n-1}) ~ mod ~ 2^w, \\
1097 c^n = (a^1x^{n-1} \oplus ~...~ \oplus a^rx^{n-r} \oplus c^{n-1}) ~ / ~ 2^w. \end{array}\end{equation}
1098
1099 Then the generalized feedback shift register (GFSR) generator has been implemented, that is:
1100 \begin{equation}
1101 x^n = x^{n-r} \oplus x^{n-k} .
1102 \label{GFSR}
1103 \end{equation}
1104
1105
1106 Finally, the nonlinear inversive (INV) generator~\cite{LEcuyerS07} has been studied, which is:
1107
1108 \begin{equation}
1109 \label{INV}
1110 \begin{array}{l}
1111 x^n=\left\{
1112 \begin{array}{ll}
1113 (a^1 + a^2 / z^{n-1})~mod~m & \text{if}~ z^{n-1} \neq 0 \\
1114 a^1 & \text{if}~  z^{n-1} = 0 .\end{array} \right. \end{array}\end{equation}
1115
1116
1117
1118 \begin{table}
1119 \renewcommand{\arraystretch}{1.3}
1120 \caption{TestU01 Statistical Test}
1121 \label{TestU011}
1122 \centering
1123   \begin{tabular}{lccccc}
1124     \toprule
1125 Test name &Tests& Logistic              & XORshift      & ISAAC\\
1126 Rabbit                          &       38      &21             &14     &0       \\
1127 Alphabit                        &       17      &16             &9      &0       \\
1128 Pseudo DieHARD                  &126    &0              &2      &0      \\
1129 FIPS\_140\_2                    &16     &0              &0      &0      \\
1130 SmallCrush                      &15     &4              &5      &0       \\
1131 Crush                           &144    &95             &57     &0       \\
1132 Big Crush                       &160    &125            &55     &0       \\ \hline
1133 Failures                &       &261            &146    &0       \\
1134 \bottomrule
1135   \end{tabular}
1136 \end{table}
1137
1138
1139
1140 \begin{table}
1141 \renewcommand{\arraystretch}{1.3}
1142 \caption{TestU01 Statistical Test for Old CI algorithms ($\mathsf{N}=4$)}
1143 \label{TestU01 for Old CI}
1144 \centering
1145   \begin{tabular}{lcccc}
1146     \toprule
1147 \multirow{3}*{Test name} & \multicolumn{4}{c}{Old CI}\\
1148 &Logistic& XORshift& ISAAC&ISAAC  \\ 
1149 &+& +& + & + \\ 
1150 &Logistic& XORshift& XORshift&ISAAC  \\ \cmidrule(r){2-5}
1151 Rabbit                                  &7      &2      &0      &0       \\
1152 Alphabit                                & 3     &0      &0      &0       \\
1153 DieHARD                         &0      &0      &0      &0      \\
1154 FIPS\_140\_2                    &0      &0      &0      &0      \\
1155 SmallCrush                              &2      &0      &0      &0       \\
1156 Crush                                   &47     &4      &0      &0       \\
1157 Big Crush                               &79     &3      &0      &0       \\ \hline
1158 Failures                                &138    &9      &0      &0       \\
1159 \bottomrule
1160   \end{tabular}
1161 \end{table}
1162
1163
1164
1165
1166
1167 \subsection{Statistical tests}
1168 \label{Security analysis}
1169
1170 Three batteries of tests are reputed and usually used
1171 to evaluate the statistical properties of newly designed pseudorandom
1172 number generators. These batteries are named DieHard~\cite{Marsaglia1996},
1173 the NIST suite~\cite{ANDREW2008}, and the most stringent one called
1174 TestU01~\cite{LEcuyerS07}, which encompasses the two other batteries.
1175
1176
1177
1178 \label{Results and discussion}
1179 \begin{table*}
1180 \renewcommand{\arraystretch}{1.3}
1181 \caption{NIST and DieHARD tests suite passing rates for PRNGs without CI}
1182 \label{NIST and DieHARD tests suite passing rate the for PRNGs without CI}
1183 \centering
1184   \begin{tabular}{|l||c|c|c|c|c|c|c|c|c|c|}
1185     \hline\hline
1186 Types of PRNGs & \multicolumn{2}{c|}{Linear PRNGs} & \multicolumn{4}{c|}{Lagged PRNGs} & \multicolumn{1}{c|}{ICG PRNGs} & \multicolumn{3}{c|}{Mixed PRNGs}\\ \hline
1187 \backslashbox{\textbf{$Tests$}} {\textbf{$PRNG$}} & LCG& MRG& AWC & SWB  & SWC & GFSR & INV & LCG2& LCG3& MRG2 \\ \hline
1188 NIST & 11/15 & 14/15 &\textbf{15/15} & \textbf{15/15}   & 14/15 & 14/15  & 14/15 & 14/15& 14/15& 14/15 \\ \hline
1189 DieHARD & 16/18 & 16/18 & 15/18 & 16/18 & \textbf{18/18} & 16/18 & 16/18 & 16/18& 16/18& 16/18\\ \hline
1190 \end{tabular}
1191 \end{table*}
1192
1193 Table~\ref{NIST and DieHARD tests suite passing rate the for PRNGs without CI} shows the 
1194 results on the two firsts batteries recalled above, indicating that all the PRNGs presented
1195 in the previous section
1196 cannot pass all these tests. In other words, the statistical quality of these PRNGs cannot 
1197 fulfill the up-to-date standards presented previously. We have shown in~\cite{bfg12a:ip} that the use of chaotic
1198 iterations can solve this issue.
1199 %More precisely, to
1200 %illustrate the effects of chaotic iterations on these defective PRNGs, experiments have been divided in three parts~\cite{bfg12a:ip}:
1201 %\begin{enumerate}
1202 %  \item \textbf{Single CIPRNG}: The PRNGs involved in CI computing are of the same category.
1203 %  \item \textbf{Mixed CIPRNG}: Two different types of PRNGs are mixed during the chaotic iterations process.
1204 %  \item \textbf{Multiple CIPRNG}: The generator is obtained by repeating the composition of the iteration function as follows: $x^0\in \mathds{B}^{\mathsf{N}}$, and $\forall n\in \mathds{N}^{\ast },\forall i\in \llbracket1;\mathsf{N}\rrbracket, x_i^n=$
1205 %\begin{equation}
1206 %\begin{array}{l}
1207 %\left\{
1208 %\begin{array}{l}
1209 %x_i^{n-1}~~~~~\text{if}~S^n\neq i \\
1210 %\forall j\in \llbracket1;\mathsf{m}\rrbracket,f^m(x^{n-1})_{S^{nm+j}}~\text{if}~S^{nm+j}=i.\end{array} \right. \end{array}
1211 %\end{equation}
1212 %$m$ is called the \emph{functional power}.
1213 %\end{enumerate}
1214 %
1215 The obtained results are reproduced in Table
1216 \ref{NIST and DieHARD tests suite passing rate the for single CIPRNGs}.
1217 The scores written in boldface indicate that all the tests have been passed successfully, whereas an 
1218 asterisk ``*'' means that the considered passing rate has been improved.
1219 The improvements are obvious for both the ``Old CI'' and ``New CI'' generators.
1220 Concerning the ``Xor CI PRNG'', the score is less spectacular: a large speed improvement makes that statistics
1221  are not as good as for the two other versions of these CIPRNGs.
1222 However 8 tests have been improved (with no deflation for the other results).
1223
1224
1225 \begin{table*}
1226 \renewcommand{\arraystretch}{1.3}
1227 \caption{NIST and DieHARD tests suite passing rates for PRNGs with CI}
1228 \label{NIST and DieHARD tests suite passing rate the for single CIPRNGs}
1229 \centering
1230   \begin{tabular}{|l||c|c|c|c|c|c|c|c|c|c|c|c|}
1231     \hline
1232 Types of PRNGs & \multicolumn{2}{c|}{Linear PRNGs} & \multicolumn{4}{c|}{Lagged PRNGs} & \multicolumn{1}{c|}{ICG PRNGs} & \multicolumn{3}{c|}{Mixed PRNGs}\\ \hline
1233 \backslashbox{\textbf{$Tests$}} {\textbf{$Single~CIPRNG$}} & LCG  & MRG & AWC & SWB & SWC & GFSR & INV& LCG2 & LCG3& MRG2 \\ \hline\hline
1234 Old CIPRNG\\ \hline \hline
1235 NIST & \textbf{15/15} *  & \textbf{15/15} * & \textbf{15/15}   & \textbf{15/15}   & \textbf{15/15} * & \textbf{15/15} * & \textbf{15/15} *& \textbf{15/15} * & \textbf{15/15} * & \textbf{15/15} \\ \hline
1236 DieHARD & \textbf{18/18} *  & \textbf{18/18} * & \textbf{18/18} *  & \textbf{18/18} *  & \textbf{18/18}  & \textbf{18/18} * & \textbf{18/18} *& \textbf{18/18} * & \textbf{18/18} *& \textbf{18/18} * \\ \hline
1237 New CIPRNG\\ \hline \hline
1238 NIST & \textbf{15/15} *  & \textbf{15/15} * & \textbf{15/15}   & \textbf{15/15}  & \textbf{15/15} * & \textbf{15/15} * & \textbf{15/15} *& \textbf{15/15} * & \textbf{15/15} * & \textbf{15/15} \\ \hline
1239 DieHARD & \textbf{18/18} *  & \textbf{18/18} * & \textbf{18/18} * & \textbf{18/18} * & \textbf{18/18}  & \textbf{18/18} * & \textbf{18/18} * & \textbf{18/18} * & \textbf{18/18} *& \textbf{18/18} *\\ \hline
1240 Xor CIPRNG\\ \hline\hline
1241 NIST & 14/15*& \textbf{15/15} *   & \textbf{15/15}   & \textbf{15/15}   & 14/15 & \textbf{15/15} * & 14/15& \textbf{15/15} * & \textbf{15/15} *& \textbf{15/15}  \\ \hline
1242 DieHARD & 16/18 & 16/18 & 17/18* & \textbf{18/18} * & \textbf{18/18}  & \textbf{18/18} * & 16/18 & 16/18 & 16/18& 16/18\\ \hline
1243 \end{tabular}
1244 \end{table*}
1245
1246
1247 We have then investigate in~\cite{bfg12a:ip} if it is possible to improve
1248 the statistical behavior of the Xor CI version by combining more than one 
1249 $\oplus$ operation. Results are summarized in Table~\ref{threshold}, illustrating
1250 the progressive increasing effects of chaotic iterations, when giving time to chaos to get settled in.
1251 Thus rapid and perfect PRNGs, regarding the NIST and DieHARD batteries, can be obtained 
1252 using chaotic iterations on defective generators.
1253
1254 \begin{table*}
1255 \renewcommand{\arraystretch}{1.3}
1256 \caption{Number of $\oplus$ operations to pass the whole NIST and DieHARD batteries}
1257 \label{threshold}
1258 \centering
1259   \begin{tabular}{|l||c|c|c|c|c|c|c|c|}
1260     \hline
1261 Inputted $PRNG$ & LCG & MRG & SWC & GFSR & INV& LCG2 & LCG3  & MRG2 \\ \hline\hline
1262 Threshold  value $m$& 19 & 7  & 2& 1 & 11& 9& 3& 4\\ \hline\hline
1263 \end{tabular}
1264 \end{table*}
1265
1266 Finally, the TestU01 battery has been launched on three well-known generators 
1267 (a logistic map, a simple XORshift, and the cryptographically secure ISAAC, 
1268 see Table~\ref{TestU011}). These results can be compared with 
1269 Table~\ref{TestU01 for Old CI}, which gives the scores obtained by the
1270 Old CI PRNG that has received these generators.
1271 The obvious improvement speaks for itself, and together with the other
1272 results recalled in this section, it reinforces the opinion that a strong
1273 correlation between topological properties and statistical behavior exists.
1274
1275
1276 Next subsection will now give a concrete original implementation of the Xor CI PRNG, the
1277 fastest generator in the chaotic iteration based family. In the remainder,
1278 this generator will be simply referred as CIPRNG, or ``the proposed PRNG'', if this statement does not
1279 raise ambiguity.
1280 \end{color}
1281
1282 \subsection{First Efficient Implementation of a PRNG based on Chaotic Iterations}
1283 \label{sec:efficient PRNG}
1284 %
1285 %Based on the proof presented in the previous section, it is now possible to 
1286 %improve the speed of the generator formerly presented in~\cite{bgw09:ip,guyeux10}. 
1287 %The first idea is to consider
1288 %that the provided strategy is a pseudorandom Boolean vector obtained by a
1289 %given PRNG.
1290 %An iteration of the system is simply the bitwise exclusive or between
1291 %the last computed state and the current strategy.
1292 %Topological properties of disorder exhibited by chaotic 
1293 %iterations can be inherited by the inputted generator, we hope by doing so to 
1294 %obtain some statistical improvements while preserving speed.
1295 %
1296 %%RAPH : j'ai viré tout ca
1297 %% Let us give an example using 16-bits numbers, to clearly understand how the bitwise xor operations
1298 %% are
1299 %% done.  
1300 %% Suppose  that $x$ and the  strategy $S^i$ are given as
1301 %% binary vectors.
1302 %% Table~\ref{TableExemple} shows the result of $x \oplus S^i$.
1303
1304 %% \begin{table}
1305 %% \begin{scriptsize}
1306 %% $$
1307 %% \begin{array}{|cc|cccccccccccccccc|}
1308 %% \hline
1309 %% x      &=&1&0&1&1&1&0&1&0&1&0&0&1&0&0&1&0\\
1310 %% \hline
1311 %% S^i      &=&0&1&1&0&0&1&1&0&1&1&1&0&0&1&1&1\\
1312 %% \hline
1313 %% x \oplus S^i&=&1&1&0&1&1&1&0&0&0&1&1&1&0&1&0&1\\
1314 %% \hline
1315
1316 %% \hline
1317 %%  \end{array}
1318 %% $$
1319 %% \end{scriptsize}
1320 %% \caption{Example of an arbitrary round of the proposed generator}
1321 %% \label{TableExemple}
1322 %% \end{table}
1323
1324
1325
1326
1327 \lstset{language=C,caption={C code of the sequential PRNG based on chaotic iterations},label={algo:seqCIPRNG}}
1328 \begin{small}
1329 \begin{lstlisting}
1330
1331 unsigned int CIPRNG() {
1332   static unsigned int x = 123123123;
1333   unsigned long t1 = xorshift();
1334   unsigned long t2 = xor128();
1335   unsigned long t3 = xorwow();
1336   x = x^(unsigned int)t1;
1337   x = x^(unsigned int)(t2>>32);
1338   x = x^(unsigned int)(t3>>32);
1339   x = x^(unsigned int)t2;
1340   x = x^(unsigned int)(t1>>32);
1341   x = x^(unsigned int)t3;
1342   return x;
1343 }
1344 \end{lstlisting}
1345 \end{small}
1346
1347
1348
1349 In Listing~\ref{algo:seqCIPRNG} a sequential  version of the proposed PRNG based
1350 on  chaotic  iterations  is  presented.   The xor  operator  is  represented  by
1351 \textasciicircum.  This function uses  three classical 64-bits PRNGs, namely the
1352 \texttt{xorshift},         the          \texttt{xor128},         and         the
1353 \texttt{xorwow}~\cite{Marsaglia2003}.  In the following, we call them ``xor-like
1354 PRNGs''.   As each  xor-like PRNG  uses 64-bits  whereas our  proposed generator
1355 works with 32-bits, we use the command \texttt{(unsigned int)}, that selects the
1356 32 least  significant bits  of a given  integer, and the  code \texttt{(unsigned
1357   int)(t$>>$32)} in order to obtain the 32 most significant bits of \texttt{t}.
1358
1359 Thus producing a pseudorandom number needs 6 xor operations with 6 32-bits numbers
1360 that  are provided by  3 64-bits  PRNGs.  This  version successfully  passes the
1361 stringent BigCrush battery of tests~\cite{LEcuyerS07}. 
1362 \begin{color}{red}At this point, we thus
1363 have defined an efficient and statistically unbiased generator. Its speed is
1364 directly related to the use of linear operations, but for the same reason,
1365 this fast generator cannot be proven as secure.
1366 \end{color}
1367
1368
1369 \section{Efficient PRNGs based on Chaotic Iterations on GPU}
1370 \label{sec:efficient PRNG gpu}
1371
1372 In order to  take benefits from the computing power  of GPU, a program
1373 needs  to have  independent blocks  of  threads that  can be  computed
1374 simultaneously. In general,  the larger the number of  threads is, the
1375 more local  memory is  used, and the  less branching  instructions are
1376 used  (if,  while,  ...),  the  better the  performances  on  GPU  is.
1377 Obviously, having these requirements in  mind, it is possible to build
1378 a   program    similar   to    the   one   presented    in  Listing 
1379 \ref{algo:seqCIPRNG}, which computes  pseudorandom numbers on GPU.  To
1380 do  so,  we  must   firstly  recall  that  in  the  CUDA~\cite{Nvid10}
1381 environment,    threads    have     a    local    identifier    called
1382 \texttt{ThreadIdx},  which   is  relative  to   the  block  containing
1383 them. Furthermore, in  CUDA, parts of  the code that are executed by the  GPU, are
1384 called {\it kernels}.
1385
1386
1387 \subsection{Naive Version for GPU}
1388
1389  
1390 It is possible to deduce from the CPU version a quite similar version adapted to GPU.
1391 The simple principle consists in making each thread of the GPU computing the CPU version of our PRNG.  
1392 Of course,  the  three xor-like
1393 PRNGs  used in these computations must have different  parameters. 
1394 In a given thread, these parameters are
1395 randomly picked from another PRNGs. 
1396 The  initialization stage is performed by  the CPU.
1397 To do it, the  ISAAC  PRNG~\cite{Jenkins96} is used to  set  all  the
1398 parameters embedded into each thread.   
1399
1400 The implementation of  the three
1401 xor-like  PRNGs  is  straightforward  when  their  parameters  have  been
1402 allocated in  the GPU memory.  Each xor-like  works with  an internal
1403 number  $x$  that saves  the  last  generated  pseudorandom number. Additionally,  the
1404 implementation of the  xor128, the xorshift, and the  xorwow respectively require
1405 4, 5, and 6 unsigned long as internal variables.
1406
1407
1408 \begin{algorithm}
1409 \begin{small}
1410 \KwIn{InternalVarXorLikeArray: array with internal variables of the 3 xor-like
1411 PRNGs in global memory\;
1412 NumThreads: number of threads\;}
1413 \KwOut{NewNb: array containing random numbers in global memory}
1414 \If{threadIdx is concerned by the computation} {
1415   retrieve data from InternalVarXorLikeArray[threadIdx] in local variables\;
1416   \For{i=1 to n} {
1417     compute a new PRNG as in Listing\ref{algo:seqCIPRNG}\;
1418     store the new PRNG in NewNb[NumThreads*threadIdx+i]\;
1419   }
1420   store internal variables in InternalVarXorLikeArray[threadIdx]\;
1421 }
1422 \end{small}
1423 \caption{Main kernel of the GPU ``naive'' version of the PRNG based on chaotic iterations}
1424 \label{algo:gpu_kernel}
1425 \end{algorithm}
1426
1427
1428
1429 Algorithm~\ref{algo:gpu_kernel}  presents a naive  implementation of the proposed  PRNG on
1430 GPU.  Due to the available  memory in the  GPU and the number  of threads
1431 used simultaneously,  the number  of random numbers  that a thread  can generate
1432 inside   a    kernel   is   limited  (\emph{i.e.},    the    variable   \texttt{n}   in
1433 algorithm~\ref{algo:gpu_kernel}). For instance, if  $100,000$ threads are used and
1434 if $n=100$\footnote{in fact, we need to add the initial seed (a 32-bits number)},
1435 then   the  memory   required   to  store all of the  internals   variables  of both the  xor-like
1436 PRNGs\footnote{we multiply this number by $2$ in order to count 32-bits numbers}
1437 and  the pseudorandom  numbers generated by  our  PRNG,  is  equal to  $100,000\times  ((4+5+6)\times
1438 2+(1+100))=1,310,000$ 32-bits numbers, that is, approximately $52$Mb.
1439
1440 This generator is able to pass the whole BigCrush battery of tests, for all
1441 the versions that have been tested depending on their number of threads 
1442 (called \texttt{NumThreads} in our algorithm, tested up to $5$ million).
1443
1444 \begin{remark}
1445 The proposed algorithm has  the  advantage of  manipulating  independent
1446 PRNGs, so this version is easily adaptable on a cluster of computers too. The only thing
1447 to ensure is to use a single ISAAC PRNG. To achieve this requirement, a simple solution consists in
1448 using a master node for the initialization. This master node computes the initial parameters
1449 for all the different nodes involved in the computation.
1450 \end{remark}
1451
1452 \subsection{Improved Version for GPU}
1453
1454 As GPU cards using CUDA have shared memory between threads of the same block, it
1455 is possible  to use this  feature in order  to simplify the  previous algorithm,
1456 i.e., to use less  than 3 xor-like PRNGs. The solution  consists in computing only
1457 one xor-like PRNG by thread, saving  it into the shared memory, and then to use the results
1458 of some  other threads in the  same block of  threads. In order to  define which
1459 thread uses the result of which other  one, we can use a combination array that
1460 contains  the indexes  of  all threads  and  for which  a combination has  been
1461 performed. 
1462
1463 In  Algorithm~\ref{algo:gpu_kernel2},  two  combination  arrays are  used.   The
1464 variable     \texttt{offset}    is     computed    using     the     value    of
1465 \texttt{combination\_size}.   Then we  can compute  \texttt{o1}  and \texttt{o2}
1466 representing the  indexes of  the other  threads whose results  are used  by the
1467 current one.   In this algorithm, we  consider that a 32-bits  xor-like PRNG has
1468 been chosen. In practice, we  use the xor128 proposed in~\cite{Marsaglia2003} in
1469 which  unsigned longs  (64 bits)  have been  replaced by  unsigned  integers (32
1470 bits).
1471
1472 This version  can also pass the whole {\it BigCrush} battery of tests.
1473
1474 \begin{algorithm}
1475 \begin{small}
1476 \KwIn{InternalVarXorLikeArray: array with internal variables of 1 xor-like PRNGs
1477 in global memory\;
1478 NumThreads: Number of threads\;
1479 array\_comb1, array\_comb2: Arrays containing combinations of size combination\_size\;}
1480
1481 \KwOut{NewNb: array containing random numbers in global memory}
1482 \If{threadId is concerned} {
1483   retrieve data from InternalVarXorLikeArray[threadId] in local variables including shared memory and x\;
1484   offset = threadIdx\%combination\_size\;
1485   o1 = threadIdx-offset+array\_comb1[offset]\;
1486   o2 = threadIdx-offset+array\_comb2[offset]\;
1487   \For{i=1 to n} {
1488     t=xor-like()\;
1489     t=t\textasciicircum shmem[o1]\textasciicircum shmem[o2]\;
1490     shared\_mem[threadId]=t\;
1491     x = x\textasciicircum t\;
1492
1493     store the new PRNG in NewNb[NumThreads*threadId+i]\;
1494   }
1495   store internal variables in InternalVarXorLikeArray[threadId]\;
1496 }
1497 \end{small}
1498 \caption{Main kernel for the chaotic iterations based PRNG GPU efficient
1499 version\label{IR}}
1500 \label{algo:gpu_kernel2} 
1501 \end{algorithm}
1502
1503 \subsection{Theoretical Evaluation of the Improved Version}
1504
1505 A run of Algorithm~\ref{algo:gpu_kernel2} consists in an operation ($x=x\oplus t$) having 
1506 the form of Equation~\ref{equation Oplus}, which is equivalent to the iterative
1507 system of Eq.~\ref{eq:generalIC}. That is, an iteration of the general chaotic
1508 iterations is realized between the last stored value $x$ of the thread and a strategy $t$
1509 (obtained by a bitwise exclusive or between a value provided by a xor-like() call
1510 and two values previously obtained by two other threads).
1511 To be certain that we are in the framework of Theorem~\ref{t:chaos des general},
1512 we must guarantee that this dynamical system iterates on the space 
1513 $\mathcal{X} = \mathcal{P}\left(\llbracket 1, \mathsf{N} \rrbracket\right)^\mathds{N}\times\mathds{B}^\mathsf{N}$.
1514 The left term $x$ obviously belongs to $\mathds{B}^ \mathsf{N}$.
1515 To prevent from any flaws of chaotic properties, we must check that the right 
1516 term (the last $t$), corresponding to the strategies,  can possibly be equal to any
1517 integer of $\llbracket 1, \mathsf{N} \rrbracket$. 
1518
1519 Such a result is obvious, as for the xor-like(), all the
1520 integers belonging into its interval of definition can occur at each iteration, and thus the 
1521 last $t$ respects the requirement. Furthermore, it is possible to
1522 prove by an immediate mathematical induction that, as the initial $x$
1523 is uniformly distributed (it is provided by a cryptographically secure PRNG),
1524 the two other stored values shmem[o1] and shmem[o2] are uniformly distributed too,
1525 (this is the induction hypothesis), and thus the next $x$ is finally uniformly distributed.
1526
1527 Thus Algorithm~\ref{algo:gpu_kernel2} is a concrete realization of the general
1528 chaotic iterations presented previously, and for this reason, it satisfies the 
1529 Devaney's formulation of a chaotic behavior.
1530
1531 \section{Experiments}
1532 \label{sec:experiments}
1533
1534 Different experiments  have been  performed in order  to measure  the generation
1535 speed. We have used a first computer equipped with a Tesla C1060 NVidia  GPU card
1536 and an
1537 Intel  Xeon E5530 cadenced  at 2.40  GHz,  and 
1538 a second computer  equipped with a smaller  CPU and  a GeForce GTX  280. 
1539 All the
1540 cards have 240 cores.
1541
1542 In  Figure~\ref{fig:time_xorlike_gpu} we  compare the  quantity of  pseudorandom numbers
1543 generated per second with various xor-like based PRNGs. In this figure, the optimized
1544 versions use the {\it xor64} described in~\cite{Marsaglia2003}, whereas the naive versions
1545 embed  the three  xor-like  PRNGs described  in Listing~\ref{algo:seqCIPRNG}.   In
1546 order to obtain the optimal performances, the storage of pseudorandom numbers
1547 into the GPU memory has been removed. This step is time consuming and slows down the numbers
1548 generation.  Moreover this   storage  is  completely
1549 useless, in case of applications that consume the pseudorandom
1550 numbers  directly   after generation. We can see  that when the number of  threads is greater
1551 than approximately 30,000 and lower than 5 million, the number of pseudorandom numbers generated
1552 per second  is almost constant.  With the  naive version, this value ranges from 2.5 to
1553 3GSamples/s.   With  the  optimized   version,  it  is  approximately  equal to
1554 20GSamples/s. Finally  we can remark  that both GPU  cards are quite  similar, but in
1555 practice,  the Tesla C1060  has more  memory than  the GTX  280, and  this memory
1556 should be of better quality.
1557 As a  comparison,   Listing~\ref{algo:seqCIPRNG}  leads   to the  generation of  about
1558 138MSample/s when using one core of the Xeon E5530.
1559
1560 \begin{figure}[htbp]
1561 \begin{center}
1562   \includegraphics[width=\columnwidth]{curve_time_xorlike_gpu.pdf}
1563 \end{center}
1564 \caption{Quantity of pseudorandom numbers generated per second with the xorlike-based PRNG}
1565 \label{fig:time_xorlike_gpu}
1566 \end{figure}
1567
1568
1569
1570
1571
1572 In Figure~\ref{fig:time_bbs_gpu} we highlight  the performances of the optimized
1573 BBS-based PRNG on GPU.  On  the Tesla C1060 we obtain approximately 700MSample/s
1574 and  on the  GTX 280  about  670MSample/s, which  is obviously  slower than  the
1575 xorlike-based PRNG on GPU. However, we  will show in the next sections that this
1576 new PRNG  has a strong  level of  security, which is  necessarily paid by  a speed
1577 reduction.
1578
1579 \begin{figure}[htbp]
1580 \begin{center}
1581   \includegraphics[width=\columnwidth]{curve_time_bbs_gpu.pdf}
1582 \end{center}
1583 \caption{Quantity of pseudorandom numbers generated per second using the BBS-based PRNG}
1584 \label{fig:time_bbs_gpu}
1585 \end{figure}
1586
1587 All  these  experiments allow  us  to conclude  that  it  is possible  to
1588 generate a very large quantity of pseudorandom  numbers statistically perfect with the  xor-like version.
1589 To a certain extend, it is also the case with the secure BBS-based version, the speed deflation being
1590 explained by the fact that the former  version has ``only''
1591 chaotic properties and statistical perfection, whereas the latter is also cryptographically secure,
1592 as it is shown in the next sections.
1593
1594
1595
1596
1597
1598
1599
1600 \section{Security Analysis}
1601 \label{sec:security analysis}
1602
1603
1604
1605 In this section the concatenation of two strings $u$ and $v$ is classically
1606 denoted by $uv$.
1607 In a cryptographic context, a pseudorandom generator is a deterministic
1608 algorithm $G$ transforming strings  into strings and such that, for any
1609 seed $s$ of length $m$, $G(s)$ (the output of $G$ on the input $s$) has size
1610 $\ell_G(m)$ with $\ell_G(m)>m$.
1611 The notion of {\it secure} PRNGs can now be defined as follows. 
1612
1613 \begin{definition}
1614 A cryptographic PRNG $G$ is secure if for any probabilistic polynomial time
1615 algorithm $D$, for any positive polynomial $p$, and for all sufficiently
1616 large $m$'s,
1617 $$| \mathrm{Pr}[D(G(U_m))=1]-Pr[D(U_{\ell_G(m)})=1]|< \frac{1}{p(m)},$$
1618 where $U_r$ is the uniform distribution over $\{0,1\}^r$ and the
1619 probabilities are taken over $U_m$, $U_{\ell_G(m)}$ as well as over the
1620 internal coin tosses of $D$. 
1621 \end{definition}
1622
1623 Intuitively, it means that there is no polynomial time algorithm that can
1624 distinguish a perfect uniform random generator from $G$ with a non
1625 negligible probability. The interested reader is referred
1626 to~\cite[chapter~3]{Goldreich} for more information. Note that it is
1627 quite easily possible to change the function $\ell$ into any polynomial
1628 function $\ell^\prime$ satisfying $\ell^\prime(m)>m)$~\cite[Chapter 3.3]{Goldreich}.
1629
1630 The generation schema developed in (\ref{equation Oplus}) is based on a
1631 pseudorandom generator. Let $H$ be a cryptographic PRNG. We may assume,
1632 without loss of generality, that for any string $S_0$ of size $N$, the size
1633 of $H(S_0)$ is $kN$, with $k>2$. It means that $\ell_H(N)=kN$. 
1634 Let $S_1,\ldots,S_k$ be the 
1635 strings of length $N$ such that $H(S_0)=S_1 \ldots S_k$ ($H(S_0)$ is the concatenation of
1636 the $S_i$'s). The cryptographic PRNG $X$ defined in (\ref{equation Oplus})
1637 is the algorithm mapping any string of length $2N$ $x_0S_0$ into the string
1638 $(x_0\oplus S_0 \oplus S_1)(x_0\oplus S_0 \oplus S_1\oplus S_2)\ldots
1639 (x_o\bigoplus_{i=0}^{i=k}S_i)$. One in particular has $\ell_{X}(2N)=kN=\ell_H(N)$. 
1640 We claim now that if this PRNG is secure,
1641 then the new one is secure too.
1642
1643 \begin{proposition}
1644 \label{cryptopreuve}
1645 If $H$ is a secure cryptographic PRNG, then $X$ is a secure cryptographic
1646 PRNG too.
1647 \end{proposition}
1648
1649 \begin{proof}
1650 The proposition is proved by contraposition. Assume that $X$ is not
1651 secure. By Definition, there exists a polynomial time probabilistic
1652 algorithm $D$, a positive polynomial $p$, such that for all $k_0$ there exists
1653 $N\geq \frac{k_0}{2}$ satisfying 
1654 $$| \mathrm{Pr}[D(X(U_{2N}))=1]-\mathrm{Pr}[D(U_{kN}=1]|\geq \frac{1}{p(2N)}.$$
1655 We describe a new probabilistic algorithm $D^\prime$ on an input $w$ of size
1656 $kN$:
1657 \begin{enumerate}
1658 \item Decompose $w$ into $w=w_1\ldots w_{k}$, where each $w_i$ has size $N$.
1659 \item Pick a string $y$ of size $N$ uniformly at random.
1660 \item Compute $z=(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y
1661   \bigoplus_{i=1}^{i=k} w_i).$
1662 \item Return $D(z)$.
1663 \end{enumerate}
1664
1665
1666 Consider  for each $y\in \mathbb{B}^{kN}$ the function $\varphi_{y}$
1667 from $\mathbb{B}^{kN}$ into $\mathbb{B}^{kN}$ mapping $w=w_1\ldots w_k$
1668 (each $w_i$ has length $N$) to 
1669 $(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y
1670   \bigoplus_{i=1}^{i=k_1} w_i).$ By construction, one has for every $w$,
1671 \begin{equation}\label{PCH-1}
1672 D^\prime(w)=D(\varphi_y(w)),
1673 \end{equation}
1674 where $y$ is randomly generated. 
1675 Moreover, for each $y$, $\varphi_{y}$ is injective: if 
1676 $(y\oplus w_1)(y\oplus w_1\oplus w_2)\ldots (y\bigoplus_{i=1}^{i=k_1}
1677 w_i)=(y\oplus w_1^\prime)(y\oplus w_1^\prime\oplus w_2^\prime)\ldots
1678 (y\bigoplus_{i=1}^{i=k} w_i^\prime)$, then for every $1\leq j\leq k$,
1679 $y\bigoplus_{i=1}^{i=j} w_i^\prime=y\bigoplus_{i=1}^{i=j} w_i$. It follows,
1680 by a direct induction, that $w_i=w_i^\prime$. Furthermore, since $\mathbb{B}^{kN}$
1681 is finite, each $\varphi_y$ is bijective. Therefore, and using (\ref{PCH-1}),
1682 one has
1683 $\mathrm{Pr}[D^\prime(U_{kN})=1]=\mathrm{Pr}[D(\varphi_y(U_{kN}))=1]$ and,
1684 therefore, 
1685 \begin{equation}\label{PCH-2}
1686 \mathrm{Pr}[D^\prime(U_{kN})=1]=\mathrm{Pr}[D(U_{kN})=1].
1687 \end{equation}
1688
1689 Now, using (\ref{PCH-1}) again, one has  for every $x$,
1690 \begin{equation}\label{PCH-3}
1691 D^\prime(H(x))=D(\varphi_y(H(x))),
1692 \end{equation}
1693 where $y$ is randomly generated. By construction, $\varphi_y(H(x))=X(yx)$,
1694 thus
1695 \begin{equation}%\label{PCH-3}      %%RAPH : j'ai viré ce label qui existe déjà, il est 3 ligne avant
1696 D^\prime(H(x))=D(yx),
1697 \end{equation}
1698 where $y$ is randomly generated. 
1699 It follows that 
1700
1701 \begin{equation}\label{PCH-4}
1702 \mathrm{Pr}[D^\prime(H(U_{N}))=1]=\mathrm{Pr}[D(U_{2N})=1].
1703 \end{equation}
1704  From (\ref{PCH-2}) and (\ref{PCH-4}), one can deduce that
1705 there exists a polynomial time probabilistic
1706 algorithm $D^\prime$, a positive polynomial $p$, such that for all $k_0$ there exists
1707 $N\geq \frac{k_0}{2}$ satisfying 
1708 $$| \mathrm{Pr}[D(H(U_{N}))=1]-\mathrm{Pr}[D(U_{kN}=1]|\geq \frac{1}{p(2N)},$$
1709 proving that $H$ is not secure, which is a contradiction. 
1710 \end{proof}
1711
1712
1713 \section{Cryptographical Applications}
1714
1715 \subsection{A Cryptographically Secure PRNG for GPU}
1716 \label{sec:CSGPU}
1717
1718 It is  possible to build a  cryptographically secure PRNG based  on the previous
1719 algorithm (Algorithm~\ref{algo:gpu_kernel2}).   Due to Proposition~\ref{cryptopreuve},
1720 it simply consists  in replacing
1721 the  {\it  xor-like} PRNG  by  a  cryptographically  secure one.  
1722 We have chosen the Blum Blum Shub generator~\cite{BBS} (usually denoted by BBS) having the form:
1723 $$x_{n+1}=x_n^2~ mod~ M$$  where $M$ is the product of  two prime numbers (these
1724 prime numbers  need to be congruent  to 3 modulus  4). BBS is known to be
1725 very slow and only usable for cryptographic applications. 
1726
1727   
1728 The modulus operation is the most time consuming operation for current
1729 GPU cards.  So in order to obtain quite reasonable performances, it is
1730 required to use only modulus  on 32-bits integer numbers. Consequently
1731 $x_n^2$ need  to be lesser than $2^{32}$,  and thus the number $M$ must be
1732 lesser than $2^{16}$.  So in practice we can choose prime numbers around
1733 256 that are congruent to 3 modulus 4.  With 32-bits numbers, only the
1734 4 least significant bits of $x_n$ can be chosen (the maximum number of
1735 indistinguishable    bits    is    lesser    than   or    equals    to
1736 $log_2(log_2(M))$). In other words, to generate a  32-bits number, we need to use
1737 8 times  the BBS  algorithm with possibly different  combinations of  $M$. This
1738 approach is  not sufficient to be able to pass  all the tests of TestU01,
1739 as small values of  $M$ for the BBS  lead to
1740   small periods. So, in  order to add randomness  we have proceeded with
1741 the followings  modifications. 
1742 \begin{itemize}
1743 \item
1744 Firstly, we  define 16 arrangement arrays  instead of 2  (as described in
1745 Algorithm \ref{algo:gpu_kernel2}), but only 2 of them are used at each call of
1746 the  PRNG kernels. In  practice, the  selection of   combination
1747 arrays to be used is different for all the threads. It is determined
1748 by using  the three last bits  of two internal variables  used by BBS.
1749 %This approach  adds more randomness.   
1750 In Algorithm~\ref{algo:bbs_gpu},
1751 character  \& is for the  bitwise AND. Thus using  \&7 with  a number
1752 gives the last 3 bits, thus providing a number between 0 and 7.
1753 \item
1754 Secondly, after the  generation of the 8 BBS numbers  for each thread, we
1755 have a 32-bits number whose period is possibly quite small. So
1756 to add randomness,  we generate 4 more BBS numbers   to
1757 shift  the 32-bits  numbers, and  add up to  6 new  bits.  This  improvement is
1758 described  in Algorithm~\ref{algo:bbs_gpu}.  In  practice, the last 2 bits
1759 of the first new BBS number are  used to make a left shift of at most
1760 3 bits. The  last 3 bits of the  second new BBS number are  added to the
1761 strategy whatever the value of the first left shift. The third and the
1762 fourth new BBS  numbers are used similarly to apply  a new left shift
1763 and add 3 new bits.
1764 \item
1765 Finally, as  we use 8 BBS numbers  for each thread, the  storage of these
1766 numbers at the end of the  kernel is performed using a rotation. So,
1767 internal  variable for  BBS number  1 is  stored in  place  2, internal
1768 variable  for BBS  number 2  is  stored in  place 3,  ..., and finally, internal
1769 variable for BBS number 8 is stored in place 1.
1770 \end{itemize}
1771
1772 \begin{algorithm}
1773 \begin{small}
1774 \KwIn{InternalVarBBSArray: array with internal variables of the 8 BBS
1775 in global memory\;
1776 NumThreads: Number of threads\;
1777 array\_comb: 2D Arrays containing 16 combinations (in first dimension)  of size combination\_size (in second dimension)\;
1778 array\_shift[4]=\{0,1,3,7\}\;
1779 }
1780
1781 \KwOut{NewNb: array containing random numbers in global memory}
1782 \If{threadId is concerned} {
1783   retrieve data from InternalVarBBSArray[threadId] in local variables including shared memory and x\;
1784   we consider that bbs1 ... bbs8 represent the internal states of the 8 BBS numbers\;
1785   offset = threadIdx\%combination\_size\;
1786   o1 = threadIdx-offset+array\_comb[bbs1\&7][offset]\;
1787   o2 = threadIdx-offset+array\_comb[8+bbs2\&7][offset]\;
1788   \For{i=1 to n} {
1789     t$<<$=4\;
1790     t|=BBS1(bbs1)\&15\;
1791     ...\;
1792     t$<<$=4\;
1793     t|=BBS8(bbs8)\&15\;
1794     \tcp{two new shifts}
1795     shift=BBS3(bbs3)\&3\;
1796     t$<<$=shift\;
1797     t|=BBS1(bbs1)\&array\_shift[shift]\;
1798     shift=BBS7(bbs7)\&3\;
1799     t$<<$=shift\;
1800     t|=BBS2(bbs2)\&array\_shift[shift]\;
1801     t=t\textasciicircum  shmem[o1]\textasciicircum     shmem[o2]\;
1802     shared\_mem[threadId]=t\;
1803     x = x\textasciicircum   t\;
1804
1805     store the new PRNG in NewNb[NumThreads*threadId+i]\;
1806   }
1807   store internal variables in InternalVarXorLikeArray[threadId] using a rotation\;
1808 }
1809 \end{small}
1810 \caption{main kernel for the BBS based PRNG GPU}
1811 \label{algo:bbs_gpu}
1812 \end{algorithm}
1813
1814 In Algorithm~\ref{algo:bbs_gpu}, $n$ is for  the quantity of random numbers that
1815 a thread has to  generate.  The operation t<<=4 performs a left  shift of 4 bits
1816 on the variable  $t$ and stores the result in  $t$, and $BBS1(bbs1)\&15$ selects
1817 the last  four bits  of the  result of $BBS1$.   Thus an  operation of  the form
1818 $t<<=4; t|=BBS1(bbs1)\&15\;$  realizes in $t$ a  left shift of 4  bits, and then
1819 puts the 4 last bits of $BBS1(bbs1)$  in the four last positions of $t$.  Let us
1820 remark that the initialization $t$ is not a  necessity as we fill it 4 bits by 4
1821 bits, until  having obtained 32-bits.  The  two last new shifts  are realized in
1822 order to enlarge the small periods of  the BBS used here, to introduce a kind of
1823 variability.  In these operations, we make twice a left shift of $t$ of \emph{at
1824   most}  3 bits,  represented by  \texttt{shift} in  the algorithm,  and  we put
1825 \emph{exactly} the \texttt{shift}  last bits from a BBS  into the \texttt{shift}
1826 last bits of $t$. For this, an array named \texttt{array\_shift}, containing the
1827 correspondence between the  shift and the number obtained  with \texttt{shift} 1
1828 to make the \texttt{and} operation is used. For example, with a left shift of 0,
1829 we  make an  and operation  with 0,  with  a left  shift of  3, we  make an  and
1830 operation with 7 (represented by 111 in binary mode).
1831
1832 It should  be noticed that this generator has once more the form $x^{n+1} = x^n \oplus S^n$,
1833 where $S^n$ is referred in this algorithm as $t$: each iteration of this
1834 PRNG ends with $x = x \wedge t$. This $S^n$ is only constituted
1835 by secure bits produced by the BBS generator, and thus, due to
1836 Proposition~\ref{cryptopreuve}, the resulted PRNG is cryptographically
1837 secure.
1838
1839
1840
1841 \begin{color}{red}
1842 \subsection{Practical Security Evaluation}
1843 \label{sec:Practicak evaluation}
1844
1845 Suppose now that the PRNG will work during 
1846 $M=100$ time units, and that during this period,
1847 an attacker can realize $10^{12}$ clock cycles.
1848 We thus wonder whether, during the PRNG's 
1849 lifetime, the attacker can distinguish this 
1850 sequence from truly random one, with a probability
1851 greater than $\varepsilon = 0.2$.
1852 We consider that $N$ has 900 bits.
1853
1854 The random process is the BBS generator, which
1855 is cryptographically secure. More precisely, it
1856 is $(T,\varepsilon)-$secure: no 
1857 $(T,\varepsilon)-$distinguishing attack can be
1858 successfully realized on this PRNG, if~\cite{Fischlin}
1859 $$
1860 T \leqslant \dfrac{L(N)}{6 N (log_2(N))\varepsilon^{-2}M^2}-2^7 N \varepsilon^{-2} M^2 log_2 (8 N \varepsilon^{-1}M)
1861 $$
1862 where $M$ is the length of the output ($M=100$ in
1863 our example), and $L(N)$ is equal to
1864 $$
1865 2.8\times 10^{-3} exp \left(1.9229 \times (N ~ln(2)^\frac{1}{3}) \times ln(N~ln 2)^\frac{2}{3}\right)
1866 $$
1867 is the number of clock cycles to factor a $N-$bit
1868 integer.
1869
1870 A direct numerical application shows that this attacker 
1871 cannot achieve its $(10^{12},0.2)$ distinguishing
1872 attack in that context.
1873
1874 \end{color}
1875
1876 \subsection{Toward a Cryptographically Secure and Chaotic Asymmetric Cryptosystem}
1877 \label{Blum-Goldwasser}
1878 We finish this research work by giving some thoughts about the use of
1879 the proposed PRNG in an asymmetric cryptosystem.
1880 This first approach will be further investigated in a future work.
1881
1882 \subsubsection{Recalls of the Blum-Goldwasser Probabilistic Cryptosystem}
1883
1884 The Blum-Goldwasser cryptosystem is a cryptographically secure asymmetric key encryption algorithm 
1885 proposed in 1984~\cite{Blum:1985:EPP:19478.19501}.  The encryption algorithm 
1886 implements a XOR-based stream cipher using the BBS PRNG, in order to generate 
1887 the keystream. Decryption is done by obtaining the initial seed thanks to
1888 the final state of the BBS generator and the secret key, thus leading to the
1889  reconstruction of the keystream.
1890
1891 The key generation consists in generating two prime numbers $(p,q)$, 
1892 randomly and independently of each other, that are
1893  congruent to 3 mod 4, and to compute the modulus $N=pq$.
1894 The public key is $N$, whereas the secret key is the factorization $(p,q)$.
1895
1896
1897 Suppose Bob wishes to send a string $m=(m_0, \dots, m_{L-1})$ of $L$ bits to Alice:
1898 \begin{enumerate}
1899 \item Bob picks an integer $r$ randomly in the interval $\llbracket 1,N\rrbracket$ and computes $x_0 = r^2~mod~N$.
1900 \item He uses the BBS to generate the keystream of $L$ pseudorandom bits $(b_0, \dots, b_{L-1})$, as follows. For $i=0$ to $L-1$,
1901 \begin{itemize}
1902 \item $i=0$.
1903 \item While $i \leqslant L-1$:
1904 \begin{itemize}
1905 \item Set $b_i$ equal to the least-significant\footnote{As signaled previously, BBS can securely output up to $\mathsf{N} = \lfloor log(log(N)) \rfloor$ of the least-significant bits of $x_i$ during each round.} bit of $x_i$,
1906 \item $i=i+1$,
1907 \item $x_i = (x_{i-1})^2~mod~N.$
1908 \end{itemize}
1909 \end{itemize}
1910 \item The ciphertext is computed by XORing the plaintext bits $m$ with the keystream: $ c = (c_0, \dots, c_{L-1}) = m \oplus  b$. This ciphertext is $[c, y]$, where $y=x_{0}^{2^{L}}~mod~N.$
1911 \end{enumerate}
1912
1913
1914 When Alice receives $\left[(c_0, \dots, c_{L-1}), y\right]$, she can recover $m$ as follows:
1915 \begin{enumerate}
1916 \item Using the secret key $(p,q)$, she computes $r_p = y^{((p+1)/4)^{L}}~mod~p$ and $r_q = y^{((q+1)/4)^{L}}~mod~q$.
1917 \item The initial seed can be obtained using the following procedure: $x_0=q(q^{-1}~{mod}~p)r_p + p(p^{-1}~{mod}~q)r_q~{mod}~N$.
1918 \item She recomputes the bit-vector $b$ by using BBS and $x_0$.
1919 \item Alice finally computes the plaintext by XORing the keystream with the ciphertext: $ m = c \oplus  b$.
1920 \end{enumerate}
1921
1922
1923 \subsubsection{Proposal of a new Asymmetric Cryptosystem Adapted from Blum-Goldwasser}
1924
1925 We propose to adapt the Blum-Goldwasser protocol as follows. 
1926 Let $\mathsf{N} = \lfloor log(log(N)) \rfloor$ be the number of bits that can
1927 be obtained securely with the BBS generator using the public key $N$ of Alice.
1928 Alice will pick randomly $S^0$ in $\llbracket 0, 2^{\mathsf{N}-1}\rrbracket$ too, and
1929 her new public key will be $(S^0, N)$.
1930
1931 To encrypt his message, Bob will compute
1932 %%RAPH : ici, j'ai mis un simple $
1933 %\begin{equation}
1934 $c = \left(m_0 \oplus (b_0 \oplus S^0), m_1 \oplus (b_0 \oplus b_1 \oplus S^0), \hdots, \right.$
1935 $ \left. m_{L-1} \oplus (b_0 \oplus b_1 \hdots \oplus b_{L-1} \oplus S^0) \right)$
1936 %%\end{equation}
1937 instead of $\left(m_0 \oplus b_0, m_1 \oplus b_1, \hdots, m_{L-1} \oplus b_{L-1} \right)$. 
1938
1939 The same decryption stage as in Blum-Goldwasser leads to the sequence 
1940 $\left(m_0 \oplus S^0, m_1 \oplus S^0, \hdots, m_{L-1} \oplus S^0 \right)$.
1941 Thus, with a simple use of $S^0$, Alice can obtain the plaintext.
1942 By doing so, the proposed generator is used in place of BBS, leading to
1943 the inheritance of all the properties presented in this paper.
1944
1945 \section{Conclusion}
1946
1947
1948 In  this  paper, a formerly proposed PRNG based on chaotic iterations
1949 has been generalized to improve its speed. It has been proven to be
1950 chaotic according to Devaney.
1951 Efficient implementations on  GPU using xor-like  PRNGs as input generators
1952 have shown that a very large quantity of pseudorandom numbers can be generated per second (about
1953 20Gsamples/s), and that these proposed PRNGs succeed to pass the hardest battery in TestU01,
1954 namely the BigCrush.
1955 Furthermore, we have shown that when the inputted generator is cryptographically
1956 secure, then it is the case too for the PRNG we propose, thus leading to
1957 the possibility to develop fast and secure PRNGs using the GPU architecture.
1958 \begin{color}{red} An improvement of the Blum-Goldwasser cryptosystem, making it 
1959 behaves chaotically, has finally been proposed. \end{color}
1960
1961 In future  work we plan to extend this research, building a parallel PRNG for  clusters or
1962 grid computing. Topological properties of the various proposed generators will be investigated,
1963 and the use of other categories of PRNGs as input will be studied too. The improvement
1964 of Blum-Goldwasser will be deepened. Finally, we
1965 will try to enlarge the quantity of pseudorandom numbers generated per second either
1966 in a simulation context or in a cryptographic one.
1967
1968
1969
1970 \bibliographystyle{plain} 
1971 \bibliography{mabase}
1972 \end{document}