X-Git-Url: https://bilbo.iut-bm.univ-fcomte.fr/and/gitweb/hdrcouchot.git/blobdiff_plain/75aa438e61284f634375e2c1e62c79f2af12678f..HEAD:/chaosANN.tex?ds=sidebyside

diff --git a/chaosANN.tex b/chaosANN.tex
index 89ac939..143ce23 100644
--- a/chaosANN.tex
+++ b/chaosANN.tex
@@ -12,9 +12,11 @@ leur comportement imprÃ©visible et proche de l'alÃ©a.
 
 Les rÃ©seaux de neurones chaotiques peuvent Ãªtre conÃ§us selon plusieurs 
 principes. Des neurones modifiant leur Ã©tat en suivant une fonction non 
-linÃ©aire son par exemple appelÃ©s neurones chaotiques~\cite{Crook2007267}.
+linÃ©aire sont par exemple appelÃ©s neurones chaotiques~\cite{Crook2007267}.
 L'architecture de rÃ©seaux de neurones de type Perceptron multi-couches
-(MLP) n'itÃ¨rent quant Ã  eux, pas nÃ©cessairement de fonctions chaotiques.
+(MLP) n'itÃ¨rent quant Ã  eux classiquement pas de fonction chaotique:
+leurs fonctions d'activation sont usuellement choisies parmi les sigmoÃ¯des 
+(la fonction tangeante hyperbolique par exemple). 
 Il a cependant Ã©tÃ© dÃ©montrÃ©  que ce sont des approximateurs 
 universels~\cite{Cybenko89,DBLP:journals/nn/HornikSW89}.   
 Ils permettent, dans certains cas, de simuler des comportements 
@@ -28,7 +30,7 @@ fonctions chaotiques.
 
 Ces rÃ©seaux de neurones partagent le fait qu'ils sont qualifiÃ©s de 
 ``chaotiques'' sous prÃ©texte qu'ils embarquent une fonction de ce type 
-et ce sans aucune preuve rigoureuse ne soit fournie.
+et ce sans qu'aucune preuve rigoureuse ne soit fournie.
 Ce chapitre caractÃ©rise la 
 classe des rÃ©seaux de neurones MLP chaotiques. Il  
 s'intÃ©resse ensuite Ã  l'Ã©tude de prÃ©visibilitÃ© de systÃ¨mes dynamiques
@@ -39,7 +41,8 @@ chaotique selon Devanay. La section~\ref{S3} prÃ©sente l'approche duale
 de vÃ©rification si un rÃ©seau de neurones est chaotique ou non.
 La section~\ref{sec:ann:approx} s'intÃ©resse Ã  Ã©tudier pratiquement
 si un rÃ©seau de 
-neurones peut approximer des itÃ©ration unaires chaotiques. Ces itÃ©rations
+neurones peut approximer des itÃ©rations unaires chaotiques, 
+ces itÃ©rations
 Ã©tant obtenues Ã  partir de fonctions issues de la dÃ©marche dÃ©taillÃ©e dans 
 le chapitre prÃ©cÃ©dent.
 Ce travail a Ã©tÃ© publiÃ© dans~\cite{bcgs12:ij}.
@@ -58,7 +61,7 @@ Plus prÃ©cisÃ©ment, pour chaque entrÃ©e
  $(x,s)   \in  \mathds{B}^{\mathsf{N}} \times [{\mathsf{N}}]$,
 la couche de sortie doit gÃ©nÃ©rer $F_{f_u}(x,s)$.   
 On peut ainsi lier la couche de sortie avec celle d'entrÃ©e pour reprÃ©senter 
-les dÃ©pendance entre deux itÃ©rations successives.
+les dÃ©pendances entre deux itÃ©rations successives.
 On obtient une rÃ©seau de neurones dont le comportement est le suivant 
 (voir Figure.~\ref{Fig:perceptron}):
 
@@ -68,8 +71,8 @@ On obtient une rÃ©seau de neurones dont le comportement est le suivant
   et calcule le  vecteur de sortie 
   $x^1=F_{f_u}\left(x^0,S^0\right)$. 
   Ce vecteur est publiÃ© comme une sortie et est aussi retournÃ© sur la couche d'entrÃ©e 
-  Ã  travers les liens de retours.
-\item Lorsque le rÃ©seau est  activÃ© Ã  la $t^{th}$  itÃ©ration, l'Ã©tat du 
+  Ã  travers les liens de retour.
+\item Lorsque le rÃ©seau est  activÃ© Ã  la $t^{\textrm{Ã¨me}}$  itÃ©ration, l'Ã©tat du 
   systÃ¨me $x^t  \in \mathds{B}^{\mathsf{N}}$ reÃ§u depuis la couche de sortie ainsi que le 
   premier terme de la  sÃ©quence $(S^t)^{t  \in \Nats}$
   (\textit{i.e.},  $S^0  \in [{\mathsf{N}}]$)  servent Ã  construire le nouveau vecteur de sortie.
@@ -82,7 +85,7 @@ On obtient une rÃ©seau de neurones dont le comportement est le suivant
 \begin{figure}
   \centering
   \includegraphics[scale=0.625]{images/perceptron}
-  \caption{Un Perceptron Ã©quivalent  aux itÃ©rations unitaires}
+  \caption{Un Perceptron Ã©quivalent  aux itÃ©rations unaires}
   \label{Fig:perceptron}
 \end{figure}
 
@@ -91,7 +94,7 @@ initial est composÃ© de $x^0~\in~\mathds{B}^{\mathsf{N}}$ et d'une sÃ©quence
  $(S^t)^{t  \in \Nats}$, alors la sÃ©quence  contenant les vecteurs successifs 
 publiÃ©s $\left(x^t\right)^{t \in \mathds{N}^{\ast}}$ est exactement celle produite 
 par les itÃ©rations unaires dÃ©crites Ã  la section~\ref{sec:TIPE12}.
-MathÃ©matiquement, cela signifie que si on utilise les mÃªmes vecteurs d'entrÃ©es
+MathÃ©matiquement, cela signifie que si on utilise les mÃªmes vecteurs d'entrÃ©e
 les deux approches gÃ©nÃ¨rent successivement les mÃªmes sorties.
 En d'autres termes ce rÃ©seau de neurones modÃ©lise le comportement de  
 $G_{f_u}$,  dont les itÃ©rations sont chaotiques sur $\mathcal{X}_u$.
@@ -140,10 +143,10 @@ $f_j\left(x_1,x_2,\dots,x_{\mathsf{N}}\right) =
 F\left(\left(x_1,x_2,\dots,x_{\mathsf{N}}\right),j\right)$.
 Si ce rÃ©seau de neurones est initialisÃ© avec 
 $\left(x_1^0,\dots,x_{\mathsf{N}}^0\right)$   et $S   \in    [{\mathsf{N}}]^{\mathds{N}}$, 
-il produit exactement les mÃªme sorties que les itÃ©rations de  $F_{f_u}$ avec une 
+il produit exactement les mÃªmes sorties que les itÃ©rations de  $F_{f_u}$ avec une 
 condition initiale $\left((x_1^0,\dots,  x_{\mathsf{N}}^0),S\right)  \in  \mathds{B}^{\mathsf{N}} \times [{\mathsf{N}}]^{\mathds{N}}$.
 Les itÃ©rations de $F_{f_u}$ 
-sont donc un modÃ¨le formel de cette classe de rÃ©seau de neurones.
+sont donc un modÃ¨le formel de cette classe de rÃ©seaux de neurones.
 Pour vÃ©rifier si un de ces reprÃ©sentants est chaotique, il suffit ainsi 
 de vÃ©rifier si le graphe d'itÃ©rations
 $\textsc{giu}(f)$ est fortement connexe.
@@ -162,12 +165,12 @@ qui approximerait les itÃ©rations de la fonction $G_{f_u}$ comme dÃ©finie
 Ã  l'Ã©quation~(\ref{eq:sch:unaire}).
 
 Sans perte de gÃ©nÃ©ralitÃ©, on considÃ¨re dans ce qui suit une instance
-de de fonction Ã  quatre Ã©lÃ©ments.
+ de fonction Ã  quatre Ã©lÃ©ments.
 
 \subsection{Construction du rÃ©seau} 
 \label{section:translation}
 
-On considÃ¨re par exemple les deux fonctions $f$ and $g$ de $\Bool^4$
+On considÃ¨re par exemple les deux fonctions $f$ et $g$ de $\Bool^4$
 dans $\Bool^4$ dÃ©finies par:
 
 \begin{eqnarray*}
@@ -197,7 +200,7 @@ Dans le premier cas, on considÃ¨re une entrÃ©e boolÃ©enne par Ã©lÃ©ment
 tandis que dans le second cas, les configurations  sont mÃ©morisÃ©es comme 
 des entiers naturels. Dans ce dernier cas, une approche naÃ¯ve pourrait 
 consister Ã  attribuer Ã  chaque configuration de $\Bool^{\mathsf{N}}$ 
-l'entier naturel naturel correspondant.
+l'entier naturel correspondant.
 Cependant, une telle reprÃ©sentation rapproche 
 arbitrairement des configurations diamÃ©tralement
 opposÃ©es dans le ${\mathsf{N}}$-cube comme  une puissance de
@@ -224,7 +227,7 @@ Les sorties (stratÃ©gies et configurations) sont mÃ©morisÃ©es
 selon les mÃªmes rÃ¨gles.
 
 Concentrons nous sur la complexitÃ© du problÃ¨me.
-Chaque entrÃ©e, de l'entrÃ©e-sortie de l'outil est un triplet 
+Chaque entrÃ©e de l'entrÃ©e-sortie de l'outil est un triplet 
 composÃ© d'une configuration $x$, d'un extrait  $S$ de la stratÃ©gie Ã  
 itÃ©rer de taille $l$, $2 \le l \le  k$ et d'un nombre $m \in [l-1]$ d'itÃ©rations Ã  exÃ©cuter.
 Il y a  $2^{\mathsf{N}}$  configurations $x$ et  ${\mathsf{N}}^l$ stratÃ©gies de
@@ -241,7 +244,7 @@ donc
 \dfrac{(k-1)\times {\mathsf{N}}^{k+1}}{{\mathsf{N}}-1} - \dfrac{{\mathsf{N}}^{k+1}-{\mathsf{N}}^2}{({\mathsf{N}}-1)^2} \enspace . \nonumber
 \end{equation}
 \noindent
-Ainsi le nombre de paire d'entrÃ©e-sortie pour les rÃ©seaux de neurones considÃ©rÃ©s
+Ainsi le nombre de paires d'entrÃ©e-sortie pour les rÃ©seaux de neurones considÃ©rÃ©s
 est 
 $$
 2^{\mathsf{N}} \times \left(\dfrac{(k-1)\times {\mathsf{N}}^{k+1}}{{\mathsf{N}}-1} - \dfrac{{\mathsf{N}}^{k+1}-{\mathsf{N}}^2}{({\mathsf{N}}-1)^2}\right) \enspace .
@@ -259,8 +262,9 @@ ont montrÃ© qu'un MLP pouvait apprendre la dynamique du circuit de Chua.
 Ce rÃ©seau avec rÃ©tropropagation est composÃ© de  deux couches 
 et entraÃ®nÃ© Ã  l'aide d'une  propagation arriÃ¨re Bayesienne.
 
-Le choix de l'architecture du rÃ©seau ainsi que de la mÃ©thode d'apprentissage 
-ont Ã©tÃ© dÃ©taillÃ© dans~\cite{bcgs12:ij}.
+Les choix de l'architecture de rÃ©seau ainsi que ceux concernant les
+ mÃ©thodes d'apprentissage 
+ont Ã©tÃ© dÃ©taillÃ©s dans~\cite{bcgs12:ij}.
 En pratique, nous avons considÃ©rÃ© des configurations de
 quatre Ã©lÃ©ments boolÃ©ens 
 et une stratÃ©gie fixe de longueur 3.
@@ -366,8 +370,8 @@ apprendre le comportement de la stratÃ©gie.
 
 Les rÃ©sultats concernant le second codage  (\textit{i.e.},  avec les codes
 de   Gray) sont synthÃ©tisÃ©s dans le tableau~\ref{tab2}. On constate 
-que le rÃ©seau apprend cinq fois mieux les comportement non chaotiques
-que ceux qui le sont. Ceci est est illustrÃ© au travers des 
+que le rÃ©seau apprend cinq fois mieux les comportements non chaotiques
+que ceux qui le sont. Ceci est  illustrÃ© au travers des 
 figures~\ref{Fig:chaotic_predictions} et~\ref{Fig:non-chaotic_predictions}.
 De plus, comme dans le codage prÃ©cÃ©dent, les stratÃ©gies ne peuvent pas Ãªtre 
 prÃ©dites.  
@@ -417,8 +421,8 @@ Nous avons enfin montrÃ© en pratique qu'il est difficile pour un
 rÃ©seau de neurones d'apprendre le comportement global d'itÃ©rations
 chaotiques.
 Comme il est difficile (voir impossible) d'apprendre le comportement 
-de telles fonction, il paraÃ®t naturelle de savoir si celles ci peuvent Ãªtre 
-utilisÃ©es pour gÃ©nÃ©rer des nombres pseudo alÃ©atoires, ce que propose la partie
+de telles fonctions, il paraÃ®t naturel de savoir si celles ci peuvent Ãªtre 
+utilisÃ©es pour gÃ©nÃ©rer des nombres pseudo-alÃ©atoires, ce que propose la partie
 suivante.
 
 
