Les GAN ou réseaux de neurones antagonistes

Les intelligences artificielles génératives

Chat GPT et ses successeurs sont en train de bouleverser des pans entiers du monde du travail. Nous consacrerons sous peu un article décortiquant les entrailles de ces grands modèles de langage ("Large Language Model" ou "LLM" en anglais).
Mais les arts graphiques étant toujours un peu en avance, la révolution des IAs génératives était arrivée quelques mois plus tôt !Cet article se propose d'expliquer le fonctionnement des systèmes de générations d'images artificielles, comme Dall-E ou MidJourney.

Mais les arts graphiques étant toujours un peu en avance, la révolution des IAs génératives était arrivée quelques mois plus tôt !Cet article se propose d'expliquer le fonctionnement des systèmes de générations d'images artificielles, comme Dall-E ou MidJourney.

Cet article se propose d'expliquer le fonctionnement des systèmes de générations d'images artificielles, comme Dall-E ou MidJourney.

Mars 2016 : le choc

J'avais depuis longtemps rangé l'intelligence artificielle au rayon des technologies prometteuses que l’on attendait plus vraiment, avec la voiture volante et la téléportation, dans ma bibliothèque juste à côté des livres de science-fiction…
Et au sujet du jeu de Go, Je me targuais même souvent d’être plus fort que n’importe quel programme informatique (malgré un niveau assez moyen) !
Mais un beau jour de mars 2016, je me lève à 4 heures du matin pour assister en direct avec un ami à un match opposant Lee Sedol (l’un des plus grands maîtres de ce jeu) à Alphago, un programme informatique développé par DeepMind, une filiale de Google.
Et là stupeur, nous assistons éberlués à la victoire de la machine : l’ordinateur venait de battre l’humain, de le détrôner au dernier jeu de plateau qui lui résistait encore !
Quelque chose venait de se passer…
Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Et au sujet du jeu de Go, Je me targuais même souvent d’être plus fort que n’importe quel programme informatique (malgré un niveau assez moyen) !
Mais un beau jour de mars 2016, je me lève à 4 heures du matin pour assister en direct avec un ami à un match opposant Lee Sedol (l’un des plus grands maîtres de ce jeu) à Alphago, un programme informatique développé par DeepMind, une filiale de Google.
Et là stupeur, nous assistons éberlués à la victoire de la machine : l’ordinateur venait de battre l’humain, de le détrôner au dernier jeu de plateau qui lui résistait encore !
Quelque chose venait de se passer…
Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Mais un beau jour de mars 2016, je me lève à 4 heures du matin pour assister en direct avec un ami à un match opposant Lee Sedol (l’un des plus grands maîtres de ce jeu) à Alphago, un programme informatique développé par DeepMind, une filiale de Google.
Et là stupeur, nous assistons éberlués à la victoire de la machine : l’ordinateur venait de battre l’humain, de le détrôner au dernier jeu de plateau qui lui résistait encore !
Quelque chose venait de se passer…
Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Et là stupeur, nous assistons éberlués à la victoire de la machine : l’ordinateur venait de battre l’humain, de le détrôner au dernier jeu de plateau qui lui résistait encore !
Quelque chose venait de se passer…
Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Quelque chose venait de se passer…
Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Je passais alors une dizaine de jours à essayer de comprendre comment cette soudaine fulgurance avait pu advenir, aidé par des amis professionnels du secteur, et par la leçon inaugurale de Yann Le Cun (l’un de nos plus grands chercheurs en IA) au Collège de France : « L’apprentissage profond : une révolution en intelligence artificielle », dont je ne saurais trop vous conseiller le visionnage !
L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

L'article ci-dessous est en partie basé sur la présentation que je rédigais alors pour vulgariser ce que je venais de comprendre : « Le deep learning expliqué à ma maman ».
Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

Il est accessible, je l’espère au plus grand nombre, et ne demande aucun pré-requis, mais il nécessite de commencer par un rappel rapide de l’histoire de l’informatique…

De la calculatrice au logiciel

Ci-dessous, les grandes étapes qui nous ont permis de passer de la première machine à calculer occidentale la « Pascaline » aux logiciels.

La "Pascaline" de Blaise Pascal, qui l'inventa pour soulager les calculs fastidieux que son père avait à faire, est considérée comme la première machine à calculer.

La calculatrice prend un chiffre en entrée, et effectue une opération dessus, pour obtenir un autre chiffre en sortie.

Dans un programme informatique, plusieurs opérateurs se suivent, et on ajoute des conditions pour passer de l'un à l'autre, permettant d'effectuer des opérations plus complexes.

Enfin un logiciel est un programme, mais l'utilisateur intervient pendant son déroulement, lui permettant en temps réel de décider de la manière dont les opérateurs doivent travailler.

Les réseaux de neurones

Et maintenant, comment fonctionnent les réseaux de neurones...

En 1957, des chercheurs essayent de reproduire de manière automatisée ce qu'ils ont compris du fonctionnement des neurones que l'on trouve au fond de l’œil, qui sont chargés de faire une première analyse de l'image.

Pour cela, ils créent un ensemble de programme, chacun représentant un neurone artificiel...

Ils vont laisser la machine se charger justement d'enchaîner ces petits neurones entre eux.

Ensuite ils introduisent un ensemble de valeurs en entrée (représentant l'image observée)

Et quand le réseau de neurone produit une conclusion fausse, ils vont informer le système que les "poids" associés aux chemins pris pour aboutir à cette décision doivent être diminués.

Par contre quand le résultat est juste, la machine doit augmenter ces poids. Ce processus est un entraînement patient, on parle de "Machine Learning".

Les réseaux convolutifs de Yann Le Cun

C'est sur cette technologie que Yann Le Cun a construit ses premiers systèmes automatisés d'analyse des images.

En 1980 Yann Le Cun invente les réseaux de neurones "convolutifs"

Il a l'idée de découper une image complexe en petites unités (ici l'oreille du chat)

Et il va entraîner son réseau à reconnaître ce petit morceau, en recombinant ces petits éléments.

Petit à petit le réseau va savoir reconnaître de petites parties, mais aussi savoir les associer pour reconnaître des formes plus complexes !

Jusqu'à reconnaître une image complète...

Et être capable d'identifier toutes sortes de choses, comme par exemple des chats.

L'apprentissage profond ou Deep Learning

Après cette période héroïque, le sujet est longtemps resté cantonné aux laboratoires, et Yann Le Cun et ses pairs étaient un peu seuls à travailler sur le sujet.Hormis quelques applications commercialisées, comme le système de lecture automatique de chèques ou d’adresses vendues à des banques et des services postaux, les prodigieux résultats se faisaient attendre…
A partir de 2006, la combinaison de l’augmentation considérable de la puissance de calcul des ordinateurs (notamment grâce à l’industrie du jeu vidéo et des cartes dédiées au calcul 3D sans cesse plus puissantes), et l'apparition de bases de données labellisées permettant d’entraîner ces réseaux de neurones allait faire exploser les capacités de ces algorithmes.

Hormis quelques applications commercialisées, comme le système de lecture automatique de chèques ou d’adresses vendues à des banques et des services postaux, les prodigieux résultats se faisaient attendre…
A partir de 2006, la combinaison de l’augmentation considérable de la puissance de calcul des ordinateurs (notamment grâce à l’industrie du jeu vidéo et des cartes dédiées au calcul 3D sans cesse plus puissantes), et l'apparition de bases de données labellisées permettant d’entraîner ces réseaux de neurones allait faire exploser les capacités de ces algorithmes.

A partir de 2006, la combinaison de l’augmentation considérable de la puissance de calcul des ordinateurs (notamment grâce à l’industrie du jeu vidéo et des cartes dédiées au calcul 3D sans cesse plus puissantes), et l'apparition de bases de données labellisées permettant d’entraîner ces réseaux de neurones allait faire exploser les capacités de ces algorithmes.

Les consoles de jeu vidéo intégrant des cartes électroniques dédiées aux manipulations de matrice pour l’affichage des images 3D, se sont aussi révélées parfaitement adaptées aux opérations mathématiques nécessaires à l’entraînement des réseaux de neurones. Les chercheurs en IA se sont mis à récupérer les consoles périmées, pour brancher ces précieux calculateurs en série et entraîner leurs modèles numériques !

A peu près au même moment est publiée Imagenet, une base de données d’images labellisées, c’est-à-dire que les différents objets présents sur ces images sont détourés et nommés (chiens, chats, voitures, etc.).Cette base d’image construite par Google a été un facteur décisif dans l’accélération des capacités de reconnaissance visuelle par les machines.

Cette base d’image construite par Google a été un facteur décisif dans l’accélération des capacités de reconnaissance visuelle par les machines.

La combinaison de ces innovations déclenche l'essor de "l’apprentissage profond" ou "Deep Learning" : des réseaux de neurones exploitant des ordinateurs suffisamment puissants pour multiplier les couches de « neurones » informatiques.Cette complexité nouvelle change la donne, et rapidement les résultats attendus depuis longtemps tombent !Les machines égalent ou dépassent les humains dans la reconnaissance d'image, mais il manque encore un ingrédient pour que le raz de marée des IA générative déferle sur la planète...

Cette complexité nouvelle change la donne, et rapidement les résultats attendus depuis longtemps tombent !Les machines égalent ou dépassent les humains dans la reconnaissance d'image, mais il manque encore un ingrédient pour que le raz de marée des IA générative déferle sur la planète...

Les machines égalent ou dépassent les humains dans la reconnaissance d'image, mais il manque encore un ingrédient pour que le raz de marée des IA générative déferle sur la planète...

L'apprentissage profond fonctionne exactement comme le machine learning présenté plus haut

Il va identifier des motifs, des formes

Mais avec beaucoup plus de neurones.

Ian Goodfellow, le cygne noir du Deep Learning

Un soir de 2014, Ian Goodfellow, un chercheur canadien du secteur sirotant une bière avec un ami a une idée saugrenue :- « Bon, on a maintenant des réseaux capables de reconnaître très bien des chats dans des images, ok ?Et bien, imagine qu’on ajoute à ce réseau un autre réseau qui lui génère une image aléatoire.Celui qui connaît si bien les chats le corrige, en lui recommandant des améliorations pour que cette image générée ressemble plus à un chat…Si ça se trouve, on pourrait générer des images à partir de rien qui ressemblerait autant à des chats que ce que nous, nous appelons des chats ! Qu'en dis-tu ? »
Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

- « Bon, on a maintenant des réseaux capables de reconnaître très bien des chats dans des images, ok ?Et bien, imagine qu’on ajoute à ce réseau un autre réseau qui lui génère une image aléatoire.Celui qui connaît si bien les chats le corrige, en lui recommandant des améliorations pour que cette image générée ressemble plus à un chat…Si ça se trouve, on pourrait générer des images à partir de rien qui ressemblerait autant à des chats que ce que nous, nous appelons des chats ! Qu'en dis-tu ? »
Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

Et bien, imagine qu’on ajoute à ce réseau un autre réseau qui lui génère une image aléatoire.Celui qui connaît si bien les chats le corrige, en lui recommandant des améliorations pour que cette image générée ressemble plus à un chat…Si ça se trouve, on pourrait générer des images à partir de rien qui ressemblerait autant à des chats que ce que nous, nous appelons des chats ! Qu'en dis-tu ? »
Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

Celui qui connaît si bien les chats le corrige, en lui recommandant des améliorations pour que cette image générée ressemble plus à un chat…Si ça se trouve, on pourrait générer des images à partir de rien qui ressemblerait autant à des chats que ce que nous, nous appelons des chats ! Qu'en dis-tu ? »
Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

Si ça se trouve, on pourrait générer des images à partir de rien qui ressemblerait autant à des chats que ce que nous, nous appelons des chats ! Qu'en dis-tu ? »
Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

Rentré chez lui, Ian se met à coder dans son canapé, et au petit matin, le programme fonctionne !

L'invention de Ian Goodfellow : les Generative Adversarial Networks

2 réseaux de neurones sont utilisés.

Celui de gauche commence à produire une image aléatoire, sous le contrôle de celui de droite qui lui a été entraîné à reconnaître un chat (par exemple)

Au fur et à mesure des cycles qui se succèdent, l'image va être corrigée pour mieux ressembler à ce que celui de droite considère comme un chat !

L'image se précise...

Jusqu'à ce que celui de droite considère effectivement que cela peut être considéré comme un chat !

Les réseaux génératifs antagonistes ou Generative Adversarial Networks étaient nés !

Ces chats n’existent pas ! On voit ici l’évolution de petites images au départ aléatoires, et qui sont corrigées pas à pas par un réseau de neurones antagonistes.

Et évidemment ça ne fonctionne pas que sur des chats…

Ces humains n’existent pas non plus !

Une autre application consiste à créer une image crédible à partir d’une carte « sémantique ».Dans l’image suivante, on a donné une couleur pour la zone de trottoirs, une autre pour la route, les arbres, etc.

Dans l’image suivante, on a donné une couleur pour la zone de trottoirs, une autre pour la route, les arbres, etc.

Création ex-nihilo d'une image réaliste de rue par un GAN

On peut aussi appliquer des technologies sur de la vidéo et du son.Ici, une fausse vidéo de Barack Obama.

Ici, une fausse vidéo de Barack Obama.

Fausse interview générée par un GAN entraîné sur les nombreuses vidéos existantes de ce président américain.

Aux alentours de 2015, grâce au deep learning, les ordinateurs ont dépassé les compétences humaines à identifier des objets et sujets dans des images, mais aussi à transcrire une conversation sous forme de texte.Désormais ils sont aussi capables de recréer des vidéos crédibles sur nos écrans.
C’est une révolution dans l’histoire de l’image en occident, donc les conséquences sont encore impossibles à mesurer.De plus, ces "GAN" commencent à être utilisés dans de nombreux autres secteurs, comme dans l’industrie, ainsi que vous pouvez le voir dans nos capsules de formation dédiées à ce sujet.
On sur-estime souvent les conséquences des avancées technologiques à court terme, mais on les sous-estime à long terme.
J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

Désormais ils sont aussi capables de recréer des vidéos crédibles sur nos écrans.
C’est une révolution dans l’histoire de l’image en occident, donc les conséquences sont encore impossibles à mesurer.De plus, ces "GAN" commencent à être utilisés dans de nombreux autres secteurs, comme dans l’industrie, ainsi que vous pouvez le voir dans nos capsules de formation dédiées à ce sujet.
On sur-estime souvent les conséquences des avancées technologiques à court terme, mais on les sous-estime à long terme.
J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

C’est une révolution dans l’histoire de l’image en occident, donc les conséquences sont encore impossibles à mesurer.De plus, ces "GAN" commencent à être utilisés dans de nombreux autres secteurs, comme dans l’industrie, ainsi que vous pouvez le voir dans nos capsules de formation dédiées à ce sujet.
On sur-estime souvent les conséquences des avancées technologiques à court terme, mais on les sous-estime à long terme.
J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

De plus, ces "GAN" commencent à être utilisés dans de nombreux autres secteurs, comme dans l’industrie, ainsi que vous pouvez le voir dans nos capsules de formation dédiées à ce sujet.
On sur-estime souvent les conséquences des avancées technologiques à court terme, mais on les sous-estime à long terme.
J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

On sur-estime souvent les conséquences des avancées technologiques à court terme, mais on les sous-estime à long terme.
J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

J’espère que cet article vous aura permis de comprendre comment fonctionnent ces algorithmes.

Découvrez nos formations pour déployer les nouveaux modes de pensée de l'industrie du futur auprès de vos équipes.