Vous êtes-vous demandé ce qui se passerait si vous alimentiez l’IA avec son propre matériel généré par l’IA au lieu de matériel fabriqué par l’homme ? Voici ce qui s’est passé dans une étude.
Nous avons vu d’énormes progrès dans les algorithmes d’IA pour générer des images et du texte. Jusqu’à présent, les algorithmes d’IA ont été formés sur des données créées par l’homme. Mais vous êtes-vous déjà demandé ce qui se passerait s’ils étaient formés uniquement sur leurs propres données ? Il s’avère que plusieurs chercheurs de l’Université Rice et de l’Université de Stanford se sont posé la même question.
Ci-dessus : Image Adobe Firefly Beta AI. Robot tapant sur le clavier. Pas pour un usage commercial.
L’IA se nourrissant d’elle-même
Il n’est pas exagéré de penser qu’au fur et à mesure que nous produisons de plus en plus d’images générées par l’IA sur Internet, celles-ci informeront à leur tour les futurs modèles d’IA. En d’autres termes, les futurs modèles d’IA seront de plus en plus entraînés sur des données synthétiques qu’ils auront eux-mêmes créées.
Cela crée ce que les chercheurs appellent une boucle auto-consommatrice (autophage). Ce faisant, ce qui peut éventuellement se produire, c’est que les biais et les artefacts peuvent être amplifiés. Et plus l’IA se nourrit d’informations, plus de biais et d’artefacts peuvent être créés.
En lisant ceci, je me suis rappelé comment la consanguinité génétique des familles royales entraînait fréquemment une vulnérabilité accrue aux malformations congénitales, aux mutations de l’ADN ou à une intelligence réduite. Le manque de diversité dans l’ADN était génétiquement dommageable.
Diversité
Il s’avère que la diversité est vraiment une force. Avec suffisamment de données réelles fraîches, la qualité et la diversité des modèles génératifs ne se dégradent pas même sur plusieurs générations.
Une boucle auto-consommatrice (autophage) ne se porte pas tellement. En fait, l’article Self-Consuming Generative Models Go MAD indique à un moment donné ce qui suit :
« L’essentiel dans les trois modèles de boucle autophage est que sans suffisamment de données réelles fraîches à chaque génération, les futurs modèles génératifs sont voués à devenir MAD. »
Les modèles génératifs auto-consommateurs deviennent MAD
Ci-dessus : Vaches devant un parc d’attractions en Inde. Il s’agit d’un scan d’un tirage photographique. Film Nikon D70 et Fuji Velvia Realia 35 mm.
Folie
L’équipe a inventé la condition Model Autophagy Disorder (MAD). Comme vous pouvez le deviner, ce terme était aussi un coup de chapeau à la maladie de la vache folle. Leur conclusion ?
« Sans suffisamment de données réelles fraîches à chaque génération d’une boucle autophage, les futurs modèles génératifs sont voués à voir leur qualité (précision) ou leur diversité (rappel) diminuer progressivement. »
Les modèles génératifs auto-consommateurs deviennent MAD
La société bénéficie d’une palette plus riche de personnes, d’idées, de concepts, d’approches, d’ADN, etc. Et de même, il semble que cela soit également vrai pour les modèles d’IA.
Ci-dessus : Image Adobe Firefly Beta AI. Vaches dans le champ. Pas pour un usage commercial.
Signes révélateurs de l’art généré par l’IA
Beaucoup d’entre nous peuvent repérer certains des signes encore révélateurs dans les images actuelles générées par l’IA. La plus évidente reste les doigts. Les modèles d’IA actuels ont encore du mal avec la complexité des doigts, y compris l’endroit où les placer, la longueur des chiffres et parfois même le nombre de doigts sur une main.
Il y a d’autres choses aussi. L’art généré par l’IA a souvent ce genre de sensation presque «fantastique» pour de nombreuses images, même si elles sont censées être photoréalistes.
Et il se débat toujours avec d’autres complexités, telles que les lettres, les touches d’un piano, les «yeux morts» et l’intentionnalité des différents éléments de la photo.
Si les modèles d’IA étaient alimentés en continu par leurs propres images, des artefacts tels que ceux-ci continueraient à proliférer ou éventuellement à être amplifiés.
Ci-dessus : Image Adobe Firefly Beta AI. Robot tapant sur le clavier. Pas pour un usage commercial.
Réflexions supplémentaires
J’ai surtout écrit sur les images. Cependant, MAD peut également se produire avec des modèles textuels ou vidéo.
Je dois également souligner que le document n’a pas encore été évalué par des pairs. C’est une nouvelle étude, après tout. Jusqu’à ce qu’il soit évalué par des pairs et que d’autres puissent reproduire les résultats avec d’autres modèles d’IA, il ne faut pas sauter aux conclusions anticipées.
Ci-dessus : Image Adobe Firefly Beta AI. Des robots effrayants dans un monde post-apocalyptique. Pas pour un usage commercial.
Quoi qu’il en soit, l’article devrait nous amener à nous demander à quel point les modèles d’IA sont vraiment utiles sans intervention humaine. Si ce document est une indication, ce n’est pas si génial. Et pour ceux qui se demandent si l’IA deviendra sensible et passera complètement SkyNet sur nous, cela peut offrir un certain soulagement.
Ci-dessus : Selfie de nuit dans une scène post-apocalyptique de nuit. C’est une vraie photo longue exposition. Cependant, la photographie de nuit est particulièrement sujette à ce que les gens pensent qu’elle est « Photoshoppée » ou autrement « fausse ». Et avec la prolifération des images générées par l’IA, plus de gens que jamais penseront automatiquement que ces photos de nuit sont faites en tapant des invites clés au lieu des compétences et du temps qu’il faut pour les créer.
Pour vous tenir au fait, ce post sur le thème « Photographies par drone », vous est proposé par expo-photo.net. Cet écrit se veut réédité aussi sérieusement que possible. Pour toute observation sur ce post sur le sujet « Photographies par drone », merci de bien vouloir utiliser les coordonnées indiquées sur notre site web. La raison d’être de expo-photo.net étant de sélectionner sur internet des données sur le sujet de Photographies par drone et les diffuser en tâchant de répondre au mieux aux interrogations de tout un chacun. D’ici peu, nous présenterons d’autres informations sur le sujet « Photographies par drone ». Cela dit, visitez régulièrement notre blog.
