Les dilemmes éthiques et sociaux posés par l’utilisation de solutions basées sur l’IA pour effectuer des activités quotidiennes ou plus spécialisées sont loin d’être résolus. Et le lancement de chaque nouvel outil est l’occasion d’ouvrir le débat. L’un d’eux, très intéressant, a repris après que plusieurs médias ont testé le logiciel de création d’images Pixel Studio, présenté par Google la semaine dernière à l’occasion du lancement du Google Pixel 9.
Dans le monde de la technologie, l’erreur des uns est l’opportunité des autres. Alors que Google résout les critiques générées par Pixel Studio, Apple prend note de ce qu’il devrait éviter avec le lancement attendu d’Image Playground, qui permettra aux utilisateurs de générer des images d’IA à l’aide de commandes textuelles à partir d’iOS 18.
Les débuts de Pixel Studio ont servi de leçon à Apple
Les premières critiques de Pixel Studio ont confirmé les inquiétudes concernant sa capacité à créer des contenus très douteux, qu’il s’agisse de représentations violentes de personnages d’enfants ou d’images prônant la discrimination et la haine.
Les tests publiés par des sites tels que The Verge et Digital Trends confirment des capacités douteuses lorsqu’il s’agit de créer des images en quelques secondes à l’aide d’une commande textuelle. À juste titre, ils ont relancé le débat sur la véracité des images et sur la responsabilité de leurs implications.
Alors que Google affirme avoir mis en place des mesures de sécurité pour empêcher toute utilisation abusive de cet outil, la réalité est que les utilisateurs ont trouvé des moyens de contourner ces restrictions, générant des images qui défient toute censure préalable.
Mais le problème ne se limite pas à la génération d’images originales. L’outil “Reimagine” de Google permet de modifier des photographies existantes de manière si réaliste qu’il est pratiquement impossible de distinguer une image originale d’une image manipulée.
Apple a une occasion en or de battre Google dans le domaine de l’IA générative
Apple Intelligence comprend des fonctionnalités intéressantes comme Image Playground pour créer des images d’IA ou Genmoji, qui utilise cette technologie pour créer des emojis à partir de notre description. Si la première n’offre pas la possibilité de générer des images photoréalistes, elle peut générer une variété de styles tels que des animations, des illustrations et des croquis.
Au-delà des démonstrations présentées lors de la WWDC24, ni Image Playground pour la création d’images IA, ni Genmoji ne sont disponibles dans la version bêta d’iOS 18.1, qui intègre déjà Apple Intelligence. Et filtrer les actions avec lesquelles ces outils peuvent être utilisés pour créer des contenus nuisibles est un grand défi pour les développeurs qui doivent répondre à l’initiative de certains utilisateurs.
Après le désastre du Pixel Studio, Apple pourrait en prendre note et aller plus loin dans le renforcement des restrictions sur ses outils de génération d’images.
La facilité avec laquelle ces outils peuvent être utilisés pour créer du contenu préjudiciable soulève un certain nombre de questions fondamentales : comment pouvons-nous garantir que ces technologies sont utilisées de manière responsable et éthique ?
