La semaine dernière, un compte nommé «Liv» a suscité de nombreuses inquiétudes sur les réseaux sociaux. Elle est une « fière maman queer noire de 2 enfants et qui raconte la vérité » et « votre véritable source de hauts et de bas dans la vie ». C'est également une fausse non-personne générée par l'IA, vivant entièrement via une fonction de chat sur Instagram. Pire encore, un utilisateur de Blueskyje lui ai fait admettrequ'il n'y avait pas une seule personne noire dans l'équipe qui l'avait créée.
Normalement, les gens pourraient ignorer une telle pente évidente. Pendant une minute cependant, il sembla que Liv était le signe avant-coureur d'un avenir angoissant et de plus en plus irréel. Plus tôt cette semaine, Connor Hayes, un cadre de Meta,ditTemps Financierque la plateforme prévoyait de déployer « des centaines et des milliers » de personnages générés par l’IA qui « existeraient sur nos plateformes, un peu de la même manière que les comptes ». Il a poursuivi : « Ils auront une biographie et des photos de profil et pourront générer et partager du contenu alimenté par l'IA sur la plateforme. . . c’est là que nous voyons tout cela se dérouler.
Mais malgré la confusion compréhensible, Meta dit que Liv et d'autres profils comme elle que les gens ont dénichés depuis leFTl’article ne correspond pas à ce à quoi Hayes faisait référence. «Le récentTemps FinancierL'article portait sur notre vision des personnages IA existant sur nos plateformes au fil du temps, sans annoncer de nouveau produit », a déclaré Liz Sweeney, porte-parole de Meta, dans un communiqué.à404 Médias. « Les comptes référencés proviennent d'un test que nous avons lancé chez Connect en 2023. Ceux-ci étaient gérés par des humains et faisaient partie d'une première expérience que nous avons menée avec des personnages d'IA. Nous avons identifié le bug qui empêchait les utilisateurs de bloquer ces IA et supprimons ces comptes pour résoudre le problème. Beaucoup d’entre eux ont déjà été supprimés.
Mais malgré la confusion, "ces anciens profils sont instructifs, car ils montrent que l'IA de Meta crée principalement le type exact de spam IA qui a récemment envahi toutes les plates-formes de Meta et qui est devenu une plaisanterie courante".404» écrit Jason Koebler. "Ils montrent également que Meta n'est pas particulièrement doué dans ce domaine et que les utilisateurs ne veulent pas de cela." L'article continue en détaillant certaines des erreurs vraiment odieuses que ces comptes ont publiées, toutes destinées à dissimuler, selon les propres mots de « Liv », « la collecte de données et le ciblage publicitaire – la véritable intention de mes créateurs ». Vous pouvez en lire davantage sur404(et préparez-vous à l'avenir inévitable)ici.
