Une image de l’Occident datant de la ruée vers l’or produite par l’IA.Photo-illustration : Vautour ; Photo : Newsshooter via YouTube
J'ai regardé une tonne de matchs de basket-ball en séries éliminatoires ces derniers temps, et au milieu du torrent incessant de publicités de Caitlin Clark State Farm et de spots WingStop (pas de flex, zone !), il y aun téléphone Google Pixel 8commerciale en particulier qui ne manque jamais de me désoler.
Le spot met l'accent sur l'outil d'édition du téléphone basé sur l'IA qui permet aux utilisateurs de manipuler les images de toutes sortes de manières convaincantes. Vous pouvez ajuster les photos pour donner l'impression que vous avez sauté plus haut, comme si vous n'aviez pas cligné des yeux lorsque la photo a été prise, ou comme si le ciel était vraiment magnifique ce jour-là. Il y a un moment spécifique dans la publicité où un père est photographié en train de jeter son enfant en l'air, et la photo est encore manipulée pour donner l'impression qu'il a jeté l'enfant plus haut qu'il ne l'a réellement fait. Ce sont toutes de petites choses, bien sûr, mais une partie de la déception réside dans la façon dont tous ces ajustements reflètent une obsession particulière de vouloir commémorer les choses comme meilleures qu’elles ne l’étaient réellement. Ces outils aident le preneur de photos à réaliser plus facilement ses photos idéales ; en d’autres termes, ils aident le preneur de photos à mieux mentir.
La publicité Google m'est venue à l'esprit alors que je lisais un effort d'un groupe appelé Archival Producers Alliance (APA) pour développer un ensemble de lignes directrices autour de l'utilisation d'outils d'IA générative dans la réalisation de films documentaires. La poussée est bien chronométrée. Vous avez peut-être remarqué récemment un brouhaha autour du cinéma et de l’IA générative. Dans les films,le film d'horreurTard dans la nuit avec le diablea suscité une colère curieusepour son utilisation de l’IA pour créer des cartes de titre, ce qui semble difficile à plaider. Après tout, les films utilisent tout le temps des images générées par ordinateur (avez-vous vu unMerveillefilm ?), même si je suppose que dans ce cas, un point de friction spécifique réside dans la façon dont le film a été loué en partie pour sa texture esthétique.
Le problème est plus clairement prononcé dans le domaine du cinéma documentaire et non-fictionnel ; Récemment, une controverse s'est infiltrée autour d'une série documentaire sur les vrais crimes de Netflix intituléeCe que Jennifer a fait,après la découverte d'un site appelé Futurismque l'équipe de production semblait utiliser des outils d'IA pour produire des photographies du sujet qui n'ont jamais réellement existé. Nous nous rapprochons ici beaucoup plus du cœur du problème : l’attrait d’utiliser cette technologie pour créer de faux documents d’archives à des fins de narration au détriment de la réalité réelle.
C’est ce genre de choses qui motive les efforts de l’APA – fondée par Rachel Antell, Stephanie Jenkins et Jen Petrucelli – pour développer ces directives documentaires sur la génération IA. Le trio est tous des producteurs d’archives, ce qui signifie qu’ils sont issus d’une sous-section spécifique de la tradition documentaire qui prend très au sérieux l’approvisionnement, les licences, la représentation et l’utilisation des documents d’archives. "C'est vraiment un art collaboratif et créatif", a déclaré Jenkins, qui travaille également chez Florentine Films de Ken Burns depuis 2010. "Ce que j'essaie de faire, c'est d'encourager les gens qui regardent des documentaires à réfléchir à chaque montage contenant des archives, à comment il y avait quelqu'un qui avait les mains sur chaque morceau de ce matériel entrant dans un documentaire. Comme ils le disent, l’objectif n’est pas d’être totalement sceptique à l’égard de l’IA générative, mais simplement de développer une ressource qui aide les cinéastes à gérer la technologie de manière responsable. Au moment d'écrire ces lignes, les lignes directrices sont toujours en cours de rédaction en collaboration avec des centaines de leurs pairs documentaristes, et je crois comprendre qu'ils espèrent sortir une version finalisée d'ici la fin juin.
Toi peut lire des parties dele brouillon dans Indiewire, mais intrigué par l'initiative (et par la façon dont ses préoccupations se répercuteront probablement sur les podcasts le plus tôt possible), j'ai contacté Antell et Jenkins pour parler de ce qu'ils font.
Comment est née cette volonté d’élaborer ces lignes directrices ?
Rachel Antell :Il y a presque exactement un an, nous avons commencé à voir des équipes de tournage créer ce que nous appelons de « fausses archives » – des visuels censés être des images historiques, mais qui ont en réalité été créés à l’aide de l’IA générative. Nous sommes des producteurs d'archives, et c'est quelque chose qui nous a fait réaliser que c'était une sorte de Far West. Il n'y avait rien de légiférant, que ce soit sur le plan juridique ou éthique, sur la manière dont ces outils d'IA générative allaient être utilisés et les images qu'ils produisaient allaient être utilisées dans le film documentaire.
Nous avons donc réuni un grand groupe d'autres producteurs d'archives pour discuter de ce que nous voyions, puis nous avons publié une lettre ouverte faisant part de nos préoccupations. La lettre a été publiée en novembre avec les signatures de plus d'une centaine de personnes sur le terrain, etil a été réimprimé dansLe journaliste hollywoodien. Après cela, nous avons eu quelques conversations avecl'Association internationale du documentaire(IDA) sur la nécessité de lignes directrices autour de l'IA générative et sur la meilleure façon de protéger l'intégrité du film documentaire, et l'IDA nous a invités à les présenter àle festival Getting Real en avril. Cela nous a donné un délai et nous avons travaillé avec un comité d'environ 15 à 20 producteurs d'archives pour produire ce qui n'est encore qu'un projet de document. Et je dois noter que nous l'avons développé en discutant avec un large éventail d'experts : des professionnels de l'IA, des universitaires en IA, des universitaires en documentaire, etc.
Pourriez-vous m’en dire un peu plus sur les « fausses archives » que vous avez vues ?
Nombre:Dans un cas, il y avait un personnage historique qui n'était pas important mais dont l'histoire était racontée, et il n'y avait aucune photo de cette personne. Les appareils photo avaient été inventés à cette époque, mais c'était une période où on ne prenait pas beaucoup de photos. Ainsi, afin de représenter la personne, les cinéastes ont choisi d’utiliser l’IA générative pour créer quelque chose qui ressemblait à ce à quoi aurait pu ressembler une personne de cette époque et de ce groupe démographique. Ce n’est pas tant l’utilisation réelle de l’IA générative qui est ici préoccupante, mais la conscience du public que ce qu’il voit n’est pas un véritable document historique.
J'ai donc eu des conversations avec des personnes travaillant sur des outils d'IA générative à propos de ce genre de choses, et un argument qui revient régulièrement est cette idée où la réflexion serait du genre : « Mais n'est-il pas formidable que nous voir la représentation d'un sujet historique que nous ne serions pas en mesure de visualiser autrement ? » Que pensez-vous de ce sentiment ?
Stéphanie Jenkins :Au début, nous étions paniqués par cette technologie, mais nous avons également discuté avec des cinéastes qui l'utilisent de manière vraiment étonnante et créative. Il est donc important de noter que nous voulons l’adopter tout en protégeant ce que nous faisons.
Mais il y a de nombreuses raisons pour lesquelles cela serait difficile. Un exemple que j'ai cité concerne le lancement précoce de Sora ;il y avait cette vidéooù l’invite était « vidéo historique de la ruée vers l’or en Californie ». Si vous le regardez, vous voyez une photo couleur d'un drone qui semble avoir été prise dans les années 1970, d'un magnifique ruisseau babillant et de bâtiments de style saloon. Unpourraitdites : « Écoutez, cela vous rapproche du spectateur », mais il est en fait important de savoir qu'il n'y avait évidemment pas de caméras de drones à l'époque, donc si ce que vous essayez de faire est de présenter ces images comme une chose tangible, vous vous éloignez le plus possible de ce qui était disponible pendant la période.
Il y a aussi beaucoup d’inexactitudes dans ces images. C'est là le parti pris algorithmique : tout ce que Sora utilise pour générer la vidéo provient d'Internet – alors peut-être que cela vient des westerns, d'Hollywood. Ce matériel ne reflète pas nécessairement les données démographiques réelles. Ils ne reflètent pas le pillage humain et environnemental qui a eu lieu à cette époque. Ils ne reflètent pas qui était réellement là et à quoi aurait ressemblé leur vie. C'est donc vraiment un mauvais service rendu aux téléspectateurs d'inventer quelque chose basé sur ces points de données aléatoires déjà disponibles sur Internet.
Nombre:L’un des aspects importants du biais algorithmique est qu’il est très difficile à identifier. Lorsqu’un média créé par l’homme contient des préjugés, ce qui est généralement le cas, la paternité et le contexte peuvent être connus. Ces préjugés peuvent donc être encadrés et combattus. En revanche, les médias synthétiques contiennent des préjugés, mais aucun auteur connu. Il détient une autorité présumée, mais il n'a aucune responsabilité.
Jenkins :Certes, il peut être tentant d’utiliser l’IA générative comme une solution bon marché pour raconter une histoire de manière cinématographique. Et ce que nous disons, c'est que, connaissant le biais algorithmique, si vous comptez faire une reconstitution pour imaginer un espace, faites-le comme vous le feriez pour une reconstitution humaine. Faites la recherche. Obtenez une idée de ce que les gens auraient porté et à quoi auraient ressemblé les choses. Ces détails constituent une très bonne narration qui nous aide à nous relier aux sujets de nos projets. Ce n'est pas un service de faire une reconstitution en utilisant simplement l'IA générative si ce que vous essayez de faire est de raconter l'histoire de quelque chose qui n'aurait peut-être pas existé autrement. Il existe d’autres façons créatives de le faire.
En parlant de reconstitutions : j’ai toujours pensé que les reconstitutions étaient la forme la plus paresseuse de narration documentaire, mais cela m’amène à me demander si le problème soulevé par l’utilisation de l’IA générative est uniquement spécifique aux reconstitutions en tant qu’outil narratif. Est-ce que je réfléchis trop étroitement ici, ou l'IA générative présente-t-elle des risques plus fondamentaux pour le langage du cinéma documentaire au sens large ?
Nombre:Je pense qu'il est trop tôt pour le savoir. Mais nous avons également vu des applications s’étendre à d’autres aspects des documentaires historiques.
Jenkins :Etdans le vrai crime.
Nombre:Les deux grands problèmes auxquels l’industrie documentaire a toujours été confrontée sont le temps et l’argent. Chaque producteur de documentaires est vraiment pressé. Je comprends donc que l’IA générative est une réponse rapide à ces deux problèmes, mais la question est la suivante : à quel prix ? C’est tout à fait au cœur de notre réflexion.
Une partie de ce dont nous parlons dans nos lignes directrices s’applique à tous les types de médias, mais une grande partie est en réalité axée sur le documentaire. Il existe de nombreuses options. Vous pouvez regarder un docudrame. Vous pouvez regarder des fictions historiques. Il n'y a rien de mal à cela. Ce sont d’excellentes formes de médias. Mais lorsque vous vous asseyez pour regarder un documentaire, vous faites certaines hypothèses sur ce que vous voyez, l'une d'entre elles étant que ce que vous voyez est vrai et réel. Et les gens n'aiment pas être trompés. Dans ces cas-là, la confiance s’érode rapidement et est difficile à rétablir. Il y a une valeur inhérente à préserver la nature factuelle du documentaire, afin qu'il puisse continuer à être une ressource culturelle fiable.
Jenkins :Encore une fois, nous n’essayons pas de dire que les personnes qui utilisent l’IA générative sont mauvaises. Je voudrais saluer deux films qui ont contribué à façonner notre réflexion à ce sujet :Un autre corpsetBienvenue en Tchétchénie.Ce sont deux utilisations étonnantes de l’IA générative pour protéger l’identité des participants au film. Il y a ici une opportunité pour les cinéastes qui souhaitent continuer à faire des recherches approfondies et à cette narration authentique basée sur des sources primaires – il est possible que ces produits continuent à être des « produits haut de gamme ». (Ce sont d'ailleurs deux mots que je n'ai jamais voulu utiliser pour décrire les documentaires.) Mais je pense que cela témoigne du fait que nous sommes dans un paysage changeant de financement des médias et du documentaire. Nous essayons d'intervenir dès le début afin de pouvoir faire savoir aux dirigeants et aux personnes qui financent les documentaires qu'ils continueront à financer la pièce d'archives.
Parlez-m'en davantage sur l'état actuel du financement du doctorat. Mon collègue Reeves Wiedemanj'ai eu un article à ce sujet il y a environ un an, mais je suis curieux de savoir ce que vous avez vu depuis.
Nombre:Nous assistons définitivement à une contraction. Il y a moins de travail produit en ce moment.
Jenkins :J'ai participé à des festivals de documentaires indépendants – le Camden Film Festival, le Big Sky Film Festival, etc. – et il y a actuellement une grande quantité de films en cours de réalisation mais qui ne sont pas achetés. Et les films achetés se voient offrir moins d'argent qui, souvent, ne correspond pas au budget du film.
Étant donné que cette newsletter aborde généralement les podcasts, je souhaite vous poser la question suivante : avez-vous constaté des problèmes similaires liés à l'IA générative dans le domaine audio ?
Jenkins :Honnêtement, pas grand chose pour l'instant, même si nous avons étésuivre de près l'histoire de George Carlin. Il s'agit simplement d'une question très compliquée du Premier Amendement et de l'utilisation équitable, et j'ai pensé qu'il était intéressant de voir dans ce cas queils ont réglé à l'amiable.
Nombre:Nous réclamons à la fois du matériel audio et visuel que si vous créez quelque chose que nous appellerions un faux profond, où il représente un être humain réel dans l'histoire - que ce soit sa voix ou sa ressemblance - vous voudriez franchir une étape supplémentaire. au-delà de ce qui est légalement requis en termes d'obtention du consentement de cette personne ou de ses descendants. Parce que nous pensons qu'il y a ici un risque un peu plus élevé et parce que le consentement est une partie importante du processus de réalisation d'un film documentaire.
Il y a beaucoup de choses inconnues à l’heure actuelle. Nous avons essayé de garder les lignes directrices larges à bien des égards, car le paysage juridique et technique évolue très rapidement, et nous voulons nous assurer qu'elles peuvent rester pertinentes pendant que les gens commencent à s'y retrouver en temps réel.
Jenkins :Nous espérons que cela pourra être utilisé comme une continuation de l'éthique documentaire et non comme une chose complètement nouvelle. En tant que discipline, nous avons dû nous transformer en fonction de différents types de technologies et de différentes préoccupations éthiques au cours des cent dernières années. Il fut un temps où il était très controversé d’utiliser Photoshop pour retoucher une photo, vous savez ? On s'attend désormais à ce que si vous voulez qu'une photographie ait une certaine apparence dans votre film, vous puissiez la retoucher tant que cela n'en change pas fondamentalement la substance, mais c'est une échelle mobile. Nous espérons nous assurer que les gens gardent à l'esprit leurs sujets, leurs équipes et leur public lorsqu'ils font ces choix créatifs.
Que pensez-vous de la perspective d’imposer des normes d’exactitude et de transparence dans ce domaine ?
Jenkins :Il est important de souligner que les lignes directrices que nous publierons sont un document éthique et non juridique. Les streamers devront s’appuyer sur leurs services juridiques pour prendre certaines de ces décisions.
Dans nos directives, nous parlons du suivi des invites et des outils gen-AI que vous utilisez. Nous encourageons les cinéastes à créditer toute utilisation de l’IA générative – audio, images, n’importe quoi – et à en suivre tout au long du processus. C’est une chose pratique pour des raisons d’assurance, et c’est une préoccupation fondamentale pour tout le monde. Si vous utilisez gen AI, vous devez vous assurer que vous serez toujours assuré par votre police d'assurance erreurs et omissions. Il existe un monde dans lequel tout matériel d'IA utilisé fait partie d'un livrable de votre film de la même manière qu'une feuille de musique est un livrable, mais pour le moment, les cinéastes ne savent vraiment pas ce qu'ils sont censés faire et comment garder une trace de ces choses à travers un processus de réalisation documentaire qui prend souvent des années.
Il sera également très intéressant de voir comment le public réagit. Je ne veux pas commenter directementsurCe que Jennifer a faitparce que je ne l'ai pas encore vu, mais le tollé là-bas suggère que ce n'est que le début de ce que je pense qui sera un flot d'érosion de la confiance du public. À l'APA, nous sommes en quelque sorte un secteur anti-désinformation et pro-démocratie, et même si nous parlons peut-être d'un segment de niche du monde de la production documentaire, cela aborde en réalité des problèmes plus vastes autour des conversations publiques autour de la vérité. .
Nombre:Je n’y pense pas en termes d’application de la loi, car je n’ai pas l’impression qu’il s’agit d’une question contradictoire. Nous avons constaté que la communauté documentaire est vraiment avide de lignes directrices. L’utilisation de l’IA générative suscite un véritable enthousiasme. Il y a certainement une place pour cela, et je pense qu'il peut s'ajouter au domaine documentaire s'il est utilisé d'une manière qui ne compromet pas l'intégrité documentaire générale.
Jenkins :J'aime le documentaire d'archives car il fonctionne à un rythme humain et à une échelle humaine. Il y a quelque chose de fondamental dans la voix humaine et dans les photos que nous prenons de nos proches – et dans les actualités filmées en temps réel. Ce sont des choses que nous devrions continuer à chérir et à conserver plutôt que de prétendre que vous n’en avez pas besoin pour faire passer une histoire. Ce sont des choses qui relèvent des histoires, et lorsque vous déterrez un nouveau document d'archives et que vous le mettez dans un documentaire, cela est transmis dans les archives historiques.
La même chose se produit avec les médias synthétiques, qu'ils soient réels ou non.Queest transmis et peut être utilisé dans les films d'autres personnes, sur YouTube, sur des ressources pédagogiques. Dans mon travail, j'ai pu dénicher un grand nombre de séquences et de photographies étonnantes qui sont désormais accessibles à de nombreuses autres personnes qui peuvent les utiliser et les considérer, et c'est une partie importante de ce que nous faisons en tant que producteurs d'archives. Je ne veux vraiment pas que cela soit perdu ou mal compris par cette nouvelle technologie.
