Les acteurs doivent négocier dès maintenant pour se protéger contre les futurs développements de l’IA – panel TIFF sur l’IA

Source : Pixabay

Les acteurs et les artistes doivent négocier dès maintenant pour protéger les travailleurs en prévision de la puissance de l’IA à mesure que la technologie se développe de manière exponentielle, a entendu vendredi un panel de la conférence industrielle du TIFF.

La séance Perspectives?IA et cinéma : combler le fossé entre innovation et responsabilité ?au Glenn Gould Studio a également abordé des questions éthiques plus larges liées à la représentation des voix marginalisées dans la création de la technologie, à la protection des consommateurs, au droit d'auteur et à la confidentialité des données.

Le panel de quatre intervenants a fait référence au rythme rapide auquel le capital-risque afflue dans le secteur depuis des années et a noté que l'intervention du gouvernement émergerait au milieu d'un nombre croissant de poursuites judiciaires pour utilisation non autorisée de contenu.

Patricia Thaine, PDG et co-fondatrice de Private AI, est allée au cœur de l'une des revendications clés de la SAG-AFTRA : Régulation de l'IA ? dans ses négociations au point mort avec les studios et les streamers.

« Nous ne parlons pas de la qualité de l'IA pour le moment ; nous parlons du type de négociation pour laquelle les acteurs doivent se battre pour se protéger d'un avenir où il pourrait être encore meilleur qu'il ne l'est actuellement. a déclaré Thaine, qui a une formation en technologie de modélisation linguistique.

Elle a ajouté : "Il s'agit en grande partie de savoir quels points vais-je devoir concéder si je ne me bats pas pour cela maintenant."

Claire Leibowicz, responsable du programme IA et intégrité des médias au Partenariat sur l'IA, a déclaré : « Qu'est-ce que cela signifie si mon image est utilisée à perpétuité ? mes collègues qui travaillent sur l'impact de l'IA sur le travail ont souligné la nécessité que le consentement soit un élément clé dans la manière dont les ressemblances des personnes sont utilisées.

Les juristes se concentrent sur la protection du droit d’auteur, un domaine naissant quoique âprement contesté dans ce domaine, et le débat sur l’intervention gouvernementale se poursuit malgré l’absence de lignes directrices strictes en place.

Les éditeurs japonais, certains politiciens et autres parties intéressées y prêtent une attention particulière après que leur gouvernement a déclaré plus tôt cet été qu'il ne considérait pas la formation aux systèmes d'IA basée sur du matériel protégé par le droit d'auteur comme une infraction.

Aux États-Unis, Getty Images poursuit Stability AI, créateur du générateur d'art Stable Diffusion, après que la société de photographie a allégué que Stability AI avait violé le droit d'auteur en copiant 12 millions de ses images pour créer une base de données rivale.

La comédienne et actrice Sarah Silverman poursuit Meta et Open AI ? le créateur de l'application ChatGPT lancée fin 2022 ? après ses mémoiresCelui qui fait pipi au lita été utilisé pour entraîner leurs systèmes d'IA sans son autorisation.

Mia Shah-Dand, PDG de Lighthouse3 et fondatrice de Women In AI Ethics, a concentré ses remarques liminaires sur la représentation des femmes et des voix marginalisées. Elle a fondé Women In AI en 2018 pour promouvoir des voix diverses dans cet espace et encourager les technologues en IA à être inclusifs dans leurs efforts.

« Dans l'IA, tant de problèmes éthiques reposent sur l'exclusion des voix ? Ainsi, lorsque vous créez des technologies de reconnaissance faciale, elles ne reconnaîtront pas ces visages. » dit Shah-Dand.

"Si vous croyez que la vie de quelqu'un n'a pas d'importance", » a-t-elle poursuivi, « vous êtes plus susceptible de créer un système qui les mettra au chômage ou les rendra sans abri. Les technologies sont construites avec les valeurs de leurs fondateurs, de sorte que leurs préjugés s'infiltrent dans les systèmes qu'elles construisent, c'est pourquoi nous ne pouvons pas confier ce travail aux seuls technologues qui sont pour la plupart des hommes.

L’activité fébrile du capital-risque et les hordes croissantes de technologues en IA pesaient sur le panel. Modérateur Will Douglas Heaven, rédacteur en chef pour AI, àRevue technologique du MIT, a noté que lors de sa visite à Open AI, il avait constaté que les ingénieurs de l'entreprise pensaient que l'IA était la technologie la plus importante jamais inventée.

"Ils avaient également un sentiment d'inévitabilité à ce sujet", a-t-il ajouté. dit-il. « S'ils n'y parviennent pas, quelqu'un d'autre le fera. L'avenir n'est pas déterministe. Quelle technologie est fabriquée, qui la fabrique et comment elle est utilisée est quelque chose sur lequel nous devrions tous avoir notre mot à dire.

Toutefois, à plusieurs reprises lors du panel de vendredi, les intervenants ont admis qu'ils ne savaient tout simplement pas comment les développements se dérouleraient dans les années à venir.

Thaine, de Private AI, a déclaré que les frontières étaient encore floues en termes de distinction entre le contenu généré par les humains et l'IA. « Nous n'avons pas l'infrastructure technologique nécessaire pour déterminer les sources » dit-elle en ajoutant : ?Il peut être fait dans certains cas et pas dans d'autres.

Au sujet des faux contenus en ligne, Shah-Dand a déclaré : « La désinformation est utilisée comme une arme contre les femmes ; il n'y a pas assez d'outils [pour protéger les femmes].

Écranest le partenaire média de Perspectives.