La Grève de la SAG-AFTRA &
les Technologies Deep Fake
La saison 6 de “Black Mirror” s’est ouverte sur un épisode intitulé “Joan is Awful”, qui a su cristalliser l’essence-même des craintes et des revendications du milieu du cinéma, lançant sa première le 15 Juin 2023, en prémices de la grève d’Hollywood. Dans cet épisode, une femme nommée Joan Tait découvre que sa vie quotidienne est transformée en une série télévisée diffusée sur une plateforme de streaming, où chaque événement est recréé avec une précision troublante par une version numérique d'elle-même, interprétée par une célèbre actrice, Salma Hayek. Joan n'a aucun contrôle sur cette représentation, et la série exploite ses moments les plus intimes et embarrassants ce qui n’est pas sans conséquence sur sa vie, aussi bien personnelle que professionnelle. Cet épisode présente plusieurs parallèles frappants avec les préoccupations soulevées lors de la grève d'Hollywood sur l'utilisation de l'intelligence artificielle. Parmi ceux-là, il y a :
L’utilisation non-consentie des répliques numériques
Les acteurs de SAG-AFTRA ont exprimé des préoccupations concernant la création et l'utilisation de répliques numériques sans leur consentement explicite et leur compensation adéquate. Les accords obtenus stipulent que les studios doivent obtenir le consentement des acteurs pour toute utilisation de leur image numérique. Illustrant cette crainte, Joan n'a pas donné son consentement pour l'utilisation de sa vie privée à des fins de divertissement, et encore moins pour la création d'une version numérique d'elle-même ; tout comme Salma Hayek n’a pas connaissance que son “jumeau numérique” est employé dans le rôle de Joan. Le consentement est un thême récurrent sur l'appropriation et l'usage des données nourissant les algorithmes d'IA : pour faire écho à l'Europe, la thématique de l'IA de Confiance prend en compte ses réflexions.
L’exploitation et la monétisation de l’image d’une personne non-informée
Un des points clés des négociations était la rémunération des acteurs pour l'utilisation de leurs répliques numériques. Les accords prévoient une compensation pour la création et l'utilisation de ces répliques, incluant des droits résiduels pour les futurs usages. La série télévisée exploitant la vie de Joan génère du contenu sans lui verser de royalties ou la consulter. Quant à Salma Hayek, sous couvert d’un obscur contrat, elle n’a pas de visibilité sur les usages faits de son image.
L’impact sur la vie privée et l’intégrité personnelle
Joan souffre des conséquences de la diffusion publique de sa vie privée, ce qui affecte son travail, ses relations et son bien-être mental. Dans la série, elle se retrouve licencier pour avoir rompu une clause de confidentialité à son contrat : pourtant, ce n'est pas elle qui a parlé des projets de son entreprise, mais son image de synthèse... Peut-elle être tenu responsable de propos rendus publics par un Deep Fake ? De même, alors que Joan cherche à mettre dans l’embarras l’actrice qui joue son quotidien, Salma Hayek apprend que son jumeau numérique a réalisé une scène vraiment embarrassante et dégradante pour l’image de l’actrice, et ce, sans qu’elle n’ait son mot à dire. Les acteurs craignent que l'utilisation de leurs images numériques puisse mener à des situations similaires où leur vie privée et leur intégrité seraient compromises, surtout si leur image est utilisée dans des contextes non prévus initialement.
Les questions éthiques et juridiques
Les négociations ont mis en lumière des enjeux juridiques concernant la propriété intellectuelle et les droits des artistes à contrôler l'utilisation de leur image. Les accords établis visent à protéger ces droits et à encadrer l'utilisation de l'IA dans des limites éthiques et légales. L'épisode soulève des questions sur les droits à l'image et la capacité des entreprises technologiques à exploiter les données personnelles des individus sans leur consentement éclairé, sous couvert d’absconses clauses abusives cachées dans d’interminables contrats.
L’intrication des similarités est poignante. Les problématiques pointées sont présentées du point de vue de deux victimes : celle qui voit sa vie révélée au grand jour, sans subtilité et détournant les contours de la réalité, et celle dont l’image est employée à son insu pour réaliser le divertissement. Ces deux femmes, chacune sous leur prisme, se retrouvent prisonnières de l’exploitation de leur image au profit d’une société de production puissante qui génère d’importants revenus sur leur dos.
La question qui survient alors dans l’industrie cinématographique est : l’IA peut-elle remplacer les professionnels du secteur ? La perspective de découvrir un monde du divertissement davantage pilotée par l’IA nourrit des craintes qui vont amener à un mouvement historique…
Le 14 Juillet 2023 a éclaté une grève historique à Hollywood à cause de l’usage de l’IA dans l’industrie cinématographique. Cette grève prend ses racines dans les préoccupations croissantes des travailleurs de l’industrie du divertissement concernant l’utilisation croissante de la technologie de l’intelligence artificielle dans la création de contenu. Il est à noter que cette grève survient dans un moment de faiblesse du secteur cinématographique américain : la production de films et de série tourne déjà au ralenti à cause du mouvement social des scénaristes. Dans ce contexte de tension où de nombreux questionnements sont soulevés, les grévistes hollywoodiens ont a cœur de porter leur message.
Les revendications de la grève s’articulaient entre :
Les préoccupations liées à l’emploi : les travailleurs d’Hollywood, comprenant les scénaristes, les acteurs, les réalisateurs et d’autres membres du personnel de production, s’inquiètent de l’impact de l’intelligence artificielle sur leur profession. Ils craignent que l'automatisation et l'utilisation de l'IA pour la génération de contenu puissent remplacer leur travail ou réduire les opportunités d'emploi dans l'industrie. “Joan is Awful” fait référence à cela de manière très directe : la série télévisée qui reproduit la vie de Joan est complètement automatisée. Une intelligence artificielle enregistre puis génère l’intégralité de la journée vécue par Joan afin de le diffuser le soir-même sur la chaîne de streaming. L’IA prend alors ici directement la place de nombreux acteurs du secteur : les scénaristes, les producteurs, les réalisateurs, les acteurs, les techniciens en post-prod… Tout un foyer de professionnels qui est substitué par l’usage de cette nouvelle technologie.
La protection des droits des travailleurs : Les grévistes réclament des mesures de protection pour garantir que l'intégrité artistique et le contrôle créatif des œuvres restent entre les mains des professionnels de l'industrie. Ils demandent également des garanties en matière de rémunération équitable et de conditions de travail pour ceux qui utilisent des technologies d'IA dans leurs productions.
Transparence et implication des créateurs : Les travailleurs d'Hollywood demandent également plus de transparence sur l'utilisation de l'IA dans les processus de production. Ils veulent être impliqués dans les décisions concernant l'adoption et l'utilisation de ces technologies, ainsi que dans les négociations sur les accords contractuels et les droits d'auteur. Pour rebondir sur “Joan is Awful”, il suffit de voir l’expression du visage de Salma Hayek lorsqu’elle apprend qu’elle ne peut rien contre l’utilisation de son “jumeau numérique” alors qu’elle n’était même pas consciente du rôle que ce dernier tenait dans la série, en tant que rôle principal. Abusée par des conditions très absconses et un usage abusif de son image sans son consentement éclairé, la star Hollywoodienne se retrouve à subir les conséquences de scènes tournées à son insu, impactant sa réelle personne.
Ainsi que des considérations sur la rémunération, qui sont également soulignées par Salma Hayek lorsqu'elle évoque la différence de cachet entre les femmes et les hommes, et qu'elle s'indigne de voir que Joan ne touche rien pour voir sa vie ainsi dévoilée...
Après une grève de 118 jours, le syndicat des acteurs d'Hollywood - la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) - a mis fin à sa grève le 9 Novembre avec de nouveaux accords sur les sujets soulevés, y compris sur l’utilisation de l’intelligence artificielle. Depuis, le syndicat a publié un résumé de l'accord final conclu avec les studios, qui comprend des lignes directrices sur l'intelligence artificielle et une brochure numérique exposant les règles de l'industrie en matière d'intelligence artificielle qui ont été convenues.
SAG-AFTRA AI guideline digital pamphlet. Source : SAG-AFTRA
L'accord sur l'IA définit notamment l'IA en termes industriels, la reproduction numérique des interprètes et des acteurs de second plan, les modifications numériques et l'organisation de réunions semestrielles entre le syndicat et les producteurs sur l'utilisation de l'IA générative.
Un nouveau type de bien numérique
De nouveaux types de bien numérique ont alors été définis : les « Répliques numériques » [digital replicas] & « artiste-interprètes de synthèse » [Synthetic Performers].
L'accord définit et établit une couverture pour la création, l'utilisation et la modification de « répliques numériques » d'artistes-interprètes. Ces répliques numériques sont des copies de la voix ou de l'image d'un artiste-interprète pour « représenter l'artiste-interprète dans une photographie ou une bande sonore dans laquelle l'artiste-interprète ne s'est pas réellement produit ».
Mais concrètement, qu’est-ce qu’une réplique numérique ? C’est un remède contre la mort, un fabuleux subterfuge pour déjouer le décès des talents. Lorsqu’en 2016, vous vous êtes rendus dans votre salle de cinéma pour découvrir la dernière production de l’univers Star Wars “Rogue One”, Grand Moff Tarkin apparaît à l’écran, alors que son acteur, Peter Cushing est décédé en 1994… C’est l’acteur Guy Henry qui a servi de doublure numérique. Il portait un équipement de capture de performance pendant ces séquences et son visage a été remplacé par celui de Cushing, généré par ordinateur, pour le film final. La saga récidivera dans l’usage de cette nouvelle technique en 2019, sur “The Rise of Skywalker” en dévoilant le mythique personnage de la Princesse Leia, alors que son actrice, Carrie Fisher s’est éteinte en 2016. En effet, certaines de ses scènes ont été recréées numériquement à partir de séquences non-utilisées des précédents opus saupoudré d’effets spéciaux pour intégrer la rebelle, alors jouée par Ingvild Deila. La réplique numérique est un élixir d’immortalité !
Ces « répliques numériques » sont classées en deux catégories : celles qui sont réalisées dans le cadre d'un emploi avec un studio et celles qui sont réalisées de manière indépendante. Pour ces dernières, les acteurs négocieront eux-mêmes leur rémunération. Toutefois, pour ceux qui sont employés directement par les studios, la rémunération portera sur la création et l'utilisation de leurs répliques numériques et sur leur utilisation dans d'autres projets ou sur d'autres supports, ainsi que sur les rémunérations résiduelles normales.
Si la notion de “répliques numériques” vous est nouvelle, celle du Deep Fake fait davantage écho.
Il définit également un nouveau type d'acteur appelé « artiste-interprète de synthèse ». Un « artiste-interprète de synthèse » créé par l’IA générative est défini comme …
… « un bien numérique : qui est destiné à créer, et crée effectivement, la nette impression qu'il s'agit d'un artiste-interprète naturel qui n'est pas reconnaissable en tant qu'artiste-interprète naturel identifiable ; qui n'est pas prononcé par une personne physique ; qui n'est pas une réplique numérique ; et qu'il n'existe aucun contrat de travail pour le film avec un artiste-interprète naturel dans le rôle représenté par l'actif ».
Cependant, le contrat n'empêche pas les studios d'utiliser dans leurs œuvres des interprètes synthétiques générés par l'IA à la place d'acteurs réels. Le contrat stipule simplement que les « parties reconnaissent l'importance de l'interprétation humaine dans les films » et que le syndicat sera informé et aura la possibilité de « négocier de bonne foi » s'il est envisagé d'utiliser un interprète synthétique généré par l'IA à la place d'un acteur humain.
En ce qui concerne la reproduction des acteurs de second plan, l'accord semble les protéger d'un remplacement potentiel, en déclarant :
« Les répliques ne doivent pas être utilisées pour atteindre le nombre d'acteurs de fond pour la journée. Les répliques ne seront pas utilisées pour éviter l'engagement d'acteurs de fond ».
L'accord souligne que le consentement explicite et « visible » de l'acteur, qu'il soit principal ou de second plan, est nécessaire pendant le processus de reproduction, tant pour son utilisation dans la production pour laquelle il a été créé que pour toute utilisation future.
L'accord prévoit également un consentement pour les modifications numériques apportées à la performance de l'artiste-interprète dans du « matériel précédemment enregistré, à moins qu'il ne reste substantiellement tel qu'il a été scénarisé, interprété et/ou enregistré », et les producteurs doivent fournir une « description raisonnablement spécifique » des modifications qu'ils souhaiteraient apporter.
Pour les acteurs de second plan, l'accord stipule que si « les mouvements des lèvres ou du visage sont modifiés pour donner l'impression qu'un acteur de second plan parle, et qu'un dialogue est ajouté, ils seront reclassés en tant qu'artistes-interprètes de jour ».
Les technologies Deep Fake
Les Deep Fake sont souvent liés en France à la désinformation et à la difficulté à reconnaître le vrai du faux sur Internet. C’est grâce à ce brouillage de frontière entre la réalité et la fiction que ces technologies d’intelligence artificielle est révolutionnaire dans le 7ème art. Y avoir recours permet cette défiance du temps qui passe et de la mort des interprètes, permettant d’ouvrir la voie à des possibilités narratives nouvelles. Les limites de l’imagination sont repoussées par les opportunités qu’offrent les technologies de Deep Fake. En effet, elles permettent de créer des scènes ambitieuses et spectaculaires qui seraient, au pire, impossibles à tourner, et au mieux, excessivement coûteuses.
Cependant, les effets néfastes de ces usages de l’IA sont très bien illustrés dans “Joan is Awful”. La scène au cours de laquelle Joan décide de porter atteinte directe à l’actrice qui l’interprète, en allant outrageusement agir durant une cérémonie de mariage à l’église, a des conséquences directes sur Salma Hayek. Elle craint les conséquences sur sa réputation et les réactions que cela peut susciter. C’est par ailleurs là que l’on découvre que l’actrice n’est pas non plus impliquée dans le processus créatif de la série, et qu’elle le subit tout autant que Joan.
De véritables questionnements, éthiques et juridiques émergent alors :
Comment encadre-t-on l’usage de l’IA pour qu’elle ne soit pas néfaste sur la vie personnelle et professionnelle d’un individu ?
Comment va être gérée la propriété intellectuelle lorsqu’on emploie l’image d’une célébrité décédée ?
Les modifications et créations générées par IA appliquées à des performances artistiques risquent-elles de dégrader leur authenticité ?
Les réductions des coûts engendrées par l’usage de l’IA vont-elles mettre en péril l’emploi du secteur cinématographique ?
L'épisode de "Black Mirror" est une critique directe des dérives potentielles de la technologie et de la manière dont les grandes entreprises peuvent exploiter les individus. De même, la grève d'Hollywood reflète une prise de conscience et une résistance à ces dérives, cherchant à mettre en place des protections pour les travailleurs créatifs face à l'avancée rapide de l'IA. En résumé, "Joan is Awful" et la grève d'Hollywood partagent des thèmes communs sur le consentement, l'exploitation et les droits des individus à contrôler l'utilisation de leur image et de leurs créations dans un monde où l'IA joue un rôle de plus en plus central.
Dans les parallèles qui rassemblent la fiction de “Joan is Awful” et la réalité des nouvelles technologies, les répliques numériques sont un sujet parmi tant d’autres dans le secteur du cinéma. Dans le cadre de l’univers de l’image, la modification des expressions et des visages en post-production avec les effets spéciaux sont également un point intéressant à traiter, tout comme il y a également les questionnements sur les appropriations de la voix des interprètes, pour l’ajout de répliques, mais également quand à la problématique de la traduction, ainsi que la génération de scénario assistée par IA ce qui questionne sur le monde de l’écriture.
Comments