Tech

Não, isso não é Taylor Swift vendendo panelas Le Creuset

A afinidade de Taylor Swift com Le Creuset é real: sua coleção de utensílios de cozinha foi apresentada em uma conta do Tumblr dedicada à decoração da casa da estrela pop, em uma análise completa de sua cozinha publicada pela Variety e em um documentário da Netflix que foi destacado por Le Creuset's Página do Facebook.

O que não é real: o endosso de Swift aos produtos da empresa, que apareceram nas últimas semanas em anúncios no Facebook e em outros lugares apresentando seu rosto e voz.

Os anúncios estão entre os muitos golpes focados em celebridades que se tornaram muito mais convincentes pela inteligência artificial. Em uma única semana de outubro, o ator Tom Hankso jornalista Rei Gayle e a personalidade do YouTube MrBesta todos disseram que suas próprias versões de IA foram usadas, sem permissão, para promoções enganosas de planos odontológicos, ofertas de brindes para iPhone e outros anúncios.

No caso de Swift, disseram os especialistas, a tecnologia de inteligência artificial ajudou a criar uma versão sintética da voz da cantora, que foi remendada com imagens dela ao lado de clipes mostrando os fornos holandeses Le Creuset. Em vários anúncios, a voz clonada de Swift se dirigiu aos “Swifties” – seus fãs – e disse que estava “emocionada” por distribuir jogos de panelas gratuitamente. Tudo o que as pessoas precisavam fazer era clicar em um botão e responder algumas perguntas antes do final do dia.

Le Creuset disse que não se envolveu com a cantora em nenhum brinde ao consumidor. A empresa pediu aos compradores que verificassem suas contas online oficiais antes de clicar em anúncios suspeitos. Representantes de Swift, eleita Personalidade do Ano pela revista Time em 2023, não responderam aos pedidos de comentários.

Pessoas famosas emprestaram sua celebridade aos anunciantes desde que a publicidade existe. Às vezes, foi de má vontade. Há mais de três décadas, Tom Waits processou a Frito-Lay – e ganhou quase US$ 2,5 milhões – depois que a empresa de salgadinhos de milho imitou o cantor em um anúncio de rádio sem sua permissão. A campanha fraudulenta de Le Creuset também apresentou versões fabricadas de Martha Stewart e Oprah Winfrey, que em 2022 postaram um vídeo exasperado sobre a prevalência de anúncios falsos nas redes sociais, e-mails e sites que afirmam falsamente que ela endossava gomas para perder peso.

Durante o ano passado, grandes avanços na inteligência artificial tornaram muito mais fácil a produção de uma réplica digital não autorizada de uma pessoa real. As paródias de áudio têm sido especialmente fáceis de produzir e difíceis de identificar, disse Siwei Lyu, professor de ciência da computação que dirige o Media Forensic Lab da Universidade de Buffalo.

A campanha fraudulenta de Le Creuset provavelmente foi criada usando um serviço de conversão de texto em voz, disse Lyu. Essas ferramentas geralmente traduzem um roteiro em uma voz gerada por IA, que pode então ser incorporada a imagens de vídeo existentes usando programas de sincronização labial.

“Essas ferramentas estão se tornando muito acessíveis hoje em dia”, disse o Dr. Lyu, acrescentando que era possível fazer um “vídeo de qualidade decente” em menos de 45 minutos. “Está se tornando muito fácil e é por isso que estamos vendo mais.”

Dezenas de anúncios fraudulentos de Le Creuset separados, mas semelhantes, apresentando a Sra. Swift – muitos deles postados este mês – estavam visíveis no final da semana passada na biblioteca pública de anúncios do Meta. (A empresa é proprietária do Facebook e do Instagram.) A campanha também foi veiculada no TikTok.

Os anúncios direcionavam os espectadores para sites que imitavam veículos legítimos, como o Food Network, que apresentava cobertura de notícias falsas sobre a oferta da Le Creuset, juntamente com depoimentos de clientes fabricados. Os participantes foram solicitados a pagar uma “pequena taxa de envio de US$ 9,96” pelos utensílios de cozinha. Aqueles que cumpriram enfrentaram cobranças mensais ocultas sem nunca receberem os utensílios de cozinha prometidos.

Alguns dos anúncios falsos da Le Creuset, como um que imitava a designer de interiores Joanna Gaines, tinham um brilho enganador de legitimidade nas redes sociais graças a rótulos que os identificavam como publicações patrocinadas ou como provenientes de contas verificadas.

Em abril, o Better Business Bureau avisou consumidores de que golpes falsos de celebridades feitos com IA foram “mais convincentes do que nunca”. As vítimas muitas vezes ficavam com cobranças acima do esperado e nenhum sinal do produto que haviam encomendado. Os banqueiros também relataram tentativas de vigaristas de usarem deepfakes de voz, ou réplicas sintéticas de vozes de pessoas reais, para cometer fraudes financeiras.

No ano passado, várias pessoas conhecidas distanciaram-se publicamente de Publicidades apresentando sua imagem ou voz manipulada por IA.

Neste verão, anúncios falsos foram espalhados online que pretendiam mostrar o cantor country Luke Combs promovendo gomas para perder peso, recomendadas a ele pelo músico country Lainey Wilson. Sra. Wilson postou um vídeo do Instagram denunciando os anúncios, dizendo que “as pessoas farão qualquer coisa para ganhar um dólar, mesmo que seja mentira”. O empresário do Sr. Combs, Chris Kappy, também postou um vídeo do Instagram negando envolvimento na campanha das gomas e acusando empresas estrangeiras de usar inteligência artificial para replicar a imagem do Sr.

“Para outros gestores, a IA é uma coisa assustadora e eles a estão usando contra nós”, escreveu ele.

Um porta-voz da TikTok disse que o aplicativo política de anúncios exige que os anunciantes obtenham consentimento para “qualquer mídia sintética que contenha uma figura pública”, acrescentando que o TikTok padrão da comunidades exigem que os criadores divulguem “mídia sintética ou manipulada mostrando cenas realistas”.

A Meta disse que tomou medidas em relação aos anúncios que violavam seus políticas, que proíbe conteúdo que usa figuras públicas de forma enganosa para tentar enganar os usuários e obter dinheiro. A empresa disse que tomou medidas legais contra alguns perpetradores de tais esquemas, mas acrescentou que anúncios maliciosos muitas vezes conseguem escapar dos sistemas de revisão da Meta, ocultando seu conteúdo.

Sem leis federais em vigor para lidar com fraudes de IA, os legisladores propuseram legislação que teria como objetivo limitar os seus danos. Dois projetos de lei apresentados no Congresso no ano passado – o Deepfakes Accountability Act na Câmara e o No Fakes Act no Senado – exigiriam proteções, como rótulos de conteúdo ou permissão para usar a voz ou imagem de alguém.

Pelo menos nove estados, incluindo Califórnia, Virgínia, Flórida e Havaí, têm leis que regulamentam o conteúdo gerado por IA.

Por enquanto, a Sra. Swift provavelmente continuará a ser um tema popular de experimentação de IA. Versões sintéticas de sua voz aparecem regularmente no TikTok, apresentando músicas que ela nunca cantou, soando de forma colorida para os críticos e servindo como toques de telefone. Uma entrevista em inglês que ela deu em 2021 no programa “Late Night With Seth Meyers” foi dublada com uma representação artificial de sua voz falando mandarim. Um site cobra até US$ 20 por mensagens de voz personalizadas do “clone de IA de Taylor Swift”, prometendo “que a voz que você ouve é indistinguível da voz real”.



Source link

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button