Guilherme Silveira, CINO (Diretor de inovação) e cofundador da Alura. Foto: Divulgação
“Será que podemos usar comercialmente uma imagem de alguém que já morreu?".
Esse questionamento, que parece novo, já foi explorado há décadas e abre diversos outros questionamentos como “podemos usar comercialmente a imagem de uma cantora morta para anunciar sorvete de menta e chocolate em uma pintura com pincel?".
E se essa pintura, ao invés de criada por Inteligência Artificial (IA), fosse digital ou uma animação 3d? No fim, estamos mudando apenas ferramentas que potencializam o resultado emocional. Mas a pergunta-chave é a mesma de sempre, e já tem resposta faz muito tempo.
Ferramentas desta categoria estão sendo usadas praticamente em todos os segmentos e das mais diversas formas, inclusive para… “reviver” pessoas? Sim, é isso mesmo que você leu.
E é justamente nesse sentido que precisamos discutir algumas questões éticas e morais que respingam diretamente em nós, seres humanos.
No passado o GPT, desenvolvido pela OpenAI, já foi utilizado para permitir "conversas" entre pessoas e entes queridos mortos. A tecnologia foi treinada nas mensagens da pessoa falecida e permitiu o "diálogo" com um programa que personifica a pessoa morta.
Mas o melhor exemplo para conversar sobre esse tema é recente e está em alta: a campanha da fabricante de veículos Volkswagen em comemoração aos 70 anos da empresa, que trás de volta Elis Regina para cantar um dueto de “Como Nossos Pais”, música clássica de Belchior, com a sua filha, Maria Rita.
Essa ação de reproduzir sons de pessoas por meio de técnicas de machine learning é chamada de “deep fake” (“falsificação profunda”, em uma tradução livre). As mesmas redes neurais usadas para criar imagens também é usada para sintetizar vozes.
Deixando de lado o aspecto emocional e tocante da propaganda, é importante entendermos como ela ressalta um debate sobre a responsabilidade na utilização da IA. Para se ter uma ideia, a conversa já começa no próprio conhecimento geral do assunto - que não há.
Uma pesquisa feita pela companhia de segurança cibernética Kaspersky revela que cerca de 3 em cada 5 (65%) brasileiros não conhecem o termo deep fake.
Além disso, o estudo ressalta que esse desconhecimento obviamente pode possibilitar fraudes, uma vez que 71% daqueles que sabem o que isso significa dizem não reconhecer quando um vídeo foi editado por meio dessas técnicas.
Não à toa, em um levantamento que fizemos aqui na Alura também conseguimos observar um aumento nas buscas pela palavra e suas derivações, como: "deep fake, como fazer?", "deep learning fake news", "IA deep fake", dentre outras.
O ato de criar fantasias com personagens ou pessoas do passado faz parte do ser humano, é algo que já fazíamos e continuamos fazendo. O Homem Aranha que é "ressuscitado" através da invenção do conceito de múltiplos universos é um exemplo simples do nosso incômodo com a morte e busca por ferramentas que permitam que continuemos criando novas histórias para heroínas da sociedade como Elis Regina.
Mas antes de explorarmos sem dó a imensidão de portas abertas com a IA, precisamos sempre nos lembrar do potencial destrutivo que o seu uso inadequado pode trazer.
No caso, é fundamental termos muito claro quais os direitos de uso de imagem que uma ferramenta - e uma empresa - precisa ter para usá-la no treino de suas inteligências artificiais ou na criação de novos elementos.
Isso porque existem implicações humanas que vão além da implicação mercadológica, principalmente se tratando de alguém que faleceu. No mundo dos mágicos e mágicas, por exemplo, eles guardam um material secreto para ser lançado apenas após a morte, como uma forma de sustentar a família.
Assim como eles, muitos artistas e indivíduos públicos pensam em vida no que deixar para seus entes queridos depois de morrer, mas definitivamente nunca vimos os mortos em si trabalharem.
Hoje, por meio de deep fakes ou de cópias virtuais de entes queridos através da troca de mensagens, podemos colocar os mortos para "trabalhar" e "pensar" em novas obras.
O resultado desse trabalho deixa de ser fantasia e vira algo palpável, como a canção emocionante e reunião de mãe e filha nessa situação simbólica.
Exercer uma função profissional no pós-vida, de uma forma que não foi prevista e escolhida pela pessoa que não está viva, pode colocar em risco a lembrança sobre o músico, ator ou quem quer que seja.
É um contexto em que se cria memórias que nunca existiram de fato, colocando a respectiva personalidade em segundo plano. É claro que nesse caso de Elis Regina, Maria Rita e até mesmo Belchior, os detentores de direito de uso devem ter sido consultados e remunerados.
Sendo recriada digitalmente após a sua morte que a pessoa em questão gostaria de ser lembrada depois de partir? Os vivos - incluindo os entes queridos - podem tomar essa decisão pelos mortos?
As leis atuais de direitos dizem que quem tem os direitos que decidem, não a população geral. O mesmo parece valer para o "trabalho" pós-mortem.
Claro que nossa sociedade, voltada à produção e ao trabalho, iria transformar em comercializável uma ferramenta de criação de fantasias, que nesse contexto foi usada ao amor familiar. Só com cautela vamos conseguir explorar a melhor posição de recursos como a IA: a de assistente.
Para a publicidade, ela assistiu à criação de uma imagem moderna da empresa anunciada. Reforçou a imagem de Elis Regina e Maria Rita no mundo moderno. Permitiu que fãs vivenciassem algo somente sonhado.
E claro, trouxe dinheiro para as pessoas envolvidas que possuíam tais direitos. A IA assistiu nisso tudo, no lado humano, comercial e produtivo. Os limites de tais assistências existem, assim como existiam no passado.
*Por Guilherme Silveira, CINO (Diretor de inovação) e cofundador da Alura.