Síntese
No julgamento da ação, o TJSP entendeu que a mera comprovação da utilização de IA pelo réu não seria capaz de asseverar a sua ausência de responsabilidade perante o autor, visto que, à luz dos mecanismos de funcionamento das atuais ferramentas de IA generativa, não haveria como descartar a possibilidade de que a voz utilizada pelo réu, ainda que “gerada” artificialmente, fosse idêntica à voz do autor.
Comentário
Desde o advento comercial, em anos recentes, das tecnologias de inteligência artificial generativa, o seu uso tem se expandido para os mais diversos setores da sociedade: seja na indústria, nas artes, ou até mesmo nos escritórios de advocacia e tribunais.
É certo que, enquanto o uso adequado destas ferramentas pode contribuir sobremaneira para avanços na produtividade e na eficiência dos processos já consolidados, a sua utilização para propósitos intelectuais ou artísticos ainda é controversa, considerando que as limitações correntes da tecnologia demandam a utilização de extenso arcabouço prévio de dados que possibilite o rearranjo de informações para a criação de algo novo – mas será que é novo mesmo?
O fato de a inteligência artificial generativa se utilizar de criações prévias – humanas – para a geração de resultados não representaria uma violação às obras já existentes, ou aos direitos de personalidade inerentes ao homem e suas criações? Em decisão recente, a 6ª Câmara de Direito Privado do Tribunal de Justiça de São Paulo se debruçou, ainda que de maneira incipiente, sobre a controvérsia e as inovações relativas ao tema.
A demanda se trata de ação indenizatória cumulada com pedido de obrigação de não fazer, ajuizada por locutor que alega ter sido a sua voz utilizada indevidamente – e sem autorização – por estabelecimento comercial para a realização de campanha publicitária. Em primeiro grau, o shopping center réu foi capaz de provar que havia, em verdade, se utilizado de ferramenta de inteligência artificial generativa na elaboração da campanha, de modo a gerar uma “voz artificial” chamada “Antônio” para a propaganda. Assim, visto que a voz teria sido gerada por IA, o juízo de primeiro grau decidiu ter sido provada a não utilização da voz do autor.
Em segundo grau, entretanto, se determinou o retorno dos autos à primeira instância para a realização de saneamento e instrução do feito. No julgamento da Apelação Cível n.º 1119021-41.2023.8.26.0100, ocorrido em 31 de outubro de 2024, o relator, Desembargador Costa Netto, entendeu que a mera comprovação da utilização de IA pelo réu não seria capaz de asseverar a sua ausência de responsabilidade, visto que, à luz dos mecanismos de funcionamento das atuais ferramentas de IA generativa, não haveria como descartar a possibilidade de que a voz utilizada (classificada como “PIA”, acrônimo para “Produto de Inteligência Artificial”), ainda que “gerada” artificialmente, fosse idêntica à voz do autor.
O julgador, então, determinou o retorno dos autos à primeira instância para que as partes discutissem, por meio de nova produção de provas, “como foi gerada a PIA, quem foi contratado para produzi-la, se houve algum tipo de verificação prévia, para analisar também as circunstâncias da responsabilidade, a gravidade da conduta, e assim determinar a responsabilidade e a indenização”.
Segundo a decisão, que se utilizou de obras e artigos bastante atuais sobre o tema, uma notória controvérsia sobre a utilização de produtos de inteligência artificial é a possibilidade de ocorrência de “scraping”, que seria a utilização de algoritmos para coleta automática de dados através da internet, como forma de treinamento da ferramenta de IA. Para o julgador, o problema deste método é que, como parte da coleta de dados, os mecanismos atuais não são capazes de discernir obras, criações e produções protegidas daquelas não protegidas, o que faz com que os produtos gerados estejam inevitavelmente contaminados – ou baseados – em criações humanas dotadas de proteção. Desta forma, estariam sendo violados os direitos de personalidade dos reais criadores das obras.
Assim, para o julgador, quando a ferramenta de IA se utiliza de scraping, o produto gerado “não é mais do que uma colcha de retalhos composta de dados contidos em determinado banco. O resultado não é, certamente, uma obra dotada de originalidade, ou uma voz inteiramente nova e independente das existentes”.
Quando aplicada a hipótese ao caso concreto, o relator concluiu haver a possibilidade de que o réu, ao se utilizar indiscriminadamente da IA para seus próprios fins comerciais, possa ter “infringido o dever de cuidado quanto à utilização da PIA”, o que geraria o dever de indenizar. Caberia, então, ao réu provar que foi diligente e responsável na utilização da ferramenta.
Entretanto, a despeito da louvável preocupação do julgador com a possibilidade de utilização, pela IA, de obras protegidas como pano de fundo para suas próprias criações, e da grande tecnicidade da decisão aqui comentada, a solução encontrada dificilmente parece ideal: ao determinar que o réu comprove que realizou uma “verificação prévia” para a utilização do produto gerado pela IA, o julgador fixou um standard que pode acabar por impossibilitar a própria utilização da ferramenta, visto que no caso concreto seria praticamente impossível, ao usuário da IA, averiguar se o produto reproduziu ou não alguma voz já previamente existente.
De todo modo, a decisão se coloca na dianteira da discussão contemporânea sobre IA, descortinando alguns dos vários dilemas, tanto morais quanto legais, decorrentes do uso de tais ferramentas. Utopia ou distopia? Avanço ou retrocesso? Novo ou velho?
Resta aberto o debate.
