Kickstarter exige que projetos de IA generativa divulguem informações adicionais

À medida que a inteligência artificial generativa entra no mainstream, a plataforma de crowdfunding Kickstarter tem enfrentado dificuldades para formular uma política que satisfaça todas as partes envolvidas no debate.

A maioria das ferramentas de IA generativa usadas atualmente para criar arte e texto, como o Stable Diffusion e o ChatGPT, foram treinadas com imagens e textos disponíveis publicamente na web. No entanto, em muitos casos, os artistas, fotógrafos e escritores cujo conteúdo foi coletado para treinamento não receberam crédito, compensação ou a chance de optar por não participar.

Os grupos por trás dessas ferramentas de IA argumentam que estão protegidos pela doutrina do uso justo – pelo menos nos Estados Unidos. No entanto, os criadores de conteúdo não necessariamente concordam, principalmente quando o conteúdo gerado por IA, ou as próprias ferramentas de IA, estão sendo monetizados.

Para trazer mais clareza, o Kickstarter anunciou hoje que os projetos em sua plataforma que utilizarem ferramentas de IA para gerar imagens, textos ou outros tipos de saída precisarão divulgar “detalhes relevantes” em suas páginas de projeto daqui para frente. Esses detalhes devem incluir informações sobre como o proprietário do projeto planeja usar o conteúdo de IA em seu trabalho, bem como quais componentes do projeto serão completamente originais e quais elementos serão criados utilizando ferramentas de IA.

Além disso, o Kickstarter está exigindo que novos projetos envolvendo o desenvolvimento de tecnologia, ferramentas e software de IA detalhem informações sobre as fontes de dados de treinamento que o proprietário do projeto pretende utilizar. O proprietário do projeto terá que indicar como essas fontes lidam com processos de consentimento e crédito, e implementar seus próprios mecanismos de exclusão ou inclusão para os criadores de conteúdo.

Um número crescente de fornecedores de IA oferece mecanismos de exclusão, mas a regra de divulgação de dados de treinamento do Kickstarter pode ser polêmica, apesar dos esforços da União Europeia e de outros para codificar tais práticas em lei. A OpenAI e outras empresas, por exemplo, se recusaram a revelar a fonte exata dos dados de treinamento de seus sistemas mais recentes por razões competitivas e possíveis responsabilidades legais.

A nova política do Kickstarter entrará em vigor em 29 de agosto. No entanto, a plataforma não planeja aplicá-la retroativamente a projetos enviados antes dessa data, de acordo com Susannah Page-Katz, diretora de confiança e segurança do Kickstarter.

“Queremos garantir que qualquer projeto financiado pelo Kickstarter inclua um input criativo humano e dê os devidos créditos e obtenha permissão para o trabalho de qualquer artista que ele utilize”, escreveu Page-Katz em um post no blog compartilhado com o TechCrunch. “A política exige que os criadores sejam transparentes e específicos sobre como eles utilizam a IA em seus projetos, porque, quando todos estão na mesma página sobre o que um projeto envolve, isso constrói confiança e prepara o projeto para o sucesso.”

Para fazer cumprir a nova política, as submissões de projetos no Kickstarter terão que responder a um novo conjunto de perguntas, incluindo várias que abordam se o projeto utiliza tecnologia de IA para gerar arte e coisas do tipo, ou se o foco principal do projeto é desenvolver tecnologia de IA generativa. Eles também serão questionados se possuem consentimento dos proprietários das obras utilizadas para produzir ou treinar partes geradas por IA de seus projetos.

Uma vez que os criadores de projetos de IA enviem seu trabalho, ele passará pelo processo padrão de moderação humana do Kickstarter. Se for aceito, quaisquer componentes de IA serão identificados como tal em uma nova seção “Uso de IA” na página do projeto, segundo Page-Katz.

“Nossas conversas com criadores e apoiadores mostraram que o que nossa comunidade mais queria era transparência”, ela acrescentou, observando que qualquer uso de IA que não seja devidamente divulgado durante o processo de submissão pode resultar na suspensão do projeto. “Estamos felizes em atender diretamente a esse pedido de nossa comunidade, adicionando uma seção à página do projeto onde os apoiadores possam aprender sobre o uso de IA em um projeto, nas próprias palavras do criador.”

O Kickstarter indicou pela primeira vez que estava considerando uma mudança na política em relação à IA generativa em dezembro, quando afirmou que reavaliaria se o uso de mídia de propriedade ou criada por terceiros nos dados de treinamento de um algoritmo constituía cópia ou imitação do trabalho de um artista.

Desde então, a plataforma tem avançado lentamente em direção a uma nova política.

No final do ano passado, o Kickstarter proibiu o Unstable Diffusion, um grupo que tentava financiar um projeto de arte generativa de IA que não incluía filtros de segurança, permitindo que os usuários gerassem qualquer tipo de arte que desejassem, incluindo pornografia. O Kickstarter justificou a remoção em parte, alegando que o projeto explorava comunidades específicas e colocava as pessoas em risco de danos.

Mais recentemente, o Kickstarter aprovou e depois removeu um projeto que usava IA para plagiar uma história em quadrinhos original, destacando os desafios de moderar obras de IA.