Deepfake

Espanha propõe criminalizar deepfakes sexuais não consensuais com IA

by with No Comment DeepfakeespanhaInteligência ArtificialSegurança e Privacidade

O governo da Espanha apresentou nesta terça-feira (25) um projeto de lei que criminaliza o uso de inteligência artificial para criar imagens ou vídeos sexualmente explícitos de uma pessoa, sem seu consentimento, utilizando seu rosto ou corpo, conforme informações da AFP.

A tecnologia de IA, especialmente no campo dos “deepfakes” — vídeos e imagens geradas por computador que imitam uma pessoa real — tem gerado crescente preocupação global devido ao seu uso indevido.

Detalhes da nova legislação espanhola

  • De acordo com um estudo de 2019 da empresa holandesa Sensity, cerca de 96% dos vídeos deepfakes disponíveis online são pornografia não consensual, com a maioria retratando mulheres.
  • O governo espanhol propôs que esses “deepfakes” de caráter sexual ou extremamente insultante sejam tratados como crimes contra a integridade moral.
  • O Ministro da Justiça, Félix Bolaños, afirmou que a legislação tem como objetivo proteger crianças, adolescentes e jovens dos riscos da tecnologia digital, assegurando também seu direito à privacidade.
Deepfakes costumam criar conteúdos não consensuais de mulheres em situações sexualmente explícitas – Créditos: metamorworks/Shutterstock

Leia mais:

A proposta surge em meio a um aumento de casos envolvendo a criação e distribuição de imagens falsas de menores de idade, geradas com IA. Em alguns casos, essas imagens foram usadas para extorsão, com os criadores exigindo dinheiro para não divulgar as imagens.

Além disso, o projeto de lei inclui exigências para que fabricantes de smartphones e tablets integrem sistemas de controle parental gratuitos, ativados por padrão, e obriga influenciadores digitais a implementarem “sistemas de verificação de idade” para seus seguidores.

espanha
Em meio a uma onda de aumento de deepfakes, Espanha decide agir com legislação para proteger privacidade das pessoas atingidas – Imagem: Dancing_Man/Shutterstock

O post Espanha propõe criminalizar deepfakes sexuais não consensuais com IA apareceu primeiro em Olhar Digital.

Destaque-Golpe-deepfake-1024x576

Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA

by with No Comment DeepfakeGeminiPro

Na semana passada, o Google expandiu acesso gratuito à ferramenta de geração de imagens do modelo Gemini 2.0 Flash. Agora, usuários descobriram que o recurso não apenas pode produzir imagens controversas, como também remove marcas d’água de conteúdos feitos por inteligência artificial.

A rotulagem se popularizou justamente para impedir que imagens geradas usando IA sejam confundidas com obras reais.

Rotulagem de imagens de IA é amplamente adotada pelos chatbots (Imagem: Reprodução/Kapersky)

Atualização do Gemini pode ser um problemão

A atualização do Gemini incluiu a liberação do Gemini 2.0 Flash gratuitamente. Entre os recursos disponíveis, está uma ferramenta de geração e edição de imagens usando IA.

De acordo com o TechCrunch, relatos de usuários indicaram que o recurso estaria gerando imagens de celebridades e personagens protegidos por direitos autorais sem nenhum tipo de ressalva.

Além disso, o recurso é capaz de remover marcas d’água de IA prévias (uma rotulagem para sinalizar que uma imagem foi gerada artificialmente). Os usuários @deedydas e @tanayj publicaram no X exemplos do que o Gemini pode fazer:

De acordo com os relatos, a ferramenta é bastante avançada. Além de remover as marcas d’água, o Gemini estaria corrigindo os espaços vazios, tornando as imagens mais realistas.

Leia mais:

Marcas d’água servem como proteção contra imagens geradas por IA

Com o avanço das ferramentas geradoras de imagens, veio a preocupação com a desinformação, mediante a possibilidade de que os conteúdos artificiais sejam confundidos com imagens reais. As empresas do setor concordaram em implementar marcas d’água de IA, uma espécie de rótulo para sinalizar que um conteúdo foi produzido artificialmente.

O Claude 3.7 Sonnet, da Anthropic, se recusa explicitamente a remover esse rótulo, alegando que se trata de algo “antiético e potencialmente ilegal”. O GPT-4o também impede a ação.

O Gemini parece estar falhando nisso:

  • Além da desinformação, a ferramenta levanta preocupações envolvendo o uso de conteúdos protegidos por direitos autorais;
  • No entanto, por ora, o gerador está disponível apenas para uso “experimental”, não para “produção”;
  • Os relatos também destacam que, apesar de avançado, o removedor de marcas d’água não é perfeito, com dificuldades com rótulos semitransparentes ou que cobrem grandes partes da imagem.

O post Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA apareceu primeiro em Olhar Digital.

google-1-1024x684

Seu Direito Digital: fim das deepfakes?

by with No Comment DeepfakeSeu direito digitalvídeos

Quinta-feira é dia da coluna Seu Direito Digital no Olhar Digital News. O consultor de privacidade e segurança Leandro Alvarenga repercute os principais assuntos jurídicos no setor de tecnologia e tira as dúvidas dos nossos leitores.

Seu Direito Digital: fim das deepfakes?

A Meta está ampliando uma ferramenta de reconhecimento facial de celebridades usada para detectar anúncios fraudulentos e evitar golpes. A tecnologia bloqueia conteúdos com imagens falsas automaticamente.

Haverá também uma opção de reconhecimento facial para usuários ‘comuns’ no processo de recuperação de contas bloqueadas. Quando um criminoso usa um serviço para criar uma deepfake, a empresa responsável pode ser punida?

Google estaria recuando na tentativa de desmembrar operação (Imagem: Proxima Studio/Shutterstock)

Seu Direito Digital: Google pode ser ‘fatiado’ nos EUA

O Google pediu ao governo dos Estados Unidos para recuar na tentativa de desmembrar negócios da empresa, segundo uma fonte da Reuters. O Departamento de Justiça tem dois processos contra a big tech.

A companhia estaria preocupada que as propostas atuais prejudiquem a economia norte-americana e a segurança nacional. Quais são as possíveis consequências da divisão do Google para a big tech, para o usuário e para o mercado?

Leia mais:

Seu Direito Digital: como declarar IR sem informe de rendimentos?

Agora uma dúvida do nosso leitor Marlon: “Não recebi o informe de rendimentos para declaração do imposto de renda na minha empresa. Como devo proceder?”

O post Seu Direito Digital: fim das deepfakes? apareceu primeiro em Olhar Digital.