O caso do pedreiro Edimar Rocha Martins, que viajou mais de 2 mil quilômetros entre o Maranhão e Minas Gerais em busca de um romance com uma mulher feita por inteligência artificial, acendeu um alerta para possíveis golpes com a teconologia.
O uso de dicas de aparência em vídeos, sons e imagens, o contexto do envio de materiais e até ferramentas de investigação digital podem evitar problemas.
Não custa desconfiar
De acordo com o cientista de dados Arnobio Morelix, da Faculdade Sirius, o estranhamento com um vídeo de IA deve ir além da aparência humana, pois a imagem ou voz sintética tem melhorado cada vez mais.
“O erro que a gente vê hoje é procurar defeitos na imagem, mas o deepfake de hoje é muito bom na imagem; o que ele é ruim é no contexto. Não só a aparência, mas o contexto. Quando a gente recebe um vídeo num contexto político, pedindo uma senha, uma decisão urgente, vale a pena pensar o motivo de receber essa mensagem, e desconfiar da urgência pode ajudar muito”, explica Arnobio Morelix.
Veja algumas dicas para identificar um deepfake:
- Boca: “A sincronia entre os lábios e a voz ainda entrega. No deepfake, a boca fica entreaberta ou fecha atrasada. A gente pode observar nos dentes também, pois ora estão espaçados, ora parecem um bloco”, avalia Morelix.
- Fala: Vídeos com IA têm pausas de respiração que evidentemente não são naturais. A voz sintética não respira entre as frases, tem pausas em momentos inadequados e entonação muito mais plana que na fala humana.
- Iluminação: Geralmente, a iluminação no rosto de um personagem feito por IA é muito melhor e mais uniforme que no restante do contexto de uma foto ou vídeo.
“O mais importante é lembrar que esses sinais estão ficando mais fracos a cada dia. O deepfake tem ficado mais sofisticado”, alerta o especialista.
Investigação forense digital
Marcio Fabozi, especialista em IA, explica que programas de identificação forense digital, como SynthID, Hive AI e Reality Defender, ajudam a rastrear e identificar se um vídeo foi gerado por inteligência artificial. Porém, nada é garantido.
“É importante entender que nenhuma dessas ferramentas é infalível. Um detector como esses pode apontar indícios de manipulação, mas a confirmação depende de outras verificações, como a fonte, o contexto e a autenticidade da informação. A inteligência artificial está evoluindo rapidamente, e os mecanismos de proteção precisam acompanhar esse avanço”, pondera.
Há também a tecnologia C2PA, um tipo de marca d’água que fica impregnada em alguns conteúdos de IA e ajuda na identificação da origem dos materiais, porém a ferramenta não é utilizada por todas as plataformas generativas. Plataformas como Gemini e Claude usam essa marca para rastreio.
Fabozi explica que os vídeos podem funcionar como um atrativo para golpes.
“O vídeo falso funciona como uma isca, e o risco aumenta quando a pessoa acredita naquela mensagem e acaba fornecendo informações, acessando páginas fraudulentas ou instalando programas maliciosos. Por isso, sempre reforço que a tecnologia precisa caminhar junto com a conscientização. Antes de clicar, de compartilhar qualquer informação ou de realizar uma transação, é fundamental verificar a origem daquela solicitação”.
Pode ser crime?
Afinal, produzir e compartilhar um deepfake pode ser crime? Sim e não. O advogado Rodrigo Baraldi explica que o uso do vídeo como “instrumento de estelionato, de crimes contra a honra ou de violência psicológica contra a mulher” se enquadra na ilegalidade.
“Se o deepfake for utilizado em um golpe que configure fraude eletrônica, a pena prevista é de quatro a oito anos de reclusão e multa, podendo haver aumentos conforme o caso. A pena acompanha o crime praticado, não o nome da tecnologia utilizada”, explica o advogado.
Em casos de conteúdo de nudez ou falsa acusação de crime, a responsabilidade criminal também é compartilhada com quem repassa o vídeo.
Baraldi também afirma que, em casos como o do pedreiro Edimar Rocha, citado no começo da reportagem, é possível questionar um dano ou prejuízo na Justiça cível e criminal.
“A vítima pode exigir o ressarcimento dos prejuízos financeiros e indenização por danos morais, conforme os danos e a responsabilidade demonstrados. Também pode pedir a retirada do conteúdo e medidas urgentes para interromper sua divulgação. A reparação civil não depende, como regra, de uma condenação criminal: uma conduta pode gerar o dever de indenizar mesmo sem configurar crime. No processo criminal, além da punição do responsável, a sentença condenatória pode fixar um valor mínimo de reparação, desde que observados os requisitos processuais, inclusive o pedido adequado e o direito de defesa”, afirma o especialista.
Falso amor
A promessa de viver um romance em uma fazenda em Minas Gerais levou o pedreiro Edimar Rocha Martins, de 49 anos, a viajar mais de 2 mil km até Belo Horizonte. Ele saiu de Imperatriz, no Maranhão, na última sexta-feira (9) e chegou à capital mineira no domingo (11).
Edmar desembarcou em Belo Horizonte na expectativa de encontrar a mulher com quem interagia por meio das redes sociais. Ele não sabia, no entanto, que as respostas eram dadas de forma automática por um perfil criado por Inteligência Artificial.
A mulher, que se apresentava nos vídeos como Jéssica, dizia ser proprietária de uma fazenda em Minas Gerais e prometia que os dois poderiam morar juntos.
Somente após chegar a Belo Horizonte e perguntar pela mulher é que o pedreiro descobriu que “Jéssica” não existia no mundo real. Em uma conversa com a Rádio Itatiaia, ele contou que, depois que perdeu a mãe, ficou muito solitário e encontrou na mulher do vídeo uma esperança de começar uma nova vida.
Após a repercussão do caso de Edimar, a Prefeitura de Belo Horizonte fez uma publicação nas redes sociais alertando para os riscos de conteúdos criados ou manipulados por inteligência artificial.
Segundo a administração municipal, imagens, vídeos e conversas podem ser produzidos artificialmente, o que exige atenção antes de confiar em pessoas conhecidas pela internet.
“Informação também é uma forma de proteção. Compartilhe esse alerta e nos ajude a evitar que outras pessoas passem pela mesma situação”, finaliza a publicação.
Até o momento, de acordo com a Polícia Civil, o caso não foi registrado.
Fonte: AJN1
