Se seu filho ainda não viu um deepfake de alguém associado à sua escola, é provável que um amigo ou professor dele já tenha visto. Deepfakes são imagens, vídeos ou gravações de áudio inautênticos criados por inteligência artificial, que parecem reais, mas foram manipulados digitalmente ou falsificados.
De acordo com uma pesquisa recente do Center for Democracy & Technology, uma organização sem fins lucrativos focada em direitos digitais, 40% dos estudantes e 29% dos professores nos Estados Unidos afirmaram estar cientes de um deepfake de alguém associado à sua escola que foi compartilhado no último ano letivo.
Quinze por cento dos estudantes e 11% dos professores estavam cientes de deepfakes de pessoas de sua escola que eram íntimos ou sexualmente explícitos.
Recentemente, foi possível ver como deepfakes podem afetar as escolas. Segundo pesquisa, quando imagens nuas reais ou falsas de uma pessoa acabam na internet, isso pode colocar a vítima em maior risco de depressão, suicídio e agressão sexual. Também pode dificultar que as vítimas namorem ou consigam emprego, pois essas imagens podem aparecer em buscas online.
No entanto, a maioria dos alunos, professores e pais afirma que suas escolas não compartilharam políticas e procedimentos sobre imagens íntimas não consensuais de deepfake, incluindo 57% dos estudantes do ensino médio, 62% dos professores do ensino secundário e 67% dos pais de alunos do ensino fundamental e médio, segundo a pesquisa do Center for Democracy & Technology.Play Video
Em vez de tentar prevenir esses incidentes, o estudo descobriu que as escolas tendem a agir apenas depois que eles acontecem. Então, concentram-se em punir os autores sem oferecer o suporte adequado às vítimas, segundo a pesquisa.
O que os pais podem fazer? Com as escolas frequentemente falhando em adotar medidas para proteger os alunos, os pais precisam conversar com seus filhos sobre por que eles nunca devem criar ou interagir com deepfakes íntimos.
Educar as crianças sobre os danos
Mesmo quando os deepfakes não são reais, os pais devem explicar que os danos podem ser. Lindsay Lieberman, advogada em Washington D.C., nos EUA, que representa vítimas de deepfakes, afirma:
“A tecnologia é tão sofisticada que parece ser minha cliente, e o dano pode ser tão profundo quanto se fosse realmente o corpo dela.”
As vítimas frequentemente “experimentam danos psicológicos, incluindo angústia significativa, ansiedade, depressão, um senso de humilhação e desamparo, e algumas até relatam ter sofrido transtorno de estresse pós-traumático”, alerta a especialista.
Elas também sofrem frequentemente danos emocionais e sociais. “Esse tipo de humilhação, seja ou não o corpo dela, pode fazê-la perder amigos; pode danificar sua reputação,” afirma Lieberman. “Pode fazê-la ter medo de aparecer em espaços online, o que ela pode precisar fazer para suas inscrições na faculdade ou para sua futura carreira. Algumas vítimas acabam não conseguindo frequentar a escola porque estão sofrendo muito.”
As vítimas frequentemente enfrentam prejuízos financeiros, acrescenta a especialista, porque muitas contratam empresas para tentar remover o conteúdo da internet.
Por isso, é necessário ensinar as crianças não apenas a não criar deepfakes, mas também por que nunca devem interagir com eles, compartilhando ou curtindo.
Ao abordar essas conversas, os pais devem se apoiar na empatia, pedindo aos filhos que imaginem como se sentiriam se isso acontecesse com eles, segundo Devorah Heitner, autora de Chicago de “Growing Up in Public: Coming of Age in a Digital World” (“Crescendo em Público: Chegando à Maturidade em um Mundo Digital”, em tradução livre do inglês). “Todos os jovens reconhecem que não queremos fazer parte da vitimização de outros. Não queremos fazer parte de algo que faça outras pessoas se sentirem menos seguras.”
Proteger as crianças de se tornarem vítimas
Os pais também precisam educar seus filhos sobre os riscos de se tornarem vítimas.
“Eu sempre incentivo os pais a adiarem o uso de mídias sociais e celulares pelo maior tempo possível”, diz Lieberman. “Mas se seus filhos estão nas mídias sociais, você deve falar com eles sobre configurações de privacidade e garantir que eles conheçam cada pessoa com quem estão conectados e que pode ver seu conteúdo.”
Ao compartilhar conteúdo de forma privada – apenas com pessoas que aceitaram como amigos ou seguidores –, as crianças podem dificultar o acesso de estranhos ou pessoas que consideram não confiáveis a fotos delas que podem ser manipuladas.
Quando converso com estudantes em escolas sobre deepfakes e outros perigos nas mídias sociais, também os aconselho a conversar pessoalmente com as pessoas que enviam pedidos de amizade ou seguidores para confirmar que elas realmente criaram as contas.
Lieberman também recomendou que os pais modelassem boas práticas de cibersegurança, tendo cuidado com o que compartilham online. Ela afirma que os pais devem garantir que os filhos saibam que, se virem deepfakes, podem procurar ajuda sem medo de serem punidos.
Embora seja importante não minimizar os danos sofridos pelas vítimas, Heitner diz que os pais também devem ensinar as crianças que elas podem se recuperar se isso acontecer com elas. “Também não queremos dizer às meninas: ‘Isso aconteceu com você, agora você está arruinada. Você nunca poderá namorar. Você nunca poderá seguir em frente’”, afirma.
É importante, observou Heitner, “tratar pessoas que são sobreviventes como sobreviventes e não apenas como vítimas, e dar-lhes oportunidades de encontrar comunidade, seguir em frente e reconhecer sua própria força.”
Apoio às vítimas de deepfakes
Lieberman diz que os pais e vítimas podem denunciar os incidentes à polícia, mas também recomendou buscar apoio de organizações sem fins lucrativos que atuem na causa.
Além disso, os pais podem procurar um advogado se eles ou seus filhos forem vítimas, e Lieberman explica que as vítimas não devem presumir que não podem pagar por um. Muitos advogados – incluindo Lieberman – oferecem consultas gratuitas e, às vezes, aceitam casos de contingência, em que só recebem se a vítima ganhar uma indenização em um julgamento ou acordo.
Embora as escolas claramente precisem educar as crianças sobre deepfakes e implementar políticas para protegê-las de se tornarem vítimas, é essencial que os pais alertem as crianças sobre como podem se proteger e evitar participar dessa forma de abuso sexual.
