À agência Lusa, o CIS salienta que a produção ilegal deste tipo de conteúdo provém de “pares ou colegas de escola, e são partilhadas através de grupos de WhatsApp e por vezes publicadas em stories do Instagram”.
O centro refere que a IA permite criar rapidamente sites inteiros com diferentes tipos de conteúdo, tornando qualquer imagem ou vídeo gerado de forma rápida, gratuita e acessível a qualquer pessoa, em qualquer lugar. Estes conteúdos podem, ou não, ser realistas, e podem incluir, ou não, áudio.
Um relatório recente da Internet Watch Foundation (IWF) revela que o abuso sexual infantil gerado com IA aumentou 400% no primeiro semestre do ano, tendo sido detetadas 210 páginas online com este tipo de conteúdo.
O CIS afirma que, atualmente, “não existe, pelo menos para o grande público, uma tecnologia capaz de identificar, de forma eficaz, se um conteúdo foi gerado artificialmente no momento”. Tal como aconteceu com outras tecnologias ao longo da história, ferramentas criadas com determinados fins são rapidamente usadas para fins maliciosos, tais como gerar imagens difamatórias ou íntimas.
O centro explica ainda que, a partir do momento em que imagens de jovens estão disponíveis online, qualquer pessoa pode utilizá-las para gerar material sexual artificial, manipulando digitalmente a imagem, “tornando-se mais fácil criar identidades falsas para abordar crianças e jovens, facilitando processos de aliciamento ou obtenção de conteúdo sexual ilegal”.
O CIS alerta também que “já existem inúmeras plataformas cujo único objetivo é criar imagens íntimas de mulheres, uma realidade que rapidamente se estendeu ao conteúdo sexual de menores”.
Na semana passada, o Facebook encerrou um grupo italiano com quase 32.000 utilizadores, no qual eram partilhadas e comentadas fotos de mulheres em momentos de intimidade, presumivelmente sem a sua permissão, após várias denúncias recebidas.
Os perigos identificados pelo CIS incluem exposição de menores, manipulação de imagens, risco de aliciamento, chantagem e danos psicológicos, bem como a circulação rápida e difícil de controlar dos conteúdos.
As denúncias que chegam ao CIS têm origem na Linha Internet Segura (LIS), operacionalizada pela Associação Portuguesa de Apoio à Vítima (APAV), que integra um serviço de denúncia de conteúdos ilegais online.
O CIS é coordenado pelo Centro Nacional de Cibersegurança (CNCS) e resulta de um consórcio que envolve a DGE – Direção-Geral da Educação, o IPDJ – Instituto Português do Desporto e Juventude, a Fundação para a Ciência e a Tecnologia (FCT), a APAV e a Microsoft Portugal.