Organização do Reino Unido alerta sobre alta na divulgação de conteúdo falso de violência
ouça este conteúdo
|
readme
|
A IA (Inteligência Artificial é constantemente exaltada em relação à capacidade de facilitar processos, resolver problemas e criar conteúdos personalizados. Por outro lado, a disseminação do uso dessa ferramenta tem causado alerta por causa da segurança. No último ano, os vídeos de abuso sexual infantil criado por IA têm crescido expressivamente, de acordo com relatório publicado nesta segunda-feira pela IWF (Internet Watch Foundation), entidade do Reino Unido que visa frear a ocorrência dessa violência na internet.
Os primeiros estudos foram feitos em 2023. Agora, entre março e abril, a organização conseguiu identificar, em um fórum dedicado ao abuso infantil da deep web (parte oculta da internet não indexada por mecanismos de pesquisa comuns), pelo menos nove casos de vídeos de abuso sexual infantil feitos em deepfake (distorções parecidas com a realidade). A IA tem sido usada para colocar rostos de crianças em vídeos de tortura ou estupro.
O documento publicado nesta segunda também avaliou mais de 12.000 conteúdos criados por IA em um período de um mês e publicados em fórum da deep web. Segundo a análise da IWF, 90% do material era extremamente convincente. Ao todo, mais de 3.500 imagens eram de abuso sexual contra crianças, sendo que a maioria das vítimas era de meninas.
“A tecnologia gerativa de IA está evoluindo a tal ritmo que a capacidade dos infratores de produzir agora, à vontade, vídeos gráficos que mostram o abuso sexual de crianças é bastante assustadora. O fato de alguns desses vídeos estarem manipulando as imagens de vítimas conhecidas é ainda mais horrível”, diz a CEO da Internet Watch Foundation, Susie Hargreaves.
“Sobreviventes de alguns dos piores tipos de trauma agora não têm descanso, sabendo que os infratores podem usar imagens de seu sofrimento para criar qualquer cenário de abuso que quiserem. Sem controles adequados, as ferramentas generativas de IA fornecem um playground para predadores on-line realizarem suas fantasias mais perversas e repugnantes. Mesmo agora, a IWF está começando a ver mais desse tipo de material sendo compartilhado e vendido em sites comerciais de abuso sexual infantil na internet”, reforça Susie.
DESAFIO DE REDAÇÃO
Neste ano, os benefícios e malefícios decorrentes do uso cada vez mais comum da Inteligência Artificial podem ser explorado pelos participantes do 18º Desafio de Redação, promovido pelo Diário.
O tema é “O impacto da Inteligência Artificial na vida real” e o concurso literário aceita a participação de estudantes, professores e membros da comunidade.
Os formulários de inscrição podem ser solicitados acessando o link (www.dgabc.com.br/desafioredacao).
Atenção! Os comentários do site são via Facebook. Lembre-se de que o comentário é de inteira responsabilidade do autor e não expressa a opinião do jornal. Comentários que violem a lei, a moral e os bons costumes ou violem direitos de terceiros poderão ser denunciados pelos usuários e sua conta poderá ser banida.