Um singapurense diz que ficou traumatizado depois que um ex-colega de escola usou inteligência artificial para gerar fotos falsas de família com ele e seus próprios parentes. As imagens, que a vítima descreveu como profundamente perturbadoras, foram criadas sem seu conhecimento ou consentimento.
Um álbum de família fabricado
O homem, que não foi identificado publicamente, disse à mídia local que um ex-colega de classe criou as imagens geradas por IA e as compartilhou online. As fotos mostravam a vítima como parte de uma unidade familiar com sua própria mãe e outros parentes. A vítima disse que as fotos pareciam uma violação de sua vida privada e relacionamentos pessoais.
Por que isso afetou tanto
O incidente ocorreu em Singapura, um país com leis rigorosas sobre assédio e conduta online. A vítima disse que as imagens falsas lhe causaram sofrimento emocional significativo. Ele denunciou o caso à polícia, que está investigando. Moradores locais e comentaristas online expressaram choque de que ferramentas de IA pudessem ser usadas para fabricar conteúdo tão íntimo e pessoal. Muitos disseram que o caso destacou uma ameaça crescente que vai além do cyberbullying típico.
A vítima disse que não tinha contato com o ex-colega de escola há anos e não fazia ideia de por que foi alvo. As fotos falsas foram supostamente criadas usando software de geração de imagens por IA amplamente disponível. Os familiares da vítima também ficaram angustiados com as imagens.
Este caso em Singapura ressalta como a tecnologia de IA pode ser usada como arma para prejudicar indivíduos de maneiras profundamente pessoais. O sistema jurídico agora está sendo testado para ver se as leis existentes podem lidar com essa nova forma de abuso digital.
