TECNOLOGIA E DIGNIDADE: DIREITOS HUMANOS NO CONTEXTO DAS DEEPFAKES

Resumo

A inteligência artificial (IA) tem se tornado uma ferramenta cada vez mais relevante. A partir do machine learning, os sistemas de IA podem replicar a atividade inteligente humana de forma mais eficiente, coletando e analisando dados e “aprendendo”, com esses dados, a construir soluções e realizar previsões, dentre outros. Tem-se, portanto, ampla contribuição a diversos campos, como a pesquisa científica, a análise de dados, a tomada de decisão, e a produção e democratização de conhecimento. O uso indiscriminado da IA faz emergir, no entanto, relevante preocupação, em especial quanto aos riscos aos direitos humanos. Isso porque somando-se a capacidade de aprendizado e a capacidade generativa da IA, vislumbra-se a possibilidade de replicar e alterar vozes e imagens, criando conteúdos falsos hiper realistas, as denominadas deepfakes. Esses conteúdos, que podem ser imagens, áudios ou vídeos, podem ser utilizados para a disseminação de informações inverídicas, para a prática de crimes e fraudes e até mesmo de modo a violar os direitos da personalidade e a dignidade dos indivíduos. Nesse contexto, a partir de pesquisa bibliográfica e documental, busca-se analisar os riscos do uso de deepfakes para os direitos humanos com o fim de propor estratégias voltadas à mitigação de seus efeitos nocivos.