Em uma iniciativa significativa para regular o uso de inteligência artificial, a China iniciou uma campanha nacional destinada a reprimir o uso indevido desta tecnologia, especialmente em relação à propagação de fake news e conteúdos nocivos. O movimento, liderado pela Administração do Ciberespaço da China (CAC), pretende promover um ambiente digital mais seguro e confiável durante os próximos três a quatro meses.
Objetivos da Campanha
A nova campanha está dividida em duas fases principais. Inicialmente, o foco está na detecção e remoção de conteúdos ilegais gerados por inteligência artificial. Isso inclui a identificação de informações falsas, mídias circuladas ilegalmente e a punição dos responsáveis pela veiculação desses materiais. A segunda fase concentra-se na repreensão do uso de deepfakes, que são frequentemente usados para criar falsificações de identidade.
Detalhes e Implicações
Para garantir o sucesso da campanha, a CAC mobilizou autoridades para verificar falhas de segurança em diversas plataformas e prevenir possíveis ‘envenenamentos de dados’. Isso envolve a análise de inconsistências nos registros de modelos de IA e na regulação inadequada de conteúdos gerados por inteligência artificial.
A meta é suprimir conteúdos violentos, vulgares, ou quaisquer materiais que comprometam a imagem de menores de idade. As plataformas que não conseguirem impedir a proliferação desses conteúdos, mesmo por falhas de segurança, enfrentarão penalizações severas junto aos usuários responsáveis por violações.
Repressão a Práticas Específicas
A campanha chinesa também aborda diretamente práticas como a clonagem ou manipulação de dados biométricos, incluindo voz e características faciais, sem o devido consentimento. A venda de ferramentas ilegais, como sintetizadores de voz e softwares para troca de rosto, está sob a mira das autoridades.
Os sofisticados métodos de deepfake e clonagem de voz com inteligência artificial, caso não devidamente identificados aos usuários, serão rigorosamente controlados. Além disso, o uso da IA para enganar estudantes, pacientes, ou desestabilizar mercados financeiros será outro foco crucial das ações repressivas.
Foco da Segunda Etapa
Na segunda fase, a campanha visa remover conteúdos ilícitos presentes em setores sensíveis como educação, justiça, saúde e finanças. A tecnologia usada para simular a identidade de figuras públicas, com a intenção de enganar ou fraudar, será mais rigorosamente controlada.
Conteúdos gerados por inteligência artificial que prejudiquem direitos de indivíduos falecidos ou personagens históricos também serão alvos. A repressão a estas práticas é parte de um esforço mais amplo de conscientização e segurança que a CAC está buscando implementar.
Conclusão
A campanha da CAC para reprimir o uso indevido da inteligência artificial na China representa um passo considerável na governança digital do país. Ao priorizar a segurança e a integridade das informações, a China demonstra uma postura proativa na criação de um espaço cibernético mais seguro para seus cidadãos. Assim, autoridades esperam assegurar que a tecnologia seja utilizada de forma ética e responsável, prevenindo abusos e promovendo um ambiente virtual mais confiável.
