18/06/2024
Contribuição enviada à ONU destaca três temas: violência sexual e inteligência artificial, não-discriminação e dever de cuidado
Assegurar a criação e a manutenção de políticas públicas e leis que protejam e assegurem os direitos de crianças e adolescentes é uma tarefa coletiva. Indivíduos, famílias, sociedade, setores público e privado devem agir de forma contínua para que o melhor interesse de crianças e adolescentes seja garantido, não apenas no ambiente offline, mas também dentro da Internet, considerando os novos desafios que o avanço tecnológico traz para o cotidiano.
Com tópicos que mostram como a proteção da criança em ambientes digitais é uma responsabilidade de todos – em especial de empresas e Estado –, o Instituto Alana, em parceria com a Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes, enviou uma contribuição à chamada emitida pela Relatoria Especial sobre Venda e Exploração Sexual de Crianças do Alto Comissariado da Organização das Nações Unidas (ONU) para Direitos Humanos, com o objetivo de informar o próximo relatório do Relator Especial para a 79ª sessão da Assembleia Geral da ONU, em outubro de 2024.
Com ênfase no combate à exploração sexual infantil, a contribuição destaca três temas: violência sexual e inteligência artificial, não-discriminação e dever de cuidado.
Violência sexual e inteligência artificial
Conforme relatório divulgado pela SaferNet Brasil, houve um aumento, de 2022 para 2023, de 77% no volume de denúncias envolvendo imagens de abuso e exploração infantil. Pode-se considerar que o aumento no número de casos que envolvem imagens está relacionado à popularização do uso de ferramentas de inteligência artificial (IA), já que, segundo monitoramento realizado pela ONG britânica Internet Watch Foundation, mais de 20 mil imagens de crianças foram produzidas por IAs no período de um mês.
A contribuição destaca que iniciativas educacionais devem fornecer recursos e orientação para ajudar crianças, adolescentes e suas famílias a navegarem com segurança em ambientes digitais. Tópicos como privacidade online, cibersegurança e comportamento responsável na Internet, quando incluídos em programas educativos, podem capacitar crianças e adolescentes a reconhecerem e responderem às ameaças on-line.
E no Brasil?
No Brasil, legislações estão sendo atualizadas para abordar essas questões, enquanto a promoção da alfabetização digital e a conscientização sobre os riscos online são cruciais para proteger as crianças no ambiente digital. O Estatuto da Criança e do Adolescente (ECA) já considerava crime as atividades relacionadas à produção, posse, divulgação e consumo desse tipo de conteúdo antes mesmo dos avanços da IAs, com penas que variam de um a oito anos de prisão. Um projeto de lei aprovado na Câmara dos Deputados, em regime de urgência, traz alterações no Código Penal e no ECA, ao proibir a criação de imagens de mulheres nuas utilizando tecnologia. A pena varia de dois a quatro anos, e é agravada quando a vítima é criança ou adolescente.
Princípio da não-discriminação
A contribuição destaca como a atuação das plataformas tem um histórico de discriminação voltado para crianças do Sul Global. Um relatório da Fairplay mostrou que políticas e acordos de utilização da Meta protegiam menos as crianças em países do Sul Global em comparação com o Norte Global.
A discriminação se dá em fatores como a moderação de conteúdos perigosos ou ilegais ser distinta a depender do país, ou no menor suporte para países que não têm o inglês como idioma oficial. Um exemplo é a utilização do Discord no Brasil: sem moderação, a ferramenta passou a ser amplamente utilizada em práticas criminosas que envolvem exploração sexual infantil e aumento da violência nas escolas. Apesar do país ser o segundo maior mercado utilizador da plataforma, não há presença operacional dela aqui.
Como o combate à discriminação pode atravessar fronteiras?
Das iniciativas que já existem voltadas a construção de ambientes digitais seguros a nível mundial, a contribuição cita a “Global Online Safety Regulators Network”, que busca desenvolver uma abordagem global voltada à segurança on-line e cooperação entre países; o projeto de diretrizes da UNESCO sobre a regulamentação das plataformas digitais, que recomenda padrões mínimos sugeridos para empresas e organizações engajadas com segurança e proteção de jovens no ambiente digital; e a Convenção de Budapeste, aderida pelo Brasil em 2023 no intuito de facilitar a cooperação internacional no combate ao crime cibernético.
Outras medidas de combate à exploração sexual infantil on-line descritas na contribuição, a nível global, são:
- Incorporação de medidas regulatórias claras e construtivas em relação às empresas de tecnologia, a fim de capacitar as organizações reguladoras com instrumentos de mitigação adequados;
- Implementação e avaliação de políticas capazes de tornar a Internet um espaço mais seguro para crianças e adolescentes;
- Desenvolvimento de políticas com foco no fortalecimento dos países do Sul Global, reforçando o financiamento e investimento em forças de investigação, a fim de facilitar a partilha de conhecimento e tecnologia;
- Fornecimento de equipamentos de apoio emocional e saúde, a fim de garantir o apoio necessário a crianças e adolescentes vítimas e sobreviventes da exploração sexual, além de formação em saúde e cuidados que capacite profissionais em questões relacionadas à violência infantil no ambiente digital;
- Fortalecimento do multissetorialismo, para que conhecimentos, boas práticas e diretrizes de design possam ser aplicados em diferentes países.
- Além disso, a necessidade de colaboração internacional é enfatizada, juntamente com o fortalecimento de práticas globais de segurança online e a inclusão das vozes das crianças e adolescentes nos processos de governança.
Responsabilidade das plataformas e dever de cuidado
Crianças e adolescentes representam um terço dos usuários de internet no mundo – só no Brasil, 95% das crianças e adolescentes de 9 a 17 anos acessam a internet. Porém, a segurança integral no acesso ainda é uma realidade distante: segundo a Safernet, foram recebidas 54.840 denúncias de abuso e exploração sexual infantil entre janeiro e setembro de 2023, contra 29.809 no mesmo período em 2022.
O dever de cuidado reforça que, se as plataformas digitais são o local onde acontecem uma série de violações aos direitos das crianças, logo, elas também são responsáveis em prevenir todas as formas de exploração desse grupo e proteger os dados pessoais presentes em seus domínios. A contribuição destaca que é essencial abordar não apenas o dever de cuidado das empresas e plataformas digitais na perspectiva dos direitos das crianças e adolescentes, mas também a responsabilidade dos Estados em orientar e comunicar à sociedade sobre questões como proteção de dados, educação midiática e segurança na utilização da Internet.
Referências sobre a responsabilidade das empresas e Estado referente às crianças e adolescentes no ambiente digital:
- Artigo 3º da Convenção sobre os Direitos da Criança da ONU estabelece que as instituições públicas e privadas devem considerar o interesse superior da criança nas suas ações.
- Comentário Geral n.º 16 dispõe obrigações do Estado em relação ao impacto do setor empresarial nos direitos da criança;
- Comentário Geral n.º 25 esclarece orientações sobre as medidas que devem ser adotadas para garantir a plena implementação das obrigações impostas pela Convenção sobre os Direitos da Criança, em relação aos riscos e desafios no ambiente digital.
No Brasil, a responsabilidade compartilhada do cuidado de crianças e adolescentes entre Estado, família e sociedade é prevista no Artigo 227 da Constituição Federal Brasileira. A contribuição também menciona a Lei Geral de Proteção de Dados Pessoais e a Resolução 245 do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda), que procura reforçar o dever das plataformas digitais de atuarem com transparência e diligência, para que busquem sempre o melhor interesse de crianças e adolescentes em seus modelos de negócio.
Leia a contribuição na íntegra (em inglês).
