Nas últimas décadas, os espaços onde crianças e adolescentes vivem, brincam e se desenvolvem vêm passando por mudanças profundas. No Brasil, por exemplo, nove em cada dez crianças e adolescentes de 9 a 17 anos são usuários de Internet, conforme a última pesquisa Tic Kids Online, promovida pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br).

Hoje, as interações, comunicações e o consumo de entretenimento são amplamente mediadas por produtos e serviços digitais. Esses, por sua vez, aplicam com frequência técnicas sofisticadas de inteligência artificial e análise de dados para selecionar informações, adaptar a experiência ao usuário e aumentar tanto a interação quanto o tempo que passam conectados, muitas vezes visando à exploração comercial infantojuvenil ínsita ao modelo de negócios das redes sociais, pautado na publicidade digital e no avanço de práticas vigilantistas. Assim, convertem os dados coletados de crianças e adolescentes em importantes ativos comerciais, em detrimento do estímulo ao pleno desenvolvimento e autonomia desse grupo hipervulnerável de indivíduos.

Se, por um lado, é certo que o acesso a tecnologias e ao ambiente digital pode oportunizar a efetivação de direitos de crianças e adolescentes – e por isso dizemos que é preciso «proteger as crianças na internet e não da internet» -, por outro, essas oportunidades, assim como no mundo offline, não são igualmente distribuídas a todas as crianças e a todos os adolescentes. Ainda há, no Brasil e em toda a América Latina, um percentual considerável de pessoas que estão desconectadas ou sem a garantia de conectividade significativa, especialmente quando considerados aspectos relacionados à região geográfica e à renda familiar. O acesso exclusivo pelo celular e a disseminação do modelo de pacotes de Internet limitados também restringem as oportunidades de participação no ambiente digital, privilegiando o acesso a poucas plataformas, como de redes sociais ou serviços de mensageria. 

Nesse bojo, é ampla a gama de altos riscos a crianças e adolescentes no ambiente digital, que incluem termos de uso injustos ou incompreensíveis, utilização de ferramentas que visam induzir seu poder de decisão com técnicas de design manipulativo, perfilamento comercial para direcionamento de publicidade segmentada, sistemas de recomendação capazes de induzir comportamentos e superexposição a processos automatizados que buscam o engajamento constante do usuário.

Ainda, grupos vulneráveis são mais desproporcionalmente afetados pelos riscos, em razão de situações interseccionais de vulnerabilidades que enfrentam: cresce exponencialmente o número de casos de imagens geradas por IA que possibilitam a produção de imagens de nudez de crianças e adolescentes e que impactam, principalmente, meninas e mulheres – que também são os principais alvos de discurso de ódio nas redes e nas comunidades de jogos. Já os diversos casos de racismo algorítmico afetam amplamente os direitos de meninas e meninos negros ao reproduzir o racismo estrutural. 

A responsabilidade prioritária com a garantia dos direitos humanos de crianças e adolescentes tem sido negligenciada pela maioria das plataformas digitais, em sentido oposto ao que preconiza o artigo 227 da Constituição Federal brasileira, pela qual firmou-se um amplo pacto social de responsabilidade compartilhada que define que toda sociedade, incluindo as empresas, deve atuar ativamente para favorecer o desenvolvimento desse grupo social hipervulnerável.

Por isso, é preciso que se assuma que fornecedores de produtos e serviços de tecnologia da informação possuem responsabilidade pela prevenção e mitigação de violações e pela promoção de direitos e do melhor interesse de crianças e adolescentes, em todas as regiões onde atuam.

Apenas sete empresas respondem por dois terços do total do valor de mercado das maiores companhias do setor de tecnologia, concentradas predominantemente nos Estados Unidos. Os grandes atores privados, que dominam os mercados digitais, tendem a priorizar as necessidades de países do Norte, que já possuem regulações mais protetivas. Isso se reflete em pesquisas que apontam Termos de Uso menos protetivos no Brasil em relação a esses países, com menor nível de investimento em proteção e em moderação de conteúdos na língua portuguesa, bem como no lançamento atrasado de recursos e funcionalidades de segurança no território nacional.

Ainda mais grave é pensar que essas empresas sabem tudo sobre nós e sobre nossas crianças e adolescentes, mas nós sabemos tão pouco sobre elas. O elemento da soberania, portanto, também deve ser considerado nesse contexto. Se 75% das crianças do planeta vivem no Sul Global, a necessidade de considerar suas especificidades em espaços de tomada de decisão precisa ser amplificada.

Ante a esse cenário, há debates legislativos e normativos em curso no Brasil que partem da premissa de que, se intermediários digitais não são agentes neutros – mas que privilegiam a circulação de determinados conteúdos sobre outros e são desenhados de forma a poder prejudicar o direito fundamental à liberdade de pensamento, de consciência e de ação de  crianças e adolescentes – , é preciso uma postura ativa por parte dos Estados na regulação e na exigência de uma série de deveres pela iniciativa privada, incluindo deveres de transparência sobre suas atividades quanto aos impactos dessas tecnologias sobre os direitos humanos dessa população.

Ness sentido, tanto no Projeto de Lei 2628/2022, em debate no Senado Federal brasileiro, quanto na Resolução 245 do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda), estão previstas ações de proteção e promoção de direitos que devem ser atreladas à responsabilidade das empresas pela garantia de segurança e de saúde no fornecimento de produtos e serviços digitais, desde a sua concepção e em todas as etapas de uso. Devem ainda obedecer às regras da Constituição Federal de 1988, do Código de Defesa do Consumidor, do Estatuto da Criança e do Adolescente e do Comentário Geral 25 da ONU sobre direitos da criança em relação ao ambiente digital, que além de estabelecer diretrizes para os Estados-Partes quanto ao respeito absoluto dos direitos humanos e melhor interesse de crianças e adolescentes na interação com tecnologias digitais, também reconhece que o setor empresarial afeta os direitos desse grupo social no ambiente digital.

É, portanto, passada a hora de construirmos juntos um ambiente digital que priorize as crianças e os adolescentes do Sul Global, colocando-os no centro das discussões e não permitindo que fiquem para trás no estabelecimento de uma internet segura e protetora. Eles têm o direito de estar tão protegidos no ambiente online quanto as crianças e adolescentes europeus, americanos e de outros países já estão. Não se trata apenas de um  imperativo constitucional, mas um dever moral que nós, adultos, devemos cumprir.