Da redação de LexLegal

A Inteligência Artificial (IA) está transformando a experiência digital, mas especialistas alertam sobre os riscos significativos que ela representa para a saúde mental de crianças e adolescentes. Um estudo publicado na revista The Lancet aponta que, assim como aconteceu com as redes sociais, a IA pode causar danos irreversíveis antes que suas implicações sejam totalmente compreendidas. A pesquisa destaca, ainda, que um em cada 12 menores no mundo é vítima de abuso ou exploração sexual online anualmente, reforçando a urgência de regulamentações e medidas de proteção.

Karen L. Mansfield, psicóloga pesquisadora da Universidade de Oxford, adverte sobre a possibilidade de a sociedade repetir erros do passado. “Se não aprendermos com as experiências passadas, é possível que nos encontremos em uma situação semelhante dentro de dez anos (…), absorvidos por outro ciclo de pânico midiático e sem garantir que a IA seja segura e benéfica para crianças e adolescentes”, diz.

Entre os riscos destacados no estudo estão as funcionalidades “semelhantes às humanas” da IA, como agentes interativos e a criação de imagens e vídeos falsos (deepfakes), que podem ser indistinguíveis de conteúdos reais. Essas práticas, segundo Mansfield, influenciam emoções e comportamentos, aumentando a vulnerabilidade de crianças e adolescentes.

“A IA pode produzir sistemas de recomendação de conteúdo e ferramentas de diagnóstico para depressão, ansiedade ou transtornos alimentares, mas essas ferramentas estão sendo cada vez mais utilizadas para autodiagnósticos. Isso pode ter impactos profundos e negativos na saúde mental”, afirma a pesquisadora.

Um relato de experiência direta

Jorge B., conhecido como @NoobInTheNet, começou a explorar a internet aos 12 anos, sempre sob supervisão dos pais e orientação de especialistas em cibersegurança. Hoje, aos 21 anos, trabalha na área de tecnologia de uma multinacional de seguros. Ele relata que os maiores perigos da internet e da IA estão, muitas vezes, acessíveis na superfície.

“O pior que você pode encontrar na internet não está em uma rede profunda e difícil de localizar. A melhor forma de esconder algo é deixar à vista de todos”, explica Jorge. Ele alerta que crianças e adolescentes, sem maturidade ou experiência tecnológica, são os mais vulneráveis a esses riscos.

Entre os perigos mais comuns, Jorge menciona a prática de roubo de identidade com conteúdos falsos, frequentemente direcionada a meninas e jovens.

A visão de especialistas

Marc Rivero, pesquisador sênior de segurança da Kaspersky, reforça os alertas sobre os impactos da IA. “A inteligência artificial está transformando a experiência digital de crianças e adolescentes, mas também pode ter um impacto negativo em sua saúde mental e emocional. Ao personalizar os conteúdos e sugerir interações, a IA pode expô-los a materiais inadequados ou grupos online que promovem atividades ilegais”, afirma Rivero.

Segundo ele, essas influências podem aumentar a ansiedade, o isolamento ou levar a comportamentos de risco no ambiente digital. “É essencial proteger os menores por meio da educação digital precoce, ferramentas de supervisão, como controles parentais, e um diálogo aberto com as crianças para ensiná-las a navegar de forma segura e responsável”, conclui.

Os dados e o cenário global

De acordo com o relatório Estar Online: Crianças e Pais na Internet, da Kaspersky, quase metade das crianças na Espanha (47%) tem acesso à tecnologia antes dos sete anos de idade. No entanto, 24,5% dos pais nunca discutem os perigos do ambiente digital com seus filhos, e 75% reconhecem que seus filhos não têm noções suficientes para um uso seguro da internet.

Esses números refletem uma realidade global preocupante. O estudo liderado por Deborah Fry, professora da Universidade de Edimburgo, aponta que um em cada 12 menores é vítima de exploração sexual online anualmente. Fry destaca que os avanços da IA, combinados com décadas de pesquisa, estão criando formas mais sofisticadas e complexas de interação digital que aumentam os riscos para jovens.

“As tecnologias emergentes mudam constantemente a maneira como os jovens interagem com o mundo digital. Muitos especialistas preveem que a IA semelhante à humana se tornará comum nesta década”, afirma Fry.

Soluções e desafios regulatórios

Os especialistas concordam que formação, informação e pesquisa são as chaves para proteger os jovens. No entanto, Fry critica medidas como limites de tempo de uso ou restrições de idade para aplicativos, que, segundo ela, deslocam a responsabilidade para os pais em vez de regulamentar conteúdos prejudiciais.

“Os limites de tempo [de navegação] e de idade [para acesso a aplicativos] não resolvem o problema. É necessário focar na regulação de conteúdos nocivos e não sobrecarregar os pais com essa responsabilidade”, explica Fry.

Outro desafio é a falta de dados homogêneos e critérios unificados sobre abusos e crimes sexuais online. Sem isso, as medidas globais de enfrentamento ao problema tornam-se inconsistentes.

O avanço da Inteligência Artificial traz oportunidades, mas também exige atenção redobrada quanto aos impactos na saúde mental e na segurança de crianças e adolescentes. Como destacam os especialistas, educar e capacitar os jovens, além de implementar regulamentações eficazes, são passos essenciais para evitar que erros do passado se repitam e garantir um ambiente digital mais seguro para todos.