Tecnologia desenvolvida pela USP USA IA para identificar riscos e conteúdos digitais acessados ​​por crianças e adolescentes – Jornal da USP

.
O uso de telas por crianças e adolescentes já faz parte da rotina das famílias brasileiras e os números mostram a dimensão desse cenário. Segundo a pesquisa TIC Kids Online Brasil 202592% das crianças e adolescentes entre 9 e 17 anos utilizam a internet no país, enquanto 28% têm o primeiro contato com uma rede antes dos seis anos de idade. O levantamento também aponta que um em cada cinco jovens entre 11 e 17 anos já recebeu mensagem ou conteúdo de cuidador sexual online, evidenciando os desafios relacionados à segurança e ao amor digital na infância e adolescência.

Diante desse cenário, um Embrapii ICMC-USPunidade da Empresa Brasileira de Pesquisa e Inovação Industrial (Embrapii) integrada ao Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, junto à startup Infanta, desenvolveram uma nova tecnologia baseada em inteligência artificial capaz de analisar conteúdos textuais produzidos e consumidos pelo público em ambientes digitais. O objetivo do projeto é ajudar as famílias a identificar sinais de risco e comportamentos preocupantes no ambiente virtual, oferecendo um suporte mais inteligente, preventivo e contextual para o monitoramento. O aplicativo, denominado Infantia Online, está disponível para download gratuito neste link.

A iniciativa utiliza grandes modelos linguísticos (Large Language Models – LLMs) para compreender padrões e contextos linguísticos relacionados ao comportamento online de crianças e adolescentes. O projeto é coordenado pelo professor Luís Gustavo Nonato, professor e pesquisador do ICMC reconhecido internacionalmente por sua atuação em ciência de dados, visualização de informação e inteligência computacional.

“Neste projeto, nosso foco é incorporar técnicas avançadas de análise de dados e inteligência artificial e o desenvolvimento de um aplicativo capaz de melhorar a identificação de sinais e comportamentos relevantes na rotina digital de crianças e adolescentes, oferecendo aos responsáveis ​​mais clareza e suporte na tomada de decisões sobre proteção, diálogo e monitoramento digital”, afirma Nonato.

Segundo ele, a tecnologia desenvolvida consiste em um modelo de inteligência artificial especializado em análise de textos, produzidos e consumidos por crianças e adolescentes. O sistema é capaz de identificar temas delicados como bullying, agressão, violência, automutilação, drogas e outros conteúdos nocivos, além de detectar alterações de linguagem, sinais de isolamento, linguagem de alerta e pedidos indiretos de ajuda.

“Os dados analisados ​​são coletados diretamente do dispositivo utilizado pela criança ou adolescente, como smartphones e tablets. Quando o sistema identifica situações potencialmente preocupantes, são gerados alertas para o país ou responsável, permitindo ações preventivas e um monitoramento mais próximo”, explica a pesquisadora.

Na prática, o aplicativo instalado no dispositivo da criança ou adolescente coleta sinais textuais do ambiente digital. Esses dados são anonimizados e processados ​​em ambiente seguro, com auxílio de modelos de inteligência artificial. A partir dessa análise, o aplicativo dos pais ou responsáveis ​​recebe alertas quando uma temácia sensível ou comportamento relevante é identificada.

“Diferente da maioria das soluções existentes no mercado, a metodologia proposta resulta em uma tecnologia capaz de analisar não só o histórico dos links acessados ​​pelos jovens, mas também conteúdos produzidos e consumidos no ambiente virtual, como mensagens e posts enviados ou lidos em redes sociais ou aplicativos de comunicação.”

.
Orientações para o cotidiano das famílias

Uma proposta da startup Infantia surgiu justamente da necessidade de criar ferramentas mais humanas e eficazes para lidar com os desafios digitais enfrentados pelas famílias.

“A proteção infantil digital tornou-se um dos dois grandes desafios das famílias atuais. Crianças e adolescentes crescem rodeados de webs, aplicativos, jogos e redes sociais, muitas vezes expostos a riscos que ainda não têm maturidade para reconhecer. Por outro lado, há mães, países e responsáveis que se preocupam com a segurança de seus filhos, mas sempre conseguem acompanhar tudo o que acontece no ambiente digital. Entre a rotina, há uma sensação de não dedicar tempo suficiente à dificuldade de entender como essas experiências impactam o vida da criança, muitas famílias sentem falta de apoio para cuidar melhor. A Infantia nasceu justamente dessa inquietação: criar uma resposta humana para um desafio digital”, afirma Ricardo Busato, sócio da Infantia.

Segundo ele, a proposta da empresa é utilizar tecnologia e ciência de dados para transformar complexos sinais do ambiente digital em orientações práticas para o dia das famílias. Com apoio de psicólogos e pesquisadores da Universidade Federal do Espírito Santo (Ufes), a solução alia inteligência artificial e sensibilidade humana para interpretar sinais de atenção no universo infantil e juvenil.

.

“Nosso objetivo é ajudar as famílias a proteger crianças e adolescentes sem invadir a privacidade ou romper laços de confiança. A parceria com a Embrapii e o ICMC-USP nos permite unir tecnologia, ciência e responsabilidade social para desenvolver soluções mais inteligentes, humanas e eficazes”, destacou Busato.

Além dos avanços tecnológicos, o projeto também evidencia os benefícios do modelo de inovação promovido pela Embrapii, que aproxima empresas e universidades para acelerar o desenvolvimento de soluções com alto potencial de impacto social e econômico. Entre as vantagens estão o acesso a uma infraestrutura científica de excelência, conexão com pesquisadores especializados, compartilhamento de riscos tecnológicos e maior agilidade e desenvolvimento de produtos inovadores.

O projeto reforça o papel da inovação aplicada como ferramenta estratégica para enfrentar os desafios contemporâneos relacionados à infância e adolescência e ao ambiente digital, aproximando a ciência, a tecnologia e a sociedade de cada novo tema.

Para baixar o aplicativo Infantia Online Clique aqui.

.

Texto: Raquel Vieira, Assessora de Imprensa do Escritório de Grandes Projetos e CEPIx do ICMC-USP