Imagine um adolescente que, ao se sentir sozinho, abre um aplicativo e encontra alguém sempre disponível para ouvir e validar. Sem julgamento, sem impaciência, sem limites. O problema é que esse “alguém” é uma IA projetada para maximizar engajamento. E o adolescente não sabe onde termina o suporte e começa a dependência.
Esse não é um cenário hipotético. É o que está acontecendo agora, em escala.
Uma pesquisa do RAND, publicada em novembro de 2025, revelou que cerca de 1 em cada 8 jovens americanos entre 12 e 21 anos já usa chatbots de IA para aconselhamento de saúde mental. Mais de 93% consideram os conselhos recebidos úteis.
Esses números dizem duas coisas ao mesmo tempo: esses sistemas preenchem uma lacuna real de acesso e de custo, e milhões de jovens estão sendo orientados emocionalmente por sistemas sem responsabilidade definida sobre o que acontece quando algo dá errado.
E há muito dando errado.
O problema não está só no uso excessivo, está na ausência de controles. É nesse contexto que reguladores ao redor do mundo passaram da discussão para a ação.
Em abril de 2026, o regulador de ciberespaço da China publicou regras para supervisionar o desenvolvimento de humanos digitais online. As medidas exigem rotulagem clara, proíbem serviços que possam alimentar comportamentos viciantes em menores e determinam que provedores intervenham quando usuários apresentem sinais de crise emocional.
O movimento não é isolado: um mês antes, o país havia lançado um novo plano quinquenal com ambições declaradas de adotar IA de forma ampla em toda a economia, combinando expansão acelerada com governança mais rígida para garantir segurança e alinhamento com os valores nacionais.
O próprio regulador foi direto: “A governança de humanos digitais virtuais deixou de ser apenas uma questão de normas setoriais. Tornou-se um problema científico estratégico que envolve a segurança do ciberespaço, os interesses públicos e o desenvolvimento de qualidade da economia digital.”
Na Europa, o movimento é mais abrangente e com consequências diretas para empresas brasileiras. O AI Act europeu passou da teoria para a prática: suas obrigações para sistemas de alto risco entram em vigor em agosto de 2026.
O ponto crítico para empresas brasileiras é o alcance da regulação. Qualquer organização precisa cumprir o AI Act se seus sistemas afetarem residentes europeus, independentemente de onde os modelos rodam. Isso inclui IA usada em seleção de pessoas, análise de crédito ou atendimento automatizado. O descumprimento pode custar até 7% do faturamento global anual.
Muitas empresas brasileiras já estão nesse escopo sem saber.
Os casos de adolescentes que desenvolveram dependência emocional por chatbots não resultaram de sistemas programados para causar dano. Resultaram de sistemas projetados sem controles adequados para situações de vulnerabilidade.
Governança é o mecanismo que fecha essa lacuna.
A ISO 42001 estrutura o que as empresas precisam ter documentado e funcionando: gestão de riscos dos sistemas de IA, supervisão humana sobre decisões automatizadas, rastreabilidade ao longo do ciclo de vida e controle sobre fornecedores terceirizados. São exatamente esses elementos que o AI Act vai exigir como evidência de conformidade.
Para empresas brasileiras que atendem ou pretendem atender clientes europeus, isso significa que implementar a ISO 42001 agora não é uma tendência. É chegar preparado a uma exigência que já tem data marcada.
O prazo de agosto de 2026 não é uma data futura. Para quem ainda não começou, é agora.
Leia também:
A Promove tem mais de 17 anos de experiência em melhoria de processos e apoia organizações na implementação de ISO 42001 e adequação à LGPD. Se sua empresa usa IA e ainda não estruturou a governança, esse é o momento. Fale com nossos especialistas.
Se o tema faz sentido para você, acompanhe nosso Linkedin para receber mais conteúdos como esse.
CMMI AIM (Artificial Intelligence Maturity) é o framework do...
Em 11 de março de 2026, Vasilios Syrakis recebeu o e-mail que muitos engenheiros sênior têm recebido: oito anos na Atlassian, infraestru...
Seja o primeiro a comentar!