A Meta anunciou uma nova camada de proteção para o Meta AI: pais poderão ser avisados quando conversas de adolescentes com a inteligência artificial indicarem possíveis sinais de suicídio ou automutilação. O recurso será disponibilizado para pais que utilizam as ferramentas de supervisão do Instagram.
Recurso de Alerta
O recurso será disponibilizado para pais que utilizam as ferramentas de supervisão do Instagram. Quando o Meta AI identificar uma conversa que sugira possível risco, os responsáveis poderão receber uma notificação acompanhada de orientações de especialistas. Alertas serão enviados após análise das conversas.
Como Funciona
A medida tenta equilibrar dois pontos sensíveis: preservar a privacidade dos jovens e permitir que familiares recebam informações para oferecer ajuda em situações de risco. O sistema foi criado para identificar referências diretas e sinais mais discretos de sofrimento emocional. Antes que qualquer alerta seja enviado, as conversas marcadas pela inteligência artificial passarão por uma revisão manual.
Casos que Geralmente Indicam Alerta
Os casos que podem gerar alertas incluem comentários diretos ou indiretos sobre vontade de se machucar, conversas relacionadas a sofrimento emocional intenso, sinais identificados pelo sistema desenvolvido pela Meta e situações em que o adolescente possa precisar de apoio fora do ambiente digital.
Aumento da Proteção
Além dos avisos aos familiares, a Meta desenvolve uma ferramenta capaz de acionar serviços de emergência quando uma conversa com o Meta AI indicar risco imediato de suicídio, seja envolvendo adolescentes ou adultos. A iniciativa segue uma estratégia semelhante à já aplicada em Facebook e Instagram.
Regras Mais Rígidas para Adolescentes
As contas de adolescentes já utilizam automaticamente uma configuração de conteúdo voltada para usuários com 13 anos ou mais. Nesse modo, o Meta AI evita participar de conversas sexuais ou românticas e não fornece conteúdos como receitas de bebidas alcoólicas. O modo “Conteúdo Limitado” passará a afetar as conversas com o assistente de IA, permitindo que pais reduzam ainda mais os tipos de interação disponíveis para adolescentes.
Conclusão
A Meta destaca que o recurso não substitui acompanhamento profissional nem o diálogo entre pais e filhos. A proposta é ajudar responsáveis a perceber sinais que poderiam passar despercebidos. A empresa prevê ampliar o recurso para outros países até o fim do ano.