OpenAI amplia rede de segurança com função que permite intervenções em casos de risco
A OpenAI anunciou nesta quarta-feira (7) o lançamento do "Trusted Contact" (Contato Confiável), uma funcionalidade de segurança diseñada para identificar e responder a situações em que conversas com o ChatGPT possam indicar risco de autolesão. A medida representa a maior expansão do sistema de proteção ao usuário desde a implementação dos avisos de_crisis_resources em 2023, quando a empresa começou a integrar recursos de saúde mental em sua plataforma.
Com mais de 180 milhões de usuários ativos semanais no ChatGPT — segundo dados da própria OpenAI atualizados até janeiro de 2025 — e projeções indicando que o mercado global de IA conversacional atingirá US$ 407 bilhões até 2027, a decisão de fortalecer protocolos de segurança posiciona a empresa como referência em ética de inteligência artificial. A funcionalidade chega em um momento crítico: pesquisas do Pew Research Center indicam que 35% dos jovens americanos entre 18 e 29 anos já utilizaram chatbots de IA para discutir problemas emocionais.
Como Funciona o Sistema de Contato Confiável
O Trusted Contact opera através de um mecanismo de três camadas que integra detecção de linguagem, intervenção proativa e conexão com redes de apoio:
Ativação pelo Usuário: Durante conversas com o ChatGPT, usuários podem designates até três contatos de confiança — amigos, familiares ou profissionais de saúde — que serão notificados caso o sistema identifique indicadores de risco.
Análise Contextual por IA: Modelos como
GPT-4oprocessam o contexto das mensagens, buscando padrões linguísticos associados a estados emocionais críticos, como desesperança, isolamento social ou menções diretas a autolesão.Notificação com Consentimento: Quando o limiar de risco é atingido, o contato designado recebe uma mensagem padronizada com recursos de apoio — como linhas de crise e serviços de emergência — além de um resumo anonimizado da conversa que indicou preocupação.
"Esta funcionalidade não substitui profissionais de saúde mental, mas cria uma rede de segurança que conecta pessoas vulneráveis com suas pessoas de confiança no momento certo", explicou Mira Murati, CTO da OpenAI, em comunicado à imprensa.
Diferentemente de sistemas anteriores que apenas exibiam recursos estáticos na tela, o Trusted Contact permite intervenção humana mediada — um avanço significativo na forma como plataformas de IA lidam com emergências de saúde mental.
Contexto Histórico: A Evolução da Segurança em IA Conversacional
Para compreender a magnitude desta decisão, é necessário retornar a 2022, quando o lançamento do ChatGPT expôs lacunas significativas nos protocolos de segurança de chatbots. Casos documentados incluíram interações onde usuários em estados vulneráveis receberam respostas inadequadas de modelos não modificados para contextos emocionais.
A OpenAI respondeu com uma série de medidas incrementais:
- Março de 2023: Introdução do primeiro sistema de avisos de_crisis_resources, exibindo links para linhas de suicídio e prevenção
- Setembro de 2023: Implementação de detecção de linguagem de autolesão no backend do modelo
- Fevereiro de 2024: Parceria com organizações de saúde mental para treinamento de equipes de moderação
- 2025: Investimento de US$ 50 milhões em pesquisa de segurança e bem-estar digital
O cenário competitivo também impulsionou estas inovações. A Anthropic, criadora do Claude, desenvolveu em 2024 o sistema "Claude Care", que inclui protocolos similares. O Google implementou detectores de risco no Bard, enquanto a Meta integrou recursos de bem-estar ao Llama para mercados emergentes.
Implicações para o Mercado e Relevância na América Latina
A decisão da OpenAI carrega implicações profundas para o ecossistema de IA global, particularmente na América Latina, onde o acesso a serviços de saúde mental permanece limitado.
Panorama Regional
Brasil: Com aproximadamente 45 milhões de usuários deChatGPT (Statista, 2025), o país representa o segundo maior mercado da plataforma na América Latina. A pesquisa "Vozes da Saúde Mental" da AFPR revelou que 68% dos brasileiros nunca tiveram acesso a acompanhamento psicológico.
México: O país registra uma taxa de 13 suicídios por 100 mil habitantes — acima da média global — com aumento de 25% desde 2019, segundo a OMS.
Região: A OPAS (Organização Pan-Americana da Saúde) estima que apenas 15% das pessoas com transtornos mentais na América Latina e Caribe recebem tratamento adequado.
Neste contexto, funcionalidades como o Trusted Contact podem atuar como pontes de acesso a recursos de apoio, especialmente em comunidades onde estigma e escassez de profissionais limitam buscas tradicionais por ajuda.
Impacto Regulatório
A União Europeia, através do AI Act (em vigor desde 2024), exige que sistemas de IA de alto risco — incluindo chatbots com interação humana — implementem medidas de mitigação de riscos. A decisão da OpenAI antecipa possíveis exigências regulatórias em outras jurisdições, incluindo o Marco Civil da Internet brasileiro e a Ley Federal de Protección de Datos Personales mexicana.
"A OpenAI está definindo um novo padrão da indústria. Em 12 a 18 meses, esperamos que funcionalidades similares sejam obrigatórias em todas as plataformas de IA que operam na União Europeia", afirmou Dr. Alejandro Santos, professor de Direito Digital na Universidade de São Paulo.
O Que Esperar: Próximos Passos e Tendências
Curto Prazo (2026)
Expansão de idiomas: O Trusted Contact será disponibilizado em português brasileiro e espanhol mexicano até o terceiro trimestre de 2026, com suporte para dialetos regionais.
Integração com sistemas de emergência: A OpenAI negocia acordos com serviços de emergência na Califórnia, Reino Unido e Brasil para notificação direta em casos de risco iminente.
Testes clínicos: Parcerias com universidades como USP e UNAM para avaliar a eficácia da funcionalidade em populações vulneráveis.
Médio Prazo (2027-2028)
Modelos especializados: Desenvolvimento de versões do GPT otimizadas para contextos terapêuticos, semelhante ao TherapyAI lançado pela startup israelense Fingerprint.
Padronização setorial: Formación de consórcios para estabelecer padrões internacionais de segurança em IA conversacional, seguindo modelo da IEEE.
Regulamentação específica: Possível aprovação de legislações nacionais exigindo funcionalidades de segurança em todas as plataformas de IA com mais de 1 milhão de usuários na América Latina.
O Que Monitorar
- Taxa de utilização: Quantos usuários efetivamente ativam a funcionalidade nos primeiros seis meses
- Casos de sucesso: Documentação de intervenções bem-sucedidas que resultem em busca por ajuda profissional
- Críticas e limitações: Riscos de falsos positivos e potenciais violações de privacidade em regiões com legislação fraca
- Resposta competitiva: Como Google, Anthropic e startups regionais replicarão ou superarão esta abordagem
Conclusão
O lançamento do Trusted Contact pela OpenAI representa mais do que uma funcionalidade isolada — sinaliza uma transformação paradigmática na forma como a indústria de IA enxerga suas responsabilidades com usuários vulneráveis. Com o mercado de IA conversacional em expansão acelerada e as regulamentações ganhando força globalmente, a decisão posiciona a OpenAI na vanguarda de um movimento que poderá redefinir padrões de segurança para toda a indústria.
Para a América Latina, onde aintersecção entre desigualdade social, escassez de serviços de saúde mental e crescente adoção de IA cria um cenário de alta complexidade, a funcionalidade oferece esperança — mas também exige vigilância crítica sobre implementation, privacidade e equidade no acesso.
