OpenAI reforça as salvaguardas do ChatGPT para cuidar da saúde mental dos utilizadores
A capacidade dos modelos de inteligência artificial de serem próximos e perspicazes abre oportunidades, mas também exige cautela, uma vez que muitas pessoas os utilizam como ajuda em questões pessoais. É por isso que a OpenAI anunciou um conjunto de medidas para que o ChatGPT gerencie melhor as consultas relacionadas ao bem-estar psicológico e decisões pessoais delicadas. A empresa reconhece que, em situações pontuais, o seu modelo 4o não detetou adequadamente sinais de delírio ou dependência emocional e ressalta que está a aperfeiçoar os seus algoritmos para identificar essas circunstâncias e direcionar o utilizador para recursos baseados em evidências científicas. Entre as novidades, que a OpenAI já começou a implementar no chatbot, os utilizadores receberão lembretes suaves quando uma sessão de conversa se prolongar excessivamente, com o objetivo de incentivar pausas regulares e manter o controlo do tempo que passam a interagir com a ferramenta. Este ajuste será calibrado progressivamente para que seja útil sem interromper a experiência. Outra modificação afetará consultas de alto risco emocional, como a clássica dúvida sentimental sobre se deve terminar um relacionamento. Nessas situações, o sistema evitará emitir um veredicto; em vez disso, convidará o interlocutor a refletir por meio de perguntas, a ponderar vantagens e desvantagens e, quando apropriado, encaminhará o utilizador para ajuda profissional. Esse comportamento será implementado nas próximas semanas. Feito em colaboração com a comunidade médica e académica Para implementar estas alterações, a OpenAI trabalhou com mais de 90 médicos de mais de 30 países — incluindo psiquiatras, pediatras e médicos de família — que contribuíram para conceber rubricas específicas para avaliar conversas complexas e prolongadas. Além disso, investigadores em interação pessoa-computador e profissionais clínicos externos revisaram os métodos de deteção de comportamentos preocupantes e testaram as novas salvaguardas. A empresa também convocou um grupo consultivo permanente formado por especialistas em saúde mental, desenvolvimento juvenil e interação homem-máquina, encarregado de supervisionar a evolução do produto e garantir a alinhamento com as melhores práticas atuais. A OpenAI afirma que continuará a publicar informações à medida que este trabalho avançar. Olhando para o futuro, a empresa mantém o objetivo de que qualquer utilizador que recorra ao ChatGPT num momento difícil obtenha ajuda que tranquilize os seus familiares e amigos. O compromisso, sublinha a OpenAI, passa por ajustar continuamente os modelos com base na utilização real e nas evidências científicas disponíveis.