O mundo descobre os riscos de privacidade do ChatGPT, alguns dos quais são funcionais. Eles podem ser eliminados? OpenAI faz as primeiras concessões.
Um ponto diz respeito à privacidade, que tem sido criticado pelas autoridades europeias de proteção de dados. Por um lado, os dados de treinamento podem conter informações pessoais e, por outro lado, as pessoas inserem informações pessoais no ChatGPT interface ao criar documentos pessoais, como e-mails.
OpenAI visa remover dados privados “quando possível”
A OpenAI agora reconhece que os dados de treinamento contêm informações pessoais da Internet pública. Mas os modelos devem aprender sobre o mundo, não sobre os indivíduos. A OpenAI não vende serviços, anuncia ou cria perfis de personalidade com base nos dados, disse o comunicado.
Pelo menos o primeiro ponto é discutível, já que o ChatGPT funciona indiretamente com base em informações pessoais e é vendido pela OpenAI como um serviço com uma taxa de uso mensal. OpenAI aponta em seu próprio política de Privacidade que os dados pessoais inseridos também podem ser usados para desenvolver seus próprios serviços.
“Usamos dados para tornar nossos modelos mais úteis para as pessoas. O ChatGPT, por exemplo, melhora com treinamento adicional sobre as conversas que as pessoas têm com ele”, escreve OpenAI.
No futuro, a OpenAI pretende remover dados pessoais do conjunto de dados de treinamento “quando viável”. Ele também quer alinhar os modelos para que eles possam rejeitar consultas sobre indivíduos e permitir que os usuários tenham seus dados pessoais excluídos dos “sistemas” da OpenAI a pedido do modelo. Essas etapas minimizaram a possibilidade de modelos gerarem respostas que contenham dados pessoais sobre os indivíduos.
A conta OpenAI obtém verificação de idade e padrões de segurança individuais em modelos
Outra crítica da DPA italiana é a falta de verificação de idade na criação da conta do ChatGPT, que permite o acesso de menores de 13 anos ao serviço. A OpenAI está atualmente “investigando” as tecnologias de verificação, de acordo com o comunicado.
Em seus termos de serviço, a OpenAI afirma que a idade mínima para uso é 18 anos ou 13 anos ou mais com permissão dos pais. Sem restrições de acesso, no entanto, essa medida é ineficaz – e como o ChatGPT é uma excelente ferramenta de lição de casa, as crianças em particular provavelmente serão atraídas para o serviço.
A OpenAI diz que fez “esforços significativos” para garantir que seus modelos não produzam conteúdo prejudicial às crianças e está trabalhando com a organização sem fins lucrativos Khan Academy em um assistente de sala de aula de IA para ajudar alunos e professores. No futuro, os desenvolvedores poderão implementar padrões de segurança ainda mais altos do que os fornecidos pela OpenAI por padrão.
