OpenAI descontinua seu detector de texto IA devido à imprecisão

Início / Inteligência Artificial / OpenAI descontinua seu detector de texto IA devido à imprecisão

O detector de texto IA da OpenAI, lançado em janeiro, já ficou para história. A empresa cita a falta de confiabilidade como o motivo — que era conhecido o tempo todo.

Em uma breve atualização do artigo de anúncio original, a OpenAI diz que descontinuou seu classificador de texto IA “devido à sua baixa taxa de precisão”, como escreve a empresa. A empresa diz que está pesquisando métodos mais eficazes para reconhecimento de texto de IA e também está “comprometida” em desenvolver mecanismos de reconhecimento de conteúdo de áudio e imagem.

OpenAI provavelmente está se referindo a um acordo auto-regulatório voluntário assinado pela OpenAI e outras empresas de IA seguir as diretrizes estabelecidas pela Casa Branca. Um dos métodos mencionados é a marca d’água digital. No passado, porém, O fundador da OpenAI, Sm Altana, criticou repetidamente a viabilidade da marca d’água.

AnTI-markeRepsolng falhou?

A questão é porque a OpenAI lançou o detector em primeiro lugar. Mesmo no momento de sua inauguração, a OpenAI estava ciente que o sistema tinha uma baixa taxa de detecção confiável e identificava erroneamente o texto humano como texto de IA nove por cento das vezes nos testes. A empresa foi aberta sobre essas deficiências e afirmou explicitamente que a ferramenta não era adequada para reconhecer redações de alunos, por exemplo.

Então, porque o lançamento — e agora a retração rápida? Talvez a OpenAI quisesse mostrar que seu próprio e outros detectores de IA não funcionam de uma forma correta. Telemarketing contra detectores de IA, por assim dizer.

Os detectores atuais são preocupantes porque sugerem um nível de controle sobre o texto IA que ainda não existe e talvez nunca exista. Isso, ,, dificulta a integração da tecnologia de maneira significativa, por exemplo, na educação, quando instituições de ensino preferem brincar de detetive ao invés de inovar. Na pior das hipóteses, um detector impreciso leva a acusações precipitadas e falsas com sérias consequências educacionais ou profissionais.

Roberto Magalhães

O cérebro editor por trás do Tecnologico.online, é um entusiasta apaixonado por tecnologia. Canaliza sua fascinação para criar conteúdo envolvente e informativo. Sua dedicação à inovação reflete-se nos artigos que produz, abrangendo uma ampla gama de tópicos tecnológicos. Com um olhar atento para as últimas tendências e desenvolvimentos, busca tornar...

Voltar para o blog

Deixe um comentário

Os comentários precisam ser aprovados antes da publicação.