OpenAI prepara ChatGPT para as eleições de 2024 nos EUA

Início / Inteligência Artificial / OpenAI prepara ChatGPT para as eleições de 2024 nos EUA
OpenAI prepara ChatGPT para as eleições de 2024 nos EUA

As eleições de 2024 nos EUA estão se aproximando. Alguns dizem que a IA pode desempenhar um grande papel – principalmente na manipulação e na desinformação, por este motivo a OpenAI está se preparando.

A OpenAI deseja evitar o potencial uso indevido de suas ferramentas de IA, especialmente à luz das próximas eleições nos EUA. De acordo com uma postagem no blog, isso inclui “deepfakes”, operações de influência em larga escala e chatbots que imitam candidatos.

A empresa já anunciou diversas medidas de segurança e revisou seus ChatGPT e diretrizes de uso de API para reduzir o risco de abuso.

Começando no início de 2024, DALL-E 3 as imagens serão marcadas com uma marca d’água invisível padrão C2PA. Isso fornecerá criptografia robusta das informações de origem e revelará de forma confiável se uma imagem foi gerada usando a tecnologia OpenAI.

O padrão está sendo conduzido pelo Iniciativa de Autenticidade de Conteúdo (CAI), que inclui players de IA como Adobe e fabricantes de câmeras como Sony, Canon e Leica. O Google revelou sua própria solução para o mesmo problema no ano passado com ID do sintetizador.

A OpenAI também está experimentando um classificador de proveniência, uma nova ferramenta para reconhecer imagens geradas por DALL-E que, segundo a empresa, mostrou resultados promissores em testes internos.

Inicialmente, a ferramenta será disponibilizada para jornalistas, plataformas e pesquisadores para feedback. Esta abordagem cautelosa pode ser inspirada pela experiência: OpenAI teve que encerrar sua ferramenta de classificação de texto em julho de 2023 devido à falta de confiabilidade.

chatgpt exibirá notícias de fontes confiáveis ​​e confiáveis

O ChatGPT estará mais intimamente ligado à cobertura de notícias em tempo real, incluindo fontes e links. Esta transparência deverá ajudar os eleitores a avaliar a informação e a decidir em quem confiar.

Esta manobra também pode ser vista como uma tentativa de direcionar o tráfego de volta para a mídia, com um processo do New York Times ainda iminente. OpenAI assinou seu primeiro contrato com Axel Springer e Associated Press, mas parece que mais parceria estão por vir.

Em sua postagem no blog, a OpenAI explica as restrições específicas à comunicação política via ChatGPT. Por exemplo, a OpenAI não permite o uso para campanhas políticas e lobby.

Houve vários casos no passado em que imagens geradas por IA foram usadas para propagandas, e o texto gerado pelo ChatGPT também pode ser bastante persuasivo. A OpenAI considera a capacidade de persuasão dos sistemas de IA um fator-chave de risco da IA, com CEO da OpenAI, Sam Altman, afirmando que ele espera que a IA seja capaz de persuasão sobre-humana muito antes da inteligência sobre-humana.

A OpenAI proíbe chatbots que se passam por pessoas reais, como candidatos ou instituições. Além disso, a OpenAI proíbe quaisquer aplicações das suas tecnologias que “impedam as pessoas de participar em processos democráticos”.

Através da GPT Store, os usuários podem acessar chatbots de terceiros gratuitamente. Se encontrarem conteúdo ofensivo, poderão denunciá-lo usando um botão dedicado.

Nos EUA, o ChatGPT trabalhará com a Associação Nacional de Secretários de Estado (NASS) para direcionar os usuários ao site de recursos CanIVote.org para determinadas questões relacionadas às eleições. As lições aprendidas com esta colaboração informarão a abordagem da OpenAI em outros países e regiões.

Um ano atrás, OpenAI e parceiros publicaram um artigo descrevendo os riscos sociais potenciais de grandes modelos de linguagem no contexto da desinformação e da propaganda da IA ​​em detalhe. Juntamente com o Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown e o Stanford Internet Observatory, a OpenAI desenvolveu uma estrutura para opções preventivas contra campanhas de desinformação alimentadas por IA.

Roberto Magalhães

O cérebro editor por trás do Tecnologico.online, é um entusiasta apaixonado por tecnologia. Canaliza sua fascinação para criar conteúdo envolvente e informativo. Sua dedicação à inovação reflete-se nos artigos que produz, abrangendo uma ampla gama de tópicos tecnológicos. Com um olhar atento para as últimas tendências e desenvolvimentos, busca tornar...

Voltar para o blog

Deixe um comentário

Os comentários precisam ser aprovados antes da publicação.