A equipe da OpenAI visa tornar a IA mais democrática

Início / Inteligência Artificial / A equipe da OpenAI visa tornar a IA mais democrática

A equipe da OpenAI visa tornar a IA mais democrática

Uma nova equipa da OpenAI está a trabalhar para garantir que a diversidade de perspetivas e culturas seja melhor representada nos modelos de IA. A equipe de cientistas e engenheiros do Collective Alignment tem a tarefa de desenvolver um sistema para coletar feedback do público e incorporá-lo aos sistemas OpenAI. A equipe trabalhará com consultores externos e equipes de financiamento para lançar pilotos e desenvolver protótipos.

A liderança da OpenAI enfatizou no passado que os limites e objetivos dos sistemas de IA devem ser definidos democraticamente. Até agora, isso tem sido limitado, pois ChatGPT em particular, é fortemente influenciado pelas políticas e crenças políticas da OpenAI. Estudos mostram que chatbot tende a ser classificado como liberal de esquerda.

Primeiros projetos-piloto para democraTIzar a IA

“Insumos democráticos para IA” da OpenAI O programa de financiamento visa envolver o público nas decisões sobre o comportamento da IA ​​para alinhar os modelos com os valores humanos. Desde maio de 2023, a OpenAI concedeu US$ 100.000 cada a dez equipes de todo o mundo para desenvolver ideias e ferramentas para o controle coletivo de sistemas de IA.

Leia mais artigos sobre a OpenAI

Os projetos-piloto iniciais concentram-se em vários aspectos do envolvimento participativo, incluindo “interfaces de deliberação de vídeo, plataformas para auditorias crowdsourced de modelos de IA, formulações matemáticas de garantias de representação e abordagens para mapear crenças em dimensões que podem ser usadas para ajustar o comportamento do modelo”. ”

OpenAI resume as principais conclusões do programa da seguinte forma:

A opinião pública pode mudar frequentemente

Muitas equipas descobriram que a opinião pública muda frequentemente, o que pode afectar a frequência dos processos de recolha de contribuições.

Colmatar a exclusão digital ainda é difícil

O recrutamento de participantes através da exclusão digital e cultural pode exigir investimento adicional em melhores ferramentas e divulgação.

Chegando a um acordo entre grupos polarizados

Pode ser difícil encontrar um compromisso quando um pequeno grupo tem opiniões fortes sobre uma questão específica.

Alcançar consenso versus representar a diversidade

Tentar chegar a um resultado unificado ou a uma decisão de representar um grupo pode criar tensão entre a luta pelo consenso e a representação adequada de opiniões diversas.

Esperanças e medos para o futuro da governança da IA

Alguns participantes expressaram preocupações sobre a utilização da IA ​​na política e apelaram à transparência sobre quando e como a IA é utilizada nos processos democráticos.

Uma visão geral e descrição dos projetos piloto é disponível no site da OpenAI. A empresa também introduziu novas regras de segurança para evitar que humanos utilizem IA para manipular eleições democráticas.

Roberto Magalhães

O cérebro editor por trás do Tecnologico.online, é um entusiasta apaixonado por tecnologia. Canaliza sua fascinação para criar conteúdo envolvente e informativo. Sua dedicação à inovação reflete-se nos artigos que produz, abrangendo uma ampla gama de tópicos tecnológicos. Com um olhar atento para as últimas tendências e desenvolvimentos, busca tornar...

Voltar para o blog

Deixe um comentário

Os comentários precisam ser aprovados antes da publicação.