ChatGPT rejeita 250 mil tentativas de criar deepfakes para influenciar eleições nos EUA

Em um movimento significativo contra a desinformação digital, o ChatGPT bloqueou mais de 250 mil tentativas de criar deepfakes envolvendo importantes figuras políticas durante o período eleitoral nos Estados Unidos, demonstrando a eficácia das medidas de segurança implementadas pela OpenAI.

A informação foi divulgada pela própria OpenAI, de inteligência artificial, em um relatório recente, que detalha as ações preventivas tomadas para evitar o uso indevido de sua tecnologia DALL-E, ferramenta de geração de imagens integrada ao ChatGPT.

Entre os políticos protegidos pela medida estavam o Presidente Biden, o Presidente-eleito Trump, a Vice-presidente Harris, o Vice-presidente eleito Vance e o Governador Walz, todos blindados contra tentativas de manipulação de sua imagem através da plataforma.

Leia mais:

• Meta testa clones de influencers que conversam com os usuários
• Professor da PUC desenvolve ferramenta para detectar uso do ChatGPT em trabalhos acadêmicos
• Baidu terá óculos inteligentes para competir com Ray-Ban da Meta

ChatGPT tem estratégias para combater deepfakes

A estratégia faz parte de um conjunto mais amplo de ações implementadas pela OpenAI desde o início do ano, visando garantir a integridade do processo eleitoral americano e combater a proliferação de desinformação.

Como parte dessas iniciativas, a empresa também direcionou aproximadamente 1 milhão de usuários do ChatGPT para o site CanIVote.org quando buscavam informações sobre como votar nos Estados Unidos.

Durante o dia da eleição e no dia seguinte, o chatbot gerou cerca de 2 milhões de respostas, orientando os usuários a consultarem fontes confiáveis como Associated Press e Reuters para obterem resultados oficiais.

A OpenAI também garantiu que o ChatGPT mantivesse uma postura neutra durante todo o processo, evitando expressar preferências políticas ou fazer recomendações de candidatos, mesmo quando questionado diretamente sobre o assunto.

Conteúdo Relacionado

Gigante!

OpenAI arrecada US$ 6,6 bilhões em nova rodada de investimentos

Ainda existem falhas

Apesar do sucesso das medidas implementadas pela OpenAI, o relatório reconhece que outras ferramentas de geração de imagens por IA continuam sendo utilizadas para criar e disseminar deepfakes eleitorais nas redes sociais.

Um exemplo notório foi um vídeo manipulado da Vice-presidente Kamala Harris, onde suas falas foram alteradas para incluir declarações falsas, como “Fui selecionada porque sou a contratação definitiva da diversidade“.

A iniciativa da OpenAI representa um importante precedente no combate à desinformação digital durante períodos eleitorais, estabelecendo novos padrões de responsabilidade para empresas de tecnologia no contexto político.

Conteúdo Relacionado

Tá liberado!

Windows 24H2: Saiba o que muda com a maior atualização do Windows em anos!

Fonte: OpenAI