ChatGPT é bloqueado pela OpenAI após China usar ferramenta para vigilância nas redes

A OpenAI anunciou que baniu contas de usuários na China que utilizavam o ChatGPT para editar código de um sistema de vigilância em redes sociais. A ferramenta monitorava postagens no X, Facebook, YouTube e Instagram em busca de conteúdos críticos ao governo chinês.

A empresa explicou que os operadores usavam o ChatGPT para gerar argumentos de vendas do programa, revisar relatórios e garantir que informações fossem enviadas a autoridades chinesas. O sistema teria sido usado para identificar chamados para protestos contra violações de direitos humanos no país.

Segundo a OpenAI, a rede de contas operava em horários comerciais da China e fazia solicitações ao ChatGPT em chinês. A atividade era consistente com uso manual, não automatizado, o que ajudou a identificar o padrão suspeito.

Além de editar código, o grupo usava a IA para revisar documentos que alegavam ter enviado dados para embaixadas chinesas e agentes de inteligência monitorando manifestações nos EUA, Alemanha e Reino Unido.

Leia mais:

• Veo 2: gerador de vídeo por IA do Google custará US$ 0,50 por segundo
• Meta defende uso de material pirata para treinar IA: “é legal se você não compartilhar”
• Atualização levará Apple Visual Intelligence para o iPhone 15 Pro

Código baseado em modelo da Meta

Ben Nimmo, investigador da OpenAI, afirmou que essa foi a primeira vez que a empresa encontrou uma ferramenta desse tipo. “Atores de ameaça às vezes revelam suas atividades ao interagir com nossos modelos de IA”, disse ao The New York Times.

O código do sistema de vigilância parece ter sido baseado em um modelo de código aberto da Meta, o Llama. Além disso, a OpenAI descobriu que o grupo usou o ChatGPT para redigir avaliações de desempenho onde alegava ter produzido e-mails de phishing para clientes na China.

ChatGPT lança ‘modo adulto’ e flexibiliza regras para erotismo e violência

A OpenAI destacou que avaliar o impacto dessa operação exigiria colaboração com outras partes, como desenvolvedores de modelos de IA de código aberto.

Tentativa de manipulação da opinião pública

Em outro caso, a OpenAI também baniu uma conta que usava o ChatGPT para criar postagens críticas à cientista política e dissidente chinesa Cai Xia. O grupo gerava artigos em espanhol com conteúdo crítico aos EUA, publicados em sites de notícias na América Latina.

Presidente da OpenAI revela segredos do “prompt perfeito” para extrair o máximo do ChatGPT

A decisão da OpenAI reforça o debate sobre o uso ético da inteligência artificial e os desafios para evitar que tecnologias avançadas sejam exploradas para censura e vigilância.

Conteúdo Relacionado

baratinho?

Apple lança iPhone 16e, versão mais barata do iPhone

Fonte: Reuters