Microsoft quer regulamentação do uso de deepfakes com IA

A Microsoft está solicitando ao Congresso dos Estados Unidos a implementar uma legislação que regule o uso de deepfakes criados por inteligência artificial (IA). Assim, o objetivo seria proteger a sociedade contra fraudes, abusos e manipulações que poderiam ser provocadas pela tecnologia.

Brad Smith, vice-presidente e presidente da Microsoft, expressou a necessidade de ação urgente dos legisladores para salvaguardar as eleições e proteger idosos contra fraudes. Além disso, ele também destacou a importância da regulamentação para impedir que fraudes atinjam crianças.

Ele destacou em um post no blog da empresa que se tornou claro que as leis também precisam evoluir para combater a fraude de deepfake. Isso tudo apesar de reconhecer que o setor de tecnologia e grupos sem fins lucrativos tenham dado passos recentes para enfrentar esse problema.

“Uma das ações mais importantes que os EUA podem realizar é aprovar uma legislação abrangente sobre fraudes de deepfake para impedir que criminosos cibernéticos usem essa tecnologia para roubar dos americanos comuns”, afirmou.

A proposta da Microsoft para uma “lei de fraude de deepfake” forneceria uma estrutura legal para que os órgãos de aplicação da lei possam processar golpes e fraudes gerados por IA. A ideia é atualizar as leis federais e estaduais sobre exploração sexual de crianças e imagens íntimas não consensuais para incluir conteúdo gerado por IA.

EUA iniciam combate à deepfakes

Recentemente, o Senado dos EUA aprovou um projeto de lei que combate deepfakes sexualmente explícitos. Dessa forma, permite que vítimas de deepfakes AI não consensuais processem seus criadores por danos. A aprovação ocorreu meses após incidentes em que estudantes criaram imagens explícitas de colegas femininas.

A Microsoft implementou controles de segurança em seus próprios produtos de IA após uma brecha no criador de imagens AI Designer da empresa permitir que as pessoas criassem imagens explícitas de celebridades. Além disso, a IA generativa facilita a criação de áudio, imagens e vídeos falsos.

Leia mais

• 7 famosos que foram “ressuscitados” pela tecnologia
• Advogados da Tesla usam deepfakes como desculpa para Elon Musk não comparecer a tribunal
• TikTok atualiza regras e exige que deepfakes sejam identificados

Recentemente, isso aconteceu durante a preparação para as eleições presidenciais de 2024. Isso porque Elon Musk compartilhou um vídeo deepfake satirizando a vice-presidente Kamala Harris, que parece violar as próprias políticas da plataforma X contra mídia sintética e manipulada.

Fonte: The Verge

Conteúdo Relacionado

Notícias

Bruce Willis é o primeiro ator a vender os direitos de uso de imagem para deepfakes