Apple Intelligence e a discussão ética da inteligência artificial

Anunciada em 2024, a Apple Intelligence marca a entrada da empresa na corrida da inteligência artificial generativa, prometendo integrar inteligência contextual ao ecossistema Apple.

Essa tecnologia, profundamente enraizada nos valores da Apple, opera localmente nos dispositivos, evitando práticas comuns de mineração de dados em massa para preservar a privacidade do usuário. Em uma entrevista recente, Tim Cook expressou sua preocupação de que a Apple Intelligence seja um diferencial em personalização e privacidade: “Queríamos inovar de maneira que as coisas fossem pessoais e privadas.”

Não é a primeira vez que a Apple se posiciona nessa direção, vide a polêmica restrição dos apps a acesso de dados particulares em seus aparelhos. O modelo de IA escolhido pela empresa carrega uma declaração ética implícita: a tecnologia deve servir ao indivíduo sem violar seus direitos fundamentais.

O avanço da IA não é apenas uma revolução tecnológica; é um desafio ético sem precedentes. Diversos expoentes da sociedade têm se posicionado, contra ou a favor, desse mais novo destaque da tecnologia. Elon Musk defendeu uma regulamentação proativa da IA para garantir que o seu desenvolvimento seja seguro; Sam Altman, responsável pelo onipresente ChatGPT, enfatizou a importância de um desenvolvimento responsável e transparente da tecnologia; Steve Wozniak, o “Woz”, expressou preocupações sobre o rápido avanço da IA e suas possíveis consequências, incluindo a perda de controle sobre sistemas inteligentes; até a apresentadora Oprah Winfrey entrou no debate, trazendo à tona as preocupações sobre o futuro da IA, discutindo os desafios e as incertezas que a tecnologia traz.

Yuval Harari, que ficou famoso por bestsellers como “Sapiens” e “Homo Deus”, lançou recentemente o livro “Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial”. Com uma profunda pesquisa histórica e filosófica, Harari explora o desenvolvimento e a manipulação da informação desde os primórdios da humanidade até a era em que vivemos, com o crescimento exponencial da inteligência artificial, destacando seus benefícios e perigos.

As primeiras redes de informação e a era das religiões organizadas

Harari inicia a sua análise na Idade da Pedra, quando os humanos desenvolveram a linguagem, permitindo a comunicação complexa e a transmissão de conhecimento. Essas primeiras redes de informação possibilitaram a cooperação em larga escala, diferenciando os humanos de outras espécies. No entanto, desde o início, a informação não era apenas um reflexo da realidade, mas também uma ferramenta para construir mitos e narrativas que unificavam grupos sociais. Nesse contexto, a informação nem sempre buscava a verdade; mas consolidar poder e moldar percepções em benefício de poucos.

Com o advento da escrita, as sociedades puderam registrar leis, histórias e crenças religiosas, criando estruturas burocráticas e sistemas de governança mais complexos. O autor cita o exemplo das escrituras sagradas que, em sua visão, serviram para disseminar normas éticas e comportamentais, mas também foram utilizadas para justificar guerras e perseguições. Harari destaca que a informação não é a matéria-prima da verdade, enfatizando a dualidade da informação como meio de iluminação e manipulação.

Da revolução industrial à explosão da informação

Durante a revolução industrial, a imprensa e, posteriormente, o rádio e a televisão, ampliaram o alcance das redes de informação. Governos e corporações perceberam o potencial desses meios para influenciar as massas, dando origem à propaganda moderna. Aqui, o autor aponta que os principais problemas do mundo são causados por pensarmos que juntar muita informação nos leva à verdade, alertando para o perigo de equacionar a quantidade de informação com veracidade. Aliás, uma grande quantidade de informação pode justamente esconder ou deturpar a verdade!

Com a chegada da internet, a quantidade de informação disponível cresceu exponencialmente. Redes sociais e plataformas digitais democratizaram a produção e disseminação de conteúdo, mas também facilitaram a propagação de desinformação e teorias da conspiração. Harari argumenta que, ao hackearem a linguagem, os computadores podem dificultar uma conversa pública de qualidade entre vários seres humanos, ressaltando os desafios que a tecnologia impõe ao discurso público. Esses movimentos foram percebidos, de maneira escancarada e influente, nas eleições de diversos países nos últimos 12 anos.

Inteligência artificial e a manipulação da informação

A ascensão da IA representa um novo capítulo na evolução das redes de informação. Sistemas inteligentes têm a capacidade de analisar vastas quantidades de dados, identificar padrões e tomar decisões autônomas. No entanto, essa autonomia levanta questões éticas sobre controle e responsabilidade. Segundo o autor, a IA não é uma ferramenta, mas sim um agente, tornando-a diferente de qualquer fenômeno tecnológico desenvolvido até então. Por essa razão, Harari sugere que, sem regulamentação adequada, a IA pode se tornar uma força desestabilizadora na sociedade.

A capacidade da IA de gerar conteúdo indistinguível do produzido por humanos exacerba o potencial de manipulação da informação. Bots e deepfakes podem criar narrativas falsas com alto grau de verossimilhança, dificultando a distinção entre realidade e ficção. Casos recentes, como o da francesa que acreditava namorar Brad Pitt por um ano e meio (até perceber que havia caído em um golpe após perder aproximadamente R$5 milhões), demonstram que a IA pode ser uma perigosa ferramenta em mãos mal intencionadas. 

Apple e as demais gigantes da tecnologia

Voltando à Apple, enquanto empresas como Google e Meta avançam com modelos de IA que dependem de vastas quantidades de dados centralizados, a Apple segue uma abordagem descentralizada. Um exemplo claro é a forma como a Apple Intelligence utiliza aprendizado de máquina on-device, permitindo que usuários interajam com a IA sem expor dados sensíveis à nuvem. Isso reduz a possibilidade de vazamentos de dados, como os que ocorreram em plataformas concorrentes, e protege a privacidade em um nível estrutural.

Obviamente, essa abordagem tem suas limitações. Modelos de IA generativa da Apple são menos robustos em certas tarefas comparados ao ChatGPT ou ao Gemini. Isso levanta a questão: usuários estão dispostos a sacrificar desempenho em nome da privacidade? Por essa razão, decisões éticas frequentemente entram em conflito com os interesses de mercado e, em diversos casos, a verdade ética é sacrificada em nome da eficiência econômica.

Por outro lado, se a Apple Intelligence sugere constantemente apps ou serviços do próprio ecossistema da empresa, ela pode ser acusada de promover um monopólio interno sob o pretexto de oferecer uma experiência integrada. Esse é um desafio ético central: até que ponto a Apple está utilizando a sua posição dominante de maneira ética, e não como uma forma de reforçar a sua hegemonia? Ao lançar a sua IA, a empresa escolheu um caminho ético que se destaca, mas não está imune às críticas ou aos desafios que acompanham os debates econômicos, sociais e políticos que envolvem o avanço tecnológico.

Conclusão

Ao longo da história, a informação evoluiu de simples narrativas orais a complexas redes digitais, desempenhando papel crucial na formação de sociedades e na distribuição de poder. No entanto, essa evolução é acompanhada por uma crescente capacidade de manipulação, que se intensifica na era da inteligência artificial. Reconhecer essa dualidade é essencial para navegar os desafios éticos e sociais que emergem com as tecnologias contemporâneas.

Acima dos acalorados debates sociais, econômicos, religiosos e políticos, debates esses muitas vezes baseados em informações manipuladas pela IA, é preciso refletir sobre o impacto do indomável avanço do machine learning. Como Harari adverte: “Toda revolução tecnológica exige que a humanidade redefina o que é aceitável, e quem define essas regras exerce o verdadeiro poder.” O autor ainda enfatiza que controlar o fluxo de informações é controlar a própria liberdade de escolha, indicando que a manipulação informacional pode comprometer a autonomia individual e a democracia.

E você, tem pensado sobre o assunto? Como enxerga o futuro da tecnologia e das máquinas? Uma coisa é certa: muito mais perigosos que as máquinas são os seres humanos que monopolizam o seu controle.

NOTA DE TRANSPARÊNCIA: O MacMagazine recebe uma pequena comissão sobre vendas concluídas por meio de links deste post, mas você, como consumidor, não paga nada mais pelos produtos comprando pelos nossos links de afiliado.