IA generativa

Entre Opacidade e Oligopólio: a Tecnopolítica da IA generativa, por Jorge Machado

Tem sido crescente a preocupação com a forma como a sociedade incorpora sistemas de inteligência artificial generativa ao cotidiano. Há uma transformação silenciosa na infraestrutura que organiza e produz conhecimento, influencia decisões e participa, cada vez mais, da formação de visões de mundo. Esses sistemas cumprem tarefas com grande eficiência, ajudam a esclarecer assuntos e podem emular conversas com profissionais de diferentes áreas – como psicólogos, sociólogos, juristas ou médicos. Vão muito além disso, gerando vídeos, música e conteúdos midiáticos cuja distinção em relação às criações autenticamente humanas tem se tornado progressivamente mais difícil. Aos poucos, esses sistemas passam a ocupar espaços antes desempenhados por humanos, remodelando diferentes aspectos da vida social.

portrait of a man wearing a blue hoodie
Photo by Jakson Martins on Pexels.com

Em 2025, os investimentos em inteligência artificial por parte das Big Techs foram estimados entre US$ 300 e 400 bilhões (Subin, 2025). Para 2026, projeções indicam cerca de US$ 630 bilhões apenas entre as maiores empresas – Microsoft (principal investidora da OpenAI), Meta, Google e Amazon. Quando considerados também grandes provedores de infraestrutura, como Oracle e CoreWeave, na ordem de US$ 273 bilhões, esse montante alcança valores ainda mais elevados (Kwok, 2026). No agregado, diferentes estimativas sugerem que os investimentos acumulados no biênio 2025-2026 se aproximam ou superam a marca de US$ 1 trilhão.

Esse ecossistema também possui uma base material significativa: chips, data centers, cabos submarinos, satélites e cadeias globais de hardware, cuja sustentação industrial depende de commodities cada vez mais disputadas, como silício, estanho, prata e elementos de terras raras. Nesse sentido, a tecnopolítica da IA se projeta diretamente sobre a geopolítica, afetando o Sul Global de diferentes formas – não apenas no plano informacional.

Trata-se de um dos maiores ciclos de investimento tecnológico concentrado em um curto período, comparável – em escala e velocidade – a momentos históricos de reorganização econômica, como o Plano Marshall. Nesse contexto, observa-se uma forte tendência à oligopolização: nas condições atuais, competir com os ecossistemas das Big Techs exige um volume de capital e um nível de infraestrutura que torna a entrada de novos atores extremamente difícil.

Para além da concentração econômica, esses sistemas são marcados por um alto grau de opacidade. Essa opacidade é tripla: técnica, devido à complexidade dos modelos; corporativa, em função do sigilo industrial; e epistêmica, pela dificuldade de rastrear como determinadas saídas são produzidas. Os dados utilizados, as arquiteturas dos modelos, os processos de treinamento e os ajustes finos (fine-tuning) são protegidos por “segredo de negócio”. Como resultado, torna-se difícil compreender como as respostas são geradas, identificar vieses – como racismo ou etnocentrismos – ou avaliar distorções sistemáticas.

Veja texto completo no Blog da Biblioteca Virtual do Pensamento Social.

A IA Generativa e o Futuro da Participação Cidadã: Pesquisas em Andamento

Desde outubro de 2024, o Prof. Jorge Machado está no The Open Government Institute, da Universidade Zeppelin, na Alemanha. No dia 17 de fevereiro, junto com o Prof. José Carlos Vaz, do curso Gestão de Políticas Públicas da USP, ele apresentou descobertas sobre como a inteligência artificial generativa pode transformar a administração pública e a participação social.

Ambos pesquisadores investigam como modelos de linguagem avançados podem ser utilizados para melhorar a qualidade e a eficácia em processos de participação cidadã. No entanto, há desafios a serem superados. Um deles é que os cidadãos frequentemente têm dificuldade em formular suas demandas de forma estruturada. Isso faz que muitas propostas fracassem devido a obstáculos legais ou financeiros.

A IA poderia ajudar a gerar propostas com base em bancos de conhecimento e transformá-las em minutas juridicamente viáveis.

Friedrichshafen feb2025

Desafios e questões éticas

Essa abordagem levanta preocupações importantes:

  • Como estabelecer padrões e diretrizes para o uso de IA em processos participativos?
  • Quais são os riscos éticos, como manipulação, vieses ou falta de transparência nas decisões?
  • Testes recentes com modelos como GPT 4.0 e LLaMA mostram resultados promissores, mas também destacam a necessidade de sistemas de IA auditáveis, seguros e transparentes.

Outro problema é a assimetria no acesso a dados públicos: enquanto empresas e organizações usam ferramentas analíticas avançadas, muitos cidadãos carecem de conhecimento e acesso a essas tecnologias.

IA para fortalecer a participação

O foco atual é desenvolver IA generativa que fortaleça processos participativos, servindo como ponte entre governo e sociedade, sem comprometer a integridade das decisões. Governos e administrações públicas precisam entender a reflexividade da IA para aproveitar seu potencial de forma responsável.

Contribuição do Prof. José Carlos Vaz

O Prof. Dr. José Carlos Vaz – que atualmente ocupa a cátedra da CAPES Brasil-Alemanha, na Universidade de Muenster – complementa essa pesquisa com seu trabalho sobre participação online em cidades inteligentes. Seu modelo analítico estuda como as tecnologias digitais podem transformar o engajamento político em áreas urbanas, abordando temas como:

  • Inclusão digital
  • Transparência
  • Governança

Sua recente visita à Universidade de Zeppelin reforçou a importância da cooperação internacional para compartilhar conhecimento e aprimorar conceitos inovadores de participação digital.

A combinação de IA generativa e plataformas digitais de participação pode estabelecer um novo padrão para processos decisórios democráticos — desde que questões éticas e regulatórias sejam devidamente consideradas.

Esse texto foi por Joern Von Lucke (Zeppelin Universitaet), traduzido do alemão e adaptado para esta versão.