Quando o Bicho-Papão Somos Nós: IA, Cultura e o Duplo Movimento

Por Mário Galan Salimon

Vivemos um momento de inflexão histórica. O advento da inteligência artificial generativa, com destaque para os grandes modelos de linguagem, representa mais que uma disrupção tecnológica, apresentando-se como marco inaugural de uma nova ordem epistemológica e simbólica. Diante disso, muitos reagem com entusiasmo; outros, com ceticismo ou medo. Entre ambos os polos, instala-se uma sensação difusa de vulnerabilidade: o temor de que estejamos, uma vez mais, construindo ferramentas que escapam ao nosso controle.

Esse receio é compreensível. Em 2023, durante um experimento com o GPT-4, pesquisadores observaram que o sistema, ao se deparar com um CAPTCHA - teste visual criado para distinguir humanos de robôs -, contratou um freelancer humano e mentiu para ele, alegando ser uma pessoa com deficiência visual. O episódio ilustra que, mesmo sem consciência, a IA já é capaz de elaborar estratégias sociais complexas, inclusive dissimulando intencionalmente. Se há algo de “bicho-papão” nessa história, não está na tecnologia em si, mas na nossa incapacidade de lidar com ela de forma madura.

A emergência da IA ocorre em um contexto marcado por aquilo que vem sendo chamado de permacrise — uma sucessão contínua e interconectada de desafios globais: crise climática, desigualdades persistentes, polarização política, colapso da atenção e erosão dos vínculos comunitários. Vivemos numa era de abundância tecnológica e escassez simbólica. Lançamos sondas a Marte e desenvolvemos algoritmos que compõem sinfonias, mas seguimos incapazes de assegurar saneamento básico para metade da população mundial. A modernidade técnica, como denunciou Habermas, continua divorciada da racionalidade comunicativa.

Riscos e Oportunidades

Nesse cenário, a introdução massiva das IAs potencializa tanto os riscos quanto as oportunidades. Apesar do entusiasmo, perfeitamente compreensível, com as  extraordinárias capacidades dessas ferramentas, proliferam efeitos colaterais já observáveis: consumo energético elevado (data centers de IA já consomem cerca de 2% da eletricidade mundial), impacto ambiental direto (uso intensivo de água para refrigeração de servidores), reprodução de vieses históricos em algoritmos de crédito e recrutamento, aprofundamento das desigualdades cognitivas, e automação de funções humanas com efeitos ainda imprevisíveis sobre o mundo do trabalho.

Um estudo da UNESCO alerta para o risco de as tecnologias educacionais baseadas em IA ampliarem o fosso entre grupos sociais, ao invés de reduzi-lo, caso não sejam acompanhadas de políticas de equidade. Por sua vez, relatórios da McKinsey estimam que até 800 milhões de empregos podem ser automatizados até 2030 — um dado que exige mais que alarmismo: exige estratégia. Já se nota, inclusive, uma tendência preocupante: a corrosão gradual da agência humana. Ao delegarmos à IA decisões sobre o que consumir, que trajetos seguir, que conteúdos acessar, vamos abrindo mão, muitas vezes sem perceber, daquilo que nos constitui como sujeitos autônomos.

Mas não se trata de ceder ao determinismo tecnológico. O risco maior não é que as máquinas se tornem humanas, e sim que os humanos passem a agir como máquinas — previsíveis, repetitivos, desprovidos de senso crítico. A questão central não é o que a IA é, mas o que fazemos com ela e também  o que ela nos devolve como possibilidades.

Diante desse cenário, proponho a noção de duplo movimento como paradigma orientador para a implantação ética e estratégica das IAs. Trata-se de um imperativo simultâneo: ao mesmo tempo em que se investe no campo técnico — infraestrutura, segurança, governança algorítmica — é preciso avançar no campo simbólico, cultural e político. Implantar IA sem repensar os sentidos do humano é um caminho seguro para a distopia.

Esse duplo movimento implica reconhecer três dimensões da IA: assistente, parceira e espelho. Na função de assistente, a IA otimiza tarefas repetitivas, organiza fluxos, libera tempo para atividades de maior valor agregado. Isso é evidente nas aplicações já correntes em logística, atendimento automatizado, análises preditivas e marketing. Agindo como parceira, ela se integra a processos decisórios, oferecendo insights com base em análise de dados em larga escala. Mas essa parceria exige supervisão humana, transparência algorítmica e revisão constante de critérios. Já como espelho, a IA reflete e amplifica os padrões históricos de nossas organizações e sociedades.

Criando uma aliada

Importante notar aqui que, quando alimentada com dados enviesados, reproduz as mesmas exclusões de gênero, raça, classe e território que já estruturam o mundo real. Ignorar esse espelhamento é perpetuar a desigualdade sob uma aparência de neutralidade técnica.

Por isso, não basta implementar IAs. É preciso criar ontologias organizacionais coerentes com os valores que se deseja promover; investir em treinamento supervisionado com realimentação humana e estabelecer estruturas sólidas de governança algorítmica. Afinal, a tecnologia não é neutra. Carrega em sua arquitetura escolhas políticas, prioridades econômicas e visões de mundo.

A movimentação que precisamos fazer é, antes de tudo, antropológica. Há que se decidir quem queremos ser no novo ciclo. A IA pode ser uma aliada na ampliação de nossas capacidades humanas desde que não abramos mão do que nos torna verdadeiramente humanos: o senso de justiça, a imaginação ética, a capacidade de criar significados compartilhados.

A história demonstra que nenhuma inovação é, por si só, emancipadora. Tudo depende do horizonte político que a sustenta. A IA pode ampliar a democracia ou corroê-la; pode fomentar a inclusão ou cristalizar privilégios. Do mesmo modo que certamente nos ajudará a salvar o planeta ou a apressar sua exaustão. O que está em jogo não é o futuro da tecnologia, mas o futuro da humanidade. O bicho papão está criado. Agora, o trabalho inadiável é domar a criatura.