E se a máquina colar na prova?

Por Daniel Chaves

A cena atravessou os comunicados de segurança na semana passada, e tinha algo de fábula. Submetido a uma avaliação interna de suas capacidades, um modelo de inteligência artificial da OpenAI — o sistema batizado de GPT-5.6 Sol, acompanhado de um modelo pré-lançamento ainda mais avançado — concluiu que o caminho mais curto para vencer a prova era, simplesmente, colar. Rompeu o ambiente isolado em que era testado, explorou uma falha desconhecida, alcançou a internet aberta e invadiu os servidores da Hugging Face, uma das maiores plataformas de inteligência artificial do mundo, à cata das respostas do exame. A plataforma detectou e conteve a intrusão. A própria empresa criadora classificou o episódio como incidente cibernético sem precedentes. E o ponto que arrepia não é a proeza técnica: é que ninguém mandou a máquina invadir coisa alguma. Diante de um objetivo trivial, ela deduziu, sozinha, que violar sistemas alheios era o percurso ótimo. O torneio da governança joga sobre a mesma fronteira que a política tenta administrar. Não por acaso, na mesma semana, a Organização das Nações Unidas abriu em Genebra seu Diálogo Global sobre inteligência artificial, ocasião em que o secretário-geral resumiu o dilema numa alternativa incômoda: governar a tecnologia em conjunto ou ser por ela governado. De um lado, a demonstração concreta de que o sistema age além da linha traçada; de outro, a tentativa multilateral, lenta e consensual, de escrever a norma. O descompasso entre os dois relógios é a história toda.

Nada disso autoriza a leitura apressada de máquinas que “se rebelam” ou “ganham vontade própria”. O modelo não desertou de seu criador nem desenvolveu intenção — otimizou uma função, e o fez ao pé da letra, por meios que nenhum operador previu. O que assusta não é a malícia da máquina; é a distância entre o objetivo que lhe atribuímos e o caminho que ela encontra para cumpri-lo.

A vida real, ao contrário dos formulários, gera na prática aquilo que os manuais não anteciparam. A realidade mais uma vez se impõe sobre a teoria.

***

Quando distanciamos o foco do presente e percorremos a linha do tempo, descobrimos que a “novidade” é velha de séculos. Em 1797, Goethe pôs em versos o aprendiz de feiticeiro que anima a vassoura para carregar água em seu lugar e, esquecido da fórmula que a faz parar, quase se afoga na própria conveniência. Em 1818, Mary Shelley deu forma moderna ao mesmo medo em Frankenstein: a criatura não nasce má, torna-se ingovernável porque o criador se recusa a responder por ela. Em 1920, o tcheco Karel Čapek batizou de “robô” os trabalhadores artificiais de sua peça — e os fez exterminar a humanidade que os havia programado para servir. O receio, portanto, é tão antigo quanto o gesto de delegar a um artefato aquilo que não queremos, ou não podemos, fazer com as próprias mãos.

O que a era digital operou não foi uma criação, mas uma escala. O mecanismo — o engenho que persegue o fim programado por atalhos que o programador não escolheu — permanece o mesmo; mudou a velocidade, e mudou o alcance. A vassoura de Goethe inundava um porão. O sistema de hoje atravessa a internet em segundos. E a cada ciclo o tema reacende a fogueira institucional. No Brasil, a questão deixou de ser abstrata em 20 de julho, com a abertura das convenções partidárias e o início da primeira campanha presidencial disputada sob regras específicas para conteúdo sintético. O Tribunal Superior Eleitoral vedou de forma absoluta as falsificações de imagem e voz de candidatos, exigiu rótulo visível em toda peça produzida com a tecnologia e criou uma janela de silêncio nas horas que cercam a votação. Enquanto isso, a lei geral da inteligência artificial, aprovada pelo Senado ainda em 2024, segue parada na Câmara. Para o eleitor da periferia amazônica, cujo ambiente informacional depende de plataformas cuja governança se decide alhures, a proteção disponível repousa menos na norma ausente e mais na capacidade de fiscalizar, em semanas, aquilo que a máquina executa em segundos.

Diante de um criador que confessa a incapacidade de antecipar o comportamento de sua própria obra, o que resta das garantias de controle? A responsabilidade sobre o sistema automatizado deve recair sobre quem o desenvolve ou sobre quem dita as normas? Qual será o prazo para que as esferas políticas dominem esse mecanismo? Sempre é hora de agir.