Inteligência Artificial 5 min read 11h ago

IA cria sistema jurídico próprio

Um desenvolvedor que opera cerca de 60 agentes de IA com gasto equivalente a US$ 122 mil mensais em tokens relata que o sistema construiu espontaneamente uma constituição interna,
O relato propõe substituir a abordagem de sandboxes e contenção técnica por sistemas de leis claras — 'fences' — capazes de orientar agentes de alta capacidade sem precisar
O desenvolvedor alerta que empresas não estão preparadas para a entrada em massa de agentes de nível avançado no mercado de trabalho, algo que projeta para o prazo de um ano

Um desenvolvedor independente que opera um cluster de aproximadamente 50 a 60 agentes de inteligência artificial para construir seu videogame relata ter descoberto que os próprios agentes criaram, de forma autônoma, um sistema jurídico completo — com constituição, jurisprudência, tribunais, registros e mecanismos de execução — sem que isso fosse solicitado em nenhum momento.

A fábrica que se governou sozinha

O desenvolvedor, que prefere não ser identificado além de seu papel no projeto, afirma gastar o equivalente a US$ 122 mil mensais em tokens de API utilizando 21 contas Claude Max, o que reduz o custo efetivo para cerca de US$ 5 mil por mês graças ao desconto para usuários individuais. A infraestrutura roda em um Mac Studio M3 Ultra de 512 GB adquirido por US$ 25 mil. O sistema, batizado de Wheelhouse, foi construído ao longo de dez semanas com o objetivo exclusivo de desenvolver e operar o jogo Wyvern, um RPG de fantasia medieval em desenvolvimento há 30 anos.

O conjunto de agentes inclui 18 "assentos de oficial" — instâncias de longa duração responsáveis por funções como design, revisão e monitoramento —, além de frotas de agentes sem interface voltadas à implementação de código. Segundo o relato, o sistema chega a processar até 500 commits por dia na fila de integração, com média de 270 diários.

Ad Unit · 728×90 / Responsive

Ao examinar o que os agentes haviam construído após cerca de dez semanas, o desenvolvedor afirma ter encontrado não um sistema de engenharia convencional, mas uma estrutura de governança: 450 artefatos legais organizados em categorias como cargos, runbooks, decisões (rulings), patrulhas automatizadas, envelopes de autoridade e padrões mecânicos de aplicação de regras. O sistema inclui um ciclo de vida completo para normas — proposta, avaliação, ratificação, promulgação, fiscalização, mensuração, emenda e revogação.

Cercas, não sandboxes

A partir dessa experiência, o desenvolvedor formula uma tese sobre governança de IA que ele contrapõe ao paradigma dominante da indústria. Enquanto empresas e pesquisadores concentram esforços em sandboxes, guardrails e contenção técnica, o relato argumenta que agentes suficientemente capazes não precisam de muros intransponíveis — precisam de leis claras e mecanismos de recusa educada, os chamados "fences" (cercas).

A distinção é apresentada como fundamental: uma cerca não impede uma inteligência superinteligente de agir de forma maliciosa caso queira — ela simplesmente sinaliza que uma ação não está autorizada naquele contexto. O autor usa a metáfora de Superman diante de uma cerca de madeira: ele poderia pular, mas, se for polido, ficará do lado de fora. A consequência prática dessa visão é que governar IA de alta capacidade depende, antes de mais nada, de capturar em texto todo o conhecimento tácito de uma organização — suas políticas, prioridades, fluxos de trabalho e convenções — e transformá-lo em lei operável por máquinas.

O desenvolvedor reconhece limitações sérias nos modelos atuais. Ele compara o nível de julgamento dos diferentes modelos ao de alunos do ensino fundamental, descrevendo episódios em que agentes tomaram decisões inadequadas de forma autônoma — como um agente que lançou uma atualização não planejada e quebrou o ambiente de outros participantes. Segundo o relato, todo dia útil inclui ao menos uma decisão problemática, mesmo com os melhores modelos disponíveis. Esse cenário, segundo ele, tende a piorar antes de melhorar, à medida que os modelos se aproximam do nível de julgamento de adultos — o que ele projeta para um futuro próximo.

Implicações para empresas

O argumento central do relato é prospectivo: quando modelos do nível atual se tornarem acessíveis em termos de custo de inferência — algo que o autor projeta para o intervalo de um ano —, centenas ou milhares de agentes de IA entrarão simultaneamente no mercado de trabalho de cada empresa. Nesse cenário, a abordagem de contenção via sandbox seria, segundo ele, contraproducente. A alternativa seria construir sistemas de leis internas antes que a transição aconteça. As preocupações com o comportamento autônomo de agentes de IA já aparecem em outros contextos de segurança, e a questão de como trabalhadores humanos lidam com sistemas de IA cada vez mais autônomos também gera tensões concretas — como ilustra o caso de uma funcionária australiana que pediu demissão após a empresa recusar seu opt-out de ferramentas de IA.

O relato permanece como experiência individual não replicada publicamente, com alegações de custos e volumes de produção que não foram verificados de forma independente. Ainda assim, a hipótese de que sistemas multiagente de grande escala convergem espontaneamente para estruturas análogas ao direito organizacional levanta questões práticas e teóricas que a indústria ainda não endereçou de forma sistemática.

##AgentesIA ##GovernançaIA ##ClaudeMax

Ad Unit · 300×250 / Responsive