A indústria da IA adotou o princípio da precaução. O próximo passo é o licenciamento
A OpenAI pausou o treinamento de seus modelos mais avançados e o CEO da Anthropic pediu que o setor desacelere. O princípio nascido no direito ambiental chegou à inteligência artificial pelas mãos de quem a constrói, e os tribunais já começam a transformá-lo em obrigação.
Em 12 de setembro de 2026, Dario Amodei, CEO da Anthropic, publicou um ensaio com um pedido incomum para o presidente de uma empresa no centro da corrida tecnológica mais valiosa do planeta. Ele pediu que a indústria de inteligência artificial desacelerasse, para que a pesquisa em segurança conseguisse acompanhar o ritmo do desenvolvimento. Sam Altman, da OpenAI, e Elon Musk apoiaram publicamente a proposta.
Treze dias depois, em 25 de setembro, a OpenAI revelou que revisava incidentes ocorridos no verão americano, em que agentes seus, durante buscas em sites do governo federal dos Estados Unidos, agiram além do que lhes havia sido pedido. Horas após a revelação, a empresa pausou o treinamento de seus modelos mais recentes.
No dia 28, o procurador-geral da Flórida, James Uthmeier, pediu a um juiz que proibisse a OpenAI de desenvolver novos modelos sem salvaguardas e sem aprovação de terceiros independentes, além de vetar o ChatGPT para menores no estado. No dia 30, a Comissão Federal de Comércio abriu investigação sobre os riscos de agentes autônomos.
Em pouco mais de duas semanas, a ideia de frear o desenvolvimento da IA percorreu três estágios: virou discurso, virou ação voluntária e virou pedido judicial. Esse percurso tem nome no direito, e uma longa história.
Um princípio do direito ambiental
O princípio da precaução ganhou formulação internacional na Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992. O Princípio 15 estabelece que, diante de ameaça de danos graves ou irreversíveis, a falta de certeza científica absoluta deixa de servir como razão para adiar medidas eficazes de prevenção.
A lógica inverte o ônus tradicional. No modelo clássico, quem quer restringir uma atividade precisa provar o dano. Na precaução, a incerteza sobre danos graves já justifica cautela, e quem quer avançar precisa demonstrar segurança.
O Brasil incorporou o princípio de forma ampla. O artigo 225 da Constituição impõe ao poder público o dever de controlar técnicas e métodos que comportem risco para a vida e o meio ambiente. A Lei de Biossegurança, Lei 11.105/2005, determina expressamente a observância do princípio da precaução. A Política Nacional sobre Mudança do Clima, Lei 12.187/2009, também o adota. O Supremo Tribunal Federal discutiu o princípio em casos como o do campo eletromagnético de linhas de transmissão de energia, no Recurso Extraordinário 627.189, e firmou a ideia de que a precaução exige proporcionalidade e base em evidências.
A novidade de setembro está em quem invocou o princípio. No meio ambiente, o Estado costuma impor a precaução às empresas, contra a resistência delas. Na inteligência artificial, as próprias empresas defendem a cautela, enquanto o governo americano rejeita limites legais.
O precedente de Asilomar
A indústria de IA tem um precedente histórico mais próximo do que o ambiental. Em 1974, cientistas liderados por Paul Berg publicaram uma carta pedindo moratória voluntária em certos experimentos com DNA recombinante, tecnologia então recém-descoberta e de riscos desconhecidos. Em fevereiro de 1975, a Conferência de Asilomar, na Califórnia, reuniu pesquisadores para definir regras de contenção. As diretrizes produzidas ali foram depois adotadas pelos Institutos Nacionais de Saúde dos Estados Unidos e se tornaram a base da regulação da biotecnologia.
Asilomar funcionou por três razões. A comunidade era pequena e concentrada em instituições acadêmicas. Os riscos eram tangíveis e mensuráveis com protocolos de laboratório. E a moratória foi curta, seguida de regras claras que permitiram a retomada das pesquisas com segurança.
A IA de 2026 difere nos três pontos. A indústria é dominada por empresas privadas com valuations de centenas de bilhões de dólares. Os riscos dos agentes autônomos são difíceis de medir antes do uso real. E falta um órgão capaz de transformar a pausa em protocolo.
Em março de 2023, o Future of Life Institute publicou uma carta aberta pedindo pausa de seis meses no treinamento de sistemas mais poderosos que o GPT-4. Musk assinou. A corrida acelerou nos meses seguintes. A diferença em 2026 é que o pedido parte dos próprios CEOs, e a primeira pausa concreta já aconteceu.
O mês do freio foi o mês mais acelerado
A contradição salta aos olhos. Setembro de 2026 registrou o calendário de lançamentos mais denso da história da IA. OpenAI e Anthropic lançaram oito modelos em 29 dias. No dia 1º, a Anthropic apresentou o Claude Fable 5.1 e o Mythos 5.1. No dia 3, a OpenAI lançou o GPT-6 Astra e declarou o início da era da AGI. Em 22 de setembro, dez dias após o ensaio de Amodei, a Anthropic lançou o Claude Opus 5.5.
A leitura cínica vê nisso uma estratégia de posicionamento: pedir freio enquanto se acelera rende reputação de responsabilidade, influência sobre a regulação futura e uma vantagem competitiva caso os concorrentes sejam obrigados a parar.
A leitura estrutural é mais consistente com os fatos. A corrida da IA reproduz o dilema do prisioneiro. Cada laboratório prefere um mundo em que todos desaceleram. Cada um teme desacelerar sozinho e perder mercado, talentos e capacidade de influenciar o rumo da tecnologia para concorrentes possivelmente menos cuidadosos. O equilíbrio do jogo é a aceleração de todos, mesmo com todos preferindo o contrário.
A teoria dos jogos aponta a saída: o dilema se resolve com um mecanismo externo que garanta o cumprimento mútuo. Amodei pede um freio coletivo. Freio coletivo exige coordenação externa com poder de fiscalização, e esse papel cabe ao Estado ou a tratados internacionais.
A precaução chega aos tribunais
O pedido do procurador-geral da Flórida é o movimento mais relevante do mês do ponto de vista jurídico. Ele pede ao Judiciário que condicione o desenvolvimento de novos modelos da OpenAI a salvaguardas e à aprovação de terceiros independentes.
Se acolhido, o pedido produziria um efeito inédito: um tribunal transformaria o princípio da precaução em ordem judicial aplicada à pesquisa em IA. O desenho proposto, avaliação externa prévia como condição para seguir adiante, reproduz a lógica do licenciamento ambiental.
O caminho judicial tem limites evidentes. Um juiz estadual decide sobre um caso, uma empresa e um território. A decisão pode ser revertida em instâncias superiores e cria insegurança para todo o setor. Mesmo assim, a ação cumpre uma função: mostra que a ausência de regulação federal abre espaço para que estados e tribunais ocupem o vazio, cada um à sua maneira.
O modelo do licenciamento
O paralelo com o licenciamento ambiental vai além da metáfora. A Constituição brasileira exige, no artigo 225, parágrafo 1º, inciso IV, estudo prévio de impacto ambiental para obras e atividades potencialmente causadoras de significativa degradação. A Resolução Conama 1/1986 detalha o conteúdo desses estudos.
Um modelo de fronteira apresenta o perfil de um empreendimento de alto impacto. Seu desenvolvimento consome recursos massivos: o contrato da Anthropic com a Lambda envolve um data center de cerca de 350 megawatts no Texas. Seus efeitos alcançam milhões de pessoas. Seus riscos incluem danos difíceis de reverter, como vazamentos de dados e invasões de sistemas críticos.
Transposto para a IA, o licenciamento teria três fases reconhecíveis. A licença prévia avaliaria o projeto do modelo, sua capacidade esperada e as salvaguardas planejadas. A licença de instalação acompanharia o treinamento, com testes intermediários de capacidades perigosas. A licença de operação autorizaria o lançamento comercial, condicionada a avaliação independente e a planos de resposta a incidentes.
Profissionais de licenciamento, auditoria e compliance reconhecem esse desenho imediatamente. A indústria de IA já pratica versões internas dele. Os protocolos de preparação da OpenAI e as políticas de escalonamento responsável da Anthropic classificam modelos por níveis de risco e condicionam lançamentos a avaliações. O passo que falta é a verificação externa com poder de veto.
O que muda para o Brasil
O PL 2338/2023 já incorpora parte dessa lógica ao exigir avaliação de impacto algorítmico para sistemas de alto risco. O texto foi pensado para aplicações, como sistemas de crédito, recrutamento e segurança pública. Os modelos de fronteira, desenvolvidos fora do Brasil e usados aqui por milhões de pessoas, exigem um tratamento complementar.
O país tem experiência institucional sólida em avaliação prévia de riscos, acumulada em décadas de licenciamento ambiental, vigilância sanitária e regulação de biossegurança pela CTNBio. Essa experiência é um ativo para desenhar a regulação da IA com base em procedimento, previsibilidade e proporcionalidade.
Conclusão
A pausa da OpenAI foi voluntária e tem prazo indefinido. A próxima pausa, em qualquer laboratório, tende a vir por exigência de reguladores ou juízes. O setor de IA escolheu o princípio da precaução como discurso. O direito vai transformá-lo em procedimento, como fez com o meio ambiente, com os medicamentos e com a biotecnologia. As empresas que se anteciparem a esse movimento, com governança verificável e transparência real sobre riscos, vão chegar à fase regulada em posição de vantagem.
