A administração pública brasileira incorpora, em ritmo acelerado, sistemas de inteligência artificial como instrumentos de apoio à decisão. Triagem de benefícios, priorização de fiscalizações, análise de risco em contratações, apoio à instrução de processos: em todos esses domínios, a fórmula que acompanha a tecnologia é a mesma e soa tranquilizadora. O sistema apenas recomenda; a palavra final é do agente público. A recomendação é consultiva, e a decisão permanece humana. Essa arquitetura foi desenhada para preservar o julgamento do administrador. Sustento, neste artigo, que ela pode produzir o efeito inverso.
A hipótese é direta: mesmo quando a recomendação algorítmica é formalmente não vinculante, ela desloca o ônus da argumentação. Concordar com o sistema tende a dispensar fundamentação; dele divergir passa a exigi-la. Essa assimetria, silenciosa e cumulativa, empurra as decisões na direção da máquina e reduz, no plano prático, uma discricionariedade que no plano formal permanece intacta. O problema não é a inteligência artificial errar. É a estrutura de incentivos que se forma ao seu redor.
Discricionariedade e o dever de motivar
A discricionariedade administrativa é a margem de escolha que a lei confere ao administrador para, diante do caso concreto, eleger a solução que melhor atenda ao interesse público. Não é arbítrio: é liberdade juridicamente delimitada e sujeita a controle (Di Pietro, 2023). O principal instrumento desse controle é a motivação. O artigo 50 da Lei nº 9.784/1999 exige que os atos administrativos sejam motivados, com indicação dos fatos e dos fundamentos jurídicos, sobretudo quando neguem, limitem ou afetem direitos, ou quando deixem de aplicar orientação já firmada.
A motivação é, assim, o preço da escolha. É por meio dela que o administrador demonstra que sua decisão não foi capricho, mas ponderação. E é aqui que a entrada de um sistema de inteligência artificial altera a equação. A motivação deixa de ser um custo simétrico, exigido de toda decisão em igual medida, e passa a incidir de modo desigual sobre uma das opções disponíveis: a de contrariar a recomendação.
Ônus argumentativo e assimetria da divergência
A teoria da argumentação jurídica há muito descreve o funcionamento das cargas argumentativas. Alexy formulou regras sobre a distribuição do ônus da argumentação, segundo as quais quem pretende afastar-se de uma orientação estabelecida assume o encargo de justificar o desvio (Alexy, 2011). Transposta para a relação entre o agente público e o sistema, a lógica é a seguinte. Diante de uma recomendação algorítmica, o administrador tem duas opções. Se a segue e o resultado se mostra desfavorável, sua prestação de contas aos órgãos de controle é curta: adotou a orientação técnica do sistema. Se dela diverge e erra, terá de explicar por que preferiu o próprio juízo à recomendação. As duas condutas não custam o mesmo. Seguir sai barato; divergir sai caro.
Essa assimetria não depende de nenhum defeito cognitivo do agente. Ela opera sobre um administrador perfeitamente racional e atento. Não é preciso que ele confie demais na máquina; basta que antecipe, corretamente, que a divergência lhe exigirá mais justificativa e maior exposição ao risco de responsabilização. A racionalidade individual, somada à arquitetura de controle, produz um viés sistêmico em favor da recomendação. É um efeito institucional, não psicológico.
Viés de automação: reforço, não causa
A distinção importa porque o problema costuma ser reduzido ao viés de automação (automation bias): a tendência documentada de os seres humanos confiarem em excesso em sistemas automatizados, mesmo diante de sinais em contrário (Parasuraman; Manzey, 2010). O viés existe e agrava o quadro. Mas não é a causa central da erosão aqui descrita, e a evidência empírica ajuda a ver por quê.
Jorge Alberto Araújo, juiz do Trabalho
Estudos conduzidos com servidores públicos não encontraram deferência automática à recomendação algorítmica. Em experimentos realizados nos Países Baixos, pesquisadores compararam o acatamento de previsões apresentadas como algorítmicas e como humanas e não identificaram preferência automática pela máquina; o que observaram foi um acatamento seletivo, mais forte quando a recomendação confirmava estereótipos prévios (Alon-Barkat; Busuioc, 2023). Se nem sempre há deferência cognitiva automática, então a força que empurra as decisões para o lado do sistema precisa ser buscada alhures — precisamente na estrutura de incentivos e no ônus argumentativo assimétrico.
O custo dessa dinâmica não é abstrato. O episódio conhecido como escândalo dos auxílios à infância nos Países Baixos (toeslagenaffaire) [1] revelou o que ocorre quando autoridades confiam em um sistema automatizado defeituoso. A supervisão humana existia no papel. Não impediu o dano.
Ilusão da supervisão humana
A literatura especializada tem sido direta a esse respeito. Em ampla revisão de políticas que impõem supervisão humana sobre algoritmos governamentais, Green concluiu que, na prática, as pessoas em regra não conseguem exercer a fiscalização que delas se espera, e que a exigência de supervisão acaba por conferir uma falsa sensação de segurança, legitimando a adoção de sistemas problemáticos e permitindo que órgãos e fornecedores se esquivem da responsabilidade pelos danos (Green, 2022). O humano no circuito (human in the loop), quando reduzido a formalidade, converte-se em carimbo.
Há uma ironia adicional. A responsabilização, em condições normais, é um antídoto contra o excesso de confiança: agentes que se sabem cobrados por suas decisões tendem a examiná-las com mais cuidado. O que a assimetria descrita aqui faz é inverter essa engrenagem. Como a cobrança recai com mais peso sobre quem diverge, o mesmo mecanismo que deveria estimular o escrutínio passa a estimular a adesão. A responsabilização deixa de proteger a decisão humana e passa a empurrá-la para a máquina.
Quadro normativo brasileiro
O Direito brasileiro já se ocupa da decisão automatizada, mas ainda não enfrenta diretamente a assimetria. A Lei Geral de Proteção de Dados assegura ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses (artigo 20 da Lei nº 13.709/2018). O Projeto de Lei nº 2.338/2023, aprovado pelo Senado em dezembro de 2024 e em tramitação na Câmara dos Deputados, adota abordagem baseada em risco e prevê, entre os direitos das pessoas afetadas, os de informação, explicação, contestação e supervisão humana das decisões (Brasil, 2023). No âmbito do Judiciário, a Resolução CNJ nº 615/2025 mantém expressamente a responsabilidade pela decisão com o magistrado, tratando a inteligência artificial como apoio (Brasil, 2025).
Todos esses instrumentos preservam um papel humano formal. Nenhum, contudo, neutraliza a assimetria. O direito à revisão e a exigência de supervisão pressupõem que exista, do outro lado, um humano disposto a divergir. Se divergir é argumentativamente caro e concordar é gratuito, a supervisão prometida pela norma tende a esvaziar-se por dentro, ainda que preservada por fora. A supervisão humana corre o risco de ser exatamente o carimbo que Green descreve.
Simetria do ônus como condição da discricionariedade
A solução não está em desconfiar da máquina nem em renunciar a seus ganhos. Sistemas bem calibrados reduzem arbitrariedade e tratam casos iguais de modo igual, o que já é, em si, um avanço de isonomia. O ponto de correção é outro: a simetria do ônus. Uma decisão só permanece verdadeiramente discricionária enquanto seguir e divergir custarem o mesmo esforço de justificação.
Disso decorre uma diretriz prática. Se a recomendação algorítmica é consultiva, então concordar com ela também deve ser motivado, e não apenas divergir. Exigir do agente que fundamente igualmente a adesão e a recusa — que explique por que a recomendação se ajusta ao caso concreto, e não somente por que dele se afasta — restabelece a paridade e devolve conteúdo à supervisão humana. A recomendação volta a ser um argumento entre outros, e não um piso de segurança aceito por inércia. É a diferença entre um instrumento que informa a decisão e um instrumento que a substitui sob o disfarce de informá-la.
Conclusão
A recomendação algorítmica formalmente consultiva não retira, por si, a competência do administrador. Ela redistribui o ônus da argumentação. Ao tornar a concordância gratuita e a divergência custosa, desloca de modo sistemático as decisões para o lado da máquina e reduz, na prática, uma discricionariedade que no plano formal permanece intacta. O risco não é o da máquina que decide no lugar do homem. É o da máquina que torna a decisão humana cara demais para ser exercida.
Preservar a discricionariedade exige, portanto, mais do que declarar consultiva a recomendação e humano o supervisor. Exige tornar simétrico o custo de justificar. A pergunta que a administração precisa responder não é se confia na inteligência artificial, mas quem terá de explicar-se quando o agente e o sistema discordarem — e a que preço.
Referências
ALEXY, Robert. Teoria da argumentação jurídica: a teoria do discurso racional como teoria da fundamentação jurídica. Trad. Zilda Hutchinson Schild Silva. 3. ed. Rio de Janeiro: Forense, 2011.
ALON-BARKAT, Saar; BUSUIOC, Madalina. Human–AI interactions in public sector decision making: “automation bias” and “selective adherence” to algorithmic advice. Journal of Public Administration Research and Theory, Oxford, v. 33, n. 1, p. 153-169, 2023.
BRASIL. Lei n. 9.784, de 29 de janeiro de 1999. Regula o processo administrativo no âmbito da Administração Pública Federal. Diário Oficial da União: seção 1, Brasília, DF, 1 fev. 1999.
BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018.
BRASIL. Senado Federal. Projeto de Lei n. 2338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial. Brasília, DF, 2023. Aprovado pelo Senado Federal em 10 dez. 2024; em tramitação na Câmara dos Deputados.
BRASIL. Conselho Nacional de Justiça. Resolução n. 615, de 2025. Regulamenta o uso de inteligência artificial no âmbito do Poder Judiciário. Brasília, DF, 2025.
DI PIETRO, Maria Sylvia Zanella. Direito administrativo. 36. ed. Rio de Janeiro: Forense, 2023.
GREEN, Ben. The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, v. 45, art. 105681, 2022.
PARASURAMAN, Raja; MANZEY, Dietrich H. Complacency and bias in human use of automation: an attentional integration. Human Factors, v. 52, n. 3, p. 381-410, 2010.
[1] O caso, conhecido como toeslagenaffaire, envolveu a administração tributária dos Países Baixos (Belastingdienst), que, entre 2005 e 2019, acusou indevidamente cerca de 26 mil famílias de fraude no recebimento do auxílio-creche. Um sistema de classificação de risco sinalizava supostos fraudadores a partir de indicadores como a dupla nacionalidade, atingindo de forma desproporcional famílias de origem imigrante — o que o próprio Estado neerlandês veio a reconhecer como discriminação estrutural. Obrigadas a devolver integralmente os valores recebidos, muitas famílias foram levadas à ruína financeira, e mais de mil crianças chegaram a ser afastadas de seus pais. O escândalo culminou na renúncia do gabinete Rutte III, em 15 de janeiro de 2021, e uma investigação parlamentar concluiu que houve violação de princípios fundamentais do Estado de Direito (cf. ALON-BARKAT; BUSUIOC, 2023).