Valle (2025): a predição de IA entra na política pública como elemento não vinculante e passa pelo crivo do agente humano
VALLE, Vanice Regina Lírio do. Inteligência artificial preditiva e políticas públicas: o agente humano entre persuasão e vinculação. Revista do Direito, Santa Cruz do Sul, n. 75, p. 63-87, jan./abr. 2025. DOI: 10.17058/rdunisc.vi75.20165.
O artigo é um estudo exploratório, de natureza bibliográfica, com fontes nacionais e estrangeiras e documentos oficiais (p. 66), que pergunta se as indicações preditivas formuladas por inteligência artificial podem vincular o agente que formula políticas públicas. A autora adota como conceito de IA a tecnologia computacional que racionaliza de modo assemelhado ao humano, a partir de informações de seu entorno (p. 68), e separa a IA decisória, própria das hipóteses de regras claras e dos atos vinculados, da IA preditiva, que serve de apoio à decisão e não dispensa o agente humano (p. 69-70). Descreve quatro tendências: as data-driven policies apoiadas em microdados (p. 71), a generalização da IA específica ou restrita (p. 72), a exigência de inteligibilidade, desdobrada em transparência técnica e explicabilidade (p. 72-73), e as funcionalidades de modelagem, detecção e personalização (p. 74). Na parte crítica, aponta o excesso de dados que paralisa e a redução que descarta o benefício da tecnologia (p. 76-77), a perda de ganho de conhecimento com o uso exclusivo da IA restrita (p. 77) e, no exercício preditivo, o “quadro de realidade” mediado pela subjetividade de quem o traduziu em dados (p. 77), a hipervalorização da experiência passada (p. 78) e a alienação do decisor, que adere à predição para evitar o reproche do controle ou a responsabilização pessoal (p. 79). Soma os vieses, a exclusão digital e a iliteracia dos agentes públicos (p. 80-83). Conclui que a predição não pode ser recebida como mandatória e que o espaço de discricionariedade do agente deve ser preservado (p. 85).
Interessa-me o argumento da alienação do decisor, porque ele descreve, em escala de política pública, o problema que minha pesquisa enfrenta na extração de campos de decisões do STJ e do CARF: a indicação algorítmica chega com aura de objetividade e acurácia, e quem decide formalmente tende a aderir a ela (p. 79). A autora afirma que a crítica que o agente humano deve exercer sobre o resultado depende de um conhecimento básico das funcionalidades e dos critérios de operação, como as bases e as regras de negócio de que a predição se vale (p. 83). Daí vejo uma ponte com a tese, e a ponte é interpretação minha, pois a autora não propõe protocolo de medição: esse conhecimento só existe se o resultado puder ser reexecutado, decomposto campo a campo e confrontado com uma linha de base sem modelo generativo. O trabalho é conceitual, sem experimento nem dados, e não trata de modelos de linguagem, de modo que oferece um quadro normativo e nenhuma evidência de desempenho. O objeto também é outro, a escolha discricionária de política pública, e não a decisão tributária ou a peça processual, em que o dever de fundamentação pesa mais. Ainda assim, a passagem sobre o temor de responsabilização pessoal por divergir da máquina (p. 79) merece ser testada no contencioso administrativo tributário, o que é hipótese minha e não afirmação do texto.
Texto integral: Revista do Direito, n. 75, na fonte
Nota escrita a partir da leitura integral do trabalho, com assistência de modelo de linguagem na redação e revisão do autor.