O Estado Inteligente: quem governa as decisões do algoritmo?
O Lumina nº 18 discute como a governança algorítmica deve acompanhar o avanço da inteligência artificial no setor público, conectando transparência, supervisão humana, responsabilidade...
16/11/2026
Como a inteligência artificial pode transformar a gestão pública e por que transparência, responsabilidade e governança precisam evoluir junto com a tecnologia.
Meus caros leitores,
Na edição anterior da Lumina, conversamos sobre a ascensão do Ecossistema de Inovação Pública e sobre como o Estado já não consegue – nem precisa – inovar sozinho. Refletimos sobre a importância de conectar governos, empresas, universidades e outros atores para transformar conhecimento em soluções capazes de responder aos desafios da sociedade.
Essa reflexão nos levou a uma constatação importante: a inteligência necessária para enfrentar os problemas públicos está cada vez menos concentrada em uma única instituição. Ela circula, se multiplica e ganha força quando diferentes competências se conectam em torno de um propósito comum.
Mas há uma nova camada nessa transformação que merece nossa atenção.
À medida que a inteligência artificial amplia a capacidade de analisar informações, identificar padrões e apoiar decisões, precisamos olhar também para a maneira como o Estado incorpora essa tecnologia à sua atuação. Afinal, não basta reunir diferentes inteligências. É preciso saber como utilizá-las, quais limites estabelecer e quem responde pelas decisões que delas resultam.
Quem acompanha meus artigos sabe que gosto de provocar novas perguntas e desafiar algumas certezas que, de tanto repetidas, acabam parecendo imutáveis. E esta é uma daquelas perguntas que considero fundamentais para o futuro da gestão pública:
Quando a inteligência artificial passa a participar das decisões do Estado, quem governa as decisões do algoritmo?
É sobre essa questão que proponho nossa reflexão de hoje.
Para percorrer essa questão, proponho organizar nossa reflexão em seis movimentos:
São diferentes camadas de uma mesma pergunta: como ampliar a capacidade de decisão do Estado sem diluir a responsabilidade por suas escolhas?
Boa Leitura!
Quando pensamos em inteligência artificial no setor público, é natural imaginar aquilo que já conseguimos ver: assistentes virtuais, atendimento automatizado, sistemas capazes de resumir documentos e ferramentas que prometem acelerar análises e reduzir tarefas repetitivas.
Mas essa é apenas a parte visível da transformação.
Por trás das interfaces, a inteligência artificial começa a alterar processos de trabalho, formas de produzir conhecimento, critérios de análise e, em determinadas aplicações, a própria maneira como decisões administrativas são preparadas ou tomadas. O impacto mais relevante pode não estar naquilo que a tecnologia responde, mas naquilo que ela passa a influenciar.
Um sistema pode ajudar a identificar padrões em milhares de documentos, antecipar demandas, apontar inconsistências, organizar informações dispersas e revelar relações que dificilmente seriam percebidas por uma análise exclusivamente manual. Em um Estado que precisa administrar recursos escassos, responder a necessidades crescentes e tomar decisões cada vez mais complexas, essas capacidades representam uma oportunidade concreta.
O desafio, portanto, já não é apenas incorporar novas tecnologias. É desenvolver a capacidade institucional de utilizá-las bem.
Um Estado inteligente não é aquele que simplesmente utiliza mais tecnologia. É aquele que amplia sua capacidade de decidir bem, agir com eficiência e responder pelas consequências de suas decisões.
Essa distinção importa porque tecnologia e inteligência pública não são sinônimos. Um processo automatizado pode ser mais rápido sem ser mais justo. Um sistema pode produzir respostas consistentes e ainda assim reproduzir distorções presentes nos dados que utiliza. Uma recomendação pode parecer tecnicamente sofisticada sem que seus critérios sejam compreensíveis para quem será afetado por ela.
A questão central, então, não é se o Estado deve usar inteligência artificial. É como fazê-lo sem abrir mão daquilo que legitima sua atuação: legalidade, transparência, responsabilidade e compromisso com o interesse público.
Nem toda aplicação de inteligência artificial faz a mesma coisa – e essa diferença precisa orientar a forma como ela é utilizada.
Há sistemas voltados à classificação de informações, ao reconhecimento de padrões e à previsão de cenários. Há ferramentas de IA generativa, capazes de produzir textos, sínteses e análises a partir de instruções e dados. E há sistemas com características agentivas, concebidos para executar sequências de tarefas, utilizar ferramentas e avançar em fluxos de trabalho com diferentes graus de autonomia.
Essas categorias não são intercambiáveis. Tampouco significam que toda ferramenta de IA tome decisões de maneira independente. A autonomia efetiva depende da arquitetura do sistema, das permissões concedidas, das regras estabelecidas e dos controles implementados.
Essa distinção é especialmente importante na administração pública. Apoiar um servidor na elaboração de um relatório é diferente de recomendar a concessão de um benefício. Organizar documentos de uma contratação não equivale a avaliar propostas. Identificar um possível risco não é o mesmo que determinar uma sanção.
Quanto maior o impacto potencial de um sistema sobre direitos, recursos públicos, oportunidades econômicas ou acesso a serviços, maior deve ser o cuidado com os critérios empregados, a qualidade dos dados, a possibilidade de revisão e a responsabilização pelas decisões.
É nesse ponto que a discussão deixa de ser exclusivamente tecnológica e passa a ser institucional.
Não basta perguntar se o algoritmo funciona. É necessário saber para qual finalidade foi desenvolvido, com quais dados opera, quais limitações apresenta, quem acompanha seus resultados e o que acontece quando erra. Também é preciso estabelecer quem tem autoridade para intervir, corrigir uma decisão ou suspender o uso de um sistema quando os riscos se tornam inaceitáveis.
A supervisão humana, nesse contexto, não pode ser tratada como uma formalidade. Manter uma pessoa no final do fluxo, apenas para validar uma recomendação que não consegue compreender ou contestar, não assegura controle efetivo. A participação humana precisa ser compatível com a complexidade da decisão, apoiada por informações suficientes e acompanhada de autoridade real para questionar o resultado.
A inteligência artificial pode ampliar a capacidade de análise do Estado. Não deve, porém, tornar difusa a responsabilidade por suas escolhas.
A transparência costuma aparecer como resposta imediata aos riscos da inteligência artificial. Mas o conceito precisa ir além da publicação de informações ou da abertura de códigos-fonte.
Em muitos casos, disponibilizar o código de um sistema não será suficiente para que a sociedade compreenda seus efeitos. A interpretação também depende dos dados utilizados, das regras de negócio, dos critérios de decisão, do contexto de aplicação e da maneira como os resultados são incorporados aos processos administrativos.
Transparência efetiva significa tornar compreensível o papel da tecnologia: informar quando ela participa de uma decisão, explicar os critérios relevantes, documentar seus resultados e oferecer meios adequados para questionamentos e revisões. Significa também proteger dados pessoais, informações sensíveis e aspectos legítimos de segurança, sem utilizar essas preocupações como justificativa genérica para impedir qualquer escrutínio.
O desafio é construir um equilíbrio entre explicabilidade, proteção de informações, segurança e responsabilização.
O Canadá oferece um exemplo interessante dessa abordagem. Sua Directive on Automated Decision-Making, atualizada em junho de 2025, estabelece requisitos para sistemas automatizados utilizados em determinadas decisões administrativas federais. Entre eles estão a avaliação de impacto algorítmico antes da entrada em produção, a divulgação de informações sobre o sistema, o monitoramento de resultados e a previsão de mecanismos para contestar decisões.
A diretriz adota uma lógica proporcional ao risco: quanto maiores os impactos potenciais do sistema, mais rigorosos são os requisitos de controle, revisão especializada e envolvimento humano. Em aplicações classificadas nos níveis mais elevados de impacto, a decisão final deve permanecer com uma pessoa.
O aspecto mais relevante dessa experiência não é a promessa de eliminar todos os erros ou vieses. É reconhecer que a adoção de sistemas automatizados exige avaliação prévia, acompanhamento contínuo e mecanismos de responsabilização. A governança não aparece depois que a tecnologia falha; ela integra o desenho da solução desde o início.
A experiência canadense pode ser consultada na Diretriz sobre Tomada de Decisão Automatizada e na ferramenta oficial de Avaliação de Impacto Algorítmico.
A lição é direta: transparência não é um documento publicado para cumprir uma exigência. É a condição para que decisões apoiadas por tecnologia possam ser compreendidas, avaliadas e, quando necessário, contestadas.
Se a governança algorítmica importa para a prestação de serviços, ela também merece atenção especial nas Compras Públicas.
Contratações governamentais mobilizam volumes expressivos de recursos, estabelecem regras de acesso a mercados e influenciam a capacidade de empresas fornecerem soluções ao Estado. Decisões sobre especificações, critérios de habilitação, divisão de lotes, prazos e avaliação de propostas afetam não apenas o resultado de uma contratação, mas também a competição e as oportunidades de participação.
Nesse contexto, a inteligência artificial pode apoiar diferentes etapas do processo: organizar editais e documentos, identificar requisitos, comparar informações, detectar inconsistências, analisar históricos de contratações e ajudar a reconhecer padrões de participação e competição. Com bases de dados adequadas, também pode contribuir para antecipar demandas e qualificar o planejamento.
Mas a tecnologia não corrige, por si só, problemas de desenho institucional.
Se os dados históricos refletem uma competição restrita, um sistema preditivo pode reproduzir essa realidade em vez de questioná-la. Se os critérios de análise privilegiam determinados perfis de fornecedores, a automação pode tornar essa preferência mais rápida e menos visível. Se uma recomendação algorítmica for tratada como verdade incontestável, uma ferramenta concebida para ampliar a inteligência poderá reduzir a capacidade crítica dos gestores.
Por isso, usar inteligência artificial nas Compras Públicas exige olhar para além da eficiência operacional. É preciso avaliar se a tecnologia contribui para melhorar o planejamento, ampliar a competição, fortalecer a integridade e tornar os processos mais previsíveis e compreensíveis para os agentes envolvidos.
Um estudo publicado em 2026 pela Autoridade Finlandesa da Concorrência e do Consumidor ajuda a ilustrar esse potencial. A pesquisa utiliza métodos de análise de dados para estimar a quantidade de fornecedores que poderiam participar de contratações públicas e compara esse potencial com a competição efetivamente observada. Os autores identificam que mais de 40% dos certames analisados atraem menos concorrentes do que seu potencial de mercado indicaria. O estudo também associa prazos mais longos para preparação das propostas e divisão das contratações em lotes a níveis mais elevados de competição efetiva.
O resultado não demonstra que a inteligência artificial, isoladamente, aumente a concorrência ou produza uma economia financeira predeterminada. Mostra algo mais útil: dados e métodos analíticos podem ajudar a revelar oportunidades de melhoria que passariam despercebidas em uma avaliação limitada aos resultados de cada contratação.
O estudo está disponível no trabalho sobre concorrência potencial nas Compras Públicas, publicado pela autoridade finlandesa.
A inteligência, nesse caso, não está em substituir o julgamento do gestor por uma previsão matemática. Está em oferecer evidências melhores para que ele compreenda o mercado, questione práticas estabelecidas e tome decisões mais qualificadas.
A transformação também alcança a relação entre a administração pública e o mercado fornecedor.
À medida que órgãos públicos passam a utilizar ferramentas analíticas mais sofisticadas, fornecedores precisam acompanhar mudanças na forma como oportunidades são identificadas, requisitos são interpretados e informações são avaliadas. A capacidade de compreender o ambiente de contratação, antecipar demandas e organizar dados confiáveis tende a ganhar relevância.
Para a administração, isso significa uma responsabilidade adicional: garantir que o uso da tecnologia não crie barreiras indevidas, critérios opacos ou assimetrias injustificadas entre participantes. Sistemas utilizados para apoiar a análise de propostas, identificar riscos ou avaliar padrões de comportamento precisam ter finalidade definida, critérios adequados e mecanismos de verificação compatíveis com seus efeitos.
Uma sinalização produzida por um algoritmo, por exemplo, pode justificar uma análise mais aprofundada. Não deve ser confundida automaticamente com prova de irregularidade. Da mesma forma, uma previsão de comportamento do mercado pode orientar o planejamento, mas não deve se transformar, sem fundamentação, em uma restrição à participação de fornecedores.
A distinção é fundamental: inteligência analítica deve ampliar a qualidade da decisão pública, não substituir a evidência, o devido processo ou o julgamento responsável.
Essa perspectiva também ajuda a superar uma falsa oposição. Eficiência e controle não são objetivos incompatíveis. Processos bem desenhados podem reduzir tarefas repetitivas, melhorar a rastreabilidade e permitir que os profissionais concentrem sua atenção nas decisões que exigem análise crítica. O controle, por sua vez, não precisa significar lentidão: quando incorporado desde o início, pode reduzir retrabalho, corrigir falhas mais cedo e aumentar a confiança nos resultados.
A oportunidade está em redesenhar processos – e não apenas automatizar os que já existem.
A evolução tecnológica costuma ser descrita em termos de velocidade, escala e capacidade de processamento. Para o setor público, essas dimensões são relevantes, mas insuficientes.
A verdadeira medida de um Estado inteligente está em sua capacidade de transformar informação em decisões melhores, tecnologia em serviços mais efetivos e inovação em valor público. Isso exige infraestrutura e ferramentas, mas também competências institucionais, qualidade de dados, regras claras, transparência e disposição para rever práticas que deixaram de responder às necessidades da sociedade.
Exige, sobretudo, compreender que a inteligência artificial não elimina a complexidade da gestão pública. Ela a reorganiza. Ao ampliar a capacidade de análise e execução, também torna mais importante definir objetivos, estabelecer limites e identificar responsabilidades.
Essa agenda não pode ser conduzida isoladamente. Como discutimos na edição anterior da Lumina, a inovação pública se fortalece quando Estado, empresas, academia e outros atores conectam conhecimentos e capacidades. Na governança da inteligência artificial, essa colaboração ganha uma nova dimensão: é preciso combinar competência tecnológica, conhecimento sobre políticas públicas, compreensão dos mercados, avaliação de riscos e compromisso com o interesse coletivo.
Nenhum algoritmo define sozinho o que é uma decisão justa, uma contratação bem planejada ou um serviço público de qualidade. Essas escolhas continuam exigindo critérios institucionais, evidências e responsabilidade humana.
O futuro não será determinado apenas pela quantidade de tecnologia incorporada à administração pública. Será determinado pela qualidade das perguntas que o Estado souber fazer, pela capacidade de avaliar as respostas e pela responsabilidade com que transformar conhecimento em ação.
Um Estado inteligente não é aquele que entrega suas decisões aos algoritmos. É aquele que sabe onde a tecnologia pode ampliar sua inteligência – e como governar seu uso para servir melhor à sociedade.
Meu caro leitor, se na edição anterior concluímos que o futuro da inovação pública depende da capacidade de conectar diferentes inteligências, hoje avançamos mais um passo nessa jornada. Percebemos que conectar conhecimento é fundamental, mas não basta. Também precisamos construir as condições para que esse conhecimento seja utilizado com critério, transparência e responsabilidade.
A inteligência artificial nos oferece oportunidades extraordinárias. Pode ajudar o Estado a compreender melhor seus desafios, antecipar necessidades, aprimorar processos e tomar decisões mais bem fundamentadas. Mas nenhuma tecnologia substitui a necessidade de propósito, discernimento e compromisso com o interesse público.
Talvez seja esse o ponto que mais importa: não precisamos escolher entre inovação e responsabilidade, entre eficiência e transparência, entre tecnologia e humanidade. Precisamos aprender a fazer essas dimensões trabalharem juntas.
Na IBIZ, acreditamos que compreender o mercado público exige olhar além dos processos e das ferramentas. Exige conectar informações, interpretar cenários e enxergar as possibilidades que surgem quando dados e conhecimento são colocados a serviço de decisões melhores.
É por isso que sigo acreditando no valor de provocar perguntas, compartilhar perspectivas e iluminar caminhos. Porque o futuro da gestão pública não será construído apenas por quem dominar as tecnologias mais avançadas, mas por quem souber utilizá-las para gerar valor real para a sociedade.
E, se a inteligência artificial pode ampliar o alcance das nossas decisões, cabe a nós garantir que ela também amplie nossa capacidade de decidir com consciência, responsabilidade e propósito.
Afinal, mais do que um Estado automatizado, precisamos de um Estado verdadeiramente inteligente: capaz de aprender, evoluir e colocar toda a inteligência que mobiliza a serviço das pessoas.
Mais luz, hoje e sempre!
Daniela Corrêa Triñanes
As perguntas abaixo organizam os principais conceitos discutidos nesta edição sem alterar o fechamento autoral do Lumina.
É o conjunto de regras, responsabilidades, controles e mecanismos de supervisão que orientam o uso de algoritmos e sistemas de inteligência artificial em atividades públicas. O objetivo é manter finalidade definida, transparência, revisão e responsabilização compatíveis com os impactos das decisões.
A inteligência artificial pode organizar informações, identificar padrões, antecipar demandas, apontar inconsistências e apoiar análises. Seu uso, porém, não elimina a necessidade de critérios institucionais, qualidade dos dados, revisão e responsabilidade humana.
Porque a presença de uma pessoa no fluxo só representa controle efetivo quando ela consegue compreender, questionar e, quando necessário, alterar ou suspender uma recomendação automatizada.
A IA pode apoiar a organização de editais e documentos, a identificação de requisitos, a comparação de informações, a análise de históricos de contratação e a leitura de padrões de participação e competição. A tecnologia deve ampliar a qualidade da análise, não substituir evidências ou o julgamento responsável.
Significa tornar compreensível o papel da tecnologia: informar quando ela participa de uma decisão, explicar critérios relevantes, documentar resultados e oferecer meios adequados para questionamentos e revisões.
Para continuar essa reflexão, acesse os demais artigos do Lumina no Blog Sol.
A equipe editorial da IBIZ acompanha temas relacionados a licitações, compras públicas, inteligência de mercado público e gestão de processos licitatórios.
Nossos conteúdos combinam pesquisa, experiência no mercado público, consulta a fontes oficiais e conhecimentos compartilhados em iniciativas como o In.hub, ambiente de troca entre profissionais que atuam no ecossistema de compras públicas.
Conheça mais sobre a IBIZ e nossa atuação no mercado público.
Conteúdo revisado periodicamente para manter a precisão e a atualidade das informações.

Clique aqui e conheça as nossas iniciativas!