Como as empresas podem garantir que suas políticas de ética em IA não sejam apenas um documento sem controle efetivo?

André de Barros Faria, CEO da Vert Analytics e especialista em tecnologia, com experiência consolidada em inovação, inteligência artificial e analítica e no desenvolvimento de soluções que transformam negócios e serviços públicos, explica que muitas empresas já possuem uma política de ética em inteligência artificial assinada pela diretoria. Poucas conseguem responder quantos sistemas de IA estão em operação hoje, com quais dados foram treinados e em que ponto decidem sozinhos. Essa distância entre o documento e o código é onde os problemas costumam nascer.

O erro mais recorrente não é falta de preocupação ética. É tratá-la como camada de comunicação, discutida em comitê e registrada em ata, enquanto as decisões que afetam clientes e cidadãos ocorrem num fluxo que ninguém auditou. Quando o incidente chega, a política existe. O controle, não.

Como a autonomia de sistemas pode alterar drasticamente o risco para os usuários?

Dois sistemas podem usar o mesmo modelo e oferecer riscos muito diferentes. Um calcula uma pontuação e entrega a um analista, que aprova ou recusa. O outro recusa automaticamente e comunica o resultado ao solicitante. A tecnologia é a mesma. A exposição, não.

O que define o risco é o grau de autonomia e o impacto sobre quem está do outro lado. O Projeto de Lei 2338, aprovado no Senado e em tramitação na Câmara dos Deputados, organiza a regulação brasileira em torno da classificação dos sistemas por nível de risco. Mapear onde a máquina decide sem supervisão humana é o inventário que falta na maioria das empresas.

Viés não nasce no algoritmo, nasce no histórico

Uma empresa treina um modelo de triagem de currículos com dez anos das próprias contratações. Se aquele histórico privilegiou determinado perfil, o modelo aprende que ele é o padrão de sucesso e passa a reproduzi-lo. Nenhuma linha de código foi escrita com intenção discriminatória. Ainda assim, a discriminação se repete em escala, com aparência de neutralidade.

André explica que medir apenas a acurácia global esconde esse efeito. A métrica útil é a comparação de resultados entre grupos, com taxa de aprovação e de erro segmentadas. Um modelo pode ter desempenho geral excelente e concentrar as falhas sempre no mesmo recorte de pessoas.

Quem responde quando a IA erra?

Quem responde é a empresa que colocou o sistema em produção. Essa resposta só se sustenta se existir rastro. Sem registro da versão do modelo, dos dados de entrada e do critério aplicado, ninguém consegue reconstruir por que uma decisão saiu daquele jeito.

O texto em tramitação prevê avaliação de impacto algorítmico para sistemas de alto risco, além do direito de explicação e contestação por quem é afetado. Na prática, cada decisão automatizada relevante precisa ser reproduzível meses depois, por alguém que não participou do projeto.

Boas práticas que cabem na rotina, não na gaveta

A mitigação eficaz começa pequena. Inventariar todos os usos de IA em atividade, inclusive os que nasceram fora da área de tecnologia. Classificar cada um pelo impacto sobre pessoas. Definir, para os mais sensíveis, um limiar em que a decisão passa obrigatoriamente por revisão humana.

Depois vem o teste. Modelos generativos precisam passar por tentativas de vazamento de dados e de manipulação por instrução maliciosa antes de entrar em produção, e ser reavaliados quando a base muda. A ISO/IEC 42001 é a primeira norma internacional certificável de gestão de sistemas de IA, com o NIST AI RMF como referência técnica complementar.

André Faria pontua que nada disso funciona sem um canal simples para qualquer funcionário registrar comportamento estranho do sistema. A norma organiza a discussão, mas não substitui o teste no ambiente real.

Confiança é o que a IA coloca em risco primeiro

Quem trata ética como freio adia projetos à espera de uma certeza que não vai chegar. Quem a trata como controle de qualidade libera mais rápido, porque sabe o que o sistema faz, onde erra e quando um humano precisa entrar.

A diferença aparece na escala. Um piloto malfeito atinge dezenas de pessoas. O mesmo modelo em produção atinge milhares, todos os dias, sem que ninguém perceba até que alguém reclame. André de Barros Faria pontua que o uso responsável de IA é menos uma questão de valores declarados e mais de engenharia disciplinada. É isso que separa quem experimenta a tecnologia de quem a sustenta em operação.