Governança de IA aplicada: base de conhecimento com nível de evidência e barreiras contra viés

Sistema que apoia decisão em ambiente auditado precisa responder três perguntas em qualquer momento: com base em que essa resposta foi dada, qual a força dessa base e o que mudou desde então. Modelo de linguagem sozinho não responde nenhuma das três.

Nível de evidência como campo, não como prosa

Cada item da base de conhecimento carrega origem, data, responsável e nível de evidência em campo estruturado. A resposta gerada cita os itens usados e mostra o nível mais fraco entre eles. Quando a única base disponível é fraca, a interface diz isso em vez de disfarçar com linguagem confiante.

Recuperação antes de geração, sempre

O modelo não responde do próprio peso. Ele responde a partir dos trechos recuperados, e a resposta sem trecho recuperado é uma recusa, não uma tentativa. Isso reduz drasticamente a superfície de alucinação e torna a auditoria possível: cada resposta tem uma lista finita de fontes.

Barreiras contra viés

• Atributo sensível não entra como característica: idade, sexo, endereço e afins são removidos da entrada quando não são clinicamente ou operacionalmente necessários.
• Medição por subgrupo desde o piloto: taxa de erro comparada entre grupos, não só a média global, que esconde disparidade.
• Limiar de confiança com encaminhamento humano: abaixo do limiar o sistema não decide, ele pede decisão.
• Registro de contestação: toda vez que uma pessoa discorda da saída, isso vira dado rotulado para revisão do modelo.

O que eu não construo

Sistema que decide sozinho sobre pessoa sem revisão humana viável. Reconhecimento facial para vigilância indiscriminada. Pontuação de trabalhador por comportamento inferido. Recuso esses escopos antes da proposta, não durante o projeto.