Rastreabilidade operacional em modelos fundacionais open-weights: integração de artefatos BOM e telemetria baseada em evidências para auditoria técnica

Abstract

A adoção de modelos fundacionais de pesos abertos em infraestruturas privadas é motivada por requisitos de soberania de dados e privacidade, visando reduzir a dependência de provedores externos. Entretanto, a fragmentação da cadeia de suprimentos de software e a incompletude de artefatos de documentação, incluindo datasets, tokenizadores, model cards e hiperparâmetros de treinamento, limitam a rastreabilidade global desses sistemas, resultando em assimetrias de transparência ao longo do ciclo de vida do modelo. Neste contexto, esta pesquisa propõe um framework técnico de auditoria para sistemas de Inteligência Artificial (IA) generativa, implementado por meio de uma Prova de Conceito (PoC) que integra artefatos de governança baseados em Bill of Materials (BOM) e telemetria operacional em tempo de inferência. A abordagem diferencia níveis de observabilidade entre upstream (cadeia de suprimentos e treinamento), parcialmente reconstruído por meio de artefatos de governança estruturados, e downstream (inferência), diretamente monitorado por métricas operacionais. Os resultados indicam que essa arquitetura de observabilidade aumenta a capacidade de monitoramento no estágio de inferência, permitindo a identificação de desvios de alinhamento e a extração de métricas operacionais. A condição de regime parcialmente interpretável (“caixa-cinza”) emerge da assimetria entre observabilidade downstream e opacidade residual upstream, como consequência estrutural da disponibilidade incompleta de artefatos de governança. A integridade dos registros de auditoria foi verificada por meio de protocolos baseados em criptografia pós-quântica. Em conjunto, os resultados sugerem que a abordagem proposta viabiliza mecanismos de auditoria rastreáveis e verificáveis em ambientes locais sob condições experimentais controladas. Palavras-chave: Inteligência Artificial Generativa, Modelos Fundacionais, Bill of Materials (BOM), Criptografia Pós-Quântica (PQC), Auditoria de IA.

The adoption of open-weights foundation models in private infrastructure is motivated by data sovereignty and privacy requirements, aiming to reduce dependence on external providers. However, the fragmentation of the software supply chain and the incompleteness of documentation artifacts, including datasets, tokenizers, model cards, and training hyperparameters, limit the global traceability of these systems, resulting in transparency asymmetries throughout the model's lifecycle. In this context, this research proposes a technical audit framework for Generative Artificial Intelligence (GenAI) systems, implemented through a Proof of Concept (PoC) that integrates governance artifacts based on Bill of Materials (BOM) and operational telemetry at inference time. The approach differentiates levels of observability between the upstream (supply chain and training), partially reconstructed through structured governance artifacts, and the downstream (inference), directly monitored by operational metrics. The results indicate that this observability architecture increases monitoring capacity at the inference stage, allowing for the identification of alignment deviations and the extraction of operational metrics. The condition of a partially interpretable regime (“gray-box”) emerges from the asymmetry between downstream observability and upstream residual opacity, as a structural consequence of the incomplete availability of governance artifacts. The integrity of the audit records was verified through protocols based on post-quantum cryptography. Collectively, the results suggest that the proposed approach enables traceable and verifiable audit mechanisms in local environments under controlled experimental conditions. Keywords: Generative Artificial Intelligence, Foundation Models, Bill of Materials (BOM), Post-Quantum Cryptography (PQC), AI Auditing.