Inconsistência de informações em modelos de linguagem de grande escala (LLMs) e seus impactos na segurança da informação

Abstract

Modelos de Linguagem de Grande Escala (LLMs), como o ChatGPT, têm revolucionado a interação com informações, mas também geram conteúdos imprecisos que podem comprometer a segurança da informação. Este artigo analisa de que forma esses desvios de confiabilidade impactam os pilares da Confidencialidade, Integridade e Disponibilidade (CID), especialmente em contextos organizacionais que utilizam sistemas automatizados para apoio à decisão. A pesquisa foi conduzida por meio de revisão bibliográfica, com foco em publicações científicas entre 2020 e 2025, aliada a uma etapa experimental com diferentes modelos de linguagem. Os resultados evidenciam falhas recorrentes, como alucinação de IA, respostas contraditórias e viés, que comprometem decisões automatizadas e podem expor sistemas a riscos técnicos e operacionais. Observou-se também variação significativa entre os modelos quanto à consistência e à gravidade das falhas identificadas, indicando comportamentos distintos de resposta. Como contribuição, o estudo propõe diretrizes para mitigação desses riscos, incluindo validação cruzada de informações, supervisão humana e uso de técnicas como Retrieval-Augmented Generation (RAG). Conclui-se que, apesar do potencial dos LLMs, seu uso seguro exige auditorias contínuas, validação sistemática das saídas e integração com práticas de governança de IA, contribuindo para a aplicação responsável dessas tecnologias em ambientes corporativos. Palavras-chave: Segurança da Informação; Inconsistência; Inteligência Artificial; Alucinação de IA.

Large Language Models (LLMs), such as ChatGPT, have revolutionized interactions with information, but they can also generate inaccurate content that may compromise Information Security. This article aims to analyze how these reliability failures affect the pillars of Confidentiality, Integrity, and Availability (CIA), particularly in organizational contexts that rely on automated systems for decision-making support. The research was conducted through a literature review, focusing on scientific publications from 2020 to 2025, combined with an experimental phase involving different language models. The results highlight recurring issues, such as AI hallucinations, contradictory responses, and bias, which can undermine automated decision-making and expose systems to technical and operational risks. Significant variation among models was also observed regarding consistency and the severity of identified failures, indicating distinct behavioral trends. As a contribution, this study proposes guidelines to mitigate these risks, including cross-validation of information, human oversight, and the use of techniques such as Retrieval-Augmented Generation (RAG). It is concluded that, despite the potential of LLMs, their safe use requires continuous auditing, systematic validation of outputs, and integration with AI governance practices, contributing to the responsible application of these technologies in corporate environments. Keywords: Information Security; Inconsistency; Artificial Intelligence; AI Hallucination.