As organizações podem utilizar Inteligência Artificial Generativa (GenAI) de forma segura quando combinam arquiteturas e controlos de segurança adequados com uma estratégia eficaz de classificação e proteção da informação.
Instâncias privadas dos modelos, mecanismos de Data Loss Prevention (DLP), arquiteturas RAG seguras e políticas de governação alinhadas com o RGPD e o AI Act constituem alguns dos elementos essenciais dessa abordagem. Neste artigo, Ricardo Rosalino, Senior Manager de Cybersecurity & Privacy da PwC Portugal, partilha as principais boas práticas para uma adoção segura da GenAI em contexto empresarial.
A GenAI deixou de ser uma curiosidade tecnológica ou um mero teste de conceito. Hoje, os Large Language Models (LLMs) estão profundamente integrados no quotidiano das organizações, suportando fluxos de trabalho, ferramentas de produtividade e processos de desenvolvimento de software.
Esta transição do entusiasmo inicial para uma fase de maturidade operacional trouxe uma conclusão clara, o principal desafio das organizações já não é adotar a tecnologia, mas sim garantir que o seu uso é seguro. Em particular, torna-se crítico definir guardrails (mecanismos de proteção e controlo) que evitem a exposição indevida de informação sensível e assegurem o cumprimento de regulamentos como o RGPD e o AI Act.
Neste contexto, o papel das equipas de Cibersegurança, Gestão de Risco e Privacidade é determinante. Cabe‑lhes definir as regras de utilização de GenAI, estabelecer guardrails operacionais, selecionar e configurar as ferramentas de proteção de dados e assegurar que as iniciativas de IA se mantêm alinhadas com o enquadramento regulatório e com a estratégia de risco da organização.
A generalização do uso de LLMs em contexto corporativo expôs um conjunto de vetores de risco que exigem abordagens técnicas e organizacionais robustas. Entre os mais relevantes, destaca‑se a exfiltração de propriedade intelectual e dados sensíveis. O envio inadvertido de código restrito, relatórios financeiros não publicados ou informação pessoal para modelos públicos continua a ser uma das principais causas de fuga de dados. O risco não reside apenas no eventual armazenamento dessa informação, mas também na sua potencial incorporação em ciclos de treino ou melhoria de modelos. Em paralelo, a rápida evolução de simples chatbots para agentes de IA autónomos, com acesso a bases de dados corporativas e sistemas internos, abriu a porta a ataques de injeção de prompt. Técnicas como a Indirect Prompt Injection podem manipular estes agentes, induzindo‑os a aceder e expor informação confidencial ou a contornar políticas internas de segurança.
Perante este cenário, manter uma postura meramente defensiva, como proibir o uso de GenAI, revela‑se contraproducente. Os colaboradores acabam por recorrer a ferramentas pessoais, em dispositivos não geridos pelas organizações, aumentando o risco real. O caminho sustentável passa pela construção de uma arquitetura segura nas organizações, assente em princípios de Security & Privacy by Design.
Pilares para uma arquitetura de confiança em GenAI
Uma estratégia de IA responsável exige que a proteção de dados esteja embutida na própria arquitetura da solução. Entre as medidas mais eficazes para uma utilização segura da GenAI destacam-se as três seguintes:
Utilizar instâncias privadas e políticas de Zero Data Retention
A utilização de instâncias privadas na cloud ou de APIs empresariais com cláusulas estritas de Zero Data Retention (ZDR) é um primeiro mecanismo de proteção, garante contratualmente que os dados de entrada (prompts) e saída (outputs) não são armazenados nem reutilizados para treino dos modelos pelos fornecedores. Esta abordagem reduz o risco de exposição externa, mas não elimina a necessidade de controlos internos robustos.
Sanitizar e anonimizar dados antes do envio para modelos GenAI
Antes de qualquer dado ser enviado para um LLM, as organizações devem implementar gateways intermédios automatizadas de sanitização e redação de dados. Estas soluções são capazes de:
Detetar automaticamente dados sensíveis (nomes, moradas, NIFs, dados bancários, contactos);
Mascarar, anonimizar ou remover campos sensíveis antes que cheguem ao modelo.
Desta forma, o LLM processa apenas o contexto estritamente necessário, minimizando a exposição da identidade dos dados e reduzindo o impacto potencial de qualquer incidente.
Aplicar controlos de acesso rigorosos em arquiteturas RAG
Muitas organizações recorrem a arquiteturas de Retrieval-Augmented Generation (RAG), em que a IA consulta documentos internos para enriquecer as respostas com conhecimento específico da empresa. A segurança, neste modelo, depende da aplicação rigorosa do Princípio do Menor Privilégio:
A IA só deve aceder a documentos que o utilizador humano já tem autorização para consultar;
Os mecanismos de autenticação e autorização usados para controlar o acesso humano devem ser integrados na camada de acesso da IA;
Logs de acesso devem ser centralizados, permitindo auditoria e rastreabilidade.
Sem este alinhamento, a IA pode inadvertidamente ultrapassar barreiras de acesso, tornando‑se um atalho para informação que deveria estar segmentada.
Proteção e classificação de dados para uma utilização segura da GenAI
Apesar dos avanços em arquiteturas seguras para GenAI, muitas organizações continuam a colocar em segundo plano um dos fatores cruciais para o sucesso, a proteção e classificação rigorosa dos seus dados, suportada por ferramentas especializadas.
As ferramentas de classificação da informação permitem às organizações:
Catalogar informação em categorias como Pública, Interna, Confidencial ou Estritamente Confidencial;
Aplicar etiquetas (labels) automáticas com base em regras, padrões de dados pessoais, palavras‑chave ou modelos de machine learning;
Integrar estas etiquetas em políticas de acesso, encriptação e partilha de informação.
Quando bem implementada, a classificação deixa de ser um exercício teórico para se tornar na base de todas as decisões relativas ao uso de GenAI: que dados podem ser usados em prompts, que documentos podem ser indexados em sistemas RAG, que informação exige encriptação ou controlos adicionais.
Complementarmente, soluções de Data Loss Prevention (DLP), Information Protection e deteção de dados sensíveis desempenham um papel central na operacionalização destas políticas. Estas ferramentas:
Monitorizam e bloqueiam a saída de dados sensíveis para serviços externos, incluindo APIs de IA;
Aplicam políticas dinâmicas, como impedir que documentos classificados como “Confidenciais” sejam enviados para qualquer modelo externo;
Detetam e bloqueiam o envio de prompts que contenham informação sensível para modelos GenAI fora do perímetro controlado da organização.
Em conjunto, a classificação de informação, os mecanismos de proteção de dados e o DLP constituem a infraestrutura de confiança que permite às organizações explorar o potencial da GenAI sem comprometer a segurança do seu ativo mais valioso a informação.
Segurança e privacidade como vantagem competitiva
A discussão sobre IA e privacidade deixou de ser um dilema entre inovar ou proteger. Hoje, segurança e proteção de dados são o próprio motor da inovação responsável.
“Uma arquitetura segura para GenAI é fundamental em termos de Cibersegurança e pode existir sem um programa formal de classificação da informação. Mas, sem conhecer e proteger adequadamente todos os seus dados, as organizações estarão sempre, inevitavelmente, mais expostas ao risco de utilização indevida de informação sensível.”
As organizações que implementarem estruturas sólidas de governação de dados, classificarem e protegerem sistematicamente a sua informação com ferramentas especializadas e adotarem arquiteturas seguras de IA com guardrails claros estarão mais bem preparadas para o uso de GenAI em processos de alto valor com verdadeira confiança.
Mais do que cumprir o AI Act e o RGPD, estas empresas estarão a proteger o seu ativo mais valioso, a informação, enquanto extraem dela novo valor através da Inteligência Artificial. A maturidade em segurança, privacidade e governação da IA deixará de ser um custo para se afirmar como um fator diferenciador e uma vantagem competitiva decisiva.
Já subscreveu a mailing list de Cibersegurança da PwC?
Aceda a conteúdos sobre tendências, boas práticas e soluções para a proteção do seu negócio contra ciberameaças.
Contacte-nos
