Como a Inteligência Artificial está a redefinir os desafios da cibersegurança?
À medida que o mês da cibersegurança chega ao fim, fica a mensagem mais importante de todas: a segurança digital não é uma campanha pontual, mas uma responsabilidade contínua. Os dados mais recentes do PwC Digital Trust Insights 2027 confirmam esta ideia e revelam uma transformação clara no panorama atual: a Inteligência Artificial (IA), deixou de ser uma tendência futura, para se tornar o centro das preocupações e das prioridades em cibersegurança nas organizações, trazendo consigo novas oportunidades, mas também novos desafios em matéria de cibersegurança, proteção de dados, privacidade e conformidade regulatória.
Segundo o PwC Digital Trust Insights 2027, 50% dos líderes consideram os ataques dirigidos a sistemas de Inteligência Artificial a principal ameaça para a qual as suas organizações estão menos preparadas. Este dado evidencia a urgência de reforçar a segurança da IA e de adaptar as estratégias de proteção às novas ameaças associadas à sua crescente adoção.
Neste artigo, Luís Carlos Fernandes, Cybersecurity & Privacy Director da PwC Portugal, analisa os principais desafios associados à utilização da Inteligência Artificial, desde a proteção dos sistemas de IA e o tratamento de dados pessoais até à crescente concentração tecnológica e aos impactos que estas tendências podem ter na segurança e resiliência das organizações.
Proteger a IA tornou-se a maior prioridade
Como proteger os sistemas de Inteligência Artificial contra ciberataques?
Se há uma conclusão que marca o PwC Digital Trust Insights deste ano, é esta: a segurança dos próprios sistemas de IA tornou-se a maior lacuna de preparação em cibersegurança. O estudo evidencia uma mudança significativa face ao ano anterior, quando este tema não figurava entre as principais preocupações identificadas pelos líderes inquiridos. A rápida ascensão da IA na agenda da cibersegurança demonstra a velocidade com que esta tecnologia passou de oportunidade estratégica a potencial vetor de risco.
Esta lacuna torna-se mais urgente à medida que as capacidades da IA avançam, nomeadamente com a adoção de modelos de Frontier AI, que são excecionalmente bons e rápidos a encontrar vulnerabilidades até então desconhecidas e a explorar essas fraquezas através de rotas de ataque sofisticadas com a mínima intervenção humana.
A mensagem é clara: ao mesmo tempo que adotamos a IA para ganhar eficiência, abrimos novas portas que precisam de ser protegidas, pelo que a inovação e a segurança têm de caminhar juntas.
IA: ameaça e aliada
Quais são os principais riscos da Inteligência Artificial para as empresas?
A Inteligência Artificial está hoje a transformar a forma como as organizações operam, mas também a alterar o panorama da cibersegurança. Se por um lado facilita ciberataques mais elaborados, por outro, é uma ferramenta poderosa de deteção e resposta, capaz de identificar comportamentos anómalos em tempo real. A chave está no equilíbrio: adotar a inovação de forma responsável, com regras claras sobre a utilização de ferramentas de IA e a proteção da informação que nelas colocamos. É precisamente neste último tema que se concentra a nossa reflexão.
À medida que a IA se integra nos processos empresariais e no quotidiano dos utilizadores, ganha destaque uma preocupação central: o que acontece aos nossos dados? A privacidade, a segurança da informação e a proteção de dados tornaram-se temas críticos, sobretudo quando interagimos com modelos cujo funcionamento interno e localização física nos é, muitas vezes, completamente desconhecido.
O destino incerto dos nossos dados
Os dados introduzidos em ferramentas de IA podem ser utilizados para treino?
Quando um utilizador ou uma organização introduz informação num sistema de IA, seja um texto, um documento ou dados de clientes, raramente tem visibilidade sobre onde essa informação está e é efetivamente processada. Os grandes modelos de IA operam, na sua maioria, na cloud, em servidores que podem estar localizados em qualquer parte do mundo. Isto levanta questões fundamentais como:
Em que jurisdição são processados e armazenados os dados?
Que legislação de proteção de dados se aplica (ou não se aplica)?
Os dados ficam retidos nos servidores após o processamento? e
São utilizados para treinar futuras versões do modelo?
Esta opacidade significa que, ao usar certas ferramentas, podemos estar inadvertidamente a enviar informação sensível ou confidencial para sistemas sobre os quais não temos qualquer controlo.
“À medida que a Inteligência Artificial se torna parte do quotidiano das organizações, proteger a informação deixa de ser apenas uma preocupação tecnológica para se tornar uma prioridade estratégica.”
A questão do consentimento
Como proteger informação sensível ao utilizar soluções de IA?
Proteger informação sensível ao utilizar soluções de Inteligência Artificial começa por garantir que os dados partilhados são tratados de forma transparente, segura e em conformidade com a legislação aplicável. Neste contexto, um dos pilares da proteção de dados, consagrado em regulamentos como o RGPD, é o consentimento informado. Contudo, no contexto da IA, esta questão torna-se particularmente problemática essencialmente em duas dimensões:
Consentimento de quem introduz os dados
Muitos utilizadores aceitam termos e condições extensas sem compreender que os seus inputs podem ser:
• Armazenados indefinidamente;
• Analisados por operadores humanos; e
• Utilizados para melhorar os modelos.
Consentimento de terceiros
Quando uma empresa introduz dados de clientes, parceiros ou colaboradores num sistema de IA, surge uma questão legal e ética crucial: essas pessoas consentiram que a sua informação fosse processada desta forma e para esse fim? Frequentemente, a resposta é não. A responsabilidade pela proteção desses dados recai sobre quem os utiliza, podendo resultar em violações regulamentares graves.
A concentração do poder em poucos players
Porque é que a concentração do mercado de IA representa um risco para as organizações?
A relação entre Inteligência Artificial, RGPD e privacidade vai muito além da forma como os dados são recolhidos ou utilizados. Está também ligada à localização dos dados, à transparência dos modelos e ao grau de controlo que organizações e utilizadores mantêm sobre a informação que partilham.
Talvez um dos riscos mais estruturais e (ainda) menos discutidos seja a concentração do mercado de IA num número reduzido de grandes empresas tecnológicas. Os modelos mais avançados e amplamente utilizados estão, na prática, nas mãos de meia dúzia de gigantes tecnológicos. Esta concentração acarreta riscos significativos:
Dependência tecnológica
As organizações e até governos tornam-se dependentes de infraestruturas que não controlam, ficando vulneráveis a mudanças de política, preços ou disponibilidade dos serviços;
Concentração de dados sensíveis
Um volume colossal de informação—pessoal, empresarial e estratégica—flui continuamente para as mesmas (poucas) entidades. Isto cria pontos únicos de falha e alvos extremamente apetecíveis para ciberataques;
Assimetria de poder
Estes players detêm não só os dados, mas também o conhecimento sobre como os modelos funcionam, criando uma assimetria difícil de contrariar por utilizadores, reguladores ou concorrentes de menor dimensão;
Risco geopolítico
A localização destas empresas em determinadas jurisdições pode significar que dados de cidadãos e empresas europeias ficam sujeitos a legislações estrangeiras, com implicações em termos de soberania digital
Perante estes desafios, as organizações devem adotar um conjunto de boas práticas para reforçar a segurança, a privacidade e a governação da IA:
Classificar a informação antes de a introduzir em qualquer sistema de IA, evitando partilhar dados sensíveis ou confidenciais;
Ler atentamente as políticas de privacidade e compreender como os dados serão utilizados e retidos;
Optar por soluções que ofereçam garantias de não utilização dos dados para treino (opções enterprise ou opt-out);
Considerar modelos locais ou open-source, que podem ser executados em infraestrutura própria, mantendo o controlo sobre os dados;
Garantir o consentimento de todos os titulares cujos dados possam ser processados; e
Avaliar a soberania dos dados, dando preferência a fornecedores que operem dentro de jurisdições compatíveis com a legislação aplicável.
A conveniência oferecida pelos modelos de Inteligência Artificial não deve ofuscar os riscos reais para a segurança e privacidade dos dados. A incerteza sobre o destino da informação, as fragilidades em torno do consentimento e a crescente concentração de poder num número reduzido de grandes players compõem um cenário que exige vigilância e responsabilidade. Proteger os dados não é apenas uma obrigação legal, mas um imperativo estratégico e ético. Numa era em que a informação é o ativo mais valioso, saber para onde ela vai e quem a controla é tão importante como a própria tecnologia que a processa.
O mês da cibersegurança acaba, mas a sua segurança digital não tira férias. A boa notícia é que não precisa de ser especialista para estar protegido—precisa, sim, de alguns hábitos consistentes e de uma dose saudável de desconfiança.
Perante estes desafios, as organizações devem adotar um conjunto de boas práticas para reforçar a segurança, a privacidade e a governação da IA:
Classificar a informação antes de a introduzir em qualquer sistema de IA, evitando partilhar dados sensíveis ou confidenciais;
Ler atentamente as políticas de privacidade e compreender como os dados serão utilizados e retidos;
Optar por soluções que ofereçam garantias de não utilização dos dados para treino (opções enterprise ou opt-out);
Considerar modelos locais ou open-source, que podem ser executados em infraestrutura própria, mantendo o controlo sobre os dados;
Garantir o consentimento de todos os titulares cujos dados possam ser processados; e
Avaliar a soberania dos dados, dando preferência a fornecedores que operem dentro de jurisdições compatíveis com a legislação aplicável.
A conveniência oferecida pelos modelos de Inteligência Artificial não deve ofuscar os riscos reais para a segurança e privacidade dos dados. A incerteza sobre o destino da informação, as fragilidades em torno do consentimento e a crescente concentração de poder num número reduzido de grandes players compõem um cenário que exige vigilância e responsabilidade. Proteger os dados não é apenas uma obrigação legal, mas um imperativo estratégico e ético. Numa era em que a informação é o ativo mais valioso, saber para onde ela vai e quem a controla é tão importante como a própria tecnologia que a processa.
O mês da cibersegurança acaba, mas a sua segurança digital não tira férias. A boa notícia é que não precisa de ser especialista para estar protegido—precisa, sim, de alguns hábitos consistentes e de uma dose saudável de desconfiança.
Reforce a segurança digital da sua empresa com as soluções da PwC
Com os nossos serviços de Cibersegurança, antecipe ameaças, fortaleça a resiliência digital da sua empresa e assegure a continuidade do negócio.
Sabe como potenciar o seu negócio através da IA? Explicamos-lhe tudo.
Com a PwC, descubra novos caminhos para potenciar a transformação digital da sua organização. Aproveite o poder da IA.
Contacte-nos
