Os gestores de risco estão a ver o valor da IA generativa e a pô-la em prática para os ajudar a fazer o seu trabalho, segundo um inquérito da Riskonnect. As utilizações mais frequentes da IA foram a previsão de riscos (30%), a avaliação de riscos (29%) e o planeamento de cenários e simulações (27%). Mesmo assim, 38% dos inquiridos afirmaram que não estão a utilizar a IA para gerir o risco e não têm planos para o fazer. E, embora uma grande parte das organizações esteja a utilizar a IA para trabalhar de forma mais eficaz, 80% não tomaram medidas para enfrentar as ameaças que a IA representa nas mãos de terceiros, incluindo ataques de fraude impulsionados pela IA. Esta imagem do papel que a IA está a desempenhar na gestão do risco é descrita no relatório 2024 New Generation of Risk da Riskonnect , que inquiriu mais de 200 profissionais de risco, conformidade e resiliência em todo o mundo.
Como a IA está a ser utilizada na gestão de riscos
O inquérito perguntou aos inquiridos: “De que forma é que a tua organização utiliza atualmente ou planeia utilizar a IA na gestão do risco?” Os inquiridos podiam escolher mais do que uma resposta. Para além da previsão, avaliação e planeamento de cenários de risco, as principais utilizações da IA generativa foram:
- Informações sobre ameaças para monitorizar as ameaças ao teu pessoal ou às tuas operações – 25%
- Supera os riscos que não tínhamos considerado anteriormente – 21%
- Detecta transacções e actividades fraudulentas – 21%-
- Cria registos de risco -20%
- Avaliações de risco efectuadas por terceiros – 18%
- Analisa os padrões de comportamento e de acidentes para melhorar a segurança no local de trabalho -17%
- Criar planos de continuidade das actividades -15%
- Racionalização da gestão de sinistros – 13%
Ainda assim, a principal resposta à pergunta foi: “Atualmente, não utilizamos nem planeamos utilizar a IA na gestão de riscos”, citada por 38%. Por um lado, isto significa que existem oportunidades para as organizações melhorarem as suas funções de gestão de riscos, adicionando a IA gen à sua tecnologia. Por outro lado, essas organizações correm o risco de ficar para trás se não embarcarem no comboio da IA gen antes que este chegue demasiado longe. Uma nota mais positiva do inquérito para os profissionais de gestão de riscos: Apenas 5% dos inquiridos disseram que as suas organizações planeavam reduzir o pessoal de gestão de riscos devido à IA.
Não responder aos perigos da IA
Os inquiridos reconheceram a ameaça que a tecnologia de IA pode representar quando utilizada por cibercriminosos. Quando lhes foi pedido que indicassem o risco emergente que esperavam que tivesse o maior impacto nas empresas em 2025, 24% indicaram as ameaças de cibersegurança baseadas em IA, incluindo ransomware, ataques de phishing e deepfakes. Esse risco foi listado à frente de candidatos prováveis como as eleições presidenciais dos EUA, taxas de juro e inflação, aumento das regulamentações governamentais e conflitos globais. Mas esta expetativa não levou a uma preparação extensiva por parte das organizações inquiridas. Apenas 19% estão a oferecer formação para ajudar os funcionários a detetar esquemas de hackers orientados por IA para obter acesso através de truques como fazer-se passar por executivos como parte de um esquema de phishing. Apenas 16% têm uma rubrica orçamental dedicada à mitigação dos riscos da IA. Quase dois terços (65%) não dispõem de uma política para gerir a utilização da IA gen por parceiros e fornecedores, que são cada vez mais vistos como pontos de acesso aos dados de uma empresa. E quase 60% dizem que a liderança não orienta e apoia ativamente as iniciativas e a governação da IA empresarial com planos e estratégias acionáveis. As equipas de gestão do risco também não estão a ser convidadas para a mesa dos executivos para discutir a incorporação da IA nas operações, produtos e ofertas. Apenas 20% são incluídas nessas conversações. Consequentemente, apenas 8% das organizações inquiridas afirmaram estar preparadas para os riscos da IA e da governação da IA.
Defender a utilização da IA na tua organização
À luz destas conclusões, como podes tentar orientar a tua organização nas suas práticas de utilização de IA? Se a tua organização for como os 80% que ainda não tomaram medidas para mitigar os riscos colocados pelos ataques impulsionados pela IA, talvez queiras começar por aí. Afinal, um ciberataque bem sucedido pode prejudicar tão seriamente a capacidade de funcionamento da tua organização que todas as outras considerações se tornam irrelevantes. Procura formas de, no mínimo, fornecer uma boa formação aos funcionários para impedir os hackers de obterem acesso através de métodos alimentados por IA, como deepfakes e phishing. Mas também age rapidamente para mitigar as ameaças de terceiros e sugere um financiamento dedicado a manter a tua organização segura contra as ameaças que os inquiridos esperam que tenham o maior impacto nos seus negócios em 2025. Mesmo assim, uma boa defesa não é suficiente. Também não queres ser como os 38% que não têm intenção de utilizar a IA para a gestão do risco. A utilização de IA generativa pode melhorar a eficiência e o desempenho da gestão de riscos, automatizando tarefas de rotina e fornecendo capacidades analíticas avançadas, permitindo que te concentres em actividades de maior valor e na tomada de decisões estratégicas. Cada vez mais empresas estão a ver o potencial da IA, utilizando-a não para reduzir os custos de pagamento, mas para melhorar várias funções empresariais, incluindo a gestão do risco. Não deverias tu e a tua organização estar entre elas?
Para uma análise completa dos resultados do inquérito, descarrega o relatório The 2024 New Generation of Risk e consulta o novo software de gestão de riscos de TI da Riskonnect.
