Por Kim Alderman, Diretor, Laboratório de Inovação de IA, Riskonnect, Inc.
A inteligência artificial está a transformar o negócio – e a gestão de riscos não é exceção. A implementação de novas tecnologias oferece muitas oportunidades fantásticas para melhorar as capacidades de avaliação de riscos e aumentar a eficiência. Mas a IA também traz consigo toda uma teia de implicações ambientais, sociais e de governação que tens de antecipar.
Considerações ambientais: Os custos ocultos da inovação
O impacto ambiental da IA é matizado. Os sistemas de IA são fantásticos para ajudar a otimizar a utilização de recursos e a reduzir os resíduos, mas trazem consigo a sua própria bagagem ambiental. Queres ver a realidade? Treinar apenas um modelo de IA de linguagem grande consome tanta eletricidade como 25 lares americanos num ano. Isto sem contar com a pegada de carbono resultante do fabrico de todo o hardware necessário ou do funcionamento dos enormes centros de dados. Acrescenta a energia necessária para criar uma resposta e o custo aumenta ainda mais.
Para os gestores de risco, isto cria um equilíbrio complicado entre os incríveis benefícios ambientais da IA – melhor gestão de recursos, maior eficiência, redução de resíduos – e os custos ambientais. Isto é especialmente crucial agora, uma vez que as organizações enfrentam uma pressão crescente para reduzir as emissões de carbono e atingir os objectivos de sustentabilidade.
A lição a tirar daqui é que deves dimensionar corretamente. Por muito convincentes que sejam os casos de utilização da IA, há muitas vezes em que não é a tecnologia certa para o problema. Como o Wall Street Journal referiu uma vez, optar sempre pelo maior modelo linguístico de grande dimensão é como utilizar um Lamborghini para entregar uma pizza.
Impacto social: O lado humano da equação
As implicações sociais da IA representam alguns dos maiores desafios.
Privacidade e segurança dos dados. Atualmente, as organizações estão a nadar em dados e a IA está a engoli-los aos terabytes. O desafio? Utilizar todos estes dados de forma responsável, mantendo-os seguros e privados. Tens de equilibrar os fantásticos conhecimentos oferecidos pela IA com os riscos muito reais de violações de privacidade e dores de cabeça regulamentares.
Impacto na força de trabalho. A IA está a mudar a forma como o trabalho é feito, e nem todos vão gostar. É claro que as ferramentas de IA podem tornar as equipas mais produtivas e abrir novas funções interessantes. Mas aqui está a parte difícil: Algumas tarefas e empregos tornar-se-ão obsoletos. Certos grupos serão mais afectados do que outros, especialmente em funções que são mais fáceis de automatizar. Os gestores de risco têm de refletir cuidadosamente sobre a forma de lidar com esta mudança. Não se trata apenas de implementar novas tecnologias. Trata-se de cuidar do teu pessoal e de garantir que és responsável por estas mudanças.
Preconceito e equidade. Eis uma verdade incómoda: os sistemas de IA podem agravar os preconceitos existentes se não tiveres cuidado. Estes sistemas aprendem com dados históricos e, se esses dados reflectirem preconceitos, adivinha? A IA também o fará. Não se trata apenas de fazer o que está certo (embora isso seja importante); trata-se de proteger as tuas organizações de sérios riscos operacionais e de reputação, especialmente em áreas sensíveis como a contratação, os empréstimos e o serviço ao cliente.
A conclusão aqui é lembrar que a IA não é apenas sobre GPUs e redes neurais, mas como ela pode funcionar para as pessoas. Considera os efeitos nos funcionários, nos clientes e na sociedade em geral, e lembra-te que “com grande poder vem grande responsabilidade”.
Desafios da governação: Manter a IA sob controlo
O maior desafio pode ser garantir que os sistemas de IA se mantêm no caminho certo e fazem o que é suposto fazerem. Eis aquilo em que te deves concentrar:
Faz a estrutura correta. Estabelece linhas claras de responsabilidade para os teus sistemas de IA. Quem vigia as entradas e saídas? Quem intervém quando algo corre mal? À medida que estes sistemas se tornam mais complexos e autónomos, ter respostas claras a estas questões torna-se crucial. Lembra-te que um computador nunca vai assumir a responsabilidade por uma decisão, por isso precisas de uma estrutura para supervisionar sistemas muitas vezes opacos.
Mantém-te do lado certo do regulamento. É difícil acompanhar a evolução do panorama regulamentar da IA. Por exemplo, a Lei da IA da UE estabelece novas normas que têm de ser cumpridas. Terás de te manter à frente destas alterações e garantir que as tuas implementações de IA não te colocam em maus lençóis.
Conseguir a adesão da direção. É importante ajudar os conselhos de administração e outros líderes a compreender o que está em jogo com a IA. Isso significa que tens de ser bom a traduzir os riscos técnicos da IA em termos comerciais que façam sentido para os líderes empresariais.
A conclusão aqui é que a governação da IA é um desporto de equipa. Reunir diferentes departamentos e partes interessadas é fundamental para uma defesa e um ataque com cobertura total.
Aqui está o teu plano de jogo
- Leva a sério a avaliação dos riscos da IA.
- Compreende o impacto ambiental dos teus sistemas de IA.
- Pensa na forma como a tua IA afecta os teus colaboradores.
- Certifica-te de que a tua governação consegue lidar com os desafios específicos da IA.
- Mede o que interessa.
- Estabelece métricas claras para acompanhar o impacto ESG da IA.
- Cria sistemas de alerta precoce para detetar problemas antes que estes se transformem numa crise.
- Efectua controlos regulares dos teus sistemas de IA.
- Acaba com esses silos.
- Trabalha em conjunto com as equipas de TI, RH e sustentabilidade.
- Mantém-te em contacto com especialistas externos que podem ver coisas que te escapam.
- Mantém as linhas de comunicação abertas com os reguladores.
- Continua a aprender.
- Certifica-te de que as tuas equipas de risco compreendem realmente a IA e as suas implicações ESG.
- Mantém-te atualizado sobre as alterações regulamentares.
- Divulga os riscos ESG relacionados com a IA na tua organização.
Olha para o futuro: O que é que te espera?
A intersecção entre IA e ESG não está parada. Eis o que tens de ver:
Melhores ferramentas para uma IA responsável: as boas notícias? As novas tecnologias e métodos facilitam a gestão do impacto ESG da IA. Pensa em métodos de formação mais eficientes em termos energéticos para modelos de IA, melhor deteção de enviesamentos e ferramentas de governação mais inteligentes.
Mais regras: O panorama regulamentar raramente permanece o mesmo durante muito tempo e é provável que a regulamentação global da IA continue a tornar-se mais complexa. Mantém-te ágil e pronto para te adaptares à medida que as novas regras são implementadas.
Aumento das expectativas: Todos, desde investidores a clientes e funcionários, esperam que a organização utilize a IA de forma responsável. Satisfazer estas expectativas, mantendo as operações a funcionar sem problemas, vai ser fundamental.
Gerir o impacto ESG da IA requer competência, concentração e ajustes constantes. Mas fazer isto corretamente é crucial para o sucesso futuro da tua organização. Os gestores de risco estão numa posição única para ajudar a enfrentar estes desafios, tirando o máximo partido do incrível potencial da IA.
Os riscos são elevados – mas também o são as oportunidades. Aqueles que conseguirem equilibrar eficazmente os riscos e as recompensas da IA, ao mesmo tempo que gerem as considerações ESG, serão os que liderarão o futuro. Não será fácil, mas, por outro lado, as coisas mais importantes raramente o são.
Para mais informações sobre a gestão de riscos de IA, descarrega o nosso ebook,Technology Risk Management: Detection to Protection, e vê o software de gestão de riscos de TI da Riskonnect.
