A IA generativa – como o ChatGPT e o Bard – é utilizada por milhões de pessoas para criar apresentações de vendas, redigir e-mails e até escrever piadas. Embora as possibilidades de as empresas aplicarem a inteligência artificial para aumentar a produtividade – e a rentabilidade – pareçam intermináveis, chegou a altura de instituir a gestão de riscos da IA para colocar barreiras que equilibrem o valor e os riscos deste fenómeno de crescimento intensivo.

A IA generativa refere-se a ferramentas poderosas como o GPT-4 e o Amazon CodeWhisperer, bem como a aplicações comuns como a previsão de texto no correio eletrónico. Consegue criar conteúdos, corrigir a gramática, resumir informações e escrever código. Ferramentas especializadas de IA estão a ser utilizadas para diagnosticar doenças e descobrir novos medicamentos. Embora a inteligência artificial, de alguma forma, já exista há anos, a IA atual está facilmente disponível, não requer conhecimentos de programação e pode executar várias tarefas em simultâneo.

As pessoas não se fartam deste brinquedo novo e brilhante. Só o ChatGPT ganhou mais de um milhão de utilizadores activos nos seus primeiros dois meses. Para as empresas, a IA apresenta novas oportunidades para obterem uma vantagem competitiva. Pode automatizar, aumentar e acelerar os processos de trabalho. E pode expandir as tuas capacidades e alcance ao reimaginar a forma como o trabalho é feito.

No entanto, a IA não é infalível. As notícias estão cheias de relatos de chatbots que se tornaram desonestos, oferecendo informações falsas, respostas aleatórias e réplicas sarcásticas aos utilizadores. A Alphabet – a empresa-mãe da Google – perdeu 100 mil milhões de dólares em valor de mercado depois de o seu mais recente chatbot, o Bard, ter partilhado informações incorrectas durante um vídeo promocional.

As práticas de gestão do risco da IA ajudar-te-ão a abraçar cuidadosamente a promessa da IA generativa, ao mesmo tempo que protegem a tua empresa dos perigos. E o tempo é essencial.

Riscos de IA a que deves estar atento

A IA generativa pode expor-te a uma variedade de riscos – e para obteres os melhores resultados, deves geri-los desde o início. Aqui estão cinco riscos a que deves estar atento:

  1. Preconceito. Os modelos de IA são treinados em conjuntos de dados que podem estar distorcidos ou não serem totalmente representativos dos grupos que servem – em parte porque foram desenvolvidos por seres humanos que têm os seus próprios preconceitos naturais. O potencial de perpetuação da discriminação pode ter implicações preocupantes em grande escala. Por exemplo, descobriu-se recentemente que um algoritmo de justiça criminal utilizado na Flórida classificava erradamente os arguidos afro-americanos como indivíduos de “alto risco” duas vezes mais do que os arguidos brancos. Também houve casos de ferramentas de IA que ofereceram às mulheres limites de cartão de crédito inferiores aos dos seus maridos.
  2. Privacidade. Os sistemas de IA recolhem frequentemente informações sensíveis, como endereços IP e actividades de navegação, que podem levar à identificação de indivíduos. Se estes dados forem mal tratados ou divulgados numa violação de dados, os danos podem ser substanciais. Além disso, o aumento da tecnologia de falsificação profunda e o seu poder de enganar acrescenta outra camada de preocupação. As falsificações profundas podem criar imagens e vozes convincentes de pessoas reais sem o seu consentimento.
  3. Segurança. Com ferramentas baseadas em IA, os criminosos podem aperfeiçoar os seus e-mails de phishing, acelerar os ciberataques e gerar malware cada vez mais sofisticado. As consequências destas violações de segurança podem ser graves, resultando em dados comprometidos, perdas financeiras e danos significativos à reputação.
  4. Propriedade intelectual. As ferramentas de IA são treinadas utilizando grandes quantidades de dados, que podem incluir materiais legalmente protegidos. A violação de direitos de autor, marcas comerciais ou patentes pode ocorrer quando os modelos de IA geram conteúdos que utilizam materiais protegidos sem dar o devido crédito.
  5. Transparência. O conteúdo produzido pela IA não pode, muitas vezes, ser explicado. Pode dar respostas diferentes à mesma pergunta. Além disso, os conteúdos gerados por IA não citam as fontes, o que torna difícil verificar a exatidão e a fiabilidade das informações fornecidas. Os modelos de IA também são conhecidos por alucinarem, gerando conteúdos que parecem plausíveis mas são totalmente fictícios.

Como atenuar os riscos da IA

Algumas organizações, como a JPMorgan, proíbem a utilização do ChatGPT no local de trabalho, enquanto outras, como a Amazon e a Walmart, pediram aos funcionários que tivessem cuidado ao utilizar a IA. É importante estabelecer limites com a gestão de riscos da IA para ponderar o valor das ferramentas de IA em relação aos possíveis riscos.

Para mitigar os teus riscos, começa por identificar as ferramentas de IA que melhor se adequam às tuas necessidades e determina se são aplicações prontas a usar ou soluções personalizadas, uma vez que estas terão riscos diferentes. Estabelece restrições de utilização claras, limites éticos e diretrizes. Além disso, certifica-te de que:

  • Compreende de onde vêm os teus dados para minimizar o potencial de enviesamento.
  • Mantém a conformidade com os requisitos regulamentares, especialmente no que diz respeito à privacidade dos dados e aos conteúdos legalmente protegidos.
  • Dá prioridade às medidas de cibersegurança com medidas sólidas de privacidade de dados, como a anonimização e a encriptação de dados.
  • Estabelece controlos, monitoriza a eficácia e ajusta-os conforme necessário.

É mais fácil e mais barato implementar estas medidas desde o início do que voltar atrás e fazer correcções mais tarde. E lembra-te de reavaliar regularmente as ferramentas e aplicações que escolhes, uma vez que a tecnologia está a mudar muito rapidamente.

Equilibra o risco e o valor com a Gestão do Risco da IA

A IA tem sido utilizada há anos na gestão de riscos para tratar eficazmente os sinistros, prever fraudes e avaliar os riscos. No entanto, a IA generativa atual apresenta desafios e oportunidades sem precedentes. O ambiente em evolução exige uma ação rápida, mas calculada, para encontrar um equilíbrio entre risco e valor.

Para acompanhar este ambiente dinâmico, reúne todas as partes interessadas para identificar e dar prioridade aos casos de utilização de IA de acordo com a tua tolerância geral ao risco – e certifica-te de que tens estruturas implementadas para mitigar o excesso de exposição. Maximiza o valor da IA, assegurando um acesso fluido às fontes de dados em todas as funções, e estabelece práticas de governação fortes para uma responsabilidade e responsabilização transparentes.

As mais recentes ferramentas de IA têm um enorme potencial para transformar as tuas operações. Embora possa ser tentador aproveitar rapidamente este poder, pensa antes de agir. Adota uma abordagem de risco para equilibrar a necessidade de agilidade com controlos eficazes.

À medida que as possibilidades e implicações da IA generativa continuam a desenvolver-se a uma velocidade vertiginosa, é crucial desenvolver um conhecimento profundo da tecnologia que estás a utilizar. Olha para o panorama geral, considera as tuas prioridades e estabelece diretrizes de gestão de riscos de IA para navegar no cenário em mudança e proteger o teu negócio.

Para saber mais sobre como descobrir os riscos que são difíceis de ver, faz o download do nosso whitepaper, The Hunt for Hidden Risk, e confere o software ERM da Riskonnect da Riskonnect.