TMC Net, 23 de outubro de 2023
A IA generativa, caracterizada pela sua capacidade de criar conteúdo, dados e até texto e imagens semelhantes aos humanos, continua a ganhar destaque em vários sectores. Embora prometa soluções inovadoras, o seu crescimento rápido também traz um novo conjunto de riscos comerciais.
Estes riscos incluem preocupações sobre a utilização indevida de conteúdos gerados por IA para fins de desinformação e fraude, litígios de propriedade intelectual relacionados com trabalhos gerados por IA e as implicações éticas da tomada de decisões baseada em IA. O que é preocupante é o facto de as organizações não estarem sensibilizadas para as ameaças da IA generativa. Escrevi recentemente um artigo sobre isso.
Um novo estudo, publicado pela RiskonnectO estudo da Comissão Europeia, de acordo com o relatório da Comissão Europeia, vai mais longe e revela que apenas 9% das empresas dizem estar preparadas para gerir os riscos associados à utilização de IA generativa dentro da empresa e que apenas 17% dos líderes de risco e conformidade formaram ou informaram formalmente as suas organizações sobre os riscos da utilização de IA generativa.
Na vanguarda, as questões da privacidade dos dados e da cibersegurança são importantes, com 65% das empresas a manifestarem preocupação com a proteção de informações sensíveis e com potenciais ameaças cibernéticas. Além disso, o risco de os funcionários tomarem decisões com base em informações imprecisas geradas pela IA é uma apreensão significativa, que afecta 60% das organizações, destacando a necessidade crítica de garantir a precisão dos dados e a formação dos funcionários.
As preocupações éticas associadas à má utilização da IA por parte dos funcionários e as implicações éticas mais amplas das tecnologias de IA afectam 55% das empresas, exigindo o estabelecimento de directrizes éticas sólidas. A utilização pouco ética da IA pode envolver a manipulação de conteúdos gerados pela IA para fins fraudulentos ou maliciosos, como a geração de críticas falsas, vídeos “deepfake” ou desinformação, que podem minar a confiança e a credibilidade.
Para garantir uma utilização ética da IA, é necessária uma formação sólida dos funcionários e o estabelecimento de directrizes claras para evitar a utilização indevida, defendendo simultaneamente princípios de equidade, transparência e responsabilidade.
O estudo concluiu também que a preparação das empresas para gerir o risco deixa muito a desejar, com 63% a não conseguirem simular os seus piores cenários. Isto é indicativo de uma lacuna na antecipação e atenuação de eventos de risco imprevisíveis. Apenas 5% das organizações se sentem adequadamente preparadas para avaliar, gerir e recuperar de eventos de risco imprevisíveis, o que realça a necessidade de estratégias de gestão de risco abrangentes.
Lê o artigo completo em TMC Net.>>
