Millones de personas utilizan la IA generativa, como ChatGPT y Bard, para crear presentaciones de ventas, redactar correos electrónicos e incluso escribir chistes. Aunque las posibilidades de que las empresas apliquen la inteligencia artificial para aumentar la productividad -y la rentabilidad- parecen infinitas, ahora es el momento de instituir la gestión de riesgos de la IA para poner barandillas que equilibren el valor con los riesgos de este fenómeno de crecimiento intensivo.
La IA Generativa se refiere a potentes herramientas como GPT-4 y Amazon CodeWhisperer, así como a aplicaciones comunes como las predicciones de texto en el correo electrónico. Puede crear contenido, corregir la gramática, resumir información y escribir código. Se están utilizando herramientas especializadas de IA para diagnosticar enfermedades y descubrir nuevos fármacos. Aunque la inteligencia artificial ha existido de alguna forma durante años, la IA actual es fácil de conseguir, no requiere conocimientos de programación y puede realizar múltiples tareas simultáneamente.
La gente no se cansa de este nuevo y brillante juguete. Sólo ChatGPT consiguió más de un millón de usuarios activos en sus dos primeros meses. Para las empresas, la IA presenta nuevas oportunidades de obtener una ventaja competitiva. Puede automatizar, aumentar y acelerar los procesos de trabajo. Y puede ampliar tus capacidades y tu alcance reimaginando cómo se hace el trabajo.
Sin embargo, la IA no es infalible. Las noticias están repletas de relatos de chatbots que se han pasado de la raya, ofreciendo información falsa, respuestas aleatorias y réplicas sarcásticas a los usuarios. Alphabet -la empresa matriz de Google- perdió 100.000 millones de dólares de valor de mercado después de que su último chatbot, Bard, compartiera información inexacta durante un vídeo promocional.
Las prácticas de gestión de riesgos de la IA te ayudarán a abrazar cuidadosamente la promesa de la IA generativa, al tiempo que proteges tu empresa de los peligros. Y el tiempo es esencial.
Riesgos de la IA a tener en cuenta
La IA generativa puede exponerte a diversos riesgos y, para obtener los mejores resultados, querrás gestionarlos desde el principio. Aquí tienes cinco riesgos que debes vigilar:
- Sesgo. Los modelos de IA se entrenan con conjuntos de datos que pueden estar sesgados o no ser totalmente representativos de los grupos a los que sirven, en parte porque fueron desarrollados por seres humanos que tienen sus propios sesgos naturales. La posibilidad de perpetuar la discriminación puede tener implicaciones preocupantes a gran escala. Por ejemplo, recientemente se descubrió que un algoritmo de justicia penal utilizado en Florida clasificaba erróneamente a los acusados afroamericanos como personas de «alto riesgo» con el doble de frecuencia que a los acusados blancos. También se han dado casos de herramientas de IA que ofrecen a las mujeres límites de tarjetas de crédito inferiores a los de sus maridos.
- Privacidad. Los sistemas de IA a menudo recopilan información sensible, como direcciones IP y actividades de navegación, que pueden conducir potencialmente a la identificación de personas. Si estos datos se manejan mal o se filtran en una filtración de datos, el daño podría ser considerable. Además, el auge de la tecnología de falsificación profunda y su poder para engañar añade otro nivel de preocupación. Las falsificaciones profundas pueden crear imágenes y voces convincentes de personas reales sin su consentimiento.
- Seguridad. Con herramientas potenciadas por IA, los delincuentes pueden refinar sus correos electrónicos de phishing, acelerar los ciberataques y generar malware cada vez más sofisticado. Las consecuencias de estas brechas de seguridad pueden ser graves, con el resultado de datos comprometidos, pérdidas económicas y daños significativos a la reputación.
- La propiedad intelectual. Las herramientas de IA se entrenan utilizando grandes cantidades de datos, que pueden incluir materiales protegidos legalmente. La infracción de derechos de autor, marcas registradas o patentes puede producirse cuando los modelos de IA generan contenidos que utilizan materiales protegidos sin dar el crédito adecuado.
- Transparencia. El contenido producido por la IA a menudo no se puede explicar. Puede dar respuestas diferentes a la misma pregunta. Además, el contenido generado por IA no cita las fuentes, lo que dificulta la verificación de la exactitud y fiabilidad de la información proporcionada. También se sabe que los modelos de IA alucinan, generando contenidos que parecen verosímiles pero que son totalmente ficticios.
Cómo mitigar los riesgos de la IA
Algunas organizaciones, como JPMorgan, prohíben el uso de ChatGPT en el lugar de trabajo, mientras que otras, como Amazon y Walmart, han instado al personal a actuar con precaución al utilizar la IA. Es importante establecer barandillas con la gestión de riesgos de la IA para sopesar el valor de las herramientas de IA frente a los posibles riesgos.
Para mitigar tus riesgos, identifica primero las herramientas de IA que mejor se adapten a tus necesidades y determina si se trata de aplicaciones estándar o de soluciones personalizadas, ya que éstas tendrán riesgos diferentes. Establece restricciones de uso, límites éticos y directrices claras. Además, asegúrate de que
- Comprende de dónde proceden tus datos para minimizar la posibilidad de sesgo.
- Mantener el cumplimiento de los requisitos normativos, especialmente en torno a la privacidad de los datos y los contenidos protegidos legalmente.
- Prioriza las medidas de ciberseguridad con medidas sólidas de privacidad de datos, como la anonimización y la encriptación de datos.
- Establece controles, supervisa su eficacia y ajústalos si es necesario.
Es más fácil y barato aplicar estas medidas desde el principio que volver atrás y hacer correcciones más tarde. Y recuerda reevaluar periódicamente las herramientas y aplicaciones que elijas, ya que la tecnología cambia muy deprisa.
Equilibra el riesgo y el valor con la gestión de riesgos de IA
La IA se utiliza desde hace años en la gestión de riesgos para gestionar eficazmente los siniestros, prever el fraude y evaluar los riesgos. Sin embargo, la IA generativa actual presenta retos y oportunidades sin precedentes. La evolución del entorno exige una actuación rápida pero calculada para lograr un equilibrio entre riesgo y valor.
Para seguir el ritmo de este entorno dinámico, reúne a todas las partes interesadas para identificar y priorizar los casos de uso de la IA en consonancia con tu tolerancia general al riesgo, y asegúrate de que dispones de estructuras para mitigar el exceso de exposición. Maximiza el valor de la IA garantizando un acceso fluido a las fuentes de datos en todas las funciones, y establece prácticas de gobierno sólidas para una responsabilidad y rendición de cuentas transparentes.
Las últimas herramientas de IA encierran un inmenso potencial para transformar tus operaciones. Aunque puede resultar tentador aprovechar rápidamente este poder, piensa antes de actuar. Adopta un enfoque de riesgo para equilibrar la necesidad de agilidad con controles eficaces.
A medida que las posibilidades e implicaciones de la IA generativa siguen desarrollándose a una velocidad vertiginosa, es crucial que desarrolles un conocimiento profundo de la tecnología que estás utilizando. Observa el panorama general, considera tus prioridades y establece directrices de gestión de riesgos de la IA para navegar por el cambiante panorama y proteger tu negocio.
Para saber más sobre cómo descubrir los riesgos que son difíciles de ver, descárgate nuestro libro blanco, La caza del riesgo oculto, y echa un vistazo a el software ERM de Riskonnect de Riskonnect.
