Por Kim Alderman, Directora del Laboratorio de Innovación en IA, Riskonnect, Inc.
La inteligencia artificial está transformando los negocios, y la gestión de riesgos no es una excepción. La implantación de nuevas tecnologías ofrece un montón de oportunidades incre íbles para mejorar la capacidad de evaluación de riesgos y aumentar la eficiencia. Pero la IA también conlleva toda una red de implicaciones medioambientales, sociales y de gobierno a las que debes anticiparte.
Consideraciones medioambientales: Los costes ocultos de la innovación
El impacto medioambiental de la IA tiene matices. Los sistemas de IA son fantásticos para ayudar a optimizar el uso de los recursos y reducir los residuos, pero vienen con su propio bagaje medioambiental. ¿Quieres comprobarlo? Entrenar un solo modelo de IA de lenguaje amplio consume tanta electricidad como 25 hogares estadounidenses en un año. Eso sin contar la huella de carbono de la fabricación de todo el hardware necesario o el funcionamiento de esos enormes centros de datos. Si añadimos la energía necesaria para crear una respuesta, el coste aumenta aún más.
Para los gestores de riesgos, esto crea un difícil equilibrio entre los increíbles beneficios medioambientales de la IA -mejor gestión de los recursos, mayor eficiencia, reducción de los residuos- y los costes medioambientales. Esto es especialmente crucial ahora que las organizaciones se enfrentan a una creciente presión para reducir drásticamente las emisiones de carbono y alcanzar los objetivos de sostenibilidad.
La conclusión es que hay que dimensionar bien. Por muy convincentes que sean los casos de uso de la IA, muchas veces no es la tecnología adecuada para el problema. Como señaló una vez el Wall Street Journal, recurrir siempre al modelo lingüístico más grande es como utilizar un Lamborghini para repartir una pizza.
Impacto Social: El lado humano de la ecuación
Las implicaciones sociales de la IA representan algunos de los mayores retos.
Privacidad y seguridad de los datos. Hoy en día, las organizaciones nadan en datos, y la IA los engulle por terabytes. ¿El reto? Utilizar todos estos datos de forma responsable, manteniéndolos seguros y privados. Tienes que equilibrar las asombrosas perspectivas que ofrece la IA con los riesgos muy reales de violación de la privacidad y los quebraderos de cabeza normativos.
Impacto en la mano de obra. La IA está cambiando la forma de hacer el trabajo, y no a todo el mundo le va a encantar. Sin duda, las herramientas de IA pueden hacer que los equipos sean más productivos y abrir nuevas e interesantes funciones. Pero ésta es la parte difícil: Algunas tareas y trabajos quedarán obsoletos. Algunos grupos se verán más afectados que otros, sobre todo en funciones más fáciles de automatizar. Los gestores de riesgos deben pensar detenidamente en cómo gestionar este cambio. No se trata sólo de implantar nuevas tecnologías. Se trata de cuidar de tu gente y asegurarte de que eres responsable con estos cambios.
Prejuicios e imparcialidad. He aquí una verdad incómoda: los sistemas de IA pueden empeorar los sesgos existentes si no se tiene cuidado. Estos sistemas aprenden de los datos históricos, y si esos datos reflejan sesgos, ¿adivina qué? La IA también lo hará. No se trata sólo de hacer lo correcto (aunque eso importa); se trata de proteger a tus organizaciones de graves riesgos operativos y de reputación, especialmente en áreas sensibles como la contratación, los préstamos y el servicio al cliente.
La conclusión es que hay que recordar que la IA no es sólo cuestión de GPU y redes neuronales, sino de cómo puede funcionar para las personas. Considera los efectos sobre los empleados, los clientes y la sociedad en general, y recuerda que «un gran poder conlleva una gran responsabilidad».
Retos de gobernanza: Mantener la IA bajo control
El mayor reto podría ser asegurarse de que los sistemas de IA se mantienen en el buen camino y hacen lo que se supone que deben hacer. Esto es en lo que hay que centrarse:
Conseguir la estructura adecuada. Establece líneas claras de responsabilidad para tus sistemas de IA. ¿Quién vigila las entradas y salidas? ¿Quién interviene cuando algo se tuerce? A medida que estos sistemas se hacen más complejos y autónomos, tener respuestas claras a estas preguntas resulta crucial. Recuerda que un ordenador nunca va a asumir la responsabilidad de una decisión, por lo que necesitas una estructura para supervisar unos sistemas a menudo opacos.
Mantenerse en el lado correcto de la normativa. El cambiante panorama normativo de la IA es difícil de seguir. Por ejemplo, la Ley de IA de la UE establece nuevas normas que deben cumplirse. Tendrás que anticiparte a estos cambios y asegurarte de que tus implementaciones de IA no te meten en problemas.
Conseguir que la junta se ponga de acuerdo. Es importante ayudar a los consejos de administración y a otros dirigentes a comprender lo que está en juego con la IA. Eso significa que tienes que ser bueno traduciendo los riesgos técnicos de la IA a términos empresariales que tengan sentido para los líderes empresariales.
La conclusión es que la gobernanza de la IA es un deporte de equipo. Reunir a los distintos departamentos y partes interesadas es fundamental para una defensa y ataque de cobertura total.
Éste es tu plan de juego
- Tómate en serio la evaluación de riesgos de la IA.
- Comprende el impacto medioambiental de tus sistemas de IA.
- Piensa en cómo afecta tu IA a tu gente.
- Asegúrate de que tu gobernanza puede hacer frente a los retos específicos de la IA.
- Mide lo que importa.
- Establece métricas claras para el seguimiento del impacto ESG de la IA.
- Crea sistemas de alerta temprana para detectar los problemas antes de que se conviertan en una crisis.
- Realiza revisiones periódicas de tus sistemas de IA.
- Rompe esos silos.
- Trabaja codo con codo con tus equipos de TI, RRHH y sostenibilidad.
- Mantente en contacto con expertos externos que puedan ver cosas que tú podrías pasar por alto.
- Mantén abiertas esas líneas de comunicación con los reguladores.
- Sigue aprendiendo.
- Asegúrate de que tus equipos de riesgos comprenden realmente la IA y sus implicaciones ESG.
- Mantente al día de los cambios normativos.
- Corre la voz sobre los riesgos ASG relacionados con la IA en toda tu organización.
Mirando hacia delante: ¿Qué hay a la vuelta de la esquina?
La intersección entre IA y ESG no se detiene. Esto es lo que hay que ver:
Mejores herramientas para una IA responsable: ¿las buenas noticias? Las nuevas tecnologías y métodos facilitan la gestión del impacto ESG de la IA. Piensa en métodos de entrenamiento más eficientes energéticamente para los modelos de IA, mejor detección de sesgos y herramientas de gobernanza más inteligentes.
Más normas: El panorama normativo rara vez permanece igual durante mucho tiempo, y es probable que la normativa mundial sobre IA siga haciéndose más compleja. Mantente ágil y preparado para adaptarte a medida que surjan nuevas normas.
Aumento de las expectativas: Todo el mundo, desde los inversores a los clientes y los empleados, espera que la organización utilice la IA de forma responsable. Satisfacer estas expectativas al tiempo que se mantienen las operaciones sin problemas va a ser clave.
Gestionar el impacto ESG de la IA requerirá habilidad, concentración y ajustes constantes. Pero hacerlo bien es crucial para el éxito futuro de tu organización. Los gestores de riesgos se encuentran en una posición única para ayudar a superar estos retos y aprovechar al máximo el increíble potencial de la IA.
Hay mucho en juego, pero también muchas oportunidades. Aquellos que puedan equilibrar eficazmente los riesgos y beneficios de la IA al tiempo que gestionan las consideraciones ASG serán los que lideren el avance hacia el futuro. No será fácil, pero las cosas más importantes rara vez lo son.
Para saber más sobre la gestión de los riesgos de la IA, descarga nuestro libro electrónicoGestión de riesgos tecnológicos: De la detección a la protección, y echa un vistazo al software de gestión de riesgos informáticos de Riskonnect.
