La GenAI se está convirtiendo en una herramienta esencial en las operaciones comerciales. En este artículo, analizamos qué tipo de medidas deberían implementar las empresas para mitigar los riesgos emergentes que puedan surgir.
Para las empresas, la Inteligencia Artificial Generativa (GenAI) es tan emocionante como intimidante. Indudablemente, GenAI puede proporcionar una ventaja competitiva, acelerando las operaciones, por ejemplo. Pero esta tecnología también plantea nuevos riesgos para la privacidad de los datos, la propiedad intelectual y la toma de decisiones acertadas. Mientras las empresas buscan cada vez más aprovechar las nuevas oportunidades que ofrece la IA, muchas luchan al mismo tiempo por comprender y gestionar el panorama completo de riesgos en el que operan.
Una investigación de 2023 de Riskonnect reveló que, aunque el 93% de las empresas encuestadas eran conscientes de los peligros relacionados con la IA, solo el 17% había informado a su personal o implementado alguna capacitación, y solo el 9% afirmó que su organización estaba preparada para estos riesgos.[1]
Para las empresas que quieran experimentar con GenAI de forma segura, hemos compilado una lista de verificación de siete puntos para mitigar esos riesgos:
Elige tu herramienta
Muchas herramientas de IA capturan los datos de entrada para sus propios procesos de aprendizaje automático. Asegúrate de que la que selecciones cumpla con los estándares de confidencialidad del cliente y seguridad de la información.
Haz un análisis detallado
Cuando selecciones proveedores de terceros que tendrán acceso a tus datos y los de tus clientes, comprueba sus medidas de seguridad en IA.
Comprueba como son tus datos
Mantén un registro de qué datos tienes, su calidad, valor y dónde se almacenan.
- · ¿Son tus datos relevantes y adecuados para tus necesidades? ¿Son confiables?
- · ¿Necesitas fuentes adicionales y, de ser así, cuáles?
- · ¿Están los datos almacenados en silos?
- · ¿Han sido corrompidos o filtrados?
Debes incluir una estrategia detallada de datos en tu plan de gestión de riesgos de IA, así como utilizar una diversidad de fuentes para mitigar los riesgos de sesgo.
Perfecciona tus políticas
- · Mantén una gestión adecuada y así como un control a la hora de actualizar las políticas y procedimientos.
- · Incluye la IA en tu registro de riesgos.
- · Actualiza tu documentación sobre uso aceptable para especificar qué herramientas de IA se pueden usar, en qué dispositivos y con qué fines.
- · Revisa los procesos de supervisión y asegúrate de que los resultados asistidos por IA sean revisados por una persona formada en riesgos.
- · Prueba la seguridad de tus datos regularmente, utilizando agencias independientes de confianza para evaluar vulnerabilidades. Incluye el mal uso de la IA en tus procesos disciplinarios.
Evita las brechas
- · Usa autenticación multifactor (MFA) y certificados digitales para asegurar las comunicaciones.
- · Configura canales solo internos para que los compañeros compartan documentos.
- · Para acciones importantes, como transferencias bancarias de alto valor, establece un proceso que requiera que la operación sea verificada a través de un canal de comunicación seguro que no sea iniciado por el solicitante.
Educa a tus empleados
- · La formación regular es esencial para ayudar a evitar las brechas.
- · Los empleados deben estar familiarizados con las herramientas de IA que la empresa ha aprobado para su uso, así como los flujos de trabajo, procesos y controles de riesgo asociados.
- · También deben ser conscientes de las implicaciones más importantes. Cuando se usa inapropiadamente, la IA puede llevar a la replicación de errores y al refuerzo de sesgos. Por lo tanto, las habilidades de evaluación crítica son cruciales para identificar errores, o sesgos. Esto debe complementarse con formación en IA y gestión de datos.
- · Los empleados también deben estar alerta a los "deep fakes" y cómo los criminales pueden usar IA, ya que esto afecta a la ciberseguridad.
Adquiere una cobertura apropiada
Tener una póliza de seguro cyber no solo ayuda a las empresas a transferir los riesgos emergentes. También les brinda acceso a una gama de servicios asociados y asesoramiento experto para protegerse mejor y, en caso de un incidente, recuperarse más rápidamente.
Al tomar estas medidas, las empresas deberían sentirse lo suficientemente seguras como para experimentar con IA generativa, implementando las innovaciones que sean adecuadas para ellas y sus clientes.
[1] https://riskonnect.com/content-library/new-generation-risk-report/?portfolioCats=90