Webinar del programa “IA para todo México” – 1er ciclo de conferencias
Ver todos los webinars del 1 ciclo de conferencias.
Webinar: IA ética y eficaz: Construyamos un marco de gobernanza en la empresa – 29 de Abril 2025 – 9 a 11am
Temas abordados durante esta sesión:
1. Propósito y contexto
- Objetivo central — Proponer cómo construir gobernanza de IA para maximizar beneficios y minimizar riesgos en entornos empresariales.
- Enfoque — Combina principios, supervisión humana y una guía práctica para aterrizarlo en políticas y estructuras.
2. Por qué importa la gobernanza de IA
- Capacidades ampliadas — La IA acelera creación de contenido, código, análisis y automatización.
- Riesgos inherentes — Riesgo de desinformación, sesgos, privacidad de datos, propiedad intelectual y dependencia excesiva.
- Necesidad crítica — Definir límites, responsabilidades y controles para un uso seguro y efectivo.
3. Principios y beneficios esperados
- Mitigación de riesgos — Reduce incidentes y exposición por mal uso o fallas.
- Confianza — Aumenta confianza de usuarios, clientes y áreas internas.
- Innovación responsable — Permite escalar la IA con guardrails claros.
- Cumplimiento — Facilita el alineamiento con normativas y auditorías.
- Valor de negocio — Optimiza el retorno al establecer reglas y prioridades.
4. Supervisión humana (“Human in the loop”)
- Rol del humano — Validar precisión, detectar/corregir sesgos, asegurar alineación con objetivos, y tomar decisiones finales en casos críticos.
- Uso de IA que cumple con leyes y reglamentos internacionales para protección de datos y que se encuenra regulada como Microsoft 365 Copilot.
- Momentos clave — En diseño y desarrollo, toma de decisiones, despliegue, y monitoreo/mejora continua.
- Niveles de supervisión:
- Antes de ejecutar — Revisión humana de cada decisión.
- Por excepción — Intervención ante anomalías o casos específicos.
- Después de ejecutar — Revisión posterior para control y aprendizaje.
5. Construcción del marco formal de gobernanza
- Marco formal — Traduce principios y supervisión en políticas y procedimientos; da estructura, claridad y consistencia; evoluciona con la tecnología.
- Políticas clave (mencionadas explícitamente) — Uso aceptable, datos/privacidad, seguridad, propiedad intelectual, transparencia.
6. Órgano de gobernanza
- Equipo multidisciplinario — Responsable de desarrollar, implementar y supervisar el marco.
- Posibles formatos — Un Consejo de Gobernanza de IA o integración en estructuras existentes.
- Composición típica — Legal, Cumplimiento, Riesgos, IT/Seguridad, Datos, Negocio, RRHH y Ética.
7. Cierre y síntesis
- Idea fuerza — La gobernanza exige marco formal + políticas + órgano responsable + enfoque práctico.
- Ruta práctica — Empezar por lo urgente, comunicar y iterar conforme se aprende en operación.
Key Takeaways
- La IA amplifica capacidades, pero también riesgos que requieren controles explícitos.
- La supervisión humana debe estar diseñada por niveles y aplicada a lo largo del ciclo de vida.
- Un marco efectivo combina políticas claras y un órgano multidisciplinario con responsabilidades definidas.
- La implementación funciona mejor cuando se prioriza lo crítico, se gestiona el cambio y se mejora continuamente.
