En seguimiento al programa educativo de ARIA Summit 2026, evento magno sobre IA que tuvo lugar en JW Marriott Mexico City Reforma este 4 de junio, se efectuó el Panel 2 “IA + Ciberseguridad consciente: protegiendo con ética, soberanía y regeneración”; el cual se erigió como un espacio de reflexión crítica y lejos de ser una charla técnica más sobre firewalls o protocolos de cifrado, la conversación liderada por la moderadora Fabiola Peña Ahumada, gerente regional de México y América Central de ALAI, se centró en la esencia misma de nuestra relación con las máquinas: la conciencia humana frente al avance exponencial del algoritmo.
Desde el primer minuto, quedó claro que la inteligencia artificial no es simplemente un cambio de herramienta, sino, en palabras de los expertos, una «transición cognitiva» que obliga a las organizaciones a replantearse no solo su infraestructura, sino su propia identidad y valores éticos.
El Desafío de una Sola Palabra: Entre el Discernimiento y la Resiliencia
Para abrir el debate, la moderadora lanzó un reto a los panelistas: definir el principal desafío de la IA en una sola palabra. Las respuestas dibujaron un mapa de las preocupaciones actuales de la industria: «Discernimiento» para evaluar la viabilidad de la información arrojada por la IA; «Evolución» para colaborar con la tecnología; «Resiliencia» para mantener las operaciones ante cualquier ataque; y, de manera crucial, «Gobernanza».
Luis Miguel Dena Escalera, CEO de Cyber Black México y presidente de Grupo BlackIND, introdujo un concepto que resonaría durante todo el panel: el fin de la transformación digital para dar paso a algo mucho más profundo.
“Si no tenemos gobernanza para desarrollar nuestro proceso de implementación, de adaptación, de seguimiento, de educación, vamos a tener un grave problema, porque esto no va a un tema de transformación digital, eso ya quedó atrás. Hoy estamos en un tema de transición, de transformación cognitiva en la persona, en el equipo, en la organización”.
Un punto de consenso absoluto entre los panelistas fue que el mayor riesgo en la adopción de la IA no reside en los «fierros» o en el código, sino en las personas. Existe el peligro de que la humanidad delegue en exceso su capacidad de decisión, confiando ciegamente en datos que podrían estar fuera de contexto o incluso «envenenados».
Lorena Bravo, responsable de Seguridad y Transformación para Google Cloud, alertó sobre los riesgos operativos y reputacionales que surgen cuando los algoritmos actúan bajo criterios desconocidos por sus creadores.
“¿Qué pasa si un día te encuentras con que tu algoritmo, tu IA de repente te encuentras que reclutó personas, pero no sabes bajo qué criterio lo hizo, o aprobó tarjetas de crédito o de repente cambió los precios dentro de la plataforma del e-commerce que tienes? … Hay un riesgo operativo, hay un riesgo reputacional”.
Por su parte, Ricardo A. Darling, responsable de la Estrategia de Ciberseguridad en C3NTRO Telecom, subrayó que la IA no se rebelará por voluntad propia, sino que el riesgo proviene de la interpretación humana errónea.
“Yo creo que la inteligencia artificial no se va a rebelar contra nosotros. Más bien lo que va a pasar es que las personas utilizan la información de la inteligencia artificial de manera fuera de contexto y entonces confiar demasiado en las decisiones que la inteligencia artificial nos está arrojando”.
Los Cinco Pilares de una IA Sostenible y Segura
Para aterrizar la filosofía en la práctica, Juan Enrique Miranda Hernández, CTO de Huawei Cloud México, desglosó una arquitectura de cinco pilares fundamentales que toda organización debe cumplir para que su estrategia de IA no colapse bajo la presión del mercado o la ciberdelincuencia:
- Fuente de los datos: garantizar la veracidad y disponibilidad oficial de la información.
- Infraestructura escalable: contar con una nube flexible y segura.
- Seguridad y soberanía: resguardar la información y definir claramente quién tiene acceso.
- Estándares abiertos: evitar la dependencia tecnológica de un solo fabricante (interoperabilidad).
- Gobernanza: monitorear y auditar el uso de las herramientas para generar certidumbre.
La Trampa del «Shadow AI» y la Confianza Basada en Datos
Uno de los momentos más reveladores del panel fue la discusión sobre la confianza. Ricardo Darling relató una anécdota donde los reportes financieros de una empresa no coincidían con los generados por una IA. El problema no era el algoritmo, sino la «basura» de datos (información no normalizada) con la que se alimentaba.
Esto llevó a Erik Moreno Sánchez a advertir sobre el riesgo del Shadow AI, un fenómeno donde los empleados utilizan herramientas de IA externas (como agentes públicos) para procesar datos corporativos sensibles sin el control del departamento de ciberseguridad.
“Para empresas medianas e incluso grandes debería de ser este riesgo en torno a la falta sí de gobernanza e incluso yo le agregaría de visibilidad porque… seguramente no están utilizando el agente corporativo en el mejor de los casos que existen y si no realmente estamos utilizando un agente que cumpla con las normas de seguridad que necesita la organización y ahí es un riesgo subestimado”.
Soberanía digital y la guerra sin fronteras
Luis Miguel Dena elevó la conversación al plano geopolítico. Recordó que el ciberespacio no tiene fronteras y que la soberanía digital de una nación o empresa depende de su capacidad de resiliencia operacional. Según Dena, la pregunta ya no es si seremos hackeados, sino qué tan rápido podemos recuperarnos.
“Entendemos perfectamente cómo empezó la geopolítica de nuestro mundo en una guerra primero terrestre, después en una guerra naval, nos fuimos a la parte aérea, después a la parte espacial… Hoy tenemos una guerra en el ciberespacio y esa guerra del ciberespacio no tiene fronteras, no hay soberanía”.
Hacia el 2031: ¿valores o algoritmos?
Al proyectar el futuro hacia el año 2031, los expertos se mostraron más preocupados por las malas decisiones humanas asistidas por IA que por los ataques automatizados en sí mismos. La IA está avanzando a una velocidad mayor que los mecanismos para normarla, similar a como los primeros automóviles no tenían cinturones de seguridad.
Juan Enrique Miranda cerró con una reflexión sobre la responsabilidad de filtrar los resultados de la tecnología.
“Sí puede ser peor el no saberla usar, es decir, te manda un resultado y tú lo pasas tal cual. Si no tienes esta, digamos ética o estos valores que se comentan, el daño puede ser todavía peor que un ataque generado por la inteligencia artificial”.
Lorena Bravo concluyó con un llamado a la acción práctica, ofreciendo becas para certificar a más profesionales en el desarrollo de agentes bajo un framework de responsabilidad.
Así, el segundo panel de ARIA Summit dejó una lección clara: en un mundo donde la IA puede procesar trillones de datos en segundos, el discernimiento humano, basado en valores y ética, sigue siendo el único firewall inquebrantable. La ciberseguridad ya no es solo una cuestión de bits, sino de conciencia colectiva.
Imágenes: Antonio Soto Feria.
TE PUEDE INTERESAR: Healthy Cities: caminar para transformar las ciudades
