Ciudad de México .- Se llevó a cabo el Segundo Conversatorio sobre Inteligencia Artificial (IA) en el Senado de la República, en el que se abordaron los retos y oportunidades de la IA en materia de seguridad pública, ciberseguridad y gestión de riesgos.
Este evento forma parte de un ciclo de seis conversatorios organizados por la Comisión de Inteligencia Artificial, presidida por el Senador Rolando Zapata Bello.
Dijo que en un mundo donde las amenazas digitales y físicas evolucionan a gran velocidad, es fundamental analizar cómo la IA puede fortalecer la prevención y respuesta humana ante estos riesgos, y qué tipo de marcos normativos debemos establecer para alcanzar ese objetivo.”
Durante la sesión, expertos nacionales e internacionales abordaron los retos asociados a la ciberseguridad y los riesgos emergentes del uso de la IA en entornos críticos.
Los especialistas coincidieron en que la IA puede fortalecer la ciberseguridad, pero también amplificar sus riesgos si no se establecen mecanismos de control adecuados. Se destacó la importancia de distinguir los conceptos de ciberseguridad, ciberdefensa y seguridad pública para establecer políticas claras en cada ámbito.
Entre las medidas propuestas por los expertos para evitar el uso erróneo de la IA en ciberseguridad, se mencionaron:
Control de accesos para definir quién puede utilizar herramientas de IA en áreas sensibles. Auditorías continuas sobre algoritmos y decisiones automatizadas que pueden impactar vidas humanas.
El registro de decisiones en materia de seguridad y emergencias para detectar posibles abusos en el uso de la IA. Prevención del “envenenamiento algorítmico” mediante el análisis continuo de los datos de entrenamiento.
Capacitación constante para funcionarios en materia de IA y ciberseguridad.
Se resaltaron también experiencias internacionales como el modelo integral de IA de Singapur, que combina seguridad pública con ciberseguridad, y la herramienta Darktrace del Reino Unido, diseñada para detectar anomalías en redes y responder automáticamente a amenazas.
En materia de seguridad pública y gestión de riesgos, se subrayó la necesidad de analizar grandes volúmenes de datos en tiempo real para anticipar amenazas a una población, por ejemplo, modelando el flujo del agua durante una posible inundación.
Otro tema relevante es implementar protocolos de riesgos que relacionen amenazas físicas con vulnerabilidades digitales en infraestructura crítica.
Desarrollar modelos de IA predictiva que analicen patrones delictivos a partir de bases de datos policiales, videos de vigilancia, reportes ciudadanos y redes sociales, pero sin sesgos en contra de un grupo étnico o socioeconómico.
El Senador Rolando Zapata Bello cerró el conversatorio enfatizando la importancia de un marco normativo sólido.
“La Inteligencia Artificial es una herramienta clave para fortalecer la seguridad ciudadana y la ciberseguridad en México, pero requiere de marcos normativos sólidos, éticos y socialmente responsables. Las ideas expuestas en este conversatorio serán fundamentales para las iniciativas y propuestas legislativas en la materia.”
El segundo conversatorio da continuidad al análisis sobre el impacto de la IA en diversas áreas estratégicas y forma parte de una serie de seis diálogos que se llevarán a cabo hasta finales de abril en el Senado de la República.
Participaron el General Brigadier de Estado Mayor, Oscar Reyes, titular de la Dirección General Científica de la Guardia Nacional;
General Brigadier de Estado Mayor, Salvador Bárcena, Director del Centro de Operaciones del Ciberespacio de la Secretaría de la Defensa Nacional.
Pablo Corona, Presidente de la Asociación Mexicana de Internet (AIMX);
Arturo García, Especialista en Ciberseguridad del Banco de México (BANXICO);
Paul Smale, Oficial de Tecnología, Inteligencia Artificial y Cibernética de la Embajada del Reino Unido en México.
Jesse Golland, Oficial Económico de la Embajada de Estados Unidos en México;
Dr. Adolfo de Anánue, Director del Centro de Ciencia de Datos de la Escuela de Gobierno y Transformación Pública del Tec de Monterrey.
