¿Qué pasa con tus datos mientras caminas por la ciudad? Cámaras y sensores analizan tus movimientos, registran patrones y hasta pueden predecir comportamientos. Todo gracias a la inteligencia artificial (IA). Esta tecnología ya es parte de nuestra vida diaria y, aunque puede hacernos sentir más seguros, también despierta preocupaciones sobre nuestra privacidad y los límites éticos que debemos establecer. ¿Está Uruguay preparado para este desafío?
La Promesa y el Peligro
La IA puede ayudar a prevenir delitos, detectar amenazas cibernéticas y optimizar recursos militares. Pero, ¿qué ocurre si esa tecnología se basa en datos sesgados? ¿Y si se convierte en una herramienta de vigilancia masiva? Los riesgos no son menores: pérdida de privacidad, discriminación y fallos que podrían poner en peligro vidas humanas.
Gran Hermano: ¿Quién Controla la IA?
En materia de leyes y reglas, a nivel mundial, organismos como la ONU y la OCDE ya advierten sobre estos peligros y promueven el uso responsable de la IA. En América Latina, la OEA impulsa principios éticos. En Uruguay, la Estrategia Nacional de Inteligencia Artificial 2024-2030 y la Estrategia Nacional Ciberseguridad 2024-2030 marcan un camino, pero ¿es suficiente? Aún no existe un organismo independiente que supervise el uso de IA en seguridad y defensa.
¿Qué Está Haciendo Uruguay?
El gobierno ha dado algunos pasos iniciales, aunque no específicamente dirigidos a militares y policías:
- Capacitación en IA para funcionarios públicos en general, ofrecida por AGESIC en 2024, centrada en análisis de textos y procesamiento de datos.
- Posgrados como la Especialización en Inteligencia Estratégica, dictada en el Centro de Altos Estudios Nacionales (CALEN), del Ministerio de Defensa, que aborda temas de análisis de información, aunque no de IA específicamente.
En materia operativa, se ha implementado:
- Programas piloto con cámaras que identifican patrones delictivos.
- Uso de drones y herramientas de análisis predictivo en fronteras.
Mientras tanto, el sector privado avanza rápido. Bancos y aseguradoras usan IA principalmente en entornos cerrados para detectar fraudes y analizar riesgos, trabajando sobre bases de datos propias. En cambio, la vigilancia pública con cámaras y drones trabaja con imágenes en vivo y datos personales que no siempre se almacenan, lo que plantea desafíos distintos. Aquí el equilibrio es diferente: las empresas buscan rentabilidad, mientras que el Estado debe resguardar derechos fundamentales.
IA en Seguridad Pública: Vigilancia con Ojos Electrónicos
Hoy en Uruguay, la IA ayuda a detectar patrones delictivos y a vigilar fronteras. Pero, en otros países, se ha demostrado que estos sistemas pueden discriminar según el color de piel o cometer errores al identificar personas. Además, no hay un consejo que evalúe si estas tecnologías respetan los derechos humanos.
IA en Defensa: Drones y Ciberdefensa
En el ámbito militar, la IA ya se usa en drones, análisis de inteligencia y defensa cibernética. Existen proyectos de mantenimiento predictivo de equipos y sistemas que buscan anticipar amenazas. Sin embargo, el riesgo de que algún día armas autónomas puedan actuar sin intervención humana genera debate a nivel global.
En ciberdefensa, surge una preocupación adicional: las soluciones más avanzadas de IA suelen operar en la nube, con servidores ubicados en otros países. Enviar datos sensibles sobre seguridad nacional a infraestructuras extranjeras podría exponer la soberanía digital del Estado. Este dilema se discute hoy en foros internacionales, y algunos países ya decidieron migrar toda su infraestructura a la nube, mientras que otros optan por mantener el control local.
Pensamiento Crítico y el Riesgo de la Automatización Pasiva
Si bien la automatización mediante IA promete facilitar decisiones más rápidas y eficientes, también plantea riesgos menos visibles, pero igualmente críticos. Uno de ellos es el debilitamiento del pensamiento crítico en los operadores humanos.
Cuando los sistemas automatizados generan predicciones o recomendaciones constantemente, existe el peligro de que los operadores acepten esos resultados de forma automática, sin cuestionarlos. Esta «automatización pasiva» puede generar una pérdida de la capacidad analítica para detectar errores, anomalías o sesgos en los resultados arrojados por la IA.
A esto se suma otro desafío: la sobrecarga cognitiva. En situaciones de emergencia, la combinación de múltiples flujos de información en tiempo real (sensores, cámaras, análisis predictivos, drones) puede abrumar a los responsables de la toma de decisiones.
Paradójicamente, el exceso de datos puede llevar a decisiones apresuradas o erróneas.
Por ello, el fortalecimiento de las competencias de pensamiento crítico debe ser un pilar central en la formación de los operadores que trabajen con IA. La capacidad de cuestionar las decisiones automatizadas y de mantener la intervención humana como contrapeso es clave para evitar la delegación ciega de responsabilidades en sistemas que, si bien potentes, también pueden fallar.
¿Qué Más Podría Hacerse?
La IA podría optimizar la logística policial y militar, en general la logística del Estado si se gestiona adecuadamente. También podría mejorar la ciberseguridad del Estado mediante la automatización de procesos y hasta prever ataques antes de que ocurran. La implementación de IA en los sistemas de ciberseguridad permitiría detectar vulnerabilidades en tiempo real, automatizar respuestas ante incidentes y fortalecer la protección de infraestructuras críticas.
Además, su integración en las operaciones de seguridad interior y en el Sistema Nacional de Emergencias (SINAE) podría revolucionar la gestión de crisis y emergencias. En el caso del SINAE, la IA podría asistir en la predicción de eventos climáticos extremos, coordinar mejor la distribución de recursos en inundaciones o incendios y optimizar la integración con los servicios de salud nacional.
Por ejemplo, en Finlandia se ha utilizado IA para coordinar respuestas rápidas ante tormentas de nieve y en España, la Cruz Roja implementa sistemas de análisis predictivo para gestionar emergencias sanitarias y de desastres naturales.
Esta tecnología también podría contribuir a optimizar las rutas de patrullaje policial en tiempo real y mejorar la distribución de recursos médicos en situaciones de crisis, creando un ecosistema digital que permita respuestas más rápidas y precisas.
Asimismo, la automatización de procesos basada en IA podría aumentar la eficiencia del Estado en la gestión administrativa. Podría agilizar la certeza y rapidez en trámites administrativos, mejorar los procesos de compras estatales y la verificación del cumplimiento de normativas en licitaciones. También facilitaría el seguimiento y registro de armas, municiones y otros materiales peligrosos, como explosivos, sustancias químicas o nucleares, mejorando el control y la trazabilidad de estos recursos críticos.
Para pensar, ¿o crear un prompt?
Uruguay está en un punto de inflexión en cuanto a la adopción de IA en seguridad y defensa. Los beneficios pueden ser enormes, pero es necesario avanzar con responsabilidad. Aquí algunas ideas para pensar juntos:
¿Podría ser útil contar con un Consejo Independiente de Ética en IA, que asegure que las decisiones tecnológicas sean transparentes y justas?
¿Deberíamos garantizar que siempre haya supervisión humana en decisiones críticas asistidas por IA?
La automatización ayuda, pero la experiencia humana sigue siendo clave.
¿Cómo podemos asegurarnos de que los datos que recopila el Estado sean manejados con total transparencia, informando a la ciudadanía sobre su uso?
Quizás sea momento de ampliar la formación en IA para policías y militares, preparando a nuestras fuerzas de seguridad para un futuro más tecnológico.
¿Podríamos fortalecer el SINAE integrando IA para anticiparnos a emergencias, mejorando la coordinación con salud y seguridad interior?
Mejorar la ciberseguridad estatal con IA suena prometedor. Automatizar la detección y respuesta ante amenazas digitales protegería mejor nuestras infraestructuras.
¿Sería positivo que la IA agilizara trámites administrativos, licitaciones y el registro de armas y materiales peligrosos, reduciendo tiempos y errores humanos?
Finalmente, ¿cómo podemos fomentar un debate abierto con la sociedad sobre estos temas, asegurando que todos se sientan parte del cambio tecnológico?
El Coronel en situación de retiro del Ejército Nacional de Uruguay Pedro M. Gómez es instructor de Estrategia y Ciberdefensa del Centro de Altos Estudios Nacionales (CALEN) de Uruguay, Magíster en Seguridad y Defensa por el Colegio Interamericano de Defensa. Fue comandante de la Unidad de Ciberdefensa del Ejército de Uruguay.
Descargo de responsabilidad: Las opiniones expresadas en este artículo son las del autor. No reflejan necesariamente la política o posición oficial de ninguna agencia del Gobierno de los Estados Unidos, de la revista Diálogo o de sus miembros, ni la del Gobierno de la República Oriental del Uruguay.
Referencias
AGESIC. 2024. «Estrategia Nacional de Inteligencia Artificial 2024-2030.» https://www.gub.uy/agencia-gobierno-electronico-sociedad-informacion-conocimiento/comunicacion/publicaciones/estrategia-nacional-inteligencia-artificial-2024-2030
Asaro, Peter. 2012. «On Banning Autonomous Lethal Systems: Human Rights, Automation, and the Dehumanization of Lethal Decision-making.» International Review of the Red Cross 94 (886).
https://international-review.icrc.org/articles/banning-autonomous-weapon-systems-human-rights-automation-and-dehumanization-lethal
Benjamin, Ruha. 2019. Race after Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity. https://www.ruhabenjamin.com/race-after-technology
Bostrom, Nick. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. http://efaidnbmnnnibpcajpcglclefindmkaj/https://www.fhi.ox.ac.uk/wp-content/uploads/1-s2.0-S0016328715000932-main.pdf
Brundage, Miles, et al. 2018. «The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation.» https://arxiv.org/abs/1802.07228
Gerlich, Michael. 2023. AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Oxford University Press. https://www.mdpi.com/2075-4698/15/1/6
MDN. 2024. «Especialización en Inteligencia Estratégica.»
https://www.gub.uy/ministerio-defensa-nacional/politicas-y-gestion/especializacion-inteligencia-estrategica
OCDE. 2019. «Principios sobre Inteligencia Artificial.» https://www.oecd.org/going-digital/ai/principles/
O’Neil, Cathy. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown Publishing Group.
ONU. 2024. «Pacto para el Futuro.» https://www.un.org/en/common-agenda
OEA. 2023. «Lineamientos Interamericanos sobre Inteligencia Artificial.» https://www.oas.org/ext/es/democracia/marco-interamericano-de-gobernanza-de-datos-e-inteligencia-artificial-migdia/moduleid/14735/id/1080/lang/2/controller/item/action/download
WEF. 2020. «The Future of Jobs Report 2020.» World Economic Forum. https://www.weforum.org/reports/the-future-of-jobs-report-2020
Zuboff, Shoshana. 2019. The Age of Surveillance Capitalism. New York: PublicAffairs. https://www.researchgate.net/publication/346844216_Shoshana_Zuboff_The_age_of_surveillance_capitalism_the_fight_for_a_human_future_at_the_new_frontier_of_power_New_York_Public_Affairs_2019_704_pp_ISBN_978-1-61039-569-4_hardcover_978-1-61039-270-0_eboo
