Batallas 3.0: Inteligencia Artificial y algoritmos versus delincuencia en Chile

El 29 de agosto de 1997, a las 2:14 AM Skynet toma conciencia de sí misma. Skynet es una inteligencia artificial que lidera el ejército de las máquinas que quieren exterminar a los humanos pues los considera una amenaza para su propia supervivencia. Skynet está basada en una red neuronal que funciona en la nube y que maneja todos los aviones y armas no tripuladas de los Estados Unidos de Norteamérica. Para eliminar a los seres humanos desata una guerra nuclear y el posterior apocalipsis.

Lo que acabas de leer es un resumen sencillo de Terminator, y si bien hoy existen tecnologías como la Inteligencia Artificial, las redes neuronales y drones, la película está basada en un cuento escrito en 1964 por Harlan Ellison.

A 35 años del estreno de Terminator, las Inteligencias Artificiales son una realidad tan cercana que Carabineros las está utilizando para predecir delitos y reconocer rostros de delincuentes, a base de un programa desarrollado por expertos de la Universidad de Chile. Detrás de todo esto están los algoritmos, término que se remonta a 1840 cuando Ada Lovelace escribió el primero de ellos, y que en la actualidad son tan comunes que son parte vital de buscadores de internet, aplicaciones móviles y portales de compra online.

Un algoritmo es un conjunto de instrucciones finitas bien definidas, claras y ordenadas que permiten llevar a cabo una actividad mediante pasos sucesivos que no generen dudas a quien deba hacer dicha actividad. Por ejemplo, la forma de hacer arroz: “Freír el arroz, y por cada tazón de arroz agregar 2 tazas de agua hervida, agregar sal a gusto y dejar cocinar a fuego lento por 30 minutos”. Para efectos prácticos este es un algoritmo llamado “La forma de hacer arroz”. Descrito de manera sencilla, los algoritmos son una secuencia de pasos lógicos que permiten solucionar un problema o realizar una tarea.

Delitos y algoritmos: ¿Qué tienen que ver?

En nuestro país, científicos del Centro de Análisis y Modelamiento en Seguridad de la Universidad de Chile (Ceamos) desarrollaron el primer software de Chile y Latinoamérica capaz de anticipar dónde y cuándo podrían ocurrir delitos. A través de algoritmos matemáticos, alimentados por información histórica de delitos reportados a Carabineros con una data de hasta cinco años, el software creado por los expertos nacionales puede “predecir” con una efectividad de hasta 89% donde se realizará un robo. Hace poco este sistema de predicción se comenzó a utilizar en los Mall Plaza.

Los matemáticos del centro Ceamos trabajaron con Carabineros realizando pruebas de su programa en 12 comunas de la Región Metropolitana y seis regiones del país. Después de los testeos de campo, Carabineros incorporó el software en su plataforma de análisis criminal y hoy se encuentra plenamente operativo en 72 comunas del país, incluyendo todas las capitales regionales.

Raúl Manasevich es matemático de profesión, tiene un doctorado en Ciencias de la ingeniería en la Universidad de Berkeley y dirige el Centro de Análisis y Modelamiento en Seguridad de la Universidad de Chile.

“Gracias a nuestro algoritmo podemos mostrar en un mapa interactivo dónde es más probable que ocurran delitos en el futuro, ya sean dentro del día siguiente, la próxima semana o el próximo mes. Donde exista un patrón de delitos, nosotros podemos hacer predicción”, dice el doctor en su oficina en la Universidad de Chile ubicada en Beauchef.

Manasevich cuenta que los algoritmos que usan para la predicción de la criminalidad integran varias tecnologías de las cuales mucho se habla hoy en día, como el Big Data, el Machine Learning, la Inteligencia Artificial y Redes Neuronales de forma avanzada. “De esta forma estamos generando aplicaciones para el mundo real” agrega.

“Nosotros comenzamos generando este software para Carabineros, con tres algoritmos distintos que sirven de comprobaciones de nuestras predicciones y a partir de estos algoritmos mostramos superficies de riesgo, en función de la historia de datos que han sido entregados por la institución. Hoy ya contamos con cinco algoritmos que hemos ido desarrollando para distintas empresas. Porque hay algoritmos que se adaptan mejor para ciertas circunstancias” aclara Manásevich.

Los algoritmos de Ceamos están basados en dos temas claves, explica el experto: “La victimización cercana y la victimización repetida. La victimización repetida indica que, si a usted le entran a robar a su casa, es candidato a que le entren a robar nuevamente, porque el delincuente trata de disminuir el esfuerzo, y la privatización cercana, que la casa de vecino también puede ser víctima porque es muy parecida a la primera casa. Esto lo podemos ver en nuestros mapas claramente, y se pueden aplicar a varios delitos comunes”.

“Creo que en el futuro podremos ver cómo se comporta la delincuencia en tiempo real, y mediante la Inteligencia Artificial y algoritmos podremos mejorar la seguridad de las personas” puntualiza este científico.

Hace pocos días el centro de Modelamiento Matemático de la Universidad de Chile (CMM) y los Mall Plaza, finalizaron un proyecto de investigación para fortalecer con inteligencia artificial la estrategia de seguridad de la cadena de centros comerciales. Antonio Braghetto, gerente de Operaciones de Mall Plaza, aseguró que “tenemos el primer modelo de inteligencia artificial aplicada a la seguridad de los centros comerciales. Inédito en nuestro país y en Sudamérica. Está funcionando en todos los centros comerciales de Santiago y en Concepción”.

Los algoritmos son solo una herramienta más

El Coronel de Carabineros Patricio Santos Poblete es jefe del Departamento de Análisis Criminal, un organismo técnico que tiene como misión la elaboración de estudios y formulación de procesos para la identificación de riesgos y la correcta toma de decisiones dentro de la institución.

“Carabineros comenzó la estandarización de su carretera digital de información en el año 1998. Hoy el Sistema de Automatización Policial Aupol recibe datos en línea de lo que sucede desde Arica a Punta Arenas y se representa en un punto en el mapa. Cada vez que una persona realiza una denuncia en un cuartel, los antecedentes quedan registrados en un parte policial. Anualmente son 14 millones de procedimientos que quedan registrados en este sistema de información”, cuenta el coronel Santos desde el centro de control ubicado en las oficinas de General Bustamante.

Por ley los datos que contiene Aupol solo pueden ser conocidos por los órganos persecutores, policiales y jurisdiccionales. Cada registro tiene cerca de 60 variables que han sido constantemente parametrizadas por Carabineros, y que desde el año 2009 forman parte de los datos con lo que trabaja el Departamento de Análisis Criminal de la institución.

Las plataformas de Geoprocesamiento fueron desarrolladas por Carabineros con proyectos  financiados por el Banco Interamericano de Desarrollo (BID). El modelo predictivo está formado por cinco algoritmos matemáticos complejos que corren sobre registros de datos de cinco años y logran predecir con un grado de probabilidad medio, alrededor de un 35 a 40% la ocurrencia del delito en el territorio.

El coronel Santos cuenta que “El equipo del DAC está compuesto por más de 60 personas entre las que se encuentran ingenieros, psicólogos, sociólogos, cartógrafos que trabajaron en conjunto con los académicos de la Universidad de Chile para crear el modelamiento aplicado a los robos con fuerza y robos con violencia, y a partir de este trabajo podemos generar modelos que podemos ver en mapas digitales del país”.

Los que nos muestran estos mapas, cuenta el magíster en criminología y director del DAC “son puntos de densidades probables. Este mapa evalúa las distancias entre puntos y genera hotspot o nubes. Cuando superpones estas nubes con otros datos, por ejemplo, ubicación de cajeros automáticos, podemos ver circunstancias facilitadoras y víctimas potenciales. Al aplicar los modelos predictivos sobre estos lugares, se generan grillas que muestran en el mapa zonas con mayor o menor probabilidad de ocurrencia del delito en una vecindad reducida”.

“Antes de la computación, el trabajo para organizar los patrullajes se realizaba pegando puntos en un mapa y mandando gente a esos lugares. Hoy tenemos cartas de situación, que según las evidencias entregadas por nuestros sistemas de análisis, los compromisos con la comunidad y la información que llega hasta la unidad, se realizan asignaciones de misiones. La tecnología nos permite monitorear en línea las rutas que seguimos y los modelos predictivos son una herramienta tecnológica que usamos en nuestro trabajo, pero no es la única” agrega el Coronel Santos.

En este sentido el uniformado agrega que “hoy Carabineros cuenta con dispositivos inteligentes y conectados llamados Simcar que pueden realizar controles de identidad en un minuto. Nuestras patrullas mientras recorren la ciudad escanean todas las patentes de los automóviles en 360 grados para detectar vehículos con encargo. Gracias al Big Data podemos crear las redes delictuales de los criminales, y modelar el comportamiento de los antisociales, para perfilar lugares de ocurrencia y definir acciones de prevención”.

Sobre las cámaras y la aplicación de algoritmos en el sector privado, el director del DAC es tajante: “las cámaras son disuasivas, los delincuentes no cometen delito si saben que están siendo grabados. Hoy la tecnología nos permite conocer todas las cámaras de seguridad municipales que están alrededor de un sector. Actualmente los teléfonos pueden realizar reconocimiento facial, pero lo importante es saber con qué comparar y esa es la especialidad de Carabineros. En el ámbito civil o privado lo importante es que las tecnologías se apeguen a la legalidad vigente y que persigan el bien común de seguridad para las personas”.

“Hoy en Carabineros tenemos la mejor tecnología, pero lo más importante es nuestra relación con la comunidad” señala la autoridad policial, poniendo como ejemplo el Sistema Táctico de Operación Policial (STOP), donde los vecinos pueden ver los datos de su vecindario. “La cooperación con los ciudadanos es más importante que cualquier algoritmo, porque las personas conocen mejor que nadie donde viven”, concluye el carabinero.

El derecho a la privacidad

El 16 de junio de 2018 se publicó y entró en vigencia la reforma constitucional que concede reconocimiento y protección a los datos personales como derecho fundamental autónomo en el numeral 4 del artículo 19 de la Constitución de la República Chile. Sobre este tema hablamos con Claudio Magliona profesor de la Facultad de Derecho de la Universidad de Chile, quien fue director del Magíster en Derecho y Nuevas Tecnologías de esta casa de estudios.

“Lo primero que debemos tener en cuenta es qué es un dato estadístico y qué es un dato personal. Dentro de una definición bastante amplia se acepta que todo lo relativo a una persona natural es un dato personal. Además estos datos deben permitir identificar a un individuo y no pueden ser aplicables a personas jurídicas. El RUT es el caso de dato personal más conocido en nuestro país” explica.

Magliona quien también estudió ciencia y tecnología en la escuela de leyes de la Universidad de Stanford afirma que “sin duda la medición biométrica del rostro es un dato personal. Además, añade que “si el rostro de una persona no estuviera protegido por la Ley de Datos, está claramente protegido por las garantías constitucionales, por lo que se llama derecho a la personalidad”.

Respecto a la grabaciones y escaneo de rostros como herramientas de seguridad, el abogado aclara que “tenemos que tornar en cuenta la expectativa de privacidad. Grabar en un lugar privado sin que la personas lo autoricen es un delito. Esto es así desde el caso de la radio Kioto en los años 90. Pero este mismo tipo penal no sanciona grabar a una persona en un lugar público, y un mall es un lugar público. Las personas deben saber que los están grabando y dar su consentimiento. El mall debe por lo menos informar y aclarar para qué están grabando en sus instalaciones”.

Sobre el mismo tema Magliona, quien fue el autor del capítulo de Data Protection and Privacy del informe Getting the Deal Through 2018. asegura que “las empresas deben de informar que tienen un sistema de grabación de vídeo funcionando en el mall. También deberían informar qué es lo que se está grabando, para qué se está grabando, dónde se están almacenando estas imágenes y cuánto tiempo estarán disponibles. Pero lo más importante es cuál es el objetivo y finalidad de uso de estas grabaciones. Esta información permite a las personas usuarias del mall decidir si quieren entrar a este comercio”.

El problema aclara el experto, sería si “los vídeos grabados no estuvieran almacenados de forma segura y que cualquiera pueda acceder a ellos, y que además las empresas no tuvieran políticas de privacidad. Porque es muy distinto que las empresas sigan y capturen la imagen de una persona entrando a una tienda, ingresen esa imagen a una base de datos, apliquen un algoritmo sobre estos datos personales e inmediatamente comiencen a llamar a la persona, o enviarle correos y mensajes de textos con ofertas y publicidad de las tiendas que visitó. Esa es la gran amenaza, eso claramente es una afectación a la privacidad”.

Derechos Digitales

Para Pablo Viollier, analista de políticas públicas de la ONG Derechos Digitales, que lucha por un internet más abierto, seguro y respetuoso de los derechos humanos, además de investigar y realizar propuestas de políticas públicas en el área de la privacidad, “lo primero y más importante es que Chile necesita una regulación de protección de datos con dientes. La urgencia por resolver las falencias en materia de protección de datos personales refuerza la necesidad de ajustar las medidas legales para proteger los derechos de la ciudadanía chilena”.

“Los algoritmos ayudan a tomar decisiones, y es positivo que estas sean tomadas a base de evidencias y datos, pero existen riesgos en estas tomas de decisiones. La primera es que los algoritmos son instrucciones matemáticas y por tanto están creadas para optimizar resultados, y la decisión del resultado que se optimiza y la data ingresada son realizados por humanos y las personas tienen intereses para que los algoritmos funcionen. Luego está el sesgo de confirmación, que en términos simples es realizar más vigilancia donde según el algoritmo se espera delincuencia, y como se tiene más vigilancia se detecta más delincuencia”, explica Viollier.

El analista agrega que “a partir de los datos estadísticos que se usan en estos algoritmos, no se puede hablar de infracción a la privacidad, ya que son datos estadísticos, pero lo que sí puede suceder es que las autoridades creen la estigmatización o victimización de cierto lugar o de una población cuando se usa inteligencia artificial para tomar decisiones”.

Como Derechos Digitales reconocemos que existe un consenso respecto a que nuestro país debe contar con una Agencia de Protección de Datos, de carácter administrativa, independiente, especializada y con patrimonio propio. En otras palabras, un modelo normativo similar al que dio origen a la Agencia Española de Protección de Datos, que cuente con independencia de otros organismos públicos para poder ejercer su labor de fiscalización sin presiones políticas externas y cuyas decisiones respondan a estándares profesionales.

El dato facial es un dato personal sensible. Hoy la legislación no permite tomar datos biométricos a tontas y a locas, por lo que la pregunta es ¿porqué instituciones como centros comerciales, sistema de transporte o servicios de seguridad de conserjería han implementado estos sistemas?.

La respuesta según Viollier es porque vivimos en un círculo vicioso, ya que “si la municipalidad lo hace, ‘nosotros como mall lo hacemos también’. Es un ambiente de retroalimentación perversa que no respeta los datos personales. En Chile, para muchas personas e instrucciones poner un sistema de televigilancia o mediciones biométricas es como si fuera un stand de jugos, sin tomar en cuenta que estos sistemas impactan en derechos fundamentales, restringen las libertades de las personas y deben estar reguladas por ley, y hoy tenemos una ley que data de 1990”.