Sonría, está siendo sospechado
01Contexto
El 25 de abril de 2019 la Ciudad de Buenos Aires activó el Sistema de Reconocimiento Facial de Prófugos. Al partir, 300 cámaras comparaban cada rostro con la base nacional de prófugos (CONARC) y avisaban a la policía si había coincidencia (Infobae, 2019). La ley solo permitía usarlo para buscar prófugos o con orden de un juez.
En la práctica el sistema fue mucho más allá. La Ciudad pidió los datos biométricos de millones de personas y detuvo a inocentes por errores en la base. Guillermo Ibarrola estuvo seis días preso por un delito que no cometió (Infobae, 2019), y no fue el único caso.
- Se activa el sistema con 300 cámaras.
- Ibarrola pasa 6 días preso. Al menos 8 personas son identificadas por error en los primeros meses (Chequeado, 2020).
- El Observatorio de Derecho Informático Argentino (ODIA) presenta un amparo.
- La jueza Elena Liberatori declara inconstitucional el sistema.
- La Cámara confirma el fallo y exige probar si el software discrimina (Diario Judicial, 2023).
- Sigue suspendido. La Ciudad no sabe cómo fue entrenado el software (CELS, 2024).
- La Fiscalía porteña compra una licencia de Clearview AI, sin licitación (Ministerio Público Fiscal CABA, 2025).
02Objetivo
La pregunta que guía el trabajo es la siguiente: ¿qué falló en el diseño, la compra y el control del sistema, y qué condiciones deberían cumplirse antes de volver a usar una tecnología así? Nos interesa porque el reconocimiento facial se ofrece en toda la región como una respuesta rápida a la inseguridad, y Chile no es la excepción.
03Marco teórico
El marco central es el tecnosolucionismo. Morozov (2013) lo define como la tendencia a buscar soluciones técnicas, vistosas y de mirada estrecha para problemas sociales que son complejos y disputados. La inseguridad depende de la pobreza, del sistema judicial y del trabajo policial. Aun así, la respuesta fue instalar cámaras.
Selbst et al. (2019) describen esto como la trampa del solucionismo: no reconocer que la mejor solución a un problema puede no incluir tecnología. En Buenos Aires nunca se evaluó si había que instalar el sistema. Se partió de la herramienta y no del problema.
Para evaluar el impacto usamos los cinco principios de Floridi y Cowls (2019). El caso falla en cuatro de ellos.
| Principio | Qué pasó | |
|---|---|---|
| No maleficencia | Personas inocentes fueron detenidas por errores de la base. | Falla |
| Autonomía | Nadie aceptó que su cara fuera escaneada. | Falla |
| Justicia | Estos sistemas se equivocan más con algunos grupos: 34,7% de error en mujeres de piel oscura y 0,8% en hombres de piel clara (Buolamwini y Gebru, 2018). | Falla |
| Explicabilidad | El Estado compró una caja negra que no puede revisar. | Falla |
| Beneficencia | No hay datos oficiales y consistentes de cuántos prófugos encontró. | Sin datos |
04Metodología
Hicimos una revisión documental, sin datos propios. Las fuentes principales son la sentencia judicial de 2022, el escrito del CELS en la causa, los documentos de compra de la Fiscalía y prensa verificada. Ordenamos los hechos en una línea de tiempo, cruzamos cada hecho con el marco teórico y de cada falla sacamos una recomendación.
05Resultados
La pericia citada en la sentencia de 2022 muestra que la Ciudad pidió los datos biométricos de 7.087.359 personas distintas al registro nacional de identidad (RENAPER). La base de prófugos tenía cerca de 40 mil.
Los 141 falsos positivos vienen de una nota oficial del Gobierno porteño, citada por el CELS en la causa (CELS, 2021). Es decir, 1 de cada 12 personas entregadas a la Justicia no tenía orden de captura. Además, las cifras oficiales no coinciden entre sí según la fecha, lo que muestra la falta de control sobre el sistema.
El contraste con Europa es claro. En 2024 la autoridad de datos de Países Bajos multó a Clearview AI con €30,5 millones por armar una base ilegal de más de 30 mil millones de fotos (Autoriteit Persoonsgegevens, 2024). Un año después, la Fiscalía de Buenos Aires compró ese mismo software sin licitación ni evaluación de impacto.
Buenos Aires no es un caso aislado. Al Sur (2021) identificó 38 sistemas de reconocimiento facial en 9 países de la región. Más del 60% no tenía una base legal específica.
06Conclusiones y recomendaciones
El problema no fue solo técnico. La inseguridad tiene raíces sociales, pero se respondió con cámaras. El fallo de 2022 pidió control y evaluación de impacto, y tres años después el Estado compró otra herramienta que no puede revisar.
Proponemos seis condiciones antes de volver a encender la cámara. En diseño, bases de datos al día y revisión humana antes de cualquier detención. En compras, que el Estado no adquiera sistemas que no puede auditar. En regulación, una evaluación de impacto obligatoria. En gobernanza, auditoría independiente y control real del poder legislativo. En educación, capacitación en IA para policías, fiscales y jueces. Y antes de todo, preguntar primero si el problema necesita tecnología.
07Referencias
Al Sur. (2021). Reconocimiento facial en América Latina: tendencias en la implementación de una tecnología perversa. alsur.lat
Autoriteit Persoonsgegevens. (2024). Dutch DPA imposes a fine on Clearview because of illegal data collection for facial recognition. autoriteitpersoonsgegevens.nl
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77–91.
CELS. (2021, 14 de octubre). Presentación en ODIA y otros c/ GCBA s/ amparo, Exp. 182908/2020-0. srfp.odia.legal
CELS. (2024, febrero). El sistema de reconocimiento facial sigue suspendido en CABA. cels.org.ar
Chequeado. (2020, 28 de mayo). Video-vigilancia en Buenos Aires: la otra cara del control. chequeado.com
Diario Judicial. (2023, 28 de abril). Contra-cara. diariojudicial.com
Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1). doi.org/10.1162/99608f92.8cd550d1
Infobae. (2019, 24 de abril). Reconocimiento facial en la ciudad de Buenos Aires: cómo será el sistema que ayudará a capturar a los 46 mil prófugos de la Justicia. infobae.com
Infobae. (2019, 2 de agosto). Un hombre estuvo seis días preso por un error del sistema de reconocimiento facial. infobae.com
Juzgado de Primera Instancia en lo Contencioso Administrativo y Tributario N° 4 de la Ciudad de Buenos Aires. (2022). ODIA y otros c/ GCBA s/ amparo, Exp. 182908/2020-0. Sentencia
Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. (2025). Proveído OAF N° 213/2025 y Disposición OAF N° 36/2025. mpfciudad.gob.ar
Morozov, E. (2013). To save everything, click here: The folly of technological solutionism. PublicAffairs.
Selbst, A. D., boyd, d., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. Proceedings of the Conference on Fairness, Accountability, and Transparency, 59–68. doi.org/10.1145/3287560.3287598
08Uso de IA
El grupo hizo la búsqueda y el contraste de fuentes, la extracción de información y el diseño, con apoyo de Claude (Anthropic) en esas tareas. La elección del caso, la pregunta y la revisión final también son del grupo. Las imágenes de vigilancia son una simulación. La página del QR no guarda ni envía ningún dato de quien la visita.