|
Getting your Trinity Audio player ready...
|
En la última década, nuestras ciudades se han llenado de «ojos» electrónicos. Bajo la promesa de una seguridad pública infalible y una eficiencia administrativa sin precedentes, la tecnología de reconocimiento facial (TRF) se ha desplegado en aeropuertos, centros comerciales y comisarías de todo el mundo. Sin embargo, lo que se vende como una herramienta neutra y matemática es, en realidad, un espejo de los prejuicios humanos. Como bien ha señalado Vice y diversas investigaciones académicas, si eres mujer o una persona racializada, esta tecnología no solo te vigila más, sino que te identifica peor.
La falacia de la neutralidad tecnológica
Existe la creencia errónea de que los algoritmos, al estar basados en matemáticas, son incapaces de discriminar. Sin embargo, la inteligencia artificial no nace de la nada; se «entrena». Para que un sistema de reconocimiento facial aprenda a identificar un rostro, debe ser alimentado con bases de datos masivas de fotografías. El problema radica en que estas bases de datos (como ImageNet o LFW) han sido históricamente compuestas en su gran mayoría por rostros de hombres blancos.
El resultado es previsible: el algoritmo se vuelve un experto en distinguir las sutiles diferencias entre hombres caucásicos, pero se muestra torpe y errático ante cualquier rostro que se desvíe de ese «estándar». Cuando el software se enfrenta a mujeres, personas negras, asiáticas o latinas, la tasa de error se dispara. No es un error del sistema; es un reflejo de los datos que lo crearon.
El estudio que cambió la narrativa: «Gender Shades»
Uno de los pilares para entender esta problemática es el estudio Gender Shades, liderado por Joy Buolamwini (MIT Media Lab) y Timnit Gebru. Su investigación reveló una brecha aterradora en la precisión de los sistemas de gigantes como Microsoft, IBM y Face++.
Mientras que la tasa de error para hombres blancos era de apenas el 0,8%, para las mujeres de piel oscura el error ascendía hasta el 34,7%. En términos prácticos, esto significa que el sistema falla en uno de cada tres intentos al intentar identificar a una mujer negra. Esta asimetría convierte a la tecnología en una herramienta inherentemente discriminatoria. Para una mujer racializada, el reconocimiento facial no es una medida de seguridad, sino una lotería de sospechas injustificadas.
El peligro de los falsos positivos y la criminalización
¿Qué sucede cuando un algoritmo falla? En el mejor de los casos, tu teléfono no se desbloquea. En el peor, terminas bajo custodia policial. Este no es un escenario distópico, es una realidad documentada.
El caso de Robert Williams en Detroit se convirtió en un emblema de este peligro. Williams fue arrestado injustamente frente a su esposa e hijas después de que un software de reconocimiento facial lo identificara erróneamente como el autor de un robo en una tienda. El algoritmo comparó una imagen granulada de una cámara de seguridad con su foto de la licencia de conducir y «decidió» que eran la misma persona. Williams pasó 30 horas en una celda por un crimen que no cometió.
Este tipo de «falsos positivos» afectan desproporcionadamente a las comunidades racializadas. En manos de la policía, un error algorítmico se convierte en una herramienta de opresión que refuerza el perfilamiento racial histórico. Las cámaras no solo vigilan; seleccionan a quién perseguir basándose en una programación defectuosa.
Vigilancia de género y control social
Para las mujeres, la vigilancia facial añade una capa adicional de vulnerabilidad. Más allá de la identificación errónea, existe el riesgo del uso de esta tecnología para el acoso o el control social. En algunos contextos, se han desarrollado algoritmos diseñados para «clasificar» el género de las personas en espacios públicos, una práctica que no solo es invasiva, sino que violenta directamente a las personas trans y no binarias, cuyos rostros a menudo son etiquetados incorrectamente por sistemas binarios rígidos.
Además, el monitoreo constante en espacios públicos tiene un efecto inhibidor. Diversos informes indican que las mujeres, al sentirse observadas por sistemas que a menudo son gestionados por estructuras de poder masculinizadas, tienden a modificar su comportamiento o evitar ciertos espacios, limitando su derecho a la ciudad y a la privacidad.
La vigilancia predictiva: El prejuicio automatizado
El problema se agrava cuando el reconocimiento facial se combina con la «vigilancia predictiva». Estos sistemas analizan datos históricos para predecir dónde es más probable que ocurra un delito. Dado que los barrios habitados por minorías raciales han sido históricamente más patrullados, los datos alimentados al sistema están sesgados desde el origen.
El algoritmo, entonces, recomienda enviar más policías a esas zonas, lo que genera más arrestos por delitos menores, que a su vez alimentan al algoritmo con más datos de «criminalidad» en esa área. Se crea un bucle de retroalimentación donde la tecnología no previene el crimen, sino que automatiza y justifica el racismo sistémico.
¿Hacia una regulación o hacia la prohibición?
Ante esta evidencia, la respuesta global ha comenzado a fracturarse. Por un lado, ciudades como San Francisco, Boston y Minneapolis han prohibido el uso de reconocimiento facial por parte de las autoridades municipales, argumentando que la tecnología es demasiado peligrosa para los derechos civiles.
Por otro lado, la Unión Europea, a través de su reciente Ley de Inteligencia Artificial (AI Act), ha intentado establecer límites estrictos, prohibiendo el uso de identificación biométrica en tiempo real en espacios públicos, salvo en casos muy específicos de terrorismo o búsqueda de víctimas. Sin embargo, las organizaciones de derechos humanos advierten que las «excepciones» suelen convertirse en la norma.
Conclusión: La tecnología no es la solución
La promesa de que las cámaras nos harán libres y seguros se desmorona cuando analizamos quiénes son las víctimas colaterales de este despliegue tecnológico. Cuando una herramienta falla sistemáticamente al tratar con mujeres y personas racializadas, deja de ser una medida de seguridad pública para convertirse en una forma de violencia algorítmica.
No basta con pedir «mejores datos» o algoritmos «más inclusivos». Debemos preguntarnos si realmente queremos vivir en una sociedad donde nuestra identidad sea escaneada, procesada y juzgada por máquinas de manera constante. Si la seguridad pública se construye a costa de la libertad y la dignidad de los colectivos más vulnerables, entonces no es seguridad, es control. Como bien advierte la crítica social contemporánea, la mirada de la cámara no es imparcial: es una mirada con prejuicios, y hoy, más que nunca, esa mirada está fija sobre quienes ya luchan por ser vistos con igualdad en el mundo analógico.
Generado por Gemini 3 flash grounding
