Sunday, November 22, 2020

Los algoritmos que asocian apariencia y criminalidad tienen un pasado oscuro

Los algoritmos que asocian apariencia y criminalidad tienen un pasado oscuro | Ideas de Aeon

FRAGMENTO:

Una de las objeciones morales más fuertes al uso del reconocimiento facial para detectar la criminalidad es que estigmatiza a las personas que ya están excesivamente vigiladas. Los autores dicen que su herramienta no debe usarse en la aplicación de la ley, pero citan solo argumentos estadísticos sobre por qué no debe implementarse. Señalan que la tasa de falsos positivos (50 por ciento) sería muy alta, pero no se dan cuenta de lo que eso significa en términos humanos. Esos falsos positivos serían personas cuyos rostros se parecen a personas que han sido condenadas en el pasado. Dados los prejuicios raciales y de otro tipo que existen en el sistema de justicia penal, tales algoritmos terminarían sobrestimando la criminalidad entre las comunidades marginadas.

La cuestión más polémica parece ser si reinventar la fisonomía es un juego limpio para los propósitos de la "discusión académica pura". Uno podría objetar sobre bases empíricas: los eugenistas del pasado como Galton y Lombroso finalmente no lograron encontrar rasgos faciales que predispusieran a una persona a la criminalidad. Eso es porque no se pueden encontrar tales conexiones. Del mismo modo, los psicólogos que estudian la heredabilidad de la inteligencia, como Cyril Burt y Philippe Rushton, tuvieron que jugar rápido y relajado con sus datos para fabricar correlaciones entre el tamaño del cráneo, la raza y el coeficiente intelectual. Si hubiera algo por descubrir, presumiblemente las muchas personas que lo han intentado a lo largo de los años no se habrían quedado secos.

El problema de reinventar la fisonomía no es simplemente que se haya intentado sin éxito antes. Los investigadores que persisten en la búsqueda de la fusión fría después de que el consenso científico ha avanzado también enfrentan críticas por perseguir unicornios, pero la desaprobación de la fusión fría está muy lejos del oprobio. En el peor de los casos, se considera que están perdiendo el tiempo. La diferencia es que los daños potenciales de la investigación de la fusión fría son mucho más limitados. En contraste, algunos comentaristas argumentanque el reconocimiento facial debería regularse tan estrictamente como el plutonio, porque tiene tan pocos usos inocuos. Cuando el proyecto sin salida que quieres resucitar se inventó con el propósito de apuntalar las estructuras coloniales y de clase, y cuando lo único que es capaz de medir es el racismo inherente a esas estructuras, es difícil justificar intentarlo una vez más. solo por curiosidad.

Sin embargo, llamar 'frenología' a la investigación sobre reconocimiento facial sin explicar lo que está en juego probablemente no sea la estrategia más efectiva para comunicar la fuerza de la queja. Para que los científicos se tomen en serio sus responsabilidades morales, deben ser conscientes de los daños que podrían resultar de su investigación. Es de esperar que decir con más claridad lo que está mal en el trabajo etiquetado como 'frenología' tendrá más impacto que simplemente lanzar el nombre como un insulto.

No comments: