Ir a leer esta exposición NYT en una nueva y espeluznante base de datos de reconocimiento facial utilizada por la policía de EE.UU.
Ilustración por James Bareham / The Verge
Cientos de agencias policiales de todo Estados Unidos han comenzado a usar un nuevo sistema de reconocimiento facial de Clearview AI, ha revelado una nueva investigación de The New York Times. La base de datos se compone de miles de millones de imágenes raspadas de millones de sitios, incluyendo Facebook, YouTube y Venmo. The Times dice que el trabajo de Clearview AI podría “acabar con la privacidad tal como la conocemos”, y la pieza vale la pena leerla en su totalidad.
El uso de sistemas de reconocimiento facial por parte de la policía ya es una preocupación creciente, pero la escala de la base de datos de Clearview AI, por no mencionar los métodos que utilizó para ensamblarla, es particularmente preocupante. El sistema Clearview se basa en una base de datos de más de tres mil millones de imágenes raspadas de Internet, un proceso que puede haber violado los términos de servicio de los sitios web. Los organismos encargados de hacer cumplir la ley pueden subir fotos de cualquier persona de interés de sus casos, y el sistema devuelve imágenes coincidentes de Internet, junto con enlaces a donde se alojan estas imágenes, como perfiles de redes sociales.
El NYT dice que el sistema ya ha ayudado a la policía a resolver delitos como robos en tiendas, identificar robos, fraudes con tarjetas de crédito, asesinatos y explotación sexual infantil. En un caso, la policía estatal de Indiana pudo resolver un caso en 20 minutos mediante el uso de la aplicación.
El uso de algoritmos de reconocimiento facial por parte de la policía conlleva riesgos. Los falsos positivos pueden incriminar a las personas equivocadas, y los defensores de la privacidad temen que su uso pueda ayudar a crear un estado de vigilancia policial. Según los informes, los departamentos de policía han utilizado imágenes médicas que podrían conducir a detenciones injustas, y un estudio federal ha descubierto “evidencia empírica” de sesgo en los sistemas de reconocimiento facial.
El uso del sistema implica subir fotos a los servidores de Clearview AI, y no está claro cuán seguros son. Aunque Clearview AI dice que sus empleados de soporte al cliente no mirarán las fotos que se suben, parecía ser consciente de que Kashmir Hill (el periodista del Times que investigaba la pieza) estaba haciendo que la policía buscara su rostro como parte de sus informes:
Mientras la compañía me esquivaba, también me monitoreaba. A petición mía, varios agentes de policía habían ejecutado mi foto a través de la aplicación Clearview. Pronto recibieron llamadas telefónicas de representantes de la compañía preguntando si estaban hablando con los medios de comunicación, una señal de que Clearview tiene la capacidad y, en este caso, el apetito de monitorear a quién está buscando la aplicación de la ley.
El Times informa que el sistema parece haberse vuelto viral con los departamentos de policía, con más de 600 ya inscritos. Aunque no ha habido una verificación independiente de su precisión, Hill dice que el sistema fue capaz de identificar fotos de ella incluso cuando cubrió la mitad inferior de su cara, y que logró encontrar fotografías de ella que nunca había visto antes.
Un experto citado por The Times dijo que la cantidad de dinero que implicaba estos sistemas significa que necesitan ser prohibidos antes de que el abuso de los mismos se generalice. “Hemos confiado en los esfuerzos de la industria para auto-policía y no abrazar una tecnología tan arriesgada, pero ahora esas presas se están rompiendo porque hay mucho dinero sobre la mesa”, dijo un profesor de derecho e informática en la Universidad del Noreste, Woodrow Hartzog, “No veo un futuro en el que aprovechemos los beneficios de la tecnología de reconocimiento facial sin el abuso paralizante de la vigilancia que viene con él. La única manera de detenerlo es prohibirlo”.
Contact Information:
Keywords: afds, afdsafds
