/cdn.vox-cdn.com/uploads/chorus_image/image/60189735/vpavic_180502_2536_0016_alt.0.jpg)
Microsoft dice que su reconocimiento facial herramientas están mejorando en la identificación de las personas con tonos de piel más oscuros que antes, según un blog de empresa de correos hoy. Las tarifas de error se han reducido tanto como 20 veces para hombres y mujeres con piel más oscura y por nueve veces para todas las mujeres.
La compañía dice que ha estado entrenando sus herramientas AI con datasets más grandes y más diversos, que ha llevado al progreso. “Si tenemos máquina de formación aprender sistemas para imitar las decisiones tomadas en una sociedad sesgada, utilizando los datos generados por esa sociedad, entonces esos sistemas necesariamente reproducirá sus prejuicios”, dijo Hanna Wallach, un investigador de Microsoft, en el post del blog.
En febrero, un informe del MIT Media Labhabía probado los sistemas de reconocimiento facial de Microsoft, IBM y de China Megvii y que hasta el 35 por ciento de las mujeres de piel oscura tenía su género identificado erróneamente por los sistemas. El informe sólo confirmó lo que muchos habían sospechado durante años: sistemas de reconocimiento facial pueden ser sesgados por conjuntos de datos limitado y otros factores como el racismo sistemático. En 2015, Google había identificado amigos negro en una foto de un ingeniero de software como “gorilas” y tuvo que disculparse por el error.
Aún así, mientras que el anuncio de Microsoft hoy en día indica una reducción de prejuicios raciales dentro de su sistema de reconocimiento facial, si la aplicación de la ley tener en sus manos la herramienta de reconocimiento facial mejorado, no está claro cómo que podría jugar para la gente de color y si podría exacerbar las prácticas ya problemáticas. Socios de Microsoft con la inmigración y Aduanas (ICE)y su herramienta de reconocimiento facial se ofrece a agentes del gobierno como un recurso. CEO de Microsoft Satya Nadella aclaró en una nota la semana pasada que “Microsoft no está trabajando con el gobierno de Estados Unidos en los proyectos relacionados con la separación de los niños de sus familias en la frontera” pero él no dirección reconocimiento facial cómo podría jugar un papel en beneficio de trabajo del ICE.
