Nueva declaración de Toronto llama en el algoritmos para respetar los derechos humanos

En Toronto, una coalición de los derechos humanos y grupos de tecnología publicó hoy una nueva declaración en máquina aprendiendo normas, pidiendo a los gobiernos y de la tecnología las empresas para garantizar que los algoritmos respeten principios básicos de igualdad y no discriminación. Llamado La declaración de Toronto, el documento se centra en la obligación de evitar sistemas de aprendizaje de máquina de discriminar y en algunos casos violando, los derechos humanos. La declaración fue anunciada como parte de la Conferencia de RightsCon, un encuentro anual de digital y grupos de derechos humanos.

“Debemos mantener nuestro enfoque en cómo estas tecnologías afectarán a los seres humanos y los derechos humanos”, dice el preámbulo. “En un mundo de sistemas de aprendizaje de máquina, que llevará rendición de cuentas para dañar los derechos humanos?”

La declaración ya ha sido firmada por Amnistía Internacional, acceso ahora, Human Rights Watch y la Fundación Wikimedia. Firmantes más se espera que en las semanas por venir.

Mientras no vinculante, la declaración está destinada a servir como una luz guía para los gobiernos y empresas de tecnología de abordar estos problemas, similares a los principios necesarios y Proportionate en vigilancia. No está claro cómo los principios se traducirían en prácticas específicas de desarrollo, aunque las recomendaciones más específicas sobre conjuntos de datos y de la insumos podrían desarrollarse en el futuro.

Más allá de las prácticas generales de no discriminación, la declaración se centra en el derecho individual para corregir cuando se produce discriminación algorítmica. “Esto puede incluir, por ejemplo, creando claras, procesos independientes y accesibles para corregir después de los efectos adversos individuales o sociales,” indica la declaración, “[y decisiones sujetas a apelación accesible y eficaz y revisión judicial . “

En la práctica, también significa visibilidad significativamente más popular algoritmos de trabajo. “Transparencia es integralmente relacionados con rendición de cuentas. No se trata simplemente que los usuarios con productos,”dijo Dinah PoKempner, director jurídico de Human Rights Watch. “También es asegurar que la AI es un mecanismo que trabaja para el bien de la dignidad humana”.

Muchos gobiernos ya se están moviendo a lo largo de líneas similares. Hablando RightsCon apertura de sesión plenaria, el Ministro de Patrimonio Canadiense Mélanie Joly dice transparencia algorítmico esfuerzos cruciales para el más amplio intercambio de información en línea. “Creemos en un internet democrático”, dijo Joly. “Por lo que para nosotros, la transparencia de los algoritmos es realmente importante. No necesitamos saber la receta, pero queremos saber los ingredientes”.