Facebook para combatir la pornografía y el discurso de odio con más revisores de contenido

El CEO de Facebook, Mark Zuckerberg, quiere contratar a miles de revisores de contenido para estudiar detenidamente el contenido marcado este año, una medida que reiteró durante sus audiencias la semana pasada en Capitol Hill.

“Para fines de este año, vamos a tener más de 20,000 personas en la compañía trabajando en seguridad y revisión de contenido, porque esto es importante”, explicó Zuckerberg durante las audiencias, agregando que cuando el contenido es marcado por Facebook ( FB) ), los revisores de contenido examinarán ese contenido y lo eliminarán si viola los Estándares de la comunidad de la red social.

Facebook ya está en camino de cumplir con la ambiciosa meta de Zuckerberg, ya que ya contrató a 15,000 personas, de las cuales 7,500 son revisoras de contenido, dijo la red social a Yahoo Finance. Los revisores de contenido tienen la tarea de revisar el contenido: texto, fotos y videos marcados por los usuarios de Facebook por ser pornográficos, racistas o violentos. El trabajo puede ser rápido y furioso: un informe de Wall Street Journal de diciembre indicó que los revisores de contenido pueden ver hasta 8,000 publicaciones por día .

De acuerdo con un vocero de Facebook, los revisores de contenido son una mezcla de empleados a tiempo completo y trabajadores provistos por firmas de reclutamiento como Accenture, Pro Unlimited y Arvato.

Accenture, Pro Unlimited y Arvato no respondieron para recibir comentarios de inmediato.

Con cada contratación, Facebook busca hablantes nativos con “conocimiento del mercado”: una comprensión de los problemas locales y regionales, como quiénes son las figuras políticas en un área determinada. Aunque señalar desnudez y pornografía puede que no lo requiera, el contexto es clave para identificar, por ejemplo, instancias de discurso de odio que se relacionan con problemas locales en un determinado país o región.

Facebook no divulga específicamente cuánto pagan a los revisores de contenido, sin embargo, la red social le dijo a Yahoo Finance que reciben un pago “superior al promedio” para la industria. Un revisor de contenido que se fue en octubre de 2016, según los informes , ganó $ 24 por hora.

Ser un crítico de contenido puede ser un trabajo agotador, dado que pasan sus días estudiando fotos, videos y textos que pueden ser extremadamente violentos, gráficos o lacrados.

Con el tiempo, Zuckerberg agregó los planes de las redes sociales para pasar a un método en el que una mayor parte del contenido de su sitio está marcado por herramientas de inteligencia artificial desarrolladas dentro de la red social. Las herramientas de inteligencia artificial de Facebook ya se utilizan para marcar el 99% del contenido de ISIS y Al Qaeda antes de que cualquier usuario de Facebook lo vea.

Algunos problemas se prestan más fácilmente a las soluciones de IA que otros, dijo Zuckerberg durante las audiencias del Congreso , señalando el discurso de odio como uno de los más desafiantes, dado lo “matizado lingüísticamente” que puede ser. Sin embargo, expresó optimismo de que en algún momento dentro de los próximos cinco a 10 años, la red social tendrá herramientas de IA que pueden navegar con éxito esos matices.

“Pero hoy, simplemente no estamos allí en eso”, reconoció Zuckerberg. “Así que mucho de esto sigue siendo reactivo”. La gente nos lo indica. Tenemos personas que lo miran. Tenemos políticas para tratar de hacerlo lo más subjetivo posible. Pero, hasta que lo consigamos más automatizado, hay una tasa de error más alta de lo que estoy satisfecho “.

Un portavoz de Facebook se hizo eco de los comentarios de Zuckerberg y dijo que la red social sigue avanzando en ese frente.

“Estamos trabajando para mejorar nuestra IA y automatización para ayudarnos a aumentar la precisión y la velocidad”, dijo el vocero a Yahoo Finance. “Pero los algoritmos aún no son tan buenos como las personas cuando se trata de entender el contexto, y es por eso que las personas siguen siendo el centro del proceso de revisión de contenido”.

Lo que significa que, a corto plazo, a medida que Facebook aumente sus esfuerzos para frustrar el contenido inapropiado, no habrá escasez de roles de revisores de contenido para los solicitantes de empleo interesados, siempre y cuando estén calificados y puedan resistir.