/cdn.vox-cdn.com/uploads/chorus_image/image/59367441/cjfezja7w000ikgr2arjl681p_2.full.0.jpg)
¿Confías en esta computadora? no es un reloj particularmente sutil. El documental, del cineasta Chris Paine, está dedicado a los peligros de la inteligencia artificial, y aunque no causó sensación en los cines, fue promocionado con entusiasmo por Elon Musk, quien tuiteó la película y pagó por ella para transmitirla en forma gratuita. a principios de abril. (Musk también aparece en el documental como una cabeza parlante). Comienza bombardeando a los espectadores con citas y giros de teléfonos y cerebros. “Tenemos una inteligencia en red que nos observa, sabe todo sobre nosotros”, dice uno. “El cambio viene y nadie puede detenerlo”, dice otro. Se siente más como un trailer de una mala película de ciencia ficción que un documental sobre inteligencia artificial.
Es una pena, ya que el campo de la inteligencia artificial necesita desesperadamente una discusión pública matizada. En cambio, ¿Confías en esta computadora? lleva a los espectadores a una visita guiada por varios temas relacionados con la inteligencia artificial, incluida la automatización del trabajo, el armamento autónomo y los autos sin conductor, todos ilustrados con robots CGI y citas de investigadores respetados. Paine, quien anteriormente dirigió el documental de 2006 ” Who Killed the Electric Car”? , está tratando de dar una visión general ambiciosa de la amenaza y el potencial de la IA, pero lo hace de la misma manera que las imágenes de satélite proporcionan una “buena visión general” de dónde dejó las llaves de su automóvil. Simplemente no hay suficientes detalles para ser útil.
Tomemos, por ejemplo, la discusión de la película sobre la superinteligencia, la teoría que anima muchos escenarios apocalípticos de inteligencia artificial. La idea es que una vez que construyamos una computadora más inteligente que los humanos, su inteligencia crecerá exponencialmente y se convertirá en una grave amenaza para la humanidad. Si no programamos a AI con la moral adecuada, dice la teoría, eventualmente nos borrará por malicia, descuido o simple indiferencia. Musk, que también es la películavoz líder en superinteligencia, advierte que tal sistema se convertiría en “un dictador inmortal del que nunca podríamos escapar”.
Esto puede ser tremendamente emocionante, como cualquier escenario de película de acción basada en el miedo, pero también es un resumen incompleto y engañoso de lo que la comunidad de AI cree sobre este tema. Sí, muchos expertos reconocen la posible amenaza de la superinteligencia, pero rápidamente agregan que la tecnología que tenemos ahora no es capaz de crear máquinas conscientes y que la IA podría crear muchos peligros más apremiantes para la sociedad, como la vigilancia algorítmica y la vigilancia automática. .
Y sí, gente como Musk argumenta que la amenaza de la superinteligencia aún merece más atención porque es existencial (es decir, tiene el potencial de aniquilar a la humanidad). Pero este tipo de cálculo es útil principalmente en un ambiente académico, donde la investigación en superinteligencia ha estimulado un montón de trabajo útil en la seguridad de la IA. En los medios, donde la atención es escasa y fugaz, las tácticas de miedo distorsionan el debate y allanan los muchos matices en la discusión de la superinteligencia.
Es como terminar un documental sobre la violencia en las ciudades diciendo: “Olvídate de los atracos, ¡tu vecino podría estar fabricando una bomba nuclear en su garaje ahora mismo! “Eso puede ser técnicamente cierto, pero no es particularmente útil. No es de extrañar que los científicos en Twitter hayan sido menos halagadores sobre Do You Trust This Computer? , describiéndolo como ” miedo gratuito ” y una ” muy buena comedia “.
También vale la pena señalar que ¿Confías en esta computadora? sugiere que la solución está aumentando a los humanos con IA para que no nos “queden atrás”. Musk mismo ha fundado una compañía basada en esta premisa. Y aunque no hay nada de malo en que Musk promueva algo que respalde sus teorías e intereses financieros, sugiere que su entusiasmo es algo tendencioso.
¿Confías en esta computadora? gasta tiempo en asuntos importantes. Discute la posibilidad de que la automatización del trabajo genere una mayor desigualdad y alude a la gran cantidad de datos recopilados sobre nosotros por compañías como Facebook y Google. (Aunque esto tiene muy poco que ver con la inteligencia artificial y todo lo relacionado con monopolios en la industria tecnológica). También hay una sección particularmente interesante sobre armamento autónomo, que hace que el punto deprimente, pero a menudo pasado por alto, a pesar de nuestro malestar por las máquinas decisiones en el campo de batalla, las conveniencias de la guerra probablemente anularán las objeciones éticas. En el documental, el politólogo PW Singer señala que la guerra submarina irrestricta dirigida contra buques de carga y tanques fue considerada desmesurada a principios del siglo XX, pero se normalizó después de la Segunda Guerra Mundial. Estamos en medio de una transición similar sobre la ética del combate con drones , y las armas autónomas pueden seguir el mismo camino.
Estas secciones adolecen de las mismas deficiencias que el resto de la película: son demasiado breves y demasiado sensacionalistas. Pero lo frustrante es lo que se ha omitido por completo. En la actualidad, se está realizando una increíble cantidad de trabajo importante en AI, que explora las implicaciones éticas de la integración de los sistemas de aprendizaje automático en la sociedad. Estos son temas importantes, como la forma en que los conjuntos de datos sesgados afectan los algoritmos de toma de decisiones utilizados para las sentencias penales y la contratación de personal. Y a pesar de que son complejos, no son difíciles de comunicar. Cuando un algoritmo desarrollado por Google para filtrar los comentarios en línea da la afirmación “Soy una mujer negra gay” con un índice de toxicidad del 87%, incluso los documentalistas más osados deberían poder expresar por qué la IA mal aplicada podría ser preocupante.
También es notable que mientras gran parte de este importante trabajo lo están haciendo mujeres, personas como Kate Crawford del instituto AI Now y Joy Buolamwini de Algorithmic Justice League, el elenco de cabezas parlantes en Do You Trust This Computer? es abrumadoramente masculino. De los 26 expertos presentados en la película, 23 son hombres. Como investigador de Microsoft AI Timnit Gebru & nbspag; señalado en Twitter, esto es realmente una “hazaña difícil de lograr”, teniendo en cuenta la diversidad de género en el campo.
La película no hace nada para disipar la impresión de que solo le interesan los hombres importantes que hablan de ideas importantes con su uso persistente de miembros femeninos del público para ilustrar la ingenuidad general sobre las computadoras. A lo largo del documental, las mujeres y los niños son entrevistados en la calle, y sus comentarios relajados e informales, como “Dios mío, confío tanto en mi computadora”, se contrastan constantemente con la pericia asegurada de los hombres. Este motivo (presumiblemente no intencional) dice más acerca de los prejuicios de la sociedad y la IA de lo que el documental mismo intenta.
¿Confías en esta computadora? es defendible de alguna manera. Es interesante, imaginativo y fácil de observar, y llama la atención sobre un tema que tendrá efectos reales e importantes en nuestras vidas. Pero sacrifica demasiada complejidad y detalles para lograr esto, y es más engañoso que informativo.
Paine anticipa esta crítica. Su dramática secuencia de apertura presenta un clip de Terminator 2 , con un robot que camina sobre un cráneo humano. Y luego el co-creador de Westworld , Jonathan Nolan, dice que los medios y Hollywood se han “jodido” por “llorar lobo lo suficiente” para inocular al público contra el miedo a la IA. Esta vez es diferente, asegura Nolan: el miedo es real y presente. Luego comienza la película y comienza el grito. “¡Lobo, lobo, lobo!”
