Asistente de Google disparó una pistola: necesitamos hablar

Para bien o para mal, Google ayudante puede hacerlo todo. De tareas mundanas como encender las luces y recordatorios de configuración convincentemente mímico patrones de discurso humano, el ayudante de AI es tan capaz que da miedo. Su última habilidad (no oficial), sin embargo, es un poco más siniestra. Artista Alexander Reben recientemente profesor asistente a un arma de fuego. Afortunadamente, la víctima era una manzana, no viviente. El video de 30 segundos, titulado simplemente “Google dispara,” muestra Reben diciendo “Bien Google, activar arma.” Apenas un segundo después, un zumbador desaparece, los fuegos de la arma, y asistente responde “Seguro, encender la pistola.” En la superficie, el material es decepcionante–nada visualmente detención está sucediendo realmente. Pero Retire las capas hasta un poco, y es obvio que este proyecto está destinado a provocar una conversación sobre los límites de lo que AI se debe hacer.

Como Reben a Engadget, “el discurso en torno a dichos aparatos a (n) es más importante que su presencia física”. Para este proyecto decidió utilizar el Asistente de Google, pero dijo que podría haber sido Un eco de Amazon “o algún otro dispositivo de entrada, así”. Al mismo tiempo, el dispositivo activa “podría haber sido un nuevo masaje silla o un fabricante de helado”.

Pero Reben asistente del brazo con una pistola. Y la preocupación por AI dos caras de Google desde I/O anteriormente este mes, así como la aparentementeinterminablemasatiroteos en Estados Unidos, su decisión es astuto.

En este ejemplo, Reben fue quien dijo a Asistente para “activar arma.” Él sigue siendo la persona responsable de la acción. Pero en un mundo donde el aprender de máquina ha llevado a Ia que es lo suficientemente inteligente como para anticipar nuestras necesidades y atender a nuestra comodidad todos los días, no es difícil imaginar que un día cuando ayudantes digitales podrían matar gente que molesta, si se les da acceso a las armas. ¿Quién es responsable de la muerte entonces?

Es bastante fácil decir que debemos bloquear acceso AI a dispositivos peligrosos. Pero ya los tenemos en nuestros coches, en las fuerzas armadas y en otros lugares que probablemente no hemos siquiera pensado. Podemos exigir las empresas asegurarse de que su tecnología no puede causar daño, pero es simplemente imposible de prever cualquier eventualidad, cada manera posible que AI podría ir a pícaro.

“Parte del mensaje para mí incluye las consecuencias imprevistas de la tecnología y la inutilidad de considerar cada caso de uso”, dijo Reben. Google podría no haber imaginado a auxiliar se utiliza para disparar un arma. Pero todo llevó de Reben lograr que las partes poniendo alrededor de su estudio. Utiliza un relé de control que generalmente se convierte en una lámpara, había ligado a un altavoz de la Página principal de Google, luego conectado un solenoide de cambio de dispensación de lavandería para tirar de una cadena que se coloca en el gatillo. “La instalación fue muy fácil”, dijo Reben.

Él no es ajeno a la obra de arte con las capacidades de la inteligencia artificial. REBEn tiene creado proyectos que muestran lo que AI oye y ve a “la alegría de la pintura,” así como ocultar pequeñas obras de arte en direcciones URL. Esto, sin embargo es una pieza aún más provocativa que las fuerzas al espectador a imaginar qué podría suceder si nefastos programadores hacen una IA fueron pícaro. Ahora, más que nunca, necesitamos que las discusiones acerca de cómo, y si podemos evitar que una máquina inteligente de matar a todos nosotros.