Siguiente protesta generalizada sobre los dilemas éticos planteados por el nuevo sistema Duplex de Google, que permite inteligencia artificial imitar una voz humana para hacer citas, Google ha aclarado en un comunicado que el sistema experimental tienen “divulgación incorporada.” Parece que quiere decir que cualquier forma eventual Duplex toma como un producto de consumo implicará a algún tipo de anuncio verbal de la persona en el otro extremo que él o ella de hecho está hablando con una inteligencia artificial.
“Entendemos y valoramos la discusión alrededor de Google Duplex — como hemos dicho desde el principio, la transparencia en la tecnología es importante,” un portavoz de Google dijo a The Verge en una declaración esta tarde. “Estamos diseñando esta función con divulgación incorporado, y nos aseguraremos que el sistema está adecuadamente identificado. Lo que nos mostró en I/O era una demostración temprana de tecnología, y esperamos incorporar feedback mientras desarrollamos este en un producto.”
Duplex no es todavía un producto de trabajo, y CEO de Google Sundar Pichai introdujo en el escenario el martes en Conferencia de desarrolladores de la empresa I/O con sólo una llamada de teléfono pregrabada. Ese demo mostró cómo Asistente de Google podría sonar mucho más realista cuando haciendo uso de la técnica de generación de audio de WaveNet nueva de DeepMind y otros avances en el procesamiento del lenguaje natural que ayuda a software que más realista replicar patrones de discurso humano. Por ejemplo, Duplex es tan convincentemente humano porque Google incluye las garrapatas como “uh” y “um” y otras frases más coloquiales en biblioteca verbal del asistente.
Sin embargo, que una pieza de software útil fue engañar a un ser humano — en este caso, una recepcionista de salón de pelo, causó gran alarma entre críticos de la tecnología y los que temen tecnologías de IA se están desarrollando sin adecuada supervisión ni regulación. Crítico de tecnología Zeynep Tufekci llama la demo “horrible” y la reacción de la audiencia positiva inicial en I/O como prueba que “Silicon Valley es éticamente perdida, sin timón y no ha aprendido una cosa.