Naciones Unidas critica a los asistentes de voz por promover sesgos de género

Vía https://www.dezeen.com

 
Facebook
Google plus
Linkedin
Twitter
 


Un informe de las Naciones Unidas descubrió que Siri de Apple, Alexa de Amazon y otros asistentes digitales de voz femenina "refuerzan los prejuicios de género más comunes".

La UNESCO señala que ha habido una "proliferación repentina" de estas tecnologías, especialmente desde la introducción de altavoces inteligentes, que registraron ventas de aproximadamente 100 millones de unidades en 2018.

"Honra los comandos y responde a las preguntas independientemente de su tono u hostilidad. En muchas comunidades, esto refuerza los prejuicios de género que las mujeres están subordinadas y toleran con el tratamiento deficiente".

Esto, combinado con la alta proporción de comentarios sexualmente explícitos que registran los asistentes, el cinco por ciento de todas las interacciones con estimaciones conservadoras, ha generado la preocupación de la agencia.

La UNESCO reconoce que este es un primer paso positivo, pero pide a las empresas de tecnología que hagan más para contrarrestar el daño creado por los años de asistentes de IA que suenan.

Juntas, estas tecnologías representan el 90 por ciento del mercado de asistentes de voz, todas lanzadas con solo una voz femenina, y todas funcionan de manera predeterminada en la mayoría de los países.

La fotografía es de Tyler Lastovich.

Agencia preocupada por comentarios sexualmente explícitos.

La compañía cambió esta programación luego de que una investigación de Quartz en 2017 resaltó el lenguaje alegre con el que los asistentes de voz responden a tales abusos de género. Siri ahora recibe este comando con un tono más directo: "No sé cómo responder a eso".

Siri, Alexa y Cortana lanzaron con voces femeninas.

La UNESCO dice que su discusión debería hacer que las implicaciones de género de las tecnologías de inteligencia artificial sean visibles en un momento en que esas tecnologías están ingresando cada vez más en la corriente principal.

La UNESCO pide a las empresas de tecnología que hagan más

La mayoría de los centros de investigación de la UNESCO sobre Siri de Apple, Alexa de Amazon y Cortana de Microsoft -todas mujeres con género desde el principio- y Google Assistant.

"Los problemas de género que se abordan aquí muestran un debate que se hará más prominente a medida que las tecnologías de inteligencia artificial adquieran mayores capacidades de comunicación de tipo humano", señala el informe.

Un asistente de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) argumenta que los asistentes refuerzan las ideas negativas de que las mujeres están subordinadas y ayudan a normalizar el abuso verbal.

StoryQ relacionada es la primera tecnología de voz neutral al género del mundo.

La agencia solicita a las empresas que pongan fin a la práctica de convertir a los asistentes en mujeres por defecto, exploren la viabilidad de las voces automáticas sin género, programenlas para desalentar insultos sexistas y entrenen a la IA en conjuntos de datos sensibles al género.

Historia relacionada Lenovo lanza una colorida alternativa al altavoz inteligente Amazon Echo

"Debido a que el discurso de la mayoría de los asistentes de voz es femenino, envía una señal de que las mujeres son amables, dóciles y ansiosas de complacer a las ayudantes, disponibles con solo tocar un botón o con un comando de voz directo como" hey "o" OK " , "dijo el informe.

Las declaraciones se incluyen en un informe más amplio de la UNESCO que aborda la brecha de habilidades digitales entre hombres y mujeres en todo el mundo. Se titula Me ruborizaría si pudiera, después de la respuesta que el asistente de AI de Apple usó para dar a la declaración "Siri, eres una puta".

También recomienda varias formas de aumentar la diversidad en la industria de la tecnología, ya que los prejuicios de los equipos de diseño y las salas de escritores se filtran inevitablemente en sus productos.

Para una comparación positiva, el informe cita a Q, la primera voz de género neutral del mundo y el chatbot Kai de Kasisto, que se identifica explícitamente ante los usuarios como un robot sin género y les dice que dejen de acosarlo si usan lenguaje agresivo o sexual.



 
© Illustrarama.com 2018

Hecho con por Illustrarama

Siguenos en: Facebook logo to illustrarama fanpage