La IA conversacional puede impulsar los estereotipos sociales

Alexa, Siri, Watson y sus hermanos de IA que hablan sirven para hacernos la vida más fácil, pero también refuerzan los estereotipos de género. Las secretarias digitales educadas y serviles como Alexa y Siri se presentan como mujeres. Asertivo, que todo lo sabe ¡Peligro! el campeón Watson se conoce con mayor frecuencia como “él”. Nuevas generaciones de AI están llegando, lo que hará que este problema sea más significativo y mucho más difícil de evitar. A medida que el campo se expande, los diseñadores deben asegurarse de crear un mundo más expansivo y no replicar uno de género cerrado. Los lingüistas pueden ayudarlos a llegar allí.

El verano pasado, La ​​UNESCO publicó un informe advirtiendo contra las “repercusiones preocupantes” de la IA de género. Los investigadores recomendaron un escrutinio más detallado de por qué muchos sistemas actuales de IA basados ​​en el habla, que interactúan con millones de personas en todo el mundo, suelen hablar por defecto con una voz femenina, a pesar de que pueden afirmar que no tienen género. Si bien cualquier esfuerzo por explorar y abordar el tema de la IA y el género debe ser aplaudido, los autores del informe y otros han perdido un punto crucial: no se trata solo de cambiar los pronombres o las características vocales. Para atacar seriamente el tema de los estereotipos de género en la IA, se necesita prestar mucha más atención que solo la voz del sistema.

OPINIÓN CON CABLE ACERCA DE

Sharone Horowit-Hendler es estudiante de doctorado en antropología lingüística en SUNY Albany con énfasis en estudios de género en Albany . Su próxima disertación, Navigating the Binary, es un estudio de presentación de género en la comunidad no binaria. James Hendler es profesor de ciencias de la computación, director del Instituto para la Exploración y Aplicación de Datos en el Instituto Politécnico Rensselaer, y miembro de la Asociación para el Avance de la Inteligencia Artificial. Su libro más reciente, Social Machines: The Coming Collision of Artificial Intelligence, Social Networks and Humanity (Apress, 2017), analiza las implicaciones emergentes de la tecnología de inteligencia artificial.

Hoy los sistemas se están moviendo de los laboratorios de IA a los productos industriales que son conversacionales , mucho más allá del formato de preguntas y respuestas de nuestro bolsillo asistentes Estas nuevas “máquinas sociales” serán cada vez más capaces de convertirse en socios en interacciones de toma de decisiones multimedia con múltiples personas. Por ejemplo, en lugar de responder la consulta de un solo usuario sobre el restaurante chino más cercano, un agente de inteligencia artificial conversacional en un futuro no muy lejano podrá interactuar con un grupo de personas para ayudarlos a elegir dónde salir a comer. Tal IA participará como miembro del grupo: “Bueno, si Bob y Bill quieren comida china, y a Mary le gusta el tailandés, ¿por qué no el lugar de fusión en la calle?”, Podría decir. O incluso puede saltar más descaradamente: “OK, entonces vayamos al lugar de fusión”.

Es un hecho en la lingüística que los patrones de habla en la conversación invocan suposiciones de género independientemente de la voz o apariencia del hablante. Por ejemplo, en la cultura estadounidense estándar, los hombres se describen en la literatura como “ocupando espacio” con mayor frecuencia en la conversación: interrumpen más a menudo, usan más palabras, evitan algunas cortesías sociales y hablan con mayor certeza. Las mujeres, por otro lado, hablan estereotípicamente cada vez menos cortésmente, dan más afirmaciones y signos de escucha, y sugieren en lugar de dictar. Además, el tono, la velocidad, la elección de palabras y otros pequeños cambios pueden cambiar la percepción del hablante por parte de un participante.

Donde algunos han tratado de abordar el problema creando sistemas con voces digitales sin género , todavía pierden una característica crítica. Incluso en un chatbot sin voz, un usuario puede atribuir el género masculino o femenino en función de estas características de conversación. En el ejemplo anterior del restaurante, la primera sugerencia probablemente se consideraría educada y femenina, mientras que la última afirmación se consideraría típicamente masculina. Estudios recientes también muestran que estas señales pueden superar si una voz suena estereotípicamente masculina o femenina e incluso contradicen las afirmaciones directas de un hablante, ya sea humano o máquina, con respecto a su propia identidad. En términos de IA, el hecho de que Siri responda “No tengo género” no ha cambiado el hecho de que las personas conciben abrumadoramente que el programa sea femenino.

Los diseñadores deben prestar más atención a los problemas éticos que surgen de estas consideraciones. Si las nuevas IA continúan cayendo en los estereotipos actuales de roles de género, entonces se promoverá el estereotipo de la mujer pasiva y sumisa frente al líder experto / hombre experto. Pero los diseñadores también podrían ser poderosos agentes de cambio, no solo en nuestra cultura, sino especialmente en las naciones en desarrollo donde el estatus subyugado de las mujeres es una preocupación internacional creciente. Imagine los impactos de una IA de asesor comercial o médico que se presenta como AI acompañante femenina y asistente con estilos de habla masculina predeterminados. Más IAs percibidas por las mujeres en roles de expertos podrían ayudar a evolucionar la percepción de la sociedad y hacer que las mujeres sean más aceptadas en tales puestos.

Otro potencial futuro es romper con la dicotomía binaria de género por completo. Un porcentaje creciente de la población mundial no se identifica como hombre o mujer, cayendo en categorías que recién comienzan a ser mejor reconocidas en la sociedad dominante. Esto no solo incluye a las personas transgénero, sino también la gran subpoblación que no se identifica con un género binario en absoluto. Para estos grupos marginados, que por ejemplo tienen tasas de suicidio extremadamente altas, tales sistemas de IA podrían tener un gran impacto. No solo podían popularizar el uso del pronombre singular de género neutral sino también reflejar los patrones de habla de esta comunidad. Como los estudios lingüísticos sobre el habla no binaria recién están surgiendo, los diseñadores de IA que se asocian con investigadores lingüísticos también podrían beneficiar a esta comunidad. Para las personas no binarias, reconocer su forma de hablar en los modelos a seguir de IA sería invaluable.