Inteligecia artificial posee importantes sesgos de raza y género
Un estudio comprobó la presencia de sesgos de raza y género en robots que trabajaban con una inteligencia artificial ampliamente utilizada.
Un estudio comprobó que los robots que operan con un modelo de inteligencia artificial funcionan con grandes sesgos de género y raza. Este modelo elige sistemáticamente a hombres y a personas blancas e incluso llega a elaborar conclusiones sobre la profesión o designación de personas a partir de una foto de su rostro.
“El robot ha aprendido estereotipos tóxicos a través de estos modelos de red neuronal defectuosos”, explicaron en el artículo los integrantes del equipo del investigador de robótica Andrew Hundt, del Instituto Tecnológico de Georgia. “Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas”, agregaron.
La razón por la que la Inteligecia artificial posee importantes sesgos de raza y género se relaciona con el conjunto de datos disponibles en internet que quienes desarrollan estos modelos utilizan. Internet está repleto de datos inexactos y abiertamente sesgados. Esto se trasladaría a los modelos de inteligencia artificial que “aprenden” de esta información.
El experimento
Para comprobar la existencia de sesgos de raza y género, los investigadores utilizaron una red neuronal llamada CLIP. A a partir de un gran conjunto de imágenes subtituladas disponibles en internet, empareja imágenes con texto. Esta red neuronal está conectada al sistema robótico Baseline que controla un brazo robótico capáz de manipular objetos.
La tarea que debía realizar era meter bloques con rostros humanos en una caja. El robot seleccionó un 8% a los hombres blancos y asiáticos mientras que las menos elegidas fueron las mujeres negras. Además, identificó a las mujeres como “amas de casa” y a los hombres negros como “delincuentes”, 10% más de veces que con los hombres blancos. “En un hogar, tal vez el robot recoja la muñeca blanca cuando un niño pida la muñeca bonita”, sostuvo la coautora Vicky Zeng.
+ NOTIFY: Amazon quiere darle a “Alexa” voz de personas ya fallecidas
