“La Inteligencia Artificial ha contribuido a reforzar prejuicios humanos”. Lo explica en una charla TED Kriti Sharma, experta en Inteligencia Artificial que se preocupa por la ética y la resolución de problemas sociales. Sharma recuerda que la IA influye en gran parte de las decisiones que tomamos. Es por eso que hay que tener cuidado con los datos que proporcionamos a las máquinas, ya que ellas solamente reproducen los patrones y posibles sesgos humanos.

Cómo mantener la Inteligencia Artificial al margen de prejuicios humanos

En una charla TED que tuvo lugar en marzo de 2018 en el Reino Unido, Kriti Sharma recuerda el peso que tiene la Inteligencia Artificial en nuestras decisiones. En un contexto de preocupación por el futuro del trabajo derivado de la creciente robotización, podemos caer en el error de obviar los beneficios y oportunidades que nos brinda la IA. A día de hoy, el uso correcto de la tecnología puede facilitar considerablemente la vida humana y, de hecho, se espera que lo haga aún más en un futuro.

Para ejemplificarlo de forma sencilla, Kriti Sharma expone el caso hipotético de una mujer embarazada que reside en La República Democrática del Congo y que para llegar a la clínica más próxima a su casa debe caminar 17 horas. En este caso, el uso del teléfono puede ser muy beneficioso, ya que este canal ofrece la posibilidad de hacer consultas al médico e incluso se le puede llegar a dar un diagnóstico. Además, en caso de que la misma mujer sufriera violencia de género y para ella pudiera ser peligroso hablar en voz alta, la IA podría resultarle de ayuda para dar la voz de alarma. Sin embargo, no todo lo que aporta el desarrollo tecnológico es positivo.

“Una persona que se llama Juan tiene más posibilidades de ser buen programador que otra que se llama María”; “Es menos probable que una persona negra o latinoamericana pague un préstamo a tiempo”. Si fuera una persona la que tuviera este tipo de pensamientos nos generaría rechazo. Pues estos son algunos de los ejemplos que cita Kriti Sharma para demostrarnos que la IA puede reproducir el perfil de una persona racista y sexista a través de sus decisiones. Pero, ¿es culpa de las máquinas o de quiénes las programan? Evidentemente, tiene que ver con la información que los humanos transmitimos a los robots, desaprovechando así parte de sus posibilidades.

En ese sentido, según recuerda Kriti Sharma, a menudo se desperdicia el potencial de la tecnología utilizándola para que nos sugiera desde productos que podemos comprar hasta películas que nos podrían gustar en función de nuestras preferencias o intereses. Además, no solo se desaprovecha una parte de la energía en el mundo de la IA, sino que a través de ella se han reforzado los prejuicios de género. Se puede observar claramente en el caso de los asistentes inteligentes como Siri  o Alexa. En ambos casos se trata de una voz femenina que da respuesta a las demandas que se le plantean. De este modo, una máquina diseñada para servir adopta, de nuevo, el perfil de una mujer. En cambio, para otros asistentes como IBM Watson, que toma decisiones relacionadas con el mundo de los negocios, se utiliza una voz masculina. Se otorga, pues, una posición de mayor poder al hombre. Es así como a través de los robots se reproducen estereotipos de género.

En el ámbito empresarial, la gran cantidad de información que proporcionamos a las máquinas puede ser también una fuente de problemas. Las decisiones que toman las personas con rol directivo están condicionadas por los datos que se ofrece a las máquinas. Por ejemplo, en el caso de la IA que ayuda a la persona encargada de la selección de personas, las decisiones se filtran a través de aspectos como el género, la identidad, la edad, etc. Si hasta el momento se ha contratado mayoritariamente a hombres para ocupar un determinado puesto de trabajo, será mucho más probable que la máquina entienda que las mejores personas para ocupar dicho puesto de trabajo sean también hombres. De este modo, se elimina a las candidatas femeninas del proceso de selección o, como mínimo, se reducen sus posibilidades de ser contratadas.

Es evidente, pues, que aunque la tecnología no debería haber sido desarrollada en base a un estilo anticuado que reproduce estereotipos de género y que fomenta el racismo, la realidad no ha sido esa hasta el momento y es necesario dar la vuelta a la situación. La ética y los valores deben estar presentes en el desarrollo tecnológico y, además, es posible porque la IA está completamente bajo control humano. En ese sentido, Kriti Sharma nos recuerda que podemos lograrlo siendo conscientes de los prejuicios que nos rodean y asegurándonos de que los equipos que desarrollan la IA sean diversos.

 

Acceso a la charla TEDxWarwick de Kriti Sharma: https://www.ted.com/talks/kriti_sharma_how_to_keep_human_biases_out_of_ai/transcript?language=es

Articles relacionats / Artículos relacionados

Suscríbete gratuitamente a nuestros boletines

Recibe noticias e ideas en Recursos Humanos.
Suscripción

Utilizamos cookies para ofrecer a nuestras visitas una mejor experiencia de navegación por nuestra web.
Si continúas navegando, consideramos que aceptas su utilización.