“La Intel·ligència Artificial ha contribuït a reforçar prejudicis humans”. Ho explica en una xerrada TED Kriti Sharma, experta en Intel·ligència Artificial que es preocupa per l'ètica i la resolució de problemes socials. Sharma recorda que la IA influeix en gran part de les decisions que prenem. És per això que cal anar amb compte amb les dades que proporcionem a les màquines, ja que elles només reprodueixen els patrons i possibles biaixos humans.

Com mantenir la Intel·ligència Artificial al marge de prejudicis humans

En una xerrada TED que va tenir lloc al març de 2018 al Regne Unit, Kriti Sharma recorda el pes que té la Intel·ligència Artificial en les nostres decisions. En un context de preocupació pel futur del treball derivat de la creixent robotització, podem caure en l'error d'obviar els beneficis i oportunitats que ens brinda la IA. Avui dia, l'ús correcte de la tecnologia pot facilitar considerablement la vida humana i, de fet, s'espera que ho faci encara més en un futur. 

Per exemplificar-ho de forma senzilla, Kriti Sharma exposa el cas hipotètic d'una dona embarassada que resideix a la República Democràtica del Congo i que per a arribar a la clínica més pròxima a casa seva ha de caminar 17 hores. En aquest cas, l'ús del telèfon pot ser molt beneficiós, ja que aquest canal ofereix la possibilitat de fer consultes al metge i fins i tot se li pot arribar a donar un diagnòstic. A més, en cas que la mateixa dona patís violència de gènere i pogués ser perillós per ella parlar en veu alta, la IA podria resultar-li d'ajuda per donar la veu d'alarma. Tanmateix, no tot el que aporta el desenvolupament tecnològic és positiu.

“Una persona que es diu Joan té més possibilitats de ser bon programador que una altra que es diu María”; “És menys probable que una persona negra o llatinoamericana pagui un préstec a temps”. Si fos una persona la que tingués aquest tipus de pensaments ens generaria rebuig. Doncs aquests són alguns dels exemples que cita Kriti Sharma per demostrar-nos que la IA pot reproduir el perfil d'una persona racista i sexista a través de les seves decisions. Però, és culpa de les màquines o de qui les programa? Evidentment, té a veure amb la informació que els humans transmetem als robots, desaprofitant així part de les seves possibilitats. 

En aquest sentit, segons recorda Kriti Sharma, sovint es malgasta el potencial de la tecnologia utilitzant-la perquè ens suggereixi des de productes que podem comprar fins a pel·lícules que ens podrien agradar en funció de les nostres preferències o interessos. A més, no només es desaprofita una part de l'energia en el món de la IA, sinó que a través d'aquesta s'han reforçat els prejudicis de gènere. Es pot observar clarament en el cas dels assistents intel·ligents com Siri o Alexa. En tots dos casos es tracta d'una veu femenina que dóna resposta a les demandes que se li plantegen. D'aquesta manera, una màquina dissenyada per a servir adopta, de nou, el perfil d'una dona. En canvi, per a d'altres assistents com IBM Watson, que pren decisions relacionades amb el món dels negocis, s'utilitza una veu masculina. S'atorga, doncs, una posició de major poder a l'home. És així com a través dels robots es reprodueixen estereotips de gènere.

En l'àmbit empresarial, la gran quantitat d'informació que proporcionem a les màquines pot ser també una font de problemes. Les decisions que prenen les persones amb rol directiu estan condicionades per les dades que s'ofereixen a les màquines. Per exemple, en el cas de la IA que ajuda a la persona encarregada de la selecció de persones, les decisions es filtren a través d'aspectes com el gènere, la identitat, l'edat, etc. Si fins al moment s'ha contractat majoritàriament a homes per ocupar un determinat lloc de treball, serà molt més probable que la màquina entengui que les persones més capacitades per fer-ho siguin també homes. D'aquesta manera, s'elimina a les candidates femenines del procés de selecció o, com a mínim, es redueixen les seves possibilitats de ser contractades. 

És evident, doncs, que encara que la tecnologia no hauria d'haver estat desenvolupada sobre la base d'un estil antiquat que reprodueix estereotips de gènere i que fomenta el racisme, la realitat fins al moment no ha estat aquesta i és necessari donar la volta a la situació. L'ètica i els valors han d'estar presents en el desenvolupament tecnològic i, a més, és possible perquè la IA està completament sota control humà. En aquest sentit, Kriti Sharma ens recorda que podem aconseguir-ho sent conscients dels prejudicis que ens envolten i assegurant-nos que els equips que desenvolupen la IA siguin diversos.

 

Accés a la xerrada TEDxWarwick de Kriti Sharma: https://www.ted.com/talks/kriti_sharma_how_to_keep_human_biases_out_of_ai/transcript?language=es

Articles relacionats / Artículos relacionados

Subscriu-te gratuïtament als nostres butlletins

Rep notícies i idees en Recursos Humans.
Subscripció

Utilitzem cookies per oferir a les nostres visites una millor experiència de navegació pel nostre web.
Si continues navegant, considerem que acceptes la seva utilització.