{"id":24492,"date":"2018-09-26T00:00:00","date_gmt":"2018-09-26T04:00:00","guid":{"rendered":"http:\/\/www.noticel.com\/hack\/20180926\/inteligencia-artificial-podria-replicar-prejuicios-humanos\/"},"modified":"2025-07-16T05:45:42","modified_gmt":"2025-07-16T05:45:42","slug":"inteligencia-artificial-podria-replicar-prejuicios-humanos","status":"publish","type":"post","link":"https:\/\/noticel.com\/en\/mas\/otros\/20180926\/inteligencia-artificial-podria-replicar-prejuicios-humanos\/","title":{"rendered":"Inteligencia artificial podr\u00eda replicar prejuicios humanos"},"content":{"rendered":"

Podr\u00eda ser da\u00f1ino para la humanidad<\/i><\/p>\n

La inteligencia artificial est\u00e1 llamada a ser la pr\u00f3xima gran revoluci\u00f3n tecnol\u00f3gica, pero existe el riesgo de que replique prejuicios y sesgos humanos, advirtieron hoy expertos en la materia en la conferencia Dreamforce 18 en San Francisco (Estados Unidos).<\/p>\n

‘Se trata de una tecnolog\u00eda que puede hacer mucho bien, pero tambien tiene potencial para da\u00f1ar a los individuos’, explic\u00f3 la arquitecta de pr\u00e1cticas eticas de inteligencia artificial del gigante de computaci\u00f3n en nube Salesforce, Kathy Baxter, en un debate en este evento.<\/p>\n

Aunque la premisa fundamental de la inteligencia artificial es que las m\u00e1quinas piensan y toman decisiones por s\u00ed mismas, son los humanos quienes deben ense\u00f1arles a llevar a cabo estos procesos, por lo que cualquier sesgo presente en el mundo real es f\u00e1cilmente repetido.<\/p>\n

Seg\u00fan Baxter, la clave son los datos -de los que se nutren las m\u00e1quinas en su proceso de aprendizaje-, ya que si estos presentan sesgos o patrones discriminatorios, las decisiones que termine tomando la m\u00e1quina har\u00e1n lo mismo o incluso los ampliar\u00e1n.<\/p>\n

‘Pongamos por caso un programa de inteligencia artificial que decide mediante un an\u00e1lisis de riesgo si se otorgan prestamos o no a potenciales clientes de un banco’, us\u00f3 como ejemplo la responsable de Salesforce.<\/p>\n

‘Si hist\u00f3ricamente las mujeres o minor\u00edas etnicas han experimentado una tasa inferior con respecto a la concesi\u00f3n de prestamos por parte del banco, eso ser\u00e1 lo que aprenda la m\u00e1quina y lo reproducir\u00e1’, apunt\u00f3.<\/p>\n

Podr\u00eda pensarse que si el programador elimina variables como la raza o el genero en el algoritmo de toma de decisiones de la m\u00e1quina el problema se solucionar\u00eda, pero Baxter asegur\u00f3 que ese no es el caso.<\/p>\n

‘Podemos eliminar variables directas, pero siempre quedar\u00e1n las indirectas -indic\u00f3-. Por ejemplo, en EE.UU. el nivel de ingresos y la raza est\u00e1n estrechamente relacionados. La inteligencia artificial hallar\u00e1 patrones con respecto a esta variable, y ello perjudicar\u00e1 a las minor\u00edas’.<\/p>

\"\"<\/a><\/div>\n

De acuerdo con la experta, no se puede esperar que la tecnolog\u00eda elimine ‘de forma m\u00e1gica’ los prejuicios existentes en las sociedades, por lo que la \u00fanica soluci\u00f3n real pasa por ser extremadamente cuidadosos con los datos de los que se nutre la inteligencia artificial.<\/p>\n

En el presente, ya se han encontrado casos de potencial discriminaci\u00f3n por parte de la inteligencia artificial, incluso en algo tan aparentemente inocuo como los asistentes de voz.<\/p>\n

As\u00ed lo subray\u00f3 el jefe cient\u00edfico del departamento de investigaci\u00f3n de Salesforce, Richard Socher: ‘Las investigaciones actuales demuestran que, por ejemplo, los sistemas de reconocimiento de voz tienen una tasa de error ligeramente superior para las mujeres’, se\u00f1al\u00f3.<\/p>\n

Socher coincidi\u00f3 con Baxter en la ‘importancia crucial’ de ‘ense\u00f1ar’ a las m\u00e1quinas con datos libres de sesgo, ya que, destac\u00f3 el experto, la inteligencia artificial tendr\u00e1 un impacto incluso mayor que internet en la vida de las personas.<\/p>\n

Otro campo de potencial discriminaci\u00f3n, dijo Socher, es la lengua, dado que es habitual que productos de inteligencia artificial con ‘notables beneficios para el d\u00eda a d\u00eda de las personas’, salgan al mercado en un n\u00famero muy limitado de idiomas.<\/p>\n

‘Eso tambien es discriminaci\u00f3n porque a la larga impide el desarrollo de los grupos que hablan lenguas minoritarias en las mismas condiciones que los hablantes de lenguas mayoritarias’, remarc\u00f3.<\/p>\n

Coincidiendo con la celebraci\u00f3n de su conferencia anual Dreamforce, Salesforce present\u00f3 su propio asistente de voz basado en inteligencia artificial, Einstein Voice.<\/p>\n

Einstein Voice responde a \u00f3rdenes habladas al estilo de Siri (Apple) o Alexa (Amazon), pero est\u00e1 dise\u00f1ado especialmente para el mundo empresarial, por lo que es capaz de transcribir informaci\u00f3n oral y, por ejemplo, ahorrar tiempo a las compa\u00f1\u00edas en la actualizaci\u00f3n de bases de datos.<\/p>\n

M\u00e1s de 160,000 personas asisten esta semana a la conferencia Dreamforce 18 que Salesforce celebra en San Francisco (California).<\/p>","protected":false},"excerpt":{"rendered":"

Podr\u00eda ser da\u00f1ino para la humanidad La inteligencia artificial est\u00e1 llamada a ser la pr\u00f3xima gran revoluci\u00f3n tecnol\u00f3gica, pero existe el riesgo de que replique prejuicios y sesgos humanos, advirtieron hoy expertos en la materia en la conferencia Dreamforce 18 en San Francisco (Estados Unidos). ‘Se trata de una tecnolog\u00eda que puede hacer mucho bien, […]<\/p>","protected":false},"author":0,"featured_media":413909,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"ep_exclude_from_search":false,"footnotes":""},"categories":[83],"tags":[],"class_list":["post-24492","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-otros"],"acf":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/24492","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/comments?post=24492"}],"version-history":[{"count":1,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/24492\/revisions"}],"predecessor-version":[{"id":413912,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/24492\/revisions\/413912"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/media\/413909"}],"wp:attachment":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/media?parent=24492"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/categories?post=24492"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/tags?post=24492"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}