racismo algor\u00edtmico<\/a> tende a ser uma das modalidades de viola\u00e7\u00e3o de direitos que mais afeta as mulheres na nossa regi\u00e3o. Os sistemas de intelig\u00eancia artificial (IA), por meio de algoritmos em plataformas e softwares, t\u00eam replicado os vieses estruturais de ra\u00e7a e de g\u00eanero em nossas sociedades.\u00a0<\/p>\nAs tecnologias emergentes t\u00eam um enorme potencial para a garantia dos direitos humanos em seus matizes sociais, culturais e econ\u00f4micas. As ferramentas digitais podem expandir rapidamente a qualidade e o acesso a muitos servi\u00e7os e produtos essenciais para o exerc\u00edcio efetivo da cidadania, ao mesmo tempo, implicam riscos consider\u00e1veis \u200b\u200bem termos da possibilidade de acentuar, perpetuar e at\u00e9 criar novas lacunas e desigualdades existentes historicamente.\u00a0<\/p>\n
Essas brechas e discrimina\u00e7\u00f5es \u00a0profundamente enraizadas se intensificam quando estabelecemos um recorte que considera as mulheres negras diante do panorama de discrimina\u00e7\u00f5es m\u00faltiplas, ainda mais quando se somam o racismo e o sexismo.\u00a0<\/p>\n
Em um mundo cada vez mais digitalizado, \u00e9 fundamental que essas desigualdades n\u00e3o sejam validadas e disseminadas pelas tecnologias avan\u00e7adas. No entanto, pesquisas indicam que os sistemas de IA, quando n\u00e3o cuidadosamente programados e testados podem refor\u00e7ar preconceitos e estere\u00f3tipos, levando a discrimina\u00e7\u00e3o para as mais diversas \u00e1reas.<\/p>\n
Um exemplo cada vez mais evidenciado e identificado de discrimina\u00e7\u00e3o \u00e9 o racismo algor\u00edtmico em sistemas utilizados para o recrutamento de candidatos a vagas de emprego. Estas ferramentas automatizadas de sele\u00e7\u00e3o utilizam intelig\u00eancia artificial (IA) por meio de machine learning e do treinamento com grandes volumes de dados hist\u00f3ricos.\u00a0<\/p>\n
Se os dados utilizados na programa\u00e7\u00e3o cont\u00eam vieses impl\u00edcitos ou expl\u00edcitos, os algoritmos podem reproduzir esses preconceitos, levando a pr\u00e1ticas discriminat\u00f3rias. Os algoritmos podem priorizar crit\u00e9rios que n\u00e3o s\u00e3o neutros.\u00a0<\/p>\n
Por exemplo, se um algoritmo para sele\u00e7\u00e3o de perfis atribuir maior pontua\u00e7\u00e3o em um ranqueamento valorizando candidatos que tenham estudado em escolas, universidades ou trabalhado em empresas espec\u00edficas onde a diversidade racial e de g\u00eanero \u00e9 baixa, ele pode privilegiar candidatos homens e brancos no lugar de mulheres negras.<\/p>\n
H\u00e1 ainda os chamados preconceitos impl\u00edcitos nos dados. Informa\u00e7\u00f5es aparentemente neutras podem conter preconceitos. Por exemplo, nomes, endere\u00e7os ou at\u00e9 certas atividades extracurriculares podem estar associadas a grupos \u00e9tnico-raciais.\u00a0<\/p>\n
O algoritmo pode favorecer ou desfavorecer candidatos com base em informa\u00e7\u00f5es relacionadas aos nomes e sobrenomes dos candidatos. Existem casos de recrutamento nos Estados Unidos que priorizam sobrenomes ligados a fam\u00edlias de pessoas brancas. Tamb\u00e9m j\u00e1 foram identificados casos em que o software atribui uma nota menor no recrutamento a candidatos ligados a faculdades vistas como \u201cpopulares\u201d.\u00a0<\/p>\n
Algumas ferramentas de recrutamento utilizam dados extra\u00eddos da an\u00e1lise de perfis de redes sociais como parte do processo de sele\u00e7\u00e3o. Se a programa\u00e7\u00e3o, treinamento e aplica\u00e7\u00e3o algor\u00edtmica estiver baseada em padr\u00f5es culturais predominantes de grupos hegem\u00f4nicos, ela pode desfavorecer candidatas mulheres e negras.<\/p>\n
Outro exemplo de racismo algor\u00edtmico \u00e9 encontrado em tecnologias de reconhecimento facial. Estudos t\u00eam mostrado que esses sistemas possuem taxas de erro significativamente mais altas ao identificar rostos de mulheres negras em compara\u00e7\u00e3o com rostos de homens brancos.\u00a0<\/p>\n
Esse vi\u00e9s pode levar a situa\u00e7\u00f5es de discrimina\u00e7\u00e3o, como falsos positivos em sistemas de seguran\u00e7a, resultando em constrangimentos e, potencialmente, aumentando o risco de pris\u00f5es injustas e outros abusos e viola\u00e7\u00f5es de direitos humanos.<\/p>\n
Nesse contexto, merece destaque a “Declara\u00e7\u00e3o de Princ\u00edpios de Direitos Humanos no \u00e2mbito da Intelig\u00eancia Artificial no Mercosul”, promulgada em dezembro de 2023. O documento elenca uma s\u00e9rie de aspctos que envolvem o desenvolvimento respons\u00e1vel da IA, destacando a import\u00e2ncia da igualdade e da n\u00e3o-discrimina\u00e7\u00e3o.\u00a0<\/p>\n
Entre os principais pontos do instrumento, destaca-se a elimina\u00e7\u00e3o de vieses \u00e9tnico-raciais nos algoritmos de IA. Al\u00e9m disso, a Declara\u00e7\u00e3o da Reuni\u00e3o de Altas Autoridades em Direitos Humanos do Mercosul (RAADH) aponta que a utiliza\u00e7\u00e3o de tecnologias como as de reconhecimento facial devem ser realizadas com transpar\u00eancia e prote\u00e7\u00e3o de dados para garantir os direitos \u00e0 igualdade e \u00e0 privacidade.<\/p>\n
Outro documento internacional de refer\u00eancia \u00e9 a “Recomenda\u00e7\u00e3o da Unesco sobre a \u00c9tica na Intelig\u00eancia Artificial”, aprovada em 2021, que fornece diretrizes importantes para o desenvolvimento e uso \u00e9tico da IA. A recomenda\u00e7\u00e3o enfatiza a promo\u00e7\u00e3o de medidas para que as tecnologias de IA n\u00e3o perpetuem ou amplifiquem discrimina\u00e7\u00f5es e estabelece mecanismos de monitoramento sobre a aplica\u00e7\u00e3o dessas ferramentas. \u00a0<\/p>\n
Algumas dessas a\u00e7\u00f5es tamb\u00e9m incluem o respeito \u00e0 diversidade, o incentivo \u00e0 participa\u00e7\u00e3o de grupos sub-representados nos processos de tomada de decis\u00e3o relacionados ao desenvolvimento e uso da IA, transpar\u00eancia nos processos automatizados para garantir que possam ser transparentes e auditados, assegurar que os sistemas de IA possam fornecer explica\u00e7\u00f5es claras e compreens\u00edveis sobre suas decis\u00f5es, especialmente quando essas decis\u00f5es afetarem diretamente os direitos e a vida das pessoas.<\/p>\n
Diante desse contexto, em que ainda \u00e9 incipiente a formula\u00e7\u00e3o e implementa\u00e7\u00e3o \u00a0de regula\u00e7\u00f5es e pol\u00edticas p\u00fablicas sobre os usos, riscos e oportunidades da Intelig\u00eancia Artificial, \u00e9 fundamental que os diversos setores da sociedade, incluindo a academia, as empresas, sindicatos, movimentos sociais e os governos reconhe\u00e7am a import\u00e2ncia da equidade na tecnologia e tomem medidas concretas para garantir que as inova\u00e7\u00f5es em intelig\u00eancia artificial promovam a inclus\u00e3o em vez de refor\u00e7ar desigualdades hist\u00f3ricas.\u00a0<\/p>\n
Finalmente, a simbiose entre as distintas dimens\u00f5es de prote\u00e7\u00e3o, promo\u00e7\u00e3o, garantia e defesa dos direitos humanos prescinde do conhecimento e dissemina\u00e7\u00e3o da exist\u00eancia de documentos como a Declara\u00e7\u00e3o de Princ\u00edpios de Direitos Humanos sobre a Intelig\u00eancia na Intelig\u00eancia Artificial da RAADH do Mercosul bem como da Recomenda\u00e7\u00e3o da Unesco.<\/p>\n
O arcabou\u00e7o de recomenda\u00e7\u00f5es desses instrumentos orientadores merecem maior destaque na agenda pol\u00edtica, para que a cria\u00e7\u00e3o de sistemas de IA observe o respeito aos direitos humanos promovendo a justi\u00e7a social.<\/p>\n
Neste Dia Internacional da Mulher Negra, Latina e Caribenha, \u00e9 necess\u00e1rio reafirmar o compromisso com a luta contra o racismo algor\u00edtmico e todas as formas de discrimina\u00e7\u00e3o em um esfor\u00e7o conjunto para garantir que as tecnologias emergentes sejam desenvolvidas e utilizadas de maneira \u00e9tica e inclusiva, assegurando que todas as mulheres, especialmente as negras, afrolatinas e caribenhas, tenham acesso igualit\u00e1rio \u00e0s oportunidades e possam viver em um mundo com justi\u00e7a social e equidade.<\/p>\n
*Caroline Coelho \u00e9 pesquisadora do Instituto de Estudos Avan\u00e7ados da USP em Intelig\u00eancia Artificial.\u00a0
\n**Atahualpa Blanchet \u00e9 especialista em Novas Tecnologias e Direitos Humanos do IPPDH do Mercosul e consultor em Intelig\u00eancia Artificial do Escrit\u00f3rio da Unesco para a Am\u00e9rica Latina e Caribe. Pesquisador do IEA-USP.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"\u00c9 fundamental que essas desigualdades n\u00e3o sejam validadas e disseminadas pelas tecnologias avan\u00e7adas<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"Default","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"enabled":false},"version":2}},"categories":[1],"tags":[1255,1381,1050,1510,387,509,525,626,667,961,778,1748,385,414,1604,319,1806,1828,384,265,1614,1539,1640,273,966,605,849,426,1772,1677,438],"class_list":["post-187142","post","type-post","status-publish","format-standard","hentry","category-uncategorized","tag-acoes","tag-dados","tag-declaracao","tag-desenvolvimento","tag-dia-internacional-da-mulher","tag-dia-internacional-das-mulheres","tag-diversidade","tag-emprego","tag-empresas","tag-estados","tag-estados-unidos","tag-familias","tag-genero","tag-homens","tag-ia","tag-inteligencia-artificial","tag-justica","tag-justica-social","tag-mulher","tag-mulheres","tag-nomes","tag-produtos","tag-programacao","tag-racismo","tag-reuniao","tag-servicos","tag-sindicatos","tag-software","tag-tecnologia","tag-uso","tag-usp"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=\/wp\/v2\/posts\/187142","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=187142"}],"version-history":[{"count":0,"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=\/wp\/v2\/posts\/187142\/revisions"}],"wp:attachment":[{"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=187142"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=187142"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/avozdocerrado.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=187142"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}