{"id":543,"date":"2021-01-25T22:38:39","date_gmt":"2021-01-26T00:38:39","guid":{"rendered":"http:\/\/sites.usp.br\/tecnologiaseducom\/?p=543"},"modified":"2021-01-26T00:24:03","modified_gmt":"2021-01-26T02:24:03","slug":"racismo-algoritmico-a-materializacao-e-combate-do-racismo","status":"publish","type":"post","link":"https:\/\/sites.usp.br\/tecnologiaseducom\/racismo-algoritmico-a-materializacao-e-combate-do-racismo\/","title":{"rendered":"RACISMO ALGOR\u00cdTMICO: A materializa\u00e7\u00e3o e combate do racismo"},"content":{"rendered":"

Por L\u00e9o Vitor Utida<\/strong><\/h4>\n

 <\/p>\n

Nos posts anteriores, discutimos acerca da ideia do racismo enquanto parte estruturante de nossa sociedade e, em seguida, como isso em consequ\u00eancia implica na sua pereniza\u00e7\u00e3o mesmo nas ci\u00eancias exatas, computacionais e algoritmos. Aqui, veremos como tais discrimina\u00e7\u00f5es se concretizam e avaliaremos possibilidades e sa\u00eddas desta encruzilhada.<\/span><\/p>\n

 <\/p>\n

MATERIALIZA\u00c7\u00c3O DO RACISMO ALGOR\u00cdTMICO E IMPLICA\u00c7\u00d5ES<\/b><\/h1>\n

Ao apontarmos casos espec\u00edficos, de forma alguma abarcamos a totalidade do problema. Muito mais que casos pontuais, \u00e9 preciso compreender que desde o in\u00edcio da cadeia de produ\u00e7\u00e3o \u2014 ou, neste caso, programa\u00e7\u00e3o \u2014 as tecnologias digitais, altamente concentradas no Vale do Sil\u00edcio em um \u00ednfimo n\u00famero de empresas bilion\u00e1rias, operam sob uma l\u00f3gica de supremacia branca (SILVA, 2020). Isto n\u00e3o quer dizer, \u00e9 claro, que aqueles e aquelas que programam sejam intencionalmente racistas, mas parte da compreens\u00e3o do racismo enquanto estruturante da sociedade e, portanto, da subjetividade e ideologia. Como afirmado anteriormente nos outros posts, n\u00e3o \u00e9 necess\u00e1rio que haja intencionalidade para que o racismo seja materializado. Entretanto, acreditamos que seja necess\u00e1rio observar como se concretiza tais discrimina\u00e7\u00f5es para que, somente assim, tenhamos uma m\u00ednima no\u00e7\u00e3o dos problemas e possamos iniciar uma reflex\u00e3o a respeito. Dessa forma, vamos analisar inicialmente um caso que repercutiu nas redes sociais recentemente:<\/span><\/p>\n

\"\"<\/p>\n

\u00c0 esquerda, antes do algoritmo: o recorte automaticamente focava o centro da imagem. \u00c0 direita, o novo algoritmo: o recorte determina a \u00e1rea de maior sali\u00eancia.<\/span><\/em><\/p>\n

 <\/p>\n

A partir de 2018, o Twitter implementou um algoritmo de recorte inteligente de imagens que n\u00e3o sejam retangulares na horizontal \u2014 pois esta \u00e9 a propor\u00e7\u00e3o da visualiza\u00e7\u00e3o de imagens no site, podendo o usu\u00e1rio ver a imagem completa ao clicar nela. At\u00e9 ent\u00e3o, o que ficaria em destaque na visualiza\u00e7\u00e3o era o centro da imagem, tendo, a partir da ado\u00e7\u00e3o deste novo algoritmo, passado a se destacar a \u00e1rea cuja pr\u00f3pria empresa chamou de maior “sali\u00eancia” (<\/span>5)<\/span>: regi\u00e3o da imagem com maiores chances das pessoas olharem. Uma rede neural foi treinada a partir de <\/span>machine learning <\/span><\/i>para prever qual regi\u00e3o deveria ser destacada.<\/span><\/p>\n

A partir disto, uma equipe devidamente diversa e qualificada j\u00e1 poderia prever <\/span>problemas que surgiriam disto, tendo em vista os conceitos de racismo estrutural e conte\u00fados anteriormente abordados. Entretanto, em setembro de 2020, um programador e usu\u00e1rio do site decidiu p\u00f4r o algoritmo \u00e0 teste.<\/span><\/p>\n

\"\"<\/p>\n

\u00c0 esquerda, o <\/span>tweet <\/span>testando o algoritmo. \u00c0 direita, as imagens inteiras publicadas.<\/span><\/em><\/p>\n

 <\/p>\n

O usu\u00e1rio publicou duas imagens, na qual apareciam um senador estadunidense branco na parte superior da imagem e, na parte inferior, o ex-presidente dos Estados Unidos\u00a0<\/span>Barack Obama que, como sabemos, \u00e9 negro, sendo a outra imagem apenas uma invers\u00e3o das posi\u00e7\u00f5es dos pol\u00edticos. Em ambas as imagens, o algoritmo privilegiou o homem branco, mesmo que seja not\u00f3rio saber a import\u00e2ncia e fama global de Obama.<\/span><\/p>\n

O caso levantou um grande debate e discuss\u00e3o dentro do pr\u00f3prio site, com v\u00e1rios usu\u00e1rios testando varia\u00e7\u00f5es, com outras personalidades, fundos coloridos, fotos nos quais os negros estavam sorrindo, maior luminosidade e outras infinidades de possibilidades. Entretanto, em praticamente todos os casos, o resultado era o mesmo: a pessoa branca era privilegiada pelo algoritmo, recebendo destaque no recorte autom\u00e1tico.<\/span><\/p>\n

~<\/span><\/p>\n

N\u00e3o \u00e9 nossa inten\u00e7\u00e3o nos estender e prolongar em casos espec\u00edficos, como j\u00e1 dito anteriormente. H\u00e1 uma outra imensid\u00e3o de ocorr\u00eancias que podemos citar, como o algoritmo do Google Fotos categorizando pessoas negras como “gorilas” (<\/span>7)<\/span>, a dete\u00e7\u00e3o facial das c\u00e2meras Nikon falhando em reconhecer rostos asi\u00e1ticos (<\/span>8)<\/span>, registros de <\/span>dispenser <\/span><\/i>autom\u00e1tico de\u00a0 sabonete n\u00e3o reconhecendo m\u00e3os negras (<\/span>9)<\/span>, filtros “embelezadores” do Snapchat embranquecendo pessoas racializadas (<\/span>10) <\/span>e tantas outras. Ainda assim, abordamos apenas uma ponta aparente do iceberg ao comentar tais casos.<\/span><\/p>\n

No site de Tarc\u00edzio Silva, pesquisador brasileiro renomado quando se trata deste tema, h\u00e1 uma linha do tempo (<\/span>11) <\/span>onde diversos casos s\u00e3o enumerados e brevemente explicados, caso haja interesse em compreender melhor como tais ocorr\u00eancias se d\u00e3o.<\/span><\/p>\n

\u00a0<\/span><\/p>\n

CONSIDERA\u00c7\u00d5ES FINAIS<\/b><\/h1>\n

Para a finaliza\u00e7\u00e3o a esta s\u00e9rie de posts, no entanto, partimos para outra indaga\u00e7\u00e3o: uma base de dados para o treinamento destes, seria uma solu\u00e7\u00e3o efetiva? Ou, afinal, tratando-se de um problema estrutural, n\u00e3o seria correto dizer que o “defeito” est\u00e1 na sociedade e n\u00e3o nos algoritmos?<\/span><\/p>\n

\u00c9 preciso compreender que tal argumento tecnoliberal n\u00e3o se sustenta na medida em que o entendimento do racismo estrutural \u00e9 dado. Isto \u00e9, aquelas e aqueles que programa n\u00e3o podem se escusar de seu papel no combate da reprodu\u00e7\u00e3o do racismo e tomar atitudes\u00a0<\/span>efetivamente antirracistas sob um v\u00e9u de uma suposta neutralidade e jogar a responsabilidade nas estruturas, quando se est\u00e1 ciente do racismo presente nelas:<\/span><\/p>\n

pensar o racismo como parte da estrutura n\u00e3o retira a responsabilidade individual sobre a pr\u00e1tica de condutas racistas e n\u00e3o \u00e9 um \u00e1libi para racistas. Pelo contr\u00e1rio: entender que o racismo \u00e9 estrutural, e n\u00e3o um ato isolado de um indiv\u00edduo ou de um grupo, nos torna ainda mais respons\u00e1veis pelo combate ao racismo e aos racistas. Consciente de que o racismo \u00e9 parte da estrutural social e, por isso, n\u00e3o necessita de inten\u00e7\u00e3o para se manifestar, por mais que calar-se diante do racismo n\u00e3o fa\u00e7a do indiv\u00edduo moral e\/ou juridicamente culpado ou respons\u00e1vel, certamente o sil\u00eancio o torna \u00e9tica e politicamente respons\u00e1vel pela manuten\u00e7\u00e3o do racismo. <\/span>(ALMEIDA, 2018, p. 40)<\/span><\/p><\/blockquote>\n

Nesse sentido, como ainda diz o mesmo autor Silvio Almeida (2018), \u00e9 preciso que pessoas racializadas estejam presentes em todas as inst\u00e2ncias, institui\u00e7\u00f5es e partes de processos e cadeias produtivas, de programa\u00e7\u00e3o, cria\u00e7\u00e3o ou o que seja. Afinal, a experi\u00eancia que tais corpos sofreram ao longo de suas vidas certamente fazem com que estes carreguem pontos de vistas que possibilitam a percep\u00e7\u00e3o de detalhes que outros corpos, normativos, n\u00e3o perceberiam. N\u00e3o surpreendentemente, um estudo da Universidade de Stanford revelou que, nos Estados Unidos, pessoas negras e mulheres ainda t\u00eam muita dificuldade de adentrar espa\u00e7os acad\u00eamicos e, mesmo quando entram, ganham pouco destaque e aten\u00e7\u00e3o, mesmo quando suas pesquisas s\u00e3o consideradas inovadoras ou relevantes. No Brasil, a cena se repete pois apenas 2,7% dos alunos de p\u00f3s-gradua\u00e7\u00e3o s\u00e3o negros e 2% amarelos, sendo menos de\u00a0 1% ind\u00edgena (SANTOS, 2020). Isso explica, ainda que parcialmente, porque problemas e vieses que podem soar \u00f3bvios para alguns, ainda passam despercebidos por muitos.<\/span><\/p>\n

Ainda mais agravante, \u00e9 preciso considerar que o pacto da branquitude tamb\u00e9m teme e rejeita a possibilidade da perda de seus privil\u00e9gios, que invariavelmente s\u00e3o garantidos pela viola\u00e7\u00e3o da dignidade e por agress\u00f5es \u2014 e, aqui, n\u00e3o necessariamente f\u00edsicas \u2014 ao corpo racializado. Timinit Gebru, cientista da computa\u00e7\u00e3o renomada mundialmente por suas pesquisas e trabalhos a respeito da \u00e9tica da intelig\u00eancia artificial e racialidade, foi recentemente demitida injustificadamente da Google (<\/span>12) <\/span>ap\u00f3s denunciar que seus superiores queriam for\u00e7a-la a desistir de um artigo acad\u00eamico que estava escrevendo a respeito de assuntos que a empresa “n\u00e3o estava pronta para debater”.<\/span><\/p>\n

Assim, esta s\u00e9rie de posts n\u00e3o se coloca com a finalidade de esgotar a discuss\u00e3o, muito pelo contr\u00e1rio, serve apenas como uma breve introdu\u00e7\u00e3o a um assunto t\u00e3o complexo e profundo que n\u00e3o pode ser simplificado, ainda mais quando relacionado a toda a estrutura\u00a0<\/span>social que sustenta nosso sistema de produ\u00e7\u00e3o e vida. Dessa forma, esperamos ter fomentado, mesmo que um pouco, reflex\u00f5es cr\u00edticas acerca dos algoritmos que se fazem cada vez presentes em nossas vidas, que poderiam levar a ainda outras discuss\u00f5es t\u00e3o complexas quanto, a respeito da influ\u00eancia em nossas tomadas de decis\u00f5es e privacidade de dados. Ao longo dos posts, refer\u00eancias e links foram dados para maior aprofundamento caso haja o interesse. Agradecemos a leitura de todes.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

< ACESSE O TEXTO ANTERIOR<\/a><\/strong><\/p>\n

 <\/p>\n

\n

 <\/p>\n

(5) <\/span>A explica\u00e7\u00e3o em maiores detalhes dada pela pr\u00f3pria empresa pode ser vista em: https:\/\/blog.twitter.com\/engineering\/en_us\/topics\/infrastructure\/2018\/Smart-Auto-Cropping-of-Images.html<\/a><\/span><\/p>\n

(7) <\/span>https:\/\/bits.blogs.nytimes.com\/2015\/07\/01\/google-photos-mistakenly-labels-black-people-gorillas\/<\/span><\/a><\/p>\n

(8) <\/span>http:\/\/content.time.com\/time\/business\/article\/0,8599,1954643,00.html<\/span><\/a><\/p>\n

(9) <\/span>https:\/\/gizmodo.com\/why-cant-this-soap-dispenser-identify-dark-skin-1797931773<\/span><\/a><\/p>\n

(10) <\/span>https:\/\/www.buzzfeed.com\/br\/krishrach\/as-pessoas-acham-que-os-filtros-de-beleza-do-snapc<\/span><\/a><\/p>\n

(11) <\/span>https:\/\/tarciziosilva.com.br\/blog\/posts\/racismo-algoritmico-linha-do-tempo<\/span><\/a><\/p>\n

(12) <\/span>https:\/\/brasil.elpais.com\/tecnologia\/2020-12-13\/por-que-a-demissao-de-pesquisadora-negra-do-google<\/span><\/a><\/p>\n

-se-transformou-em-escandalo-global.htm<\/span>l<\/span><\/a><\/p>\n

REFER\u00caNCIAS<\/b><\/h1>\n

SILVA, Tarc\u00edzio. Racismo algor\u00edtimico em plataformas digitais: microagress\u00f5es e discrimina\u00e7\u00e3o em c\u00f3digo. <\/span>In<\/span><\/i>: SILVA, Tarc\u00edzio. <\/span>Comunidades, algoritmos e ativismos digitais<\/b>: olhares afrodiasp\u00f3ricos. S\u00e3o Paulo: LiteraRUA, 2020. p. 120-137. Dispon\u00edvel em:<\/span><\/p>\n

https:\/\/www.academia.edu\/42254259\/Comunidades_Algoritmos_e_Ativismos_olhares_afrodiasporicos<\/span><\/a><\/p>\n

SANTOS, Robson. <\/span>Paradoxo na ci\u00eancia:<\/b>: negros e mulheres inovam, mas s\u00e3o raros na academia. negros e mulheres inovam, mas s\u00e3o raros na academia. 2020. Dispon\u00edvel em:<\/span><\/p>\n

https:\/\/www.uol.com.br\/tilt\/noticias\/redacao\/2020\/09\/16\/paradoxo-na-ciencia-inovadores-ne<\/span><\/a>gros-e-mulheres-sao-raros-na-academica.htm<\/span><\/p>\n

 <\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Por L\u00e9o Vitor Utida   Nos posts anteriores, discutimos acerca da ideia do racismo enquanto parte estruturante de nossa sociedade e, em seguida, como isso em consequ\u00eancia implica na sua pereniza\u00e7\u00e3o mesmo nas ci\u00eancias exatas, computacionais e algoritmos. Aqui, veremos como tais discrimina\u00e7\u00f5es se concretizam e avaliaremos possibilidades e sa\u00eddas desta encruzilhada.   MATERIALIZA\u00c7\u00c3O DO…<\/p>\n","protected":false},"author":22249,"featured_media":552,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"categories":[13],"tags":[],"class_list":["post-543","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-projetos-20"],"_links":{"self":[{"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/posts\/543","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/users\/22249"}],"replies":[{"embeddable":true,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/comments?post=543"}],"version-history":[{"count":4,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/posts\/543\/revisions"}],"predecessor-version":[{"id":605,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/posts\/543\/revisions\/605"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/media\/552"}],"wp:attachment":[{"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/media?parent=543"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/categories?post=543"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sites.usp.br\/tecnologiaseducom\/wp-json\/wp\/v2\/tags?post=543"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}