Share
![cover art for Código do Caos #3: Vieses de gênero e raça em personagens virtuais, com Victor Araujo](https://res.cloudinary.com/pippa/image/fetch/h_750,w_750,f_auto/https://assets.pippa.io/shows/6516447842065c0011b9fefb/1713830720486-ab5855352b9861eb6b21836a447c2d61.jpeg)
Código do Caos
Código do Caos #3: Vieses de gênero e raça em personagens virtuais, com Victor Araujo
APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaos
CONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4By
No episódio anterior a gente falou do estranho fenômeno de humanos que ganham dinheiro se passando por personagens não jogáveis de computador, ou seja, praticamente robôs, em lives no TikTok. Agora, a gente vai falar do exato oposto: NPCs e personagens virtuais que se tornam cada vez mais humanos aos nossos olhos e interações em games e ambientes digitais, que podem ser criados com facilidade em engines modernas como Unreal ou Unity. E com os avanços da inteligência artificial nos últimos anos, o grau de humanidade contido em personagens tridimensionais se torna cada vez maior. Só que, por trás desses algoritmos, ainda existem vieses que contribuem em perpetuar estereótipos e preconceitos de gênero e raça.
Um especialista neste assunto é o cientista da computação e pesquisador Victor Flávio de Andrade Araujo, que estuda a percepção humana sobre humanos virtuais em seu doutorado na Pontifícia Universidade Católica do Rio Grande do Sul, com sanduíche na Universidade de Sorbonne, em Paris e apresentou na SIGGRAPH Asia 2022, maior evento de computação gráfica do mundo, um estudo sobre como pessoas identificam gênero de personagens digitais, poucos minutos após uma apresentação dos artistas por trás do espantoso Avatar 2.
O trabalho do Victor é baseado no vale da estranheza (do inglês uncanny valley), um conceito dos anos 70 que originalmente era usado na robótica mas que passou a ser aplicado em computação gráfica em geral. Trata-se de da sensaçao de desconforto que personagens realistas humanos causam quando alguma coisa não parece no lugar, tipo boa parte dos jogos da geração PlayStation 3 e Xbox 360, como aquela tech demo do jogo Heavy Rain, ou aqueles robôs que viram meme na internet por causa de suas expressões faciais bizarras.
Siga o Código do Caos nas redes sociais:
Siga Henrique Sampaio nas redes sociais:
More episodes
View all episodes
27. Código do Caos #27: A nova geração tem vergonha do feed?
53:37||Ep. 27APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4BySe você tem filhos ou convive com crianças e adolescentes, talvez você já tenha percebido que a relação deles com redes sociais é bem diferente da nossa. Ao contrário dos millennials e uma parte da geração Z, que pegaram o começo das redes sociais e o desenvolvimento das mídias digitais, os mais jovens foram jogados à força na lógica inescapável dos algoritmos das plataformas digitais. Tanto é que, como eu tenho abordado aqui no Código Caos, há inúmeras evidências de como as mídias digitais podem ser mais prejudiciais à crianças e adolescentes do que a adultos.E uma postagem recente no Twitter ajudou a gente a entender um pouco melhor como jovens têm olhado para o Instagram atualmente. O autor do post é o Victor Hugo da Silva, professor de história e sociologia da rede pública de ensino do estado de São Paulo. O Victor fez uma enquete com seus alunos de 13 a 17 anos para entender porque eles não postavam fotos no feed e o que pensavam os jovens sobre aqueles que assumem suas identidades, postam fotos abertas e se expõem nas redes. As respostas que o Victor obteve acabaram revelando muito mais do que ele esperava, como uma relação de consumo problemática das mídias digitais e uma falta de sintonia e pertencimento com o meio. Tanto é que a postagem viralizou, alcançando mais de 7 milhões de visualizações só no Twitter. Eu sou Henrique Sampaio e neste episódio do Código do Caos eu convido o Victor Hugo, autor do post que viralizou, a refletir sobre a relação entre as novas gerações, a autoimagem e as redes sociais.Postagem do Victor no TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram26. Código do Caos #26: Onlyfans e o prazer plataformizado; com Barbara Mendes
01:01:26||Ep. 26APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByConteúdos eróticos ou pornográficos sempre estiveram entre os mais procurados e acessados na internet, desde antes mesmo da abertura comercial da rede, nos anos 90. Mas nos últimos 10 anos, uma novo componente tem mudado a forma como esse tipo de conteúdo é produzido e consumido: o Onlyfans. Tal como tem acontecido com outros aspectos das nossas vidas, o sexo e o prazer vem sendo plataformizado, e hoje, o Onlyfans é a maior plataforma de conteúdo adulto por assinatura, com mais de 3 milhões de criadores e 220 milhões de consumidores registrados em maio de 2023. Segundo uma pesquisa acadêmica, 69% dos usuários do Onlyfans são brancos, 89% são casados, 63% são homens e 59% são heterossexuais, o que nos dá uma ideia de quem é o usuário médio da plataforma.Com essa grande produção de conteúdo erótico ou pornográfico publicado por pessoas comuns no Onlyfans, o comportamento dos consumidores tem mudado e feito até gente a pagar por pornografia pela primeira vez na vida, algo que sites populares como Xvideos nunca foram capazes. O Twitter, a única plataforma grande que aceita conteúdo adulto, se tornou um espaço essencial para a divulgação desses criadores, recebendo uma avalanche de pornografia ou conteúdo erótico nos últimos anos e para algumas pessoas, até substituindo sites pornôs como o Xvideos.Mas abrir um Onlyfans, como a gente costuma brincar, é mesmo sinônimo de dinheiro fácil? O que trabalhadores e trabalhadoras sexuais precisam lidar ao entrar nesse ecossistema para manter sua renda mensal? Para responder essas e outras perguntas eu conversei com Barbara Mendes Lima, mestre em Antropologia Social pela Universidade Federal de Santa Catarina, onde pesquisou a produção de imagens explícitas em plataformas digitaisSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram23. Código do Caos #25: A (não) regulação de IA no Brasil; com Rafael Zanatta
53:45||Ep. 23APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByNas últimas semanas tem rolado no Senado debates sobre o Projeto de Lei 2338, que regulamenta o uso da Inteligência Artificial no Brasil. De autoria do presidente do Senado, Rodrigo Pacheco, do PSD, o PL tem sido um verdadeiro cabo de guerra entre aqueles que defendem o uso ético da tecnologia perante a sociedade civil, incluindo trabalhadores, e os que defendem a inovação da tecnologia a qualquer custo, incluindo as plataformas digitais, como Google e Meta, que vem fazendo uma grande pressão para atrasar a votação e modificar as partes do texto que não as beneficiam.A proposta, criada antes mesmo da popularização das IAs generativas, como o ChatGPT, estabelece diretrizes para a criação e uso responsável de sistemas de IA no Brasil, independentemente da localização da sede da empresa. Além disso, também inclui uma proibição de tecnologias de alto risco, que exponham crianças e adolescentes ou promovam o uso de IA em armas autônomas.O texto prevê a criação do SIA, Sistema Nacional de Regulação e Governança de Inteligência Artificial, um orgão que será responsável por unificar autoridades e reguladores para implementar e fiscalizar o cumprimento da lei. Por trás desse órgão, estará a ANPD, a Autoridade Nacional de Proteção de Dados, que recentemente impediu a Meta de utilizar dados de brasileiros que postam em suas redes sociais, como Instagram e Facebook, para treinar sua inteligência artificial.O PL, que vem sendo adiado por pressão das plataformas, está em estágio avançado de tramitação e pode ser aprovado mais cedo ou mais tarde. Para explicar a importância desse projeto de lei e trazer um pouco dos bastidores de sua tramitação, eu converso neste episódio com Rafael Zanatta. O Rafael é diretor da Associação Data Privacy Brasil de Pesquisa, mestre pela Faculdade de Direito da USP e doutor pelo Instituto de Energia e Ambiente da USP, com formação no Curso de Políticas e Direito da Privacidade da Universidade de Amsterdam.Siga Rafael Zanatta:TwitterSiga Data Privacy nas redes:TwitterInstagramSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram24. Código do Caos #24: 10 anos do Gamergate; com Beatriz Blanco
47:59||Ep. 24APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDescrito por estudiosos como uma campanha de assédio online e uma reação da extrema direita contra o feminismo, a diversidade e o progressismo na cultura de videogames, o Gamergate surgiu inicialmente como um ataque coletivo à desenvolvedora de jogos Zoe Queen, e rapidamente se espalhou por toda a indústria de games, atingindo mulheres e minorias, incluindo desenvolvedoras, pesquisadoras e jornalistas. O movimento descentralizado clamava por um jornalismo de games ético e neutro como forma de proteger a identidade e cultura gamer do chamado politicamente correto, hoje também descrito como cultura woke. Naquele momento, o jornalismo e a indústria de games vinham acompanhando as transformações da própria sociedade e buscando pensar em inclusão e representatividade -- isso, em uma indústria e cultura que então eram reconhecidas como predominantemente masculina, pra não dizer machista e tóxica a mulheres e minorias. A campanha de ódio, organizada de forma orgânica em sites como o 4chan e Reddit, em uma época em que redes sociais ainda eram bem diferente das de hoje, desencadeou fortes reações, furando a bolha dos videogames e atingindo a grande mídia e a política. Tanto é que, a partir daí, a extrema direita, notando as táticas de assédio e intimidação online dos gamers conservadores, passaram a cooptar esse grupo e replicar suas estratégias. A atuação de Steve Bannon nesse movimento, que depois se tornaria estrategista-chefe de Donald Trump e conselheiro de Jair Bolsonaro, acabou consolidando esse como o modus operandi da extrema direita.Mas passada essa década, o que mudou? Qual foi o legado do Gamergate para a indústria de games e para o mundo, além desse evidente impacto na política e na cultura digital? E quão mais inclusiva e diversa se tornou a indústria de videogames desde que o Gamergate tentou conter o avanço progressista neste meio? Para responder essas e outras perguntas eu converso com a pesquisadora Beatriz Blanco. A Bia é professora coordenadora dos programas de graduação em multimídia e jogos digitais no Senac, em São Paulo e estuda a relação entre ativismo social e mobilizações online na cultura gamer.Siga Beatriz Blanco:TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram23. Código do Caos #23: Apostas para crianças no Kwai; com Pedro Nakamura
01:02:53||Ep. 23APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByNo primeiro episódio do Código do Caos eu abordei como o mercado de apostas e cassinos online estava se apropriando de um projeto de lei para conseguir se passar por videogame, como forma de fugir da lei que regulamenta apostas esportivas, driblar impostos e direcionar jogos de azar para crianças e adolescentes. Após um grande embate com a indústria de games brasileira, as empresas de aposta saíram perdendo, a despeito da grande campanha de lobby que fizeram. Isso não significa que essas empresas não tem encontrado outras brechas para empurrar jogos criminosos e plataformas fraudulentas para milhões de pessoas, incluindo crianças e adolescentes. A plataforma Kwai vem se tornando um grande ecossistema de jogos de cassino virtual, viciando usuários com recompensa de valores irrisórios em dinheiro enquanto constantemente incentiva a aposta em jogos de azar e plataformas golpistas. Isso para não falar da sexualização de menores e o baixo nível de conteúdo que circula pela própria plataforma. Para piorar, a empresa por traz da rede está tentando expandir seus negócios no Brasil e integrar o Kwai a sua própria plataformas e bets, o que poderia piorar a situação.Quem fez a denúncia foi o jornalista Pedro Nakamura no Núcleo Jornalismo, que fiscaliza big techs e redes sociais. Pedro é jornalista investigativo graduado pela Universidade Federal do Rio Grande do Sul e com publicações no Intercept, Repórter Brasil, RBS e no Estadão.Reportagem do Pedro Nakamura:Kwai libera cassino e promove bets para menores de 18 anosSiga Pedro Nakamura:TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram22. Código do Caos #22: As mídias digitais nos deprimem? Com Liliane Bastos
45:19||Ep. 22APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByO uso intensivo de redes sociais e as mídias digitais como um todo tem sido associado à ansiedade, depressão e outros transtornos mentais a algum tempo. Em 2020, o próprio Instagram apresentou internamente estudos que mostravam que 32% das adolescentes que diziam se sentir mal com seus corpos achavam que a plataforma as fazia se sentir pior. Pesquisadores da empresa afirmaram que o Em 2019, o Instagram piorou os problemas de imagem corporal para uma em cada três meninas adolescentes, e que as garotas dessa faixa etária culpam a plataforma pelo aumento da taxa de ansiedade e depressão.Mas a gente sabe que não é só o Instagram. Redes sociais modernas em geral, ao contrário do que o nome sugere, tendem a ser antissociais, com seus algoritmos baseados mais em engajamento a qualquer custo do que conexão. Facebook e X, o antigo Twitter, tendem a ser movidos a fofoca, brigas, lacração, denúncias, discursos de ódio, fake news e exposeds criando um sentimento generalizado de que tudo está ruim ou todo mundo é mau. Embora alguns desses conteúdos, como notícias legítimas e verificadas, possam ser importantes, o algoritmo prioriza esses tipos de publicação que apela para nossas emoções mais extremas, com o objetivo de aumentar o nosso engajamento e nosso tempo nas plataformas. E para as empresas por trás dessas redes sociais, isso significa lucro.Em outras palavras, permitimos que as grandes empresas de tecnologia explorem nossas emoções para nos viciar em suas plataformas, para que elas extraiam de nós nossos dados, tempo e atenção. E tudo isso às custas da nossa saúde mental.Mas como as pesquisas científicas do campo da medicina entendem essa relação entre mídias digitais e saúde mental? Sabendo do poder das big techs em defenderem seus interesses, para quais direções devemos levar essa discussão?Neste episódio eu converso com Liliane Bastos, graduada em Medicina pela Universidade Federal da Bahia e médica residente em psiquiatria pela UNIFESP.Siga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram21. Código do Caos #21: Como Israel usa IA para matar, com Júlia Tibiriçá
47:07||Ep. 21APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDesde outubro de 2023 a gente tem acompanhado uma nova etapa do conflito israel-palestino, após um ataque terrorista do Hamas contra cidadãos israelenses. Usando a ofensiva como pretexto para exterminar o povo palestino e invadir a Faixa de Gaza, Israel inaugurou um novo capítulo desse conflito que já dura quase 100 anos: o uso da tecnologia, da inteligência artificial e da lógica das big techs no massacre da população palestina. Vale ressaltar que, embora Israel constantemente argumente que está apenas se defendendo, aproximadamente 70% das mais de 30 mil pessoas mortas pelo país em Gaza são de mulheres e crianças – isso sem contar os mais de 70 mil feridos, de acordo com o ministério da saúde de Gaza.Jornalistas independentes de Israel, da revista +972, ouviram denúncias anônimas sobre o funcionamento dessas armas e publicaram reportagens detalhando as avançadas tecnologias de guerra usadas por Israel contra a população acuada e literalmente faminta de Gaza. O que a gente vê hoje, contudo, é resultado de décadas de investimento do país em um complexo militar industrial que produz tecnologia de combate, espionagem e vigilância para a guerra – dentre elas o Pegasus, que chegou a ser cogitado pelo clã Bolsonaro para monitorar o Palácio do PlanaltoPara entender mais que tecnologias são essas e o que elas representam para Israel, para o ocidente e para o mundo pós-Gaza, o episódio desta semana do Código do Caos traz uma conversa com Júlia Tibiriça. A Júlia é professora de relações internacionais na Universidade FMU, doutoranda de relações internacionais, mestra em ciência Política pela USP e pesquisadora na área de tecnopolítica e vigilância, privacidade, internet e redes sociais, autoritarismos e segurança internacional.Siga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram20. Código do Caos #20: A farsa do Twitter Files Brasil, com Estela Aranha
55:22||Ep. 20APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDesde o começo de abril a gente tem acompanhado os capítulos de uma novela chamada Twitter Files Brasil e que parece longe de terminar. Nos últimos dias, uma reviravolta fez com que as decisões sigilosas do STF, que tratavam da remoção de conteúdo e de contas entre 2021 e 2024, fossem parar nas mãos de um Comitê Judiciário da Câmara dos Deputados dos EUA, que, divulgou os documentos sob o pretexto de que o Brasil estaria vivendo uma onda de censura e que a liberdade de expressão do seu povo estaria ameaça. Interessantemente, o tal comitê é liderado por Jim Jordan, um deputado de extrema direita citado por uma investigação do Congresso dos EUA como um ‘ator significativo’ para a invasão do Capitólio em janeiro de 2021, aliado a Trump e próximo a Musk.Mas qual o real poder desse documento e desse grupo para a extrema direita brasileira e norte-americana? Hoje eu converso com a advogada Estela Aranha, ex-secretária de Direitos Digitais do Ministério da Justiça e membro do Órgão Consultivo de Alto Nível sobre Inteligência Artificial da ONU. A Estela se destacou nas últimas semanas por desmascarar, no próprio Twitter, o autor do Twitter Files, o jornalista Michael Shellenberger. Em um fio na rede social de Musk, a Estela mostrou que Shellenberger atribuiu ao STF uma ação do Ministério Público de São Paulo que não tinha nada a ver com os atos antidemocráticos, mas sim com um perfil ligado a uma liderança do PCC.Mas mesmo depois de Shellenberger assumir o erro e pedir desculpas, a narrativa já havia sido criada e passamos a ver os desdobramentos dessa história, a qual Estela vem diretamente se envolvendo.Siga Estela Aranha:TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramTiktokSiga Henrique Sampaio nas redes sociais:TwitterInstagram19. Código do Caos #19: Regulação: como botar freios na tecnologia? Com Pietra Vaz
01:03:12||Ep. 19APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDesde o dia 3 de abril a gente tem acompanhando o embate entre o Ministro do Supremo Tribunal Federal Alexandre de Moraes, mais conhecido pelo apelido carinhoso Xandão com ninguém menos que Elon Musk, o bilionário queridinho por 9 a cada dez bolsonaristas. A novela mostra uma afonta de Musk à justiça brasileira, que trata o Brasil como um “shithole country”, para usar um termo que um dos seus coleguinhas estadunidenses. Mas, mais do que isso, mostra a importância de uma regulação de redes sociais que reforcem a nossa soberania brasileira e seja capaz de conter os desmandos, a soberba e a ganância da big techs.No episódio dessa semana do Código do Caos, gravado um dia antes do estouro da treta entre Musk e Xandão, eu converso com a advogada especialista em direito digital e mestra em direito pela Universidade Federal de Minas Gerais Pietra Vaz. Autora do livro Irregulável Mundo Novo: A regulação de Big Techs na infosfera, baseado em sua dissertação de mestrado, Pietra aborda os desafios e a importância de uma regulação capaz de pôr as poderosas big techs na linha da soberania brasileira, não apenas obrigando-as a cumprir com a nossa legislação mas também a seguir diretrizes que protejam a nossa população e a nossa democracia dos impactos das plataformas digitais. E embora nossa conversa tenha acontecido antes da guerra entre o segundo homem mais rico do mundo e a justiça brasileira, ela não poderia estar mais conectada a tudo que vem acontecendo, o que mostra não apenas como Elon Musk é previsível mas também como a regulação das big techs, incluindo aí redes sociais e inteligências artificiais, é uma das pautas mais urgentes do nosso tempo.Siga Pietra Vaz:InstagramSiga o Código do Caos nas redes sociais:TwitterInstagramTiktokSiga Henrique Sampaio nas redes sociais:TwitterInstagram