Share

cover art for Código do Caos #25: A (não) regulação de IA no Brasil; com Rafael Zanatta

Código do Caos

Código do Caos #25: A (não) regulação de IA no Brasil; com Rafael Zanatta

Ep. 23

APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaos

CONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4By


Nas últimas semanas tem rolado no Senado debates sobre o Projeto de Lei 2338, que regulamenta o uso da Inteligência Artificial no Brasil. De autoria do presidente do Senado, Rodrigo Pacheco, do PSD, o PL tem sido um verdadeiro cabo de guerra entre aqueles que defendem o uso ético da tecnologia perante a sociedade civil, incluindo trabalhadores, e os que defendem a inovação da tecnologia a qualquer custo, incluindo as plataformas digitais, como Google e Meta, que vem fazendo uma grande pressão para atrasar a votação e modificar as partes do texto que não as beneficiam.


A proposta, criada antes mesmo da popularização das IAs generativas, como o ChatGPT, estabelece diretrizes para a criação e uso responsável de sistemas de IA no Brasil, independentemente da localização da sede da empresa. Além disso, também inclui uma proibição de tecnologias de alto risco, que exponham crianças e adolescentes ou promovam o uso de IA em armas autônomas.


O texto prevê a criação do SIA, Sistema Nacional de Regulação e Governança de Inteligência Artificial, um orgão que será responsável por unificar autoridades e reguladores para implementar e fiscalizar o cumprimento da lei. Por trás desse órgão, estará a ANPD, a Autoridade Nacional de Proteção de Dados, que recentemente impediu a Meta de utilizar dados de brasileiros que postam em suas redes sociais, como Instagram e Facebook, para treinar sua inteligência artificial.


O PL, que vem sendo adiado por pressão das plataformas, está em estágio avançado de tramitação e pode ser aprovado mais cedo ou mais tarde. 


Para explicar a importância desse projeto de lei e trazer um pouco dos bastidores de sua tramitação, eu converso neste episódio com Rafael Zanatta. O Rafael é diretor da Associação Data Privacy Brasil de Pesquisa, mestre pela Faculdade de Direito da USP e doutor pelo Instituto de Energia e Ambiente da USP, com formação no Curso de Políticas e Direito da Privacidade da Universidade de Amsterdam.


Siga Rafael Zanatta:

Twitter


Siga Data Privacy nas redes:

Twitter

Instagram


Siga o Código do Caos nas redes sociais:

Twitter

Instagram


Siga Henrique Sampaio nas redes sociais:

Twitter

Instagram

More episodes

View all episodes

  • 29. Código do Caos 29# A cadeirada no Pablo Marçal; com Cleber Lourenço

    51:36||Ep. 29
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByNo último domingo, dia 15 de setembro, o jornalista, apresentador de TV e candidato à prefeito de São Paulo Luiz Datena deu uma cadeirada violenta em Pablo Marçal, após ser provocado pelo autoproclamado coach, durante um debate na TV Cultura. Se alguém viajasse pro passado levando essa informação, provavelmente ninguém acreditaria, de tão absurda que ela é. Mas o fato é que, mesmo que tenha acontecido num debate entre candidatos a prefeito de São Paulo, a tal da cadeirada se tornou o assunto mais comentado das redes sociais no Brasil inteiro, dando origem a centenas de memes literalmente da noite pro dia. E embora a violência não devesse ter espaço num debate político, a verdade é que a atitude de Datena parece ter sido aprovada pela maior parte da população, como se a cadeirada fosse a materialização de uma revolta generalizada do público contra Marçal, que não apenas tem se mostrado um candidato de atitudes abjetas e repreensíveis mas um perigoso novo representante da extrema direita.Pra entender a repercussão desse evento nas redes sociais e nas eleições municipais de São Paulo, tal como o que é essa extrema-direita brasileira pós-bolsonaro e o que Pablo Marçal representa dentro dessa conjuntura política, eu converso com o jornalista Cleber Lourenço. O Cleber cobre política, com análises e textos publicados no Congresso em Foco, Intercept Brasil, Agência Publica e no site O Cafezinho.Siga Cleber Lourenço no Bluesky e Instagram.Siga o Código do Caos nas redes sociais:InstagramSiga Henrique Sampaio nas redes sociais:BskyInstagram
  • 28. Código do Caos #28: Combatendo a extrema direita com cultura pop; com Chris Gonzatti

    56:16||Ep. 28
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByNa última sexta-feira o X, antigo Twitter, saiu do ar no Brasil por decisão de Alexandre de Morais após o Elon Musk fechar o escritório da plataforma no país sem indicar um representante legal e descumprir ordens judiciais. O episódio dessa semana de Código do Caos não aborda diretamente esse tema, pois ele foi gravado na verdade um dia antes da bomba explodir, mas trata muito das razões para que o X tenha se aliado à extrema direita e instrumentalizado ataques às instituições democráticas, às esquerda e às minorias.Hoje eu converso com o Christian Gonzatti, doutor em Comunicação, professor e coordenador do curso de Comunicação Digital da Unisinos. O Chris mantém nas redes o perfil Diversidade Nerd, no qual aborda política, sexualidade e gênero através da cultura pop. Suas publicações, quando não são restringidas e censuradas pelas plataformas, ganham um engajamento alto o suficiente para furar bolhas e chegar naqueles que se sentem incomodados com o seu discurso progressista. E assim, para continuar sua produção de conteúdo, o Chris acaba tendo que encontrar formas de se proteger e de driblar os próprios algoritmos, que jogam contra ele. E nessa tentativa de nadar contra a corrente do engajamento e das diretrizes das plataformas, fica evidente como os ambientes digitais são bem menos democráticos e inclusivos do que propagam.Diversidade Nerd no TikTok e Instagram.Siga o Código do Caos nas redes sociais:InstagramSiga Henrique Sampaio nas redes sociais:BskyInstagram
  • 27. Código do Caos #27: A nova geração tem vergonha do feed?

    53:37||Ep. 27
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4BySe você tem filhos ou convive com crianças e adolescentes, talvez você já tenha percebido que a relação deles com redes sociais é bem diferente da nossa. Ao contrário dos millennials e uma parte da geração Z, que pegaram o começo das redes sociais e o desenvolvimento das mídias digitais, os mais jovens foram jogados à força na lógica inescapável dos algoritmos das plataformas digitais. Tanto é que, como eu tenho abordado aqui no Código Caos, há inúmeras evidências de como as mídias digitais podem ser mais prejudiciais à crianças e adolescentes do que a adultos.E uma postagem recente no Twitter ajudou a gente a entender um pouco melhor como jovens têm olhado para o Instagram atualmente. O autor do post é o Victor Hugo da Silva, professor de história e sociologia da rede pública de ensino do estado de São Paulo. O Victor fez uma enquete com seus alunos de 13 a 17 anos para entender porque eles não postavam fotos no feed e o que pensavam os jovens sobre aqueles que assumem suas identidades, postam fotos abertas e se expõem nas redes. As respostas que o Victor obteve acabaram revelando muito mais do que ele esperava, como uma relação de consumo problemática das mídias digitais e uma falta de sintonia e pertencimento com o meio. Tanto é que a postagem viralizou, alcançando mais de 7 milhões de visualizações só no Twitter. Eu sou Henrique Sampaio e neste episódio do Código do Caos eu convido o Victor Hugo, autor do post que viralizou, a refletir sobre a relação entre as novas gerações, a autoimagem e as redes sociais.Postagem do Victor no TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram
  • 26. Código do Caos #26: Onlyfans e o prazer plataformizado; com Barbara Mendes

    01:01:26||Ep. 26
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByConteúdos eróticos ou pornográficos sempre estiveram entre os mais procurados e acessados na internet, desde antes mesmo da abertura comercial da rede, nos anos 90. Mas nos últimos 10 anos, uma novo componente tem mudado a forma como esse tipo de conteúdo é produzido e consumido: o Onlyfans. Tal como tem acontecido com outros aspectos das nossas vidas, o sexo e o prazer vem sendo plataformizado, e hoje, o Onlyfans é a maior plataforma de conteúdo adulto por assinatura, com mais de 3 milhões de criadores e 220 milhões de consumidores registrados em maio de 2023. Segundo uma pesquisa acadêmica, 69% dos usuários do Onlyfans são brancos, 89% são casados, 63% são homens e 59% são heterossexuais, o que nos dá uma ideia de quem é o usuário médio da plataforma.Com essa grande produção de conteúdo erótico ou pornográfico publicado por pessoas comuns no Onlyfans, o comportamento dos consumidores tem mudado e feito até gente a pagar por pornografia pela primeira vez na vida, algo que sites populares como Xvideos nunca foram capazes. O Twitter, a única plataforma grande que aceita conteúdo adulto, se tornou um espaço essencial para a divulgação desses criadores, recebendo uma avalanche de pornografia ou conteúdo erótico nos últimos anos e para algumas pessoas, até substituindo sites pornôs como o Xvideos.Mas abrir um Onlyfans, como a gente costuma brincar, é mesmo sinônimo de dinheiro fácil? O que trabalhadores e trabalhadoras sexuais precisam lidar ao entrar nesse ecossistema para manter sua renda mensal? Para responder essas e outras perguntas eu conversei com Barbara Mendes Lima, mestre em Antropologia Social pela Universidade Federal de Santa Catarina, onde pesquisou a produção de imagens explícitas em plataformas digitaisSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram
  • 24. Código do Caos #24: 10 anos do Gamergate; com Beatriz Blanco

    47:59||Ep. 24
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDescrito por estudiosos como uma campanha de assédio online e uma reação da extrema direita contra o feminismo, a diversidade e o progressismo na cultura de videogames, o Gamergate surgiu inicialmente como um ataque coletivo à desenvolvedora de jogos Zoe Queen, e rapidamente se espalhou por toda a indústria de games, atingindo mulheres e minorias, incluindo desenvolvedoras, pesquisadoras e jornalistas. O movimento descentralizado clamava por um jornalismo de games ético e neutro como forma de proteger a identidade e cultura gamer do chamado politicamente correto, hoje também descrito como cultura woke. Naquele momento, o jornalismo e a indústria de games vinham acompanhando as transformações da própria sociedade e buscando pensar em inclusão e representatividade -- isso, em uma indústria e cultura que então eram reconhecidas como predominantemente masculina, pra não dizer machista e tóxica a mulheres e minorias. A campanha de ódio, organizada de forma orgânica em sites como o 4chan e Reddit, em uma época em que redes sociais ainda eram bem diferente das de hoje, desencadeou fortes reações, furando a bolha dos videogames e atingindo a grande mídia e a política. Tanto é que, a partir daí, a extrema direita, notando as táticas de assédio e intimidação online dos gamers conservadores, passaram a cooptar esse grupo e replicar suas estratégias. A atuação de Steve Bannon nesse movimento, que depois se tornaria estrategista-chefe de Donald Trump e conselheiro de Jair Bolsonaro, acabou consolidando esse como o modus operandi da extrema direita.Mas passada essa década, o que mudou? Qual foi o legado do Gamergate para a indústria de games e para o mundo, além desse evidente impacto na política e na cultura digital? E quão mais inclusiva e diversa se tornou a indústria de videogames desde que o Gamergate tentou conter o avanço progressista neste meio? Para responder essas e outras perguntas eu converso com a pesquisadora Beatriz Blanco. A Bia é professora coordenadora dos programas de graduação em multimídia e jogos digitais no Senac, em São Paulo e estuda a relação entre ativismo social e mobilizações online na cultura gamer.Siga Beatriz Blanco:TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram
  • 23. Código do Caos #23: Apostas para crianças no Kwai; com Pedro Nakamura

    01:02:53||Ep. 23
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByNo primeiro episódio do Código do Caos eu abordei como o mercado de apostas e cassinos online estava se apropriando de um projeto de lei para conseguir se passar por videogame, como forma de fugir da lei que regulamenta apostas esportivas, driblar impostos e direcionar jogos de azar para crianças e adolescentes. Após um grande embate com a indústria de games brasileira, as empresas de aposta saíram perdendo, a despeito da grande campanha de lobby que fizeram. Isso não significa que essas empresas não tem encontrado outras brechas para empurrar jogos criminosos e plataformas fraudulentas para milhões de pessoas, incluindo crianças e adolescentes. A plataforma Kwai vem se tornando um grande ecossistema de jogos de cassino virtual, viciando usuários com recompensa de valores irrisórios em dinheiro enquanto constantemente incentiva a aposta em jogos de azar e plataformas golpistas. Isso para não falar da sexualização de menores e o baixo nível de conteúdo que circula pela própria plataforma. Para piorar, a empresa por traz da rede está tentando expandir seus negócios no Brasil e integrar o Kwai a sua própria plataformas e bets, o que poderia piorar a situação.Quem fez a denúncia foi o jornalista Pedro Nakamura no Núcleo Jornalismo, que fiscaliza big techs e redes sociais. Pedro é jornalista investigativo graduado pela Universidade Federal do Rio Grande do Sul e com publicações no Intercept, Repórter Brasil, RBS e no Estadão.Reportagem do Pedro Nakamura:Kwai libera cassino e promove bets para menores de 18 anosSiga Pedro Nakamura:TwitterSiga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram
  • 22. Código do Caos #22: As mídias digitais nos deprimem? Com Liliane Bastos

    45:19||Ep. 22
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByO uso intensivo de redes sociais e as mídias digitais como um todo tem sido associado à ansiedade, depressão e outros transtornos mentais a algum tempo. Em 2020, o próprio Instagram apresentou internamente estudos que mostravam que 32% das adolescentes que diziam se sentir mal com seus corpos achavam que a plataforma as fazia se sentir pior. Pesquisadores da empresa afirmaram que o Em 2019, o Instagram piorou os problemas de imagem corporal para uma em cada três meninas adolescentes, e que as garotas dessa faixa etária culpam a plataforma pelo aumento da taxa de ansiedade e depressão.Mas a gente sabe que não é só o Instagram. Redes sociais modernas em geral, ao contrário do que o nome sugere, tendem a ser antissociais, com seus algoritmos baseados mais em engajamento a qualquer custo do que conexão. Facebook e X, o antigo Twitter, tendem a ser movidos a fofoca, brigas, lacração, denúncias, discursos de ódio, fake news e exposeds criando um sentimento generalizado de que tudo está ruim ou todo mundo é mau. Embora alguns desses conteúdos, como notícias legítimas e verificadas, possam ser importantes, o algoritmo prioriza esses tipos de publicação que apela para nossas emoções mais extremas, com o objetivo de aumentar o nosso engajamento e nosso tempo nas plataformas. E para as empresas por trás dessas redes sociais, isso significa lucro.Em outras palavras, permitimos que as grandes empresas de tecnologia explorem nossas emoções para nos viciar em suas plataformas, para que elas extraiam de nós nossos dados, tempo e atenção. E tudo isso às custas da nossa saúde mental.Mas como as pesquisas científicas do campo da medicina entendem essa relação entre mídias digitais e saúde mental? Sabendo do poder das big techs em defenderem seus interesses, para quais direções devemos levar essa discussão?Neste episódio eu converso com Liliane Bastos, graduada em Medicina pela Universidade Federal da Bahia e médica residente em psiquiatria pela UNIFESP.Siga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram
  • 21. Código do Caos #21: Como Israel usa IA para matar, com Júlia Tibiriçá

    47:07||Ep. 21
    APOIE O CÓDIGO DO CAOS: apoia.se/codigodocaosCONTRIBUIÇÃO VIA PIX: https://nubank.com.br/pagar/185xn/SSdML7T4ByDesde outubro de 2023 a gente tem acompanhado uma nova etapa do conflito israel-palestino, após um ataque terrorista do Hamas contra cidadãos israelenses. Usando a ofensiva como pretexto para exterminar o povo palestino e invadir a Faixa de Gaza, Israel inaugurou um novo capítulo desse conflito que já dura quase 100 anos: o uso da tecnologia, da inteligência artificial e da lógica das big techs no massacre da população palestina. Vale ressaltar que, embora Israel constantemente argumente que está apenas se defendendo, aproximadamente 70% das mais de 30 mil pessoas mortas pelo país em Gaza são de mulheres e crianças – isso sem contar os mais de 70 mil feridos, de acordo com o ministério da saúde de Gaza.Jornalistas independentes de Israel, da revista +972, ouviram denúncias anônimas sobre o funcionamento dessas armas e publicaram reportagens detalhando as avançadas tecnologias de guerra usadas por Israel contra a população acuada e literalmente faminta de Gaza. O que a gente vê hoje, contudo, é resultado de décadas de investimento do país em um complexo militar industrial que produz tecnologia de combate, espionagem e vigilância para a guerra – dentre elas o Pegasus, que chegou a ser cogitado pelo clã Bolsonaro para monitorar o Palácio do PlanaltoPara entender mais que tecnologias são essas e o que elas representam para Israel, para o ocidente e para o mundo pós-Gaza, o episódio desta semana do Código do Caos traz uma conversa com Júlia Tibiriça. A Júlia é professora de relações internacionais na Universidade FMU, doutoranda de relações internacionais, mestra em ciência Política pela USP e pesquisadora na área de tecnopolítica e vigilância, privacidade, internet e redes sociais, autoritarismos e segurança internacional.Siga o Código do Caos nas redes sociais:TwitterInstagramSiga Henrique Sampaio nas redes sociais:TwitterInstagram