Loading summary
Transcript27 lines
- [00:01]
Nath Ruzaneri
Essa história começa quando uma menina de 8 anos de idade abriu sua conta no YouTube. Aos 9, ela criou um perfil no Instagram. E aos 16, já adolescente, chegou a passar 16 horas de um único dia dentro da rede social. Hoje, aos 20, tem em mãos o diagnóstico de problemas severos de saúde mental. É assim que a defesa dessa jovem apresenta a história dela à Justiça da Califórnia, nos Estados Unidos.
- [00:27]
Advogado da defesa / representante da jovem KGM
A jovem, identificada apenas como KGM, disse que começou a usar redes sociais aos seis anos. Na primeira audiência em Los Angeles, o advogado argumentou que ela teve acesso a conteúdos perigosos e deprimentes que intensificaram sua depressão, ansiedade e pensamentos suicidas, e que os filtros do Instagram a levaram a desenvolver uma distorção na forma como se enxerga.
- [00:53]
Nath Ruzaneri
Ela move um processo contra duas das empresas mais poderosas do mundo, a Meta, dona do Instagram, e a Alphabet, dona do YouTube. É a primeira vez que essas empresas enfrentam um júri popular em um processo sobre vício em redes sociais. A acusação central deste caso é que os algoritmos foram desenhados para viciar, o que as empresas negam.
- [01:14]
Advogado da acusação / representante dos demandantes
Os advogados dela alegam que isso aconteceu porque as empresas deliberadamente programaram, as big techs, programaram o algoritmo para causar dependência nas crianças, isso com o objetivo de aumentar os lucros. Quando você aumenta o engajamento, você tem mais possibilidade de lucros.
- [01:33]
Nath Ruzaneri
O que está em julgamento não é um post, não é um vídeo, não é um conteúdo específico. É o modelo de funcionamento dessas plataformas. O advogado da jovem, Mark Lanier, afirma que elas funcionam como cassinos digitais e que o scroll infinito, a rolagem da tela, opera como uma máquina caça-níqueis. TikTok e Snapchat também estavam no processo, mas fizeram um acordo com a jovem em valores não divulgados.
- [01:58]
Advogado da acusação / representante dos demandantes
Esse julgamento está sendo considerado um possível divisor de águas, porque dependendo do resultado pode abrir precedente para outros milhares de processos contra empresas de tecnologia.
- [02:11]
Nath Ruzaneri
Assim como nos processos contra a indústria do tabaco, a tese da acusação é que as empresas sabiam dos riscos e ainda assim mantiveram um modelo de negócios baseado na dependência. Outros países estão tentando, por conta própria, conter os impactos das redes sociais entre crianças e adolescentes. A Austrália, por exemplo, aprovou uma legislação para restringir o acesso de menores de 16 anos às redes sociais. A Espanha sinalizou que pode seguir o mesmo caminho. Reino Unido e França discutem medidas semelhantes. Da redação do G1, eu sou Nath Ruzaneri e o assunto hoje é o julgamento das Big Techs e a responsabilidade do algoritmo. Neste episódio, eu converso com a especialista em Direito da Tecnologia, Carolina Rossini, que fala diretamente dos Estados Unidos. Carolina é professora na Escola de Direito na Universidade de Boston e diretora de Programas de Tecnologia de Interesse Público na Universidade de Massachusetts. Quinta-feira, 12 de fevereiro. Eu quero começar a nossa conversa falando de uma jovem de 20 anos que está justamente no centro desse julgamento nos Estados Unidos e que pode definir precedentes sobre a responsabilidade de Big Techs por danos ligados ao vício de crianças e adolescentes nas redes sociais. Te pedindo, para começar, para nos explicar o que exatamente está sendo decidido por um júri de 12 pessoas e por que esse caso já é considerado um caso histórico.
- [03:53]
Carolina Rossini
Pela primeira vez aqui um júri popular nos Estados Unidos vai decidir se essas grandes plataformas digitais Especificamente a Meta e o Google, porque já foi feito um acordo com o TikTok, então o TikTok não está a parte dessa ação nesse momento, podem ser responsabilizadas ou não por danos causados a crianças e adolescentes pelos usos dos seus produtos. O caso dessa pessoa de 20 anos, ela e a mãe dela entraram com essa ação e alegam que mais de uma década de uso das redes sociais a tornou dependente da tecnologia e agravou o quadro de depressão e pensamentos suicidas. Esse não é o primeiro caso nos Estados Unidos, e uma coisa muito importante desse caso é que, na verdade, ela não é a única demandante desse caso. Esse caso é um caso coletivo, com mais de 800 demandantes. questão aqui sustenta que o ponto central foi essa questão que não que o que aconteceu, mas como aconteceu, como que esses quadros de depressão e pensamentos suicidas participaram se agravaram com os usos. Então, o caso é um caso histórico, como eu estava dizendo, porque a juíza desse Tribunal Superior decidiu que essa alegação poderia prosseguir para o julgamento. Uma coisa que também é muito nova, porque vários casos contra plataformas foram barrados antes de ir para o júri, então isso é um fato histórico disso ter sido avançado.
- [05:31]
Advogado da defesa / representante da jovem KGM
YouTube e Meta afirmaram que não há evidências científicas de que suas plataformas causam dependência. O advogado da Meta argumentou no julgamento que os problemas de saúde mental da jovem foram causados por abusos e conflitos familiares. O julgamento na Califórnia deve durar até oito semanas e o fundador da meta, Mark Zuckerberg, vai prestar depoimento.
- [05:55]
Carolina Rossini
Aqui nos Estados Unidos tem um específico procedimento que se existem vários casos semelhantes, a corte pode trazer esses casos conjuntamente. Não é a primeira vez que esse mecanismo é utilizado na Califórnia. Então, nesse caso, a gente tem quase por volta de 800 demandas reunidas e sendo representadas pelo caso da KGM. E essa decisão vai ser vinculante a esses outros 800 demandantes. Vai ser muito interessante ver isso. Existe outro caso aqui com 1.800 demandantes e isso vai a ser julgado no meio de 2026. Então a gente vai ver um ano de 2026 com muita atividade jurídica nessa área.
- [06:39]
Nath Ruzaneri
As Big Techs argumentam o seguinte, que elas estão protegidas pela Seção 230 da Lei de Decência nas Comunicações, que é uma lei dos Estados Unidos que as isenta de responsabilidade pelo conteúdo publicado por usuários. Como é que essa linha de defesa se sustenta, Carolina, diante dessa acusação? A gente está falando de um problema não apenas de conteúdo, mas também do modelo de negócios?
- [07:06]
Carolina Rossini
Sim, exatamente. Essa, na verdade, é a atenção central desse caso. A Seção 230 da Lei de Decência das Comunicações tradicionalmente protegeu as plataformas da responsabilidade por conteúdo que é publicado por texte-seiros, então quando você faz um post no feed do Facebook, coisa assim. essencial, na verdade, para várias coisas. Um, para permitir que modelos de negócio na internet se expandissem e existissem lá desde o começo da comercialização da internet da década de 90 e também salvaguardou um algo muito importante aqui nos Estados Unidos que é a liberdade de expressão, que é um direito muito prevalente aqui, mais prevalente em relação até ao direito de privacidade. Aqui nos Estados Unidos a liberdade de expressão é mais preservada. Essa sessão 230, ela dá essa imunidade, a gente chama de safe harbor, ela gera essa imunidade, esse escudo às plataformas. Só que o interessante foi a estratégia, foi o argumento que eles utilizaram, que foi o que o tribunal aceitou, falando assim, olha, na verdade, o dano, esse dano de depressão, de pensamento em suicídio, etc., não decorreu apenas do conteúdo, mas sim dos defeitos no design do produto que foi entregue, ou seja, o produto que permite essa rolagem infinita, essa reprodução automática, as notificações constantes, esse sistema de recompensa variável, tudo isso são decisões, pela argumentação também dos demandantes, da engenharia e do produto. E além disso, a gente tem que lembrar também que o modelo de negócio aqui, que a gente chama o capitalismo de vigilância, surveillance capitalismo, capitalismo de vigilância, foca numa coleta massiva de dados para servir propaganda, para servir publicidade. Então, a gente não está só falando de conteúdo gerado por usuários, a gente também está falando da publicidade e conteúdos gerados por usuários vinculados com publicidade. E foi por causa desse argumento de defeito de produto, que até no Brasil a gente tem coisas equivalentes na lei de direito ao consumidor, fez com que essa juíza federal falasse, sim, esse caso pode continuar e vai para o júri.
- [09:21]
Nath Ruzaneri
E a defesa dessa jovem de 20 anos usa uma metáfora, ela compara as plataformas ao tabaco e a outros produtos viciantes e diz o seguinte, que esse movimento a que você se refere de deslizar o dedo para rolar o feed seria semelhante ao movimento de uma alavanca de caçar níquel e nas palavras dele, dele é advogado de defesa, toda vez que ela desliza o dedo, que o usuário desliza o dedo está se apostando, e aí a aposta não é em troca de dinheiro, não é por dinheiro, mas por uma estimulação mental.
- [09:55]
Carolina Rossini
E a gente tem que lembrar que quando a gente tem um caso numa corte que envolve júri popular, você está tentando traduzir coisas para pessoas leigas, não para advogados. Então é muito comum se utilizar analogias como essa para criar um impacto, para criar uma empatia. Obviamente que essas analogias, elas nunca são perfeitas, mas elas de fato ajudam a gente compreender o que está acontecendo. Então, de fato, é uma analogia poderosa, tem um fundo técnico sim, porque os algoritmos de recomendação dessas grandes plataformas, eles são treinados para maximizar as métricas de engajamento, o tempo de permanência, os cliques, o compartilhamento, o momento que a gente ficar com os nossos olhos abertos lá esse tempo todo, olhando scroll, scroll. E essas métricas são os que que se convertem diretamente às receitas publicitárias. Tanto que tem muito caso de estudo, até quando você tem fake news em época de eleição, você sempre vê a receita publicitária das plataformas aumentando nessas épocas. Então aqui é a mesma coisa. O sistema aprende continuamente com o comportamento do usuário e cria esses ciclos de retroalimentação constante. Então, por isso, essa analogia do caça-níqueis é uma analogia muito interessante, por causa dessa retroalimentação e esse constante passar o dedinho ao lado, como era do caça-níquel, inclusive, que era a manivela. Então, cada momento que você desliza o dedo, o algoritmo está te oferecendo algo para calibrar e para compreender a sua atenção, como a sua atenção funciona. Ela é pertinente, por exemplo, à comparação com o tabaco, no sentido que a indústria de tabaco naquela época, e existiu também uma ação coletiva semelhante a essa, na verdade, na década de 60, 70, Eles sabiam dos riscos, mas escolheu ocultá-los e a gente viu nesse caso, agora na Califórnia, que tem vários documentos do Facebook internos, do Meta, que vazaram e que demonstraram que existiam pesquisas internas, sim, demonstrando que os produtos causavam danos a adolescentes, mas mesmo assim os produtos continuavam para priorizar o engajamento. Então, acho que uma das frases chaves é que talvez seja, não é que o algoritmo queira causar um dano, é que ele otimiza para a retenção.
- [12:16]
Nath Ruzaneri
Caso o júri considere as empresas responsáveis, que tipo de precedente isso pode criar para outros processos em curso nos Estados Unidos e até mesmo para a possibilidade de provocar uma espécie de efeito cascata em tribunais de outros países?
- [12:32]
Carolina Rossini
Se o júri considerar essas empresas responsáveis, o impacto vai, sim, muito além desse caso. E o que acontece? Eles vão poder incentivar acordos em massa, que foi a outra coisa que a gente viu com o caso do tabaco e na crise de opioides aqui nos Estados Unidos, com as farmacêuticas pagando em massa indenizações. caso vai poder se influenciar tribunais em outros estados a consolidar sua narrativa jurídica sobre o dever de cuidado, previsibilidade e danos e o design negligente de produtos, porque como eu disse a narrativa dos demandantes é sobre design negligente de produto E esse impacto não vai ser só financeiro para as plataformas, vai ser um impacto regulatório, consolidar ideias de que as decisões algoritmas são decisões de produto e, portanto, sujeitas às mesmas obrigações de segurança de que produtos tem em vários setores industriais aqui nos Estados Unidos, porque aí você vai estabelecer aquela relação causal de dano que é essencial aqui para se configurar a responsabilidade nos Estados Unidos. Isso vai ter um efeito muito interessante porque vários estados aqui nos Estados Unidos estão emitindo leis de regulamentação e governança de inteligência artificial em vários setores, setores como casas, setores como planos de saúde e agora talvez existem movimentos também de regularizar essa parte em relação às crianças. A gente já tem uma legislação nos Estados Unidos, que é a COPPA, que protege crianças que são mais jovens que 13 anos, mas ela não foi tão efetiva online. Então a gente vai ver, eu acho, que tanto movimentação das cortes como movimentação regulatória, especialmente estadual. A gente sabe que a parte federal agora, eles estão evitando fazer regulamentação de inteligência artificial. Os procuradores gerais de estados aqui estão trazendo muitas ações contra as plataformas, defendendo escolas locais com uma narrativa muito semelhante. Então vai ser um dominó, um efeito dominó aí muito interessante de indenizar as pessoas que sofreram esses danos.
- [14:37]
Advogado da defesa / representante da jovem KGM
Davi Nemer, ele que é advogado especialista em direito da internet, professor da Universidade da Virgínia.
- [14:44]
Davi Nemer
Caso o júri entenda que as plataformas sejam responsabilizadas, isso muda totalmente a lógica que de responsabilização, porque as plataformas, novamente, sempre se esconderam, sempre se protegeram através dessa sessão 230, porque é muito importante, porque essas big techs, essas empresas que são donas das plataformas, elas são sediadas nos Estados Unidos. não em outro país, onde as regras são mais rígidas. Caso sejam julgadas culpadas, isso vai, novamente, determinar um precedente onde que ações vão ter esse efeito cascata, esse efeito dominó. Acredito que outros países e até os próprios pais vão tomar atitudes mais rígidas nessa questão do acesso da criança ou adolescente a essas plataformas.
- [15:34]
Carolina Rossini
Agora, internacional, acho que sim, absolutamente. A União Europeia já está se movendo nessa direção com instrumentos próprios. Já há alguns anos a gente tem o ato de serviços digitais na Europa, que lida com essa lógica de responsabilidade por desenvolvimento de produto. A União Europeia fez uma acusação contra o TikTok por violar regras do bloco europeu, exatamente em relação ao scroll, a rolagem infinita da plataforma. E vários países, da França, Inglaterra, Austrália, estão criando novas legislações agora, desde o ano passado, especificamente para criar salvaguardas a crianças e a produtos destinados a crianças.
- [16:15]
Especialista em legislação da União Europeia
Na União Europeia, a Lei de Serviços Digitais está em vigor desde o ano passado. O principal objetivo é cobrar das plataformas transparência e agilidade na moderação do conteúdo publicado nas redes. Quanto maior for a empresa, mais abrangentes são as obrigações. A Lei de Serviços Digitais determina que plataformas devem remover rapidamente conteúdos ilegais após notificação, como discurso de ódio, pornografia infantil e terrorismo. O usuário pode notificar a plataforma extrajudicialmente, sem necessidade de ir à justiça. É um sistema conhecido como Notice and Take Down. Notificar e remover.
- [17:03]
Nath Ruzaneri
Espera um pouquinho que eu já volto para continuar minha conversa com a Carolina Rossini. Agora, Carolina, muito se fala do papel dos algoritmos. Você cita isso aqui no centro desse julgamento. Mas, na prática, esses sistemas são super opacos para nós, o público. Eu quero entender melhor. O que se sabe hoje sobre como funcionam os algoritmos de recomendação das redes sociais?
- [17:30]
Carolina Rossini
Existem muitas plataformas com algoritmos abertos, então dá para a gente entender mais como os algoritmos funcionam. Óbvio que isso não é o caso dessas grandes plataformas. Esses algoritmos não são publicados por aí para a gente analisar. Só que a gente sabe, sim, hoje em dia, que os algoritmos de recomendação utilizam sistemas de aprendizagem de máquina, aquela machine learning, treinados com volumes massivos de dados comportamentais. Uma coisa importante é que a gente está falando de máquina. Se não existe uma salvaguarda, um guardrail ou algo assim que fale, olha, separe o que é criança, separe o que é adolescente, eles não vão saber quem é quem, porque eles não estão enxergando os humanos, eles só estão enxergando os dados e que representam para essas máquinas, para esses algoritmos, otimização de probabilidades para servir publicidade. Ou seja, esses sistemas funcionam em três camadas. Eles coletam e modelam o perfil do usuário, aí eles fazem uma classificação preditiva desse conteúdo e depois mapeia em tempo real o que vai ser servido para você de forma personalizada. A gente já tem muita literatura acadêmica e documentos internos revelados em vários processos judiciais que demonstram como isso funciona. A gente tem casos na área de antitrust, de concorrência, que também mostram muito como isso funciona, porque na Europa, por exemplo, já existiram muitos casos na área de concorrência em relação aos algoritmos de publicidade das plataformas, então isso foi demonstrado lá também. Então, assim, se a gente procurar a informação Outra coisa muito interessante que está acontecendo aqui é a questão de sandboxes, espaços de experimentação de algoritmos para que os fazedores de política pública, os juízes, o pessoal que trabalha nessa área, olhe, observe como as coisas tenham funcionado, funcionam, para ir legislar ou julgar. Então, existem mecanismos para ajudar a gente a entender mais esses algoritmos.
- [19:32]
Nath Ruzaneri
Do ponto de vista científico, é correto falar em vício em rede social, assim como a gente ouve falar em vício em jogos de azar, por exemplo?
- [19:41]
Carolina Rossini
Então, pois é, eu não sou psicóloga, mas é óbvio assim, quando você trabalha na área de legislação, leis, internet, tecnologia inteligente artificial, é um conhecimento interdisciplinar. Então eu vou te trazer um pouco do que eu encontrei, eu dou aula nessa área de desenvolvimento responsável de tecnologia, então a gente tem que trazer essas coisas. Então tem muito artigo já da área de psicologia e desenvolvimento de produto que você pode aplicar, sim, ao que está acontecendo nesse caso. Não existe, pelo que eu saiba, um consenso. Eu acho que a gente tá, de novo, da forma que a gente tá tentando entender como as coisas acontecem nessas cortes, nesses casos, os psicólogos também, mas eu acho que assim, a literatura reconhece, sim, padrões problemáticos de uso. um manual internacional que chama DSM-5, que é um manual internacional de referência e de transtornos mentais, que reconhece oficialmente transtornos mentais relacionados a jogos, por exemplo, e isso sim tem uma analogia grande com a questão do scrolling, como a gente estava falando antes. O uso de redes sociais ainda não está classificado formalmente como um transtorno aditivo, mas eu acho que existe sim, como eu disse, vários estudos advogando por isso, só que porque esses estudos já mostram sintomas como perda de controle, abstinência psicológica, você perde a sua inibição, como acontece com álcool e com drogas. A diferença é que, por exemplo, com álcool, drogas, não é uma substância externa entrando no seu corpo, mas é o mesmo efeito da dopamina, Tem um estudo muito interessante feito em várias escolas aqui dos Estados Unidos, acho que compreendeu 600 estudantes, até com MRIs, com aquelas imagens do cérebro das crianças, mostrando que o cérebro não está nem sendo desenvolvido de forma adequada, como o nosso se desenvolveu quando a gente era criança e não tinha tanto exposição a questões digitais. Ou seja, é uma parte muito crucial, eu acho que é uma parte muito, ainda que a gente está aprendendo, só que não tem como parar, porque os danos já estão acontecendo. A gente já sabe a história do cortex pré-frontal, que só se desenvolve plenamente aos 25 anos. Eu tenho um filho de 15 anos, então eu presto muita atenção nessa história e a gente fala com ele, a gente fala, olha, Ah, mamãe, eu vou saber como lidar com isso. Não, você não vai. Um, seu cérebro não está formado. Dois, você não tem a experiência de vida para entender o quanto isso é manipulativo. Então, essas conversas existem.
- [22:10]
Nath Ruzaneri
Carolina, muito obrigada pelos esclarecimentos e pelas informações todas. Bom trabalho para você.
- [22:15]
Carolina Rossini
Gente, obrigada de novo.
- [22:20]
Nath Ruzaneri
Este foi o Assunto, podcast diário disponível no G1, no YouTube ou na sua plataforma de áudio preferida. Comigo na equipe do Assunto estão Luiz Felipe Silva, Amanda Polato, Sara Rezende, Carlos Catelan e Luiz Gabriel Franco. Colaborou neste episódio Paula Paiva Paulo. Eu sou Nathuzaneri e fico por aqui. Até o próximo Assunto.