“Meu pai falou que você nos vigia”, diz o garotinho a Mark Zuckerberg, cofundador e executivo-chefe do Facebook. “Ele não é o seu pai”, responde Zuckerberg. A charge, uma das inúmeras piadas que aludem à capacidade das grandes empresas de tecnologia de espionar nossa vida, evoca a imagem do Grande Irmão, a distopia totalitária do romance 1984, de George Orwell. Mas a analogia não é correta, afirma Shoshana Zuboff, professora emérita de psicologia social da Escola de Negócios de Harvard. A realidade, segundo ela, é pior. Em vez do Big Brother, o olho que tudo vê para controlar os cidadãos, ela usa o termo Big Other, o Grande Outro, uma estrutura impessoal capaz de monitorar, computar e modificar o comportamento humano.

É esse o elemento-chave da era do capitalismo da vigilância, expressão que ela criou há alguns anos e agora esmiúça, no livro The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (“A era do capitalismo da vigilância: a luta por um futuro humano na nova fronteira do poder”, numa tradução livre).

A vigilância, em si, não é uma grande novidade. Como afirmou o filósofo Michel Foucault, no livro Vigiar e Punir, a sociedade moderna migrou, em grande medida, da prática da punição exacerbada para a lógica do olhar que disciplina. O modelo é o panóptico, uma estrutura criada pelo arquiteto e engenheiro Samuel Bentham, irmão do filósofo utilitarista Jeremy Bentham, no final do século 18. Tratava-se de uma prisão circular, que permitia que um menor número de guardas vigiasse todos os encarcerados. Esse conceito, afirma Foucault, dominou a sociedade como um todo. Em poucas palavras, trata-se de trocar uma reação desproporcional, mas ocasional (que depende de o culpado ser localizado) por inúmeras ações corretivas de pequenos desvios. O Grande Irmão, o olhar onipresente, é apenas a exacerbação de um conceito já presente em nossa cultura (como atestam as expressões “é de pequenino que se torce o pepino”, “o preço da liberdade é a eterna vigilância” e por aí vai).

A vigilância a que Shoshana se refere, porém, é diferente. Não se trata de incutir uma ordem, e sim de extrair um sentido. Quando você faz uma pesquisa no site de buscas Google, deixa lá uma série de informações: que tipo de busca fez, onde está, quanto tempo ficou online, quais assuntos lhe interessam. No início, tudo isso era usado apenas para aumentar a eficiência de suas buscas. Seu histórico de navegação permitia oferecer itens parecidos, nos quais você provavelmente teria interesse. Na virada do milênio, porém, com o estouro da bolha da internet, o Google se viu pressionado a encontrar um modelo de negócios lucrativo. E abriu o precedente de vender essas informações ao mercado publicitário.

Trata-se, de acordo com Shoshana, da “mais-valia comportamental”. Da mesma forma como o lucro, de acordo com a análise de Karl Marx, surge do excedente de valor criado pelo trabalho em relação ao custo do trabalho, as informações que os usuários deixam, sem perceber, nos sistemas que utilizam também geram um excedente. Que é apropriado pelas companhias de tecnologia.

Vem daí a noção de que “se você não está pagando pelo produto, você é o produto”. Shoshana diz que isso ainda é pouco. “Esqueça esse clichê”, escreve ela. “Você não é o produto. Você é a carcaça abandonada.” Em outras palavras: você não é o cliente, tampouco o objeto que é vendido, e sim a mina da qual as riquezas são extraídas, a matéria-prima bruta que, depois de usada, é descartada. A riqueza é o excedente comportamental, vendido a outras empresas. Com o sucesso estrondoso do Google, esse mecanismo alastrou-se e aprofundou-se. Aprofundou-se, primeiro, pela percepção de que não apenas pode-se observar o comportamento das pessoas, mas prevê-lo. E até, viu-se mais tarde, modificá-lo.

Aconteceu em 2002, quando uma equipe do Google notou que uma frase peculiar havia subido para o topo das buscas: qual o nome de solteira de Carol Brady (personagem de uma série de TV americana). Ao estudar as buscas, eles perceberam que o pico de buscas ocorria de hora em hora, sempre aos 48 minutos depois da hora cheia. Elas refletiam os fusos horários dos Estados Unidos, e as buscas eram de gente que estava assistindo ao programa Quem Quer Ser um Milionário?. Foi a primeira demonstração do poder de previsão do serviços de buscas. A partir daí, o investimento da empresa foi todo para aumentar a eficiência dessas previsões, para potencializar a mais-valia comportamental.

O mecanismo se alastrou porque, obviamente, os concorrentes passaram a cobiçar a mina de ouro do Google. O primeiro foi o Facebook, que tinha até mais informações pessoais de seus clientes do que o rival. Mas não sabia como explorá-las. Foi por isso que Zuckerberg contratou para seu braço direito Sheryl Sandberg… que vinha do Google.

Quanto o Facebook avançou no modelo ficou patente pela considerável lista de escândalos recentes, da influência nas votações do Brexit do Reino Unido e das eleições presidenciais dos Estados Unidos até a venda de dados de seus usuários para empresas e as falhas de segurança que permitiram a piratas invadir as contas de 30 milhões de pessoas. O Facebook também demonstrou ainda mais claramente quanto é possível influenciar o comportamento dos usuários. Em 2010, a empresa fez um experimento: enviou uma mensagem neutra para 60 milhões de americanos incentivando-os a votar no dia das eleições parlamentares. Para 600 000 deles, no entanto, a mensagem vinha com as fotos de amigos que já haviam clicado num botão de “eu votei”. E para outros 600 000 não foi enviada mensagem nenhuma. A conclusão é que a pressão dos pares pode ter levado mais de 300 000 pessoas às urnas (o voto não é obrigatório no país).

Até as bonecas monitoram

A análise de Shoshana não é, digamos, equilibrada. Ela cita a filósofa Hannah Arendt, uma renomada analista do totalitarismo, que disse não ser possível tratar de temas sem raiva e indignação, “porque essas condições são contrárias à dignidade humana; se eu descrever essas condições sem permitir que minha indignação interfira, então terei retirado este fenômeno particular de seu contexto na sociedade humana e terei, portanto, roubado parte de sua natureza”.

Não é só indignação. Shoshana faz sua análise a partir de uma ideologia. Ela afirma, por exemplo, que o neoliberalismo favoreceu a “desumanização” que a nova era do capitalismo da vigilância traz, ao promover uma extrema desigualdade social — sem citar que a desigualdade, embora tenha aumentado em diversos países desenvolvidos, globalmente despencou. Da mesma forma, afirma que economistas chilenos de viés liberal levariam seu país “ao cataclismo”, embora o Chile seja, sob vários ângulos, o país mais próspero da América Latina, com um PIB per capita 60% maior que o do Brasil.

Ela também não economiza nas comparações. Os atuais comandantes da indústria de tecnologia, especialmente do Google e do Facebook, são comparados aos “barões da indústria” do início do século 20, de tão má fama. Mais exagerada ainda é a comparação dos termos de privacidade digitais aos éditos que os conquistadores espanhóis liam para as comunidades indígenas, obrigando-as à obediência.

Nada disso, porém, retira a validade dos argumentos principais de Shoshana. Até porque seus exemplos falam por si. Hoje o capitalismo da vigilância não se restringe apenas a Google e Facebook, nem apenas à nossa vida online. O celular com sistema Android sabe quando você está perto de uma loja e pode enviar mensagens com promoções. O jogo Pokémon Go (desenvolvido nos laboratórios do Google) vendia a empresas como o McDonald’s e a Starbucks a possibilidade de abrigar monstros, para chamar clientela. Os carros autônomos têm a possibilidade de coletar inúmeros dados extras sobre as pessoas em seus deslocamentos. Alto-falantes inteligentes como os que a Amazon e o Google desenvolvem escutam tudo o que se fala dentro da casa.

Uma boneca chamada Cayla, da Genesis Toys, vem com um aplicativo que, uma vez ligado, permite que a boneca entenda tudo o que a criança diz — além de ter acesso a toda a lista de contatos do celular e à câmera. A boneca foi banida na Alemanha em 2017. Não é de estranhar que o gigante de brinquedos Mattel tenha promovido a presidente um diretor que veio do Google. O aspirador inteligente Roomba manda para a nuvem o mapa da casa dos compradores. A empresa de bebidas Diageo promete equipar suas garrafas com sensores para “se comunicar com os consumidores”.

Também não é de estranhar que a Microsoft, assim como as empresas de telecomunicações, tenha acordado para esse jogo. Sua assistente digital, Cortana, “trabalha melhor quando você permite que ela use dados de seu aparelho, de sua conta Microsoft, de outros serviços da Microsoft e de terceiros com os quais você se conecte”, diz sua política de privacidade. O novo jogo ajuda a explicar o valor de 26 bilhões de dólares pago pela rede social LinkedIn.

O aparelho que seria o estado da arte em vigilância, o Google Glass, capaz de fotografar e gravar todas as ações dos usuários, encontrou uma resistência inesperada. Os primeiros compradores foram ridicularizados. Mas a empresa não desistiu. Lançou o Glass Enterprise Edition, para ser usado no trabalho e supostamente ajudar a coletar ou fornecer informações aos empregados durante a atividade. É uma “porta dos fundos”, diz Shoshana, para em breve ganhar as ruas.

Shoshana não examina o outro lado da moeda, os benefícios que a conectividade e as análises de big data possam trazer — talvez porque esse discurso já seja suficientemente divulgado pelas empresas. Ela não chega a propor fechar a porteira da tecnologia. Mas, como era de esperar, defende a mesma solução que se deu aos gigantes corporativos de um século atrás: regulação, regulação, regulação. É o que mais temem os gigantes da tecnologia. Mas a história mostra que há um tempo para o sucesso irrefreado, e há um tempo para o controle dos exageros.