O desejo de poder de big techs como Google e Facebook

STANFORD – Embora nós estejamos só começando a entender os danos que as plataformas de internet causam à saúde pública, à privacidade e à competição, em breve nós iremos nos confrontar com uma ameaça ainda mais fundamental das big tech. Em um momento em que os pilares da democracia liberal já estão bastante enfraquecidos, Google, Facebook, Amazon e Microsoft estão aumentando o desafio para os governos eleitos democraticamente ao oferecer seus próprios serviços como uma alternativa.

Isto representa uma mudança significativa em comparação ao passado. Há coisa de 20 anos, as empresas de tecnologia da América tinham pouca relação com o governo federal além de pagar impostos. Os engenheiros criavam produtos que davam poder aos consumidores, e os governos os saudavam por isso.

Porém, depois dos ataques terroristas de 11 de setembro de 2001, a postura dos Estados Unidos em relação à vigilância mudou. A comunidade de inteligência dos EUA colaborou com as principais plataformas digitais – começando pelo Google – para reunir enormes quantidades de dados pessoais que poderiam ser usados para prevenir futuros ataques. Não bastasse isso, a partir de 2008, Google, Facebook e outras empresas se tornaram ferramentas indispensáveis para políticos. A relação acolhedora da indústria de tecnologia com o governo do presidente Barack Obama a protegeu de investigações ao mesmo tempo em que o setor aperfeiçoava o que Shoshana Zuboff, da Harvard Business School, chama de “capitalismo da vigilância”.

Enquanto o capitalismo industrial faz uso da tecnologia para manipular o ambiente, o capitalismo da vigilância manipula o comportamento humano. Seus praticantes convertem experiências humanas em dados, criam bonecos vudu digitais (dossiês) que representam cada indivíduo, e então usam essas representações virtuais para modelar e vender produtos de previsão do comportamento.

Estes produtos estão transformando o marketing e a propaganda, porque permitem um direcionamento dos anúncios para público com direito a previsões específicas para cada cliente em potencial. Além disso, as líderes no capitalismo de vigilância – Google, Facebook, Amazon e Microsoft – usam os dados que coletam para manipular resultados individuais de busca, limitando as escolhas disponíveis aos consumidores e aumentando a probabilidade de que eles vão se comportar como previsto. Como diz Zuboff, o capitalismo da vigilância ameaça tanto a autonomia individual quanto a viabilidade das sociedades abertas.

Se movendo depressa…

O primeiro sinal de que as plataformas de internet poderiam ter um impacto real em países inteiros – e não somente em indivíduos – surgiu em 2016, quando as campanhas de desinformação on-line apareceram com destaque no referendo do Brexit do Reino Unido e na eleição presidencial daquele ano nos EUA. Desde então, as plataformas de internet têm facilitado interferências nas eleições de vários outros países, além de involuntariamente serem parcialmente responsáveis por genocídio em Miamar, terrorismo na Nova Zelândia, assassinatos em massa nos Estados Unidos e na Europa e surtos de sarampos nos países em que a doença já fora eliminada no passado. Hoje elas são usadas com frequência para espalhar desinformação, fomentar o extremismo violento e polarizar eleitorados.

Não creio que a intenção das plataformas de internet fosse facilitar estes danos. Porém, o modelo de negócios delas, seus algoritmos e culturas internas tornaram tais prejuízos inevitáveis. Como cidadãos, nós todos temos de reconhecer que as plataformas de internet têm hoje tanto ou mais impacto nas nossas vidas do que nossos próprios governos. Quando o Facebook veta imagens de amamentação, seus usuários não podem recorrer da decisão, mesmo que vivam em um país com proteções constitucionais à liberdade de expressão. E, quando a rede social muda suas políticas para permitir anúncios falsos em campanhas políticas, ela está essencialmente pedindo mais ataques às nossas eleições – e, portanto, à própria democracia.

O pior é que as sociedades abertas ainda têm muito que aprender com a primeira onda de danos desencadeada pelas plataformas de internet. As iniciativas mais ponderadas até o momento – a Regra de Proteção Geral de Dados da União Europeia, além da Lei da Privacidade do Consumidor da Califórnia – tratam apenas de um subconjunto do problema. Os legisladores ainda estão nos estágios iniciais de entender como o capitalismo da vigilância opera. Não há sequer um consenso a respeito de se este novo modelo econômico representa uma ameaça, muito menos um plano para neutralizar seus efeitos nocivos.

Enquanto isso, Google, Facebook, Amazon e Microsoft já estão se movendo em direção à próxima etapa. Após terem otimizado o capitalismo da vigilância, essas empresas estão em posição de lançar iniciativas feitas para substituir serviços tradicionalmente oferecidos pelo governo. Não são as primeiras empresas a fazer isso, mas suas ambições e os meios que têm à disposição superam em muito os de outras iniciativas privadas, como os do setor de prisões com fins lucrativos.

Cada empresa de plataforma líder de seu segmento se orienta por uma meta definida. Algumas são explícitas, como a missão do Google de “organizar a informação do mundo” e o desejo do Facebook de juntar o mundo em uma única rede. No caso de outras, é possível deduzir por meio do comportamento da empresa: a Amazon claramente quer ser a espinha dorsal da economia, e a Microsoft o parceiro tecnológico das empresas e governos. Em cada caso, o objetivo não-declarado é ter o controle. Não contentes com os benefícios do capitalismo da vigilância, que hoje estão limitados ao tamanho do mercado para anúncios, as empresas de plataformas estão se movendo de modo agressivo – e desafiador, em alguns casos – rumo a novos mercados.

… e quebrando coisas

Por exemplo, a Sidewalk Labs, uma subsidiária da empresa matriz do Google, Alphabet, oferece a possibilidade de tomar o lugar de serviços públicos locais em troca do controle dos dados públicos e do poder de tomar decisões. Seja porque foi feito assim ou por acidente, este modelo de negócios poderia aos poucos substituir a escolha pessoal, além de usar algoritmos para tomar o lugar da democracia na esfera local.

Do mesmo modo, com o lançamento planejado de sua criptomoeda Libra, o Facebook está tentando competir com reservas cambiais como o dólar americano e o euro. Embora a Libra no início tenha recebido apoio de várias das principais empresas de serviços financeiros, seu anúncio vem desencadeando uma reação negativa mundial, e muitos destes parceiros estão recuando. Porém, independentemente do que aconteça à Libra, o Facebook continuará a ter um papel desproporcional no enfraquecimento da democracia. Sua disposição declarada de facilitar a disseminação de inverdades notórias, combinada às críticas feitas pelo CEO da empresa a uma das principais candidatas do Partido Democrata à presidência dos EUA (Elizabeth Warren), sugerem que a empresa não tem medo de colocar seus interesses à frente dos do país.

Por sua vez, a Amazon vem fazendo avanços agressivos no setor de contratos com órgãos públicos, oferecendo uma grande variedade de serviços de informação para agências federais e locais. A empresa está oferecendo produtos de reconhecimento facial para agências de segurança como o Serviço de Imigração e Controle de Alfândegas (ICE, sigla em inglês de Immigrations and Customs Enforcement), mesmo que o software continue a sofrer de um preconceito implícito contra pessoas negras.

A Amazon também tem usado sua linha de campainhas inteligentes Ring para firmar acordos de cooperação com os departamentos de polícia locais. Com autorização prévia dos donos das residências, agentes de polícia podem acessar vídeos gravados pelo Ring sem precisar de uma ordem judicial. É compreensível que defensores dos direitos civis e especialistas estejam preocupados com a possibilidade de as redes de campainhas da Ring, quando combinadas à tecnologia de reconhecimento facial, permitam novas e potencialmente inconstitucionais formas de vigilância. Jornalistas também estão descobrindo que as vendas do Ring da Amazon dão à empresa um poder indevido sobre como os órgãos de segurança se comunicam com o público.

Por fim, as novas iniciativas da Microsoft são menos descaradas, mas não necessariamente menos problemáticas. Por exemplo, o trabalho de inteligência artificial da empresa inclui aplicativos capazes de automatizar o policiamento. Assim como no caso do reconhecimento facial, os apps de policiamento baseados em AI (sigla em inglês de Inteligência Artificial) estão repletos de preconceitos implícitos. Não importa que seja resultado de má engenharia ou das preferências do consumidor, o fato é que até agora ninguém encontrou uma solução para o problema. O preconceito algorítmico vem sendo notado ao longo de um amplo conjunto de aplicações, como no caso dos softwares que analisam currículos e formulários de financiamento habitacional.

O tempo está se esgotando

Ao longos das duas últimas décadas, as principais plataformas de internet têm se aproveitado da desregulamentação e de brechas legais para construir negócios no mundo todo e acumular uma fortuna enorme. Com o sucesso veio a arrogância, em particular nos casos do Facebook e do Google, duas companhias que vêm desafiando os legisladores em contextos diferentes dos de outras empresas. As duas empresas inicialmente se recusaram a enviar seus CEOs para as primeiras audiências no Congresso para investigar interferências no processo eleitoral americano. Além disso, Mark Zuckerberg, do Facebook, tem repetidamente se negado a testemunhar em comitês parlamentares no Canadá e no Reino Unido, dois dos maiores mercados do Facebook. Quando executivos do Facebook e Google foram a órgãos de fiscalização, na maioria das vezes se portaram de modo ardiloso e evasivo.

Hoje essas empresas dominam nossas vidas, em geral de maneiras que nós sequer podemos imaginar. Elas não foram eleitas e não assumem a responsabilidade, além de estarem substituindo a autodeterminação e a tomada de decisões democrática por processos algorítmicos. As sociedades abertas não podem permitir que as empresas se portem desta maneira. Como cidadãos, temos de cobrar dos nossos governos que as coloquem sob controle enquanto eles ainda têm o poder de fazê-lo.

*Roger McNamee é cofundador da Elevation Partners e um dos primeiros investidores no Facebook, Google e Amazon.

Copyright: Project Syndicate, 2019.