The Filter Bubble: How the New Personalized Web Is Changing What We Read and How We Think - resenha crítica

As mudanças causadas pela era digital

A internet prometeu liberdade, forneceu transparência e acesso direto. As pessoas podiam se conectar diretamente com outras fora de suas estruturas sociais. Como qualquer um pode publicar a um custo muito baixo, a internet ofereceu novas formas de expressão, jornalismo, comunicação e de uma busca pela verdade. Como todo mundo tinha o mesmo acesso à informação, a internet parecia justa por natureza.

E a quantidade de dados presente na internet parece infinita. Para se ter uma ideia, em um dia normal, 900 mil blog posts são criados, 50 milhões de tweets são publicados, 60 milhões de atualizações são feitas no Facebook e 210 bilhões de e-mails são enviados. O volume de dados é impressionante!

Com isso, o mundo on-line mudou de forma profunda e inesperada. Essas mudanças surgiram a partir das maneiras pelas quais as empresas reúnem informação e como elas utilizam essa informação.

Como uma estratégia de negócios, a fórmula dos gigantes da internet é simples: quanto mais relevante for a informação sendo oferecida, mais anúncios podem ser vendidos e mais provável a compra.

No passado, os resultados das buscas na internet já variaram conforme o tipo de ferramenta de sendo utilizada para este fim, porque cada uma aplicava diferentes tipos de algoritmos. Pesquisas sobre o mesmo tópico na mesma ferramenta de busca eram anônimas e geravam resultados de busca idênticos, independentemente de quem realizava a busca.

Mas isso mudou. Atualmente, toda vez que você conduz uma pesquisa on-line, sua ferramenta guarda essa informação, aprende e molda seus resultados futuros de busca com base nesses dados.

Isso acontece porque as ferramentas de busca utilizam os dados para guiar as buscas seguintes, fornecendo informações mais precisas pela priorização dos resultados que são alinhados às suas pesquisas anteriores.

Para prever seus desejos futuros, a Amazon se baseia em suas compras passadas. O Netflix usa como referência seu histórico de filmes e o Google delimita sua pesquisa ao mostrar mais daquilo que você já viu. Essas empresas, e muitas outras, exploram seus dados de busca para vender produtos que acreditam que você quer, a partir dessas informações pessoais.

A era da personalização na internet

Essas empresas guardam informações que você pode nem ter conhecimento – por exemplo, suas atualizações do Facebook, as coordenadas de GPS do seu celular e seus e-mails. Quanto mais dados precisos elas têm sobre você, mais focados serão os anúncios apresentados e mais conseguirão lhe vender.

Mas a personalização não se aplica apenas aos anúncios ou às ferramentas de venda. Cada vez mais essa personalização de algoritmos dá forma às notícias e informações que você vê. Isso se aplica às redes sociais como o Facebook e aos sites de notícias como o Yahoo News. Como seus resultados de busca são especificamente para você, sites de relacionamentos como OkCupid também fazem uso desses algoritmos, determinando as possíveis combinações para mostrar e sites como o Yelp podem utilizar suas buscas para personalizar recomendações de restaurantes.

O raciocínio é simples: a nova geração de filtros da internet vai observar as coisas que você parece gostar e tentar extrapolar a informação. Estamos falando de ferramentas de previsão, que criam e refinam uma teoria constante sobre quem você é e o que você vai fazer em seguida. Essas ferramentas criam juntas um universo de informação personalizado para cada um de nós – o que podemos chamar de ‘filtro-bolha’. E esse universo pode alterar como encontramos as ideias e as informações on-line.

Os filtros-bolha transformaram o acesso à informação

Esses filtros-bolha introduziram três dinâmicas nunca vistas antes:

• Você está sozinho nela. Você é a única pessoa em sua bolha, e em uma era de informação compartilhada, o filtro-bolha nos isola.
• O filtro-bolha é invisível. O Google, por exemplo, não informa porque está mostrando os resultados daquela maneira. Você não sabe se as suposições sobre você estão certas ou erradas e pode nem saber que fizeram essas suposições.
• Você não escolheu entrar na bolha. Quando você liga um canal de TV específico, escolheu utilizar um tipo de filtro para assistir. Mas esse não é o mesmo caso para os filtros personalizados. Você não pediu pelas respostas filtradas, mas quando procura por dados, recebe informações selecionadas. Esses filtros vêm até você e parece cada vez mais impossível se livrar deles!

Mas essa situação não é 100% ruim; as informações precisam ser filtradas de alguma forma. Você não consegue processar tudo: centenas de posts de blog, milhões de atualizações no Facebook e bilhões de e-mails que chegam diariamente. Com a queda no custo da mídia, a tendência é que esses números só aumentem. Você precisa encontrar uma saída para isso.

E o filtro-bolha é uma saída para essa situação. Em teoria, esses filtros nos ajudam a selecionar a informação que queremos com mais facilidade. O Netflix, por exemplo, ajuda a identificar suas preferências em um catálogo enorme de filmes.

Mas o filtro-bolha tem custos envolvidos. Seus custos são pessoais e culturais, e existem consequências diretas para aqueles que utilizam esses filtros personalizados. Se você faz uma pesquisa sobre dicas de viagens para a Europa, corre o risco de que os preços das passagens subam de repente, sem nem entender o motivo!

Estratégias bem-sucedidas na coleta de dados

Nos anos de 1990, teóricos do mundo cibernético, como Nicholas Negroponte, imaginaram a presença de “agentes inteligentes” que ajudariam os usuários a navegar pela mídia dando a eles poder sobre ela. Outros inovadores imaginaram o desenvolvimento de um filtro que pudesse bloquear todos os anúncios, mas eles se perguntavam como a mídia funcionaria caso isso acontecesse.

Jeff Bezos começou a Amazon em 1994, combinando a influência dos negócios on-line com a influência personalizada de uma livraria local que conhecia os clientes o suficiente para oferecer recomendações exclusivas.

Para Bezos, a Amazon precisava ser uma empresa reconhecida pelo uso da inteligência artificial, utilizando algoritmos capazes de ligar seus clientes a seus livros preferidos. Bezos baseou-se no trabalho de pesquisadores cibernéticos que criaram fórmulas matemáticas para produzir um “filtro colaborativo” de acordo com aas respostas dos usuários aos e-mails e mensagens.

O resto da história você já conhece: em 1997 a Amazon vendeu livros para 1 milhão de clientes. Seis meses depois, já havia vendido para 2 milhões. Na empresa, o incentivo pelo uso de dados dos usuários não acaba nunca. Quando você lê um livro em seu Kindle, os servidores da Amazon coletam os dados sobre as frases que você sublinhou, as páginas que marcou, quais livros leu mais rápido, entre outros detalhes. Esses dados são utilizados para gerar novas recomendações de livros.

Larry Page e Sergey Brin, que fundaram o Google, desenvolveram primeiro o PageRank, um programa para encontrar resultados de buscas que um usuário realmente quisesse, ao invés de oferecer dezenas de resultados aleatórios.

O Google acumula dados dos usuários ao fornecer serviços como o Gmail, um sistema de e-mail com memória livre. Seu único custo é dar ao Google acesso aos dados fornecidos sempre que você entra no e–mail, incluindo os conteúdos dos seus e-mails. Seus algoritmos agrupam os consumidores de acordo com os dados que ele coleta, e a ferramenta de busca personaliza seus resultados ou te mostra anúncios de acordo com esse agrupamento.

Por outro lado, o Facebook pede diretamente pelas informações das pessoas. O Facebook constrói conexões que existem no “mundo real” para criar redes virtuais. Em sites de redes sociais mais antigos como o Friendster ou o MySpace, você precisava visitar a página dos seus amigos para ver o que eles estavam fazendo.

O Facebook desenvolveu um “algoritmo de feed de notícias” que transformou uma coleção de páginas em um jornal personalizado, escrito por você e por seus contatos. E a adição do botão “like” permite que você fale sobre suas preferências e as compartilhe de maneira instantânea com seus amigos. Essa rede de dados produz um engajamento intenso que faz com que as pessoas permaneçam no Facebook – elas não vão trocar de serviço, mesmo que seja por um outro melhor.

O filtro-bolha moldando as personalidades

Seu cérebro busca um equilíbrio entre informações passadas e percepções futuras. O filtro-bolha interrompe esse “equilíbrio cognitivo”. Ele lhe cerca de coisas familiares, então você confia em sua maneira de pensar atual. Isso exclui os sinais ambientais úteis que fazem você querer aprender.

Os seres humanos utilizam padrões organizados para encontrarem sentido no mundo, e excluem informações que contradizem essa visão. A falácia lógica conhecida como “viés de confirmação” é um tipo de filtro: se você espera que uma situação produza certos resultados, é exatamente isso que você vai enxergar. O filtro-bolha agrava essa tendência. Ele exclui qualquer coisa que indique que suas crenças podem estar erradas, ou que sugere que você precise repensar as coisas.

Experimentar novos dados ajuda a aprender, mas quanto mais personalizada a internet fica, menos dados novos você vai encontrar. Dentro de seu filtro-bolha, sua mente opera como se você estivesse dopado e sem atenção ou foco. Você pode ser capaz de trabalhar com mais intensidade, mas dentro da bolha você não vai conseguir inovar, criar ou ultrapassar suas fronteiras - já que você nem sabe que essas fronteiras existem.

Um sonho precoce e generalizado colocou a internet como um lugar no qual você pode deixar para trás todos os preconceitos do mundo físico. Ninguém sabia se você era um homem ou uma mulher, jovem ou velho. O sonho sugeria igualdade em troca de anonimato. Esse sonho está acabando.

As empresas agora coletam e relacionam todas as informações que conseguem a seu respeito. Antes, você podia agir de uma maneira no trabalho e outra em casa: esses dois mundos raramente se misturavam. Atualmente, a informação sobre esses dois mundos está cada vez mais integrada, afunilando todas as suas identidades e seus comportamentos em um resultado comum.

A personalização afeta quem você vai se tornar. Ela começa rastreando o que você gosta e apresentando-lhe “mais do mesmo”. Isso restringe suas escolhas futuras, que são cada vez mais moldadas por suas escolhas do passado.

O Google e o Facebook utilizam teorias defeituosas sobre sua personalidade para aprimorar suas projeções para o futuro. O Google baseia suas teorias em suas escolhas passadas. O Facebook é um pouco mais ambicioso: ele tenta definir quem você pensa que é.

Quais as implicações disso? O problema é que a velocidade de aprendizado de um sistema sobre você pode atrapalhar muito: ao clicar em um único link, você pode ser classificado como uma pessoa interessada em um tópico, sem considerar o fato de que você pode ter clicado por acidente. Uma vez que o sistema alimentahistórias e produtos nessa nova categoria seu cérebro trabalha para reduzir a divergência cognitiva e tenta redefinir-lhe como alguém que tem aquele interesse.

O poder nas mãos dos programadores

Para entender o mundo virtual você precisa primeiro entender os programadores. O poder de criar novos universos pode ser o primeiro impulso de qualquer um deles. Se você for inteligente o suficiente pode manipular e fazer qualquer coisa que imaginar com apenas alguns códigos.

Mas, como muitos artistas, programadores também podem se render aos “impulsos de Deus”, ideias que os estimulam a recriar o mundo em busca de uma melhora. Os artistas criam cenários e paisagens jamais vistos, escritores criam sociedades e mundos no papel. É muito claro para qualquer um que não passam de criações irreais. Mas um programa funcional pode gerar uma ilusão de realidade muito poderosa. Especialmente para pessoas com vidas sociais miseráveis ou opressivas: uma busca pelo escape pode ser uma resposta razoável nessas situações.

Além disso, o universo dos códigos também dá poder sobre coisas que antes não eram dominadas. Todo mundo já fantasiou ou sonhou com uma vida sem regras e leis, em que você pode fazer tudo o que quiser sem consequências.

O problema é que os programadores com esses impulsos de Deus podem ter aspirações maiores na sociedade. Eles correm o risco de estender esse “complexo de Deus” nas esferas públicas, por exemplo. Programadores e outras “estrelas da internet” podem não entender sobre política; e como resultado, podem não enxergar as implicações de suas escolhas.

Muitos dos programadores que projetam o mundo virtual pensam em termos de resolução de problemas e de criação de ferramentas on-line poderosas. Eles nem sempre reconhecem o fato de que suas escolhas carregam implicações valiosas. Isso leva ao “tecnodeterminismo”, uma teoria reducionista que trata a tecnologia e a informação como independentes do controle humano e do desejo das pessoas.

Uma ameaça à liberdade e à privacidade

A tecnologia tem um papel central na definição da liberdade e de outras questões importantes para o século 21. Algumas pessoas argumentam que dispositivos tecnológicos são criados para que as pessoas aumentem suas conexões com os outros.

É fato conhecido que estamos no começo da era da personalização. Os programas e os sensores estão evoluindo rapidamente. À medida que a tecnologia se torna mais barata, a personalização se espalha. O cinema tem dado pistas sobre como as coisas poderão ser no futuro: o filme Minority Report mostra painéis projetando anúncios personalizados para cada pessoa.

Pode parecer coisa de filme de ficção científica, mas no Japão já existe um painel personalizado. À medida que você passa por ele, ele escaneia e reconhece seu rosto, procurando por combinações nos bancos de dados. Depois de determinar sua idade e gênero, ele mostra anúncios personalizados para esse grupo específico.

Quanto mais humanas as máquinas se tornam mais problemas ligados à privacidade e à personalização surgirão. As máquinas emprestarão traços humanos para chamar sua atenção, e elas vão conseguir. Os seres humanos são programados para prestarem atenção a alguns estímulos como sexo, poder, fofocas, violência, celebridades ou humor; e as máquinas serão capazes de ativar esses focos.

O avanço na tecnologia exige uma reavaliação na ideia de privacidade, porque a privacidade vai desaparecer. Programas que conseguem identificar pessoas utilizando fotografias já estão prontos para o mercado.

Depois que a tecnologia for capaz de identificar-lhe, em qualquer lugar, mesmo em uma multidão, lhe rastrear vai ser muito fácil. O uso de identificação por frequência de rádio (RFID) colocado em objetos como carros, telefones, relógios, monitores cardíacos, faz com que todos sejam rastreáveis.

Isso significa que o mundo computadorizado – empresas, governos e pessoas – saberão onde você esteve e tudo que você tem. Os itens que você compra irão aumentar essa personalização. O Google não vai só variar os resultados de busca pelo histórico do pesquisador; os sites podem também mudar para corresponder aos interesses de quem o está acessando.

Cuidados e mudanças para um futuro com mais acesso à informação

Com o crescimento do poder dos computadores a ciência se transforma. Chris Anderson, editor da famosa revista Wired, é a favor do uso de computadores para a compreensão de mundo. Com o aumento do poder da computação você pode “analisar trilhões de bits de dados” e identificar padrões e correlações.

O problema com essa abordagem é que as máquinas não precisam de modelos teóricos para entender os resultados dos seus cálculos; mas os seres humanos precisam. Desenvolver o computador dessa maneira pode levar a aspectos além da compreensão humana.

Permitir políticas confusas para governar a forma como outras pessoas utilizam sua informação é perigoso. Os consumidores devem exigir transparência em todos os aspectos do mundo virtual.

O filtro-bolha separa a mídia de outras fontes: as pessoas leem artigos individuais do The New York Times, mas fora de contexto e sem o benefício de acompanhar as seleções editoriais. Os processos de busca precisam reincorporar o julgamento do editorial e as escolhas, para que você possa descobrir coisas novas que não estão ligadas a seu perfil, mas a todos.

A internet acabou com a ideia da esfera pública e a ideia de que um público geral existe. Mudar essa tendência significa restaurar o equilíbrio, a premissa e a promessa original da internet.

As empresas e os governos deveriam aplicar os Princípios e Práticas da Comissão Americana Federal de Comércio, que dá aos consumidores o controle sobre suas informações; transparência sobre quem está coletando e o que será feito com essas informações. Os Estados Unidos poderiam estabelecer uma agência de governo que pratica uma supervisão on-line, como as agências na União Europeia fazem. Os consumidores precisam mudar de uma mentalidade passiva para uma ativa. O acesso à informação não precisa representar uma perda de privacidade.

Notas Finais

A internet é muito mais diversificada do que você jamais poderia imaginar. Mas, graças à personalização e ao filtro-bolha, podemos perder informações valiosas, das quais jamais teremos conhecimento. As grandes organizações estão cada vez mais focadas na criação de publicidades personalizadas e acabam perdendo o senso de coletivo, isolando os seres humanos em filtros e ideias pré-estabelecidas sobre o mundo. Tenha senso crítico, tente pensar fora da caixa e evite uma mentalidade passiva ao utilizar a internet!

Dica do 12’

Você pode assistir também a Ted Talk do autor sobre o mesmo tópico: Beware online “filter bubbles”.