Amazon, Spotify, Netflix ou Steam: como os mecanismos de recomendação influenciam nossos gostos

Quando você compra algo online, quando assiste a um filme em uma plataforma SVOD, quando ouve uma música em um aplicativo de streaming de música: sem que você necessariamente esteja ciente disso, algoritmos o acompanham em toda a sua jornada até o interior da oferta cultural. E influenciá-lo nas suas compras ou nas suas escolhas culturais.

Seja na Amazon, Spotify, Netflix ou Steam (o ASNS), os mecanismos de recomendação levarão você a conteúdo popular, visualizado e compartilhado. Com o postulado inicial de que diante de uma superabundância de escolhas, pode ser útil buscar conselhos em ferramentas que “filtram” o conteúdo para nós. 

• Netflix, Disney+, Stadia, Facebook... muitas opções, matando a escolha? 

Diante da paralisia e do estresse causados ​​pela imensidão dos catálogos Spotify ou Netflix, os algoritmos tranquilizam você e economizam seu tempo. Saber que tempo também é dinheiro: não é por acaso que o sistema de recomendação da Amazon é a base de seu modelo de negócios. Segundo a plataforma de e-commerce, para quem o tempo gasto nas escolhas é tempo de consumo desperdiçado, 30% das páginas visualizadas em seu site são provenientes de suas sugestões algorítmicas. 

 

 

Ainda mais forte na Netflix, que se orgulha de que 75% do conteúdo visualizado por seus clientes vem de uma recomendação personalizada de seu algoritmo. E o melhor é que os próprios usuários ficam felizes em serem influenciados por algoritmos: segundo um estudo realizado em 2015 pela CNIL, 9 em cada 10 usuários de serviços de streaming consideram que seus dados são usados ​​para melhorar o serviço. E 65% ouvem as recomendações do algoritmo. A taxa sobe para 68% entre os usuários de serviços de vídeo como YouTube ou Netflix. 

Prisioneiros de nossos duplos digitais

As críticas que visam as "bolhas de filtro" criadas pelos algoritmos não dizem respeito apenas ao Facebook: as da ASNS também nos prendem a alguns dos nossos gostos e, em última análise, impedem-nos de "sair da nossa zona cultural de confiança". algoritmos famosos, que são apenas conjuntos de regras de cálculo usadas para resolver problemas de matemática, são usados ​​aqui para filtrar constantemente, quando estamos online, pedaços de informação (filmes, músicas, livros, imagens, páginas da web). recursos: comportamento de navegação do internauta (palavras-chave de busca, histórico de uso, comportamento de consumo) e recomendações sociais colaborativas, que se baseiam no comportamento "curtir" do usuário.

  

Todos esses dados, uma vez misturados, formam "dados culturais pessoais"; eles refletem suas escolhas e, graças à IA, permitem que os sistemas de recomendação se adaptem aos seus gostos (que podem mudar). A Netflix, por exemplo, usa algoritmos para alterar as miniaturas de filmes ou séries exibidas em sua página inicial, dependendo do histórico de uso do assinante: para um mesmo filme, o pôster utilizado pode assemelhar-se ao de um thriller, um filme de terror, um romance , ou uma comédia. O que significa que quando você está no Netflix pensando que está fazendo sua própria seleção, sua sensação de ter uma escolha ou poder escolher "por acaso" é apenas uma ilusão. Você é na verdade um prisioneiro de seu duplo digital, que o trancou em sua bolha de filtro cultural. 

Nossos gostos são manipuláveis… 

Mas as ferramentas de recomendação não são apenas capazes de influenciar nossas escolhas: elas também podem modificar nossos gostos, em substância. Esta é a conclusão de um experimento de economia comportamental, publicado no MIT Sloan em 2020, intitulado "Os efeitos colaterais dos sistemas de recomendação". Uma equipe de pesquisadores americanos pediu a 169 estudantes (e ávidos consumidores de música) que ouvissem os primeiros 30 segundos de dezenas de músicas.

Cada um deles recebeu uma pontuação entre 1 e 5 estrelas. Os alunos foram informados de que essas pontuações foram calculadas a partir de suas preferências anteriores. Enquanto na realidade, esta notação foi gerada de forma completamente aleatória. Ao final do teste, os pesquisadores perguntaram se eles estavam prontos para comprar músicas e quais, para ouvi-las completamente. Resultado: por ponto de avaliação adicional, a disposição a pagar das cobaias aumentou de 12% para 17%. E, no entanto, essas pontuações não refletiam de forma alguma suas preferências.

Os consumidores preferem que o sistema lhes diga o que eles gostariam

Concretamente, assim os orientamos, fazendo-os acreditar que já gostavam de tal e tal música e, no final, sua vontade de comprar era muito maior. As cobaias se sentem quase "forçadas" a gostar de uma música quando uma ferramenta de recomendação (aqui adulterada) diz isso a elas. "Os consumidores não preferem apenas o que experimentaram e sabem que gostam; eles preferem o que o sistema disse que gostariam. Isso é surpreendente, porque os consumidores não deveriam precisar de um sistema para dizer o quanto gostaram de um música que acabaram de ouvir. O advento dos sistemas de recomendação pode fazer com que questionemos nossos próprios gostos. Passaremos da pergunta "Eu amo isso?" à pergunta 'Devo gostar disso?'", escrevem os pesquisadores.

 

Para os autores do estudo, esta experiência mostra o “lado negro” dos motores de recomendação: a existência de potenciais vieses de decisão, introduzidos pelos algoritmos. E a capacidade desses sistemas de manipular nossas preferências, nossos gostos, sem que realmente tenhamos consciência disso. “Afinal, os detalhes por trás dos algoritmos de recomendação estão longe de ser transparentes. Mecanismos de recomendação falhos que estimam incorretamente as verdadeiras preferências dos consumidores correm o risco de diminuir a disposição de pagar por certos itens e aumentar por outros, independentemente da probabilidade de uma correspondência real.

Isso pode encorajar organizações menos éticas a inflar artificialmente as recomendações", escrevem. E além da "manipulação direta" de avaliações falsas, há também o risco de "erro aleatório". de um produto, ou pelo contrário subestimando-o, podem encorajar um consumidor a comprar algo que ele nunca teria comprado de outra forma (mas ele ficará desapontado, no final) ou "desviar" de um conteúdo que poderia caso contrário, consumiram. 

...Porque eles dependem dos outros

 

Então, devemos estar preocupados e com medo de ser manipulados quando vamos ao Netflix, Amazon ou Spotify? Um professor de psicologia social, Stéphane Laurens, refuta a ideia de tal "perigo de manipulação" por algoritmos: segundo ele, a influência dos mecanismos de recomendação é de fato um fenômeno tão antigo quanto o comércio. O que é automatizado por algoritmos hoje já foi feito por humanos: "Os vendedores aconselham seus clientes com frases como 'ficará bem em você'; anúncios dizem 'você adora...' e apresentam pessoas encantadas com o produto. As estrelas vinculados aos produtos são a contrapartida desses conselhos nos sites, conselhos elaborados a partir de pistas dadas por perfis, compras ou consultas. São semelhantes às pistas que damos para ver um vendedor quando entramos em sua loja e conversamos com ele por alguns momentos", explica. Em suma, os sistemas de recomendação são apenas a versão high-tech de certos vendedores, aqueles que são tão bons que conseguem, por meio de seus conselhos, fazer você comprar coisas de que não gosta e pesar sobre seus gostos. Vendedores humanos que também desenvolvem suas recomendações a partir das pistas que deixamos, de nossos hábitos e do que outros clientes compram que acreditam ser como nós.

Somos embalados na ilusão de fazer nossas próprias escolhas de forma autônoma e objetiva

Mas Stéphane Laurens vai mais longe: para ele, não são simplesmente os nossos gostos por produtos que podem ser manipulados, mas “a ideia que temos de nós próprios”. Ele se baseia na pesquisa da psicóloga Hazel Markus sobre o "auto-esquema", conceito que sugere que os indivíduos constroem auto-esquemas de si mesmos, representações que usamos para nos descrever (sou extrovertido, sou sincero, sou criativo). Segundo Markus, se um indivíduo recebe informações fictícias sobre sua personalidade, informações muito diferentes do que a pessoa pensa de si (por exemplo, sou introvertido, hipócrita e cartesiano), e que lhe é dito que vem do resultados de um teste clínico e científico sério, isso influenciará significativamente a maneira como ele se perceberá. "O mecanismo de recomendação diz que você vai gostar desta peça, o teste diz que você é uma pessoa independente... e as pessoas não desconsideram essa informação: nossas opiniões e gostos não são apenas fruto de nossas próprias experiências, elas dependem de o que os outros nos dizem sobre nós mesmos e os objetos ao nosso redor", observa Stéphane Laurens. 

Finalmente, o que todos esses estudos nos mostram não é que somos constantemente manipulados; mas que somos embalados na ilusão de fazer nossas próprias escolhas de forma autônoma e objetiva. “Tomando essa ilusão como ponto de partida, tais resultados parecem mostrar que assim que fornecemos uma recomendação ou a opinião de outros, o indivíduo abandona seu julgamento inicial se o tivesse, não analisa a realidade e muda para seguir a recomendação ou Isso equivale a ver julgamentos instáveis, indivíduos que não mantêm suas posições, que mudam sem motivo... Eles aparecem então como consumidores imbecis cujo tempo habilmente capturou cérebro disponível para manipulá-los", conclui o pesquisador em psicologia social Isso não significa que somos necessariamente ovelhas manipuláveis, mas simplesmente que somos seres profundamente sociais e que nossos julgamentos são instáveis, algoritmos ou não. 

Recriar aleatoriedade 

Mas como, então, podemos sair de nossas bolhas culturais, nos libertar dessa ilusão de livre-arbítrio e reduzir todos esses preconceitos? O sociólogo Dominique Cardon, autor do livro “O que os algoritmos sonham”, sugere que poderíamos introduzir o elemento humano nas propostas editoriais das plataformas de streaming, por exemplo. Ou melhore a compreensão de todos sobre os mecanismos do computador e a capacidade de "retornar ao manual". Em outras palavras, aprenda a "levantar o capô" e explique como os algoritmos funcionam.

Mas também poderíamos recriar aleatoriedade, aleatoriedade real; como o “Random Shopper”, projetado pelo desenvolvedor Darius Kazemi. Um bot que (na verdade) faz uma seleção aleatória, para um determinado orçamento, na Amazon. Isso também é o que o Forgotify oferece, um site dedicado apenas a músicas nunca ouvidas no Spotify. Ele usa um programa que permite ouvir músicas nesta plataforma que só foram ouvidas por seus criadores. Para sair das bolhas algorítmicas e não nos deixarmos influenciar, seria assim possível desenterrar conteúdos desconhecidos, pouco ouvidos/vistos/lidos. Mergulhando no que alguns chamam de "teia solitária" - ou "teia solitária", mas isso é outra história, sobre a qual vou contar na próxima semana, em outro artigo.