A rede social de compartilhamento de imagens possui uma poderosa ferramenta de recomendações. Vale observar como ela funciona e quais são os esforços da empresa para evitar os escândalos enfrentados por seus rivais.
O Pinterest é uma aclamada rede social de compartilhamento de imagens. A maneira como ela trabalha seu algoritmo de recomendação chama a atenção, especialmente no atual cenário de debate sobre o papel das empresas de tecnologia na busca por algoritmos menos enviesados. A publicação OneZero, do Medium, publicou um interessante artigo sobre o assunto.
Quando um usuário decide criar um perfil, o Pinterest faz duas perguntas: idade e sexo. Essas informações são então combinadas com o idioma do usuário, região e histórico de navegação. Em seguida, a plataforma exibe categorias que acredita serem de interesse do usuário e pede que ele escolha ao menos cinco, o que dará origem ao conteúdo a ser exibido em seguida.
Feitas as escolhas, o software de machine learning do Pinterest cria um feed cheio de imagens (ou “pins), que ele prevê que serão atraentes para o usuário. Este é um momento crucial: a empresa afirma que, segundo dados internos, se as pessoas vêem pins de que gostam imediatamente, há uma boa chance de se tornarem usuários ativos. Essas pessoas tornam-se visitantes regulares, visualizam anúncios personalizados e passam a montar suas próprias curadorias de pins. No entanto, se os novos usuários não encontram algo interessante à primeira vista, há grande chance de que eles não voltem mais.
Para os 50 milhões de novos usuários que ingressam no Pinterest a cada ano, esse processo de cadastro é o primeiro encontro com um dos algoritmos mais bem-sucedidos – e menos analisados – do Vale do Silício. O código que alimenta o feed inicial, os resultados de pesquisa e as notificações do Pinterest – o que determina quais imagens serão vistas a cada momento – é semelhante ao que sustenta o feed de notícias do Facebook ou as recomendações do YouTube. É o principal produto de uma empresa de 15 bilhões de dólares.
Nos bastidores, cientistas e executivos do Pinterest enfrentam os mesmos tipos de tensão que causa problemas em outras redes sociais. No entanto, os líderes da empresa afirmam que desejam traçar uma rota diferente para o sucesso: menos meteórica e mais humana. Isso porque eles têm o desafio de crescer sua base de usuários sem estereotipar novos usuários ou permitir a disseminação de desinformação e radicalização.
Um algoritmo verdadeiramente personalizado
Na semana passada, o Pinterest lançou um recurso projetado para abordar a falha mais visível do algoritmo: a tendência de tirar conclusões erradas sobre o comportamento passado dos usuários e, assim, poluir o feed com conteúdo indesejado (por exemplo, vestidos de casamento para alguém que interrompeu um noivado ou decoração de quarto de bebê para quem sofreu um aborto espontâneo).
O recurso é chamado Home Feed Tuner (em uma tradução livre, “afinador da página inicial”). Ele permite com que os usuários revisem e editem manualmente seu histórico e seus interesses – ou seja, digam ao algoritmo o que ele deve lembrar e o que deve esquecer.
Inicialmente, o feed do Pinterest mostrava os pins mais populares entre todos os usuários, de acordo com as categorias que eles seguiam. Isso era eficaz para atrair novos participantes, mas não para diversificar o conteúdo exibido pelo site. No entanto, Candice Morgan, diretora de inclusão e diversidade da companhia, mostra a dimensão do problema:
“Os usuários gostariam de fornecer mais informações sobre eles mesmos proativamente, para aumentar a personalização? Descobrimos que a resposta é não – eles só querem que o produto funcione para todos.”
Assim, o Pinterest teve que redesenhar seus sistemas e treinar seus algoritmos para identificar diferentes tipos de usuários e mapear seus interesses. Daí as perguntas que o novo usuário precisa responder, descritas no início deste artigo. Outra iniciativa a favor da diversidade é um seletor de paleta que permite filtrar os resultados de beleza com base no tom de pele do usuário.
Críticas
O Pinterest nunca foi alvo de tantas polêmicas quanto Twitter e Facebook, mas isso não significa que seja imune aos problemas que causaram escândalos em outras plataformas. Um de seus críticos é Mike Caulfield, especialista em alfabetização midiática e comunicação online, da Washington State University Vancouver. Em 2017, ele investigou a cultura política no Pinterest e encontrou o cenário controverso de qualquer outra rede social: notícias falsas, estereótipos étnicos e teorias da conspiração.
Caulfield argumentou que o algoritmo de recomendação agressivo do Pinterest e a exposição de conteúdo relacionado poderiam transformar o feed de um usuário em uma fossa de ódio em questão de minutos. O pesquisador afirmou que usualmente as empresas de tecnologia ignoram suas críticas ou ficam na defensiva. Porém, a reação do Pinterest foi surpreendente: a empresa o agradeceu por destacar o problema e o convidou para se reunir com executivos da empresa e compartilhar ideias sobre como resolver a questão.
O encontro rendeu frutos, ao menos, nas políticas em relação às vacinas. O Pinterest mudou a forma como seu mecanismo de pesquisa trata consultas sobre vacinas. Ao invés de mostrar os pins mais populares, a ferramenta mostra apenas imagens de grandes organizações de saúde, como a Organização Mundial de Saúde e o Centro de Controle e Prevenção de Doenças (CDC). Foi uma demonstração de que a empresa estava disposta a substituir seu próprio software para resolver problemas que o algoritmo sozinho não pode resolver.
Engajamento
O Home Feed Tuner do Pinterest dá mais controle aos usuários, porém, como qualquer rede social baseada em recomendações orientadas por algoritmos, conta com algum tipo de viés. Omar Seyal, diretor de produto da companhia, afirma:
“No fim das contas, somos uma plataforma de conteúdo gerado pelo usuário. Não conseguimos entender tudo que está no caminho. Temos spammers, temos pessoas que querem usar a plataforma para distribuir o que seria conteúdo negativo”.
O que a empresa pode fazer para mitigar esses problemas, ele diz, é examinar atentamente os tipos de conteúdo que o sistema tende a amplificar e ajustar os parâmetros do algoritmo para priorizar alguns conteúdos sobre outros.
Por exemplo, o algoritmo do Pinterest trata pins salvos como um sinal positivo muito mais forte do que meros cliques. O executivo afirma:
“As pessoas não salvam, de verdade, um artigo inflamado sobre o presidente. Mas salvam uma roupa que desejam comprar no futuro. Portanto, estamos enviesando em prol desses tipos de interações e afastando o viés das interações com seus amigos.”
Afastar interações entre amigos pode parecer uma abordagem estranha para uma rede social. Mas o Pinterest afirma que é parte da maneira como a empresa mitigou problemas como assédio e propaganda viral.
“No fim das contas, não vemos campanhas de desinformação como em outras plataformas porque o algoritmo simplesmente não recompensa essas campanhas”, diz Malorie Lucich, chefe de comunicação de produtos do Pinterest. “Quando um usuário tenta enviar spam ou confundir pessoas de forma massiva, provavelmente deseja que esse conteúdo chegue à página inicial. Isso não acontece tão facilmente no Pinterest”, ela arremata. Além disso, o algoritmo da empresa trata os cliques em sites considerados de “alta qualidade” como mais valiosos do que cliques em outros sites.
Mais do que realçar os valores reivindicados pelo Pinterest, o caso ilustra o interessante funcionamento da tecnologia dessa popular rede social e como ela lida com o problema do viés da automatização – uma questão fundamental para quem trilha os caminhos de Data Science.
