Motoristas parceiros que realizam entregas são submetidos a sistemas de Inteligência Artificial que automatizam suas avaliações de qualidade e até enviam e-mails automáticos com comunicados de demissão sem supervisão humana.
Algoritmos de Inteligência Artificial da Amazon estão demitindo funcionários e prestadores de serviço de forma automática, sem qualquer contato com humanos.
Conforme conta a Bloomberg, um dos casos aconteceu com Stephen Normandin, 63 anos, que passou quase quatro anos como motorista do programa Amazon Flex entregando encomendas nos Estados Unidos. Os algoritmos que o rastreavam por meio do aplicativo que gerencia as entregas decidiram que ele não estava fazendo seu trabalho direito e um dia recebeu um e-mail automático comunicando sua demissão. Normandin diz que a Amazon o puniu por coisas além de seu controle que o impediram de concluir suas entregas, como complexos de apartamentos trancados, o que elevou o tempo de entrega, rebaixou sua classificação no programa, atingindo uma pontuação negativa que correspondeu à sua exclusão do Amazon Flex.
A questão polemica é que máquinas estão atuando como líderes, contratando, avaliando e demitindo de pessoas com pouca ou nenhuma supervisão humana.
A Amazon se tornou a maior varejista on-line do mundo, em parte por “terceirizar” suas extensas operações para algoritmos. São inúmeros os casos de aplicação em seus negócios que acabam reduzindo custos, automatizando tarefas e, do ponto de vista de resultados de negócios, gerando grandes vantagens competitivas. O ponto sensível da vez é a automatização de processos de Gestão de Pessoas.
Globalmente, cerca de 4 milhões de motoristas baixaram o aplicativo, incluindo 2,9 milhões nos Estados Unidos. E mais de 660.000 pessoas nos EUA o baixaram nos primeiros cinco meses de 2021, um aumento de 21% em relação ao mesmo período do ano anterior. Muitas pessoas veem no serviço uma oportunidade de renda e erros no algoritmo podem acarretar em problemas de rota, previsão de entrega e avaliações de qualidade, que acabam decaindo as classificações dos profissionais.
Os motoristas da Amazon, no momento em que se conectam ao aplicativo que gerencia sua jornada de trabalho, são monitorados pelos algoritmos a cada movimento. Eles chegaram ao posto de entrega quando disseram que iriam? Eles completaram sua rota na janela prevista? Eles deixaram um pacote à vista na varanda, em vez de escondido atrás de um planta, conforme solicitado? Esses algoritmos examinam o fluxo de dados recebidos em busca de padrões de desempenho e decidem quais motoristas obtêm mais rotas e quais são desativados. O feedback humano é raro. Os motoristas ocasionalmente recebem e-mails automatizados, mas na maioria das vezes ficam de olho em suas avaliações, que incluem quatro categorias: Fantástico, Ótimo, Regular ou Em risco.
Obviamente, o aplicativo busca fazer correções nesse gerenciamento de rota dos motoristas, considerando variáveis como engarrafamentos e problemas de acesso a apartamentos que o sistema não consegue detectar, mas nenhum algoritmo é perfeito e, no tamanho da Amazon, até mesmo uma pequena margem de erro pode ser considerada um grande sucesso internamente e ainda causar muita dor de cabeça aos motoristas.
Como funciona um algoritmo desse tipo?
Vamos exemplificar como isso funciona na prática, como um algoritmo pode influenciar em tomadas de decisão como uma demissão. Na realidade, um algoritmo é apenas um conjunto de etapas consecutivas para concluir uma tarefa. Poderíamos fazer um algoritmo para pedir pizza, que seria mais ou menos assim: escolher borda + escolher o molho + escolher a quantidade de queijo + escolher os recheios + enviar um pedido. Isso é tudo que um algoritmo é em sua essência, um monte de etapas para fazer algo.
O que torna uma algoritmo complexo é, primeiro a quantidade de regras interlaçadas; segundo, os tipos e quantidade de dados necessário para habilitar as regras; e, terceiro, se essas regras vão evoluindo de forma automatizada por meio de machine learning.
E é isso que provavelmente ocorre com o algoritmo de demissão da Amazon. Ele segue uma sequência de etapas programadas que culmina com o disparo de um e-mail automático para o motorista cadastrado na plataforma que correspondeu à essa sequência de etapas programadas, como “não entregou no prazo estabelecido”, “demorou mais que o previsto”, “é a terceira que vez que faz isso”, etc. É um programa de computador que toma decisões automáticas, não pensando, refletindo, nem julgando ou tomando juízo de valor se aquela decisão é boa ou ruim, ética ou não. Quem faz essa interpretação somos nós, humanos.
Imagine o trabalho de um recepcionista de cinema. Ele deve conferir os bilhetes e direcionar o cliente para a sala correta onde o filme será exibido. Além disso, se o cliente estiver 30 minutos adiantado, o recepcionista deve informar que a sala do filme ainda não está aberta. E quando o cliente estiver 30 minutos atrasado, o recepcionista deve informar que a entrada não é mais permitida. Vamos escrever um algoritmo para descrever a atividade do recepcionista:
Algoritmo Recepcionista de Cinema
Inicio
1 – Solicitar ao cliente o bilhete do filme.
2 – Conferir a data e o horário do filme no bilhete.
Se data/hora atual > data/hora do filme + 30 minutos Então
3 – Informar ao cliente que o tempo limite para entrada foi excedido.
4 – Não permitir a entrada.
Senão Se data/hora atual < data/hora do filme – 30 minutos Então
5 – Informar ao cliente que a sala do filme ainda não foi liberada para entrada.
6 – Não permitir a entrada.
Senão
7 – Permitir a entrada.
8 – Indicar ao cliente onde fica a sala do filme.
Fim-Se
Fim
Vejamos outro exemplo, dessa vez com uma representação visual: como trocar uma lâmpada?
Nesse fluxograma, os losangos representam as decisões que são tomadas para executar um ou outro passo. Ao final, a lâmpada tem que estar funcionando.
De forma bem básica e simplista, é assim que um algoritmo da Amazon toma a decisão de demitir alguém. Mas imagine isso com muito mais passos, condições e regras. Com muito mais dados que habilitam essas regras. E com um processo de aprendizado de máquina que, a partir dos dados, vai tornando ele cada vez mais – teoricamente – eficiente para cumprir sua missão.
Repercussões éticas
A Amazon tem 110 armazéns de estoque, 75 centros executivos, 45 centros de triagem e 50 estações de entrega nos EUA. Há uma infinidade de utilidades para a Inteligência Artificial e para os robôs atuarem nesse universo. Hoje, todas essas instalações empregam cerca de 125.000 funcionários em tempo integral e a empresa diz que vai demorar pelo menos mais 10 anos para uma automação completa de seus serviços.
A Inteligência Artificial tem selecionado candidatos a emprego há vários anos, gerenciando lojas da Walmart, recomendando compras no e-commerce, avaliando a atividade dos trabalhadores de escritório. Há ainda computadores de bordo nos caminhões de entrega que verificam a velocidade, as mudanças de marcha e a rotação do motor para monitorar a qualidade do trabalho dos caminhoneiros. Todos esses sistemas já ajudam os empregadores a decidir quem deve ser demitido. Há quem defenda que a Amazon simplesmente passou para a próxima etapa lógica e parou de exigir permissão de gerentes humanos, finalmente colocando os dados em primeiro plano para otimizar a eficiência das decisões.
Isso tem a ver com a cultura e estratégia da empresa. Há poucos meses Jeff Bezos anunciou que gastaria US$ 800 milhões para que os clientes da empresa nos Estados Unidos recebessem a mercadoria no mesmo dia. A diretoria acredita que a rapidez no trabalho é o principal diferencial competitivo da empresa. E o atraso de um minuto (por exemplo, por causa do funcionário que decidiu descansar) pode impedi-lo de perceber essa vantagem.
Em termos de resultados de negócio para a empresa, vem dando certo. No primeiro trimestre de 2021 a companhia mais que dobrou seu lucro líquido, atingindo uma alta histórica de US$ 3,561. Tudo isso parece justificar qualquer meio para se chegar a esse resultado. Porém, para quem é alvo de uma decisão de demissão por algoritmo, a verdade é diferente. Ryan Cope, outro ex-motorista do programa Amazon Flex, disse a Bloomberg que:
“Sempre que há um problema, não há suporte. É você contra a máquina, então você nem tenta competir”.
Por isso, é tão importante que haja regulamentação sobre o uso de Inteligência Artificial. A sociedade precisa decidir em conjunto o que aceita ou não aceita no uso de máquinas para decidir sobre a vida das pessoas.
