Discute-se hoje que os filtros de mecanismos de IA oferecidos por big techs atuam como gatekeepers, selecionando e fazendo curadoria sobre temas e usuários que podem ser atendidos pelos serviços oferecidos. O mesmo pedido, no mesmo formato, com o mesmo tema e propósito, solicitado por usuários com posições opostas no contexto em que serão úteis, ao ser submetido à plataforma, recebe respostas diametralmente opostas.
O pedido que está alinhado aos interesses da plataforma é prontamente atendido e o que não está alinhado é prontamente negado. Independentemente de estarem ambos os pedidos submetidos às mesmas regras de serviço. O caso recente da Meta, que integra o ecossistema de redes sociais com o Facebook, Instagram e o Whatsapp, é só a ponta do iceberg.
A ferramenta de IA da Meta recusou pedido de criação de uma imagem com o termo “Lula 13”, enquanto gerou, sem nenhuma restrição, pedido idêntico com “Flávio 22”. Existe um conjunto de políticas, bastante abrangentes, que facilitam o arbítrio e fazem prevalecer os vieses dos desenvolvedores, como avaliação de risco do conteúdo, contexto histórico e social, políticas de segurança, treinamento e ajuste do modelo (alignment).
O manual se repete em todos os mecanismos de IA, com variações pontuais, e considera pontos como segurança e prevenção de danos, discurso de ódio e assédio, incentivo à violência, desinformação em temas sensíveis, integridade cívica e eleitoral e proteção de grupos vulneráveis. Todos os termos de serviço são muito assertivos e visam entregar o melhor serviço e a melhor experiência ao usuário, ao mesmo tempo que protegem o desenvolvedor do uso inadequado e criminoso do serviço.
Óbvio que toda relação usuário e plataforma gera uma quantidade imensa de informações que o machine learning transforma em ativos e, ao mesmo tempo em que são usados para melhorar o desempenho da plataforma, serve também para criar mecanismos de controle do usuário e obter o melhor resultado financeiro da relação política e comercial com ele.
É ingenuidade imaginar que todo este poder é usado para o bem da humanidade. Pessoas bem-informadas percebem rapidamente que as redes sociais têm lado. O usuário mal se dá conta da existência do algoritmo que o aprisiona numa bolha que reforça suas crenças e escolhas.
Enquanto um usuário mais alinhado aos interesses da plataforma é favorecido pelo algoritmo e conquista grande alcance orgânico, ampliando sua influência, o usuário que não está alinhado aos interesses da rede fica preso em aquários e é bombardeado com conteúdos que o alienam, levando-o a acreditar que seus posts repercutem, quando apenas reverberam na sua bolha, em ambientes limitados e controlados. Engana-se quem acha que é uma questão ideológica ou filosófica; são só business mas usual.
José Tadeu Gobbi é publicitário e foi executivo comercial da Folha de S.Paulo, Jornais O Valeparaibano e OVale, diretor de marketing da APJ Associação Paulista de jornais e por 8 anos Conselheiro do Conar-Conselho Nacional de Autorregulamentação Publicitária.
Veja também: O pior debate é aquele em que o país perde