A Meta, empresa-mãe do Instagram, está agora no centro de uma nova polêmica envolvendo seu algoritmo de conteúdo, apenas algumas semanas após o X (antigo Twitter) ter sido alvo de uma controversa publicitária relacionada a conteúdo antissemita.
De acordo com um experimento, o algoritmo da rede social estaria mostrando imagens e vídeos com conteúdos inadequados e adultos para contas de pessoas que seguiam influenciadores adolescentes. Saiba mais detalhes.
Leia também:
Modelo criada por inteligência artificial ganha mais de R$ 50 mil por mês e faz sucesso no Instagram
Instagram libera download de Reels para todo mundo
Anúncios inapropriados no Reels do Instagram
O recente experimento conduzido pelo The Wall Street Journal revelou que o serviço de vídeo Reels do Instagram estava apresentando conteúdo inadequado, incluindo imagens sugestivas de crianças e vídeos adultos explicitamente sexuais, para contas de teste que seguiam exclusivamente influenciadores adolescentes e pré-adolescentes, como ginastas e líderes de torcida jovens.
E, vale ressaltar, na teoria esse tipo de conteúdo seria explicitamente proibido nas políticas da Meta.
O experimento também expôs a presença desses materiais com conteúdo inadequado lado a lado com anúncios de marcas notáveis, como Disney, Walmart, Pizza Hut, Bumble, Match Group e até mesmo o The Wall Street Journal.
A descoberta traz a tona um assunto muito importante atualmente que é o quão eficaz esses algoritmos de controle de conteúdo podem ser em redes sociais, principalmente nas plataformas grandes como o próprio Instagram, e como isso traz um desafio importante de manter a segurança e integridade nesse ambiente virtual.
Meta perde anúncios, assim como o X
Em resposta às revelações, algumas marcas, incluindo Bumble, Match Group, Hims e Disney, optaram por retirar seus anúncios da plataforma da Meta ou pressionaram a empresa para abordar imediatamente a questão.
Isso mostra o quanto essas marcas estão de olho no assunto com uma crescente sensibilidade em relação ao tipo de conteúdo exibido ao lado de suas mensagens publicitárias, especialmente considerando a controvérsia anterior envolvendo o X.
A Meta, por sua vez, declarou que está conduzindo uma investigação sobre o assunto e se comprometeu a financiar serviços de auditoria de segurança de marca para avaliar a frequência com que os anúncios das empresas aparecem ao lado de conteúdo considerado inaceitável.
No entanto, a empresa não forneceu um cronograma ou detalhes específicos sobre as medidas preventivas que planeja implementar no futuro.
Esse não é um problema novo no Instagram
A preocupação levantada pelo experimento vai além da simples controvérsia. Internamente, funcionários atuais e antigos da Meta revelaram ao The Wall Street Journal que a agregação de conteúdo de sexualização infantil no Instagram já era um problema conhecido mesmo antes do lançamento do Reels.
Eles destacaram a necessidade de uma reformulação nos algoritmos responsáveis por apresentar conteúdo relacionado aos usuários como uma solução eficaz para resolver essas questões.
Entretanto, documentos internos revelam que a Meta dificultou a implementação de mudanças drásticas nos algoritmos, alegadamente priorizando o desempenho de tráfego em detrimento da segurança e da proteção do usuário.
Essa revelação levanta questões fundamentais sobre as prioridades da empresa e destaca a complexidade em equilibrar o atendimento às expectativas dos anunciantes com a garantia de um ambiente online seguro.
Uma coisa está mais do que clara: a Meta precisa urgentemente identificar as falhas em seus algoritmos de conteúdo e reforçar os mecanismos de controle para proteger os usuários e a reputação das marcas em suas plataformas.
No momento, a empresa ainda está diante do desafio da crise em relação às marcas que estão se afastando da plataforma e como ganhar de volta a confiança desses anunciantes para que não acabe com prejuízos milionários como aconteceu com o antigo Twitter. E, claro, não perder a confiança dos usuários, o que é ainda mais importante.
Fonte: engadget, The Wall Street Journal
