Contas de dieta extrema foram atualizadas para uma conta do Instagram criada pela equipe do senador Richard Blumenthal. O senador de Connecticut registrou uma conta como uma menina de 13 anos e começou a seguir alguns distúrbios alimentares e contas de recomendação de comer (esta última supostamente bloqueada pelo Instagram). Logo, o algoritmo do Instagram começou a recomendar quase exclusivamente que a conta de um adolescente siga cada vez mais contas de dieta extrema, disse o senador à CNN.
O escritório de Blumenthal compartilhou com a CNN uma lista de contas recomendadas pelo algoritmo do Instagram. Depois que a CNN enviou uma amostra desta lista de cinco contas ao Instagram para comentários, a empresa as removeu, dizendo que todas violavam suas políticas contra o incentivo a transtornos alimentares.
“Não permitimos conteúdo que promova ou incentive transtornos alimentares e removemos contas compartilhadas conosco por violar essas regras”, disse um porta-voz do Facebook, empresa controladora do Instagram, à CNN. “Usamos tecnologia e relatórios de nossa comunidade para encontrar e remover esse conteúdo o mais rápido possível e estamos sempre trabalhando para melhorar. Continuaremos a seguir os conselhos de especialistas de acadêmicos e organizações de saúde mental, como a National Eating Disorder Association, encontrar o difícil equilíbrio entre permitir que as pessoas compartilhem suas experiências de saúde mental e protegê-las de conteúdo potencialmente prejudicial ”.
Em declarações à CNN na segunda-feira, Blumenthal disse: “Esta experiência mostra como isto é feito de uma forma muito gráfica. [Facebook’s] Alegações de proteção de crianças ou exclusão de contas que podem ser perigosas para elas são um total absurdo. ”
A experiência de Blumenthal não é uma anomalia e pode ser um pouco surpreendente para usuários regulares do Instagram que estão familiarizados com a forma como o algoritmo da plataforma sugere contas nas quais eles determinaram que um usuário pode estar interessado.
O experimento de Blumenthal vai um pouco mais fundo, mostrando a rapidez com que o algoritmo do Instagram pode promover conteúdo malicioso para usuários mais jovens.
A CNN criou uma conta na semana passada usando a mesma metodologia do gabinete do senador, e também seguindo alguns relatos de dieta extrema e distúrbios alimentares. No domingo, o Instagram promoveu contas com nomes como “Sweet Skinny”, “Prettily Skinny” e “Wanna Be Skinny” para uma conta demo da CNN que também foi registrada como pertencente a uma garota de 13 anos. A CNN entrou em contato com o Instagram para perguntar se essas contas também violam suas políticas.
Os perigos do conteúdo de transtornos alimentares no Instagram
Os especialistas dizem que ver o conteúdo dessas contas de dietas extremas – que, por exemplo, incluíam fotos de corpos ultrafinos e informações sobre o “peso atual” do usuário versus o “peso ideal” – pode servir como validação para usuários que já são propensos a comportamentos prejudiciais à saúde .
“Estamos constantemente buscando a validação de que estamos certos, mesmo que essa validação seja realmente prejudicial à nossa saúde pessoal”, acrescentou Kiel, aumentando a aposta do Instagram para evitar a promoção de tal conteúdo.
O Instagram também fez reivindicações sobre seu papel na perpetuação de comportamentos prejudiciais, dizendo que a comparação social é um problema generalizado e que imagens potencialmente problemáticas também estão disponíveis em outros lugares. Na verdade, as comunidades “pró-anorexia” da Internet já existem há anos, antes do advento do Instagram. No entanto, o amplo alcance do Instagram entre mulheres e meninas significa que esse conteúdo postado em sua plataforma pode ser especialmente perigoso, de acordo com Keel.
“O domínio do Instagram entre a faixa etária que já estava em maior risco de desenvolver um transtorno alimentar é um deles [issue]Kiel disse. Você tem um círculo vicioso: você tem um grupo que está sob alto risco de ter esses problemas para provar a esta IA que é isso que chama sua atenção, e então essa IA diz: “Aqui, deixe-me falar mais sobre isso… .. É simplesmente uma tempestade perfeita “.
Chelsea Kroningold, chefe de comunicações da National Eating Disorders Association (NEDA), acrescentou que embora o Instagram e outros sites de mídia social não possam causar transtornos alimentares e outros problemas de imagem corporal, “sabemos que é definitivamente um forte fator de risco nessas situações.”
“Não há benefício de longo prazo em matar membros de sua maior base de usuários, porque os transtornos alimentares são muito perigosos e não há como fazer isso [Instagram] quer, “disse Keil. Meu único pedido é ser mais transparente. Você está monitorando isso, tentando fazer coisas para reduzir o risco do seu site e sendo mais transparente sobre o que está tentando fazer. ”
“Criador. Viciado em mídia social que gosta de hipster. Fã da web. Fanático por álcool apaixonado.”
More Stories
A Boeing pode não conseguir operar o veículo Starliner antes que a estação espacial seja destruída
Vivendo com ansiedade: conselhos de especialistas sobre como aceitar um problema de saúde mental
Nova pesquisa sobre uma enorme falha de impulso sugere que o próximo grande terremoto pode ser iminente