A Alemanha advertiu as plataformas de mídia social sobre a disseminação de falsas imagens do holocausto geradas por IA. O governo e as instituições de memória do Holocausto pediram às plataformas de mídia social que interrompessem a divulgação de imagens falsas, que afirmam estar distorcendo e trivializando a história.
Preocupações foram expressas por locais de memória de campos de concentração e centros de documentação em uma carta recente, criticando o aumento das chamadas imagens de IA ou imagens falsificadas, em relação ao assassinato de mais de seis milhões de judeus na Alemanha durante a Segunda Guerra Mundial. Essas imagens incluem ilustrações emocionais de incidentes inventados, como encontros entre prisioneiros de campos de concentração e seus libertadores ou crianças atrás de cercas de arame farpado.
A Alemanha quer interromper a disseminação de falsas imagens de holocausto geradas por IA
Na carta enviada pelas organizações, eles notaram que o conteúdo gerado por IA distorce a história ao trivializar eventos sérios que aconteceram há muito tempo. Eles mencionaram que tais imagens poderiam ajudar a alimentar a desconfiança entre os usuários de documentos históricos autênticos. Wolfram Weimer, ministro da cultura e mídia da Alemanha, mencionou que apoiou os passos e esforços tomados pelas instituições memoriais neste caso, revelando que é o passo certo a ser tomado.
Wolfram também mencionou que apoiou a decisão deles de ter imagens geradas por IA dos incidentes antigos marcadas e, nos casos em que necessário, removidas das plataformas de mídia social. Ele mencionou que é uma questão de respeito por milhões de pessoas que foram mortas e perseguidas sob o regime de terror da Alemanha nazista. De acordo com a carta das instituições memoriais, eles notaram que os criadores das imagens pareciam usá-las para gerar atenção online e ganhar dinheiro.
As organizações também mencionaram que os perpetradores também pretendiam em parte diluir os fatos, mudar os papéis de vítimas e perpetradores e espalhar narrativas revisionistas. As instituições incluem centros memoriais de Belsen, Buchenwald, Dachau e outros campos de concentração onde judeus, assim como outros, incluindo os povos Roma e Sinti, foram mortos. Eles pediram às plataformas de mídia social que atuassem proativamente contra imagens falsas geradas por IA em torno do Holocausto, em vez de esperar que os usuários as reportassem.
Organizações do Holocausto querem que imagens geradas por IA sejam rotuladas
Além disso, eles pediram que as plataformas as rotulassem claramente, pois acreditam que isso impedirá os usuários que geraram as imagens de monetizá-las. A disseminação de lixo de IA de baixa qualidade, que inclui texto, imagens ou vídeos falsos, levantou alarmes entre muitos especialistas. Eles acreditam que poluiria o cenário informativo e tornaria difícil para os usuários separar a verdade da falsidade. O incidente segue o que as empresas de IA, notavelmente a xAI de Elon Musk, que possui o chatbot Grok, estão enfrentando atualmente.
A empresa tem estado sob pressão nas últimas semanas devido a certos usuários gerando milhares de imagens de deepfake sexualizadas de mulheres e menores e espalhando-as por várias plataformas de mídia social. A ameaça fez com que vários líderes de países chamassem a empresa à ordem, com outros pedindo que desenvolvessem as salvaguardas apropriadas para lidar com os incidentes. Países como a Indonésia também anunciaram uma proibição temporária do chatbot até que tudo fosse resolvido.
Enquanto isso, a plataforma confirmou que irá geobloquear a capacidade de usuários do Grok e X de gerar deepfakes de pessoas em locais onde as ações são rotuladas como ilegais. No entanto, ainda não se sabe se as novas salvaguardas se aplicarão ao seu aplicativo independente ou ao seu site. Também permanece incerto se as medidas impedirão os usuários de gerar esse tipo de imagem ou os levarão a buscar novas maneiras de acessar o serviço.
As mentes mais inteligentes do cripto já leram nosso boletim informativo. Quer participar? Junte-se a eles.