Publicações

O fenômeno das campanhas de desinformação geradas por inteligência artificial (IA), chamadas slops, tem se tornado cada vez mais prevalente, especialmente durante crises como desastres naturais. Esses conteúdos falsos, frequentemente em forma de imagens ou vídeos emocionais, são amplamente disseminados em momentos de vulnerabilidade pública, levando à confusão e desinformação em larga escala. Um exemplo recente foi observado após o furacão Helene, que atingiu o estado norte-americano da Flórida, quando algumas imagens geradas por IA, por exemplo a de uma garota em um barco com seu cachorrinho, foram amplamente compartilhadas nas redes sociais. Mesmo sendo desmentidas rapidamente, essas imagens falsas continuaram a circular, confundindo muitos usuários sobre a verdadeira extensão da destruição causada pelo desastre.

As implicações desse fenômeno são graves. Em primeiro lugar, ele desvia a atenção do público dos verdadeiros problemas enfrentados pelas comunidades afetadas, prejudicando o entendimento e a resposta eficaz a essas crises. Além disso, essas campanhas de desinformação não só exploram emocionalmente o público, mas também são usadas para esquemas fraudulentos. Após o terremoto na Turquia e na Síria, por exemplo, imagens falsas de crianças foram utilizadas em fraudes de caridade, enganando pessoas dispostas a ajudar.

O impacto também se estende ao ambiente informacional, com o aumento da desconfiança nas plataformas digitais e na mídia. À medida que as IA se tornam mais sofisticadas na criação de conteúdo falso, a dificuldade de distinguir o real do fabricado cresce, exacerbando a disseminação de desinformação e enfraquecendo a confiança nas fontes de notícias tradicionais.

Diante dessa realidade, há uma necessidade urgente de desenvolver ferramentas mais eficazes para detectar e combater esse tipo de conteúdo, além de educar o público sobre os perigos de compartilhar informações não verificadas durante crises. As campanhas de desinformação alimentadas por IA são uma ameaça real à maneira como recebemos e processamos informações, especialmente em momentos críticos.

Acompanhe o E,M Tech News semanalmente, seguindo os perfis do Elias, Matias Advogados no LinkedIn, Instagram e Facebook. Toda sexta-feira, o GT-IA e a área de Inovação e Startups do escritório compartilharão uma notícia atual sobre tecnologia e analisarão seus impactos jurídicos.

Fontes: Fotos falsas de inteligência artificial | Golpes alimentados com IA | Pergunte a um especialista | Right-Wingers com o coração partido por foto de uma menina que não existe