Agora as mídias sociais estão cheias de vídeos, imagens e notícias geradas por IA.

No TikTok e em plataformas como X, um vídeo que parece muito real pode ser apenas uma imagem falsa criada por IA; uma "notícia de última hora" também pode ser conteúdo gerado por máquinas. As informações estão se tornando cada vez mais, mas a credibilidade está se tornando cada vez menor.

No futuro, não precisamos apenas "gerenciar a IA", mas precisamos estabelecer um novo sistema de confiança. Além da supervisão das plataformas e regras do governo, também podemos pensar em direções mais abrangentes.

Primeiramente, as empresas de tecnologia devem estabelecer um mecanismo de "transparência padrão". Todo conteúdo gerado por IA deve automaticamente ter uma identificação clara, como marcas d'água digitais, etiquetas de origem, registros de geração, etc., para que os usuários saibam à primeira vista se o conteúdo é originado de IA, em vez de fazer os usuários adivinharem a veracidade.

Segundo, os algoritmos de recomendação das plataformas precisam mudar. As mídias sociais atuais priorizam o envio de conteúdos "mais chamativos" em vez de conteúdos "mais verdadeiros". No futuro, os algoritmos devem valorizar mais fontes confiáveis, verificação de fatos e qualidade da informação, em vez de apenas buscar tráfego e taxas de cliques.

Terceiro, a escola e a sociedade devem fortalecer a "educação em informação na era da IA". No futuro, a habilidade mais importante não será apenas saber usar a IA, mas sim saber julgar a veracidade das informações. O sistema educacional pode ensinar como reconhecer conteúdos gerados por IA, como verificar a origem das notícias e como evitar que informações falsas afetem o julgamento.

Quarto, empresas e mídias também devem estabelecer mecanismos de responsabilidade. As plataformas e mídias que divulgam informações devem ser responsáveis pela veracidade do conteúdo, e não ignorar a verificação dos fatos em prol da velocidade ou do tráfego. A confiança precisa ser construída ao longo do tempo, mas pode ser destruída em um instante.

Quinto, cada pessoa precisa estabelecer sua própria "capacidade de proteção da informação". Ao ver uma notícia chocante, é preciso manter a calma; ao encontrar opiniões extremas, é necessário verificar; é importante consumir informações de diferentes ângulos e não compartilhar conteúdos de forma cega. A habilidade mais forte no futuro não será a obtenção de informações, mas sim o julgamento das informações.

A IA não vai desaparecer, a tecnologia só se tornará mais forte. Mas o que realmente determinará o futuro da sociedade não é a IA em si, mas como a humanidade a usará, gerenciará e como reconstruirá a relação de confiança entre as pessoas e as informações.

No futuro, a confiança se tornará o ativo mais importante.