TikTok lancia un hub per riconoscere lo spam generato dall’IA

In un’epoca in cui l’intelligenza artificiale (IA) sta diventando sempre più presente nel mondo dei social media, TikTok ha annunciato l’intenzione di testare sistemi avanzati per identificare e combattere lo spam generato da questa tecnologia. Nei prossimi giorni, la piattaforma attiverà un hub in-app dedicato a fornire agli utenti strumenti e guide pratiche per riconoscere i contenuti IA, specialmente quando cercano termini legati a questa tecnologia.

L’iniziativa di TikTok si inserisce in un contesto in cui i contenuti generati dall’IA stanno aumentando a dismisura, creando preoccupazioni tra i creatori originali. L’obiettivo dichiarato è quello di ridurre la presenza di contenuti che «crowd out original creators», ovvero che soffocano la visibilità e l’opportunità per i creatori autentici di emergere.

Questa mossa arriva dopo che TikTok ha introdotto strumenti di creazione basati sull’IA, ma ha anche registrato un incremento dei contenuti etichettati con ‘Contains AI-generated content’, accompagnati da regole specifiche riguardanti l’uso dell’IA. Donatas Smailys, CEO di Billo, ha commentato l’iniziativa sottolineando l’aspetto economico: i contenuti generati dall’IA di bassa qualità non solo non attirano l’attenzione del pubblico, ma possono anche compromettere le performance pubblicitarie della piattaforma.

Un esempio di questa dinamica è l’obbligo imposto a New York di dichiarare l’uso di performer sintetici nelle pubblicità, con sanzioni per chi non rispetta tali normative. Questo potrebbe avere ripercussioni significative per gli inserzionisti che utilizzano influencer sintetici o creatori generati dall’IA, poiché un calo dell’engagement potrebbe spingere TikTok a investire ulteriormente nel rilevamento e nella soppressione di contenuti spam generati dall’IA.

Con l’introduzione di questo hub, TikTok mira a educare gli utenti su come distinguere i contenuti autentici da quelli generati artificialmente, cercando di mantenere un ecosistema sano e sostenibile per i creatori di contenuti originali. La piattaforma si sta quindi attrezzando per affrontare le sfide poste dall’IA, cercando di bilanciare l’innovazione con la qualità dei contenuti.