TikTok prova a fermare lo spam AI che sottrae visibilità ai creator
- Matteo Sallustio
- 13 ore fa
- Tempo di lettura: 4 min
TikTok ha deciso di intervenire su una forma precisa di contenuto generato con l’intelligenza artificiale: gli account costruiti per pubblicare spam in massa. Il 10 luglio la piattaforma ha annunciato che nelle prossime settimane testerà nuovi sistemi di rilevamento, concentrandosi inizialmente sui temi in cui una produzione seriale e poco affidabile può incidere sulla fiducia delle persone.
I video creati o modificati con l’AI continueranno a essere ammessi e TikTok prosegue lo sviluppo di strumenti come Smart Split, AI Outline e Symphony. I nuovi controlli riguardano invece gli account che saturano il feed con contenuti ripetitivi, fuorvianti o privi di un reale contributo editoriale. Nello stesso annuncio, TikTok riconosce che lo spam generato dall’AI può sottrarre visibilità ai contenuti originali e “soffocare” i creator autentici. La produzione automatizzata viene così collegata direttamente alla competizione interna al feed.
Il nuovo test parte dai contenuti più delicati
I primi controlli riguarderanno gli account che pubblicano spam AI su politica e attualità, consulenza finanziaria e contenuti medici. Sono aree in cui un video convincente ma inesatto può contribuire a orientare un voto, spingere una persona verso un investimento rischioso o diffondere indicazioni sanitarie prive di fondamento. TikTok non chiarisce quali segnali verranno usati per riconoscere un account dedicato allo spam.
Potrebbero contare la frequenza di pubblicazione, la ripetitività dei video, l’uso di materiale sintetico, la presenza di informazioni false o il comportamento coordinato tra profili, ma la piattaforma non ha fornito dettagli. Non sono stati indicati neppure i Paesi coinvolti, le possibili sanzioni e le modalità con cui un creator potrà contestare una classificazione errata. L’azienda sottolinea di avere rimosso oltre 86 milioni di account falsi nei primi tre mesi del 2026. Il dato riguarda però l’insieme degli account falsi e non permette di capire quanti fossero collegati allo spam AI. Descrive la scala dell’attività di moderazione, mentre l’efficacia del nuovo sistema deve ancora essere dimostrata.
Dalle etichette al comportamento degli account
Finora TikTok ha lavorato soprattutto sulla riconoscibilità dei contenuti generati con l’intelligenza artificiale. I creator devono segnalare quelli realistici prodotti o modificati in modo significativo con l’AI. La piattaforma applica inoltre etichette automatiche attraverso i Content Credentials del C2PA, i propri sistemi di rilevamento e una filigrana invisibile pensata per resistere alle modifiche e ai caricamenti successivi. A novembre 2025 TikTok dichiarava di avere etichettato oltre 1,3 miliardi di video. Nel nuovo aggiornamento il totale supera i 3 miliardi. La piattaforma ha anche annunciato il proprio ingresso nel Comitato direttivo del C2PA, l’organizzazione che sviluppa lo standard usato per registrare origine e modifiche dei contenuti digitali.
Queste tecnologie possono indicare quando un video è stato generato o alterato con l’AI, ma non ne misurano qualità, accuratezza o intenzioni. Un creator può usare gli stessi strumenti per ricostruire una scena storica, rendere accessibile un video o sviluppare un format originale. Un account orientato allo spam può invece produrre centinaia di clip quasi identiche con titoli allarmistici e informazioni non verificate. Il nuovo test guarda quindi al modello di pubblicazione dell’account, andando oltre la provenienza del singolo video. Questo approccio potrebbe essere più efficace contro le fabbriche di AI slop, ma sarà anche più difficile da applicare senza coinvolgere profili che usano legittimamente strumenti generativi. TikTok non ha fornito elementi sufficienti per valutare questo rischio.
Cosa può cambiare per i creator
La produzione automatizzata ha costi e tempi molto più bassi rispetto a un video basato su ricerca, riprese, montaggio e verifica delle fonti. Quando numerosi account possono occupare le stesse nicchie con un flusso continuo di clip sintetiche, il volume diventa un fattore competitivo insieme alla qualità e alla capacità di trattenere il pubblico. Questo non significa che il nuovo sistema restituirà automaticamente più reach ai creator.
TikTok non ha annunciato modifiche ai criteri di raccomandazione, quote riservate ai contenuti umani o vantaggi per chi non usa l’intelligenza artificiale. Se i controlli riuscissero a limitare le reti più aggressive, potrebbero ridurre una parte della concorrenza seriale nel feed; per ora resta una possibilità. In base alle informazioni pubblicate, usare l’AI non dovrebbe essere sufficiente per rientrare nel test. A essere osservati saranno gli account dedicati allo spam, soprattutto negli ambiti più sensibili. Chi parla di salute, finanza, politica o attualità dovrà prestare ancora più attenzione alle fonti, alle ricostruzioni sintetiche e alla corretta applicazione delle etichette. TikTok non ha annunciato penalizzazioni automatiche, ma questi contenuti saranno al centro della prima sperimentazione.
L’AI resta parte della strategia di TikTok
Accanto ai controlli, TikTok sta ampliando le iniziative di alfabetizzazione. Arriverà un hub interno all’app per chi cerca termini legati all’intelligenza artificiale, insieme a una guida realizzata con la National Association for Media Literacy Education e l’esperto Henry Ajder.
Dal novembre 2025, secondo i dati comunicati dall’azienda, i contenuti prodotti dalle organizzazioni coinvolte nel programma hanno superato 200 milioni di visualizzazioni, mentre l’investimento complessivo dichiarato ha superato i 4 milioni di dollari. TikTok continua intanto a rendere la produzione AI più accessibile per creator e inserzionisti. La piattaforma vuole favorirne l’uso commerciale e creativo, mantenendo sotto controllo gli utilizzi capaci di ridurre la qualità del feed o la fiducia degli utenti.
Saranno i sistemi di moderazione a stabilire il confine tra sperimentazione legittima e produzione seriale, ma i criteri non sono ancora pubblici.
Il test dovrà dimostrare se funziona
L’annuncio segna un passaggio ulteriore rispetto alle etichette e ai controlli che permettono agli utenti di ridurre i contenuti AIGC nel feed. TikTok riconosce che alcuni account possono usare l’AI per occupare spazio e competere con i creator attraverso la quantità, ma non ha ancora dimostrato di saperli individuare con precisione. Per valutare il test serviranno dati sul numero di account coinvolti, sugli errori di classificazione e sull’effetto reale nel feed. Per ora resta il riconoscimento ufficiale di un problema già visibile: la produzione automatizzata in massa può esercitare una pressione concreta sul lavoro e sulla visibilità dei creator.
