Una segnalazione automatica ha tolto
un'app da Google Play senza portare prove

Il 27 agosto gli sviluppatori di Luanti hanno scritto che la loro app per Android non è più su Google Play. Luanti è un programma libero per costruire giochi a cubi, prima si chiamava Minetest.

La segnalazione arriva da Tracer.AI, una società che vende protezione del marchio con agenti automatici, e la manda per conto di Microsoft. Sostiene che l'app usi materiale protetto di Minecraft. Come prova porta un numero di registrazione del copyright, quello di Minecraft Java Edition 1.9, e nient'altro. Nessun elenco di quali file sarebbero copiati. Gli sviluppatori dicono che dentro l'app non c'è codice né materiale di altri.

Non è la prima volta. Nel 2023 era già successo, con la stessa società: contestazione mandata il 25 marzo, app tornata online il 10 maggio. Quarantasei giorni fuori dal negozio. Quest'anno la stessa azienda ha segnalato anche un altro gioco indipendente con una grafica simile. Sul proprio sito Tracer scrive di ottenere rimozioni più veloci dell'85% e di farne il 44% in più ogni mese.

Cosa significa per una PMI italiana

Un'app per Android probabilmente non ce l'hai. Hai quasi certamente qualcos'altro parcheggiato dentro la piattaforma di qualcun altro: la scheda Google da cui arrivano le telefonate, la pagina con otto anni di recensioni, l'account pubblicitario che alimenta i preventivi, le schede prodotto sul marketplace. Il giorno in cui una di queste sparisce, sparisce anche il lavoro che portava.

Il punto da capire è l'ordine delle operazioni. La rimozione viene prima dell'esame: si toglie, e poi eventualmente si guarda. Dall'altra parte, a generare la segnalazione, c'è sempre più spesso un software venduto sulla promessa di ottenere più rimozioni e di ottenerle prima. Chi lo vende pubblicizza la velocità e il numero, non la percentuale di segnalazioni giuste. Nessuno ha interesse a rallentare, e il costo dell'errore lo paga chi sta dalla parte sbagliata dell'automatismo.

Qui però la geografia aiuta. In Europa non sei nella posizione degli sviluppatori di Luanti, che devono passare per la procedura americana. Il regolamento (UE) 2022/2065, il DSA, si applica dal 17 febbraio 2024 e mette per iscritto tre cose che quasi nessuno chiede, perché quasi nessuno sa di poterle chiedere.

La prima è la motivazione, articolo 17. Deve essere chiara e specifica, e il paragrafo 3 elenca cosa ci deve stare dentro: i fatti su cui si basa la decisione, se questa nasce da una segnalazione di qualcuno, e le informazioni sugli strumenti automatici usati, compreso se a individuare il contenuto sia stato uno di essi. La seconda è il reclamo interno, articolo 20: gratuito, per almeno sei mesi, e con una regola al paragrafo 6 che vale più di tutto il resto, cioè che quella decisione non può essere presa solo da strumenti automatici. La terza è l'organismo di risoluzione extragiudiziale dell'articolo 21, che in Italia viene certificato dall'AGCOM.

Sapere che esistono non ti restituisce l'account il giorno stesso. Cambia però cosa scrivi nel primo messaggio, e il primo messaggio è l'unico che qualcuno legge davvero.

Il resto è lavoro da fare prima, ed è lo stesso ragionamento che vale quando un fornitore chiude. Le piattaforme si usano lo stesso. Quello che conta è non lasciare che una sola di esse tenga l'unica copia di qualcosa. I contatti dei clienti si esportano e la copia resta da te. Gli originali di foto e testi si conservano con le date. Le persone con accesso da amministratore sono due, non una, e la seconda non usa la stessa casella email della prima. Chi porta ordini con una scheda o una pagina tiene aperta una seconda strada verso quegli stessi clienti.

C'è un filo che tiene insieme questa storia e il modo in cui conviene usare l'automazione anche dentro casa propria. Un sistema automatico decide in fretta e sbaglia in fretta, e la differenza la fa se qualcuno guarda prima che la decisione esca. RefertAI, il software di refertazione veterinaria che gira in produzione tutti i giorni, funziona così: prepara il referto, ma resta uno strumento di supporto, il veterinario valida e il PDF esce con la sua firma. Sull'app di Luanti, prima della rimozione, non ha guardato nessuno. Sono gli agenti lasciati a lavorare senza controllo visti dal lato di chi li subisce.

Cosa fare questa settimana

Una pagina sola, quattro righe. Quali piattaforme tengono qualcosa che non puoi perdere. Chi ha le credenziali da amministratore di ognuna. Dove sta l'ultima copia esportata dei contatti, con la data. Cosa fai nelle prime ventiquattro ore se una di quelle si spegne, con il nome della persona che lo fa.

Se dopo averla scritta scopri che una riga porta il nome di una sola persona e quella persona sei tu, quello è il punto da sistemare per primo. Il percorso completo per portare l'AI dentro un'azienda piccola sta qui.

Fonti: il racconto degli sviluppatori di Luanti del 27 agosto e il testo del regolamento (UE) 2022/2065.

Domande frequenti

Mi hanno bloccato la pagina e l'assistenza manda solo risposte automatiche. Posso fare altro?

Sì. Quello che segue sta scritto in un regolamento europeo, quindi si cita per numero di articolo. L'articolo 20 del regolamento (UE) 2022/2065 obbliga le piattaforme online a darti un sistema interno di reclamo gratuito, per almeno sei mesi dalla decisione, che copre anche la rimozione di contenuti e la sospensione dell'account. Il paragrafo 6 dello stesso articolo dice che la decisione sul tuo reclamo non può essere presa solo da strumenti automatici: ci vuole la supervisione di personale qualificato. Se il reclamo interno non risolve, l'articolo 21 ti lascia scegliere un organismo di risoluzione extragiudiziale certificato. In Italia a certificarli è l'AGCOM, con la delibera 282/24/CONS in vigore dal 15 settembre 2024.

Posso chiedere se a decidere è stato un algoritmo?

Puoi, e devono dirtelo. L'articolo 17 impone una motivazione chiara e specifica, e al paragrafo 3 elenca cosa deve contenere: i fatti e le circostanze su cui si basa la decisione, se questa nasce da una segnalazione ricevuta da qualcuno, e le informazioni sugli strumenti automatici usati, compreso se il contenuto sia stato individuato da uno di essi. Una risposta che dice solo violazione delle nostre policy non soddisfa quell'elenco, e chiederlo per iscritto citando l'articolo cambia il tono della conversazione.

E se la segnalazione contro di me era palesemente campata in aria?

L'articolo 23, paragrafo 2, obbliga la piattaforma a sospendere per un periodo ragionevole, dopo un avviso, il trattamento delle segnalazioni presentate da chi ne manda con frequenza di manifestamente infondate. Non ti risarcisce e non scatta da solo, ma è il motivo per cui vale la pena scrivere che la segnalazione era infondata invece di limitarsi a chiedere il ripristino.

Vale anche per l'account pubblicitario sospeso?

Vale se il motivo del blocco è un contenuto ritenuto illegale o una violazione delle condizioni generali: l'articolo 20 elenca esplicitamente le decisioni che sospendono o chiudono un account. Se invece il blocco nasce da altro, per esempio un pagamento rifiutato, quella strada non c'entra e si torna all'assistenza commerciale.

Come dimostro che le foto e i testi delle mie schede sono miei?

Con i file originali e le date. Gli scatti nel formato che esce dalla macchina, non il jpeg ridimensionato che hai caricato. La fattura del fotografo. Le bozze dei testi con la data. Serve mezz'ora una volta sola, e nel giorno in cui devi contestare una rimozione è la differenza fra rispondere e sperare.