My AI di Snapchat: un pericolo per i minori?
Il chatbot My AI integrato nell’app Snapchat è al centro di una possibile indagine del Dipartimento di Giustizia degli Stati Uniti, su segnalazione della FCC (Federal Trade Commission). Il servizio, originariamente destinato agli utenti di Snapchat+, è stato reso disponibile a tutti, ma presenta criticità legate alla sicurezza dei minori. Vediamo i dettagli della questione e le possibili implicazioni future.
Origine della controversia su My AI
My AI sfrutta i modelli GPT di OpenAI e, più recentemente, il modello Gemini di Google per le funzionalità multimodali. Tuttavia, il chatbot ha mostrato vulnerabilità significative, come:
- Risposte inappropriate per i minori, non filtrate adeguatamente.
- Mancanza di trasparenza nell’utilizzo dei dati personali.
La FCC ha evidenziato queste criticità, trasferendo il caso al Dipartimento di Giustizia.
Indagine in USA: quali rischi per Snap?
Secondo la FCC, Snap avrebbe violato le normative sulla protezione dei minori con My AI. I principali punti sotto accusa includono:
| Problema evidenziato | Descrizione |
|---|---|
| Contenuti non adatti | Risposte che potrebbero essere dannose per i minori. |
| Privacy degli utenti | Dati raccolti senza un adeguato consenso. |
Snap ha replicato negando le accuse, sostenendo di aver migliorato i filtri e di non aver infranto le leggi vigenti.
Precedenti indagini nel Regno Unito
Anche l’ICO (Information Commissioner’s Office) britannico aveva aperto un’indagine simile nel 2023, concentrandosi su:
- Violazioni della privacy per utenti tra i 13 e i 17 anni.
- Mancanza di valutazioni d’impatto sui rischi per i minori.
L’inchiesta si è conclusa nel 2024 con l’implementazione di nuove misure correttive da parte di Snap.
Miglioramenti apportati da Snap
In seguito alle critiche, Snap ha introdotto:
- Filtri avanzati per moderare le risposte del chatbot.
- Linee guida più rigorose per l’interazione con utenti giovani.
- Funzionalità di controllo genitori, per monitorare l’uso di My AI.
| Interventi principali | Descrizione |
| Filtri basati su AI | Risposte più sicure per i minori. |
| Strumenti di monitoraggio | Controlli genitori integrati nell’app. |
Il ruolo del Primo Emendamento
Un aspetto controverso è la possibile violazione del Primo Emendamento della Costituzione americana, che garantisce la libertà di parola. Andrew Ferguson, nuovo presidente della FCC, ha dichiarato che una denuncia contro Snap potrebbe scontrarsi con questa libertà fondamentale.
Quali scenari futuri?
Se il Dipartimento di Giustizia decidesse di procedere:
- Snap potrebbe affrontare sanzioni significative o obblighi di conformità.
- Il caso potrebbe creare un precedente legale per l’uso dei chatbot nelle piattaforme social.
Al contrario, un’archiviazione rafforzerebbe la posizione dell’azienda nel mercato.
My AI rappresenta una svolta tecnologica per Snap, ma anche un potenziale rischio per i minori. La controversia attuale mette in luce l’importanza di bilanciare innovazione e sicurezza, in un contesto sempre più regolamentato. Resta da vedere come si evolverà la situazione, ma è evidente che il futuro di My AI dipenderà dalla capacità di Snap di garantire un utilizzo responsabile del proprio chatbot.
