Ecco le misure concrete lanciate da OpenAI per proteggere minori e adolescenti in ChatGPT.
Come preannunciato nei giorni scorsi e in altre occasioni recenti, OpenAI ha ufficializzato oggi la disponibilità del Controllo parentale su ChatGPT. Ecco i dettagli e come funziona la nuova misura a protezione di minori e adolescenti sul servizio di chatbot AI.
Controllo parentale in ChatGPT
OpenAI sta implementando i controlli parentali e una nuova pagina di risorse per i genitori per aiutare le famiglie a guidare il funzionamento di ChatGPT nelle loro case. Disponibili da oggi per tutti gli utenti di ChatGPT, i controlli parentali consentono ai genitori di collegare il proprio account con quello del proprio figlio adolescente e di personalizzare le impostazioni per un'esperienza sicura e appropriata all'età.
Questo lavoro fa parte dell'impegno continuo di OpenAI per rendere ChatGPT utile a tutti e per fornire alle famiglie strumenti per supportare l'uso dell'AI da parte dei loro figli adolescenti. OpenAI ha precedentemente condiviso di essere al lavoro su un sistema di previsione dell'età a lungo termine che aiuterà a prevedere se un utente ha meno di 18 anni, in modo che ChatGPT possa applicare automaticamente impostazioni appropriate per gli adolescenti. I controlli parentali sono un passo importante per dare ai genitori la possibilità di controllare l'esperienza dei loro figli adolescenti con ChatGPT.
OpenAI ha lavorato a stretto contatto con esperti, gruppi di difesa tra cui Common Sense Media e responsabili politici, inclusi i Procuratori Generali della California e del Delaware, per contribuire a definire il proprio approccio, e prevede di perfezionare ed espandere questi controlli nel tempo.
“Questi controlli parentali sono un buon punto di partenza per i genitori nella gestione dell'uso di ChatGPT da parte dei loro figli adolescenti. I controlli parentali sono solo un pezzo del puzzle quando si tratta di mantenere gli adolescenti al sicuro online, tuttavia, funzionano meglio se abbinati a conversazioni continue sull'uso responsabile dell'AI, a chiare regole familiari sulla tecnologia e a un coinvolgimento attivo nel comprendere cosa fa il proprio figlio online.”
—Robbie Torney, Senior Director, AI Programs, Common Sense Media
Come iniziare
Per configurare i controlli parentali, un genitore o tutore invia un invito al proprio figlio adolescente per collegare gli account. Dopo che l'adolescente accetta, il genitore può gestire le impostazioni del figlio dal proprio account. Anche gli adolescenti possono invitare un genitore a collegarsi.
Una volta collegati, i genitori possono personalizzare l'esperienza del proprio figlio in ChatGPT da una semplice pagina di controllo nelle impostazioni dell'account. Se un adolescente scollega il proprio account, il genitore verrà avvisato.
Misure di sicurezza più robuste per gli account degli adolescenti collegati
Come parte dei controlli parentali, OpenAI sta implementando misure di sicurezza potenziate per gli account degli adolescenti collegati. Una volta che genitori e adolescenti collegano i loro account, l'account dell'adolescente riceverà automaticamente protezioni aggiuntive sui contenuti, tra cui una riduzione dei contenuti espliciti, delle sfide virali, dei giochi di ruolo sessuali, romantici o violenti e degli ideali di bellezza estremi, per contribuire a mantenere la loro esperienza appropriata all'età.
Queste misure di sicurezza sono state guidate da un'attenta revisione della ricerca esistente per comprendere le differenze di sviluppo uniche degli adolescenti.
I genitori avranno la possibilità di disattivare questa impostazione se lo desiderano, ma gli utenti adolescenti non possono apportare modifiche.
Le misure di protezione aiutano, ma non sono infallibili e possono essere aggirate se qualcuno cerca intenzionalmente di farlo. OpenAI continuerà a iterare e migliorare con attenzione nel tempo. Si raccomanda ai genitori di parlare con i propri figli adolescenti di un uso sano dell'AI e di cosa ciò significhi per la loro famiglia.
Personalizzare l'esperienza del proprio figlio adolescente
OpenAI sta inoltre fornendo ai genitori funzionalità aggiuntive che possono personalizzare per i loro figli adolescenti. Da una semplice pagina di controllo, i genitori possono:
- Impostare ore di silenzio, ovvero orari specifici in cui ChatGPT non può essere utilizzato.
- Disattivare la modalità vocale, per rimuovere l'opzione di utilizzare la modalità vocale in ChatGPT.
- Disattivare la memoria, in modo che ChatGPT non salvi e utilizzi i ricordi quando risponde.
- Rimuovere la generazione di immagini, in modo che ChatGPT non abbia la capacità di creare o modificare immagini.
- Rinunciare all'addestramento del modello, in modo che le conversazioni del loro figlio non vengano utilizzate per migliorare i modelli che alimentano ChatGPT.
Queste impostazioni sono opzionali e flessibili, così le famiglie possono scegliere ciò che funziona meglio per loro.
Notifiche nei controlli parentali
Sappiamo che alcuni adolescenti si rivolgono a ChatGPT durante momenti difficili, quindi OpenAI ha creato un nuovo sistema di notifica per aiutare i genitori a sapere se qualcosa potrebbe essere seriamente sbagliato.
Sono state aggiunte protezioni che aiutano ChatGPT a riconoscere potenziali segnali che un adolescente potrebbe pensare di farsi del male. Se i sistemi rilevano un potenziale danno, un piccolo team di persone appositamente addestrate esamina la situazione. Se ci sono segni di profondo disagio, i genitori verranno contattati via e-mail, messaggio di testo e notifica push sul telefono, a meno che non abbiano scelto di non riceverle.
OpenAI sta lavorando con esperti di salute mentale e adolescenti per progettare questa funzionalità perché vuole farlo nel modo giusto. Nessun sistema è perfetto, e siamo consapevoli che a volte potremmo lanciare un allarme quando non c'è un pericolo reale, ma crediamo sia meglio agire e avvisare un genitore in modo che possa intervenire, piuttosto che rimanere in silenzio.
Si sta anche lavorando al processo e alle circostanze giuste in cui contattare le forze dell'ordine o altri servizi di emergenza, ad esempio se viene rilevata una minaccia imminente per la vita e non è possibile raggiungere un genitore.
Anche in queste rare situazioni, la privacy degli adolescenti viene presa sul serio e verranno condivise solo le informazioni necessarie ai genitori o ai soccorritori per proteggere la sicurezza di un adolescente.
Risorse per i genitori
Le famiglie stanno trovando sempre più modi per integrare ChatGPT nella vita di tutti i giorni, che si tratti di affrontare i compiti con la modalità studio, di fare brainstorming per le idee del fine settimana o semplicemente di rispondere a domande rapide. Per alcuni, è anche un primo passo per esplorare insieme l'AI. Per questo motivo, OpenAI vuole dare ai genitori le informazioni di cui hanno bisogno su ChatGPT e su come guidare i loro figli adolescenti verso un uso sicuro e positivo.
È stata creata una nuova pagina di risorse per i genitori per raccogliere tutto in un unico posto. Spiega come funziona ChatGPT, i controlli parentali disponibili e offre idee su come gli adolescenti possono usarlo per l'apprendimento, la creatività e la vita di tutti i giorni. Questo è solo un punto di partenza e si prevede di aggiornarlo regolarmente con suggerimenti, guide, consigli di esperti e spunti di conversazione, in modo che i genitori si sentano supportati man mano che l'uso dell'AI da parte della loro famiglia cresce.
Guardando al futuro
Nei prossimi mesi, OpenAI costruirà un sistema di previsione dell'età che aiuterà a prevedere se un utente ha meno di 18 anni, in modo che ChatGPT possa applicare automaticamente impostazioni appropriate per gli adolescenti. Nei casi in cui non si sia sicuri dell'età di un utente, si adotterà la via più sicura e si applicheranno proattivamente le impostazioni per adolescenti. Nel frattempo, i controlli parentali saranno il modo più efficace per i genitori di garantire che i loro figli adolescenti abbiano attivato l'esperienza appropriata per la loro età.
Questo è un importante passo avanti, ma il lavoro non è finito. OpenAI continuerà a investire in funzionalità che aiutino genitori e adolescenti a usare ChatGPT in modo sicuro e con fiducia, e condividerà i propri progressi.
Puoi trovare l'annuncio di OpenAI per questo post con ulteriori risorse per approfondire qui.
