Genitori avvisati da Meta se i figli manifestano pensieri di autolesionismo all'AI

Ulteriori misure di sicurezza e protezione verso i minori annunciate da Meta per l'utilizzo del suo chatbot di intelligenza artificiale.

Meta continua nel lavoro di protezione verso gli account più fragili iscritti alle sue piattaforme social, in particolare per l'utilizzo dei servizi Meta AI. Dopo il rinforzo dei controlli parentali annunciato lo scorso aprile che permette adesso ai genitori di conoscere la natura delle conversazioni dei propri figli adolescenti con il chatbot di intelligenza artificiale su Facebook, Messenger e Instagram, il colosso statunitense attiva nuove opzioni di info per genitori e tutori che manda allerte se un minore manifesta pensieri suicidari o autolesionistici all'AI.

L'appoggio di Meta non si limita al solo invio di notifiche ma prevede supporto per affrontare le problematiche e decidere strategie di comunicazione fra genitori e figli.

Quando un adolescente suggerisce di stare pensando al suicidio o all'autolesionismo, Meta AI lo indirizza già ai servizi di assistenza in caso di crisi e lo incoraggia a contattare un genitore o un altro adulto di fiducia, come un consulente. Ora, inoltre, avviseremo proattivamente i genitori se la chat di Meta AI del loro figlio adolescente suggerisce un possibile rischio, sulla base di segnali sviluppati con esperti. Condivideremo risorse di esperti per aiutare i genitori ad affrontare queste conversazioni con i propri figli.

Abbiamo collaborato con genitori ed esperti per capire quali conversazioni generate dall'IA giustificassero un avviso, ad esempio quelle in cui un adolescente fa esplicito riferimento all'autolesionismo, anche se in modo sottile. Abbiamo quindi sviluppato un sistema di intelligenza artificiale dedicato per identificare queste conversazioni.

La delicatezza dell'argomento porta Meta a non inviare avvisi in automatico esclusivamente in base a segnalazioni algoritmiche, ma i casi saranno valutati singolarmente e manualmente da revisori umani, prima di procedere. Inoltre, le nuove misure prevedono anche la possibilità di avviso in tempo reale a servizi di soccorso, se un adolescente o anche una persona adulta mostra all'AI pensieri di autolesionismo immediato o in atto.

Le nuove caratteristiche di comprensione chat e preparazione allerte sono state studiate e messe a punto dal team Meta AI con la collaborazione di medici specializzati.

Oltre alla consultazione continua con il nostro Consiglio di esperti sull'IA per il benessere, il Gruppo consultivo su suicidio e autolesionismo e i consulenti giovanili, abbiamo richiesto il parere di oltre 75 clinici specializzati in salute mentale su come Meta AI risponde alle domande degli adolescenti riguardanti suicidio e autolesionismo. Questi clinici, tutti specializzati in salute mentale adolescenziale, hanno esaminato le risposte dell'IA a centinaia di domande e hanno fornito un feedback sulla loro appropriatezza per gli adolescenti, su cosa ha funzionato bene e su come potrebbero essere migliorate.

Stiamo utilizzando questi feedback per migliorare ulteriormente il modo in cui Meta AI interagisce con gli adolescenti su questi argomenti delicati, ad esempio assicurandoci che Meta AI tenga conto dei sentimenti degli adolescenti quando li indirizza verso risorse di supporto e non interrompa la conversazione in modo troppo brusco.

Ulteriori dettagli e riferimenti utili dal post di Meta a questo indirizzo.