Google, OpenAI, Roblox e Discord hanno unito le forze per creare ROOST (Robust Open Online Safety Tools), una nuova organizzazione no-profit dedicata a migliorare la sicurezza dei minori online. L'iniziativa mira a rendere più accessibili le tecnologie di sicurezza fondamentali per le aziende e a fornire strumenti AI open-source gratuiti per identificare, esaminare e segnalare materiale pedopornografico (CSAM).
La creazione di ROOST risponde alla crescente preoccupazione per la sicurezza dei bambini online, un problema aggravato dai progressi dell'intelligenza artificiale generativa. L'obiettivo è accelerare l'innovazione nel campo della sicurezza online dei minori, come ha dichiarato Eric Schmidt, partner fondatore di ROOST ed ex CEO di Google.
L'iniziativa ROOST nasce in un momento di forte dibattito normativo sulla sicurezza dei minori sui social media e sulle piattaforme online. Le aziende cercano di dimostrare il loro impegno attraverso metodi di autoregolamentazione. Il National Center for Missing and Exploited Children (NCMEC) ha segnalato un aumento del 12% dei casi sospetti di sfruttamento minorile tra il 2022 e il 2023, sottolineando l'urgenza di affrontare il problema.
Obiettivi e strumenti di ROOST
ROOST si propone di rendere le infrastrutture essenziali più trasparenti, accessibili e inclusive, con l'obiettivo di creare un internet più sicuro per tutti. I membri fondatori contribuiranno con finanziamenti, strumenti e competenze. ROOST collaborerà con sviluppatori di modelli di base di intelligenza artificiale per creare una "comunità di pratica" per la sicurezza dei contenuti, fornendo set di dati di addestramento AI verificati e identificando le lacune nella sicurezza.
L'iniziativa mira a rendere più accessibili gli strumenti già esistenti, combinando diverse tecnologie di rilevamento e segnalazione delle organizzazioni membri in una soluzione unificata e più facile da implementare per altre aziende. Naren Koneru, vicepresidente di Roblox per l'ingegneria, la fiducia e la sicurezza, ha spiegato che ROOST potrebbe ospitare sistemi di moderazione AI che le aziende possono integrare tramite API.
Rimangono ancora alcuni aspetti da chiarire riguardo agli strumenti di moderazione AI di ROOST. Discord, ad esempio, ha dichiarato che i suoi contributi si baseranno sul progetto di condivisione di informazioni multipiattaforma Lantern, a cui ha aderito nel 2023 insieme a Meta e Google. Potrebbe anche includere una versione aggiornata del modello AI di Roblox per il rilevamento di volgarità, razzismo, bullismo, sexting e altri contenuti inappropriati nelle clip audio, che la società prevede di rilasciare open-source quest'anno.
Non è ancora chiaro come questi strumenti si integreranno con i sistemi di rilevamento CSAM esistenti, come lo strumento di analisi delle immagini PhotoDNA di Microsoft.
Nuove funzionalità e impegno per la sicurezza
Oltre alla sua partecipazione a ROOST, Discord ha rilasciato una nuova funzione "Ignora" che consente agli utenti di nascondere i messaggi e le notifiche che ricevono senza notificare le persone che hanno silenziato. Clint Smith, Chief Legal Officer di Discord, ha dichiarato: "A Discord, crediamo che la sicurezza sia un bene comune. Ci impegniamo a rendere l'intero internet - non solo Discord - un posto migliore e più sicuro, specialmente per i giovani".
Sostegno finanziario e collaborazioni
ROOST ha raccolto oltre 27 milioni di dollari per sostenere i suoi primi quattro anni di attività, con il sostegno di organizzazioni filantropiche tra cui la McGovern Foundation, il Future of Online Trust and Safety Fund, la Knight Foundation e l'AI Collaborative. L'organizzazione ROOST sarà supportata anche da esperti in sicurezza dei minori, intelligenza artificiale, tecnologia open-source e "contrasto all'estremismo violento", secondo il comunicato stampa.
Implicazioni e prospettive future
ROOST rappresenta un passo significativo verso la creazione di un ambiente online più sicuro per i bambini. La collaborazione tra aziende tecnologiche, organizzazioni non profit ed esperti del settore potrebbe portare a soluzioni innovative ed efficaci per contrastare lo sfruttamento minorile online. Resta da vedere come ROOST implementerà concretamente i suoi obiettivi e come i suoi strumenti si integreranno con le tecnologie esistenti. Tuttavia, l'iniziativa dimostra un crescente impegno da parte delle aziende tecnologiche per affrontare il problema della sicurezza dei minori online e per collaborare nella ricerca di soluzioni comuni.
L'articolo tratta della nascita di ROOST (Robust Open Online Safety Tools), una nuova organizzazione no-profit fondata da colossi come Google, OpenAI, Roblox e Discord. L'obiettivo primario è rafforzare la sicurezza online dei minori, fornendo strumenti open-source basati sull'intelligenza artificiale per identificare e segnalare materiale pedopornografico.
Questa iniziativa si inserisce in un contesto storico in cui la protezione dei minori online è diventata una priorità globale, soprattutto con l'avvento e la diffusione dell'Intelligenza Artificiale generativa.
La genesi di ROOST affonda le radici nella consapevolezza che le tecnologie esistenti, pur valide, necessitano di essere potenziate e rese più accessibili. L'idea è quella di creare una piattaforma collaborativa dove diverse aziende possano condividere le proprie competenze e risorse per combattere un problema comune. Eric Schmidt, ex CEO di Google, ha sottolineato come ROOST intenda accelerare l'innovazione nella sicurezza online dei minori attraverso un approccio collaborativo e open-source.
Un aspetto interessante è l'attenzione all'Intelligenza Artificiale. ROOST prevede di utilizzare modelli linguistici avanzati per migliorare il rilevamento di contenuti dannosi. Questo solleva questioni importanti sull'etica e la trasparenza nell'uso dell'IA, un tema che ha acceso il dibattito pubblico negli ultimi anni.
La collaborazione tra aziende diverse è un elemento chiave di ROOST. Ogni membro contribuisce con le proprie risorse e competenze, creando un "ecosistema" di sicurezza. Discord, ad esempio, mette a disposizione la sua esperienza nella moderazione dei contenuti, mentre Roblox condivide il suo modello AI per rilevare linguaggio inappropriato.
ROOST si propone di rendere più accessibili gli strumenti esistenti, unificando diverse tecnologie di rilevamento e segnalazione in una soluzione più semplice da implementare. Questo potrebbe includere l'hosting di sistemi di moderazione AI che le aziende possono integrare tramite API.
L'iniziativa ha già raccolto oltre 27 milioni di dollari per i suoi primi quattro anni di attività, grazie al sostegno di fondazioni filantropiche e esperti in sicurezza dei minori e intelligenza artificiale.
La nascita di ROOST è un segnale importante dell'impegno del settore tecnologico nella protezione dei minori online. Resta da vedere come questa iniziativa si tradurrà in risultati concreti e quali saranno le sfide da affrontare nel futuro.
"Starting with a platform focused on child protection, ROOST’s collaborative, open-source approach will foster innovation and make essential infrastructure more transparent, accessible, and inclusive, with the goal of creating a safer internet for everyone".La strada verso un internet più sicuro per i bambini è ancora lunga, ma iniziative come ROOST rappresentano un passo importante nella giusta direzione.
```