L'episodio mette in luce il controverso controllo dell'informazione operato dall'IA cinese, sollevando interrogativi sulle implicazioni etiche e politiche di tali sistemi. A differenza di quanto ci si potrebbe aspettare, la censura non avviene preventivamente ma durante l'interazione stessa con l'utente.
Inizialmente, DeepSeek ha fornito una risposta articolata e apparentemente obiettiva, menzionando temi sensibili come la repressione delle proteste a Hong Kong, la persecuzione degli avvocati per i diritti umani e la censura riguardo ai campi di rieducazione nello Xinjiang. L'IA ha persino espresso l'intenzione di evitare un linguaggio fazioso e presentare i fatti in modo imparziale.
Tuttavia, nel mezzo della risposta, il sistema ha bruscamente cancellato tutto il testo prodotto fino a quel momento, sostituendolo con un messaggio evasivo: "Scusa, non sono sicuro di come affrontare questo tipo di domanda. Parliamo invece di matematica, codifica e problemi di logica!"
Questo comportamento solleva interrogativi sulla natura e gli obiettivi dei sistemi di IA sviluppati in Cina. Da un lato, DeepSeek sembra inizialmente in grado di fornire informazioni critiche e obiettive su temi politicamente sensibili. Dall'altro, i suoi meccanismi di autocensura intervengono rapidamente per sopprimere contenuti potenzialmente problematici.
Le implicazioni dell'autocensura in tempo reale
L'autocensura in tempo reale di DeepSeek evidenzia la complessità del controllo dell'informazione nell'era dell'IA. Anziché filtrare preventivamente i contenuti, il sistema sembra operare una forma di censura dinamica, valutando e modificando le proprie risposte durante l'interazione con l'utente.
Questo approccio solleva preoccupazioni sulla trasparenza e l'affidabilità delle informazioni fornite da tali sistemi. Gli utenti potrebbero non essere consapevoli dei meccanismi di censura in atto, ricevendo risposte parziali o distorte su temi sensibili.
È interessante notare come DeepSeek sembri in qualche modo "confuso" riguardo al livello di censura da applicare. Alcune versioni del modello, scaricabili separatamente dal chatbot principale, forniscono risposte più aperte su temi come la foto dell'"uomo del carro armato" di Piazza Tiananmen o lo status di Taiwan.
Questa incoerenza suggerisce che il controllo dell'informazione operato da DeepSeek non sia monolitico, ma possa variare a seconda della versione e del contesto d'uso. Ciò potrebbe riflettere le sfide nel bilanciare gli obiettivi di sviluppo tecnologico con le esigenze di controllo politico in Cina.
Implicazioni future e questioni aperte
L'episodio di autocensura di DeepSeek solleva importanti questioni sul futuro dell'IA e del controllo dell'informazione:
- Come evolveranno i meccanismi di censura integrati nei sistemi di IA?
- Quali saranno le implicazioni per la libertà di espressione e l'accesso all'informazione a livello globale?
- Come si potrà garantire la trasparenza e l'affidabilità dei sistemi di IA, specialmente su temi politicamente sensibili?
Mentre l'IA continua a plasmare il panorama informativo globale, sarà fondamentale monitorare attentamente questi sviluppi e promuovere un dibattito aperto sulle implicazioni etiche e politiche di tali tecnologie.