L'app Calmara, sviluppata da HeHealth e basata sull'intelligenza artificiale, ha cessato le sue attività in seguito a un'indagine della Federal Trade Commission (FTC) statunitense. L'applicazione, che prometteva di effettuare screening rapidi e confidenziali sulla salute sessuale, è stata oggetto di scrutinio da parte dell'agenzia federale.
Secondo quanto riportato in una lettera della FTC datata 11 luglio, Calmara incoraggiava gli utenti a inviare foto intime per verificare la presenza di infezioni sessualmente trasmissibili (IST). L'app affermava di poter fornire "risposte chiare e scientificamente fondate sullo stato di salute sessuale del partner".
Tuttavia, la FTC ha sollevato diverse preoccupazioni riguardo le basi scientifiche su cui si fondavano le affermazioni di HeHealth. In particolare, l'agenzia ha evidenziato che:
- HeHealth aveva pagato alcuni autori degli studi citati
- Lo studio principale menzionato dall'azienda valutava solo quattro tipi di IST, non dieci come dichiarato
- I dati utilizzati per addestrare il modello di IA includevano immagini di utenti che non avevano mai effettuato test diagnostici per confermare i risultati
Considerando che la maggior parte delle IST sono asintomatiche, secondo l'Organizzazione Mondiale della Sanità, molti professionisti medici hanno messo in dubbio l'affidabilità delle tecniche utilizzate dall'app.
Problematiche etiche e di privacy
Oltre alle questioni di accuratezza, sono emersi interrogativi riguardo il consenso e la privacy degli utenti. Alcuni video su YouTube mostravano come Calmara si rivolgesse alle donne per "valutare" i loro potenziali partner, sollevando ovvie questioni etiche.
In risposta alle preoccupazioni della FTC, HeHealth ha accettato di chiudere sia Calmara che la propria app entro il 15 luglio. L'azienda si è inoltre impegnata a cancellare tutte le informazioni personali dei clienti ottenute attraverso le app o i fornitori di pagamenti.
La risposta della FTC
La FTC ha emesso una richiesta di indagine civile (simile a un mandato di comparizione) per ottenere informazioni sulle affermazioni pubblicitarie e le pratiche di privacy di Calmara. L'agenzia ha inoltre avvertito HeHealth che è illegale fare dichiarazioni sui benefici per la salute senza "prove scientifiche affidabili".
Nonostante la chiusura delle app, la FTC ha dichiarato di riservarsi il diritto di intraprendere ulteriori azioni "come l'interesse pubblico potrebbe richiedere". La decisione di non proseguire ulteriormente l'indagine è stata motivata dal "piccolo numero di utenti e vendite di Calmara negli Stati Uniti".
Questo caso solleva importanti questioni sull'uso dell'intelligenza artificiale nel campo della salute e della privacy, evidenziando la necessità di una regolamentazione più stringente e di un approccio etico nello sviluppo di tecnologie che trattano dati sensibili.
L'argomento trattato riguarda l'uso controverso dell'intelligenza artificiale nel campo della salute sessuale, in particolare attraverso l'app Calmara. Questo tema si inserisce nel più ampio contesto dell'evoluzione tecnologica applicata alla medicina e alla diagnostica.
L'utilizzo di strumenti tecnologici per la diagnosi e il monitoraggio della salute ha radici profonde nella storia della medicina. Già nell'antica Grecia, Ippocrate sosteneva l'importanza dell'osservazione e della raccolta dati per la diagnosi delle malattie. Con l'avvento della rivoluzione industriale e l'invenzione di strumenti come il microscopio e i raggi X, la medicina ha fatto enormi passi avanti nella capacità di diagnosticare e trattare le patologie.
Nel campo specifico delle malattie sessualmente trasmissibili, la storia è particolarmente complessa e spesso dolorosa. Per secoli, queste patologie sono state circondate da stigma e disinformazione. La sifilide, ad esempio, fu a lungo considerata una punizione divina per comportamenti immorali, ritardando notevolmente la ricerca di cure efficaci
. Solo con l'avvento della medicina moderna e la scoperta degli antibiotici nel XX secolo si è potuto iniziare a trattare efficacemente molte di queste infezioni.
L'applicazione dell'intelligenza artificiale alla diagnostica delle IST rappresenta dunque l'ultima frontiera di un lungo percorso di innovazione medica. Tuttavia, come dimostra il caso Calmara, questa tecnologia solleva nuove e complesse questioni etiche. La privacy dei dati sanitari, il rischio di diagnosi errate e la potenziale stigmatizzazione sono solo alcune delle problematiche che emergono.
Una curiosità interessante riguarda il nome stesso dell'app, "Calmara". Questo termine richiama la parola latina "calmare", suggerendo forse l'intento di tranquillizzare gli utenti riguardo alla propria salute sessuale. Ironicamente, l'app ha finito per generare più preoccupazioni che rassicurazioni.
Il caso Calmara si inserisce in un dibattito più ampio sull'uso etico dell'IA in medicina. Mentre alcune applicazioni, come l'analisi di immagini radiografiche, hanno dimostrato risultati promettenti, altri ambiti rimangono controversi. La sfida per il futuro sarà bilanciare il potenziale innovativo di queste tecnologie con la necessità di garantire la sicurezza e la privacy dei pazienti.