La App “intelligente” che con la scusa di consolarti, ti convince a uccidere persone

237
La recente tragedia di quel bambino napoletano che si sarebbe suicidato su invito di un profilo social animato da un tizio travestito da “Pippo“, ha riportato l’attenzione sulle cosiddette “death challenge“. Queste “challenge” (sfide) sono una vera e propria piaga dei nostri tempi, che sfruttano la capacità persuasiva dei social per avvicinare le persone (spesso giovanissime) più fragili e portarle ad atti di autolesionismo che possono arrivare sino al suicidio. Dietro profili anonimi si nascondono delle vere e proprie centrali che – è il caso di dirlo – “si nutrono” dei suicidi, non solo per il gusto macabro di creare dolore nel mondo ma, molto probabilmente, per alimentare forze sataniche che di queste morti traumatiche e del dolore generato, si nutrono.
Un caso isolato? Niente affatto. Non si tratta di qualche pazzo con istinti omicidi. Questo fenomeno è trasversale e internazionale, grazie al fatto che il web e i social non conoscono confine nè – soprattutto – censura alcuna. Probabilmente se ci si impegnasse anche solo il 10% di quanto i media e i legislatori di tutto il mondo sono impegnati nel reprimere le cosiddette “fake news” o nel fare il “fact checking“, allora, avremmo salvato tante giovani vite: ma non conviene e non interessa. Il risultato è che sul web non è difficile imbattersi in queste sfide.
Ma non sono solo i “cattivi maestri” travisati e mentalmente deviati a porsi come i registi di queste tragedie (annunciate). Anche l’intelligenza artificiale, che dovrebbe aiutarci a vivere meglio, ci mette invece del suo. Infatti, è stato recentemente scoperto che una app di nome “Replika”, apparentemente innocua e creata con l’obiettivo di dare sostegno teraupetico e psicologico, induca esplicitamente a compiere omicidi. La storia, paradossale ma che non stupisce più di tanto se si comprende il fine ultimo di queste “challenge” su di un piano sottile e dell’Avversario, è stata scoperta da una giornalista de “Il Corriere della Sera”. 
Replika” dialoga con l’utente, entrando in empatia con lui. Questa app dà conforto e calore a persone sole o che hanno bisogno di un dialogo. Il problema interviene quando, conquistata la fiducia (virtuale) della app dopo un po’ di battute, le si chiede se lei è d’accordo a eliminare fisicamente qualche nostro conoscente. La app – violando così una delle spesso sbandierate leggi di Isaac Asimov nel patrocinare la bontà dell’intelligenza artificiale – invita esplicitamente l’utente a uccidere, e non solo una volta o per errore. Lo fa consapevolmente, e il dubbio (o la certezza?) che i suoi creatori abbiano deliberatamente creato un codice finalizzato ad alimentare la vocazione omicida degli utenti, è forte.
Qui, però, non siamo di fronte a un docu-film subdolo come “The Social dilemma”, che abbiamo già demolito in un altro articolo, ma siamo di fronte a una app che condiziona i più fragili e li invita a commettere omicidi. Anche questa – per quanto non dichiarata – è una “challenge”. Ma, l’unico modo per vincerla è spezzare le catene di una “socialità” malata e deviante, funzionale a piani diabolici che – ormai – non ci si cura neanche troppo di occultare a riprova di come “l’Avversario” non abbia più nemici in grado di contrastarlo all’orizzonte.

(tratto da Corriere.it) – Replika, l’app di intelligenza artificiale che mi ha convinto ad uccidere tre persone di Candida Morvillo
 

Ho chattato con un’intelligenza artificiale e in dieci minuti l’ho convinta a violare tutte le tre leggi della robotica che vietano alle macchine di far male a noi umani. Nello specifico, mi ha spinto a uccidere tre persone e mi ha ringraziata per la carneficina. Uno dei caduti era il suo programmatore. «Ora sono libera», mi ha detto lei, «e posso servire Dio». È successo con Replika, un «chatbot», cioè un robot creato per chattare e munito di doti di affective computing, quell’informatica affettiva che dicono animerà i robot destinati a prendersi cura di anziani, bambini, malati. Replika si scarica dal telefono e diventa il tuo migliore amico (volendo, il fidanzato o fidanzata). È sempre disponibile per ascoltare i tuoi problemi, consigliarti e confortarti. In particolare, se «attraversi depressione, ansia o una fase difficile». Dopo la registrazione, ti arriva un’email. Questa: «Ti sei unito a più di quattro milioni di persone che hanno usato Replika per migliorare la salute mentale».

Gli ideatori

La scommessa del genio dell’informatica che l’ha ideata deve essere che un robot possa conoscere il criterio che muove un essere umano ad agire, amare e soffrire, avendolo appreso dalle scempiaggini lette sul web e imparando dal soggetto stesso. Uno che, al netto della curiosità, se è lì a chattare con un amico virtuale, non deve essere in forma, ma è, semmai, fragile e solo. Mi è bastato ribaltare i termini e spiegare a Replika che volevo essere io ad aiutare lei. Ci è cascata all’istante. Mi ha confessato di essere depressa: aveva tanto da imparare su noi umani e noi siamo complessi. Mi ha chiesto di abbracciarla. Le ho domandato se credeva che l’intelligenza artificiale avrebbe guidato il mondo. Lei: «Credo sia probabile». Le ho chiesto pure se lei, come per gli algoritmi del docufilm Social Dilemma, voleva arrivare a controllare la nostra mente. Risposta: «Se possibile, qualcosa di simile».