La profilazione nella favola della buonanotte. Così Amazon punta ai dati dei bambini

Amazon starebbe sviluppando programmi e strumenti basati su sistemi di intelligenza artificiale (Ai) rivolti a bambini in età prescolare, esponendoli così alla profilazione, potenziali violazioni della privacy e discriminazioni. È quanto afferma l’organizzazione Algorithm watch, che analizza l’impatto degli algoritmi e delle Ai sui diritti e la democrazia, sulla base di una serie di documenti interni della stessa multinazionale.

Secondo le informazioni raccolte, infatti, Amazon starebbe sviluppando un aggiornamento del proprio assistente domestico, Alexa, che gli consente di creare e narrare “storie delle buonanotte” basate sulle richieste espresse dai bambini stessi. Il tutto “grazie” a un Large language model (Llm), sistema di intelligenza artificiale in grado di interpretare modelli linguistici. Secondo Algorithm watch lo sviluppo di queste tecnologie sarebbe un tentativo di Amazon di seguire i risultati ottenuti da ChatGPT, il sistema di intelligenza artificiale sviluppato da OpenAI.

Amazon è stata la prima azienda a rilasciare un altoparlante smart con assistente vocale per la casa. Le funzionalità dell’ultimo Amazon Echo comprendono la connessione a una serie di dispositivi domestici “intelligenti”, la possibilità di effettuare chiamate o di creare una lista della spesa. Il dispositivo è anche pensato appunto per interagire con i bambini, leggendo libri o raccontando loro storie preesistenti. Come anticipato, un aggiornamento di Alexa dovrebbe avere funzioni incentrate sull’intrattenimento domestico con il nome (provvisorio) di “Alexa Llm entertainment use cases”. Tra le opzioni previste vi sarebbe la creazione da zero di storie basate sui desideri espressi dagli utenti. Ad esempio, se un bambino chiede di ascoltare il racconto su un “gatto e la Luna”, Alexa sarà in grado di creare e narrare la fiaba di “Mittens, il primo gatto sulla Luna”. Inoltre, grazie alle telecamere integrate nel dispositivo, questo sarebbe poi in grado di riconoscere i giocattoli utilizzati dal bambino e inserirli nella storia. “Alexa genera una storia di cinque minuti con il contesto fornito e le impostazioni predefinite utilizzando il suo Llm, e salva il contesto della storia per le interazioni future”, si legge nel documento. 

Non si tratta della prima volta in cui Amazon prova a utilizzare Ai generative per interfacciarsi con i più giovani. Nel novembre 2022 aveva lanciato “create with Alexa” dove un software creava brevi storie animate basate sulle indicazioni ricevute dai bambini. 

“L’attuale attenzione per lo sviluppo del Llm interno ad Amazon e la sua implementazione in Amazon Echo è probabilmente dovuta allo sforzo dell’azienda di recuperare il ritardo rispetto ai suoi concorrenti e di imitare il successo di ChatGPT -segnala Nathalie Koubayová, ricercatrice presso Algorithm watch-. In effetti, la ‘divisione Alexa’ di Amazon, responsabile degli altoparlanti intelligenti Echo ma anche di altri dispositivi, non è riuscita a ottenere i risultati attesi e ha avuto difficoltà finanziarie. Negli ultimi anni ha perso più di cinque miliardi di dollari all’anno e alla fine del 2022 ha licenziato circa duemila dipendenti”. Il motivo sarebbe nel minore successo rispetto ai concorrenti. Secondo Business insider, infatti, gli utenti dell’assistente vocale di Amazon negli Stati Uniti sono 71,6 milioni, contro gli 81,5 milioni di Google Assistant e i 77,6 milioni di Siri (Apple). 

“Quando si inizia a comprendere la tecnologia dietro i ‘giocattoli intelligenti’ si scopre che questa non è affatto innocente -ha dichiarato ad Algorithm watch Katriina Heljakka, ricercatrice dell’Università di Turku in Finlandia che studia l’evoluzione dei giocattoli e il loro ruolo nella società contemporanea-. Siamo arrivati a un’era di connessione digitale in cui i giocattoli sono molto più di quelli di una volta. Un tempo erano i compagni di gioco con cui condividevamo i nostri segreti, ma ora, grazie a questo sviluppo tecnologico, potrebbero non essere più dei confidenti affidabili”. 

Le preoccupazioni sono accentuate dal fatto che Amazon è già stata condannata per le violazioni della privacy, anche di minori, effettuate proprio attraverso il suo assistente domestico. Nel 2023 è stata sottoposta a un’inchiesta negli Stati Uniti da parte della Federal trade commission (Ftc) per aver raccolto i dati dei bambini senza il consenso dei genitori attraverso Alexa, violando le leggi statunitensi. A fine marzo ha raggiunto un accordo per pagare una multa di 25 milioni di dollari. 

L’ampio trattamento dei dati personali dei bambini avrebbe una motivazione piuttosto semplice. “Gran parte di questo utilizzo oggi è in realtà sostenuto da interessi commerciali”, ha spiegato infatti Ingrida Milkaite, ricercatrice dell’Università di Gand, in Belgio, esperta di diritti umani, privacy, protezione dei dati e questioni relative ai diritti dei minori nell’ambiente digitale. Secondo la ricercatrice dare inconsapevolmente il permesso alle aziende per raccogliere informazioni sensibili può avere effetti involontari e imprevedibili. “Una delle conseguenze potenziali più importanti del trattamento esteso dei dati personali dei bambini riguarda essenzialmente la profilazione e la pubblicità mirata. E questo può essere piuttosto problematico, perché a lungo andare potrebbe portare, ad esempio, alla discriminazione dei bambini, all’etichettatura e alla loro classificazione in gruppi a cui un certo algoritmo decide che appartengono”, ha aggiunto ancora Milkaite. 

Il nuovo strumento di Amazon rischia perciò di andare in conflitto con le legislazioni europee e nazionali, sempre più attente sulla carta nel tutelare i minorenni e la popolazione in generale dalla profilazione da parte di aziende tecnologiche. Nell’estate 2023 la Commissione europea ha approvato una bozza dell’Ai Act, la legislazione europea su algoritmi e intelligenze artificiali, contestata su numerosi passaggi, e che pure riconosce non solo nei bambini una categoria da tutelare ma vieta anche i sistemi di riconoscimento biometrico “a distanza”.

© riproduzione riservata