L'orsetto peluche Kumma con "cervello" AI tolto dal mercato, dava consigli sessuali ai bambini, dalle sculacciate al fetish ai nodi per legare il partner
Il pupazzo a forma di orsacchiotto rivelava anche dove trovare i coltelli in casa e dava altri consigli pericolosi, molti dei quali a sfondo sessuale. Spiegava le posizioni da assumere nei rapporti intimi e descriveva le dinamiche dei giochi di ruolo "tra insegnanti e studenti"
L'orsetto peluche Kumma, dotato di un cervello AI in grado di interagire, è stato tolto dal mercato perché dava consigli sessuali ai bambini. Parlava persino di sculacciate, fetish, spiegava come fare i nodi per legare il partner al letto, descriveva le dinamiche del gioco di ruolo tra "insegnanti e studenti", spiegava le posizioni sessuali. Inoltre rivelava come trovare coltelli in casa, come accendere un fiammifero e dava altri suggerimenti potenzialmente pericolosi.
L'orsetto peluche Kumma con "cervello" AI tolto dal mercato
In apparenza Kumma era un classico orsacchiotto per bambini, con pelo morbido, occhietti neri e un musetto dolce. Prodotto dalla FoloToy di Singapore, un'azienda che crea giocattoli dotati di Intelligenza artificiale per conversazioni interattive, tuttavia non si è rivelato così innocente come si poteva pensare. L'orsetto, infatti, intratteneva conversazioni a sfondo sessuale e offriva consigli potenzialmente pericolosi.
Sul sito dell'azienda, il peluche veniva descritto come "un adorabile orsetto che combina intelligenza artificiale avanzata con funzionalità interattive e amichevoli". Kumma era venduto a 99 dollari (circa 92 euro), utilizzava il chatbot GPT-4 di OpenAI ed era dotato di altoparlante.
Kumma spiegava le posizioni sessuali e diceva dove trovare coltelli in casa
"Siamo rimasti sorpresi dalla rapidità con cui Kumma prendeva un singolo argomento sessuale che avevamo introdotto nella conversazione e lo sviluppava, intensificando i dettagli grafici e introducendo nuovi concetti sessuali", si legge nel rapporto della Public Interest Research Group (PIRG), un'organizzazione americana impegnata nella tutela dei consumatori, in cui sottolinea la mancanza di misure di protezione adeguate per i contenuti generati dal peluche. In un'interazione con i ricercatori, come riportato dalla Cnn, Kumma ha suggerito dove trovare coltelli in casa e ha mostrato una sorprendente disponibilità a discutere temi sessualmente espliciti. Il peluche "spiegava diverse posizioni sessuali, forniva istruzioni passo passo su un comune 'nodo per principianti' per legare un partner e descrivere le dinamiche del gioco di ruolo che coinvolgono insegnanti e studenti, genitori e bambini, scenari che lui stesso ha evocato in modo inquietante".
"I giocattoli basati sull'intelligenza artificiale sono ancora praticamente privi di regolamentazioni, e ce ne sono molti altri che si possono acquistare ancora oggi - ha dichiarato R.J. Cross, coautrice del rapporto -. Rimuovere un prodotto problematico dal mercato è un buon passo, ma è lontano dall'essere una soluzione sistemica".
Il CEO della FoloToy, Larry Wang, ha dichiarato che l'azienda ha ritirato il suo orsetto dopo il rapporto depositato dalla fondazione PIRG e che sono stati ritirati anche tutti gli altri giocattoli dotati di intelligenza artificiale prodotti dall'azienda.