Gemini, Google sospende la sua IA generativa 'politically correct': "Troppo prudente, non produce immagini di persone bianche"

Google è stata costretta a sospendere il servizio text-to-image di Gemini, la sua intelligenza artificiale generativa, a causa di polemiche riguardanti i pregiudizi dello strumento nella rappresentazione di persone bianche. Gli utenti, che l'hanno poi definita "troppo politically correct", cercavano di generare immagini con persone caucasiche, ma senza successo.

Gemini, Google sospende la sua IA generativa 'politically correct'

Prabhakar Raghavan, vice-presidente senior di Google, ha cercato di spiegare che Gemini è stata progettata per evitare distorsioni e errori riscontrati in altre IA, come la produzione di immagini con contenuto violento o esplicito o ritratti di persone reali.

Un altro obiettivo di Google era evitare discriminazioni: alcuni concorrenti in passato avevano generato immagini di soli uomini bianchi al prompt "mostrami un lavoratore", persone di diverse minoranze etniche al prompt "mostrami persone in cura presso i servizi sociali" e donne in risposta a "persone dedite alla pulizia della casa".

Gemini, Google l'ha progettata "troppo politically correct"

Tuttavia, per evitare queste problematiche, Gemini è stata progettata per essere più inclusiva e rispettosa delle diversità. Nel tempo, l'algoritmo è diventato più prudente del previsto, compensando eccessivamente la richiesta di inclusività e mostrando diversità anche quando non era appropriato.

Questo ha portato a risultati come la generazione di immagini del Papa nero, Padri Fondatori asiatici, soldati tedeschi del 1943 donne e guerrieri greci neri. Spesso, quando chiesto di mostrare una donna svedese, Gemini rispondeva generando donne di diverse etnie, tranne quella scandinava. In molti casi, rifiutava anche di generare immagini di personaggi storici, incapace di distinguerli da quelli reali. Di fronte a queste critiche, Google ha deciso di sospendere il servizio e apportare modifiche all'algoritmo. Tutto questo episodio, alla fine, sottolinea che i limiti dell'intelligenza artificiale rispecchiano quelli della mente umana che l'ha creata.