Vai al contenuto
Home » Blog » Io, Robot … razzista

Io, Robot … razzista

Robot domestico disegnato in epoca vittoriana, elaborazione ©Fototeca Gilardi

Addestrare un robot a diventare umano sul web, non si è rivelata un’idea brillante.

È di pochi giorni fa la notizia di un esperimento condotto negli Stati Uniti, dove un robot – formando le sue reti neurali su dati disponibili gratuitamente su Internet – si è infine rivelato “razzista e sessista”.

Se non facesse ridere, ci sarebbe da piangere.

Pare che i contenuti liberi del web non siano poi così “di qualità” da produrre eccellenti connessioni nella mente di un robot.
Notizia che – in realtà – non crea nessuno stupore.

Si tratta di dati imprecisi e distorti, dunque qualsiasi algoritmo costruito sulla base di queste informazioni rischia di portare al fallimento. Cioè alla creazione di un “sostituto umano” – il robot – anche peggiore dell’originale.

Una macchina che utilizza stereotipi così biechi e inutili, da danneggiare l’umanità.

Chissà che ne penserebbe oggi Asimov?
Le sue “leggi fondamentali della robotica” stabilivano due paletti fondamentali per la creazione di una generazione di cyborg: la protezione della vita umana e l’obbedienza.

Ma se un robot è formato a considerare criminale ogni uomo di colore e ha imparato che il posto delle donne è in cucina, come potrà rispettare le leggi della robotica?

Eppure il pensiero più preoccupante che sorge di fronte a questa vicenda è un altro.

Se un’intelligenza artificiale che apprende sul web sviluppa dei biechi pregiudizi, perché non dovrebbe succedere anche alle “intelligenze naturali”?

Cosa può accadere al cervello dei nostri bambini e ragazzi – creature in fase di crescita e di apprendimento – sottoposti agli stimoli indiscriminati del web?

© riproduzione riservata

3 commenti su “Io, Robot … razzista”

  1. C’è però un problema: la rete non genera pregiudizi, al peggio può amplificarli. Da sempre siamo esposti a stimoli indiscriminati, magari in dosi meno pantagrueliche ma nessuno è cresciuto dentro a una campana di vetro pedagogica. Nell’infinito numero di immagini contenute nella fototeca quante sono grevi, razziste, misogine e pronte a dire che la soluzione più facile è quella giusta, che è colpa di quello o quell’altro capro espiatorio?

    1. Stefania Lucarelli

      Assolutamente vero!
      Infatti vedo questo “errore di programmazione” molto simile all’educare un bambino senza fungere da filtro di fronte agli stereotipi e alla propaganda (sempre esistiti e sempre potenzialmente pericolosi), perché è il genitore che deve scegliere responsabilmente i contenuti che arrivano ai piccoli in via di formazione, e spiegarne le sfumature.
      In questo caso, a mio parere, possiamo accostare questi programmatori a quei genitori che danno in mano lo smartphone ai figli di un anno senza la minima preoccupazione o a quelli che, un tempo, gli avrebbero lasciato in mano “La Difesa della Razza” o altre pubblicazioni inadeguate.
      Formare un buon cittadino, una persona responsabile ed eticamente solida, e programmare un robot che non danneggi l’umanità comporta, secondo me, la stessa attenzione “educativa”.
      Selezionare i contenuti adattandoli all’età/natura del soggetto in formazione non consiste nel mettere qualcuno “sotto una campana di vetro pedagogica”. Tutto a suo tempo.
      Se poi parliamo di robot, la cosa è ancora più importante, data la sua minore plasticità.

  2. Certo, le immagini con contenuto razzista (oggi si usa dire anche politicamente scorretto) sono tantissime perché sono il prodotto della società e del tempo in cui sono state create.
    Immagini grevi, razziste, misogine esistono e sono commissionate, prodotte e diffuse dall’antichità fino ad oggi. Nella raccolta della Fototeca sono esemplari che non mancano, proprio per illustrare queste tematiche. La loro esistenza testimonia oggi quello che è stato ieri. Certo non è prudente lasciarle circolare da sole, ma insieme ad un testo che le contestualizzi e possa fornire indicazioni utili per la loro decodificazione.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.