Donata Columbro racconta a Busto Arsizio perchè i dati non sono oggettivi

“I dati sono sempre situati in un contesto. Non dobbiamo pensare loro come a un elemento fisso: non sono scontati, sono costruiti. Prima dei dati, ci sono i corpi delle persone che decidono cosa contare”. Sta tutto in queste parole della giornalista Donata Columbro lo spunto dietro a “Quando i dati discriminano”, presentato nella serata di mercoledì 10 aprile al Circolo Gagarin di Busto Arsizio.

Edito da Il Margine, il volume parte da una riflessione su come vengono costruiti i dati, quelle informazioni che oggi nutrono gli algoritmi dell’intelligenza artificiale, per sfatarne il mito dell’oggettività assoluta. “Abbiamo introiettato l’idea che quello che ci restituisce una macchina sia oggettivo”, ha spiegato Columbro, “solo ora, con l’AI, torna ad avere importanza il ruolo degli umanisti. Prima si pensava che le mani dentro le macchine dovessero metterle solo i tecnici, perchè non portano le loro opinioni”.

Il rischio, da qui il titolo del volume, è che nascoste dietro a questa presunta oggettività possano trovare spazio le discriminazioni. “I dati discriminano perchè non danno misira dei corpi che escludono”, ha concluso, “se escludono certi corpi e alimentano motori di ricerca o algoritmi io nella rappresentazione che ottengo questi corpi non li trovo”. E se questi dati devono aiutare, ad esempio, se concedere un mutuo, le discriminazioni toccano da vicino ogni persona.