Tecnologia, diritti e responsabilità: la visione di Diletta Huyskes

Abbiamo intervistato Diletta Huyskes, che si occupa di etica, cultura, design e impatto sociale delle tecnologie e dell’intelligenza artificiale, con particolare attenzione al modo in cui queste interagiscono con le disuguaglianze esistenti. La sua ricerca analizza l’utilizzo di processi automatizzati in contesti ad alta responsabilità decisionale, i valori socio-culturali coinvolti nella loro progettazione e le conseguenze che producono sulla società.

Come ricercatrice ha collaborato con la Fondazione Bruno Kessler di Trento, occupandosi di etica dei dati e dei processi, e con l’Università di Utrecht. Dopo un dottorato in Sociologia, è oggi ricercatrice postdoc in Filosofia e Tecnologia all’Università degli Studi di Milano.

Dal 2023 è co-fondatrice e co-CEO di Immanence, la prima società italiana che valuta gli impatti e i rischi delle tecnologie digitali e delle intelligenze artificiali, offrendo soluzioni per garantire etica, non discriminazione e responsabilità.

Il suo primo libro, Tecnologia della rivoluzione (Il Saggiatore, 2024), riflette il cuore del suo impegno: analizzare criticamente le trasformazioni tecnologiche che attraversano la nostra epoca.

Huyskes sarà tra gli ospiti della Rome Future Week® per l’evento Mutazioni in corso. Attraverso il cambiamento, in programma il 19 settembre all’Acquario Romano. Un appuntamento dedicato al confronto sui grandi temi culturali, sociali e tecnologici che stanno ridefinendo il nostro presente e il nostro futuro.

Lei si muove tra ricerca accademica, attivismo e imprenditoria etica: un percorso decisamente non convenzionale nell’ambito tech. Cosa l’ha spinta a occuparsi di tecnologie, diritti e potere?

Sono arrivata ad appassionarmi di questioni tecnologiche grazie alla filosofia e al pensiero critico. È da lì che nasce la mia insistenza nel guardare e interrogare ogni innovazione tecnologica come non inevitabile. Gli studi sociali sulla scienza e la tecnologia, e in particolare il femminismo tecnologico, mi hanno spinta a occuparmene perché mostrano chiaramente come il modo in cui facciamo tecnologia – spesso guidato più dalle necessità del mercato che da quelle delle persone – finisca per escludere intere categorie sociali e per compromettere, a volte in modo silenzioso, diritti fondamentali.

Questo mi ha portata a pormi domande che oggi sono il cuore del mio lavoro: per chi facciamo tecnologia? Chi decide in che direzione andare? Perché una tecnologia prende una forma piuttosto che un’altra e, soprattutto, come possiamo reindirizzare tutto questo? Dovremmo avere l’obiettivo – e pretendere che lo abbiano le aziende che la producono – di utilizzarla come motore per un impatto sociale positivo. Col tempo, a queste domande ho cercato di dare forma non solo nella ricerca, ma anche nei progetti imprenditoriali e con Immanence, per costruire alternative praticabili a partire da casi concreti insieme a clienti e partner. Credo sia urgente creare pratiche trasformative in questo senso, facendole.

Sappiamo che le IA possono assorbire i nostri bias culturali e riprodurli su larga scala. Può aiutarci a capire come questo avviene, e perché è un problema così urgente da affrontare, soprattutto nelle applicazioni che toccano i diritti delle persone?

Questo avviene perché le intelligenze artificiali imparano da noi – e quindi imparano anche i nostri bias culturali. In particolare, quelle basate su machine learning si allenano su grandi quantità di dati storici. Ma quei dati riflettono una storia: contengono decisioni passate, e spesso incorporano ingiustizie sistemiche che sappiamo essere ancora molto presenti nelle nostre società – discriminazioni legate al genere, all’etnia, alla classe sociale, e tutte le altre. 

Quando questi sistemi vengono applicati su larga scala, il rischio è che quelle disuguaglianze vengano non solo replicate, ma amplificate, perché le IA hanno una capacità di estensione e generalizzazione ben superiore a quella degli esseri umani. E spesso queste operazioni sono difficili da contestare o da correggere a posteriori. Un esempio molto semplice è quello legato all’assenza — o alla scarsità — di dati sulle donne in tanti ambiti della vita, come il lavoro o la finanza. Per decenni, le donne non hanno avuto gli stessi diritti o accesso a risorse, e questo ha prodotto una distorsione nei dati storici.

Oggi, quei dati vengono usati per “allenare” modelli di IA che, di conseguenza, rischiano di perpetuare disparità, ad esempio nel valutare un curriculum o nel concedere un prestito. Il problema, quindi, non è solo nei dati, ma anche nel modo in cui li utilizziamo: spesso si dà per scontato che siano neutri o oggettivi, e che basti calcolarli. Ma utilizzare i dati e le statistiche non può bastare. Serve una supervisione umana reale, che sia in grado di leggere criticamente questi processi e intervenire. E soprattutto, serve interrogarsi sulle finalità stesse con cui costruiamo questi sistemi: a cosa servono, chi servono, chi potrebbero danneggiare.

Spesso si parla di rendere gli algoritmi più trasparenti. Ma forse la vera domanda è: perché sono stati progettati così, e chi ne beneficia? Come possiamo spostare il dibattito verso la responsabilità di chi li crea, più che sul funzionamento tecnico?

Esatto: l’idea che basti “aprire la scatola nera” è fuorviante. Non basta capire come funziona un algoritmo – bisogna interrogarsi sul contesto in cui viene inserito, da chi, perché è stato fatto in quel modo, quali scelte sono state privilegiate rispetto ad altre, e quali interessi rappresenta. Nella mia ricerca accademica ho studiato proprio questo fenomeno: come spesso l’opacità dei sistemi venga usata non solo come una barriera tecnica, ma anche come uno scudo simbolico per gli esseri umani, che così possono sottrarsi alla responsabilità delle decisioni automatizzate.

L’idea che “non sappiamo come funziona l’algoritmo” finisce per deresponsabilizzare chi lo progetta, chi lo adotta e chi lo utilizza nei processi decisionali. Per questo, paradossalmente, incoraggio a spostare lo sguardo: più che solo dentro questi sistemi, è urgente fare ricerca e analisi intorno a essi. Non perché conoscere i loro passaggi logici non sia importante, ma perché possiamo scoprire moltissimo osservando chi li utilizza, in quali contesti, con quali finalità e con quali conseguenze. Questo significa riportare il discorso sulla responsabilità umana e politica, e pretendere forme di governance che non si limitino a valutare questi sistemi dal punto di vista tecnico, ma anche dal punto di vista sociale, organizzativo e umano. 

L’educazione digitale oggi si concentra soprattutto sulle competenze tecniche. Se invece volessimo formare cittadine e cittadini capaci di pensare criticamente la tecnologia, cosa dovremmo insegnare davvero?

Dovremmo insegnare che ogni tecnologia è una decisione: una scelta su come vedere il mondo, cosa considerare importante, cosa far accadere. Educare alla tecnologia non significa solo saperla usare, ma saperla conoscere nella sua storia e nelle sue motivazioni sociali (che ci sono, sempre). Serve allenare la capacità di considerarle come qualcosa di costruito, scelto, e per questo non neutrale o inevitabile, chiedendosi: chi ha costruito questo sistema? Quali impatti avrà sulla società? Come possiamo massimizzare quelli positivi? Come scrivevano Winograd e Flores già negli anni ’80, nel progettare strumenti stiamo progettando modi di essere.

Il design delle tecnologie che usiamo ogni giorno – anche quelle che ci sembrano neutre o “naturali” – è profondamente influenzato da noi e contemporaneamente influenza profondamente il nostro modo di pensare, comunicare, lavorare, relazionarci. Per questo vale la pena educare in questo senso: per capire da dove provengono le tecnologie che plasmano la nostra vita quotidiana, e per sviluppare uno sguardo critico e consapevole su come potrebbero essere diverse. Solo così possiamo formare non solo utenti o tecnici, ma persone capaci di immaginare e pretendere tecnologie più giuste, più responsabili, più umane.