A cura di Elif Tutuk, Senior Director of Research, Qlik
Come esseri umani, siamo naturalmente imperfetti. Ed è proprio questo che ci rende ciò che siamo: è vero, commettiamo errori, ma poi impariamo la lezione. È così che nascono creatività e innovazione. Alcune delle più grandi invenzioni e scoperte della storia sono frutto di errori.
È quindi ovvio che qualsiasi cosa creiamo sia difettosa. Se siamo imperfetti, anche ciò che creiamo lo sarà, influenzato dai nostri pregiudizi e dalla nostra propensione cognitiva. Questo è particolarmente evidente nel settore della tecnologia.
Da sistemi che registrano erroneamente i sessi in base ai titoli professionali, a software di auto-tagging e riconoscimento facciale che faticano a identificare le persone nere, il nostro pregiudizio, consapevole o meno, si insinua nella tecnologia che creiamo.
Gli esempi sopra citati, e altri come questi, sono spesso utilizzati per evidenziare il problema della diversità nel settore tecnologico. Questo è sì un problema, ma ne è solo una parte. Anche se il settore diventasse il mercato più diversificato e inclusivo del pianeta, il pregiudizio sarebbe ancora presente nella tecnologia.
Questa è un’enorme sfida, resa ancora più grande dal fatto che intelligenza artificiale e machine learning vengono sempre più utilizzati per aiutarci a lavorare, rilassarci e divertirci. Perché è importante? Perché automatizzano le azioni. Il valore di questi nuovi strumenti è quello di fare le cose più velocemente di qualsiasi essere umano, in modi che non abbiamo la capacità di valutare.
Ciò significa anche che qualsiasi errore viaggia molto più rapidamente. Un’applicazione di identificazione facciale che è stata testata su un gruppo prevalentemente maschile e chiaro di carnagione potrebbe avere difficoltà a riconoscere altri volti. Se viene utilizzata come mezzo di accesso a ospedali, scuole o persino case di nuova costruzione, alimentata da una piattaforma basata sull’apprendimento automatico che ne consente la scalabilità, il problema si diffonderà ulteriormente.
Superare il nostro stesso pregiudizio
Come lo risolviamo? Le soluzioni si dividono effettivamente in due campi: quello umano e quello tecnologico.
Da un punto di vista prettamente umano, è fondamentale fare attenzione alla diversità e all’inclusione all’interno dell’organizzazione. Ciò può sembrare una contraddizione considerando quanto detto in precedenza, ma è comunque importante riflettere in modo accurato il target di riferimento globale. Non solo a livello di codifica – sebbene sia di vitale importanza – ma anche a livello di leadership, pianificazione, fase concettuale ed esecutiva. Sono necessari team differenti per poter controllare i punti ciechi reciproci.
Faccio fatica a credere che le organizzazioni responsabili di alcuni degli esempi citati in precedenza abbiano deliberatamente inserito il loro pregiudizio in tali applicazioni. Eppure, in un momento in cui l’intelligenza artificiale e il machine learning vengono utilizzati per supportare qualsiasi cosa, dalle domande di lavoro alle approvazioni di mutui, le aziende tecnologiche devono essere pronte a sfidare sé stesse, i loro preconcetti e le loro avversioni in ogni fase del processo.
Gli operatori umani hanno la capacità di comprendere le sfumature e provare empatia, non solo identificano quindi i pregiudizi, ma possono anche trasformare determinati presupposti in un’opportunità migliore, familiare al target di riferimento.
Da un punto di vista tecnologico, si tratta di esaminare come la tecnologia può aiutarci a cogliere i nostri pregiudizi prima che entrino nel sistema e proliferino. Questo significa avere strumenti che tengano in considerazione ciò che noi pensiamo e ci costringano a considerare altre possibilità.
Prendiamo la ricerca, per esempio. Un motore di ricerca testuale non ci dice in realtà nulla che non sappiamo già, siamo noi a dover porre la giusta domanda. Poi, nel tempo, attraverso l’utilizzo di algoritmi e cookie, il motore di ricerca legato ai nostri dispositivi affinerà i risultati. Questo sistema è stato implementato con lo scopo di offrire un’esperienza personalizzata e fornire solo informazioni pertinenti, ma in realtà serve a creare una campana di vetro in cui non appare nulla che vada contro il nostro contesto personale.
Consentire ai dati di definirsi
Un approccio diverso richiederebbe di implementare quello che è conosciuto come motore associativo. In questo modo si consente ai dati di definirsi, al contrario di quello che succede in una struttura di dati razionale in cui definiamo i dati in base alle domande che già vogliamo porre.
L’individuo pone sempre un quesito, ma invece di ottenere risposte filtrate da un algoritmo che ordina i dati secondo strutture predefinite, i dati vengono presentati così come sono. Ciò significa che i dati si relazionano tra di loro in tempo reale, consentendo agli algoritmi di scovare e far emergere approfondimenti inespressi dagli utenti.
Ciò fa parte di un concetto chiamato intelligenza aumentata: sfruttare il potere dell’intelligenza artificiale e usarlo per supportare, piuttosto che sostituire, gli esseri umani. Questa è infatti la grande preoccupazione nei confronti dell’intelligenza artificiale, ovvero che le macchine diventeranno così intelligenti da sostituirci, ottenendo i nostri lavori o rendendoci inutili.
Con l’intelligenza aumentata, otteniamo la velocità e la scalabilità dell’intelligenza artificiale e del machine learning, ma solo per migliorare ciò che un individuo sta cercando di raggiungere. Nella lotta ai pregiudizi, significa essere in grado di supportare team differenti nel rivedere rapidamente grandi set di dati alterati da preconcetti, identificarli e rimuoverli prima che questi vengano trasformati in azioni su larga scala.
Un futuro senza pregiudizi?
Siamo una specie imperfetta. Eppure, gli errori che ci rendono umani ci rendono preziosi. Ci offrono la possibilità di essere creativi e di innovare, qualcosa che le macchine non possono ancora replicare.
Tuttavia, al fine di gestire tali punti deboli, dobbiamo essere consapevoli delle nostre debolezze, dei nostri pregiudizi e dei preconcetti che tutti noi abbiamo. L’unico modo per farlo è combinare la capacità umana di essere empatici e comprendere le sfumature, con la scalabilità e velocità della tecnologia. In altre parole, l’intelligenza aumentata.
