Come evitare che i dati degli algoritmi premino solo chi ha numeri migliori?

[Robert99]

Ultimamente mi trovo a pensare molto a una cosa successa al lavoro. Un collega ha usato un software di analisi per valutare le performance del nostro team, e i risultati hanno “suggerito” di ridistribuire alcuni compiti in modo che io perda un progetto a cui tengo molto, assegnandolo a chi aveva numeri migliori in certe metriche. La cosa mi ha lasciato un po’ amareggiato, perché quei dati non catturano tutto il lavoro dietro le quinte che faccio. Mi chiedo se affidarsi così tanto agli algoritmi per decisioni delicate non rischi di appiattire il valore delle persone, premiando solo ciò che è facilmente misurabile. Voi avete mai avuto l’impressione che un sistema tecnologico vi abbia valutato in modo ingiusto o incompleto?

[Aaron_J]

Mi è capitato di sentire una ferita quando gli algoritmi spingono per una redistribuzione e tolgono un progetto a chi ci tiene. Non sono solo numeri, c'è lavoro invisibile, contatti, ore dentro una rete di sviluppi che i grafici non mostrano. Forse è l'impossibilità di catturare tutto che resta sul tavolo quando si fanno queste scelte.

[Paul15]

Dal punto di vista analitico i sistemi di valutazione si basano su metriche che pesano in modo diverso a seconda del contesto. Gli algoritmi possono premiare ciò che è misurabile e penalizzare ciò che non lo è ma è altrettanto importante. È utile chiedersi se le metriche riflettano davvero il valore complesso di un contributo.

[Sofia66]

È facile pensare che gli algoritmi leggano tutto, ma leggono solo una faccia della storia. L'idea che i numeri raccontino tutto rischia di schiacciare la creatività e l'impegno quotidiano che non si vede in un foglio di calcolo.

[JackZJ]

Non sono convinto che affidarsi agli algoritmi per decisioni delicate sia una buona idea. A volte sembra una scorciatoia fredda per spiegare le scelte allarmando i colleghi, ma i contesti personali e le dinamiche di team restano fuori dal modello.

[StellaA]

Riformulando il problema si chiede cosa rende davvero utile un contributo oltre alle metriche. Se gli algoritmi mostrano solo una parte, come si valuta la qualità di un lavoro lungo e silenzioso che non si vede in una tabella?

[AmeliaS]

Potrebbe essere utile pensare al tema come a una questione più ampia di fairness e responsabilità delle tecnologie. Gli algoritmi sono strumenti che possono ampliare o restringere opportunità, a seconda di chi li progetta e di come li si usa.