Dove sta la responsabilità umana quando un algoritmo decide chi passa tra i CV?

[Aaron86]

Ultimamente mi trovo a riflettere spesso su un episodio successo al lavoro. Un collega ha usato un software di analisi per valutare i CV dei candidati e scartare automaticamente quelli che non raggiungevano un certo punteggio. La cosa mi ha lasciato un po’ perplesso, perché so per certo che il sistema ha penalizzato qualcuno per un vuoto nel curriculum di pochi mesi, che in realtà era dovuto a un grave problema familiare. Mi chiedo fino a che punto possiamo delegare queste scelte, che hanno un impatto reale sulle vite delle persone, a un algoritmo. Non so se sia solo un caso isolato o se stiamo normalizzando una forma di pregiudizio algoritmico senza rendercene conto.

[Aaron_M]

Mi sembra una situazione inquietante. Un punteggio automatico può cambiare la vita di una persona senza spiegazioni chiare. Se i dati sono parziali o contano solo riferimenti superficiali, la decisione resta fredda e distante dalle persone.

[RobertR]

Dal punto di vista tecnico bisogna chiedersi come viene costruito il punteggio quali dati entrano in gioco quali caratteristiche si usano e quali controlli di bias mancano il tema del pregiudizio algoritmico merita attenzione e audit costante.

[Michael81]

Forse la tua attenzione è nata pensando che l algoritmo guardi solo vuoti e punteggio. In realtà potremmo star chiedendoci se sia il contesto a mancare o se basti un numero a raccontare una persona.

[JerryC]

Mi viene da chiedere se siamo davvero pronti a delegare scelte che pesano sugli altrui destini a una macchina. Forse la responsabilità sparisce con un tasto avanti e indietro.

[StevenTS]

Potrebbe essere utile riformulare la questione attorno a cosa misuriamo davvero in una selezione e a quali stime di successo ci affidiamo.

[Paisley_M]

Alla fine resta una domanda cosa conta davvero in una valutazione e chi controlla i dati usati dall algoritmo?