Il software di monitoraggio di ExamSoft ha un problema di rilevamento dei volti

Gabe Teninbaum, professore alla Suffolk University Law School, chiede a ExamSoft di correggere un grave bug con il suo software di test: il mancato riconoscimento dei volti. È un problema che può ritardare i partecipanti al test o impedire loro di iniziare del tutto gli esami e, secondo i rapporti, ha un impatto sproporzionato sulle persone con tonalità della pelle scura.

Il software di ExamSoft registra gli studenti mentre completano gli esami remoti e monitora i segni di disonestà accademica. Il rapporto di Teninbaum affronta una funzionalità ExamSoft chiamata ExamID, che mira a verificare che i partecipanti al test siano chi dicono di essere. La prima volta che uno studente accede al portale degli esami, carica una sua foto (la sua “immagine di base”); viene quindi chiesto di fare un altro selfie prima di iniziare gli esami futuri, che il software verifica rispetto alla foto originale.

Ricerca ha scoperto che gli algoritmi di riconoscimento facciale commettono costantemente più errori nell’identificazione dei volti neri rispetto a quelli bianchi. E sebbene quegli studi non si concentrassero specificamente su ExamSoft, non sembra essere un’eccezione. A settembre, più partecipanti agli esami non bianchi hanno detto al New York Times che il software non è riuscito a identificarli a causa della “scarsa illuminazione”, un problema che Teninbaum, che ha la pelle chiara, non è stato in grado di replicare.

All’inizio di questo autunno, Teninbaum ha deciso di trovare una soluzione. Crede che tali errori aggiungano uno stress eccessivo a un periodo di tempo già stressante. “Questi sono studenti che stanno per sostenere un esame ad alto rischio con molto in ballo, e questo è molto sgradito”, ha detto Teninbaum in un’intervista a The Verge.

“Ogni volta che vai in un esame, vuoi solo concentrarti sull’esame”, ha aggiunto. “Non vuoi avere la sensazione di avere queste sfide aggiuntive.”

Teninbaum crede anche che l’ottica sia importante; le scuole devono agli studenti emarginati di non fare affidamento su una categoria di software nota per essere discriminatoria. “Gli studenti meritano di sentire che la loro istituzione sta facendo il possibile per proteggere i loro diritti, interessi e dignità”, afferma.

Nel suo rapporto, disponibile in Il Journal of Robotics, Artificial Intelligence e Law, Teninbaum delinea la soluzione che ha trovato.

Suggerisce che le scuole assegnino a ogni studente un’immagine generica identica di base. Quindi, propone, dovrebbero chiedere a ExamSoft di abilitare l ‘”identificazione differita”, una funzionalità incorporata nel software che consente agli studenti di procedere con gli esami anche se l’identificazione fallisce. Questa funzione è fondamentalmente nascosta: non è menzionata da nessuna parte sul sito Web di ExamSoft (almeno, non che ho potuto trovare). Solo ExamSoft può attivarlo.

In tandem, queste modifiche faranno sì che ExamSoft identifichi erroneamente ogni candidato. Ma saranno comunque in grado di procedere con gli esami: ExamSoft invierà i selfie alla scuola in seguito e gli istruttori potranno verificare manualmente tutti. “Sappiamo chi sono i nostri studenti”, dice Teninbaum. “Possiamo assicurarci che gli studenti siano chi dicono di essere ed evitare di sottoporre gli studenti a questo tipo di sfide”.

Suggerisce inoltre che ExamSoft renda la funzione di “identificazione differita” accessibile ai clienti. “Il giornalista esorta ExamSoft a incorporare questa funzione in una funzione in base alla quale le istituzioni possono semplicemente attivare / disattivare, bypassando così ExamID fino a quando la tecnologia non maturerà in una che non discrimina”, si legge nel suo rapporto.

Teninbaum spera che questi cambiamenti durino oltre la pandemia COVID-19 e possano aiutare gli studenti a sentirsi più a loro agio nel prendere lezioni a distanza. “Diventerà un problema crescente man mano che le persone si collegheranno sempre di più alla loro istruzione”, afferma.

Anche così, ha risolto solo una parte del problema. Gli studenti hanno sperimentato un gamma di singhiozzi con il software di proctoring di ExamSoft. Oltre 3.000 Le persone che hanno utilizzato la piattaforma per sostenere l’esame di avvocato della California a ottobre hanno visto i loro video contrassegnati per potenziali violazioni delle regole: quasi il 36% dei candidati che hanno sostenuto l’esame online. Gli utenti hanno segnalato problemi audio e anche altri problemi tecnici.

Un gruppo di sei senatori statunitensi – tra cui Richard Blumenthal, Elizabeth Warren e Corey Booker – ha scritto una lettera aperta a ExamSoft a dicembre, evidenziando i potenziali danni agli studenti di colore e agli studenti con disabilità, tra numerose altre preoccupazioni.

ExamSoft non ha risposto immediatamente a una richiesta di commento.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *