Apple iPhone X kan inte säga Apart kinesiska ansikten, återbetalning ges

Förra veckan, i Nanjing, en storstad i östra Kina, en kvinna med namnet Yan, erbjöds två gånger ett återbetalning från Apple för hennes felaktiga iPhoneX, som hennes kollega låses upp med hjälp av ansiktsigenkänningsteknik. Båda kvinnorna är etniskt kinesiska.

Yan berättade för lokalnyheter att hon för första gången hände iPhone-hotline, men de trodde inte henne. Det var inte förrän hon och hennes kollega gick till en lokal Apple Store och visade butikens personal att de erbjöd henne en återbetalning och hon köpte en ny telefon och tänkte att det kanske skulle vara en felaktig kamera att skylla på.

Men den andra telefonen hade samma problem, vilket tyder på att det inte var en felaktig kamera, som butikens arbetare föreslog, men ett problem med själva mjukvaran.

Detta skulle inte vara det första fallet i vilket ansiktsigenkänningsprogram och AI bakom det har haft problem med att erkänna icke-vita ansikten.

I 2015 taggade Google Foton ett ojämförligt bild av två afroamerikaner som gorillor, medan 2009 HP-datorer http://www.youtube.com/watch?v=t4DT3tQqgRM) hade problem att identifiera och spåra svarta ansikten - men inga problem med vita ansikten. Samma år blev Nikons kameraprogramvara fångad för att missfärga ett asiatiskt ansikte som blinkande.

Google Foton, du är knullad. Min vän är inte en gorilla. pic.twitter.com/SMkMCsNVX4

- Jacky (@jackyalcine) 29 juni 2015

"Detta är i grunden ett dataproblem", skrev Kate Crawford, en huvudforskare i Microsoft och medordföranden för Obama White House Symposium on Society och A.I. "Algoritmer lär sig genom att matas vissa bilder, ofta utvalda av ingenjörer, och systemet bygger en modell av världen utifrån dessa bilder. Om ett system är utbildat på bilder av människor som är överväldigande vita, kommer det att få en hårdare tid som känner igen icke-vita ansikten."

Jacky Alcine, den Brooklyn-baserade programmeraren vars foto mislabeled av Google, kom överens om. Av hans erfarenhet sa han: "Det kunde ha undvikits med exakt och mer fullständig klassificering av svarta människor."

Men den rasism som kodas till AI, även om den är oavsiktlig, har konsekvenser utöver bara ansiktsigenkänning.

En ProPublica-undersökning 2016 fann att svarta brottslingar var dubbelt så sannolikt att vara av misstag flaggad som sannolikt att återkomma brott än vita brottslingar, medan den växande trenden med "prediktiv polis" använder algoritmer för att prognostisera brottslighet och direkta polisresurser i enlighet därmed.

Men minoritetssamhällen har historiskt varit överpoliserad, vilket ledde till att "denna programvara riskerar att fortsätta en redan ond cykel", säger Crawford.

Tillbaka i Nanjing, Kina, fick Yan en andra återbetalning på sin andra iPhoneX. Från lokala nyhetsrapporter är det oklart om hon då köpte en tredjedel.

Vad som stod på spel, den här gången, kan ha varit en enda konsument. Men Yan-fallet var ett exempel på det fortsatta behovet av teknikindustrin att utforma med mångfald och inklusivitet i åtanke.