IBM Axes Facial Recognition Research Amid Police Reform Protests

IBM Axes Facial Recognition Research Amid Police Reform Protests

IBM har meddelat att företaget inte längre kommer att utveckla, undersöka eller erbjuda ansiktsigenkänningsteknik, ett massivt steg mot en mindre dystopisk framtid.

Ansiktsigenkänning har sett sin rättvisa andel av kontroverser och motreaktioner de senaste åren. Från stadsförbud till omstridda lanseringar har tekniken höjt ögonbrynen och ruffade fjädrar över det politiska landskapet, och med rätta med tanke på programvarans potentiellt farliga natur.

Nu har IBM, ett av de äldsta och mest inflytelserika teknikföretagen i världen, dragit en linje i sanden om forskning om tekniken och skapat scenen för en global diskussion om dess användning över hela världen.

IBM Sunsets Facial Recognition Technology

I ett brev till kongressen redogjorde Arvind Krishna, VD f√∂r IBM, f√∂r ett antal specifika politiska f√∂rslag som han tror kommer att hj√§lpa landet att uppn√• √•tminstone ett m√•tt p√• raslikhet. Bland dessa policyf√∂rslag var en uppmaning att inr√§tta mer “ansvarsfull teknikpolicy”, d√§r han uppgav att f√∂retaget “inte l√§ngre erbjuder ansiktsigenk√§nnings- eller analysprogramvara f√∂r allm√§nt √§ndam√•l.”

‚ÄĚIBM mots√§tter sig starkt och kommer inte att godk√§nna anv√§ndningen av n√•got [facial recognition] teknik, inklusive ansiktsigenk√§nningsteknik som erbjuds av andra leverant√∂rer, f√∂r mass√∂vervakning, rasprofilering, kr√§nkningar av grundl√§ggande m√§nskliga r√§ttigheter och friheter eller n√•got annat syfte som inte √∂verensst√§mmer med v√•ra v√§rderingar och principer f√∂r f√∂rtroende och transparens. ‚ÄĚ

Krishna fortsätter med att förklara värdet av teknik som ansiktsigenkänning och artificiell intelligens när det gäller dess potential att hålla medborgarna säkra när de används på rätt sätt. Tyvärr, på grund av bristande noggrannhet, är tekniken helt enkelt inte redo att användas för detta ändamål förrän vissa ändringar görs vad gäller tillsyn.

“Leverant√∂rer och anv√§ndare av Al-system har ett delat ansvar f√∂r att se till att Al testas f√∂r partiskhet, s√§rskilt n√§r de anv√§nds vid brottsbek√§mpning, och att s√•dan partisk testning granskas och rapporteras.”

Tyv√§rr har detta ansvar i stor utstr√§ckning ignorerats av teknikindustrin, varf√∂r Krishna efterlyste ‚ÄĚen nationell dialog om huruvida och hur ansiktsigenk√§nningsteknik ska anv√§ndas av inhemska brottsbek√§mpande myndigheter.‚ÄĚ Och vi kan alla komma √∂verens, det √§r f√∂r l√§nge sedan.

Den problematiska karaktären av ansiktsigenkänning

Som med de flesta tekniker är ansiktsigenkänning långt ifrån perfekt. Och medan en brist på perfektion är bra när det gäller bärbara datorer och TV-apparater, kräver ansiktsigenkänningsteknik åtminstone nästan perfekt funktionalitet för att vara till och med fjärransluten. Tyvärr är det inte ens nära fallet.

Studie efter studie efter studie har visat att ansiktsigenkänningsteknologi är särskilt förspänd efter kön och ras. I själva verket identifierar många av dessa program misstänkta oftare än de identifierar dem korrekt. Detta innebär att teknik för ansiktsigenkänning har potential att förvärra brottsbekämpande myndigheters redan tvivelaktiga metoder gentemot människor i färg snarare än att förbättra dem.

Tyvärr, oavsett om det är i strävan efter innovation eller rikedom, har teknikföretag bestämt tvekat att välkomna reglering i sin bransch. Till skillnad från med bärbara datorer och tv-apparater gör de vidsträckta konsekvenserna och de farliga konsekvenserna av att integrera ansiktsigenkänningsteknik i brottsbekämpande myndigheter att tillåta tillsyn mindre en fråga om dollar och cent och mer en fråga om ansvarsskyldighet.

Ansiktsigenkänning och protesterande

Trots att brevet från IBM inte nämner en enda rörelse om Black Lives Matter, skulle du vara svårt att övertyga någon om att detta drag inte främst drivits av polisreformprotester runt om i världen. Med tanke på de dussintals tvivelaktiga åtgärder som vidtagits av brottsbekämpande myndigheter i USA för att avveckla protester, är det säkert att anta att IBM kände igen de potentiellt farliga konsekvenserna av ansiktsigenkänningsteknik i den skala.

Att missidentifiera misstänkta är en av de mer pressande problemen när det gäller ansiktsigenkänningsteknik, men det är verkligen inte det enda, särskilt med tanke på förhållandet mellan polis och medborgare i dag. Med stridande protester som tar världen med storm, har polisen visat lite oro för lämpligt driftförfarande, och användningen av ansiktsigenkänningsteknik kan göra det mycket värre.

Seattle PD drar mamma ut ur sin bil medan hennes 9-√•ring √§r i baks√§tet. Officeren ber√§ttar f√∂r henne att hon har ‚ÄĚflera anfall av att angripa en officer. Du attackerade mig och du attackerade en annan officer ‚ÄĚvid en protest f√∂r n√•gra dagar sedan.

Poliserna hämnas på demonstranter. pic.twitter.com/3aZGVowwLd

РDÆ (@daeshikjr) 6 juni 2020

Bekymmer för att identifieras och åtalas för protester är mycket verkliga i rörelsen, med arrangörer som bönfaller demonstranter för att begränsa delning av sociala medier när människors ansikten är synliga. Det har till och med varit ett starkt tryck från vissa för att specifikt sudda ut ansikten och skrubba metadata från bilder, i hopp om att bevara rätten att protestera utan rädsla för åtal efter det faktum. Hade ansiktsigenkänningstekniken implementerats mer i brottsbekämpande organ före dessa protester kunde risken ha varit mycket högre.

Teknikföretag har vidtagit åtgärder bland de globala polisreformprotesterna på ett antal sätt Рfrån att begränsa stötande innehåll, till att donera till välgörande ändamål som främjar rösterna för färgade människor. Men med att IBM avskaffat ett onekligen lukrativt initiativ i strävan efter en mindre splittrad värld har teknikföretaget höjt ribban för vad det innebär att vara en del av rörelsen.