IBM har meddelat att företaget inte längre kommer att utveckla, undersöka eller erbjuda ansiktsigenkänningsteknik, ett massivt steg mot en mindre dystopisk framtid.
Ansiktsigenkänning har sett sin rättvisa andel av kontroverser och motreaktioner de senaste åren. Från stadsförbud till omstridda lanseringar har tekniken höjt ögonbrynen och ruffade fjädrar över det politiska landskapet, och med rätta med tanke på programvarans potentiellt farliga natur.
Nu har IBM, ett av de äldsta och mest inflytelserika teknikföretagen i världen, dragit en linje i sanden om forskning om tekniken och skapat scenen för en global diskussion om dess användning över hela världen.
IBM Sunsets Facial Recognition Technology
I ett brev till kongressen redogjorde Arvind Krishna, VD för IBM, för ett antal specifika politiska förslag som han tror kommer att hjälpa landet att uppnå åtminstone ett mått på raslikhet. Bland dessa policyförslag var en uppmaning att inrätta mer “ansvarsfull teknikpolicy”, där han uppgav att företaget “inte längre erbjuder ansiktsigenkännings- eller analysprogramvara för allmänt ändamål.”
”IBM motsätter sig starkt och kommer inte att godkänna användningen av något [facial recognition] teknik, inklusive ansiktsigenkänningsteknik som erbjuds av andra leverantörer, för massövervakning, rasprofilering, kränkningar av grundläggande mänskliga rättigheter och friheter eller något annat syfte som inte överensstämmer med våra värderingar och principer för förtroende och transparens. ”
Krishna fortsätter med att förklara värdet av teknik som ansiktsigenkänning och artificiell intelligens när det gäller dess potential att hålla medborgarna säkra när de används på rätt sätt. Tyvärr, på grund av bristande noggrannhet, är tekniken helt enkelt inte redo att användas för detta ändamål förrän vissa ändringar görs vad gäller tillsyn.
“Leverantörer och användare av Al-system har ett delat ansvar för att se till att Al testas för partiskhet, särskilt när de används vid brottsbekämpning, och att sådan partisk testning granskas och rapporteras.”
Tyvärr har detta ansvar i stor utsträckning ignorerats av teknikindustrin, varför Krishna efterlyste ”en nationell dialog om huruvida och hur ansiktsigenkänningsteknik ska användas av inhemska brottsbekämpande myndigheter.” Och vi kan alla komma överens, det är för länge sedan.
Den problematiska karaktären av ansiktsigenkänning
Som med de flesta tekniker är ansiktsigenkänning långt ifrån perfekt. Och medan en brist på perfektion är bra när det gäller bärbara datorer och TV-apparater, kräver ansiktsigenkänningsteknik åtminstone nästan perfekt funktionalitet för att vara till och med fjärransluten. Tyvärr är det inte ens nära fallet.
Studie efter studie efter studie har visat att ansiktsigenkänningsteknologi är särskilt förspänd efter kön och ras. I själva verket identifierar många av dessa program misstänkta oftare än de identifierar dem korrekt. Detta innebär att teknik för ansiktsigenkänning har potential att förvärra brottsbekämpande myndigheters redan tvivelaktiga metoder gentemot människor i färg snarare än att förbättra dem.
Tyvärr, oavsett om det är i strävan efter innovation eller rikedom, har teknikföretag bestämt tvekat att välkomna reglering i sin bransch. Till skillnad från med bärbara datorer och tv-apparater gör de vidsträckta konsekvenserna och de farliga konsekvenserna av att integrera ansiktsigenkänningsteknik i brottsbekämpande myndigheter att tillåta tillsyn mindre en fråga om dollar och cent och mer en fråga om ansvarsskyldighet.
Ansiktsigenkänning och protesterande
Trots att brevet från IBM inte nämner en enda rörelse om Black Lives Matter, skulle du vara svårt att övertyga någon om att detta drag inte främst drivits av polisreformprotester runt om i världen. Med tanke på de dussintals tvivelaktiga åtgärder som vidtagits av brottsbekämpande myndigheter i USA för att avveckla protester, är det säkert att anta att IBM kände igen de potentiellt farliga konsekvenserna av ansiktsigenkänningsteknik i den skala.
Att missidentifiera misstänkta är en av de mer pressande problemen när det gäller ansiktsigenkänningsteknik, men det är verkligen inte det enda, särskilt med tanke på förhållandet mellan polis och medborgare i dag. Med stridande protester som tar världen med storm, har polisen visat lite oro för lämpligt driftförfarande, och användningen av ansiktsigenkänningsteknik kan göra det mycket värre.
Seattle PD drar mamma ut ur sin bil medan hennes 9-åring är i baksätet. Officeren berättar för henne att hon har ”flera anfall av att angripa en officer. Du attackerade mig och du attackerade en annan officer ”vid en protest för några dagar sedan.
Poliserna hämnas på demonstranter. pic.twitter.com/3aZGVowwLd
– DÆ (@daeshikjr) 6 juni 2020
Bekymmer för att identifieras och åtalas för protester är mycket verkliga i rörelsen, med arrangörer som bönfaller demonstranter för att begränsa delning av sociala medier när människors ansikten är synliga. Det har till och med varit ett starkt tryck från vissa för att specifikt sudda ut ansikten och skrubba metadata från bilder, i hopp om att bevara rätten att protestera utan rädsla för åtal efter det faktum. Hade ansiktsigenkänningstekniken implementerats mer i brottsbekämpande organ före dessa protester kunde risken ha varit mycket högre.
Teknikföretag har vidtagit åtgärder bland de globala polisreformprotesterna på ett antal sätt – från att begränsa stötande innehåll, till att donera till välgörande ändamål som främjar rösterna för färgade människor. Men med att IBM avskaffat ett onekligen lukrativt initiativ i strävan efter en mindre splittrad värld har teknikföretaget höjt ribban för vad det innebär att vara en del av rörelsen.
