Microsoft, ijs en het probleem dat technologie 'neutraal' is

Wanneer je op zoek bent naar woorden om IBM te beschrijven, denk je solide en vastberaden, maar het is ook gekleurd. Tijdens de Tweede Wereldoorlog hielp IBM onder leiding van zijn voorzitter en CEO Thomas Watson bij het mechaniseren van het administratieve werk van het Derde Rijk.

De Duitse dochteronderneming van het bedrijf, met de medewerking en coördinatie van het moederbedrijf, richtte concentratiekampen op met geleasde kaartsorteermachines die het onderhield, applicaties op maat en voorzien van papier om ze in ponskaarten te bewaren. De informatie die door die Hollerith-machines werd verspreid, speelde een rol bij het plaatsen van Joden achter het prikkeldraadscherm dat miljoenen niet zouden ontvluchten.

Tegenwoordig zitten duizenden kinderen van immigranten en asielzoekers in hun eigen kettingschakels in Amerikaanse detentiecentra, barcodes om hun polsen gewikkeld. Bedrijven achter de technologie die ze bijhoudt - of niet - willen daar niet over opscheppen.

In januari heeft Microsoft de samenwerking met Immigration and Customs Enforcement (ICE) besproken, die gebruik maakt van de Azure Government-cloudservice van Redmond. De post kwam deze week opnieuw tevoorschijn temidden van de opschudding over het beleid van de overheid voor de scheiding van kinderen aan de grens, en voor een korte tijd werd elke vermelding van ICE ervan weggewassen. Bronnen met kennis van het probleem vertelden PCMag dat een werknemer het had verwijderd na het zien van commentaar op sociale media; het werd kort daarna hersteld.

De bron zei ook dat ze niet geloven dat Azure of Azure-services worden gebruikt bij de scheiding van gezinnen aan de zuidelijke grens, iets wat CEO Satya Nadella herhaalde in een brief waarin het beleid van de overheid om gezinnen te scheiden wordt veroordeeld. Hij zei dat Azure alleen door ICE wordt gebruikt voor legacy-e-mail-, agenda-, berichten- en documentbeheer-workloads.

Maar hij weet eigenlijk niet precies hoe het bureau zijn diensten gebruikt. Sommige Microsoft-medewerkers zijn het blijkbaar eens; ze schreven een open brief waarin ze het bedrijf vroegen het contract met ICE te beëindigen. Ontwikkelaars op GitHub, die Microsoft onlangs heeft overgenomen, deden hetzelfde.

Hier moeten technologiebedrijven beslissingen nemen op morele gronden; willen ze zaken doen met overheidsinstanties die zich bezighouden met werk dat de Hoge Commissaris van de VN voor de mensenrechten onbewust heeft genoemd?

Controverse over beeldherkenning

Hoewel het een lager profiel had, tekende Vigilant Solutions een contract met ICE voor zijn kentekenplaatherkenningsprogramma (LPR), dat wordt gebruikt om mensen in realtime te vinden en te volgen. "Onze LPR-oplossing is niet alleen voor het vinden van gestolen voertuigen. Het is daarvoor en nog veel meer", zegt de website van het bedrijf.

Vigilant Solutions heeft niet gereageerd op een onderzoek naar zijn werk met ICE. En het is niet het enige bedrijf dat de mond volhoudt over beeldherkenningstechnologie die wordt gebruikt door wetshandhavings- en overheidsinstanties.

Amazon's Rekognition gebruikt diep leren om levenloze objecten, mensen en activiteiten te detecteren. Wanneer wordt gevraagd naar legaal maar misschien maatschappelijk twijfelachtig gebruik als ICE klant wordt, erkent een woordvoerder van Amazon het potentieel voor misbruik, maar zei Rekognition onderworpen is aan het beleid voor acceptabel gebruik van Amazon Web Services.

Een lezing van het beleid schiet tekort op manieren die aanstootgevend gedrag zouden stoppen. De meest relevante sectie zou verbieden "Alle activiteiten die illegaal zijn, die de rechten van anderen schenden of die schadelijk kunnen zijn voor anderen, onze activiteiten of reputatie."

Rekognition wordt niet gebruikt door ICE, maar het wordt gebruikt door verschillende politiediensten, iets dat sommige Amazon-aandeelhouders zorgen baart, die het bedrijf hebben gevraagd om te stoppen met het verkopen van Rekognition aan wetshandhaving.

NBC News heeft een hele reeks technologiebedrijven ontdekt die contracten hebben met ICE, waaronder HP Enterprise, Dell en Motorola. Eén bedrijf dat ICE helpt, zou geen verrassing moeten zijn: Palantir. Het heeft een deal van $ 41 miljard voor ICE's Investigative Case Management-product, dat volgens de documenten van The Intercept 'missiekritisch' is voor het bureau.

De mede-oprichter en voorzitter van Palantir, Peter Thiel, is sinds zijn campagne een vaste voorstander van Donald Trump. Thiel zelf heeft niet gesproken over de situatie aan de grens, maar in 2008 heeft hij een donatie van $ 1 miljoen gedaan aan anti-immigrantengroep NumbersUSA, die zich inzet voor het verminderen van zowel legale als illegale immigratie. Thiel ziet blijkbaar geen ironie in het feit dat hij een Nieuw-Zeelandse burger wordt door het gebruikelijke proces te omzeilen.

Overheidscontracten zijn betrouwbaar lucratief, maar profiteren van activiteiten die zo vergelijkbaar zijn met die welke hebben geleid tot enkele van de ergste wreedheden in de geschiedenis, kost een te hoge prijs. Vraag het maar aan Google, die worstelt met bezwaren tegen zijn werk met het Pentagon aan een controversieel drone-programma. De sociale hoofdstad Silicon Valley heeft in de loop der jaren gewonnen en haar capaciteiten en vaardigheden moeten worden gebruikt om de verschrikkingen van ons verleden voor een betere toekomst uit te roeien.