Welke invloed heeft gdpr op de ai-industrie | Ben Dickson

In wat kan worden omschreven als een soort wapenwedloop, hebben technologiebedrijven grote hoeveelheden gebruikersgegevens verzameld om de kunstmatige intelligentie-algoritmen aan te scherpen die hun toepassingen en platforms aansturen. Tot dusverre zijn ze vooral in staat geweest om aan verantwoordingsplicht te ontkomen wanneer hun praktijken hen in juridisch en ethisch grijze gebieden hebben geduwd.

Maar dat kan veranderen op 25 mei, wanneer de algemene regels voor gegevensbescherming (AVG) van de Europese Unie van kracht worden. De AVG zal ongekende beperkingen opleggen aan het verzamelen en verwerken van gebruikersgegevens in de EU-regio en zware boetes opleggen aan bedrijven die niet naleven.

Dat klinkt misschien als slecht nieuws voor bedrijven die AI-algoritmen gebruiken, die hebben geprofiteerd van de lakse regelgeving voor gegevensverzameling (en lange, saaie en dubbelzinnige servicevoorwaarden). Sommigen vrezen dat strengere regels innovatie en inzet van kunstmatige intelligentie in veel applicaties en domeinen zullen belemmeren. Anderen geloven dat de nieuwe richtlijn een basis zal leggen waar AI-applicaties betrouwbaarder en betrouwbaarder worden.

Hoe dan ook, de AI-industrie staat voor een grote verschuiving in het GDPR-tijdperk.

Gegevensbezit en privacy

"GDPR is belangrijk voor AI, omdat het vereist dat we anders denken over hoe we gegevens verzamelen en gebruiken", zegt Tim Estes, oprichter en president van Digital Reasoning. "Te lange tijd hebben technologiebedrijven erop aangedrongen dat je je gegevens moest opgeven om waarde te krijgen uit hun producten en diensten."

Voorheen moesten bedrijven slechts een vage toestemming van gebruikers ontvangen om allerlei gegevens te verzamelen. "AI heeft geholpen om de big data-hype levend te houden - nog een reden waarom bedrijven alle beschikbare gegevens zouden moeten verzamelen en minen", zegt Estes. "Veel bedrijven zijn begonnen met het implementeren van AI om hun gegevens te analyseren alleen omdat ze denken dat ze dat zouden moeten - zonder na te denken over de impact op de privacy van gebruikers of het eigendom van gegevens."

Het basisprincipe van GDPR is dat gegevens van gebruikers zijn. Onder de AVG zullen bedrijven de volledige reikwijdte van de informatie die ze verzamelen moeten onthullen, evenals hoe ze deze gebruiken en hoe ze deze zullen beschermen en ongeautoriseerde toegang moeten voorkomen. De nieuwe regels zullen AI-bedrijven dwingen zorgvuldiger om te gaan met de gegevens die zij verzamelen in plaats van betrokken te raken bij het opzettelijk hamsteren, verwerken en delen van gebruikersinformatie.

Het recht om vergeten te worden

GDPR geeft gebruikers de mogelijkheid om te eisen dat een bedrijf al hun gegevens van zijn servers wist. Dit past niet goed bij AI-bedrijven, die er belang bij hebben zoveel mogelijk gebruikersgegevens te bewaren om taken uit te voeren, zoals het voorspellen van trends en gebruikersgedrag.

"Uiteindelijk gaat GDPR helemaal over hoe je de gegevens verzamelt en beheert en niet noodzakelijkerwijs over hoeveel gegevens je hebt", zegt Maryna Burushkina, CEO van GrowthChannel. "De grootste moeilijkheid waarmee de meeste bedrijven zullen worden geconfronteerd, is niet zozeer het verkrijgen van opt-ins, maar meer het beheren van de gegevens, het communiceren van het gebruik van gegevens aan gebruikers en het bieden van mogelijkheden aan gebruikers om deze te verwijderen."

KI-bedrijven zullen extra stappen moeten zetten om hun gegevens te anonimiseren als ze nog steeds toegang willen hebben tot deze inzichten. Maar andere uitdagingen staan ​​voor bedrijven die al grote hoeveelheden gebruikersgegevens hebben.

"Onder GDPR, als een bedrijf een specifieke PII wil wissen, dan moeten ze ervoor zorgen dat deze overal wordt gewist", zegt Amnon Drori, CEO van Octopai. Dit kan een ontmoedigende taak zijn om handmatig uit te voeren wanneer uw gegevens over verschillende servers zijn verspreid en in verschillende gestructureerde en ongestructureerde indelingen zijn opgeslagen.

Bij het verwijderen van het creditcardnummer van een gebruiker (zeker een gevoelig stuk informatie), moeten bedrijven bijvoorbeeld elk rapport, elke database, elk database-object en elke ETL bekijken waar de informatie is opgeslagen. "Soms zien we verschillende metadatanamen voor hetzelfde item: bijvoorbeeld 'creditcardnummer', 'cc-nummer', creditcard-nummer ', ' kaartnummer ', ' creditcardnummer '… de lijst gaat maar door en ", zegt Drori. Het is vaak onmogelijk om te weten waar te kijken en het proces kan weken of zelfs maanden duren, en zoals bij veel handmatige processen, is het gevoelig voor menselijke fouten en onnauwkeurigheden, zegt Drori.

GDPR verhoogt ook de kosten van menselijke fouten bij het omgaan met gegevens. "Daarom zijn zoveel bedrijven tegenwoordig op zoek naar een geautomatiseerde oplossing om hun metadata nauwkeurig te beheren", zegt Drori. Misschien ironisch genoeg kan AI zelf in dit opzicht een oplossing zijn. AI-aangedreven hulpmiddelen voor metadatabeheer kunnen alle gegevensbronnen binnen een organisatie scannen en relaties tussen verschillende hulpmiddelen en gegevensbronnen consolideren.

Het recht op uitleg

Een van de belangrijkste onderdelen van de AVG met betrekking tot AI is wat bekend staat als het 'recht op uitleg'. De richtlijn bepaalt dat bedrijven gebruikers op de hoogte moeten stellen van "het bestaan ​​van geautomatiseerde besluitvorming" en hen "zinvolle informatie moeten verstrekken over de betrokken logica, evenals de betekenis en de beoogde gevolgen van dergelijke verwerking voor de betrokkene".

Dit betekent in feite dat gebruikers moeten weten wanneer ze direct of indirect onderworpen zijn aan AI-algoritmen en in staat moeten zijn om de beslissingen van die algoritmen te betwisten en om bewijs te vragen hoe de conclusie is afgeleid. Dit wordt een van de grootste uitdagingen voor de AI-industrie.

Diepe neurale netwerken, de belangrijkste technologie achter hedendaagse AI-algoritmen, zijn complexe softwarestructuren die hun eigen functionaliteitsregels maken door grote gegevenssets te analyseren en correlaties en patronen te vinden. Naarmate neurale netwerken complexer worden, wordt hun gedrag steeds moeilijker te ontleden. Vaak kunnen zelfs ingenieurs niet de redenen achter de beslissingen verklaren die hun AI-algoritmen nemen.

Het 'black box'-probleem genoemd, heeft de onverklaarbaarheid van AI-algoritmen het moeilijk gemaakt om ze te implementeren in rechtszaalbeslissingen, wetshandhaving, leningen en kredietaanvragen, werving, gezondheidszorg en andere kritieke domeinen. Maar zonder enige juridische hefboomwerking hadden AI-bedrijven weinig prikkels om hun AI-algoritmen transparanter te maken, vooral wanneer ze nauw verbonden waren met hun handelsgeheimen.

Nu zal GDPR AI-bedrijven aanspreken op de beslissingen die hun algoritmen nemen.

"Als onderdeel van de AVG zijn organisaties verantwoordelijk voor het duidelijk beschrijven van de verwerkingsmethode in menselijke taal, terwijl ze toestemming vragen aan het onderwerp", zegt Pascal Geenens, beveiligingsonderzoeker bij Radware. "Naarmate diepgaand leren evolueert en datawetenschappers niet in staat zijn om een ​​deterministische aard achter de redenering van het neurale netwerk te karakteriseren, kan deze beschrijving complexer en moeilijker te verklaren zijn."

In principe gaat GDPR over het verantwoordelijk maken van de mensen die de gegevens verwerken, zegt Geenens. Dus als u machine learning-algoritmen gebruikt om de verwerking uit te voeren, moet u ze zo ontwerpen dat u de beslissingen kunt uitleggen die zij namens u nemen.

Een handvol organisaties probeert technologieën te ontwikkelen om AI transparanter te maken. Prominent onder hen is DARPA's Explainable AI (XAI), een onderzoeksproject dat erop gericht is om op AI gebaseerde beslissingen begrijpelijk te maken.

AI uitbesteden

GDPR heeft ook invloed op organisaties die hun gegevens beschikbaar stellen aan derden. Een prominent voorbeeld van zo'n bedrijf is Facebook; in zijn Cambridge Analytica-schandaal slaagde de social media-gigant er niet in te voorkomen dat het dataminingbedrijf de gegevens van 87 miljoen gebruikers verzamelde en misbruikte. Maar GDPR zal ook gevolgen hebben voor bedrijven die hun AI-functionaliteiten uitbesteden en hun gegevens beschikbaar stellen aan AI-providers.

"Hoewel velen aannemen dat AI-providers zijn zoals andere serviceproviders - simpelweg hun technologie aanbieden in ruil voor geldelijke compensatie - de waarheid is dat AI-providers ook zakelijke partnerships aangaan als een manier om op hun technologie voort te bouwen en deze te ontwikkelen", zegt Estes, de chief executive van Digital Reasoning. Dit betekent dat een AI-provider de gegevens van een klant mogelijk wil behouden om zijn eigen algoritmen verder te trainen en in andere domeinen te gebruiken.

Een AI-aanbieder die een zorginstelling helpt patronen in symptomen te vinden en diagnoses te verbeteren, kan bijvoorbeeld een gegevensset tegenkomen die de eigen algoritmen verbetert. Het AI-bedrijf wil dan mogelijk de gegevens gebruiken om zijn algoritmen voor andere soorten patiëntenzorg te verbeteren, om zijn mogelijkheden te ontwikkelen om andere zorgverleners te helpen. Volgens de AVG wordt de zorginstelling die verantwoordelijk is voor de gegevens aansprakelijk gesteld voor onethisch gebruik door de AI-provider. De sleutel is volgens Estes dat bedrijven op zoek moeten gaan naar AI-providers die geloven in het bezitten van de algoritmen, niet van de gegevens.

"GDPR zal bedrijven dwingen om meer aandacht te schenken aan hoe en wanneer hun gegevens worden gebruikt, waar deze worden opgeslagen en wat ermee gebeurt nadat een project is voltooid", zegt Estes. "Dit betekent werken met AI-providers die helpen bij het definiëren van de lijnen van data-eigendom en het implementeren van strategieën die gebruikersinformatie beschermen, zonder de manier waarop het in staat is het succes van AI-algoritmen te helpen ontwikkelen, te belemmeren."

Zal GDPR AI-innovatie belemmeren?

Experts die we spraken, zijn van mening dat hoewel de nieuwe regelgeving de huidige praktijken en gewoonten die AI-bedrijven hebben aangenomen, zal uitdagen, het hen ook zal dwingen om nieuwe manieren te vinden om te innoveren en ook om respect voor privacy en ethische normen te handhaven.

"Met de inwerkingtreding van GDPR-regelgeving nemen alle grote softwarebedrijven de nodige maatregelen om niet alleen de naleving te garanderen, maar ook om te innoveren en out-of-the-box te denken om nieuwe kansen in de markt te vinden", zegt Burushkina van GrowthChannel.

"Innovatie zal niet worden gehinderd - maar geleid en gemotiveerd - door GDPR", zegt Dropai van Octopai. Ondertussen zal GDPR ook leiden tot nieuwe bedrijven en technologieën die organisaties zullen helpen bij het bereiken en handhaven van GDPR-compliance.

De normen van GDPR kunnen in feite helpen de groeiende vertrouwenskloof tussen de aanbieders en gebruikers van AI-aangedreven diensten te overbruggen. Estes gelooft dat GDPR zowel AI-aanbieders als degenen die hun technologie implementeren, meer verantwoordelijk zal maken voor hoe en waar ze gegevensbronnen gebruiken en hen ertoe aanzetten om gebruikers voor winst te stellen. "Aan het einde van de dag, " zegt hij, "hoeven AI-providers alleen de algoritmen te bezitten - en niet de gegevens - om hun mogelijkheden en oplossingen te innoveren."