Techonomie: hoe u kunt oplossen wat er mis is met Google en Facebook

Misschien wel het meest verrassende thema van de Techonomy van dit jaar was hoe boos veel sprekers zijn op Facebook, Google en Twitter, met kritiek op hun benadering van privacy en in het bijzonder op de mogelijke rol die zij speelden bij het mogelijk maken van Russische hacking van de verkiezingen van 2016.

Een breed scala van sprekers drong aan op verschillende soorten regulering van deze 'internetreuzen', en niemand van een van de bovengenoemde bedrijven was op de conferentie om een ​​alternatief standpunt te bieden. Dit was heel anders dan de conferentie van vorig jaar, toen Mark Zuckerberg, CEO van Facebook, zei dat het idee dat nepnieuws op Facebook de verkiezingen beïnvloedde, "een behoorlijk gek idee" was.

Sindsdien, zoals mede-oprichter van Techonomy Simone Ross opmerkte, hebben we geleerd dat "technologie het ons net zo gemakkelijk maakt om ons te verdelen als om ons samen te brengen." Mede-oprichter van de conferentie David Kirkpatrick (hierboven) zette de toon voor de conferentie en zei: "technologie is een kracht voor het goede, maar alleen als je doel goed is" en zei verder dat hij geloofde dat de grote technologiebedrijven een "proactieve kruispunt "met de overheid, of het nu regulering wordt genoemd of niet.

Autoriteit in een genetwerkte, kunstmatig intelligente wereld

Bekende investeerder Roger McNamee van Elevation Partners, een vroege investeerder in zowel Facebook als Google, was misschien wel de meest negatieve van alle sprekers. McNamee zei dat deze bedrijven 'begonnen om de wereld te redden', maar dat dit veranderde toen reclame hun bedrijfsmodel werd. Hij zei dat de smartphone, in combinatie met persoonlijke informatie, het mogelijk heeft gemaakt om "een niveau van hersenhacking te creëren dat nog nooit eerder in de media is gezien".

McNamee zei dat hij geloofde dat Zuckerberg oprecht was toen hij zei dat hij niet geloofde dat hacken een jaar geleden mogelijk was, maar zei dat de rol die Google en Facebook nu spelen niet kan worden overschat. Hij zei: "het moet moeilijk zijn om ze nu te zijn en te beseffen dat je de westerse beschaving hebt vernietigd."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, elektronisch privacyinformatiecentrum (EPIC); Stratford Sherman, Accompli

Deze discussie kwam ter sprake in een deel van een panel over "Autoriteit in een genetwerkte, kunstmatig intelligente wereld" waarin ook Danah Boyd, een sociaal wetenschapper bij Data & Society en Microsoft Research, was opgenomen; Marc Rotenberg, voorzitter van het Electronic Privacy Information Center (EPIC); en moderator Stratford Sherman van Accompli. Sherman zei dat terwijl Facebook en Google begonnen als forums voor openbare spraak, ze "radicaal ongereguleerd" zijn. Met AI die een wezenlijke invloed kan hebben op het menselijk ras aan de horizon, zei Sherman dat hij zich zorgen maakt over de onbedoelde gevolgen van de technologische ontwikkeling die we al hebben gezien.

Rotenberg zei dat hoewel hij zich zorgen blijft maken over de traditionele privacykwesties over het volgen en profileren, hij zich ook zorgen maakt over het gebrek aan concurrentie, het gebrek aan innovatie en het risico voor democratische instellingen. Hij zei dat de internetreuzen een enorme macht hebben en dat de gegevens waarover ze beschikken een echte toetredingsdrempel vormen, dus er is geen zinvolle concurrentie. Rotenberg zei dat hij sinds de regering-Reagan in Washington is geweest en voor het eerst: "De verkiezingen van het afgelopen jaar waren niet vertrouwd."

In een eerdere sessie sprak boyd, die een boek schreef met de naam It's Complicated , over de moeilijkheid om op internet met manipulatie om te gaan.

Ze sprak over een escalerend manipulatieproces in de afgelopen 20 jaar, dat begon met kinderen die Oprah trollen en overging naar "rickrolls" en dingen zoals het wijzigen van de zoekresultaten voor de naam "Santorum". Meer recentelijk, met Gamergate, zijn een grotere cast van personages spelers geworden, waaronder statelijke acteurs. boyd zei dat de internetbedrijven denken dat AI hen kan beschermen, maar de groepen die resultaten proberen te manipuleren experimenteren al met natuurlijke taalverwerking, en vooral met gegevensbronnen. Het injecteren van slechte gegevens in een systeem is bijvoorbeeld een nieuwe kwetsbaarheid. Toch zei boyd dat het enige antwoord zal zijn 'technische antilichamen in onze industrie te bouwen'.

In deze sessie zei boyd dat de technologiebedrijven rekening houden met manipulatie op verschillende fronten, en merkte op dat terwijl iedereen naar Rusland kijkt, er veel andere staten zijn die soortgelijke acties ondernemen. Chinese bedrijven proberen er bijvoorbeeld voor te zorgen dat ze AI beheersen en ze zei dat dit een andere uitdaging is, omdat het niet gaat om industriële concurrentie, maar om concurrentie met een staat.

Gevraagd door Sherman of dit een oorlog is, zei boyd dat ze dat denkt, terwijl McNamee zei dat het klassieke guerrillaoorlogvoering is omdat onze vijanden onze technologie tegen ons hebben gebruikt. McNamee zei dat het probleem niet sociale netwerken of zoeken is, maar het advertentiemodel. Hij zei in de strijd om de aandacht van mensen, substantie wordt begraven door sensatie, en citeerde het oude gezegde dat "als het bloedt, het leidt."

Sherman merkte op dat angst en woede veel magnetischer zijn en dus veel goedkoper. Hij zei dat hoewel organische berichten werden gebruikt om meer dan 125 miljoen mensen te bereiken, het doel van de inspanning was om advertenties te segmenteren in groepen op basis van gedeelde interesses.

Rotenberg zei dat hij voorstander is van het transparant maken van de algoritmen en de reclame, maar zei dat we het recht van individuen om online te spreken moeten respecteren. Maar McNamee zei dat 'het eerste amendement is bewapend' en dat online ruimtes fundamenteel verschillen van het openbare plein.

boyd beschreef wat zij het "boemerang-effect" noemt, of met andere woorden het idee dat het uitlokken van de media om over schandelijke dingen te rapporteren het punt is, omdat dit de oorspronkelijke boodschap versterkt aan het segment van het publiek dat de media wantrouwt. Als voorbeeld sprak Boyd over Pizzagate. Ze merkte op dat de media vóór het internet vaak 'strategische stilte' gebruikten om te voorkomen dat ze zaken als zelfmoorden en Klan-bijeenkomsten behandelen om te voorkomen dat ze worden gepubliceerd.

Rotenberg was het ermee eens dat veel van deze traditie van ijver en toezicht verloren is gegaan, en zei dingen als Section 230 (waarin staat dat internetbedrijven niet verantwoordelijk zijn voor dingen zoals berichten van gebruikers) het voor traditioneel nieuws moeilijker hebben gemaakt om te concurreren.

Gevraagd naar oplossingen, zei McNamee dat Facebook een cultus is en dat het moet stoppen met het ontkennen van het probleem en het aanpakken, en beginnen met het aanpakken van "deprogrammering" door contact op te nemen met elk van zijn gebruikers. Rotenberg promootte het idee van regulering. En Boyd suggereerde dat we geld moeten investeren in de samenleving, om Amerika opnieuw te 'netwerken'.

Rekoning met de nieuwe hegemonisten

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, The University of Alabama; David Kirkpatrick, Techonomy

In een vroeg panel over 'Reckoning with the New Hegemonists' was bijna iedereen het eens met Joyce Vance van de University of Alabama, die zei dat technologie de wet echt heeft overtroffen, die hard moet worden ingehaald. Maar Vance waarschuwde dat er ook het risico bestaat van "slordige" politieke antwoorden.

Dave Morgan van Simulmedia zei dat "er regelgeving komt", hoewel hij zei dat het mogelijk is dat de grote bedrijven veel van de impact ervan kunnen vermijden.

Morgan merkte op dat de geschiedenis van de media-industrie parallellen biedt met wat we nu zien, omdat kranten zichzelf als drukkerijen zouden hebben gezien, en vroege omroepbedrijven zichzelf als techbedrijven zagen. Al deze zorgen voor contact met de consument, wat duidelijk is wat Google en Facebook doen. Veel antitrustzaken kwamen tot stand als gevolg van dergelijke geconcentreerde mediamacht, en de overheid was erin geslaagd ze te regeren. Een groot verschil vandaag is dat de andere technologieën een geografische samenhang vereisten, die de internetbedrijven niet nodig hebben.

Vance merkte op dat de Senaat nu een wetsvoorstel overweegt dat deze bedrijven zou verplichten hun advertentiegeschiedenis te bewaren en duidelijk te maken wie betaalt voor politieke advertenties. Maar Morgan wees erop dat dit nu wereldwijde bedrijven zijn met een groter bereik. Gevraagd naar de Europese GDPR-privacyregelgeving, zei Vance dat de VS het leiderschap aan de EU op dit gebied wellicht hebben afgestaan. Ze zei dat ze niet denkt dat Amerikaanse bedrijven in verschillende geografische gebieden op een andere manier kunnen voldoen, dus zullen bedrijven standaard voldoen aan de Europese regelgeving.

Mark Mahaney van RBC Capital Markets zei dat de bedrijven al worden gereguleerd, met name in de Europese Unie, met Google in het bijzonder onder de loep voor het bundelen of promoten van zijn diensten samen met zijn zoekresultaten of met Android. Kirkpatrick zei dat hij dacht dat de antitrustregeling Microsoft echt hielp, maar Mahaney weerlegde dat het niet de regelgevers waren die Microsoft tegenhielden, maar concurrentie.

Kunnen technologie en overheid democratie redden?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, elektronisch privacyinformatiecentrum; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Een soortgelijk onderwerp kwam naar voren op een ontbijtrondetafel, getiteld "Can Tech and Government Save Democracy?", Waarin moderator Jon Fine van Inc Magazine om oplossingen vroeg. De rondetafel kwam echter niet echt op de proppen.

Hwang zei dat het probleem niet de technologieplatforms is, maar eerder de woede die mensen voelen doordat ze zijn losgekoppeld van de economie.

Lawrence Norden, van het Brennan Centre aan de NYU School of Law, zei dat wetten die meer openbaarmaking op politieke advertenties vereisen een eenvoudig antwoord zijn, maar dat helaas het grote probleem "donkere posten" of posten van onbekende oorsprong zijn. Wat dat betreft, zei hij, is internet meer een stadsplein.

Maar Rotenberg zei dat het het tegenovergestelde is en dat internet meer op een bedrijfsstad lijkt, waar de platforms de regels bepalen en beslissen wat je ziet. Minnie Ingersoll van Code For America vroeg of het probleem buitenlandse interferentie is of dat Google bepaalt wat we zeggen. Regelgevers moeten de problemen beter begrijpen, zei ze.

Molly Turner van de UC Berkeley Haas School of Business zei dat internet het grootste medium voor expressie is geworden, maar maakte zich zorgen dat het het burgerlijk discours ondermijnt. Aan de andere kant maakt ze zich zorgen over de vereisten voor platforms om bepaalde soorten informatie te verwijderen (als de communicatiewet bijvoorbeeld was verzwakt, of vanwege andere soorten regelgeving), omdat het platform plotseling in dat geval de 'scheidsrechter van toespraak."

Rotenberg antwoordde dat, hoewel de autobedrijven ooit vochten tegen de veiligheidsvoorschriften, deze uiteindelijk hebben bijgedragen aan het veiliger maken van auto's en hebben geleid tot meer innovatie. Een stabiele regelgevende omgeving zou de platforms eigenlijk kunnen helpen, stelde hij. Rotenberg merkte op dat de technologiebedrijven "netneutraliteit" voor telecommunicatiebedrijven hebben gepusht, maar niet voor zichzelf, en riepen op tot een gelijk speelveld.

Het internet onder aanval

Mark Anderson, Strategic News Service; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Nieuw-Amerika; David Kirkpatrick, Techonomy

Een laatste panel genaamd "The Internet Under Attack" zette deze discussie voort.

Rebecca MacKinnon, die het Ranking Digital Rights-project in New America runt, zei dat er ooit een veronderstelling was dat autoritaire regimes door internet uiteindelijk meer op democratieën zouden lijken. Ze is nu meer bang voor autoritaire regimes en democratieën zullen "elkaar in het midden ontmoeten."

MacKinnon zei dat autoritaire regimes het internet aanpassen aan hun doeleinden, terwijl democratieën worden geconfronteerd met populisme, manipulatie en 'surveillance-kapitalisme'. Maar, zei ze, democratieën moeten voorzichtig zijn met een regelgevende reactie - hoewel ze het ermee eens is dat er behoefte is aan meer transparantie als het gaat om algoritmen en privacy, maakt ze zich zorgen dat een censuursysteem het gemakkelijker zou maken om de onderdelen te kraken van de maatschappij minacht de overheid.

Peder Jungck, die leiding geeft aan intelligentie en beveiliging voor BAE Systems, was het erover eens dat overheden dergelijke systemen willen gebruiken om dissidenten te vinden, en zei dat een idee een product is, en zoals elk product kan worden gepusht. Gevraagd of advertentiesystemen bewapend zijn, zei hij: "De doos van Pandora is geopend en we kunnen niet meer terug."

Mark Anderson van de Strategic News Service zei dat we een rechte lijn hebben gezien vanaf de dagen van ARPANET, toen er geen slechteriken waren, tot vandaag, wanneer we elke dag meer en meer kwaadaardig gedrag zien.

Anderson was vooral duidelijk toen hij beschreef hoe China intellectueel eigendom steelt en gebruikt om bedrijven failliet te laten gaan. En hij suggereerde dat de Equifax-hack alle kenmerken had van een overheidsaanval. Samenvattend zei Anderson dat hij 'geen oplossing ziet'.

Jungck zei dat we moeten veronderstellen dat slechteriken in onze systemen zitten en aan oplossingen werken. Hij zei bijvoorbeeld dat een sofinummer niet langer kan worden beveiligd, dus we hebben in plaats daarvan misschien een blockchain-oplossing nodig.

In het Ranking Digital Rights-project evalueerde MacKinnon 22 wereldwijde bedrijven op 35 vragen over zaken als vrijheid van meningsuiting, privacy en veiligheid. Ze zei dat twee bedrijven "Ds" kregen en alle anderen faalden. Ze wil weten wat bedrijven met uw gegevens doen; met wie ze het delen; of ze due diligence, beveiligingsbeoordelingen en governance uitvoeren voor risico's; en of ze privacy en beveiliging, inhoud en expressie beschermen. Transparantie is niet voldoende, zei ze, maar een noodzakelijke eerste stap.

Anderson zei dat transparantie een goede zaak is, maar geen oplossing, en merkte op dat iemand die een systeem wil manipuleren, niet voor advertenties hoeft te betalen, maar 100.000 botnets kan gebruiken. Kirkpatrick suggereerde vervolgens dat bedrijven identiteit konden afdwingen en zo het gebruik van botnets konden verminderen.

Maar MacKinnon weerlegde dat het mensenrechtenactivisten zijn die het meest kwetsbaar zijn voor het gebruik van dergelijke systemen, want als je identiteit afdwingt, dan zou niemand die zich verzet tegen een autoritaire regering op de sociale netwerken zitten.

Jungck vroeg zich af waarom we een identiteit moeten afdwingen wanneer de sites al weten wie je bent en wat je gaat kopen. "Er is geen anonimiteit op internet, het is allang verdwenen", zei hij. Het enige verschil is hoe lang het duurt om erachter te komen wie je bent.

Concluderend zei MacKinnon dat ze optimistisch is op de zeer lange termijn, maar voor de komende 100 jaar, "niet zo veel."

Als je naar dit alles luistert, is het gemakkelijk om pessimistisch te zijn, of op zijn minst fatalistisch over de benodigde hoeveelheid regelgeving en de impact ervan. Maar ik ben nog steeds een optimist, en hoewel ik denk dat een hoeveelheid aanvullende regelgeving zowel waarschijnlijk als noodzakelijk is, denk ik dat het net zo waarschijnlijk is dat de internetreuzen van vandaag - of sommige toekomstige spelers - betere antwoorden zullen geven.

Hoe waarschijnlijk is het dat u PCMag.com aanbeveelt?