Execs worstelen met de 'verantwoordelijkheid' van Facebook

Facebook-COO Sheryl Sandberg en Mike Schroepfer namen gisteravond het podium op de Code Conference in Rancho Palos Verdes om de veranderingen te bespreken die het bedrijf heeft aangebracht na het Cambridge Analytica-schandaal.

Geïnterviewd door moderators van de conferentie Kara Swisher en Peter Kafka, zei Sandberg dat het bedrijf nu begrijpt dat het te laat was in het reageren op de bezorgdheid over privacy die Cambridge Analytica aan de orde stelde. "We weten zeker dat we laat waren. We zeiden dat het ons spijt, maar het spijt me niet, " zei ze.

In plaats daarvan is het belangrijk om op een andere manier na te denken over de verantwoordelijkheid die Facebook heeft. Volgens Sandberg heeft Facebook de afgelopen 10 tot 12 jaar gefocust op het bouwen en mogelijk maken van sociale ervaringen, waarbij soms werd verzuimd na te denken over hoe het platform zou kunnen worden misbruikt of misbruikt. "Nu begrijpen we de verantwoordelijkheid die we hebben en proberen we ernaar te handelen, " zei ze.

Er is een "fundamentele spanning" tussen tools die zorgen voor gemakkelijke, vrije meningsuiting en mensen veilig houden, voegde Schroepfer toe. Facebook wil de discussie vergemakkelijken, maar ook ervoor zorgen dat het platform geen haatdragende taal of berichten huurt die zijn ontworpen om verkiezingen te manipuleren.

Het Cambridge Analytica-probleem

Het Cambridge Analytica-nummer dateert al minstens 10 jaar, toen mensen het hadden over "gegevens meenemen", dus ontwikkelde Facebook API's om hen hierbij te helpen. In die dagen, zei Schroepfer, was Facebook optimistisch en gericht op het feit dat ondernemers zijn gegevens konden gebruiken om nieuwe applicaties te ontwikkelen. Het dacht ook dat mensen die die apps gebruikten, begrepen wat er aan de hand was.

Tegen 2014 besloot Facebook de toegang tot dergelijke gegevens te beperken en startte een meer proactieve beoordeling van applicaties. Cambridge Analytica had Facebook-gegevens te pakken gekregen. Waarom heeft Facebook dit van de pers vernomen? Zodra de gegevens buiten Facebook waren, kon het alleen de gegevens observeren, zei Schroepfer.

Facebook heeft de app die de gegevens heeft geschrapt onmiddellijk uitgeschakeld en geprobeerd erachter te komen wie er toegang toe heeft gehad. Na zich te hebben aangemeld voor Cambridge Analytica, stond het bedrijf erop dat de gegevens waren verwijderd, maar dat is misschien niet het geval, erkende Schroepfer.

Het bedrijf is nu gericht op theoretische manieren waarop mensen gebruikersgegevens kunnen verkrijgen, zei hij, en heeft investeringen gedaan in beveiliging, inhoudsbeoordeling en ontwikkeling.

Terugkijkend: 'we zouden willen dat we meer bedieningselementen hadden', zei Sandberg. Ze merkte op dat ondanks wettelijke garanties van Cambridge Analytica dat het de gegevens had verwijderd, "we ze hadden moeten controleren". Ze zei dat het bedrijf de afgelopen maanden is overgestapt om precies dat te doen, hoewel dit momenteel wordt uitgesteld in afwachting van een Britse overheidsreview

In de aanloop naar de verkiezingen van 2016 maakten mensen zich vooral zorgen over spam en phishing-e-mails, merkte Sandberg op. Hoewel het bedrijf stappen heeft ondernomen om die problemen te voorkomen, heeft het niet geanticipeerd op de verschillende, "meer verraderlijke bedreigingen" die zouden komen. Het is zich nu zeer bewust van deze bedreigingen en heeft op dit gebied agressieve actie ondernomen, zei Sandberg.

Sandberg wees op het verwijderen van nepaccounts en Facebook-werk met overheden om soortgelijke gebeurtenissen rond andere verkiezingen te helpen voorkomen, onder vermelding van werk rond Alabama, Duitsland en Frankrijk. "We laten zien dat we stappen ondernemen om het beter te maken, " zei ze.

Sandberg vermeldde ook dat Facebook "altijd" tools heeft gehad om te bepalen hoe gebruikers gegevens delen met applicaties en deze tools nu naar de top van de nieuwsfeed heeft verplaatst. Het bedrijf bouwt ook nieuwe tools bovenop deze bedieningselementen.

Ik zag het niet aankomen

Swisher vroeg hoe Facebook mogelijk het potentieel voor misbruik van zijn platform mogelijk niet had begrepen en sprak specifiek over misstappen met Facebook Live. Sandberg duwde terug en zei dat "Live een geweldig voorbeeld is" van hoe het bedrijf dingen oplost. Ze merkte op dat toen Live werd gelanceerd, er "veel goeds was, dingen die fout waren". Dus nu heeft het bedrijf binnen enkele minuten een live beoordeling van alles wat live is. Dientengevolge zijn er meteen posten weggehaald en tijden waarop het bedrijf ingreep en mensen hielp.

Facebook heeft een open platform en weet dat het nooit alle slechte dingen zal voorkomen. Maar ze zei dat het bedrijf transparanter zou kunnen zijn en meer middelen zou kunnen inzetten om een ​​veilige gemeenschap te vormen. Het bedrijf heeft 1, 3 miljard nepaccounts verwijderd; heeft zijn interne richtlijnen gepubliceerd die worden gebruikt om te beoordelen of inhoud moet worden verwijderd; en verwijdert met succes 99 procent van de inhoud van terroristen, 96 procent van foto's van volwassenen en seksuele inhoud, maar slechts 38 procent van haatzaaiende spraak voordat het door gebruikers aan het bedrijf wordt gemeld.

"We zullen het niet allemaal krijgen", gaf Sandberg toe, maar Schroepfer zei dat Facebook hier meer vooruitgang in heeft geboekt dan hij dacht dat het zou kunnen.

Nep Nieuws

Over het probleem van nepnieuws zei Sandberg dat veel daarvan afkomstig is van nepaccounts; door die weg te nemen, vermindert het de problemen. Een andere grote bron is economisch gemotiveerd, dus het bedrijf verhuist om slechte actoren uit zijn advertentienetwerken te schoppen. Ze zei ook dat het bedrijf bezig is om transparanter te zijn, zodat je de mensen achter politieke of uitgifteposten kunt zien, waardoor mensen meer dingen kunnen vinden die fout zijn en ze kunnen melden.

Regulatie

Gevraagd naar regelgeving, zei Sandberg dat het bedrijf al gereguleerd is met zaken als GDPR. "De vraag is niet of er meer regelgeving komt, maar wat voor soort regelgeving, " betoogde ze.

Facebook heeft veel geld uitgegeven en veel complexe systemen ingevoerd om GDPR te verwerken, en erkende dat regelgeving grote bedrijven kan verankeren. En ze maakt zich zorgen over onbedoelde gevolgen en merkt op dat dingen zoals nummerherkenning oorspronkelijk werden beschouwd als een inbreuk op de privacy, dus er was regelgeving die dit verhinderde.

Gevraagd of Facebook een monopolie is en uit elkaar moet gaan, zei Schroepfer dat er concurrentie op de markt is, onder verwijzing naar YouTube voor het delen van video's, Twitter voor het plaatsen van openbare opmerkingen en Snapchat, WeChat en iMessage voor berichten. "Consumenten gebruiken de producten die ze willen, " zei hij en merkte op dat Facebook "een zeer klein deel" is van de totale advertentiemarkt.

Apple versus Facebook

Gevraagd naar de kritiek van Apple CEO Tim Cook op het bedrijf, zei Sandberg: "We zijn het sterk oneens met hun karakterisering van onze producten en ons bedrijfsmodel, " en merkt op dat Facebook als gratis service beschikbaar is voor mensen over de hele wereld.

"We hebben naar abonnementen gekeken en zullen dat blijven doen", zei Sandberg, maar benadrukte dat het hart van het product een gratis service blijft.

Door het horen van de vreselijke dingen die op het platform gebeuren, heeft het bedrijf zich gericht op nieuwe prioriteiten, zei Schroepfer. "Het is niet leuk, maar het is echt belangrijk werk." Hij zei ook dat de focus op veiligheid en beveiliging de "grootste culturele verschuiving" is die hij bij het bedrijf heeft gezien.

Hoewel Facebook zich richt op de noodzaak om veiligheid, beveiliging en integriteit op het platform te bieden, begrijpt het bedrijf "het zal een wapenwedloop zijn", en er zullen risico's zijn waarop het niet zal anticiperen, erkende Sandberg.