Video: Garry Kasparov Says A.I. Can Make us 'More Human' (November 2024)
Garry Kasparov was een van de eerste slachtoffers van de AI-automatiseringsrevolutie. Door zijn verlies voor IBM's Deep Blue was hij de eerste kampioen schaken die een wedstrijd verloor op een computer. Maar Kasparov is niet vervaagd; zijn boek, Deep Thinking , onderzoekt hoe AI ons kan helpen menselijker te worden.
Dan Costa: Na een carrière in schaken en vechten tegen Deep Blue, ben je sindsdien een soort schaak-AI-expert geworden. Hoe wil je dat mensen kunstmatige intelligentie begrijpen?
Garry Kasparov: Ik moet bekennen dat ik de grenzen van mijn onwetendheid ken. Daarom praat ik graag over dingen waar ik zelfverzekerd ben over mijn eigen expertise, en ik denk dat ik bepaalde kennis heb van mens-machine-relaties, en ik zou met enige autoriteit kunnen spreken over de toekomstige resultaten.
Ik geloof ook dat we nog steeds op een zeer jonge leeftijd van AI zijn en dat we zelfs over enkele voorwaarden zouden moeten debatteren. Het gaat om semantiek, het gaat om filosofie en ik zeg altijd dat mensen denken dat we in het Windows 10-tijdperk zijn, terwijl we nog steeds allemaal bij MS-DOS zijn.
Op dit moment is het erg belangrijk om te begrijpen: "Wat is AI? Wat bedoelen we als we AI zeggen?" Omdat als je 10 experts naar AI vraagt, ik wed dat je 11 of 12 antwoorden krijgt. Er is nog steeds een meningsverschil.
Er zijn nog steeds details, maar ik denk dat we in het algemeen goed herkennen, er is een groep mensen die we optimisten zullen noemen, tegenover de grote menigte doemdenkers. Op de een of andere manier is het publiek meer bereid om doemscenario's te accepteren, ik denk dat het ons instinct is om de toekomst te vrezen, wat ook interessant is, want toen je teruggaat naar de jaren 50 en 60, was de sci-fi erg optimistisch. Het ging allemaal om ons, alleen werken met machines.
Als je nu naar de jaren 70, 80, 90 kijkt, is het verschoven naar dystopisch zicht. Het gaat om terminators. Het gaat over de Matrix, en nu is het sciencefictiongenre bijna dood omdat het meer over fantasie gaat, het gaat over magie. Mensen zijn echt bang om over de toekomst te praten, omdat we niet zeker weten wat daar gaat gebeuren. Ik denk dat we gewoon moeten erkennen dat AI geen toverstaf is, maar geen terminator. Het is geen voorbode van utopie of dystopie. Het is een hulpmiddel. Het is iets waar we een manier voor moeten vinden.
Het opent geen poorten van de hel, maar het is geen paradijs. Het is geen oplossing voor alles. Het is geen redding. Laten we eens kijken naar de problemen van de aarde en mijn grootste zorg vandaag gaat niet over moordende robots of een soort van de virtuele realiteit die ons gevoel voor realiteit zou kunnen bederven, maar het gaat over slechte acteurs. Het gaat over terroristen. Het gaat om rockruimte die deze technologie gebruikt om ons schade toe te brengen. Ik zeg altijd dat mensen… monopolie kwaad hebben. Dat is waar we ons moeten concentreren, denk ik, maar het moet ook erkennen dat AI zoveel geweldige dingen voor ons kan doen, omdat wat mensen zullen zeggen: "Oh, AI creëert nieuwe uitdagingen. AI kan veel banen wegnemen." Precies. Dat is er gebeurd met banen in de landbouw, banen in de industrie. Verstorende technologie vernietigt altijd industrieën, maar creëert tegelijkertijd nieuwe banen.
Ik zeg dat technologie de belangrijkste reden is waarom zoveel mensen nog steeds leven om te klagen over technologie, omdat we de gemiddelde levensduur gewoon niet herkennen, ik denk dat 45, 47 begin 20e eeuw tot nu 75 dankzij technologie. We willen voordelen, we willen gemak en we kijken niet naar de prijs. Mensen kopen Alexa of downloaden een app voor gezichtsherkenning en klagen dan over de privacy. Het is tijd voor ons om te begrijpen wat we van deze technologieën verwachten, dus hoe we ermee willen omgaan? Hoe ze ons leven kunnen verbeteren en tegelijkertijd erkennen dat we niet moeten discussiëren over gemorste melk. Het gaat gebeuren.
We moeten niet vragen of we het willen of niet, het gebeurt. Elke poging om de pijn te verlengen en het proces te vertragen, vind ik gewoon contraproductief, omdat banen die zijn gedoemd niet kunnen worden opgeslagen. Maar we moeten nadenken over nieuwe industrieën. Hoe we nieuwe banen kunnen creëren die ons zullen helpen… een financieel kussen te creëren voor degenen die achterblijven?
Dan Costa: Dat was een van de punten die je naar voren brengt in Deep Thinking . AI biedt ons de mogelijkheid om meer mens te zijn. Ik denk dat we dat moeten uitwerken en mensen het gevoel en begrip moeten geven.
Garry Kasparov: Het McKinsey-rapport over de Amerikaanse arbeidsmarkt in 2016 was een duidelijke demonstratie. Hoe weinig creativiteit is er gebruikt?
Veel van de taken die we herhalen, onbewerkte taken. Intellectuele taken kunnen ook repetitief zijn. Ze kunnen ook veel effectiever door de machines worden uitgevoerd. Hier kom je op het punt dat wat we hebben geleerd van de spellen… van schaken, van golf, van elk ander spel, zolang we het raamwerk hebben gecreëerd door mensen, en we weten wat we doen, machines zullen het beter doen.
We moeten gewoon erkennen dat in elk gesloten systeem machines superieur zijn. Trouwens, we hoeven niet te begrijpen hoe ze dat doen. Dat is nog een fout. We willen verklaarbaarheid. Machines kunnen het op een heel lastige manier doen volgens onze normen. De vliegtuigen vlogen snel en de vogel wapperde met hun vleugels. Dat is de reden waarom het denken dat machines ons zelfs bij intellectuele fouten overtreffen, door iets te doen waarvan je begrijpt dat het verkeerd is. We moeten naar de resultaten zoeken, en dat is het andere probleem voor bedrijven, omdat er zoveel regels zijn die vereisen dat ze uitleggen wat ze doen, maar verklaarbaarheid is er misschien niet als je op zoek bent naar efficiëntie en productiviteit.
Dan Costa: Je hebt de zaak over Go ter sprake gebracht en het ding dat de Go AI zo veel effectiever maakte, was toen het zichzelf leerde hoe het spel te spelen. Het had geen door mensen opgelegde regels.
Garry Kasparov: Het is nu hetzelfde als schaken. Nogmaals, het is de toekomst van menselijke missierelaties die heel erg op de eigen mens zullen zijn, die zich als herders gedragen, want we zullen een manier moeten vinden om deze coole systemen te creëren, de gebieden met beperkte intelligentie, waar machines het werk veel beter zullen doen dan welke mens dan ook. Vervolgens om te zien hoe ze verbinding maken. Deze gebieden van nauwe intelligentie tot algemeen veld, tot open-end systeem. Nogmaals, het klinkt eenvoudig, maar ik vind dat een grote uitdaging omdat de ruimte voor mensen en hun relaties met machines steeds kleiner kan worden. Zelfs misschien laatste paar decimalen, maar het maakt niet uit. Het kan veel effectiever zijn omdat er zoveel kracht is. Het kanaliseren of de richting veranderen voor 0, 1 procent van een graad van deze hoek kan een enorm, enorm verschil hebben, een doel op een mijl afstand.
Dan Costa: Een van de dingen die me zorgen baart over AI is dat goede AI-systemen worden aangedreven door heel veel gegevens en echt geweldige algoritmen. Als je kijkt naar wie nu de meeste gegevens in deze ruimte heeft, is het grote technologie, het zijn staatsoverheden. Hoe zie je de rol van het individu in deze AI-revolutie? Omdat er enige asymmetrie lijkt te bestaan in de toegang tot deze nieuwe technologieën en verschillende motivaties.
Garry Kasparov: Ja. Ik ben het daar helemaal mee eens. We hebben dit probleem en ik denk dat het publiek dit probleem erkent, maar het is nog steeds niet genoeg druk van de regeringen om daadwerkelijk zeer strikte regels en zeer straffende maatregelen op te leggen aan bedrijven die de privacy schenden.
Een van mijn zorgen als voorzitter van de Human Rights Foundation is dat regels verschillen van democratische wereld tot onvrije wereld. Ik vind het erg verontrustend dat deze multinationale reuzen - zoals Google, Apple, Microsoft, Facebook - heel verschillende regels toepassen op hun klanten in Amerika of Europa, en op degenen die niet zoveel geluk hadden om in de vrije wereld te worden geboren en in te leven China, Rusland, Turkije - waar het vrijgeven van de gegevens van de sociale activiteiten letterlijk een kwestie van leven en dood zou kunnen zijn. Ik denk dat dat stap nummer één is, maar we moeten ook herkennen dat er gegevens worden verzameld.
Ik weet zeker dat de regeringen het gebruik van deze gegevens op vele manieren kunnen beperken. Ik denk ook dat het de bonus is van de publieke kant omdat na de getuigenis van Mark Zuckerberg in de Amerikaanse senaat, die ik vond… een verbazingwekkende blijk van onwetendheid was door Amerikaanse wetgevers. Ze konden vijf uur lang geen goede vragen stellen; ze hadden hem op een warme stoel en het was zonde. Ik zag geen publieke verontwaardiging. Zo'n grote kans is gemist.
Het eenvoudige advies: "Laten we ze splitsen." Het is geen standaardolie. Als je gewoon begint te delen - en ik haat monopolies - maar dan zul je heel veel Googles hebben met gegevens die verspreid zijn. We moeten een manier vinden om individuen sterker te maken. Ik ken geen blockchain-technologieën, maar waarschijnlijk is dit de manier om mensen daadwerkelijk te helpen hun eigen gegevens en hun eigen toekomst te beheren. Ik denk dat er nog steeds een moment is waarop dit het oorspronkelijke concept van internet, sociaal netwerk is. Nu is het ineens sociale media. Mensen herkennen het gewoon niet. Het is geen semantisch verschil.
Dan Costa: Er wordt op een totaal andere manier geld mee verdiend.
Garry Kasparov: Het gaat over het verbinden van mensen. Het ging erom hoe we ons bij elkaar konden brengen. Hoe het individu te verpanden, toegang te krijgen tot gegevens en iets te produceren dat hem of haar ten goede kan komen en gewoon deel uitmaakt van dit wereldwijde systeem. Social media is anders, jij bent het doelwit. Je bent nu… het doelwit voor grote bedrijven. Hoe gaan we terug naar dit concept van een sociaal netwerk? Ik heb geen oplossingen, ik beken hier mijn onwetendheid over technische oplossingen, maar ik weet dat dit precies de filosofie is die de juiste vraag is die moet worden gesteld. Ik denk dat het publiek de ernst van deze uitdaging niet begrijpt.
Dan Costa: Je bent een Russische burger...
Garry Kasparov: Ook een Kroatische burger, ik heb een E-paspoort, zo reis ik.
Dan Costa:… woonachtig in de Verenigde Staten, maar je hebt veel geschreven over propaganda en de effecten en bevoegdheden ervan, en hoe het wordt gebruikt door de Russische overheid. Hier in de VS hebben we nu een Facebook, Twitter, Google media-universum dat bijna lijkt op een privé-propagandamachine die toegankelijk is voor overheden, voor individuele bedrijven. Nogmaals, als iemand die deze kwesties heeft behandeld en begrijpt, welk advies heeft u voor de Verenigde Staten? Terwijl we ons verplaatsen naar dit systeem waar we niet meer kunnen geloven wat we online zien.
Garry Kasparov: Kijk, ik heb vanaf het begin van deze eeuw te maken gehad met de opkomst van nepnieuwsindustrie en trollenfabrieken in Poetin's Rusland. Ongeveer rond 2004-2005 namen Poetin's propaganda-experts, de KGB-jongens, een trouwe beslissing om China niet te volgen door firewalls. Maar eerder, het creëren van de nep-internetwebsites die veel echte informatie bevatten, deze giftige stukken. In plaats van de voorpagina van een echte krant, het verhaal dat iedereen moet volgen, de feestlijn, zou je het in vele stukken kunnen verspreiden, in tientallen stukken. Stop het in een pakket verpakt in veel waargebeurde verhalen.
Het is niet zo eenvoudig als zeggen, Garry Kasparov is een vijand van de staat. Nee, iemand zegt Garry Kasparov is een vijand van de staat, maar dan komt iemand anders nee zeggen, maar hij was een geweldige schaakspeler, maar waarschijnlijk was hij nu geïnfiltreerd door stem en propaganda. Iemand zal zeggen, nee, nee, nee, hij is een goede kerel. Dus de hele pagina met opmerkingen kan nep zijn.
Dan Costa: De bots maken ruzie met bots.
Garry Kasparov: Bots en ze zijn hier heel goed in, dus dat is de reden waarom Poetin op een dag echt Amerikaanse meer dan 10 jaar ervaring met deze industrieën had. Werken in Rusland, in buurlanden met grote Russische gemeenschappen in Oost-Europa, in West-Europa.
In mijn boek, Winter komt eraan : waarom Vladimir Poetin en de vijanden van de vrije wereld moeten worden gestopt , 2015, zei ik dat het slechts een kwestie van tijd was. Het is niet zo, maar wanneer en waar hij zou aanvallen. Want nogmaals, ze hebben deze machine al gebouwd en het is relatief goedkoop. Het is nog steeds miljarden dollars aan investeringen, maar vergeleken met open militaire interventie, confrontatie… het is relatief goedkoop. En het paste ook in de KGB-mentaliteit van Poetin, zijn KGB-achtergrond, spionage-achtergrond. Dus in plaats van een open confrontatie zoekt hij altijd naar een mogelijkheid om te infiltreren. Dat is de klassieke Judomethode, je gebruikt de sterke punten van je tegenstander tegen hem. Voor Poetin was het briljant omdat het westerse technologie en de vrije wereld was, en je kon het gebruiken om de basis van de vrije wereld te ondermijnen.
Dan Costa: Heb je enig advies om uit deze situatie te geraken? Omdat het lijkt alsof het gebeurt, is het niet echt gestopt.
Garry Kasparov: Nee, en het zal niet stoppen. Voor iedereen met onbeperkte expertise ligt het antwoord voor de hand. Verdediging is een verliezende propositie. In cybersecurity kun je de verdedigingswerken bouwen, maar uiteindelijk is afschrikking het enige antwoord. Het is net als de Koude Oorlog, leuk of niet, het is een cyber Koude Oorlog. We worden voortdurend aangevallen door Poetin of andere vijanden van de vrije wereld. Of dat nu staten zijn zoals Iran, of Noord-Korea, of China, of quasi-staatsorganisaties die ook dezelfde methoden gebruiken.
Alleen afschrikking kon deze aanvallen daadwerkelijk stoppen of beperken. Omdat ze de gevolgen van te agressief zijn zullen begrijpen. Om onze zwakke plekken hier en daar te beschermen, is het belangrijk dat we een aantal verdedigingswerken bouwen. Het is belangrijk dat we het publiek bewust maken van bedreigingen, maar het gaat niet werken. Wat de nepnieuwsindustrieën betreft, zijn er veel uitdagingen binnen onze vrije samenleving, die de nepnieuwsindustrie mogelijk maakten. Het gaat om een angst voor partijdigheid, het gaat om de afwezigheid van een dialoog tussen mensen met verschillende ideologische opvattingen die Poetin en andere vijanden van de vrije wereld hebben geholpen om het nepnieuws te gebruiken om deze kloof te overbruggen.
Dan Costa: Dus je werkt nu met Avast, een bedrijf dat PCMag-lezers goed kennen. Welk advies geeft u consumenten voor het verhogen van hun verdedigingsniveau?
Garry Kasparov: Wat betreft het individuele verdedigingsniveau, dat is heel eenvoudig. Het eerste bericht is voor de eigenaren van smart homes. Ik was een beetje geschokt omdat ik zelfs in dit Zuid-Zuidwesten met veel mensen sprak, mensen met goede expertise begrijpen niet hoe kwetsbaar de slimme huizen vandaag zijn.
Amerikaans huishouden, 39 miljoen hebben minstens één kwetsbaar apparaat. Mensen begrijpen niet dat één kwetsbaar apparaat de hele smart home kwetsbaar maakt. Omdat de sterke punten van je verdedigingspiramide afhangen van de zwakste schakel. Eén slechte appel doet het hele pak rotten.
De meeste problemen worden veroorzaakt door fabrikanten van traditionele huishoudelijke apparaten - wasmachines, koffiemachines - omdat er geen expertise is in het bouwen van digitale systemen. Maar ze moeten het nu doen. Tegen zeer lage kosten, omdat het een prijsconcurrentie is, maar ze willen deel uitmaken van het systeem. De meeste systemen hebben gewoon geen afdoende verdediging. Ik denk dat we… overheidstoezicht nodig hebben, we moeten druk uitoefenen om aan bepaalde normen te voldoen.
Maar ook om aparte handleidingen te moeten bieden, omdat niemand de handleiding van 100 pagina's leest. Op pagina 85 lees je iets over dit digitale spul, mensen lezen het niet. De meeste gebruiken de standaardmodus, wat natuurlijk een open uitnodiging is voor een hacker. Ik denk dat het heel belangrijk is dat mensen beginnen te doen wat ik digitale hygiëne noem, want we wassen onze handen, we poetsen onze tanden, we doen het automatisch. Het redt ons niet van enkele ernstige ziekten, maar 90 procent van de problemen kan worden voorkomen. Hetzelfde met onze mobiel verbonden apparaten, we moeten onszelf nog steeds beschermen tegen virussen, maar veel dingen kunnen worden gedaan door aan te tonen dat we er om geven omdat het net zo belangrijk is als onze gezondheid.
Dan Costa: Dus ik wil je de drie vragen stellen die ik iedereen stel die in de show komt. Is er een technologische trend die je bezighoudt en die je 's nachts wakker houdt?
Garry Kasparov: Nee, ik ben een onverbeterlijke optimist. Ik maak me zorgen om slechte mensen, niet om slechte technologie omdat elke technologie tweeërlei gebruik heeft. Je kunt een kernreactor bouwen, maar daarvoor bouw je helaas een nucleaire bom. Het is nogal jammer dat vernietiging gemakkelijker is dan constructie. Daarom weten we in de geschiedenis altijd dat een nieuwe, storende technologie is getest op een soort schade.
Dan Costa: Maak je je geen zorgen dat hetzelfde zal gebeuren met AI? Ik zal worden gebruikt om te vernietigen voordat het wordt gebruikt om te maken?
Garry Kasparov: Nogmaals, het gaat niet om moordende robots. Het gaat over slechteriken, slechte acteurs erachter. Mensen zullen zeggen oh, we moeten nadenken over ethische AI. AI kan niet ethischer zijn dan de makers. Ik begrijp niet wat het betekent, zoals ethische elektriciteit. Als we vooringenomenheid in onze samenleving hebben, volgt AI het. Het ziet een ongelijkheid, of het nu gaat om ras, geslacht of een inkomensverschil. Het houdt er rekening mee; AI is een algoritme op basis van kansen. Dus op de een of andere manier is klagen over ethische AI hetzelfde als klagen over een spiegel omdat we niet houden van wat we daar zien.
Dan Costa: Is er een technologie die je elke dag gebruikt en die je nog steeds verwondert?
Garry Kasparov: Nee. Voor mij is het echte wonder van de wereld toegang tot informatie. Omdat ik gegevens kan verzamelen, wordt het eenvoudiger. Ik ben opgegroeid in de Sovjet-Unie en de informatie was schaars, er waren niet veel boeken. Het feit is dat ik Kindle kan… het geeft me een goed gevoel. Er is zoveel technologie om ons heen die ons helpt beter te worden. Wat ook geweldig is, mensen blijven klagen, oh wat kunnen we doen? Er is niets nieuws dat kan worden uitgevonden… en ik zeg wacht eens even. Je kijkt naar dit apparaat in je zak, laten we achteruit gaan in 1976 of 1977, de Cray supercomputer was als een wonder. Dit apparaat is wat? Tienduizend keer krachtiger?
- AI is (ook) een Force for Good AI is (ook) een Force for Good
- Deze AI is te krachtig om aan het publiek vrij te geven. Deze AI is te krachtig om aan het publiek vrij te geven
- Deze AI voorspelt online trollen voordat het gebeurt Deze AI voorspelt online trollen voordat het gebeurt
Dan Costa: krachtiger dan de space shuttle.
Garry Kasparov: Precies. We hebben zoveel macht, en… ik wil dat we weer groot gaan dromen. Omdat we deze kansen nu hebben. Ik heb zo veel spijt van de Space Race dat we de verkenning van de ruimte zijn gestopt, de verkenning van de diepzee. Laten we teruggaan, laten we proberen grote dingen te doen. Vier jaar geleden hield ik een toespraak aan de universiteit van Saint Louis in Missouri. Tegen de afgestudeerde studenten zei ik kijk, je moet de geest van exploratie doen herleven, vooral omdat St. Louis de poort naar het westen is, en tegenwoordig is het veiliger om naar Mars te vliegen dan voor Columbus om de Atlantische Oceaan over te steken. Omdat we tenminste de afstand kennen en de kaart hebben. Ik hoop dat onze kinderen, onze kleinkinderen… agressiever zullen zijn in hun dromen, door deze fenomenale technologie te gebruiken om ons vooruit te helpen, omdat ik denk, laten we bekennen, dit belangrijke feit toegeven; onze generatie is vertraagd in onze zoektocht naar het ontdekken van de wonderen van de wereld, of de ruimte of oceanen.
