Zijn autonome voertuigtests een publiek gevaar? | doug nieuwkomer

Had iemand aan het begin van internet trolling en cyberpesten kunnen verwachten - en dat een toekomstige POTUS op dat moment 140 karakters zou hebben met de natie? Het kan moeilijk zijn om te anticiperen op de nadelen van revolutionaire nieuwe technologieën.

Een van de mogelijke nadelen van autonome voertuigen - inclusief enorm banenverlies bij commerciële chauffeurs en mogelijk zelfs meer verkeer van robotaxi's - is wat bekend staat als het "trolley-probleem". Dit verwijst naar ethische beslissingen die een zelfrijdende auto moet nemen wanneer hij wordt geconfronteerd met no-win situaties, zoals of hij over een persoon moet rennen die zijn pad op een smalle drukke straat in de stad schiet of naar beide kanten uitwijkt en in voetgangers ploegt. op de stoep.

Hoewel Patrick Polytechnic State University hoogleraar filosofie Patrick Lin real-world tests op dit dilemma heeft uitgevoerd in samenwerking met het Centre for Automotive Research in Stanford, erkent dat "iets oneerlijk voelt over de morele paniek over zelfrijdende auto's" en het probleem met de trolley, omdat het scenario zo vergezocht is. Maar zoals Lin aangeeft, in tegenstelling tot andere technologieën, het testen van autonome voertuigen op de openbare weg kan een onmiddellijk negatief effect hebben op de samenleving.

Het wordt ingewikkeld

Lin stelt dat, hoewel technologieontwikkelaars doorgaans nieuwe producten en functies met enkele beperkingen en wetten bètatesten, "het gecompliceerd wordt wanneer hun software rechtstreeks in wisselwerking staat met de grotere fysieke wereld" - in dit geval bij het besturen van een machine van meerdere ton in het openbaar. Lin betoogt dat in het geval van autonome voertuigtests op de openbare weg "de producten niet alleen rechtstreeks van invloed zijn op gebruikers, zoals het geval is met de meeste andere gadgets en diensten."

Lin verwijst bijvoorbeeld naar de navigatie-app Waze uit de menigte. Het "geeft aanleiding tot klachten over 'massaal' gedrag: zwermen auto's die door algoritmen worden gestuurd door stille buurten die niet zijn ontworpen voor zwaar verkeer, " zegt hij.

Dit "kan het risico verhogen voor kinderen die in deze straten spelen, lagere eigendomswaarden als het lawaai van de weg luider is en andere externe effecten creëren. Dit betekent dat navigatie-apps risicobeslissingen nemen waarvan gebruikers zich misschien niet bewust zijn, maar dat zou moeten."

Zelfrijdende auto's op dezelfde manier "zullen hun routes autonoom moeten kiezen… en er is vaak niet slechts één juiste weg", voegt Lin toe. Maar hij gelooft dat het grotere probleem is om te bepalen wie verantwoordelijk wordt gehouden voor de negatieve impact op het verkeer of de openbare veiligheid die navigatie-apps zoals Waze veroorzaken - en bij uitbreiding zelfrijdende auto's die testen op de openbare weg.

"Het is een tragedie van de commons: niemand zit in de bestuurdersstoel over hoe navigatiealgoritmen moeten worden geharmoniseerd met de samenleving", zegt hij. "Dus als er een negatieve impact is op het verkeer of de openbare veiligheid, is het moeilijk om de verantwoordelijkheid voor deze effecten vast te stellen."

De vraag wie verantwoordelijk zal zijn voor een zelfrijdende auto-ongeluk - de automaker, software-ontwikkelaar, sensor of kaartenmaker - is een van de problemen die de brede acceptatie van de technologie tegenhouden, hoewel er oplossingen worden ontwikkeld. Gezien het feit dat zelfrijdende autotests al op de openbare weg worden uitgevoerd, is Lin van mening dat wat hij "onderzoek naar mensen" noemt, wellicht vooraf toestemming moet krijgen van een ethische commissie.

Steden zijn begonnen te reageren door wegen aan te wijzen als "geen doorgaand verkeer" -zones die alleen toegankelijk zijn voor bewoners en vereisen dat Waze deze aanwijst als verboden terrein voor passerende automobilisten. Sommige boze en ondernemende bewoners gaan zelfs schurken en hacken navigatie-apps zoals Waze met spookwrakken, om verkeer van hun buurt af te leiden.

Lin benadrukt dat zijn doel niet is om "een argument tegen technologie te creëren, maar alleen om serieus na te denken over de groeiende kracht en implicaties ervan, naarmate testcases door de rechtbanken en de publieke opinie bewegen" - en als meer zelfrijdende auto's neem op de openbare weg.