Na het dodelijk ongeluk met een Tesla Model S zelfrijdende auto, heeft Tesla toegegeven dat zich vorige week nog een ander ongeluk met dat type heeft voorgedaan, waarbij alleen sprake was van materiële schade.

Nieuwe fase
Met deze ongelukken en een dodelijk slachtoffer is nu definitief een nieuwe fase in het debat over autonome voertuigen aangebroken. De vraag naar de verantwoordelijkheid en aansprakelijkheid is niet langer academisch en er zullen antwoorden moeten komen op de vraag hoe verantwoordelijkheid moet worden toegedeeld bij het gebruik van autonomous vehicles.

Morele regels voor ingenieurs
De Duitse minister van verkeer, Alexander Dobrindt, kondige vorige week aan dat hij een Ethische Commissie instelt die verantwoordelijkheidsvragen rond autonome voertuigen onderzoekt. Er zal een beeld moeten ontstaan waaraan de algoritmen moeten voldoen en welke morele regels gelden voor ingenieurs en programmeurs die intelligente auto's maken. Het gaat volgens de richtlijnen voor de commissie om ten minste twee fundamentele ethische uitgangspunten: het systeem moet mensenlevens altijd zwaarder laten wegen dan welke materiële schade ook en ten tweede zal er geen onderscheid mogen worden gemaakt naar eigenschappen van personen zoals leeftijd of afkomst, mocht het systeem onverhoopt voor keuzen komen te staan die risico's voor leven of gezondheid van personen met zich dragen.

Verantwoord innoveren
De verdere ontwikkeling van autonome voertuigen zal het idee van verantwoord innoveren (responsible innovation), dat een belangrijk element is in het Nederlandse en Europese innovatiebeleid, hoog in het vaandel moeten dragen.

meer weten?

Innovatie is niet per definitie goed. Het is gericht op probleemoplossing, maar in het nieuwe design kunnen waardes zoals efficiëntie, economische groei, veiligheid en transparantie met elkaar conflicteren. Jeroen van den Hoven legt uit (opent in PDF) dat responsible innovation daarom moet bestaan uit een slim ontwerp, dat ons een uitweg biedt uit het dilemma van de morele overdaad.