Techniek & Ethiek
Zelf timmerende hamers?!
Techniek is niet waardevrij, zeker niet als het om smart-technology gaat!
Hamertje tik
Met een hamer kun je spijkers in een plank slaan, of meubels maken, of straten maken en nog veel meer. Maar je kunt er ook iemand mee de hersens inslaan! Het maakt die hamer allemaal niets uit! Maar wat als je zelf-timmerende hamer hebt, of, beetje moderner, zelfrijdende auto’s?
Hoe voorkom je ongelukken? En als die soms niet te voorkomen zijn; hoe programmeer je dan de meest juiste of rechtvaardige reactie?
En als het gaat om andere zelfstandig acterende robots of min of meer ‘zelfdenkende’ machines?
Wat als het een zelflerend systeem is, zonder programmeur die de spelregels vooraf ingeeft, wat dat?
Wie bepaald dan de belangrijkste waarde en de juiste norm?
Een paar voorbeelden om dit te illustreren.
License to kill?
Stel: je rijdt op een smalle slingerweg in de Alpen (of een ander berglandschap) in een zelfrijdende auto. Rijden in een zelfrijdende auto is oersaai, je hoeft immers niks te doen. Het is gemakkelijker, comfortabeler, zelfs aantoonbaar veiliger dan zelf sturen. Terwijl je net een filmpje zit te kijken, steekt iets verderop een kind de weg over. Het kind struikelt en valt op de grond nét wanneer jij in je zelfrijdende auto de bocht om komt.
De auto kan niet op tijd remmen om het kind te redden, maar kan zichzelf wel van de weg af het ravijn in sturen – en daarmee jou opofferen om het kind te redden. Wat moet (de besturing van) zo’n auto kiezen?
Of een vergelijkbare situatie waarin, weliswaar theoretisch, maar toch, de autopilot moet kiezen tussen twee kwaden. Waarbij waarschijnlijk gewonden of zelfs doden kunnen vallen. Maakt dat het aantal doden deel uit van de keuze? Of de leeftijd? Of de keuze tussen mens en dier(en)?
Waarschijnlijk zal dit in de praktijk niet zo vaak voorkomen en zijn er vast nog meer opties om ongelukken te voorkomen, maar in beginsel is dit wel een probleem waarvoor we een oplossing moeten vinden. Wat ik ermee wil zeggen is dat techniek in dit soort gevallen niet waardenvrij is, maar onderhevig aan ethische, normatieve afwegingen. Daarbij moet wel onderscheid gemaakt worden tussen geprogrammeerde machines en zelflerende systemen.
Geprogrammeerde hamers
Bij de geprogrammeerde systemen maakt ultimo de mens uit wat kan, of acceptabel is, en wat niet. Géén zelf timmerende hamer dus, nee, een hamer die volgens ‘de regels’ timmert. Wie maakt dan die regels? Hebben we genoeg aan de drie robotwetten uit 1942 van Isaac Animo? Zie het kader.
Moeten we deze misschien uitbreiden met een wet gericht op de mensheid: Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid?
Allemaal mooi, maar in de praktijk komen we daar niet veel verder mee. De huidige generatie industriële robots staan niet voor niets in een werkcel, omgeven door van een hekwerk en voorzien van allerlei sensoren en een rigoureuze ‘stop’-knop. En dan nog kan het zodanig fout gaan dat er ongelukken gebeuren. Zie het bericht van het tragische ongeluk in de Volkswagenfabriek van juli 2015.
Samenwerkingshamer (#Iseeyou)
De nieuwere generatie robots, de zg. co-bots, een afkorting die staat voor collaborative robots, zijn voorzien van allerlei sensoren die de nabijheid van mensen opmerken en daarop ook reageren. Ze zijn goed in staat tot samenwerking met mensen en kunnen a.h.w. als een soort van assistent van de mens samen het werk doen. Wel moeten ook deze de cobots worden geprogrammeerd, dus ook daar blijft het nog steeds een kwestie van afwegen wat wel en niet kan en mag. Het programmeren kan vaak heel simpel door de cobot letterlijk bij de hand te nemen en via ‘voordoen-en-nadoen’ in te geven wat er moet gebeuren. Neemt niet weg: het dilemma blijft, alleen de gevolgschade wordt geminimaliseerd.
Zelfdenkende hamers
Machines die m.b.t. kunstmatige intelligentie (AI) in staat zijn tot machine-leren vormen de volgende categorie ‘hamers’. Deze robots maken op basis van algoritmen afwegingen die hun doen en laten bepalen. De zelfrijdende auto behoort ook tot deze categorie. De aandacht gaat daarbij vooral uit naar
robots met kunstmatige intelligentie, die leren van hun eigen ervaringen en hun gedrag daarop aanpassen. Inmiddels is er zelfs een vorm van internet voor robots, waarbij robots onderling kennis en ervaringen kunnen uitwisselen en van elkaar kunnen leren.
Het risico is niet ondenkbeeldig dat zij letterlijk een eigen leven gaan leiden. Je mag verwachten dat het denkvermogen van sommige robottypes ‘binnen enkele decennia’ het menselijk denkvermogen inhaalt en daarmee ook zijn vermogen om zijn eigen omgeving de baas te blijven. Maar het kan ook misgaan door codefouten, systeemfalen of doordat onderling verbonden robots of roboticasystemen worden gehackt.
Wereldwijd zijn er inmiddels 1,7 miljoen robots die niet alleen koeien melken en ouderen gymles geven maar ook auto’s besturen en chirurgische precisie-ingrepen uitvoeren. Het idee van miljoenen intelligente robots klinkt nu nog als sciencefiction, maar met de steeds snellere ontwikkeling van computers is dit snel realiteit. Stel je voor dat dit netwerksysteem tot de conclusie komt dat wij als mensen een ‘sta-in-de-weg’ factor zijn die het lastig maakt om te doen wat moet gebeuren. Wat zou er dan gebeuren denk je? Wat gaat zo’n zelfdenkende hamer dan doen?
Hamerscenario’s
Het zal geen toeval zijn dat ik afgelopen dagen en weken via social media en TV steeds meer over dit thema zie en lees, Tuurlijk is dat ook de ‘bubbel’ waar ik op ben afgestemd, maar toch, enkele voorbeelden:
Zondag 29 okt’17: Robo-sapiëns: 6-delige serie over ‘hoe en wanneer wij als mensen het monopolie op slimheid verloren.’ Gevolgd door VPRO’s Tegenlicht: ‘hoe onze wereld er over vijfentwintig jaar uitziet. Misschien wordt ons werk overgenomen door autonome robots en worden wij daarmee de slaven van de door onszelf gecreëerde technologie. Mogelijk loopt het niet zo’n vaart, worden we onsterfelijk en kunnen we onszelf daarmee tot goden verklaren in ons zelfgecreëerde hoog intelligent systeem.’- Elon Musk enkele weken geleden: ‘…leads 116 experts calling for outright ban of killer robots’. Hij ziet het voortbestaan van de mensheid in gevaar komen door zelflerende systemen. Zie https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war
- Op 27 oktober 2017 een oproep van Prof.Dr. Robert Dijkgraaf: ‘Tijd voor de robotcolumnist. Brute rekenkracht gaat in hoog tempo ons leven bepalen. Machines ontwerpen en trainen de nieuwe generatie machines, net zoals mensen dat doen. De spectaculairste voorbeelden komen uit de wereld van de kunstmatige intelligentie. Daar is machine learningde nieuwste trend. Ondergedompeld in een onmetelijke zee van data, leren computers spontaan patronen herkennen en voorspellen.’ Zie: https://www.nrc.nl/nieuws/2017/10/27/tijd-voor-de-robotcolumnist-13704006-a1578969
- Op 20 oktober 2017 een bijdrage van Andrew McAfee, co-auteur van het boek ‘The second machine age’, die juist aangeeft dat het scenario van een ‘gouden tijdperk van vernieuwing’ zeker denkbaar is. Kunstmatige intelligentie gaat ons helpen allerlei rotklusjes op te knappen, burgers krijgen via internet steeds meer middelen om bij te dragen aan nieuwe ideeën, de economie wordt moderner, efficiënter en welvarender’. Zie: https://www.nrc.nl/nieuws/2017/10/20/het-is-gevaarlijk-om-technologie-de-schuld-te-geven-13592884-a1578045?utm_source=NRC&utm_medium=related&utm_campaign=related2
De vraag is dan ook: hoe nu verder?
Paal en perk stellen?
Is het de hoogste tijd om na te denken over de kaders waarbinnen de robots en AI zich kan en mag begeven. Een vorm van regulering misschien? We moeten met elkaar in een maatschappelijke discussie nadenken over de ethische, juridische en maatschappelijke aspecten hiervan. De robots moeten te allen tijde de mensheid dienen is daarbij het uitgangspunt. Op Europees niveau is inmiddels een eerste rapport[1] verschenen waarin een aanzet is gemaakt voor een discussie over deze materie. Het rapport ligt nu voor bij de Europese Commissie. Beetje laat, beetje traag ook gezien de snelle ontwikkeling van de techniek, maar toch. Men is er mee bezig.
De schaal waarop we dit onderwerp moeten agenderen is overigens worldwide is mijn overtuiging. En dat begint gewoon klein, aan de verjaardagtafel, in de discussie met collega’s op het werk, in de leslokalen en collegezalen, in lab’s en op symposia. En graag ook op de TV en social media. Iets voor #humans2.0 of #AImensen ??
Een ding is mij wel duidelijk: we moeten er meer, véél meer over in gesprek met elkaar!
[1] DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), 31-05-2016. Download hier: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+COMPARL+PE-582.443+01+DOC+PDF+V0//EN