Het meest opvallende nieuws volgens Ben van Lier

Een dag later schrijft Jelle Wijkstra in op de website van AutomatiseringGids een artikel over een internationale open brief waarin zo’n duizend robotonderzoekers over de hele wereld oproepen tot een verbod op autonome offensieve wapens. Interessant verschil tussen de uitzending en het artikel is dat Wijkstra er van uitgaat dat de ontwikkeling van AI al zover gevorderd is dat binnen enkele jaren volledige autonome systemen kunnen worden ontwikkeld en toegepast die zonder menselijke tussenkomst gevechtshandelingen kunnen uitvoeren.

Autonome intelligente systemen zijn er al

Opvallend is dat er in internationaal verband wordt gesproken over autonome systemen die zelfstandig beslissingen kunnen nemen, en in de kop van het Nederlandse artikel over ‘robot’ soldaten. Blijkbaar worden beide in onze beeldvorming als een en dezelfde soort gezien. Autonome en intelligente systemen die zelfstandig beslissingen nemen zijn in onze hedendaagse werkelijkheid echter alomtegenwoordig en hebben eigenlijk zelden de vorm van een humanoïde robot. Neem nu de wereldwijde financiële sector. In het kader van high frequency trading nemen autonome softwarebots (onder andere gebaseerd op genetische algoritmes en machine learning) de hele dag door besluiten over financiële transacties met soms verstrekkende economische gevolgen voor de samenleving.

Dagelijks hebben we het ook over de potentie van big data en de analyse daarvan, die ons de mogelijkheid biedt het gedrag van mensen en organisaties te beïnvloeden - echter zónder dat wij de analyses waarop de uitkomsten zijn gebaseerd kunnen volgen. IBM’s Watson wordt als autonoom systeem gezien, het summum van een lerende machine die in staat zou zijn om zelfstandig patiënten te diagnosticeren en te adviseren over de aanpak van hun herstel. En autonome auto's moeten in een crisissituatie besluiten nemen die fatale gevolgen kunnen hebben voor de bestuurder of de omgeving.

Al deze voorbeelden zijn ontwikkelingen op weg naar steeds meer autonome en intelligente systemen die zelfstandig besluiten nemen, ook in oorlogsomstandigheden. Deze systemen hebben met elkaar gemeen dat het niet de machine op zichzelf is die deze activiteiten kan uitvoeren. Het zijn met name de door mensen ontwikkelde algoritmes en software die machines steeds intelligenter en zelfstandiger maken. Algoritmes en software vormen het brein van de nieuwe generatie machines. Een brein dat wordt samengesteld uit rationele procedures op basis van ethische overwegingen en waarden en normen die door mensen worden ingebracht. Een brein echter wat steeds meer zelfstandig beslissingen kan nemen over leven, welvaart en dood.

Autonome wapens niet te stuiten

De ontwikkeling naar autonome systemen die een zelfstandige rol kunnen spelen in gewapende conflicten is onstuitbaar. Het is een logisch gevolg van dat wat wij al eeuwen voortbrengen, namelijk steeds intelligentere technologie. Technologie is steeds meer een leidende factor in ons dagelijks leven, maar de gevolgen daarvan voor onze relatie met technologie zijn nog niet echt tot ons doorgedrongen.

Het zou misschien beter zijn, te accepteren dat wij deze steeds intelligentere technologie als een gelijkwaardige moeten gaan beschouwen. Tegelijkertijd zouden wij ons moeten buigen over de vraag hoe wij deze autonome systemen kunnen leren om in hun besluitvorming ethische en morele overwegingen mee te nemen. Het oplossen van dit probleem brengt ons pas bij echt fundamentele vragen, namelijk welke universele ethiek en morele waarden delen wij als mensheid nu in gezamenlijkheid echt.