Beatrice de Graaf: ‘Technologie is een wild paard dat aan de teugel moet’

Techniek kán het goede dienen, maar ook het kwaad. Het kan de kloof vergroten tussen de haves en de have-not’s, tot onveiligheid en instabiliteit leiden. Daarom is de vraag: wat zijn wij nu aan het doen, wat over twintig, dertig jaar in ons gezicht kan ontploffen? En moeten we eisen stellen aan het wilde paard dat technologie heet, zegt hoogleraar Beatrice de Graaf in haar bijdrage aan de Bilderbergconferentie.

 

Techniek kan het goede dienen, maar ook het kwaad, er is altijd een dual use-probleem. Terroristen gebruiken technologie om de samenleving schrik aan te jagen. De uitvinding van de drukpers voor kranten en uitvindingen als de radio, televisie en internet hebben het terrorisme in de wereld aangezwengeld. De sociale media hebben bijgedragen aan explosies van haat op internet.

Het komt niet vanzelf goed met technologie. Er zijn wetten en regels nodig om ervoor te zorgen dat de techniek het goede dient en niet bij nader inzien het kwade, ook al is het onbedoeld. Social media zijn vermoedelijk met de beste commerciële intenties gemaakt, maar als ze door platforms uitsluitend worden gebruikt in het kader van winstmaximalisatie, terwijl de gebruiker daar niets meer over te zeggen heeft, dan is er iets flink mis gegaan. Social media creëren een context die de overdrijving en het onderscheid aanwakkert. Het is uiteindelijk ‘moraliserende technologie’, en niet slechts een hulpmiddel, zoals techniekfilosoof Peter Paul Verbeek wel heeft uitgelegd.

 

‘het komt niet vanzelf goed met technologie’

 

 

Wie wordt de dupe?

Als technologie de verdeeldheid tussen groepen mensen aanwakkert en de kloof tussen haves and have-not’s vergroot, dan kan dit tot onveiligheid en instabiliteit leiden. Dat heeft een negatief effect op het vestigingsklimaat voor bedrijven en is ook niet goed voor een stabiele economische ontwikkeling. 

Het probleem van nieuwe technologie is dat je niet direct ziet dat die uitvindingen naast nieuwe applicaties en mogelijkheden, ook een nieuwe sociale context creëren. Er zullen mensen de dupe van zijn. Daarom moet je heel voorzichtig zijn met nieuwe technologieën, zoals artificiële intelligentie. Bij het ontwerpen daarvan moet je al rekening houden met de misstanden die eruit voort zouden kunnen komen.

 

‘wat zijn wij nu aan het doen, wat over twintig, dertig jaar in ons gezicht kan ontploffen?’

 

Aan de teugel

Bij Defensie hebben ze daar Redteams voor ingesteld. Slimme mensen die nadenken over wat er allemaal fout kan gaat en wat de consequenties kunnen zijn. De vraag is: wat zijn wij nu aan het doen, wat over twintig, dertig jaar in ons gezicht kan ontploffen? Wat gebeurt er als we bewapende drones inzetten? Of wanneer we een slimme database inrichten waar al onze strafdata worden bewaard, die dan on demand automatisch een Verklaring Omtrent Gedrag genereert? Daar moeten we over nadenken, want het aantal aanvragen rijst de pan uit.

Als we die scenario’s in beeld hebben, kunnen we eisen stellen aan het ontwerp van nieuwe technologie. Technologie is een wild paard dat je aan de teugel moet houden.

Wie is Beatrice de Graaf?Ze is nog maar 42, maar ontving in 2018 de net ingestelde Stevinpremie al voor haar hele oeuvre. Vanwege haar talent om excellent wetenschappelijk historisch onderzoek te doen en dat te vertalen naar lessen voor het heden. Beatrice de Graaf, hoogleraar Geschiedenis Internationale Betrekkingen en Global Governance aan de Universiteit Utrecht, over de link tussen technologie, terrorisme en veiligheid en het belang van waarden.