Adobe Photoshop PDF

De donkere kant van technologische innovatie

Je komt aan op het station om na een dag werken met de trein naar huis te gaan. Je checkt in met je ov-chipkaart maar de poortjes gaan niet open. Er komt een beveiliger naar je toe die je zegt “Sorry, we kunnen niet toestaan dat je het perron op gaat en de trein pakt omdat je geprobeerd hebt een aantal door de staat geblokkeerde websites te bezoeken.” Een ongeloofwaardig scenario? Ja, voor ons hier in het Westen gelukkig wel. In Xinjiang in de Volksrepubliek China is het echter al dagelijkse realiteit.

In een door de staat gesurveilleerd laboratorium – dat volledig wordt aangedreven door Big Data en Artificial Intelligence –worden hier de nieuwste technologieën getest en toegepast om een etnische minderheid te onderdrukken. Ruim een miljoen mensen wordt in heropvoedingskampen gedwongen. Hierbij wordt gebruik gemaakt van gezichts-, iris- en nummerplaatherkenning. Zij worden beperkt in reizen met behulp van ‘geofences’ en schaamteloos wordt DNA-registratie, GPS-labeling en zelfs verplichte monitoring van communicatie toegepast. High-tech en big data met als inzet: toezicht, controle en macht krijgen én houden.

In China krijgen tech-startups, zogenaamde unicorns, enorme investeringen van onder meer de overheid. Met toegang tot landelijke databases om AI-algoritmes continue te verbeteren krijgen ze alle nodige ondersteuning om te blijven innoveren. Maar dat dan wel ten gunste van het systeem in het land. Als onderdeel van het masterplan ‘Sharp Eyes’ gericht op het opsporen van criminaliteit maar feitelijk vooral op controle van mensen en handel. Inwoners van Xinjiang krijgen op basis van waarnemingen van camera’s scores en worden gelabeld op basis van betrouwbaarheid en hun waarde in de maatschappij. Waar het idee van beveiligingscamera’s koppelen in zichzelf nog niet zo gek is, gaat landelijke gezichtsherkenning en groepen mensen volledig volgen om ze te ‘scoren’ in mijn ogen te ver. Mij doet het denken aan George Orwell’s 1984. Het maakt mensen bang en onzeker omdat ze nooit zeker weten of ze al dan niet in de gaten worden gehouden.

De schaduwkanten van Big Data en AI, zoals in Xinjiang, moeten ons bewust maken van beide kanten van technologische innovatie: toegevoegde waarde en vooruitgang versus machtsmisbruik en ernstige schending van mensenrechten en privacy. Technologische innovatie gaat door, dat is onomkeerbaar en een enorme kans voor het bedrijfsleven, voor individuen en onze maatschappij in het algemeen. Maar net als zoveel ontwikkelingen, denk aan robotica en technologie in de zorg, vraagt het een verantwoordelijke en zorgvuldige aanpak die veel aandacht vraagt vanuit ethiek en privacy. Chinese ‘unicorns’ blijven onder invloed en toezicht van de staat hun technologieën verder ontwikkelen. En ze slaan hun vleugels uit, bijvoorbeeld naar de Europese vastgoedmarkt. Recent maakte DeepBlue Technologies grote indruk tijdens een PropTech event met AI-gedreven producten waaronder de Smart Panda Bus, een zelfrijdende bus met een intelligent onbemand retail systeem, monitoring van abnormaal gedrag en meer. Persoonlijk ben ik benieuwd naar de snelheid waarmee dit soort partijen voet aan de grond krijgen in ons land en op welke manier zij de discussie over privacy en ethiek gaan beïnvloeden.

Over de auteur
Elsbeth Quispel is Head of Strategy & Innovation bij Cushman & Wakefield.
Dit artikel verscheen in Vastgoedmarkt van maart 2019.



Laat uw ervaring, mening en/of visie horen en praat mee over dit Duidelijk. bericht

Voeg uw eigen reactie toe

Vertel ons uw mening!