Dat je nu 'alles' kan met data in je digitale onderneming betekent nog niet dat je 'alles' moet willen. Ten eerste zijn er de harde feitelijke grenzen, die worden bepaald door wetgeving, zoals de aankomende AVG, in Europese termen de GDPR geheten, die per mei volgend jaar van kracht wordt. Maar ethiek zit vooral in de zachte aspecten ervan, en geeft tevens een beeld van waar je staat met je onderneming in de moderne maatschappij.

Ook Frank Buytendijk, vicepresident en analist bij Gartner, heeft zich erover gebogen en schreef er een omvattend rapport over, Kick-Start the Conversation on Digital Ethics, met zo'n 60 voorbeelden uit de praktijk en tools en handvatten voor de digitale onderneming.

Hij begin met een paar stelregels die je in het algemeen kan gebruiken:

  1. Vraag jezelf af hoe jij zou willen worden behandeld als mens, burger of klant (de 'gouden' regel).
  2. Vaak zijn er onbedoelde gevolgen: bij het gebruik van nieuwe technologie zal je waakzaam zijn op niet gewenst gebruik ervan.
  3. Het juiste gebruik van technologie vergt discipline en zelfbeheersing, in plaats van de grenzen op te zoeken.

In een korte samenvatting uit zijn rapport deelt Buytendijk vier dilemma's, die het meest algemeen zijn in het gebruik van data in de digitale economie.

Dilemma 1: privacy of profijt.

De introductie van de OV-chipkaart geeft vervoerders een aantal voordelen, zoals minder cash geld in omloop, minder baliepersoneel en snelle productintroductie. Dat verhoogt de marges en de effici├źntie, maar geeft tevens veel klantendata. Mag deze data worden verkocht aan derden?

De verkoop van data behoort bij veel bedrijven tot de belangrijkste verdienmodellen, en de opbrengsten kunnen worden gebruikt om het reizen goedkoper te maken of de dienstverlening te verbeteren. Maar dat was van te voren niet goed gecommuniceerd naar de klanten, en dat zorgde voor ophef. Data zou moeten worden gebruikt voor het primaire doel (reizen) en als dat verandert moeten de klanten worden geconsulteerd.

Dilemma 2: toekomstopties versus juist gebruik.

Smart-TV's volgen het kijkgedrag en verzenden dat naar de producent, die daarmee onder meer advertenties kan personaliseren op het welkomstscherm. Maar gebleken is dat er gevoelige data mee wordt verzonden, waaronder priv├ębestanden die op een usb-stick staan die ingeplugt is in de TV.

In het ergste geval, stelt Buytendijk, is dat een wetsovertreding met flinke boetes tot gevolg en reputatieschade voor de TV-maker. Het oppikken van persoonlijke data vanaf externe apparaten was een onbedoeld bij-effect in het softwareontwerp. Oorzaak is dat er te veel opties werden ingebouwd voor eventueel toekomstig gebruik zonder dat daarover op privacygebied werd nagedacht. "Ethische overwegingen moeten ingebouwd worden, en niet later erop geschroefd", stelt Buytendijk.

Dilemma 3: snel doen in plaats van goed doen.

Digitale assistenten als Siri, Google Now of Cortana, kan net als andere technologie immoreel worden gebruikt. "Maar terwijl je een autofabrikant niet verwijt dat er wordt gereden door een dronken chauffeur, kan je mogelijk wel een maker van slimme tech verwijten dat het helpt in een bankoverval", stelt Buytendijk.

Het is vrijwel niet te doen om een aantal vaste ethische regels te ontwikkelen om alle mogelijke misbruik te voorkomen, zegt hij, en toezichthouders kunnen de snelheid van de technologische vooruitgang niet bijhouden. Belangrijk is technologie te testen voordat het in de markt wordt gezet, maar net zo belangrijk is features in te bouwen die het mogelijk maken dat je slimme machines continu kan monitoren op onbedoelde gevolgen.

Dilemma 4: Voordeel voor velen tegen de voordelen voor enkelen.

Geavanceerde machines zijn in staat zelfstandig grote beslissingen te maken, zoals geautomatiseerde handelssoftware, militaire drones, zelfrijdende auto's. Zij maken alle beslissingen die ingrijpend zijn op leven en dood: laat de aandelenmarkt cashen en maak mijn baas rijk, hoe veel onschuldige slachtoffers zijn te veel, rijdt de oma dood om het kind te sparen. Wie heeft daarin de verantwoordelijkheid, vraagt Buytendijk zich af. "De programmeur? De leverancier? De bedieners ervan?"

Iedereen draagt wat van de verantwoordelijkheid, signaleert hij. Taak blijft continu waakzaam te zijn voor onbedoelde consequenties. "Met een besturingssysteem gebeurt er niks ernstigs als de eerste versie flinke bugs bevat", zegt Buytendijk. "Maar als software beslist over leven en dood, is er geen ruimte voor fouten."