Ethiek in een digitale wereld. Privacy en social media.

Verslag

Ethiek in een digitale wereld

Samenvatting. Professor Jeroen van den Hoven, hoogleraar Ethiek en Techniek aan de TU Delft, vertelt over ethiek in een digitale wereld. Voor de pauze behandelt hij de ethische vragen die de nieuwe technologie oproept. Dan gaat het over big data, algoritmes en de plaats van de privacy daarin. Na de pauze gaat hij in op de schaduwzijden van de social media, aan de hand van zijn nieuwste boek Evil online. Tussen beide presentaties in vindt een ludieke Privacyveiling plaats, die het publiek laat ervaren hoe het voelt om en plein public de gegevens te delen die je op social media zo kwistig en vaak onbewust rondstrooit.

Big data roepen nieuwe ethische vragen op

Nieuwe technologie roept altijd nieuwe ethische vragen op, stelt Jeroen van den Hoven. Hoe verhouden technologische nieuwigheden zoals Kunstmatige Intelligentie, Big Data en Block Chain zich tot waarden zoals Privacy, Democratie en Duurzaamheid? Deze ontwikkelingen hebben een drievoudig vacuüm gecreëerd: een conceptueel vacuüm, een beleidsvacuüm en een ontwerpvacuüm. De nieuwe technologieën hebben geleid tot een enorme hoeveelheid data. Deze Big Data maken nieuwe onderzoeksmethodes mogelijk, die naar veelbetekenende namen luisteren zoals ‘people analytics’, ‘reality mining’ en ‘social sensing’. Met die big data en met kunstmatige intelligentie kun je heel veel goede dingen doen: van een voorspelling hoe infectieziektes zich over aarde verspreiden tot het opsporen van pijpleidingen die dringend aan onderhoud toe zijn. Big data hebben een nieuwe oriëntatie gegeven aan sociale wetenschappen: sociale fysica. De nieuwe sociale wetenschappers zijn wiskundigen.

Maar met de interpretatie van die enorme hoeveelheid data is het oppassen: niet iedere correlatie heeft een causaal verband. Anders zou je zo maar kunnen concluderen dat een verhoogde ijsconsumptie het gevolg is van bosbranden.

We are data

Van den Hoven maakt inzichtelijk hoe algoritmes – de motoren achter big data – werken. Ze zeven de data en vinden opmerkelijke patronen. Hij laat zien hoe een algoritme leert een puppysnoet van een muffin te onderscheiden, wat nog niet zo makkelijk is, zo ontdekt het publiek. Het bijzondere aan kunstmatige intelligentie is dat er zelflerende algoritmes achter zitten. Het leidt tot een nieuwe benadering van recht en burgerschap. ‘Ik denk, dus ik besta’, zei Descartes. ‘We are data’, is de titel van een recent Amerikaans boek.

Ongevraagd en onbedoeld maakt Van den Hoven het bruggetje naar de laatste avond van het Kenniscafé van het lopende seizoen. Wat doet Europa tussen aan de ene kant het Chinese model en aan de andere kant het model van Silicon Valley? Enerzijds lijkt de digitale samenleving een lonkend perspectief, maar aan de andere kant kijkt Big Brother in de Smart Cities van de toekomst letterlijk met je mee. De professor citeert Eric Schmidt, de CEO van Google: ‘Wij weten wie je bent, waar je geweest bent en min of meer wat je denkt’. En het is nog letterlijk waar ook: met kunstmatige intelligentie is het mogelijk iemands gedachten te lezen.

De ethische problemen die in onze digitale wereld moeten worden opgelost gaan over vijf vraagstukken: transparantie, gelijkheid, democratie, privacy en vertrouwen.

Privacy en de noodzaak van ethiek door ontwerp

De bedreiging van privacy door de nieuwe digitale ontwikkelingen is de achtergrond voor de nieuwe, strenge Europese privacywetgeving, de AVG (Algemene Verordening Gegevensbescherming). Onze persoonlijke gegevens zijn waardevol en verdienen bescherming. Je wilt niet dat iemand anders rijk wordt met jouw persoonlijke gegevens. Je wilt niet dat wat men van jou weet tot discriminatie kan leiden. En je wilt je eigen keuzes kunnen blijven maken.

Al deze ontwikkelingen pleiten voor ‘ethiek door ontwerp’. Van den Hoven laat zien hoe zelfs aan het ontwerp van een viaduct een ethische keuze ten grondslag kan liggen. Door in bepaalde delen van New York lage viaducten te bouwen werd voorkomen dat de hoge bussen met arme zwarten de stranden van de rijke blanken zouden bereiken. Tot dusver hebben wij bij het ontwerp van de digitale samenleving dergelijke ethische keuzes niet bewust gemaakt, betoogt Van den Hoven. Of wij hebben de keuzes overgelaten aan de markt.

Het kwaad online

Na de pauze behandelt Van den Hoven het thema kwaad online. Hij doet dat aan de hand van zijn gelijknamige boek, Evil online. In dat boek gaat hij samen met coauteur Dean Cocking in op de vraag hoe het mogelijk is dat gewone mensen online in monsters kunnen veranderen.

Die vraag wordt in een breder kader geplaatst. Dat gewone mensen slechte dingen kunnen doen als de situatie ernaar is weten we uit de geschiedenis en uit een scala aan psychologische experimenten. De filosoof Hannah Arendt, die een boek over het Eichmann-proces schreef, spreekt in dat verband van de banaliteit van het kwaad. Zij stelt dat er een sterke afhankelijkheid is tussen onnadenkendheid en kwaad.

Vervolgens laat Van den Hoven een ‘catalogus’ zien van de vormen die het kwaad op social media aanneemt. Pesten, wraakporno, ‘grooming’ (pedofilie), catfishing (je voor doen als iemand anders), de publieke schandpaal, radicalisering enzovoort enzovoort.

Morele mist of social media

Daarna komt de Delftse ethicus met een verklaring. Dit gedrag van mensen die in het dagelijks leven vaak voor gewone mensen doorgaan, wordt opgeroepen door een reeks van factoren, die samen verklaren waarin de digitale wereld verschilt van de gewone. Van den Hoven vat die factoren samen met de term ‘morele mist’ (moral fog). We noemen een paar van die factoren: er is geen toezicht en geen recht, het medium heeft een sterk selectief en zelf-versterkend karakter, je bent er anoniem en geïsoleerd, het is ‘maar virtueel’ en dus niet echt en niet zo erg, de social media bevorderen na-aapgedrag en stoerdoenerij…Maar dan in moeilijke filosofische en Engelse termen….

Ook het fenomeen van het kwaad online onderstreept het belang van ‘ethiek door ontwerp’. ‘We shape our buildings; thereafter they shape us’, zei Churchill. De boodschap van de professor is duidelijk: wij maakten internet, inmiddels maakt het internet ons. Het is daarom raar dat de overheid wel het verkeer regelt (rechts rijden alstublieft) en het onderwijs (leerplicht), maar dat de overheid de digitale openbare ruimte volledig overlaat aan de markt, waardoor het kwaad er vrij spel heeft.

Bibliografie

Sandy  Pentland. Social physics. How good ideas spread – the lessons from a new science

John Cheney Lippold. Algortihmic Citizenship. We are data

Shoshan Zuboff: The age of Surveillance Capitalism

Frank Pasquale: The black box society

Cathy O’Neil: Weapons of Math Destruction. How big data increases inequality and threatens democracy.

Lucie Greene: Silicon States

Robert H. Frank en Philip J. Cook: The winner-take-all society

Robert H. Frank: The Darwin Economy

Richard H. Thaler en Cass R. Sunstein: Nudge. Improving decisions about Health, Wealth and Happiness.

B.F. Skinner: Beyond Freedom & Dignity

Jeroen van den Hoven en anderen: Handbook of Ethics, Values and Tecbnological Design

En natuurlijk…

Dean Cockin en Jeroen van den Hoven: Evil online.

Foto's