Data Science & privacyvraagstukken: de zin en onzin van risicogroepen

In het vorige deel van mijn blogreeks ben ik ingegaan op de mogelijke vooroordelen die in data verstopt kunnen zitten, en hoe dat gevolgen kan hebben voor de conclusies van analysen en Machine Learning algoritmes. In dit tweede deel van de reeks ga ik in op het bepalen van risicogroepen. Het artikel van Follow the Money (de inspiratie voor deze blogreeks) noemt dit in het bijzonder als een kwalijke methode van (big) data onderzoek.

Ik zou ervoor willen pleiten dat het identificeren van risicogroepen noodzakelijk is, maar dat het in de praktijk wel op een verkeerde manier toegepast wordt. 

Fix it with data?

Welke ziekten komen op dit moment het meeste voor? Wat zijn de risicofactoren voor zowel het krijgen van een ziekte, het doorgeven ervan of in het ergste geval, eraan overlijden? Waar wonen de mensen die hier op dit moment het meeste last van hebben? En hoe gaan we de ziekte bestrijden? De afgelopen weken heeft Nederland ondervonden hoe het is om dagelijks met deze vragen te maken te hebben. Het antwoord hierop ligt deels in data.

Risicofactoren & risicogroepen

Het identificeren van risicofactoren, en in het verlengde daarvan, het identificeren van risicogroepen, is belangrijk om effectief te kunnen reageren en uiteindelijk te kunnen voorkomen. Onderzoek naar risicofactoren is van alle tijden en alle sectoren. Dit werkt binnen de (fysieke) gezondheidszorg, maar ook zeker bij de geestelijke gezondheidszorg. Onderzoek naar risicofactoren is dan ook niet nieuw. Al zo lang als onderzoek bestaat, gebruiken we deze methode. Wat er nieuw aan is, is de methode (data science/big data) waarmee onderzocht wordt. De ‘black box’ hiervan, en de toegenomen mogelijkheden om meer informatie te verwerken, maken wel dat er ook nieuwe gevaren komen. Zoals in de vorige blog benoemd, is er een grotere kans om verkeerde conclusies te trekken aan de hand van een algoritme. Daarbij is er binnen de hulpverlening nog weinig ervaring en beleid rondom het gebruik en de toepassing van dit soort modellen.     

Stereotypen & hokjes

Uit evolutionair oogpunt heeft het ontwikkelen van stereotypen en het plaatsen van mensen in hokjes ons als beginnende soort geholpen om te overleven. Ondertussen is de wereld en maatschappij om ons heen echter enorm veranderd, alleen onze ‘hard gecodeerde’ hersenen niet. Het ontwikkelen van stereotypes is ons praktisch aangeboren. Onderzoek bij baby’s heeft aangetoond dat binnen een jaar, kinderen eerder naar vriendelijke gezichten kruipen, dan naar gezichten die als ‘niet vriendelijk’ worden beschouwd. Als volwassenen hebben we dit proces geperfectioneerd en kunnen we in één ogenblik naar een (mogelijk onterechte) conclusie springen.

Maar hierin schuilt ook een gevaar. Ook huisartsen of specialisten maken een afweging op basis van je medische geschiedenis, uiterlijk voorkomen, en hun kennis over de prevalentie van bepaalde diagnoses. Ik kan me nog goed herinneren dat dr. House bijna altijd eerst testte voor ‘Lupus’ in House MD. Ditzelfde menselijke gedrag zit ook in hulpverleners binnen het sociaal domein. En dat kan ertoe leiden dat mensen (of, in het geval van het FTM artikel, jongeren en gezinnen) in een hokje worden gedrukt waar het vervolgens heel moeilijk is om de hulpverlener te overtuigen dat dit niet het geval is. Met als meest sprekende voorbeeld de uithuisplaatsing van een kind.

Een trend in de afgelopen jaren is om alles nauwkeuriger te noteren en op basis daarvan regels te stellen. Met name binnen het sociaal domein is dit veel aanwezig. Er zijn vastgestelde trajecten, en wil je daar gebruik van kunnen maken moet je kind minstens 5 van de 6 vakjes aangevinkt hebben. Ook dit kan zorgen voor een tunnelvisie bij hulpverleners.

Een voorbeeld uit de HR

Ook in deze blog een voorbeeldje uit de praktijk. Binnen de Arbeids – en organisatiepsychologie zijn er veel theorieën over hoe je een succesvol team samenstelt. De bekendste hiervan is het Insights Discovery model. 

Voorkeursgedrag

Bij dit model gaat men er vanuit dat iedereen voorkeursgedrag heeft als het gaat om bijvoorbeeld communiceren of als reactie op stress. En wanneer je je hier bewust van bent, kunnen jij en je teamleden hier rekening mee houden. Op basis van een vragenlijst komt naar voren welke voorkeursgedragingen er bij iemand aanwezig zijn. Dit wordt uitgedrukt in kleuren: blauw (voor hen die goed zijn in analytische denken en ingaan op details), rood (voor leiders), geel (voor creatievelingen) en groen (voor de verbinders). Niemand is volledig één kleur, je bent altijd een samensmelting van alle vier.

Denken in hokjes

De bedrijven die deze testen afnemen zullen de eersten zijn die je vertellen dat niemand gedefinieerd wordt door een kleur. Het is slechts een leidraad om een goed samenwerkend team samen te stellen. Het is absoluut niet wenselijk mensen te beoordelen en te behandelen naar ‘hun kleur’. In de praktijk is deze nuancering aan dovemansoren gericht. Al snel hoor je al de eerste gesprekken: “Oh ja joh? Ik dacht al Pietje blauw was!’.

Gevolg is dat zo de systematiek leidt tot verkeerde invulling in het werkende leven. Doordat Pietje nu als ‘blauw’ wordt bestempeld, onderschatten mensen misschien zijn potentie tot leiderschap. Vaak zonder dit te verifiëren bij Pietje zelf. Pietje ervaart dat hij in een bepaalde rol wordt geduwd, krijgt niet de mogelijkheid om zich te ontwikkelen in leiderschap en dit beeld wordt vervolgens door zijn leidinggevende bevestigd. Een vicieuze cirkel, die absoluut vermeden moet worden.

Wanneer dit soort beeldvorming leidend wordt bij omgang met de zwakkeren van de samenleving, wordt potentieel een enorm deel van de samenleving in een hoek gezet die van invloed is op de rest van hun leven. 

Hoe moeten we er dan mee omgaan?

Hoe benutten we het onderzoek naar risicofactoren, zonder in de valkuil van stereotypering en veroordelingen te trappen?

Geen doel op zich

Belangrijk is dat het bepalen van de factoren en het ontdekken van risicogroepen niet het doel op zich moet worden. Gebruik de kennis van risicofactoren om bestaande interventies te verbeteren en eventueel nieuwe te bedenken. Zorg ervoor dat de betrokken hulpverleners wel de handvaten krijgen om gezinnen te helpen met mooie nieuwe interventies, die zij naar eigen inzicht kunnen inzetten, maar zonder dat zij daarvoor allerlei vlaggetjes moeten plaatsen in een systeem. Vertrouw hierbij op de professionaliteit en expertise van de hulpverleners die kunnen inschatten welke interventie kan helpen, en kunnen beargumenteren waarom. Geef de regie weer aan de hulpverleners, in plaats van aan het systeem.

De volgende blog

De angst voor (big) data en data science komt niet uit de lucht vallen, zoals ik in de afgelopen blogs heb kunnen laten zien. Dit zijn terechte angsten waar wij als analisten over na moeten denken en ons gedrag op moeten aanpassen. De focus voor de volgende blog is dan ook: wat kunnen wij doen, om organisaties een beetje op weg te helpen en de angst een beetje weg te nemen? Lees hier deze volgende blog.

Deel dit met uw volgers