Wat bedoelen we met zorgzame technologie? Een relationele benadering binnen de technologie-ethiek

Samenvatting

Technologieën doen meer dan functies uitvoeren. Ze structureren keuzes, verdelen macht, bewaren menselijke geschiedenissen en vormen de omstandigheden waarin mensen kunnen handelen, weigeren, herstellen van fouten en anderen beïnvloeden.

Dit artikel introduceert zorgzame technologie als een relationele benadering binnen de technologie-ethiek. Het stelt dat de ethische kwaliteit van een technologische relatie vooral zichtbaar wordt wanneer een interactie anders verloopt dan verwacht: bij fouten, onzekerheid, kwetsbaarheid, weigering en conflict.

Er worden vijf voorlopige dimensies uitgewerkt: begrijpelijkheid, proportionaliteit, herstelbaarheid, respect voor weigering en relationele aandacht. Het artikel bespreekt ook digitale identiteit en betoogt dat verantwoordelijkheid binnen technologische relaties wederzijds maar niet symmetrisch is. Gebruikers blijven morele deelnemers, terwijl ontwerpers en instellingen meer verantwoordelijkheid dragen omdat zij meer macht hebben om keuzes, prikkels en gevolgen vorm te geven.

Het kader is een vertrekpunt voor contextgebonden beoordeling en toekomstig onderzoek, geen volledige ethische theorie of certificeringsnorm.

Trefwoorden: zorgzame technologie, technologie-ethiek, kunstmatige intelligentie, mens-computerinteractie, digitale identiteit, relationele verantwoordelijkheid, personalisatie, autonomie, zorgethiek

1. Inleiding

Technologieën voltooien niet alleen taken. Ze ordenen mogelijkheden, vormen verwachtingen en bepalen de omstandigheden waarin mensen handelen. Een systeem kan de ene handeling moeiteloos maken en de andere vrijwel onmogelijk. Het kan werk bewaren of wissen, een besluit uitleggen of verhullen, weigering toestaan of die steeds opnieuw ter discussie stellen.

Deze omstandigheden zijn ethisch relevant omdat technologie steeds vaker bemiddelt bij persoonlijk en maatschappelijk belangrijke activiteiten: communicatie, zorg, onderwijs, werk, ontspanning, financiën en deelname aan gemeenschappen.

Bestaande benaderingen onderzoeken waarden in ontwerp, het politieke karakter van artefacten, de bemiddeling van moraliteit, menselijke autonomie, zorg, toegankelijkheid, privacy, veiligheid en rechtvaardigheid. Dit artikel voegt een relationele vraag toe:

Welke relatie creëert een technologisch systeem met zijn gebruikers en met anderen die erdoor worden geraakt?

De term zorgzame technologie wordt voorgesteld als een manier om deze relatie te onderzoeken.

Hier betekent zorgzaam niet uitsluitend aangenaam, wrijvingsloos, vergevingsgezind of esthetisch zacht. Het betekent evenmin dat technologie grenzen, moeilijke informatie of noodzakelijke beperkingen moet vermijden. Het gaat om de uitoefening van technologische en institutionele macht: blijft die begrijpelijk, proportioneel, gevoelig voor context en vatbaar voor correctie?

De kwaliteit van deze relatie wordt vooral zichtbaar wanneer een interactie anders verloopt dan verwacht. Wat gebeurt er wanneer iemand een fout maakt, iets niet begrijpt, kwetsbaar wordt, een verzoek weigert of het systeem ter discussie stelt? Zulke momenten onthullen aannames die bij gewoon gebruik verborgen blijven.

Het artikel heeft vier doelen. Ten eerste plaatst het zorgzame technologie binnen bestaand werk over technologie-ethiek en verwante gebieden. Ten tweede stelt het vijf kritieke momenten voor om technologische relaties te onderzoeken: fouten, onzekerheid, kwetsbaarheid, weigering en conflict. Ten derde werkt het vijf voorlopige dimensies van zorgzaamheid uit: begrijpelijkheid, proportionaliteit, herstelbaarheid, respect voor weigering en relationele aandacht. Ten slotte onderzoekt het digitale identiteit en betoogt het dat verantwoordelijkheid in technologische relaties wederzijds maar niet symmetrisch is.

Het kader is conceptueel en voorlopig. Het ondersteunt onderzoek en ethische reflectie; het biedt geen universele score en certificeert technologie niet als ethisch.

2. Conceptuele grondslagen

Zorgzame technologie bouwt voort op een bredere onderzoekstraditie die laat zien dat technologieën geen neutrale instrumenten of geïsoleerde objecten zijn.

Winner (1980) betoogt dat artefacten politieke verhoudingen kunnen belichamen en macht verdelen. Nissenbaum (2001) laat eveneens zien hoe computersystemen waarden belichamen via ontwerp, classificaties en aannames. Value Sensitive Design biedt methoden om menselijke waarden gedurende de technologische ontwikkeling te identificeren en te integreren (Friedman, Hendry, & Borning, 2017).

Technologieën bemiddelen ook bij morele ervaring en handelen. Verbeek (2011) beschrijft hoe technologische artefacten waarneming, besluitvorming en gedrag mede vormgeven. Dit perspectief verbreedt de ethische aandacht van de bedoelingen van ontwerpers en gebruikers naar de rol van technologie in praktische situaties.

Zorgethiek draagt een relationeel begrip van moraliteit bij. Tronto (1993) benadrukt aandacht, verantwoordelijkheid, deskundigheid en responsiviteit binnen zorgpraktijken. Deze ideeën zijn relevant voor technologische systemen, vooral wanneer ze reageren op kwetsbaarheid of menselijk welzijn zeggen te ondersteunen. Technologische zorg vraagt echter om voorzichtigheid: een systeem kan toezicht, beperking of manipulatie presenteren als bezorgdheid om de gebruiker.

Relationele benaderingen van autonomie betwisten dat autonomie uitsluitend uit individuele, op zichzelf staande keuzes bestaat. Menselijk handelingsvermogen ontwikkelt zich binnen sociale relaties, materiële omstandigheden en machtsstructuren (Mackenzie & Stoljar, 2000). Een technisch beschikbare optie vormt daarom niet altijd een betekenisvolle keuze, bijvoorbeeld als weigeren onevenredig veel kost of alternatieven bewust worden verhuld.

Borgmann (1984) onderzoekt hoe technologie onze betrokkenheid bij de wereld organiseert. Weiser en Brown (1996) stellen met calm technology voor dat technologie passend tussen het centrum en de periferie van onze aandacht beweegt. Rust kan de cognitieve belasting verminderen, maar definieert zorgzame technologie niet. Een rustige interface kan uitbuiting verhullen, terwijl een ethisch noodzakelijke waarschuwing terecht aandacht kan opeisen.

Deze tradities bieden belangrijke grondslagen: technologie belichaamt waarden, verdeelt macht, bemiddelt bij handelen, beïnvloedt autonomie en maakt deel uit van zorgrelaties. Zorgzame technologie vervangt deze benaderingen niet, maar voegt een specifiekere analytische focus toe:

Hoe wordt technologische macht uitgeoefend binnen een voortdurende relatie, vooral wanneer de interactie op weerstand, onzekerheid of falen stuit?

3. Een relationele definitie van zorgzame technologie

Een technologie is niet zorgzaam enkel vanwege haar uiterlijk, doel of afzonderlijke functies. Zorgzaamheid is een eigenschap van de relatie tussen een technologisch systeem, de mensen die ermee omgaan, de instellingen die het besturen en anderen die door het gebruik worden geraakt.

Dit artikel stelt de volgende voorlopige definitie voor:

Zorgzame technologie is een sociotechnische inrichting die haar macht gedisciplineerd uitoefent door begrijpelijk te blijven, proportioneel te reageren, herstel te ondersteunen, weigering te respecteren en aandacht te hebben voor de context van wezenlijk betrokkenen.

De definitie is relationeel omdat dezelfde functie in verschillende situaties een andere ethische betekenis kan hebben. Een herinnering kan de ene persoon helpen en de andere onder druk zetten. Personalisatie kan mentale inspanning verminderen of een toezichtmechanisme worden. Wrijving kan een onnodige hindernis vormen of iemand beschermen tegen een onomkeerbare beslissing.

Zorgzaamheid bevindt zich dus niet uitsluitend in een interface of artefact. Ze hangt af van institutioneel beleid, verdienmodellen, datapraktijken, menselijke ondersteuning, toegankelijkheid, handhavingsprocedures en de verdeling van gevolgen.

De uitdrukking ‘oefent haar macht uit’ betekent niet dat een machine noodzakelijk intenties of zelfstandige morele handelingsbekwaamheid heeft. Technologie vormt handelen mede doordat ontwerpers en instellingen via haar mogelijkheden, standaardinstellingen, prikkels en beperkingen bepalen. Verantwoordelijkheid blijft toerekenbaar aan de betrokken mensen en instellingen, naar hun kennis, macht en vermogen om in te grijpen.

‘Gedisciplineerd’ is even belangrijk. Zorgzaamheid is niet de afwezigheid van macht. Technologie maakt onvermijdelijk sommige handelingen mogelijk, beperkt andere en beïnvloedt hoe mensen hun opties begrijpen. Ethische discipline betreft de vraag of die macht verdedigbare doelen dient en begrijpelijk, proportioneel en betwistbaar blijft.

Zorgzame technologie is daarom geen volledige theorie van technologie-ethiek. Een relatie kan tijdens de interactie respectvol lijken en toch berusten op uitbuitende arbeid, milieuschade, discriminatie of indringende datapraktijken. Zorgzaamheid moet naast rechtvaardigheid, veiligheid, privacy, toegankelijkheid, verantwoording en duurzaamheid worden beoordeeld.

Haar bijdrage is aandacht te richten op de geleefde en institutionele aard van technologische interactie:

• Hoe reageert het systeem wanneer iemand het verwachte pad niet kan volgen?
• Kan haar interpretatie van de persoon worden gecorrigeerd?
• Blijft er betekenisvolle ruimte om te weigeren?
• Staan beperkingen in verhouding tot de schade die ze tegengaan?
• Wie profiteert van de interactie en wie draagt de verborgen kosten?
• Welke mogelijkheden voor herstel blijven over na fouten, conflict of uitsluiting?

Deze vragen worden bijzonder belangrijk wanneer de beoogde interactie vastloopt.

4. Vijf kritieke momenten

De ethische kwaliteit van een technologische relatie is vaak het duidelijkst wanneer gewone interactie moeilijk wordt. Vijf momenten zijn bijzonder onthullend: fouten, onzekerheid, kwetsbaarheid, weigering en conflict.

Deze momenten sluiten elkaar niet uit. Iemand kan onzeker zijn door een systeemfout, kwetsbaar doordat toegang tot een essentiële dienst wordt bedreigd, of in conflict raken doordat een weigering niet werd gerespecteerd. De categorieën zijn analytische aanknopingspunten, geen starre indeling.

4.1 Fouten

Gebruikers, systemen, instellingen of meerdere deelnemers tegelijk kunnen fouten maken.

Een zorgzame reactie op fouten veronderstelt niet dat elke vergissing voortkomt uit nalatigheid, onkunde of kwade bedoelingen. Ze helpt de betrokkene te begrijpen wat er gebeurde, bewaart herstelbaar werk en biedt waar mogelijk een weg naar correctie.

Relevante vragen zijn:

• Legt het systeem de fout begrijpelijk uit?
• Maakt het onderscheid tussen vergissingen en opzettelijk misbruik?
• Kan iemand onjuiste informatie corrigeren?
• Blijft onafgemaakt werk bewaard?
• Staan de gevolgen in verhouding tot de ernst en herhaling van de fout?
• Leert het systeem van terugkerende fouten of legt het de kosten steeds opnieuw bij gebruikers?

Ontwerpen voor fouten betekent erkennen dat feilbaarheid normaal is voor zowel menselijk als technologisch handelen.

4.2 Onzekerheid

Technologieën werken vaak onder onzekerheid, vooral wanneer ze voorspellen, aanbevelen, classificeren of informatie genereren.

Een zorgzaam systeem mag onzekerheid niet als zekerheid presenteren om deskundig te lijken. Het moet beperkingen communiceren op een manier die past bij wat er op het spel staat en bij het vermogen van de persoon om met die informatie te handelen.

Te weinig uitleg kan misplaatst vertrouwen wekken. Te veel technische details kunnen de interpretatielast bij de gebruiker leggen zonder het begrip te verbeteren.

Relevante vragen zijn:

• Wat is bekend, geschat of onbekend?
• Hoe betrouwbaar is de uitkomst in deze context?
• Welke gevolgen kan het hebben om erop te vertrouwen?
• Is aanvullende verificatie wenselijk?
• Kan iemand begrijpen waarom het systeem tot deze conclusie kwam?
• Biedt het systeem ruimte om onzekerheid te bevragen?

De passende uitdrukking van onzekerheid hangt af van de context. Een vrijblijvende entertainmentaanbeveling en een medisch beslissingsondersteunend systeem vereisen niet dezelfde uitleg of voorzichtigheid.

4.3 Kwetsbaarheid

Kwetsbaarheid kan voortkomen uit een beperking, ziekte, leeftijd, financiële onzekerheid, emotionele nood, taalbarrières, beperkte digitale vaardigheden, afhankelijkheid van een dienst of een noodsituatie. Ze kan tijdelijk, structureel of door de technologie zelf veroorzaakt zijn.

Zorgzaamheid vraagt aandacht voor kwetsbaarheid zonder de persoon daartoe te reduceren.

Een systeem moet nagaan of het verwachte interactiepad vaardigheden, middelen of stabiliteit veronderstelt die niet iedereen heeft. Het moet ook onderzoeken of personalisatie, monitoring of ingrepen die kwetsbare gebruikers zouden beschermen juist institutionele controle vergroten.

Relevante vragen zijn:

• Wie loopt meer kans op moeilijkheden of schade?
• Biedt het systeem toegankelijke alternatieven?
• Is ondersteuning mogelijk zonder overmatige openbaarmaking?
• Vergroot hulp het handelingsvermogen van de persoon of vervangt ze het?
• Worden mensen blijvend ingedeeld op basis van een eerdere kwetsbare periode?
• Worden risico’s of werk afgewenteld op indirect betrokkenen?

Een zorgzame reactie biedt proportionele en herzienbare ondersteuning in plaats van stilzwijgend paternalistische besluiten op te leggen.

4.4 Weigering

Weigering laat zien of toestemming betekenisvol is.

Iemand kan gegevensverzameling, een aanbeveling of personalisatie weigeren, een interactie pauzeren of een dienst verlaten. Een systeem dat weigering technisch aanbiedt maar die verwarrend, bestraffend of praktisch onmogelijk maakt, respecteert de beslissing niet werkelijk.

Relevante vragen zijn:

• Wordt de mogelijkheid om te weigeren duidelijk aangeboden?
• Worden de gevolgen zonder intimidatie uitgelegd?
• Blijft het systeem na een besluit druk uitoefenen?
• Worden niet-gerelateerde diensten onthouden om toestemming af te dwingen?
• Kan toestemming later worden ingetrokken?
• Kan iemand vertrekken met behoud van gegevens of werk die redelijkerwijs behouden kunnen blijven?

Respect voor weigering betekent niet dat elke gewenste handeling beschikbaar moet blijven. Instellingen kunnen legitieme voorwaarden stellen of schadelijk gedrag voorkomen. De ethische vraag is of beperkingen relevant, proportioneel en eerlijk gecommuniceerd zijn.

4.5 Conflict

Conflict ontstaat wanneer belangen, interpretaties of waarden van deelnemers uiteenlopen.

Een gebruiker kan een moderatiebesluit of geautomatiseerde classificatie betwisten, of het systeem gebruiken om anderen te schaden. Instellingen moeten soms deelnemers beschermen, regels handhaven of toegang beperken.

Zorgzaamheid vereist niet dat men oordelen vermijdt. Ze vereist dat oordelen contextueel, uitlegbaar en proportioneel blijven.

Relevante vragen zijn:

• Kan de betrokkene het besluit begrijpen?
• Is er een betekenisvolle mogelijkheid om context te geven?
• Wordt herhaalde en ernstige schade onderscheiden van afzonderlijke vergissingen?
• Worden de belangen van andere betrokkenen meegewogen?
• Is bezwaar mogelijk waar dat passend is?
• Kan toegang onder redelijke voorwaarden worden hersteld?
• Beschermt handhaving de veiligheid zonder vernederend of willekeurig te worden?

Conflict toont waarom verantwoordelijkheid niet alleen bij de directe gebruiker of alleen bij het systeem kan liggen. De bredere institutionele inrichting bepaalt wiens verhaal wordt gehoord, welke schade wordt erkend en welke mogelijkheden voor herstel overblijven.

5. Vijf dimensies van zorgzaamheid

De vijf kritieke momenten laten zien wanneer de ethische kwaliteit van een technologische relatie vooral zichtbaar wordt. De volgende vijf dimensies beschrijven eigenschappen die zorgzaamheid op die momenten kunnen ondersteunen: begrijpelijkheid, proportionaliteit, herstelbaarheid, respect voor weigering en relationele aandacht.

Deze dimensies overlappen en kunnen botsen. Meer begrijpelijkheid kan cognitieve belasting veroorzaken. Herstel kan botsen met privacy of veiligheid. Aandacht voor context kan informatie vereisen die niet verzameld zou moeten worden. Ze moeten daarom contextueel oordelen ondersteunen, niet als automatische eisen gelden.

5.1 Begrijpelijkheid

Begrijpelijkheid betreft de vraag of mensen het systeem, de relatie en de gevolgen van hun handelen voldoende kunnen begrijpen.

Een begrijpelijke technologie vereist niet dat iedereen de volledige technische architectuur kent. Ze biedt informatie voor betekenisvolle deelname: wat het systeem doet, welke informatie het gebruikt, waarom een belangrijk besluit is genomen, welke onzekerheid blijft en welke opties beschikbaar zijn.

Begrijpelijkheid gaat verder dan transparantie door openbaarmaking. Informatie moet toegankelijk, tijdig en relevant zijn. Een lang beleidsdocument dat technisch een uitleg bevat maar in de praktijk niet te begrijpen is, creëert geen betekenisvolle begrijpelijkheid.

5.2 Proportionaliteit

Proportionaliteit betreft de vraag of technologische en institutionele reacties passen bij de ernst, waarschijnlijkheid en context van de betreffende schade.

Waarschuwingen, beperkingen, verificatie-eisen en sancties kunnen gerechtvaardigd zijn. Ze mogen echter niet verder gaan dan redelijkerwijs nodig is voor hun legitieme doel.

Een proportioneel systeem onderscheidt vergissingen, misverstanden, herhaald wangedrag en opzettelijke schade. Het houdt rekening met wat er op het spel staat, de kwetsbaarheid van betrokkenen en de omkeerbaarheid van gevolgen.

5.3 Herstelbaarheid

Herstelbaarheid betreft de mogelijkheid om fouten te herstellen, interpretaties te corrigeren en na een verstoring weer betekenisvol deel te nemen.

Technologie geeft efficiëntie bij gewoon gebruik vaak voorrang boven herstel na falen. Toch kan het ethische karakter van een systeem sterker afhangen van wat er gebeurt als iets misgaat.

Herstelbaarheid kan bestaan uit ongedaan maken, bewaarde voortgang, gegevenscorrectie, toegankelijke hulp, bezwaarprocedures, herstel van toegang en gegevensoverdraagbaarheid. Niet elk gevolg kan of moet worden teruggedraaid, maar onomkeerbare uitkomsten vragen sterkere rechtvaardiging en duidelijkere waarborgen.

5.4 Respect voor weigering

Respect voor weigering betreft de mogelijkheid om daadwerkelijk af te wijzen, te pauzeren, zich terug te trekken of te vertrekken.

Weigering mag niet automatisch als een te overwinnen obstakel worden gezien. Herhaalde verzoeken, verborgen weigeropties, bestraffende standaardinstellingen en kunstmatige urgentie kunnen een nominale keuze in druk veranderen.

Respect voor weigering erkent dat mensen van gedachten kunnen veranderen. Toestemming moet daarom waar mogelijk herzienbaar zijn, en het systeem moet onderscheid maken tussen een tijdelijke pauze, afwijzing van een functie en het beëindigen van de gehele relatie.

5.5 Relationele aandacht

Relationele aandacht betreft de vraag of een systeem relevante contexten, afhankelijkheden en verschillen tussen betrokkenen herkent.

Het gaat niet alleen om wat iemand aanklikt of kiest, maar om de omstandigheden die die handeling vormen. Taal, beperkingen, geldgebrek, eerdere ervaringen, sociale druk en afhankelijkheid van een dienst beïnvloeden of de interactie werkelijk vrijwillig en toegankelijk is.

Aandacht mag geen onbeperkte gegevensverzameling worden. Een systeem hoeft niet alles over iemand te weten om verantwoord met die persoon om te gaan. De ethische taak is relevante contextverschillen te herkennen, de minst ingrijpende middelen te gebruiken en mensen de interpretatie van het systeem te laten corrigeren of afwijzen.

Relationele aandacht reikt verder dan de directe gebruiker. Gemak voor de één kan verborgen arbeid, risico’s of milieukosten bij anderen leggen. De relatie moet daarom binnen de bredere sociotechnische inrichting worden beoordeeld.

6. Digitale identiteit en relationele verantwoordelijkheid

Digitale technologie bewaart steeds meer sporen van menselijke activiteit: gesprekken, creatief werk, voorkeuren, relaties, reputatie, aankopen, locaties en gedragspatronen. Die sporen kunnen praktisch en emotioneel belangrijk worden.

Een digitaal profiel is geen volledige weergave van een persoon. Gegevens zijn selectief, contextafhankelijk en vatbaar voor fouten. Afleidingen kunnen verouderen en gedrag uit de ene situatie kan in een andere verkeerd worden geïnterpreteerd.

Tegelijk is digitale identiteit meer dan wegwerpinformatie. Een platform kan jaren werk, sociale relaties of deelname aan een gemeenschap bevatten. Verlies van toegang raakt dan meer dan alleen gemak.

Zorgzame technologie moet beide uitgangspunten erkennen:

• digitale identiteit kan werkelijk persoonlijk en maatschappelijk belang hebben;
• geen technologische weergave mag een blijvende of allesomvattende definitie van de persoon worden.

Dit schept verantwoordelijkheden voor instellingen. Mensen moeten belangrijke informatie waar mogelijk kunnen bekijken en corrigeren. Ingrijpende geautomatiseerde interpretaties moeten betwistbaar zijn. Historische gegevens mogen niet stilzwijgend elke toekomstige interactie bepalen. Verwijdering, opschorting of verlies van toegang moet proportioneel zijn aan de schade en rekening houden met de waarde die in het account besloten ligt.

Deze verantwoordelijkheden betekenen geen onbeperkt recht om op elk platform te blijven of elke toegang te behouden. Diensten moeten soms schadelijke inhoud verwijderen, gedrag beperken of anderen beschermen. Zulke besluiten moeten wel meewegen wat verloren gaat, of relevante gegevens geëxporteerd kunnen worden en of herstel mogelijk is.

Verantwoordelijkheid binnen technologische relaties is wederzijds, maar niet symmetrisch.

Gebruikers blijven morele deelnemers. Zij zijn verantwoordelijk voor hun gebruik van technologie, de gevolgen voor anderen en eventuele uitbuiting, misleiding of schade via het systeem. Het erkennen van morele invloed van technologie mag menselijk handelingsvermogen niet uitwissen.

Instellingen en ontwerpers hebben doorgaans meer macht om de relatie vorm te geven. Zij bepalen standaardinstellingen, prikkels, classificaties, beschikbare keuzes, handhaving en de verdeling van zichtbaarheid en risico. Meer structurele macht brengt meer verantwoordelijkheid mee voor de omstandigheden waarin anderen handelen.

Verantwoordelijkheid moet daarom worden verdeeld naar kennis, macht, ingrijpmogelijkheden en bijdrage aan de schade. Ze mag niet automatisch terechtkomen bij degene die het dichtst bij de zichtbare uitkomst staat.

7. Van principe naar praktijk

Zorgzame technologie kan ontwerp, institutioneel bestuur en onderzoek richting geven. Het doel is niet één interfacestijl voor te schrijven, maar vragen te formuleren die gedurende de hele levensduur van een technologisch systeem onderzocht kunnen worden.

7.1 Ontwerp en ontwikkeling

Tijdens ontwerp en ontwikkeling kunnen teams vragen:

• Welke fouten zijn voorzienbaar?
• Welke handelingen zijn moeilijk of onmogelijk terug te draaien?
• Waar kunnen gebruikers de mogelijkheden of zekerheid van het systeem verkeerd begrijpen?
• Hoe kan weigering duidelijk en betekenisvol worden gemaakt?
• Welke groepen worden door het verwachte interactiepad benadeeld?
• Welke contextinformatie is werkelijk nodig?
• Wie verricht verborgen arbeid om de interactie gemakkelijk te maken?
• Wat gebeurt er met iemands werk, gegevens of relaties bij verlies van toegang?

Prototypes moeten ook paden voor falen, weigering en herstel bevatten. Toegankelijkheidstests en participatieve methoden kunnen kwetsbaarheid of afgewentelde lasten blootleggen die ontwerpers niet voorzien.

7.2 Institutioneel bestuur

Veel voorwaarden voor zorgzaamheid zijn niet alleen via interfaceontwerp te realiseren.

Bezwaarprocedures, moderatiebeleid, klantenservice, gegevensbewaring, abonnementsopzegging, accountopschorting en menselijke beoordeling zijn institutionele besluiten. Een heldere uitleg compenseert geen inhoudelijk disproportioneel beleid.

Organisaties moeten nagaan of hun prikkels zorgzaamheid ondersteunen of ondermijnen. Een verdienmodel dat aandacht maximaliseert, vertrek ontmoedigt of zo veel mogelijk persoonsgegevens verzamelt, kan botsen met respect voor weigering en relationele aandacht.

7.3 Onderzoek en evaluatie

Het kader kan kwalitatief en kwantitatief onderzoek ondersteunen.

Mogelijke methoden zijn interviews, gebruiksonderzoek, participatieve workshops, beleidsanalyse, incidentonderzoek, toegankelijkheidsonderzoek en gecontroleerde experimenten. Relevante uitkomsten zijn begrip, ervaren druk, succesvol herstel, toegankelijkheid van bezwaar, passend vertrouwen, foutcorrectie en verdeling van lasten.

Evaluatie moet gewoon gebruik omvatten én bewust de vijf kritieke momenten onderzoeken. Een systeem kan goed werken zolang alles volgens plan gaat, maar juist falen wanneer ethische ondersteuning het hardst nodig is.

Het kader mag niet te snel tot één zorgzaamheidsscore worden teruggebracht. Samenvoeging kan ernstige tekortkomingen verhullen: visuele helderheid compenseert geen ontbrekende weigeroptie of schade die op werknemers wordt afgewenteld.

8. Een voorlopige evaluatiematrix

Het kader kan als matrix de vijf kritieke momenten met de vijf dimensies verbinden. De matrix geeft geen universele score, maar helpt vragen zichtbaar te maken die anders onopgemerkt blijven.

De matrix maakt spanningen zichtbaar. Een begrijpelijke ingreep kan toch disproportioneel zijn. Een herstelbaar systeem kan weigering ondermijnen door aanhoudende druk. Contextgevoeligheid kan eerlijkheid verbeteren maar privacyrisico’s creëren als ze op overmatige gegevensverzameling steunt.

Kritiek moment	Begrijpelijkheid	Proportionaliteit	Herstelbaarheid	Respect voor weigering	Relationele aandacht
Fout	Kan iemand begrijpen wat er is gebeurd?	Passen de gevolgen bij de fout?	Kunnen werk, toegang of juiste informatie worden hersteld?	Kan iemand een onjuiste interpretatie afwijzen?	Houdt de reactie rekening met context en verschillende mogelijkheden?
Onzekerheid	Worden beperkingen en zekerheid betekenisvol gecommuniceerd?	Past de voorzichtigheid bij wat er op het spel staat?	Kunnen besluiten worden herzien wanneer nieuwe informatie verschijnt?	Kan iemand weigeren of een andere vorm van begeleiding zoeken?	Wordt onzekerheid passend gecommuniceerd aan betrokkenen?
Kwetsbaarheid	Zijn risico’s, opties en ondersteuning begrijpelijk en toegankelijk?	Blijft de ingreep beperkt tot wat redelijkerwijs nodig is?	Kan een tijdelijke situatie of classificatie later worden herzien?	Kan hulp zonder onevenredige kosten worden geweigerd?	Sluit ondersteuning aan op relevante behoeften zonder de persoon daartoe te reduceren?
Weigering	Zijn de beschikbare keuzes en gevolgen duidelijk?	Zijn beperkingen als gevolg van weigering gerechtvaardigd?	Kan toestemming worden ingetrokken of later opnieuw gegeven?	Wordt de beslissing zonder manipulatie of herhaalde druk geaccepteerd?	Beïnvloeden afhankelijkheid, toegankelijkheid en machtsverschillen de betekenis van weigering?
Conflict	Zijn het besluit en de grondslag ervan te begrijpen?	Passen handhavingsmaatregelen bij de schade?	Zijn correctie, bezwaar of herstel mogelijk?	Kan iemand de interpretatie van het systeem betwisten?	Worden de belangen en context van alle wezenlijk betrokken deelnemers meegewogen?

Evaluatie vereist daarom oordeelsvorming in plaats van mechanische naleving. Relevante vragen, bewijs en aanvaardbare afwegingen verschillen per domein. Zorg, entertainment, onderwijs, financiën en sociale communicatie kennen verschillende belangen en afhankelijkheidsrelaties.

De matrix is een beginstructuur voor onderzoek. Haar bruikbaarheid hangt af van deelname van betrokkenen, aandacht voor institutionele prikkels en bereidheid om schade buiten de directe interface te onderzoeken.

9. Beperkingen en toekomstig onderzoek

Het huidige concept van zorgzame technologie kent verschillende beperkingen.

Ten eerste is het kader breed en vraagt het aanpassing per domein. Begrijpelijkheid, proportionaliteit en herstelbaarheid betekenen niet hetzelfde in zorg, onderwijs, entertainment, financiën en publieke infrastructuur. Toekomstig onderzoek moet domeinspecifieke interpretaties ontwikkelen zonder het relationele karakter te verliezen.

Ten tweede hangt zorgzaamheid deels af van het perspectief. Een ingreep die de één steun biedt, kan voor een ander indringend of paternalistisch voelen. Participatief onderzoek met gebruikers, niet-gebruikers, werknemers en indirect betrokken gemeenschappen is daarom nodig.

Ten derde zijn spanningen tussen de dimensies niet altijd op te lossen. Veiligheid kan herstel beperken, privacy kan contextuele aandacht begrenzen en bescherming tegen schade kan bepaalde beperkingen van weigering rechtvaardigen. Het kader benoemt deze spanningen, maar lost ze niet automatisch op.

Ten vierde kunnen relationele eigenschappen van een interface bredere onrechtvaardigheid verhullen. Respectvolle communicatie kan samengaan met uitbuitende arbeid, milieuschadelijke infrastructuur of discriminerende praktijken. Zorgzame technologie moet daarom verbonden blijven met analyses van rechtvaardigheid, duurzaamheid, veiligheid en politieke macht.

Ten vijfde kan de taal van zorgzaamheid zelf worden misbruikt. Organisaties kunnen rustige vormgeving en zorgzame woorden gebruiken terwijl ze manipulatieve verdienmodellen en disproportionele controle behouden. Zorgzaamheid moet worden beoordeeld op praktijken, prikkels en gevolgen, niet op branding of uitgesproken bedoelingen.

Toekomstig onderzoek kan nagaan:

• hoe mensen uit verschillende sociale en culturele contexten technologische zorgzaamheid begrijpen;
• of de vijf dimensies meetbaar gemaakt kunnen worden zonder ze tot oppervlakkige maatstaven te reduceren;
• hoe zorgzame reacties vertrouwen, autonomie, begrip en de bereidheid om correctie te zoeken beïnvloeden;
• hoe institutionele prikkels herstelbaarheid en respect voor weigering mogelijk maken of ondermijnen;
• hoe het kader toepasbaar is op AI, publieke diensten, zorgtechnologie, games en digitale platforms;
• hoe belangen van werknemers, gemeenschappen en andere indirect betrokkenen in de evaluatie kunnen worden meegenomen;
• wanneer technologisch ingrijpen passend beschermt en wanneer het paternalistisch wordt.

Empirisch onderzoek kan ook aantonen dat de voorgestelde momenten en dimensies herziening vragen. Het kader moet openblijven voor correctie door de mensen en gemeenschappen wier technologische relaties het probeert te begrijpen.

10. Conclusie

Technologie-ethiek vraagt vaak wat systemen doen, welke waarden ze belichamen en welke gevolgen ze hebben. Dit artikel voegde een relationele vraag toe: hoe oefent technologie macht uit in haar relatie met mensen, vooral wanneer de interactie afwijkt van het verwachte pad?

Zorgzame technologie is gedefinieerd als een sociotechnische inrichting die haar macht gedisciplineerd uitoefent: begrijpelijk, proportioneel, herstelondersteunend, met respect voor weigering en aandacht voor de context van wezenlijk betrokkenen.

Het kader richt zich op vijf kritieke momenten: fouten, onzekerheid, kwetsbaarheid, weigering en conflict. Die tonen of het systeem mensen ziet als betekenisvolle deelnemers die kunnen begrijpen, bevragen, corrigeren en vertrekken, of vooral als objecten om te classificeren en te sturen.

Zorgzaamheid betekent geen onbeperkte toegeeflijkheid, zachte esthetiek of grenzeloosheid. Technologieën en instellingen moeten soms waarschuwen, beperken of ingrijpen. Ethisch vereist is dat macht verdedigbare doelen dient, proportioneel is aan de schade en betekenisvolle mogelijkheden voor uitleg, betwisting en herstel biedt.

Verantwoordelijkheid in technologische relaties is wederzijds maar niet symmetrisch. Gebruikers blijven verantwoordelijk voor hun handelen via systemen; ontwerpers en instellingen dragen meer verantwoordelijkheid voor de structuren, prikkels en gevolgen die zij creëren.

Het concept is geen keurmerk of vervanging voor rechtvaardigheid, veiligheid, privacy, toegankelijkheid en duurzaamheid. Het is een vertrekpunt voor onderzoek naar een dimensie die achter functionaliteit en efficiëntie kan verdwijnen: de kwaliteit van de relatie zelf.

Technologie wordt ethisch het zichtbaarst wanneer iets misgaat. Haar reactie toont niet alleen wat het systeem kan, maar ook hoe het de mens begrijpt met wie het omgaat.

Literatuur

1. Borgmann, A. (1984). Technology and the character of contemporary life: A philosophical inquiry. University of Chicago Press.

2. Friedman, B., Hendry, D. G., & Borning, A. (2017). A survey of value sensitive design methods. Foundations and Trends® in Human–Computer Interaction, 11(2), 63–125. https://doi.org/10.1561/1100000015

3. Mackenzie, C., & Stoljar, N. (Eds.). (2000). Relational autonomy: Feminist perspectives on autonomy, agency, and the social self. Oxford University Press.

4. Nissenbaum, H. (2001). How computer systems embody values. Computer, 34(3), 118–120. https://doi.org/10.1109/2.910905

5. Tronto, J. C. (1993). Moral boundaries: A political argument for an ethic of care. Routledge.

6. Verbeek, P.-P. (2011). Moralizing technology: Understanding and designing the morality of things. University of Chicago Press.

7. Weiser, M., & Brown, J. S. (1996). The coming age of calm technology. Xerox PARC.

8. Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.

Verantwoording van AI-ondersteuning

Bij de voorbereiding van dit artikel is ChatGPT van OpenAI gebruikt voor literatuurbespreking, conceptontwikkeling, structuur, taalverfijning en redactie. De auteur heeft de aangehaalde bronnen beoordeeld, de argumenten kritisch geëvalueerd en blijft verantwoordelijk voor de ideeën, interpretaties en definitieve tekst.