Kunstmatige intelligentie zal een steeds grotere rol gaan spelen in onze samenleving. Een uitspraak als een lawine; iets wat niet meer gestopt kan worden. Steven Dorrestijn, lector Ethiek en Technologie, benadrukte recent tijdens een debat over de effecten van ChatGPT op het onderwijs, dat het steevast herhalen van dat soort uitspraken kan leiden tot een selffulfilling prophecy. Tegelijkertijd geldt de kracht van herhaling in positieve zin voor ethische reflectie. “Als we echt willen,” zegt Steven Dorrestijn, “stoppen we de lawine.” Daarom is het doorlopend stellen van kritische vragen belangrijk, bijvoorbeeld nu er geluiden klinken dat artificial intelligence (AI) gaat zorgen voor een ‘nieuwe realiteit’. Maar ook al zal de impact van iets als AI daadwerkelijk exponentieel toenemen, wat vinden wij daar dan als mensen van?
Bestaat er zoiets als het juiste moment voor ethische reflectie? Vaak wordt ‘de ethicus’ pas actief benaderd als er problemen aan het licht komen bij een technologie die al op de markt is, of als een ontwikkeling al onomkeerbaar lijkt. “Je kan heel goed beginnen bij de impact van een concreet apparaat of een concrete nieuwe innovatie,” zegt Steven Dorrestijn. “Maar op een bepaalde manier ben je dan een stap te laat. Dan is het kwaad al voor de helft geschied. Stel je voor dat er echt een fundamentelere weeffout in zit.”
In februari was Steven voorzitter van een debat over de impact van ChatGPT op het onderwijs. Hij vertelt: “Ik heb het debat ook zeker gebruikt om een voet tussen de deur te krijgen. Om binnen Saxion te laten zien dat wij er ook zijn voor ethische reflectie op technologie. Ik hoop dat iedereen die met artificiële intelligentie en digitalisering te maken heeft, of daar zelf aan werkt, ons weet te vinden.” En wat is de hoop als specifiek naar ChatGPT in relatie tot het onderwijs wordt gekeken? Steven: “Studenten moeten leren om bronnen kritisch te gebruiken. Dat is wat je nu nog veel sterker moet gaan doen. Want je laat een hele tekst oplepelen, maar dan is de uitdaging: hoe ga je die gebruiken en bewerken? … Je moet het je wel eigen maken. Doel van het onderwijs blijft toch om zelf iets leren, wijzer te worden.”
Debat 'Leren in tijden van ChatGPT'.
Rempedaal of gaspedaal
Vaak zorgt een baanbrekende technologische toepassing eerst voor een fase van onrust en onduidelijkheid. Alsof er een hogere macht heeft lopen sleutelen aan een geheim project, en wij als mensen vervolgens worden verrast. Terwijl het niet nodig is om zo door innovaties te worden overvallen. Niet voor niks is Steven voorstander van een meer integrale toepassing van ethische reflectie. Waarbij ethici al in een vroeg stadium worden aangehaakt, bijvoorbeeld toen de ontwikkeling van ChatGPT nog in de kinderschoenen stond. Ethiek gaat over waarden, en in dit verband ook over de doelen die met techniek worden nagestreefd. Daarom is ethische reflectie al belangrijk vóórdat een ontwikkeling is gestart.
Tegelijkertijd is zo’n vroege start geen absolute noodzaak. Als een technologische innovatie zorgt voor onrust, is dát het moment om alsnog te beginnen met reflectie. Om als het ware een stap terug te doen in het innovatieproces. Steven: “En dan alsnog de vraag stellen: was het goed om dit te beginnen? Moeten we hiermee doorgaan? Wat kunnen we bijsturen en verbeteren?” Steven merkt dat sommige technici en producenten ‘bang’ zijn dat kritische vragen een ontwikkel- of productieproces kunnen afremmen. Hij ziet in waarom technologieprofessionals moeite hebben met de vraag naar het doel van hun werk, en of het een goed doel is: “De moeilijkheid is: die vraag is zo gróót… als je éérst die vraag moet beantwoorden, kom je dan wel verder?”
Ethical Readiness Levels
De staat van een technologische ontwikkeling wordt vaak getoetst aan de hand van zogenaamde Technology Readiness Levels. Simpel gezegd is dit een hulpmiddel om te begrijpen in hoeverre een nieuwe technologie al klaar is voor productie op grote schaal. “In een project over drones bij Space53 werden we uitgedaagd om daarbij aan te haken,” zegt Steven. Wat leidde tot de ontwikkeling van Ethical Readiness Levels, waarbij er niet wordt gekeken of een innovatie gereed is voor productie, maar of een innovatie vanuit ethisch oogpunt afgerond is te noemen. “Ik weet niet zeker of je er voor ethiek altijd een cijfer aan kan geven,” zegt Steven als kanttekening. “Dus level… dat is een open vraag, of dat voor ethical readiness wel kan.”
Een van de dingen waar we op uitkwamen, is dat een apparaat nooit helemaal ethisch klaar kan zijn. Want het hangt er ook vanaf hoe het gebruikt wordt, hoe het ingezet wordt.
Het project bij Space53 leidde tot een specifiekere toepassing van Ethical Readiness Levels: de Drone Acceptance Readiness Tool (DART). Een vraag die met behulp van DART werd gesteld was: wat maakt een drone-applicatie succesvol? De ervaringen die vanuit het project naar voren kwamen, hebben al gezorgd voor relevante inzichten over Ethical Readiness Levels. Steven: “Een van de dingen waar we op uitkwamen, is dat een apparaat nooit helemaal ethisch klaar kan zijn. Want het hangt er ook vanaf hoe het gebruikt wordt, hoe het ingezet wordt … Soms zit er wel een slechte neiging in een product, of een goede neiging, maar bijna altijd kun je technologie goed en slecht gebruiken.”
Volgens Steven is het een grote uitdaging van zijn vakgebied om mensen in alle gevallen te overtuigen van het belang van reflectie; zelfs wanneer in een innovatieproces geen ruimte is voor pauzeren. Ook als een ontwikkelaar ‘verder moet’, is het relevant om kritisch te reflecteren op eigen werk; dat er ruimte is voor bijgedachten. De evaluatie van een Ethical Readiness Level moet dan worden gezien als een momentopname. Het uiteindelijke doel is de integratie van reflectie in verschillende fases van een innovatieproces, zodat tegemoet kan worden gekomen aan maatschappelijke en technologische onzekerheidsfactoren.
Op de vraag of het gebruik van Ethical Readiness Levels ook de technologie in kwestie ten goede kan komen, zegt Steven volmondig “ja”. Ethical Readiness Levels helpen volgens hem om een realistisch beeld te krijgen over wat nodig is voor de acceptatie van productinnovaties in de samenleving. “Ik moet denken aan een uitvinder als Dyson,” zegt Steven, “die in mijn jeugd al op tv was met zijn vinding van een stofzuiger zonder zak. Zulke uitvinders verzuchten: ‘Tien jaar geleden was dit product al klaar, maar toen kwamen er allemaal problemen. Over wetgeving, we hadden geen financiers, en toen het eenmaal op de markt was bleek dat gebruikers het toch niet wilden.’” Allemaal zaken die met behulp van ethische reflectie eerder onder ogen kunnen worden gezien.
Dat Saxion Living Technology staat voor een combinatie van technische, maatschappelijke, economische én ethische kennis.
Ethiek-onderwijs
Steven heeft een missie: hij zou graag zien dat ethiek veel meer met het hoger onderwijs vervlochten raakt. Hij beschouwt dit als een kernfocus van zijn lectoraat. “Een vertaling naar toepasbare werkvormen en tools is denk ik heel belangrijk,” zegt hij. “En in aansluiting op concrete projecten. Een concreet apparaat of een concrete technologie, waar je iets van víndt.” Ook op dit moment gebeurt er binnen Saxion al veel op het gebied van ethiek en onderwijs. Steven: “We zijn actief bezig in samenwerking met andere onderzoeksgroepen en opleidingen. We geven heel wat gastcolleges binnen Saxion, en helpen bij lessen over ethiek. Ook geven we een volledige keuzemodule voor techniekstudenten. Daar was digitalisering in bredere zin altijd al een onderwerp. En de invloed van digitalisering op de maatschappij.”
Ethische reflectie is voorlopig nog exclusief voorbehouden aan mensen. Als ChatGPT een verkeerd of onethisch antwoord geeft, is het zich daar niet van bewust. Voor de mensen van Ethiek en Technologie is er dus nog volop werk aan de winkel. Kijkend naar de toekomst, zegt Steven te hopen op een integrale methode om vanuit de onderzoeksagenda Living Technology te werken aan grote thema’s als duurzaamheid, gezondheid en ‘de digitale samenleving’. Een methode waarbij niet alleen vanuit technologie wordt gedacht, maar ook vanuit maatschappelijke en economische disciplines. “Dat het combineren van die pijlers een gezamenlijke, integrale aanpak oplevert,” zegt Steven in toelichting op zijn droom. “Dat Saxion Living Technology staat voor een combinatie van technische, maatschappelijke, economische én ethische kennis.”
Ethical Readiness: toetsing en integratie
De Ethical Readiness Levels die worden ontwikkeld bij Ethiek en Technologie, kunnen worden gezien als de ‘ethische tegenhangers’ van zogenaamde Technology Readiness Levels. Waar het laatste model kijkt of een nieuwe technologie ‘rijp is voor productie en marktintroductie’, moeten Ethical Readiness Levels handvatten bieden bij het bepalen of de technologie in ethische zin al gereed is en goed in de samenleving past.
Met het oog op de praktische toepassing van Ethical Readiness Levels, worden toetsen ontwikkeld. De simpelste vorm hiervan bestaat uit twee vragen, over doel en middel. Hierbij wordt niet alleen gekeken wat het doel is van bijvoorbeeld een nieuwe technologie, maar ook of het in ethische zin een goed doel is. En of met het ontwikkelde middel het doel wordt bereikt, waarbij de kans op misbruik en neveneffecten niet te groot mag worden.
Eerste framework
De doorontwikkeling van Ethical Readiness Levels, vindt onder andere plaats binnen een project van Verena Schulze Greiving, docent-onderzoeker Ethiek en Technologie en Applied Nanotechnology.
Recent, tijdens de DAS (Domein Applied Science) Conferentie 2023, presenteerde Verena een eerste idee van een framework om de ethische en maatschappelijke readiness van innovaties te achterhalen. Op dit moment zoekt Verena de samenwerking met technische lectoraten om de integratie van ethische en maatschappelijke readiness verder uit te werken.
