Considerati Academy

Op 21 april 2021 publiceerde de Europese Commissie (EC) het voorstel voor de regulering van Artificiële Intelligentie (AI). Met het wetsvoorstel moeten de risico’s van AI gereguleerd worden om de veiligheid en grondrechten van Europese burgers te beschermen. Maar wat betekent dit precies voor de ontwikkelaars en gebruikers? Specifiek voor ontwikkelaars en gebruikers van ‘hoog-risico’ AI-systemen, zal de wetgeving impactvol zijn. Deze systemen moeten namelijk aan strenge eisen voldoen, en in sommige toepassingen worden de systemen zelfs helemaal verboden. De AI Act wordt naar verwachting in 2023 goedgekeurd. 

De impact van Artificiële Intelligentie (AI) is in een korte tijd een ‘hot topic’ geworden onder toezichthouders, adviesorganen en intergouvernementele organisaties. Er is inmiddels een veelheid aan richtlijnen, leidraden, handreikingen en adviezen geproduceerd voor de verantwoorde inzet van algoritmes. Deze zijn tot nu toe niet verplicht, maar met de onlangs goedgekeurde motie om het Impact Assessment Mensenrechten en Algoritmen (IAMA) te verplichten voor overheden, lijkt hier verandering in te komen. Het IAMA is in opdracht van het ministerie Binnenlandse Zaken en Koninkrijksrelaties ontwikkeld door de Universiteit Utrecht. Het toetsingskader helpt met het identificeren van risico’s voor mensen- en grondrechten die optreden bij de inzet van algoritmen. Het IAMA wordt veel besproken en uitgevoerd, maar wat houdt het precies in?  

De tijd dat alle innovaties met data en digitale technologie met gejuich worden ontvangen is voorbij. Organisaties worden op de vingers getikt voor privacy schendingen, beschuldigd van discriminatie met algoritmes, en verweten te weinig naar ethische kanten van digitalisering te kijken. Digitale innovaties komen veelal negatief in het nieuws, terwijl het grote voordelen kan bieden voor mens en milieu. Een voorwaarde om deze voordelen optimaal te benutten is door de impact van digitale technologie beter te begrijpen en de negatieve effecten te voorkomen of verzachten. Digitale ethiek biedt daar een praktisch hulpmiddel voor. 

De effecten en impact van digitale technologieën zijn vaak lastig te voorspellen. Het zijn deze onvoorziene effecten van de toepassing van digitale technologie die een grote impact kunnen hebben. Daarnaast leiden deze effecten tot compliance- of reputatierisico’s. Toezichthouders en belanghebbenden stellen steeds kritischere vragen of het ontwikkelproces op een verantwoorde manier is verlopen en of in voldoende mate rekening is gehouden met de impact van de technologie.

Steeds meer organisaties zien de potentie van AI en maken gebruik van deze technologie. We komen het bijna overal tegen, van simpele chatbots, naar videoaanbevelingen en recruitmentselectie tot aan zelfrijdende auto’s. Hoe zorgt u dat u op een verantwoorde manier AI inzet? Op welke manier kan u de impact van de inzet van AI inschatten en op welke manier kunnen er treffende maatregelen worden getroffen? De workshop Responsible AI Governance kan u hierbij helpen!