AI Act: wat organisaties moeten doen voor verantwoorde AI-beheersing

Of het nu gaat om medische besluitvorming, chatbots, cv-screening of automatische factuurverwerking: gebruikers krijgen te maken met concrete verantwoordelijkheden. Dit artikel zet op een rij wat deze verplichtingen inhouden en hoe organisaties zich hierop kunnen voorbereiden.

Menselijk toezicht is verplicht

Organisaties die AI inzetten moeten actief maatregelen treffen. Passief gebruik is niet langer toereikend. Er moet beleid komen, toezichtprocedures moeten worden ingericht, medewerkers moeten worden getraind in AI-geletterdheid en verantwoordelijkheden moeten worden vastgelegd. Deze verplichtingen gelden niet alleen voor high-risk systemen, maar ook voor toepassingen die indirecte invloed hebben op mensen of processen. Denk bijvoorbeeld aan een chatbot die automatisch klantvragen afhandelt. Ook daar moet u zorgen voor controle en transparantie vanaf het begin.

[....]