S09E01 - Toezicht op AI: wat de Autoriteit Persoonsgegevens al mag en wat nog komt

Sven Stevenson, directeur toezicht en coördinatie op AI en algoritmes bij de Autoriteit Persoonsgegevens, ziet organisaties twijfelen over wat er nu al geldt voor Artificial Intelligence. De AI-act is deels van kracht, maar de handhaving en de standaarden die de wet praktisch maken laten nog op zich wachten. Hij legt uit dat toezicht nu draait om uitleg en dat je ethiek kunt toetsen door grondrechten tegen elkaar af te wegen.

Bij AI in werving en selectie ligt de lat hoger: een systeem dat leert van wie eerder is aangenomen, bootst dat plaatje na en moet daarom een of twee keer per jaar worden gecontroleerd op nauwkeurigheid en discriminatie. Ook systemen die je als gewoon algoritme beschouwt kunnen onder de wet vallen. Deze week kun je al je AI- en algoritme-toepassingen op een rij zetten en per toepassing vastleggen welke grondrechten in het geding kunnen komen.

Onderwerpen

Stand van zaken van de AI-act en de voorbereiding van het toezicht door de Autoriteit Persoonsgegevens

Ethiek als toetsbare afweging van grondrechten, met werving en selectie als hoog-risico-voorbeeld

Het vloeiende onderscheid tussen algoritmes en AI en het belang van een register van toepassingen

AI-geletterdheid als verzwarende factor en de scheve balans bij solliciteren en klachten

Toekomstige risico's zoals AI companions en de AP-sandbox voor innovatie

LinksOrganisatie: Home | Autoriteit PersoonsgegevensWetgeving: EU Artificial Intelligence Act | Up-to-date developments and analyses of the EU AI ActWetgeving: AVG algemeen | Autoriteit PersoonsgegevensOrganisatie: Home | Rijksinspectie Digitale Infrastructuur (RDI)Organisatie: European AI Office | Shaping Europe’s digital futureWetgeving: Kids Act (Europees voorstel)Platform: Het algoritmeregister van de Nederlandse overheidKaartspel: AI Game Changer - Generative AI editieGenoemde entiteiten: Autoriteit Persoonsgegevens - World Summit AI - OpenAI - ChatGPT - Europese Unie

Stuur ons een bericht

Aigency

Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.