Joris DeeneVeel bedrijven kiezen ervoor om AI-systemen aan te kopen bij externe leveranciers, mogelijk met aanvullend maatwerk. In de context van de Europese AI Act wordt uw leverancier dan beschouwd als de ‘aanbieder’, terwijl u zelf optreedt als ‘gebruiksverantwoordelijke’. Hoewel het merendeel van de nalevingsverplichtingen rust op de aanbieder, draagt u als gebruiksverantwoordelijke ook belangrijke verantwoordelijkheden:
- Controleer of een CE-markering aanwezig is
- Zorg voor adequate menselijke controle door goed getrainde medewerkers
- Volg nauwgezet documentatievoorschriften en toegestane gebruiksvoorwaarden op
- Monitor actief het gebruik van AI-systemen om problemen tijdig op te sporen
U blijft immers eindverantwoordelijk (en aansprakelijk) wanneer het AI-systeem niet voldoet aan wat er beloofd is. Het is daarom essentieel om bepaalde risico’s duidelijk bij uw leverancier te leggen.
Wat betekenen de nieuwe Model Contractual Clauses (MCC-AI)?
De EU Public Buyers Community heeft recentelijk een vernieuwde versie gepubliceerd van haar Modelcontractbepalingen voor AI aankoop (MCC-AI). Deze modelclausules helpen u om risico’s van aangekochte AI-systemen effectief te beheren.
Deze modelcontractbepalingen bestaan in twee versies:
- MCC-AI-High-Risk: Specifiek bedoeld voor AI-systemen die als hoog risico worden aangemerkt volgens artikel 6 van de AI Act.
- MCC-AI-Light: Voor AI-systemen die niet hoog-risico zijn, maar toch transparantie of verklaring van genomen beslissingen vereisen.
Waar richten deze bepalingen zich op?
De MCC-AI sluiten aan bij hoofdstuk III van de AI Act en voorzien in bepalingen omtrent:
- Risicomanagementsystemen
- Databeheer
- Technische documentatie
- Menselijke controle
- Het recht op uitleg voor getroffen personen (Artikel 86 AI Act)
Daarnaast bevatten ze belangrijke afspraken over de verdeling van verantwoordelijkheden in de AI-waardeketen, zoals eigendom van datasets, garanties rond gegevens van derde partijen en uitleg aan getroffen individuen.
Geen standaardoplossing: een actieve benadering is vereist
Het is echter belangrijk om te beseffen dat de MCC-AI geen kant-en-klare oplossingen zijn. Het letterlijk opnemen van deze bepalingen in uw aankoopvoorwaarden zonder verdere reflectie kan aanzienlijke risico’s opleveren. Aanbieders dienen actief betrokken te worden bij deze bepalingen en moeten aantoonbaar begrijpen welke verplichtingen en uitdagingen de implementatie van AI-systemen met zich meebrengt.
Bereid u nu voor op toekomstige compliance
Hoewel de verplichtingen voor AI-systemen met hoog risico pas vanaf augustus volgend jaar gelden (en sommige producten uit Annex I zelfs pas in 2027), is het raadzaam om nu al te anticiperen. De aankoop van AI-systemen is immers een investering voor meerdere jaren. Dit maakt het noodzakelijk om al tijdens uw eerstvolgende onderhandelingen aandacht te besteden aan compliance met de AI Act.
