Hoeveel controle heb je eigenlijk over de AI die in je systemen draait?

Wie vandaag een AI-model inzet voor bedrijfskritische processen, neemt een stilzwijgende aanname: dat het model doet wat het zou moeten doen, en stopt wanneer het dat niet meer doet. Die aanname is harder aan het wankelen dan de meeste ondernemingen beseffen.

Een recente studie van Guidelight AI Standards, samengevat door TechCrunch, toont aan dat weinig van de toonaangevende AI-labs een openbaar of gedemonstreerd containment-reactieplan hebben. Anthropic en Meta scoren het laagst op containment-gereedheid.

Dit is geen abstract risico. Het is een operationele vraag die elke onderneming die AI inzet moet kunnen beantwoorden: wat gebeurt er als het model in je systemen onverwacht gedrag vertoont?

Wat containment betekent in de praktijk

Het gaat om de vraag hoe een organisatie merkt dat een model zich buiten de beoogde grenzen begeeft, welke stappen dan follow-up krijgen, en wie daarover beslist. Dat vereist zichtbaarheid in wat het model doet, criteria om afwijkingen te herkennen, en een procedure om in te grijpen.

Guidelight stelt dat het publieke bewijs aantoont dat bedrijven slechts weinig containment-protocollen klaar hebben voor een noodsituatie.

OpenAI heeft weliswaar meerdere keren workloads gepauzeerd of beëindigd na veiligheidsincidenten, inclusief interne model deployments en training. Dat is een teken dat er mechanismen bestaan. Maar dat die incidentgedreven reacties zijn, niet het resultaat van een vooraf gedocumenteerd en oefenbaar plan, maakt het verschil tussen toevallig goed handelen en structureel beheersen.

De regelgevende druk neemt toe

Wie denkt dat dit een technisch detail blijft dat de labs wel onderling oplossen, moet naar de wetgever kijken. Californië's SB 53, dat dit jaar van kracht is, verplicht grote frontier-ontwikkelaars om een kader te publiceren over hoe ze kritieke veiligheidsincidenten identificeren en erop reageren. New York's RAISE Act, met vergelijkbare criteria, treedt in januari in werking.

Op federaal niveau dienden vertegenwoordigers vorige maand het AI Kill Switch Act in, een bipartisane wet die grote AI-ontwikkelaars zou verplichten technische mechanismen te bouwen en te onderhouden om kwaadaardige modellen uit te schakelen. Dit is nog geen wet, maar de richting is duidelijk: containment wordt een compliance-vereiste, niet langer een vrijwillige keuze.

Waarom dit jou als ondernemer of operationeel verantwoordelijke raakt

De verleiding is om dit te beschouwen als iets dat de grote AI-labs aangaat, niet jouw organisatie. Dat klopt niet helemaal.

De vraag is niet of de labs ooit een incident zullen hebben. De vraag is of jouw organisatie weet wat ze dan doet.

Waar je als organisatie nu al mee kunt beginnen

Een formeel containment-plan bouwen voor een frontier-model is geen kleine opgave. Maar er zijn stappen die binnen de huidige mogelijkheden liggen en die meteen waarde hebben, ongeacht welke regelgeving uiteindelijk van toepassing wordt.

Eerst: breng in kaart welke AI-modellen in je organisatie draaien, via welke koppelingen, en welke beslissingen of processen ze beïnvloeden.

Vervolgens: definieer wat je zou merken als een model zich onverwacht gedraagt. Wat zijn de signals dat iets mis is? Wie ziet dat? En wat is het protocol wanneer dat gebeurt? Dat hoeft geen uitgebreid document te zijn. Het moet wel bestaan en bekend zijn bij de mensen die het moeten uitvoeren.

Tot slot: als je met een externe AI-dienst werkt, vraag dan wat het containment-beleid van die aanbieder is. Niet om wantrouwig te zijn, maar om te weten wat je kunt verwachten en wat niet. Een aanbieder die daar geen helder antwoord op heeft, geeft je een indicatie van hoeveel risico je neemt.

De kern

De labs die frontier-modellen bouwen, hebben containment nog niet op orde. De regelgever begint dat nu af te dwingen.

Dat betekent niet dat je AI moet vermijden. Het betekent dat je de vraag wie er ingrijpt en hoe, nu moet stellen in plaats van te wachten tot een incident het voor je doet.