Een AI-antwoord kan nauwkeurig lijken en toch ongeschikt zijn om op een systeem in te werken. Dat het een verzoek als urgent classificeert, voorstelt een veld in te vullen of aanbeveelt een proces te starten, betekent niet dat het daarvoor autorisatie of voldoende context heeft, noch dat het aan de bedrijfsregels voldoet. Het risico ontstaat wanneer een tekstueel of gestructureerd voorstel zonder onafhankelijke barrières wordt omgezet in een uitvoerbare opdracht.
Om gestructureerde AI-uitvoer in PHP te valideren, is het raadzaam het model te behandelen als een component die voorstellen voorbereidt, niet als een autoriteit die records wijzigt, verantwoordelijken toewijst, communicatie verstuurt of processen start. De applicatie behoudt de beslissingsbevoegdheid, past haar eigen regels toe en registreert waarom een voorstel is geaccepteerd, gecorrigeerd of afgewezen.
Een plausibele uitvoer is geen geldige instructie
Modellen kunnen syntactisch correcte JSON teruggeven en toch een niet-bestaande prioriteit, een identificatiecode die niet bij de klant hoort, een onmogelijke datum of een actie opnemen die de gebruiker niet mag aanvragen. Ze kunnen ook gegevens invullen die niet in de invoer aanwezig zijn, een dubbelzinnigheid verkeerd interpreteren of na een contractwijziging een oud formaat volgen.
De operationele grens moet expliciet zijn: de AI mag een actie voorstellen en de gebruikte gegevens toelichten; het systeem beslist of dat voorstel een concept wordt, beoordeling vereist of onder zeer afgebakende voorwaarden mag worden uitgevoerd. Deze scheiding beschermt zowel de gegevensintegriteit als de verantwoordelijkheid voor de beslissing.
Een goed vertrekpunt is om elke actie naar impact te classificeren:
- Lage impact: een concept labelen, een categorie voorstellen of niet-kritieke velden extraheren.
- Gemiddelde impact: een openstaande taak aanmaken, een verantwoordelijke voorstellen of een antwoord voorbereiden voor beoordeling.
- Hoge impact: contractuele statussen wijzigen, onomkeerbaar werk toewijzen, bedragen wijzigen, gegevens verwijderen, extern communiceren of gevoelige processen activeren.
De toelaatbare autonomie hangt niet af van een hoge door de AI opgegeven vertrouwensscore. Zij hangt af van de omkeerbaarheid, de kosten van een fout, de verifieerbare kwaliteit van de gegevens en het bestaan van controles buiten het model.
Definieer een voorstelcontract voordat u het model integreert
Het uitvoercontract bepaalt wat de AI-component mag voorstellen en wat buiten zijn bereik valt. Het moet klein, getypeerd en geversioneerd zijn. In plaats van te vragen “beslis wat je met dit verzoek moet doen”, specificeert u een gesloten lijst met acties en de benodigde velden voor elke actie.
{
"version": "1",
"action": "create_task_draft",
"category": "billing",
"priority": "normal",
"summary": "Factuurverschil controleren",
"sourceReferences": ["message:123"],
"confidence": 0.82
}De actielijst moet gecontroleerde waarden gebruiken, bijvoorbeeld create_task_draft, request_more_information of no_action. Het is niet raadzaam methodenamen, query's, codefragmenten, vrije ontvangers of instructies zoals “werk de bestelling bij” te accepteren. De applicatie vertaalt een toegestane actie naar een concrete interne bewerking.
Velden, statussen en bewijs
Naast typen en toegestane waarden moet het contract aangeven welke velden verplicht zijn, welke combinaties onverenigbaar zijn en welk bewijs het voorstel moet aanleveren. Een categorie kan geldig zijn, maar ten minste één verwijzing naar het bronbericht of -document vereisen. De vertrouwensscore, als die wordt vastgelegd, is een hulpgegeven om beoordelingen te ordenen; het vervangt geen validatie.
Door het schema te versioneren, kunt u uitvoer uit ingetrokken contracten veilig afwijzen. Als een wijziging een verplicht veld toevoegt of een actie intrekt, moet de adapter de versie herkennen en impliciete interpretaties voorkomen.
Pas vier barrières toe vóór enig effect
Validatie moet in gescheiden lagen plaatsvinden. Een fout in één laag wordt niet gecompenseerd door een ogenschijnlijk redelijk antwoord in een andere laag.
- Formaat: controleer of het antwoord kan worden gedecodeerd, het verwachte schema respecteert, geen onverwachte kritieke velden bevat en elke waarde het juiste type heeft. Ongeldige JSON, een onbekende enumeratie of een ontbrekend verplicht veld worden afgewezen.
- Domein: verifieer de eigen regels van de applicatie. Bijvoorbeeld dat de categorie bestaat, de prioriteit van toepassing is op het type verzoek, het genoemde account actief is en de bronverwijzing tot de verwerkte context behoort.
- Autorisatie: controleer wat de actor die het proces startte mag doen en welke rechten de bewerking vereist. De AI erft geen onbeperkte privileges en bepaalt evenmin de toegangsreikwijdte. De server past de identiteit, de tenant en het geldende beleid toe.
- Operationele voorwaarden: controleer gelijktijdigheid, huidige statussen, limieten, afhankelijkheden en idempotentie. Een geldig voorstel kan mogelijk niet worden uitgevoerd als het dossier al is gesloten, een ander proces het record heeft gewijzigd of een belastingsdrempel is overschreden.
Semantische validatie moet interne bronnen van waarheid raadplegen. Het volstaat niet dat het model een goed gevormde identificatiecode teruggeeft: de repository of domeinservice moet het bestaan, of deze tot de betreffende context behoort, en de status ervan verifiëren. Voorkom dat het antwoord van het model autorisatiegegevens bevat die de applicatie zelf kan oplossen.
PHP-architectuur: voorstel, beslissing en uitvoering gescheiden
Een onderhoudbare architectuur scheidt verantwoordelijkheden. De AI-adapter bereidt het verzoek voor, past groottelimieten toe en verkrijgt uitvoer; hij schrijft niet naar de bedrijfsdatabase. Een DTO representeert het reeds geparste voorstel. De domeinvalidator zet dat voorstel om in een beslissing met expliciete fouten. Tot slot past een geautoriseerde uitvoerder uitsluitend goedgekeurde beslissingen toe.
final class ActionProposal {
public function __construct(
public string $action,
public string $category,
public string $priority,
public array $sourceReferences,
) {}
}
$proposal = $aiAdapter->propose($input);
$validation = $domainValidator->validate($proposal, $context);
if (!$validation->isApproved()) {
$auditLog->recordRejected($proposal, $validation->reasons());
return $validation;
}
return $decisionService->route($validation->approvedProposal(), $context);De beslisservice kan een concept aanmaken, het in een beoordelingswachtrij plaatsen of menselijke goedkeuring vragen. De uiteindelijke uitvoerder moet een intern beslissingsobject ontvangen, niet het ruwe antwoord of de JSON van de AI. Zo voorkomt u dat een onbedoelde uitbreiding van het contract verandert in een nieuwe operationele mogelijkheid.
Gebruik transacties voor gerelateerde wijzigingen, idempotentiesleutels voor herhaalde pogingen en controles op gelijktijdigheid wanneer meerdere personen of processen op hetzelfde dossier kunnen handelen. Maak ook onderscheid tussen uitrol en activering: de code kan uitgerold zijn zonder het proces bloot te stellen aan echte gebruikers. Een geleidelijke activering maakt het mogelijk afwijzingen, doorlooptijden en correcties te observeren voordat de reikwijdte wordt uitgebreid.
Kies menselijke beoordeling, beperkte automatisering of afwijzing
Menselijke beoordeling is passend wanneer er sprake is van materiële dubbelzinnigheid, gevoelige gegevens, externe gevolgen, beleidsuitzonderingen of hoge correctiekosten. De beoordelingsinterface moet het voorstel, het toegestane bronbewijs, de doorstane regels en de redenen voor waarschuwingen tonen, zonder de aanbeveling als feit te presenteren.
Beperkte automatisering kan redelijk zijn voor omkeerbare en afgebakende bewerkingen: een niet-toegewezen concept aanmaken, een voorlopig label toepassen of een verzoek naar een algemene wachtrij routeren. Zij moet frequentielimieten, een mogelijkheid om ongedaan te maken en toezicht achteraf hebben. Als gegevens ontbreken, regels conflicteren of de actie buiten de toegestane lijst valt, is veilig gedrag afwijzen of escaleren, niet improviseren.
Beoordeel een deterministisch alternatief voordat u AI gebruikt. Als de invoer stabiele patronen volgt, kunnen regels, geleide formulieren, selectielijsten of een conventioneel classificatiemodel goedkoper, controleerbaarder en voorspelbaarder zijn. Wanneer AI wordt gebruikt, definieer dan het toepassingsgeval, een representatieve evaluatieset, operationele drempels, kosten per volume en een degradatiemodus voor wanneer de leverancier uitvalt of de verwachte tijd overschrijdt.
Voorbeeld: een verzoek omzetten in een taakconcept
Stel u een binnenkomend verzoek voor dat een discrepantie op een factuur vermeldt. De AI kan de categorie billing, normale prioriteit en de samenvatting van een taak voorstellen. De validator controleert of het bericht bij de huidige tenant hoort, of de categorie is ingeschakeld en of er nog geen openstaand dossier bestaat met dezelfde verwijzing. Als alles correct is, maakt het systeem een concept aan zonder een verantwoordelijke toe te wijzen of de status van de factuur te wijzigen.
Een operator beoordeelt het concept, bevestigt of corrigeert de categorie en beslist over de toewijzing overeenkomstig de actuele belasting en rechten. Dit onderscheid voorkomt dat een plausibele gevolgtrekking over een verantwoordelijke of bedrag verandert in een foutieve wijziging. Als het contract een factuurnummer vereist en dit niet in het bericht staat, moet het voorstel aanvullende informatie vragen, niet het nummer verzinnen.
Traceerbaarheid, privacy en tests voordat u het proces uitbreidt
Registreer een correlatie-ID, contractversie, hash of verwijzing naar de geminimaliseerde invoer, genormaliseerd voorstel, resultaten van elke validatie, uiteindelijke beslissing, goedkeurende actor indien aanwezig en reden van afwijzing. De registratie moet bruikbaar zijn om incidenten te onderzoeken zonder onnodig persoonsgegevens of gevoelige inhoud te dupliceren. Pas retentie, beperkte toegang en minimaliseringstechnieken toe die aansluiten bij het risico van het proces.
Test het proces met representatieve en adversariële gevallen: onvolledige invoer, tegenstrijdige instructies, verzonnen waarden, verwijzingen van een andere tenant, gelijktijdige statuswijzigingen, antwoorden met een oud formaat, vertraging en afwezigheid van de AI-service. De acceptatiecriteria moeten meten of ongeautoriseerde bewerkingen worden geblokkeerd, concepten herstelbaar zijn, afwijzingen begrijpelijk zijn en het systeem bij storingen een functioneel alternatief behoudt.
Veilige werking bestaat niet uit ervoor zorgen dat het model altijd antwoordt. Zij bestaat uit ervoor zorgen dat de PHP-applicatie de controle behoudt en geen effecten veroorzaakt die zij niet kan verantwoorden wanneer het verkeerd antwoordt, te lang duurt of niet antwoordt.
