HET ONDERZOEK / ONZE INTERPRETATIE
OWASP beschrijft promptinjectie via directe instructies en externe inhoud. Onze ontwerpregel: opgehaalde documenten leveren informatie, nooit toestemming om de rechten van een agent uit te breiden.
Bepaal wat er ’s ochtends klaar moet staan
Een illustratief renovatieproces kan beginnen met goedgekeurde foto’s, een briefing, aangeleverde maten en een gekozen concept. Nachtwerk kan een voorgestelde modelrevisie, een controlerapport en conceptrenders voorbereiden. Het productiemodel blijft ongewijzigd tot de beoordeling. Foto’s bepalen geen verborgen geometrie of gemeten maten: het invoerregister houdt onzekerheden zichtbaar en de modelleertaak stopt waar de toegestane aannames ophouden.
- 01Goedgekeurde invoer
- 02Afzonderlijke werkversie
- 03Onafhankelijke controles
- 04Vrijgave door de ontwerper
Illustratieve systeemgrens: geplande agents bereiden voorstellen voor; mensen keuren projectwijzigingen goed.
Een runmanifest legt de afspraken met het systeem vast
Voor een voorgestelde nachtelijke studie van een ontvangstgebied noemt het manifest project P-017, goedgekeurde briefing R06, bronmodel R03, de toegestane uitvoermap en de exacte set resultaten. Ook de aannames staan erin: aangeleverde maten zijn leidend, verborgen constructie blijft onopgelost en geen actief projectbestand mag worden overschreven. Elke specialist krijgt een taakgerichte selectie van die context, met een verwijzing naar hetzelfde onveranderlijke manifest. De modelleertaak vraagt geometrische randvoorwaarden en uitvoerconventies. De rendertaak vraagt de kandidaatrevisie, cameralijst en materiaaltoewijzingen. Geen van beide heeft het volledige correspondentiearchief van de klant nodig. Context engineering betekent hier informatieontwerp: de kleinst mogelijke toereikende, actuele en herleidbare invoer selecteren, met een route naar de bron als een onduidelijkheid niet oplosbaar is.
Geef elke rol alleen de nodige context en rechten
De referentierol leest goedgekeurde bronmappen. De modelleringsrol schrijft alleen naar een aparte werkversie. De controleur krijgt goedgekeurde eisen en het daadwerkelijke model, niet alleen het succesverslag van de modelleeragent. De renderrol gebruikt een benoemde revisie en vaste uitvoerlocaties. Bewaar actuele briefing en geaccepteerde besluiten in gedeelde projectcontext; houd tijdelijke taaknotities apart. Meer agents mogen niet automatisch meer kopieën van vertrouwelijke projectinformatie betekenen.
Projectgeheugen vraagt een duidelijke rangorde
Een bruikbaar projectgeheugen onderscheidt goedgekeurde projectgegevens, vastgelegde besluiten, werkhypothesen en uitvoeringslogboeken. Die horen niet samen te smelten tot één doorlopende samenvatting. Een gegenereerde notitie als “de klant wil een bredere balie” blijft een hypothese totdat zij is gekoppeld aan een geaccepteerd besluit of bevestigde instructie. Een nieuwe briefing kan een oude budgetvoorwaarde vervangen zonder de besluitgeschiedenis te wissen. Zoeken filtert eerst op project, revisie en informatiestatus voordat context wordt samengesteld. De conclusie van een agent wordt niet automatisch goedgekeurde kennis doordat zij is opgeslagen. Daarvoor is een expliciete reviewstap nodig. De concrete fout die we willen voorkomen: een gisteren afgewezen optie verschijnt morgen als onderdeel van de briefing. Meer opgeslagen tekst betekent niet automatisch beter geheugen.
| Gebeurtenis | Systeemreactie | Reviewregistratie |
|---|---|---|
| Bronrevisie wijzigt | Vrijgave pauzeren | Revisieconflict |
| Modelcontrole faalt | Kandidaat geïsoleerd houden | Object + regel + bewijs |
| Renderaanvraag geeft time-out | Externe opdracht verifiëren | Taak-ID + uitvoerstatus |
| Beoordelaar wijst kandidaat af | Productierevisie behouden | Reden + vervolgactie |
Kandidaatwerkruimte en productiemodel hebben afzonderlijke schrijfrechten. Alleen een reviewinstructie dwingt die grens niet af.
Regel foutafhandeling voordat u taken inplant
Een crontrigger start een taak, maar houdt er geen toezicht op. Geef elke uitvoering een ID, tijdslimiet, iteratiebudget en vastgelegde startrevisie. Voorkom dat overlappende taken dezelfde werkversie wijzigen. Controleer na een time-out van een renderdienst of de opdracht al bestaat voordat u die opnieuw indient. Rapporteer bronproblemen, mislukte controles en onvolledige uitvoer apart. ‘Er is niets veranderd’ mag niet worden verward met ‘er werkte niets’.
Herstel vraagt expliciete toestanden
Een run kan de toestanden in wachtrij, invoer gevalideerd, modelleren, controleren, renderen, wachten op review en gesloten doorlopen. Mislukt en geannuleerd zijn expliciete toestanden; het laatste complete resultaat blijft bewaard. Stel dat het model gereed is maar één renderaanvraag een time-out geeft. De hele agentconversatie opnieuw starten kan een andere kandidaat opleveren en renderopdrachten dupliceren. Een beter beheerst herstel gebruikt de opgeslagen modelhash en de taakreferentie van de renderdienst om vast te stellen wat al bestaat. Daarna wordt waar mogelijk alleen de onvoltooide stap hervat. Diensten verschillen, dus het voorkomen van dubbele opdrachten vraagt een ontwerp voor de werkelijke interface. De planner moet ook een projectvergrendeling nemen, activiteit vastleggen en de vergrendeling bij een beheerste fout vrijgeven. Een verlopen vergrendeling vraagt herstelbeleid; haar negeren kan concurrerende schrijfacties veroorzaken.
Maak goedkeuring een echte systeemgrens
De ontwerper beoordeelt gewijzigde objecten, resterende aannames en controlebewijs voordat een werkversie wordt overgenomen. Het systeem moet die scheiding afdwingen met tooltoegang en schrijfrechten, niet alleen met een instructie om voorzichtig te zijn. Begin met één afgebakend modeltype en één resultaat. Test herstel na onderbreking en het afwijzen van een voorgestelde wijziging. Een AI-atelier verdient meer ruimte door begrijpelijk en herstelbaar werk te leveren dat het team kan aansturen.
Het ochtendpakket moet kritische beoordeling mogelijk maken
Het reviewpakket begint met wat is gewijzigd, wat niet is voltooid en wat onzeker blijft. Voor het ontvangstgebied betekent dit een kandidaatrevisie, een wijzigingslijst gekoppeld aan object-ID’s, de dekking van controles, afgewezen alternatieven en conceptbeelden. Een overtuigende render mag een ontbrekende controle niet verbergen. Goedkeuring betreft een specifieke kandidaat, niet toevallig het nieuwste bestand in een map. Verandert het bronmodel tijdens de nachtelijke run, dan wacht vrijgave op afstemming in plaats van verouderd werk automatisch toe te passen. We zouden deze workflow stapsgewijs invoeren: één handmatig gestarte run, herhaalde runs met vaste invoer, bewuste onderbrekingen en daarna planning. De vrijgave blijft onder menselijke controle totdat het bureau bewijs heeft dat deze specifieke scope betrouwbaar is en de beheersmaatregelen kan onderhouden.