Reference Architecture
Three complementary views of the Azure Foundry Enterprise Kit architecture — Azure Infrastructure (what gets deployed), Solution Architecture (how the kit is organized), and Logical Architecture (the 7-layer execution model). Together they provide a complete picture from cloud resources through agent execution to business value realization.
1. Azure Infrastructure Diagram
Shows all 35 Bicep modules and the Azure resources they provision, organized by deployment dependency order. A single az deployment sub create command deploys the entire platform in ~15 minutes.
┌─────────────────────────────────────────────────────────────────────────────────────────────┐ │ AZURE FOUNDRY ENTERPRISE KIT — INFRASTRUCTURE │ │ Subscription-Scoped Deployment (main.bicep) │ │ 35 Bicep Modules · 17 Zero Trust Controls │ ├─────────────────────────────────────────────────────────────────────────────────────────────┤ │ │ │ ┌─── PHASE 1: IDENTITY & NETWORKING ────────────────────────────────────────────────────┐ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ managed-identities │ │ network │ │ hub-spoke │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ 3 User-Assigned MIs │ │ VNet + 5 subnets │ │ Hub VNet + Firewall │ │ │ │ │ │ RBAC assignments │ │ NSGs + 6 DNS zones │ │ Bastion + UDRs │ │ │ │ │ │ [ZT-01] │ │ [ZT-03/15] │ │ [ZT-03] │ │ │ │ │ └──────────┬───────────┘ └──────────┬───────────┘ └──────────┬───────────┘ │ │ │ │ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ entra-agent-identity │ │ hub-spoke-peering │ │ data-residency │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ Agent Identity │ │ Spoke↔Hub VNet │ │ Allowed-locations │ │ │ │ │ │ Blueprint │ │ peering helper │ │ policy (sovereignty) │ │ │ │ │ │ [ZT-01] │ │ [ZT-03] │ │ [ZT-17] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ └────────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─── PHASE 2: SECURITY & DATA ──────────────────────────────────────────────────────────┐ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ key-vault │ │ managed-hsm │ │ cosmos-db │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ Key Vault + CMK │ │ FIPS 140-3 Level 3 │ │ Governance + Memory │ │ │ │ │ │ Private endpoint │ │ Hardware Security │ │ databases │ │ │ │ │ │ Rotation policies │ │ Module │ │ Geo-redundancy │ │ │ │ │ │ [ZT-04] │ │ [ZT-04] │ │ [ZT-04] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ └────────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─── PHASE 3: AI SERVICES ──────────────────────────────────────────────────────────────┐ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ foundry-project │ │ ai-search │ │ ai-search-index │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ AI Foundry Hub │ │ Azure AI Search │ │ RAG vector index │ │ │ │ │ │ + Project + Models │ │ Semantic ranker │ │ Skillset + indexer │ │ │ │ │ │ [ZT-01] │ │ [ZT-03] │ │ [ZT-03] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ content-safety │ │ agent-application │ │ guardrails │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ Content Safety │ │ Foundry Agent Apps │ │ Content safety │ │ │ │ │ │ resource │ │ (ARM resource) │ │ configuration │ │ │ │ │ │ [ZT-03] │ │ [ZT-04] │ │ [ZT-04] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ └────────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─── PHASE 4: GOVERNANCE & GATEWAY ────────────────────────────────────────────────────┐ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ api-management │ │ azure-policy │ │ toolbox │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ APIM AI Gateway │ │ Policy initiative │ │ Foundry Toolbox │ │ │ │ │ │ JWT, tokens, cache │ │ + definitions │ │ tool allowlisting │ │ │ │ │ │ [ZT-02/06/07] │ │ [ZT-09] │ │ [ZT-12] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ runtime-interceptor │ │ api-center │ │ continuous-eval │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ Container App │ │ API Center │ │ Evaluation pipeline │ │ │ │ │ │ + kill switch │ │ MCP Tool Catalog │ │ + scheduling │ │ │ │ │ │ [ZT-05] │ │ [ZT-12/15] │ │ [ZT-14] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ └────────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─── PHASE 5: OBSERVABILITY & OPERATIONS ───────────────────────────────────────────────┐ │ │ │ │ │ │ │ ┌──────────────────────┐ ┌──────────────────────┐ ┌──────────────────────┐ │ │ │ │ │ app-insights │ │ cost-management │ │ chaos-studio │ │ │ │ │ │ ───────────────── │ │ ───────────────── │ │ ───────────────── │ │ │ │ │ │ App Insights + │ │ Budget alerts │ │ Resilience testing │ │ │ │ │ │ Log Analytics │ │ (50/80/100/120%) │ │ Network + CPU │ │ │ │ │ │ [ZT-08] │ │ │ │ [ZT-08] │ │ │ │ │ └──────────────────────┘ └──────────────────────┘ └──────────────────────┘ │ │ │ │ │ │ │ │ ┌──────────────────────┐ │ │ │ │ │ traffic-manager │ MCP HOSTING (adapters/hosting/) │ │ │ │ │ ───────────────── │ ┌──────────────────┐ ┌──────────────────┐ │ │ │ │ │ Multi-region agent │ │ function-mcp │ │ container-app-mcp│ │ │ │ │ │ endpoint failover │ │ Azure Functions │ │ Container Apps │ │ │ │ │ │ [ZT-03] │ │ MCP hosting │ │ MCP hosting │ │ │ │ │ └──────────────────────┘ │ [ZT-15] │ │ [ZT-15] │ │ │ │ │ └──────────────────┘ └──────────────────┘ │ │ │ └────────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ Environment Profiles: dev.bicepparam │ staging.bicepparam │ prod.bicepparam │ └─────────────────────────────────────────────────────────────────────────────────────────────┘
| Phase | Modules | Purpose | ZT Controls |
|---|---|---|---|
| 1. Identity & Networking | managed-identities, network, hub-spoke, hub-spoke-peering, entra-agent-identity, data-residency | Foundation: RBAC, VNet isolation, DNS, sovereignty | ZT-01, ZT-03, ZT-15, ZT-17 |
| 2. Security & Data | key-vault, managed-hsm, cosmos-db | Secrets, encryption, Decision Ledger + Memory stores | ZT-04 |
| 3. AI Services | foundry-project, ai-search, ai-search-index, content-safety, agent-application, guardrails | Foundry Hub/Project, RAG pipeline, content safety | ZT-01, ZT-03, ZT-04 |
| 4. Governance & Gateway | api-management, azure-policy, toolbox, runtime-interceptor, api-center, continuous-eval | AI Gateway, policy enforcement, MCP catalog, eval pipeline | ZT-02, ZT-05, ZT-06, ZT-07, ZT-09, ZT-12, ZT-14, ZT-15 |
| 5. Observability & Ops | app-insights, cost-management, chaos-studio, traffic-manager, function-mcp, container-app-mcp | Monitoring, cost control, resilience, MCP hosting | ZT-08, ZT-03, ZT-15 |
2. Solution Architecture Diagram
The kit is organized into four pillars plus an extension framework and industry packs. Each pillar maps to a distinct lifecycle phase aligned with the Azure Cloud Adoption Framework and Well-Architected Framework.
┌────────────────────────────────────────────────────────────────────────────────────────┐ │ AZURE FOUNDRY ENTERPRISE KIT — SOLUTION ARCHITECTURE │ │ CAF: Ready → Adopt → Govern → Manage │ ├────────────────────────────────────────────────────────────────────────────────────────┤ │ │ │ ┌──────────────────┐ ┌──────────────────┐ ┌──────────────────┐ ┌────────────────┐ │ │ │ PILLAR 1 │ │ PILLAR 2 │ │ PILLAR 3 │ │ PILLAR 4 │ │ │ │ DEPLOY │ │ BUILD │ │ GOVERN │ │ REALIZE │ │ │ │ (CAF: Ready) │ │ (CAF: Adopt) │ │ (CAF: Govern) │ │ (CAF: Manage)│ │ │ │ │ │ │ │ │ │ │ │ │ │ infra/bicep/ │ │ agent-templates/ │ │ policy-packs/ │ │ dashboards/ │ │ │ │ 35 Bicep modules │ │ 6 blueprints │ │ 5 policy packs │ │ ROI tracking │ │ │ │ │ │ │ │ │ │ │ │ │ │ pipelines/ │ │ adapters/ │ │ eval-packs/ │ │ observability/│ │ │ │ GH Actions │ │ 6 MCP adapters │ │ Built-in + │ │ KQL queries │ │ │ │ Azure DevOps │ │ │ │ custom evals │ │ Workbooks │ │ │ │ │ │ toolbox-configs/ │ │ │ │ │ │ │ │ zero-trust/ │ │ Toolbox defs │ │ trust-extensions/ │ │ load-testing/ │ │ │ │ 17 ZT controls │ │ │ │ Decision Ledger │ │ K6 + Chaos │ │ │ │ │ │ memory-configs/ │ │ Scorecard │ │ │ │ │ │ │ │ Memory stores │ │ Cert Pipeline │ │ │ │ │ │ │ │ │ │ Policy Graph │ │ │ │ │ │ │ │ sdk-starters/ │ │ │ │ │ │ │ │ │ │ Python + TS │ │ │ │ │ │ │ └────────┬───────────┘ └────────┬───────────┘ └────────┬───────────┘ └───────┬──────┘ │ │ │ │ │ │ │ │ ▼ ▼ ▼ ▼ │ │ ┌─────────────────────────────────────────────────────────────────────────────────────┐ │ │ │ EXTENSION FRAMEWORK (Layer 2) │ │ │ │ extensions/ → 13 governance extensions │ │ │ │ accelerators/ → 5 IQ accelerators (Control Plane IQ, Foundry IQ, Work IQ, etc.) │ │ │ │ rag-pipeline/ → Configs, schemas, indexers, skillsets for RAG │ │ │ └─────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ │ ▼ │ │ ┌─────────────────────────────────────────────────────────────────────────────────────┐ │ │ │ INDUSTRY PACKS (Layer 3) │ │ │ │ industry-packs/banking-canada/ Banking Canada (OSFI, FINTRAC, PIPEDA) │ │ │ │ industry-packs/banking-eu/ Banking EU (EBA, PSD2, DORA) │ │ │ │ industry-packs/banking-us/ Banking US (OCC, FFIEC, GLBA) │ │ │ │ industry-packs/government/ Government (FedRAMP, NIST 800-53) │ │ │ │ industry-packs/healthcare/ Healthcare (HIPAA, HL7, FDA) │ │ │ └─────────────────────────────────────────────────────────────────────────────────────┘ │ │ │ │ Standards: CAF · WAF · Zero Trust · Responsible AI · NIST AI RMF · EU AI Act │ └────────────────────────────────────────────────────────────────────────────────────────────┘
3. Logical Architecture Diagram
The 7-layer execution model showing how requests flow from the Agent 365 Control Plane through gateway, execution, and data layers down to infrastructure — with Zero Trust controls enforced at every boundary crossing.
┌──────────────────────────────────────────────────────────────────────────────────┐ │ LOGICAL ARCHITECTURE — 7 EXECUTION LAYERS │ │ Zero Trust controls woven across every boundary │ ├──────────────────────────────────────────────────────────────────────────────────┤ │ │ │ ┌── LAYER 7: AGENT 365 CONTROL PLANE ────────────────────────────────────────┐ │ │ │ Agent Registry · Fleet Monitoring · Work IQ · Cross-Cloud Sync │ │ │ │ Bulk Remediation · Compliance Enforcement · Policy Distribution │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-09, ZT-10 │ │ ┌── LAYER 6: BUSINESS VALUE OBSERVABILITY ───────────────────────────────────┐ │ │ │ ROI Scorecards · Value Dashboard · Drift Detection · KPI Tracking │ │ │ │ Time-to-Value · Cost Avoidance · Automation Rate │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-08 │ │ ┌── LAYER 5: GOVERNANCE & TRUST FABRIC ──────────────────────────────────────┐ │ │ │ Decision Ledger · Scorecard · Certification · Policy Graph │ │ │ │ 5 Policy Packs · Runtime Interceptor · Kill Switch │ │ │ │ Continuous Evaluation · Industry Compliance Mapping │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-05, ZT-09, ZT-14, ZT-16 │ │ ┌── LAYER 4: AGENT EXECUTION PLANE ─────────────────────────────────────────┐ │ │ │ Agent Service (Responses API) · Agent Framework (multi-agent) │ │ │ │ 6 Agent Templates · A2A Protocol · Guardrails · Memory │ │ │ │ Foundry Agent Applications (ARM-native packaging) │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-01, ZT-04, ZT-11 │ │ ┌── LAYER 3: MCP & TOOL LAYER ──────────────────────────────────────────────┐ │ │ │ Foundry Toolbox · API Center (MCP Catalog) · 6 Enterprise Adapters │ │ │ │ MCP Fleet Governance · MCP Auth (Entra, MI, OAuth) │ │ │ │ Tool Types: AI Search, Code Interpreter, File Search, Deep Research │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-07, ZT-12, ZT-15 │ │ ┌── LAYER 2: GATEWAY LAYER ─────────────────────────────────────────────────┐ │ │ │ APIM AI Gateway · JWT Validation · Token Limits · Semantic Caching │ │ │ │ Model Gateway · Rate Limiting · Content Safety · Geo-Routing │ │ │ └──────────────────────────────┬─────────────────────────────────────────────┘ │ │ │ ZT-02, ZT-03, ZT-06 │ │ ┌── LAYER 1: INFRASTRUCTURE SERVICES ───────────────────────────────────────┐ │ │ │ Azure AI Foundry · Cosmos DB · AI Search · Key Vault · Managed HSM │ │ │ │ VNet + Hub-Spoke · Private Endpoints · NSGs · Azure Firewall │ │ │ │ App Insights · Traffic Manager · Chaos Studio · Azure Policy │ │ │ └────────────────────────────────────────────────────────────────────────────┘ │ │ ZT-01, ZT-03, ZT-04, ZT-08, ZT-17 │ │ │ └──────────────────────────────────────────────────────────────────────────────────┘ Request Flow: Client → APIM AI Gateway (ZT-02/06) → Runtime Interceptor (ZT-05) → Agent Service → Foundry Toolbox (ZT-12) → MCP Adapters (ZT-15) → Enterprise Systems (SAP, ServiceNow, Salesforce, etc.) → Decision Ledger records every action → Continuous Eval validates
4. Zero Trust Controls Mapping
17 Zero Trust Controls secure every boundary across all 7 architectural planes — identity, network, data, runtime, toolbox, MCP fleet, and compliance automation. See the Architecture page for the complete controls specification with interactive explorer, or Zero Trust Design for the full 2,500+ line security specification.
Deep dives: See Architecture for the interactive 7-layer explorer, Zero Trust Design for the full 2,500+ line security specification, and Deployment Guide for module-by-module configuration parameters.