AI Gateway

Tre organizzazioni ingegneristiche distinte gestiscono un componente chiamato «AI Gateway», e non intendono la stessa cosa. In Uber, sei ingegneri (Matt Mathew e coautori, 21 maggio 2026) lo collocano all'interno di un'architettura Zero Trust per agenti AI, dove media le chiamate esterne agli LLM e redige i dati sensibili tramite AI Guard, accanto a un Gateway «MCP» che applica le politiche di accesso agli strumenti. In «Bloomberg», il team platform di Lei Zhang offre un gateway come una delle corsie di un "Paved Path" per 9.000 ingegneri, insieme a un deployment PaaS semplificato e a un hub «MCP» per i connettori condivisi. «VibeSDK» di Cloudflare (23 settembre 2025) collega «AI Gateway» a un accesso unificato tra OpenAI, Anthropic e Google, alla cache automatica delle risposte più frequenti e al tracciamento di richieste, token, tempi di risposta e costi tra i vari modelli.

Il gateway è anche il punto in cui il traffico diventa un dataset. Il «service de fine-tuning RL» annunciato da Michelle Chen, Alex Reneau e Kevin Flansburg il 1 ottobre 2026 trae i propri dati di addestramento da «AI Gateway», con Workers AI che esegue i rollout, Containers che isola la valutazione in sandbox e un nuovo Trainer che aggiorna i pesi.

Questo è lo schema da osservare. Un componente installato per osservabilità, caching e redazione finisce per custodire il registro di ogni chiamata a un modello compiuta da un'organizzazione, in una forma già pronta per specializzare un modello su quei dati. Chi possa leggere quel registro, e per quanto tempo venga conservato, non viene detto.