Hybridní AI systém pro odpovídání na dotazy postavený na AWS

Zjistěte, jak poskytovatel průmyslového softwaru propojil strukturované SQL databáze s nestrukturovanými naskenovanými PDF manuály do event-driven AI enginu na AWS, který poskytuje přesné odpovědi a zároveň snižuje náklady na LLM o 61 %.

KlientIndustrial Asset Management

PublikovánoSeptember 2026

OdvětvíPoskytovatel softwaru pro správu průmyslových aktiv

Propojení strukturovaných provozních databází s nestrukturovanými archivy dokumentů je pro průmyslové platformy velkou výzvou. Zjistěte, jak event-driven architektura na AWS tyto různorodé zdroje sjednotila a dosáhla 100% přesnosti odpovědí.

Klient vyvíjí platformu pro správu aktiv, kterou využívají údržbářské a stavební společnosti ke správě vybavení, pracovních příkazů a terénních operací. Aplikace ukládá strukturované databázové záznamy společně s nestrukturovanými soubory, jako jsou manuály k zařízením, servisní tikety a faktury od dodavatelů.

Provozní a údržbářské týmy potřebovaly rychlé odpovědi jak z historických databázových záznamů, tak z uložené dokumentace. Mezi klíčové výzvy patřilo:

Data roztříštěná napříč systémy: Zodpovězení provozních otázek vyžadovalo kombinaci dat z databáze MySQL (stav aktiv, historie pracovních příkazů) s nestrukturovanými PDF soubory v Amazon S3 (manuály od dodavatelů, faktury, servisní tikety).
Skenované dokumenty s vysokým podílem obrázků: Faktury od dodavatelů a přílohy pracovních příkazů často přicházely jako naskenovaná PDF obsahující loga, ručně psaná razítka a nezformátované tabulky, které standardní nástroje pro extrakci textu nedokázaly přečíst.
Přesnost vs. omezení nákladů: Systém musel poskytovat přesné odpovědi bez halucinací pro rozhodování o údržbě, a zároveň udržet předvídatelné náklady na LLM na jeden dotaz.

Vytvořili jsme event-driven AI engine na AWS, který směruje uživatelské dotazy buď na SQL databázové dotazy, RAG vyhledávání v dokumentech, nebo na hybridní cestu kombinující obojí.

Základní architektura a technologický stack

Multi-model nastavení Amazon Bedrock: Model Claude Haiku 4.5 klasifikuje záměr uživatele (SQL, RAG nebo hybridní). Pro generování Text-to-SQL, formátování dotazů a syntézu odpovědí engine využívá Claude Sonnet 4.6. Embeddingy jsou generovány pomocí Titan Embed Text v2.
Asynchronní API Gateway a SQS: WebSocket API přijímá dotazy klienta a okamžitě ukládá ID úloh do fronty Amazon SQS, přičemž vrací HTTP 202. Orchestrační AWS Lambda následně úlohu zpracuje a streamuje tokeny zpět přes WebSocket.
Automatizovaný ETL a Textract pipeline: Nahrané dokumenty v S3 spouštějí Lambda pipeline. Standardní textová PDF jsou parsována nativně, zatímco skenované soubory procházejí přes Amazon Textract. Faktury s určeným prefixem spouštějí Textract AnalyzeExpense pro extrakci metadat o dodavateli a textu z loga.
Sémantická vrstva: Definice schématu ve formátu YAML uložená v S3 mapuje databázové entity, joiny, obchodní terminologii a ukázkové SQL páry, čímž navádí LLM bez nutnosti strukturálních změn v databázi klienta.
Observabilita a telemetrie: Bylo navrženo strukturované JSON logování a telemetrie sledování kroků agenta, které umožňuje inženýrskému týmu klienta bezpečně sledovat kroky uvažování LLM, generované SQL dotazy a latenci provádění přímo přes AWS CloudWatch.

Klíčová zjištění a optimalizace

Během vývoje mělo na výslednou architekturu významný vliv několik technických optimalizací:

Efektivita směrování záměru: Přesunutí klasifikace dotazů na Claude Haiku snížilo latenci a spotřebu tokenů a ponechalo Claude Sonnet pro tvorbu SQL a generování odpovědí. Přepínač prostředí umožňuje spustit celou pipeline na Haiku, což snižuje náklady na model o 61 % při mírném poklesu skóre v oficiálním hodnocení (ze 70 % na 63 %).
Cílená strategie Textract: Spouštění AnalyzeExpense (0,01 USD/stránka) pouze u určených prefixů faktur/pracovních příkazů — s návratem ke standardnímu OCR (0,0015 USD/stránka) nebo nativní extrakci textu jinde — zabránilo zbytečným nákladům na zpracování dokumentů.
Předvídatelné modelování nákladů: Vytvořili jsme transparentní nákladový rámec založený na profilech aktivity uživatelů (nízká, střední, vysoká zátěž). Díky tomu mohl klient přesně odhadnout náklady na jeden dotaz napříč různými konfiguracemi modelů (Sonnet vs. Haiku) a oddělit proměnné náklady na LLM od fixních nákladů na infrastrukturu.

Projekt přinesl funkční event-driven aplikaci, která úspěšně sjednotila strukturované databázové dotazy s analýzou nestrukturovaných dokumentů.

100% přesnost odpovědí: Při vyhodnocení na základě datové sady 30 referenčních otázek dosáhl engine se službou Claude Sonnet 100% pokrytí odpovědních fragmentů.
Kompletní ingest pipeline: Bylo naimportováno a indexováno více než 800 fragmentů dokumentů do S3 Vectors, díky čemuž je možné naskenované faktury, manuály a servisní záznamy dotazovat v přirozeném jazyce.
Předání připravené pro produkci a SaaS roadmapa: Byl dodán kompletní balíček Infrastructure-as-Code (Terraform), zdrojový kód a dokumentace API. Jako strategickou přidanou hodnotu jsme poskytli architektonický návrh pro implementaci Row-Level Security (RLS) na podporu budoucí multi-tenantní SaaS expanze klienta.