Horses for courses: huwag gamitin ang warehouse para sa trabahong kailangang sumagot sa customer

“Data” ay hindi isang platform lamang. Ang mga analytical warehouse tulad ng Snowflake ay mahusay sa curated, tamang, at malalim na pagsusuri. Ang operational work na kailangang sumagot sa isang customer o risk engine sa loob ng milliseconds ay nangangailangan ng low-latency store tulad ng MongoDB, kung saan ang parehong events ay ipinapamahagi mula sa Kafka patungo sa pareho. Itigil ang pag-staff ng analytical tribes para bumuo ng customer-facing product. _Source: Electric Fox operator article · slug `horses-for-courses-stop-using-the-warehouse-for-work-that-has-to-answer-the-customer` · readingTime 11 min_

Kapag may nagsabi sa isang bangko o insurer ng “data”, ang unang naiisip ng lahat ay big data, Snowflake, at sa nakaraang panahon, ang Hadoop-shaped stack. Naiintindihan ang ganitong reflex: ang mga platform na ito ang nanalo noong nakaraang dekada sa management information, risk analytics, at regulated reporting. Ngunit mali ito bilang default para sa anumang bagay na kailangang sumagot sa isang user, authorisation, o fraud engine sa loob ng milliseconds. Ang pagkalito sa analytical headcount at tooling bilang operational product needs ang dahilan kung bakit dumarating ang next-best-action pagkatapos na ng session, kung bakit natatapos ang fraud scoring pagkatapos ng pagkalugi, at kung bakit nakaupo ang in-app transaction views sa likod ng warehouse freshness.

Ang organisasyunal na gawi na ito ay mas matanda pa kaysa sa anumang vendor. Ang isang “data platform” ang naging prestihiyosong sagot. Pinondohan ng mga board ang mga warehouse, lakehouses, at ang mga tribo na nagpapatakbo sa mga ito. Pagkatapos ay hiningi ng mga product leader sa parehong mga tribong iyon ang live upsell, cross-sell, balances, at customer-facing history dahil ang salita sa slide ay nananatiling “data”. Ang horses for courses ay hindi lamang isang slogan dito. Ito ang tanging arkitektura na tumutugma sa kung paano talagang gumagana ang negosyo.

Ang halaga ng paggawa ng operational work gamit ang isang analytical tribe

Ang mga analytical na tao ay nagdadala ng analytical SLAs at analytical na teknolohiya. Sila ay sinanay upang mag-reconcile, mag-curate, at ipagtanggol ang pagiging tama sa ilalim ng audit. Mahalaga ang mga kasanayang ito para sa year-end, stress testing, at malalim na risk analysis. Ngunit hindi sila angkop para sa isang product backlog na sumusukat sa tagumpay batay sa latency to decision. Ang resulta ay batch thinking na inilalapat sa real-time na mga problema: overnight o hourly pipelines na ikinukubli bilang “near real time”, feature stores na nagre-refresh sa isang cadence na hindi kayang hintayin ng authorisation window, at customer journeys na natitigil hanggang sabihin ng warehouse na handa na ang data.

Ang komersyal na pinsala ay kongkreto kahit hindi ito nakikita sa ledger bilang isang linya na may pangalang “wrong store”. Ang next-best-action na hindi makakita sa huling ilang interaksyon ay pawang palabas lamang. Ang fraud scoring na natatapos pagkatapos ng settlement ay forensics, hindi prevention. Ang mga operator na nag-publish tungkol sa card at instant-payment flows ay regular na naglalarawan ng institutional scoring budgets sa loob ng humigit-kumulang 50 hanggang 100 milliseconds mula sa enrichment, sa pamamagitan ng rules at model, hanggang sa desisyon; ang card authorisation validity windows ay madalas na binabanggit sa mababang daan-daang milliseconds. Gamitin ang mga saklaw na ito bilang industry guidance sa halip na isang solong regulated standard, ngunit huwag magkunwaring ang warehouse freshness cycle na nasusukat sa minuto o oras ay nabubuhay sa loob ng mga ito. Samantala, ang analytical team ay patuloy na sinusukat batay sa pipeline completeness, mart coverage, at query cost. Lahat ay abala. Ang customer pa rin ang naghihintay.

Ang pag-staff ang nagiging permanente ang mismatch. Ang isang Snowflake-centred group ay mag-o-optimize para sa curated models, governance, at scan-friendly workloads. Kapag hiningi sa grupong iyon na magmay-ari ng isang customer API, makakakuha ka ng analytical patterns sa isang operational na problema: higit pang mediation layers, higit pang eventual consistency excuses, at higit pang “ilalagay muna namin ito sa warehouse”. Ang gastos ay hindi lamang sa compute. Ito ay product velocity na ginugugol sa pagpapaliwanag kung bakit hindi makapaghintay ang hot path sa kalendaryo ng cold path.

Dalawang trabaho, dalawang anyo ng data

Isang maliwanag na opisina sa Hong Kong na may operational team na nakatayo sa live consoles sa kaliwa at isang analytical team na nakaupo sa harap ng mga chart sa kanan, na may tanawin ng daungan sa daylight sa kabila ng salamin
Horses for courses: ang operational product work at curated analysis ay magkaibang trabaho, kahit na pareho silang nasa isang palapag at may iisang budget line na may label na data.

Ang analytical data work ay curated, reconciled, at mabigat sa matematika. Ang pagiging tama ay mas mahalaga kaysa sa bilis. Inihahanda ang set upang mapagkakatiwalaan ang MI, regulatory returns, actuarial deep dives, at long-horizon risk analysis. Ang latency ay nasusukat sa minuto, oras, o overnight runs. Ang schema discipline, lineage, at audit evidence ay mas mahalaga kaysa sa read-your-writes sa parehong request na nagbago sa row.

Ang operational data work ay naiiba. Maikli ang feedback loops. Mababa ang latency. Ang landas ay user-interactive. Ang workloads ay madalas na write-heavy o nangangailangan ng read-your-writes sa tabi ng application: ang balanse na kakabago lang, ang alok na tinanggap lang, ang fraud decision na kakagawa lang. Ang consistency models, indexing, at concurrency behaviour ay dapat magsilbi sa app at sa decisioning service, hindi sa isang BI dashboard. Ang pagtawag sa parehong ito bilang “data” ay tama sa Ingles ngunit mapanganib sa arkitektura.

Kailangan ng mga bangko at insurer ang parehong anyo. Ang pagkakamali ay ang pagluluklok sa kanila sa isang platform at isang tribo dahil pareho ang label ng budget line. Ang analytical excellence ay hindi nagbibigay ng operational latency. Ang operational stores ay hindi pumapalit sa curated warehouses para sa malalim na pagsusuri. Ang pagkunwari na iba ay kung paano nasusunog ng mga programa ang mga taon sa pagbuo ng mali gamit ang tamang tao.

Bakit mali ang warehouse bilang tool para sa hot path

Mahusay ang Snowflake at ang mga katulad nito kapag ang set ay curated at ang tanong ay maaaring maghintay. Ang columnar storage, micro-partitions, at scan-oriented query engines ay ginawa para sa malalaking analytical reads at elastic warehouses na naghihiwalay sa BI at risk workloads. Ito ay isang tunay na lakas. Ang point lookups sa pamamagitan ng primary key, high-frequency small transactions, at immediate visibility ng huling write ay hindi ang mga bagay na idinisenyo upang gawin nang mahusay ng karaniwang warehouse tables. Ang mga independent comparison ng warehouse kumpara sa general-purpose operational databases ay patuloy na nagpapakita ng pamilyar na paghahati: nangingibabaw ang mga warehouse sa malalaking aggregations; nangingibabaw ang operational databases sa single-row reads, updates, at high-concurrency transactional traffic.

Nag-extend ang Snowflake sa pamamagitan ng Hybrid Tables sa ilalim ng Unistore agenda nito, na naglalayong magbigay ng lower-latency row-oriented access kasama ang analytical queries. Ito ay nag sasara ng isang tunay na puwang para sa ilang mixed workloads sa loob ng Snowflake estate. Ngunit hindi nito ginagawang default na tahanan ng warehouse ang isang high-concurrency customer API o isang fraud path na dapat matapos sa loob ng authorisation budget. Ang dokumentasyon mismo ng Snowflake ay naglalarawan sa hybrid tables bilang complementary sa standard tables, hindi bilang isang buong kapalit para sa purpose-built operational databases sa ilalim ng sustained OLTP-style load. Makatuwirang pagbasa: gamitin ang Snowflake kung saan nararapat ang curated analysis. Huwag itong i-staff bilang system of interaction para sa live upsell, cross-sell, in-session transaction views, at real-time fraud scoring.

Ang Hadoop-shaped stack ay nagbigay ng parehong aral nang mas maaga. Ang batch-oriented processing at HDFS-era gravity ay mahusay para sa murang storage at offline jobs. Ito ay isang mahinang lugar para ilagay ang anumang bagay na kailangang hintayin ng isang mobile app o payment authorisation. Ang pagpapalit ng Hadoop ng isang cloud warehouse ay nag-improve sa analytical half. Ngunit hindi nito binigyan ng lisensya ang warehouse na magmay-ari sa hot path.

Bakit ngayon: ang paradigm ay nahati na

Normal na ang streaming. Ang mga product team ay naglalabas ng mga feature na umaasa sa fresh state. Inaasahan ng mga customer na ang balances, status, at offers ay sumasalamin sa kung ano ang kakaganap lang, hindi sa kung ano ang na-reconcile ng nakaraang gabi’s load job. Ang instant payments, open-banking-style journeys, at always-on digital channels ay ginagawang product liability ang warehouse-shaped freshness kapag ito ay pinipilit sa operational service.

Ang pagpapanatili ng isang “data platform” para sa parehong trabaho ay organisasyunal na nostalgia, hindi arkitektura. Ang industriya ay nagpapatakbo na ng event buses, change-data-capture pipelines, at maraming consumer groups bilang standard practice. Ang paradigm split ay nakikita sa bawat mature estate na nagpapamahagi ng parehong business events sa isang analytical plane at isang operational plane. Ang nahuhuli ay ang governance language: ang strategy decks ay patuloy na nagsasalita tungkol sa isang singular data platform habang ang traffic diagrams ay nagpapakita ng dalawang trabaho na may incompatible SLAs. Pangalanan nang malinaw ang split at magiging mas madali ang staffing argument. Tanggihan itong pangalanan at bawat initiative ay magiging isa pang warehouse ticket.

Isang pragmatic pattern: isang stream, dalawang store

Ang gumaganang pattern ay simple. Ang domain events (o CDC mula sa systems of record) ay dumarating sa Kafka o katumbas na event bus. Magkakahiwalay na consumer groups ang nagpapamahagi ng mga event na iyon sa isang analytical store at isang operational store. Ang warehouse ay tumatanggap ng curated, transformed, at reconciled feeds para sa MI, deep risk analytics, at regulated reporting. Ang operational store ay tumatanggap ng mga projection na kailangan ng application at decisioning services para sa low-latency reads at writes. Horses for courses: malalim na pagsusuri kung saan nararapat ang warehouse; MongoDB (o katulad na operational database) kung saan nabubuhay ang app at ang decisioning.

Ang consumer-group model ng Kafka ay ginagawang first-class property ang fan-out sa halip na isang heroic integration. Ang bawat downstream system ay sumusubaybay sa sarili nitong offsets at nagpoproseso sa sarili nitong bilis. Ang analytical consumers ay maaaring magkaroon ng mas maraming transformation at mas mabagal na materialisation. Ang operational consumers ay nangangailangan ng mahigpit na lag budgets at idempotent upserts na naka-key sa business identifiers. Iwasan ang naive dual writes mula sa application patungo sa parehong stores nang walang coordination pattern; ang Confluent at iba pa ay nagdokumento nang detalyado sa dual-write failure modes. Mas gusto ang isang solong atomic write sa source (transactional outbox o CDC mula sa system of record) at kunin ang parehong planes mula sa stream.

Ang MongoDB ay ang kongkretong operational na halimbawa para sa maikling ito dahil ang document models, secondary indexes, at change streams ay malinis na tumutugma sa customer profiles, session state, offer eligibility, transaction history views, at event-driven fraud enrichment. Ang sariling financial-crime reference architectures ng MongoDB ay naglalarawan ng change streams na nag-u-update sa risk models at screening paths sa near real time upang ang mga desisyon ay hindi maghintay sa batch refresh. Ang pattern ay nagiging pangkalahatan: ang iba pang operational stores ay maaaring magampanan ang parehong papel kapag ang latency, access patterns, at team skill ay akma. Huwag palabnawin ang punto sa pamamagitan ng pagiging isang bake-off ang artikulo. Ang claim ay dual-path architecture, hindi vendor monopoly.

Sino ang nagmamay-ari ng ano

Ang analytical groups ay nagmamay-ari ng models, marts, at regulated reporting. Sila ang nagmamay-ari ng quality bar para sa curated sets, ang reconciliation discipline, at ang evidence trail na inaasahan ng mga auditor. Ang product at operational engineering ang nagmamay-ari ng low-latency path: APIs, decisioning services, operational schemas, at ang SLAs na nasa tabi ng customer. Maaaring patakbuhin ng platform engineering ang shared event bus, ngunit ang ownership of outcomes ay dapat sumunod sa trabaho.

Itigil ang pag-staff ng isang Snowflake team upang bumuo ng customer API. Itigil ang pagsukat sa operational features batay lamang sa kung “nakumpleto” ang pipeline. Bigyan ng malinaw na remit ang analytical leaders at itigil ang paghingi sa kanila na magkunwaring sila ay product latency owners. Bigyan ang product engineering ng operational store at latency budget at itigil ang pagpilit na dumaan ang bawat state change sa isang warehouse-shaped programme office. Ang shared event contracts at schema governance ay dapat nasa gitna. Ang collapsed org charts na naglalagay ng parehong trabaho sa ilalim ng isang “Chief Data” theatre nang hindi naghahati ng accountability ay muling lumilikha ng orihinal na failure mode na may mas magagandang titulo.

Ano ang itsura ng “mabuti” para sa mga bangko at insurer

Ang mga kongkretong pairings ay mas mahusay kaysa sa abstract maturity models. Warehouse para sa management information, actuarial at deep risk analytics, stress at scenario work, at regulated returns kung saan nangingibabaw ang pagiging tama at lineage. Operational database para sa next-best-action, live fraud scores, balances, limits, entitlements, at in-app history kung saan hindi makapaghihintay ang user o ang authorisation. Malinaw na SLAs para sa bawat path: warehouse freshness at completeness targets sa isang panig; end-to-end latency to decision, p99 read latency, at write visibility sa kabilang panig.

Dapat sumalamin sa split ang governance. Ang access control, retention, at residency ay patuloy na nalalapat sa parehong planes, ngunit magkakaiba ang change windows. Ang analytical marts ay maaaring sumunod sa curated release trains. Ang operational projections ay nangangailangan ng patuloy, idempotent updates na may rollback at shadow-scoring paths para sa model changes. Ang fraud at NBA teams ay dapat makapaglabas ng rule o model updates nang hindi naghihintay sa warehouse release calendar, habang ang analytical risk teams ay nananatiling may curated history na pagbabasehan ng paghusga sa mga model na iyon sa hinaharap. Ang mabuti ay dalawang accountable paths na pinapakain ng isang event spine, hindi isang overloaded platform na may magkasalungat na KPIs.

Mga agarang susunod na hakbang

Pangalanan ang bawat “data” initiative bilang operational o analytical bago ito kumuha ng budget. Kung kailangan nitong sumagot sa isang customer o risk engine sa loob ng isang session o authorisation window, ito ay operational. Kung kailangan itong maging curated, reconciled, at mapagtatanggol sa ilalim ng malalim na pagsusuri o regulatory return, ito ay analytical. Ang mga ambiguous programmes na nag-aangkin ng pareho nang walang dual architecture ang unang dapat hamunin.

Itigil ang mga bagong hot-path features sa warehouse. Ang mga kasalukuyang compromise ay maaaring i-retire ayon sa plano; ang mga bago ay dapat mangailangan ng explicit exception na may named latency SLA na malinaw na natutugunan ng warehouse path. Itayo ang dual fan-out mula sa event bus: isang consumer path patungo sa analytical estate, isa patungo sa MongoDB o sa napiling operational store, na may lag at idempotency na sinusubaybayan bilang first-class controls. Sukatin ang latency to decision para sa NBA at fraud, hindi lamang pipeline completeness at mart coverage. I-align ang headcount: analytical tribes sa curated work, product at operational engineering sa hot path.

Ang pagkapit sa isang solong warehouse-shaped sagot para sa bawat problemang may label na “data” ay hindi na ang ligtas na opsyon. Ang streaming ay nahati na ang paradigm. Ang mga bangko at insurer na naglalagay ng Snowflake kung saan nararapat ang curation at depth at MongoDB (o katumbas) kung saan nabubuhay ang customer at ang decision ay titigil sa pagbabayad ng analytical headcount upang mabigo ang operational SLAs. Ang mga patuloy na may isang tribo at isang store para sa parehong trabaho ay patuloy na matutuklasan, pagkatapos ng pagkalugi at pagkatapos ng abandoned session, na ang warehouse ay sumagot sa isang tanong na hindi kailanman itinanong ng customer.