Egy közösen használt MI-szolgáltatáshoz több kell egy videókártyánál. A költségkeret része a szerver, a memória, az adattárolók, a tápegység, a hűtés és az egyértelmű üzemeltetési felelősség. Egy konkrét HPE ProLiant-példa megmutatja, hogyan számolhatók áttekinthetően ezek az elemek.
Egy áttekinthető rackpélda kiindulópontként
A tervezéshez egy HPE ProLiant DL380 Gen11 szervert feltételezünk egy processzorral, 128 GB ECC-memóriával és egy NVIDIA L4-gyel, amely 24 GB grafikus memóriával rendelkezik. A szolgáltatás belsőleg előkészített szövegeket és engedélyezett dokumentumokat dolgoz fel. Az észszerű párhuzamos kérésszámot a tényleges modell és annak kontextushossza alapján végzett teszt dönti el.
A Gen11 itt tudatosan választott példaplatform. Új beszerzésnél az aktuális generációkat és más megfelelő rendszereket is összehasonlítjuk. A modellnév önmagában még nem mondja meg, mely házak, meghajtókeretek és bővítések illenek össze.
A pontos konfiguráció teszi a különbséget
A HPE dokumentációja a DL380 Gen11-et támogatott platformként sorolja fel az S0K89C L4-gyorsítóhoz. A példához 8SFF házat választunk egy elülső meghajtókerettel és hátsó meghajtókeretek nélkül. Az alábbi táblázat a tervezési alapot írja le; rendelés előtt ebből teljesen ellenőrzött alkatrészjegyzék készül.
| Elem | A példa feltételezése |
|---|---|
| CPU | Egy Intel Xeon Silver 4514Y, 16 mag, 150 W TDP; az ötödik Xeon-generációhoz megfelelő Gen11-kivitel. |
| Memória | 128 GB négy megfelelő 32 GB-os HPE DDR5 ECC RDIMM modullal. Beépítés a kiosztási szabályok szerint; így nem lesz mind a nyolc memóriacsatorna foglalt. |
| GPU | Egy NVIDIA L4 24 GB, HPE S0K89C, PCIe Gen4 x16, legfeljebb 72 W kártyateljesítménnyel. |
| PCIe | GPU az elsődleges szabványos riser elektromosan x16-os bekötésű 2. foglalatában. További másodlagos risert nem tervezünk. |
| Hűtés | High Performance Fan Kit P48820-B21; a végleges konfigurációhoz illeszkedő CPU-hűtőborda és légáramlás. |
| Tápellátás | Két megfelelő 1 000 W-os Titanium Flex Slot tápegység P03178-B21; az egyik tápegység kiesésére vonatkozó méretezést külön ellenőrizni kell. |
| Adattárolók | Két HPE SATA Mixed Use SSD P40503-B21, egyenként 960 GB, tükrözve, MR216i-o vezérlő P47789-B21 és megfelelő hátlap/kábelek. Külön mentési célhelyet tervezünk. |
| Hálózat | Megfelelő hálózati adapter a szükséges OCP-csatlakozással az alapkeretben; összehangolás a vezérlővel és a CPU-kiosztással. |
A HPE az L4-hez a teljes GPU-memória legalább kétszeresét javasolja rendszermemóriaként. A feltételezett 128 GB meghaladja az egy kártyára számított 48 GB-ot. Ez méretezési támpont; a további szolgáltatások, a dokumentum-előkészítés és a CPU-ra történő tehermentesítés külön kapacitásvizsgálatot igényel.
A risert, a foglalatot és a hűtést együtt ellenőrizzük. Egy mechanikailag megfelelő foglalat elektromosan kevesebb sávval rendelkezhet. További kártyák vagy meghajtókeretek megváltoztathatják az elérhető beépítési helyet. A végleges alkatrészjegyzékhez ezért a tartókat, firmware-t, illesztőprogramokat és gyártói jóváhagyást is ellenőrizzük.
Milyen egy átlátható tervezési költségvetés?
Az összegek ehhez a számítási példához szabadon meghatározott költségkeret-feltételezések, 2026. október 15. állapot szerint. Nem ellenőrzött kereskedői ajánlatok és nem a DAXS árígéretei. Beszerzés előtt ellenőrizni kell az elérhetőséget, és konkrét ajánlatot kell kérni a teljes konfigurációra.
| Költségvetési tétel | Nettó összeg | Hatókör |
|---|---|---|
| Szerveralap | 9 000,00 euró | Ház, egy CPU, 128 GB ECC RAM, vezérlő és két tápegység; GPU és SSD-k nélkül. |
| Egy L4 | 3 000,00 euró | A gyorsító jóváhagyott HPE-változata. |
| Két SSD | 1 800,00 euró | A tervezett tükrözéshez megfelelő vállalati kivitel. |
| Kiegészítők | 700,00 euró | Ventilátorkészlet, sínek, tartók és szükséges apró alkatrészek; kerülni kell a kétszeres elszámolást az ajánlatban. |
| Hardverszerviz | 1 500,00 euró | Három évre elkülönített keret; ellenőrizni kell a tényleges hatókört és a GPU szervizlefedettségét. |
| Beállítás és átvétel | 1 800,00 euró | Integrációra és korlátozott funkcionális tesztre szánt keret; a hatókört egyedileg kell egyeztetni. |
| Nettó összesen | 17 800,00 euró | A hat feltételezett tétel összege. |
| 20% áfa | 3 560,00 euró | A példához feltételezett osztrák általános adókulcs. |
| Összesen áfával | 21 360,00 euró | A konkrét ügylet adókezelését külön kell meghatározni. |
Meglévő racket, megfelelő áramköröket, hálózatot és mentési platformot feltételezünk. Új szünetmentes tápegység, klimatizálás, operációsrendszer- és MI-szoftverlicencek, folyamatos adminisztráció és áram nincs beleszámítva. Az ajánlatnak ezeket a határokat kifejezetten tisztáznia kell. Különben egy látszólag kedvező szerverár teljesebbnek tűnik, mint amilyen.
A 24 GB VRAM még nem dönti el a modellválasztást
A modell méretéhez hozzáadódik a kontextus, a párhuzamos feldolgozás és a futtatókörnyezet memóriaigénye. Egy rövid, egyedi kérésnél működő modell hosszú dokumentumokkal vagy több felhasználóval más terhelést okozhat. A reprezentatív terheléssel végzett pilot ezért együtt vizsgálja a minőséget, a várakozási időket és a tartalékokat.
Az áramszámla is a teljes rendszert követi. A GPU 72 W-os maximális teljesítménye nem a rackszerver konnektornál mért fogyasztása. Két 1 000 W-os tápegység sem jelent állandó 2 000 W-os igényt. Megbízható üzemeltetésiköltség-számításhoz az üresjáratot, a jellemző terhelést és a csúcsokat kell mérni.
Szerviz, mentés és helyreállás közös tervezése
A hardverszerviz-szerződés meghatározott szolgáltatásokat szabályoz adott komponensekre és helyszínekre. A reakcióidő, a szervizidőablak, az alkatrészek elérhetősége és az MI-szolgáltatás helyreállítása külön kérdés. Az üzemeltetéshez tisztázni kell, ki építi be a cserealkatrészt, ellenőrzi a szoftvert és igazolja az üzleti működés helyreállását.
Az SSD-tükör egyetlen meghajtó kiesésénél segít. Véletlenül törölt dokumentumokhoz, sérült konfigurációkhoz vagy teljes szerverleálláshoz külön mentés kell, ellenőrzött visszaállítási úttal. A felhasználókezelés, a modellverziók és a szükséges szolgáltatáskonfiguráció része ennek a tervnek.
A DAXS támogatja a felmérést, a konfigurációt, az integrációt és az egyeztetett üzemeltetést. A helyi LLM-infrastruktúráról szóló szakmai oldal kontextusba helyezi az architektúrát. Az Ollama és Open WebUI cikk a közös MI-szolgáltatást mutatja be; a HPE szakmai oldal az infrastruktúrát és a támogatást egészíti ki.
Megfelelő MI-felhasználás és a rendelkezésre álló keret megbeszélése.
Források: HPE: DL380 Gen11 QuickSpecs (külső hivatkozás) · HPE: NVIDIA-gyorsítók és jóváhagyott platformok (külső hivatkozás) · Intel: Xeon Silver 4514Y (külső hivatkozás) · NVIDIA: L4-specifikációk (külső hivatkozás) · HPE: Tech Care szolgáltatásleírás (külső hivatkozás) · USP: áfakulcsok (külső hivatkozás).
