Egy olcsó videokártyától még nem lesz olcsó egy MI-szolgáltatás. A felhős megoldás sem csak a tokenárakból áll. A nyílt, 36 hónapos összehasonlítás megmutatja, mely beszerzési, áram-, felügyeleti és használati feltételezések okozzák a különbséget.
Először a feladat, aztán a költségvonal
A példában jóváhagyott jegyzetekből rövid szövegvázlatok készülnek. Hasznos összevetéshez rögzíteni kell a minőséget, megengedett adatútvonalakat, kontextushosszt, várakozást és egyidejű használatot. Egy kisebb helyi és egy felhős modell nem automatikusan azonos teljesítményű.
A következő összegek egy példaszámítást alkotnak. Az ellenőrzött API-listaárakat különválasztjuk a szabadon választott tervezési feltételezésektől. A költségvonalak nem árajánlatok, és nem igazolnak azonos kapacitást vagy eredményminőséget. Minden folyamatos összehasonlítási érték nettó összeg vagy kalkulált költség.
Mennyibe kerül a saját szerver 36 hónap alatt?
Kezdetben nettó 17 800 eurós kerettel számolunk: 14 500 euró hardverre, 1 500 euró hároméves hardverszervizre és 1 800 euró bevezetésre. Feltételezett 20 % osztrák áfával ez a kezdeti keret 21 360 euró áfával együtt. A tényleges adókezelést a konkrét ügyletre határozzák meg.
A gazdasági számításban a 17 800 eurót 36 hónapra osztjuk. Ez tartalmazza a hardver feltételezett értékcsökkenési időszakát; adózási hasznos élettartamot nem rögzít. A havi összeg kalkulációs érték, nem havi finanszírozási részlet.
| Tétel | Euró/hó | Feltételezés |
|---|---|---|
| Kezdeti keret / 36 | 494,44 | 17 800 euró bevezetéssel és hároméves hardverszervizzel együtt. |
| Áram és környezet | 54,75 | Átlagosan 250 W egész évben, nettó 0,25 euró/kWh és 1,20 szorzó. |
| Adminisztráció | 200,00 | Két óra kalkulált 100 euróval. |
| Mentés / monitorozás | 20,00 | További havi előirányzat. |
| Tartalék | 30,00 | Nem fedezett alkatrészekre vagy munkára. |
| Összesen | 799,19 | A kihasználatlan kapacitás is a számítás része marad. |
Az energiafeltevés: 0,250 kW átlagos teljes fogyasztás × 8 760 óra/év × nettó 0,25 euró/kWh × 1,20 szorzó a további környezeti igényre ÷ 12. Ebből havi 54,75 euró adódik. A szorzó a hűtés és környezet saját feltételezése, az áfától függetlenül.
Valós számításhoz a teljes rendszert mérjük üresjáratban és terhelve. Az alkalmazott áramárnak a cég tényleges energia-, hálózati és közteher-összetevőihez kell igazodnia. Itt nem állítjuk, hogy aktuális osztrák átlagtarifát használunk.
Az API-számításhoz használat és tarifa kell
Dátumhoz kötött szolgáltatói példánk az OpenAI GPT-6.1 Sol Standard tarifával, rövid kontextusnál: 2 amerikai dollár egymillió nem gyorsítótárazott bemeneti tokenért, 2,50 amerikai dollár gyorsítótár-írásért és 10 amerikai dollár egymillió kimeneti tokenért. Az árlista 10 % felárat nevez meg az elérhető regionális feldolgozásra.
Műveletenként 2 000 bemeneti és 500 ténylegesen számlázott kimeneti tokent feltételezünk. Tervezéskor óvatosságból minden bemenetet a magasabb, 2,50 amerikai dolláros gyorsítótár-írási díjjal számolunk. A normál bemeneti díjat nem adjuk hozzá ismét. Gyorsítótár-találatok, további eszközök és ismétlések nem szerepelnek ebben a forgatókönyvben.
10 000 művelet így 20 millió bemeneti és 5 millió kimeneti tokent jelent: 20 × 2,50 + 5 × 10 = 100 amerikai dollár. A feltételezett regionális felárral ez 110 amerikai dollár. Az alkalmazott szabadon választott, amerikai dolláronként 0,92 eurós átváltási tényező 101,20 eurót ad; nem ellenőrzött napi devizaárfolyam.
Ehhez feltételezett 1 200 euró integráció társul 36 hónapra elosztva, havi 50 euró támogatás és 20 euró monitorozásra vagy mentésre. Az alapráfordítás kerekítve havi 103,33 euró. 10 000 példaművelettel havi 204,53 euró adódik.
Hogyan hat a nagyobb használat?
| Művelet/hó | Bemenet, millió | Kimenet, millió | API-használat, euró | API összesen, euró | Helyi kalkulációs vonal, euró |
|---|---|---|---|---|---|
| 1 000 | 2 | 0,5 | 10,12 | 113,45 | 799,19 |
| 10 000 | 20 | 5 | 101,20 | 204,53 | 799,19 |
| 50 000 | 100 | 25 | 506,00 | 609,33 | 799,19 |
| 100 000 | 200 | 50 | 1 012,00 | 1 115,33 | 799,19 |
A helyi költségvonal matematikailag állandó marad a táblázatban. Ez kifejezetten nem bizonyítja, hogy a feltételezett hardver megfelelő minőséggel és válaszidővel kezeli ezt a terhelést. Több párhuzamos használat, hosszú kontextus vagy nagyobb modell további hardvert és felügyeletet igényelhet.
A felhős összeg is változik, ha több tokent számláznak, további eszközöket használnak vagy más tarifakategória érvényes. A tényleges használati adatok számítanak. A látható válasz hossza önmagában nem elegendő számlázási mérce.
Mely feltételezéseket kell kiváltania a pilotnak?
A két óra helyi adminisztráció óránként 100 euróval, az alacsonyabb API-támogatási ráfordítás, a fogyasztás és az átváltási tényező tervezési feltevés. Néhány reprezentatív hét után megfigyelt értékekkel válthatók ki. A szükséges szakmai ellenőrzést és utómunkát mindkét változatban külön hozzá kell számolni.
A helyi számítás 36 hónapra összesen nettó 28 771 eurót vagy kalkulált ráfordítást ad. Meglévő racket, hálózatot és megfelelő helyszíni technikát feltételez. Új helyiségkialakítás, finanszírozás, kiesési következmények és a végső maradványérték nincs benne. A szükséges további szoftverlicenceket a döntés előtt ellenőrizni és hozzáadni kell.
Egy meglévő gép csökkentheti a többletberuházást, de továbbra is áramot, karbantartást, maradványértéket és lekötött kapacitást jelent. Más API-szolgáltató, kisebb megfelelő modell, gyorsítótár-találatok vagy alkalmas aszinkron feldolgozás viszont módosíthatják a felhős számítást. A használható eredményre jutó ráfordítást hasonlítjuk össze.
A műszaki és szervezeti megfelelőséget együtt értékeljük
A jóváhagyott adatútvonalak, internetfüggőség, válaszidő, módosíthatóság és újraindulás a döntés részei. A hibrid modell célzottan oszthat fel feladatokat, de szintén szabályokat és felügyeletet igényel. A DAXS a helyi infrastruktúrát és külső szolgáltatásokat a valós feladat alapján értékeli.
A MI-költségoptimalizálás témájú oldal elmagyarázza a modellválasztást és az útválasztást. A helyi LLM-infrastruktúra és a valós terhelésű pilot kiegészíti a műszaki ellenőrzést. Az alapvető tájékozódáshoz segít az üzemeltetési modellek összehasonlítása.
MI-feladat, költségkeret és üzemeltetési modell egyeztetése.
Források: OpenAI: GPT-6.1 Sol-díjak (külső hivatkozás) · OpenAI: feldolgozási kategóriák és felárak (külső hivatkozás) · E-Control: áramár-összetevők (külső hivatkozás) · USP: áfakulcsok (külső hivatkozás). Minden további számítási adat kifejezetten választott forgatókönyv-feltételezés.
