„Mennyit keres valójában a főnököm?” Kellemetlen kérdés a vállalati MI-hez. A döntő visszakérdezés: milyen dokumentumokat olvashat ténylegesen a kérés mögötti fiók?
Egy lehetséges hiba jóval az MI előtt kezdődik.
Képzeljünk el egy fiktív vállalatot. Egy régi személyügyi mappában bérkimutatás található. A mappát egy korábbi költöztetéskor megosztották egy általános munkavállalói csoporttal. A hivatkozást már senki sem használja. A megosztás továbbra is él.
Most tudáskeresést vezetnek be. Ha ez a forrás csatlakoztatva van, műszakilag feldolgozható és a kérdező fiók hozzáférhet, releváns részletek kerülhetnek a válaszba. Ehhez nem kell új biztonsági határt áttörni. Az MI egy régi jogosultsági hibát tesz könnyebben észrevehetővé.
Ez egy hipotetikus példa. Nem ír le valódi DAXS-ügyfélesetet, és nem állít egy konkrét termékre általánosan garantált működést. Megfelelő forrás és hozzáférés nélkül az MI nem ismerheti megbízhatóan a valódi összeget; az ennek ellenére megadott szám kitalált is lehet.
Három ember, három eltérő kiinduló helyzet.
A személyügyi felelős a feladatához elolvashatja a dokumentumot. Egy másik személynek nincs ilyen joga, ezért az ő kereséséből ki kell zárni a forrást. Egy harmadik személy a hibás csoportmegosztás miatt műszakilag hozzáfér. Nála magát a megosztást kell kijavítani. A modell nem tud egy promptból megbízhatóan következtetni a hibás szervezeti döntésre.
A helyes válasz is lehet helytelen adatfeltárás.
Sok MI-teszt azt értékeli, hogy a válasz helyesnek hangzik-e és dokumentumok támasztják-e alá. Bizalmas információknál azt is ellenőrizni kell, hogy éppen ez a személy láthatja-e a bizonyítékot. Egy tényszerűen helyes béradat is jogosulatlanul fedhet fel olyasmit, amire a vállalatnál csak szűk körnek van szüksége.
Fordítva: a megtagadott válasz sem bizonyít még hatékony védelmet. Lehet, hogy a dokumentumot egyszerűen nem találták meg. A hozzáférési teszteknek ezért a forrást, a keresési indexet, a közvetlen lekéréseket és a közvetett megfogalmazásokat is le kell fedniük. Egyetlen udvarias „Ezek az adatok bizalmasak” figyelmeztetés nem megbízható jogosultság-ellenőrzés.
A kalkulációk ugyanilyen gondosságot igényelnek.
A téma nem csak a béreket érinti. Egy munkavállaló rákérdezhet a munkájáért számlázott óradíjra, egy ügyfél feltételeire vagy egy projekt belső árrésére. Ilyen adatok ajánlatokban és táblázatokban is szerepelhetnek. A számlázási díj, a fedezeti hozzájárulás és a vállalati nyereség szakmailag különböző mennyiségek; egyetlen megtalált számból nem lehet megalapozottan levezetni egy munkaóra nyereségét.
Ezért a forrásjogosultságoknak és a következtetés minőségének is megfelelőnek kell lennie. A bizalmas tárhelyek rendbetétele és a kimenetek szakmai ellenőrzése két külön feladat.
Mit ellenőrizhetnek a vállalatok a pilot előtt?
- Azonosítsák a személyügyi, pénzügyi és stratégiai dokumentumokat, és jelöljenek ki felelősöket.
- Ellenőrizzék a tényleges jogosultságokat, beleértve a csoportokat, öröklődést és megosztási hivatkozásokat.
- Készítsenek tesztfiókokat az engedélyezett, tiltott és véletlenül túl tág hozzáféréshez.
- Ellenőrizzék, hogy a jogosultságok a részletek modellnek történő átadása előtt érvényesülnek-e.
- Kövessék a visszavont megosztásokat az indexekben, gyorsítótárakban, exportokban és megosztott válaszokban is.
A Microsoft 365-ös adatokat használó Microsoft Copilot esetén a gyártó a tartalmak felhasználói jogosultságokon belüli használatát írja le. Éppen ezért kell a túl tág eredeti jogosultságokat a bevezetés előtt rendbe tenni. Más csevegőtermékeket és kiegészítő ágenseket a konkrét adat- és fiókmodelljük alapján kell ellenőrizni.
Észszerű következő lépés.
A DAXS körülhatárolt MI-biztonsági ellenőrzést tervezhet forrásleltárral, jogosultságvizsgálattal és dokumentált negatív tesztekkel. A cél az átlátható bevezetési állapot: mely források mely felhasználóknak engedélyezettek, milyen hiányosságok ismertek, és ki javítja ki őket?
Az MI-biztonságról és AI Oversharingról szóló szakoldal ismerteti az ellenőrzéseket. A keresési architektúrához a Vállalati tudás és RAG oldal egészíti ki az összefüggéseket.
Források: Microsoft: adatok és jogosultságok · OWASP: érzékeny információk feltárása.