ChatGPT érkezik az AWS GovCloud környezetébe
Az AWS GovCloud (US) infrastruktúrájában is elérhetővé vált a ChatGPT asztali alkalmazása az Amazon Bedrock közvetítésével. A megoldás elsősorban azoknak a szervezeteknek lehet fontos, amelyeknél a mesterséges intelligencia használatát szigorú régiós, hálózati és hozzáférési szabályokhoz kell igazítani. A beállítás révén a Codex modellkérései az AWS GovCloud nyugati régiójának kijelölt végpontján haladhatnak át.
A részletekről az aihirek.info beszámolója is ismertetést közölt az AWS október 30-i leírása alapján. A konfiguráció célja, hogy a ChatGPT asztali használata olyan környezetben is ellenőrizhető legyen, ahol az adatok helye, az identitások kezelése és az engedélyezés különösen lényeges.
Két eltérő munkafolyamatot támogat
Az alkalmazás két fő összetevőn keresztül biztosít hozzáférést az OpenAI modelljeihez. A Work a több lépésből álló, összetett feladatok elvégzésére használható. Ide tartozhat a tervezés, a kutatás, a fájlok kezelése, valamint a kész eredmények előállítása. Ez a rész azoknak a munkafolyamatoknak kedvez, amelyeknél a felhasználónak nem egyetlen kérdésre kell választ kapnia, hanem egy teljes feladatot kell végigvinnie.
A Codex az OpenAI kódolási ügynöke. Szoftverek fejlesztésére, tesztelésére és felülvizsgálatára szolgál, és a forrás szerint a hosszabb, összetett fejlesztői folyamatokra optimalizált GPT modellekre támaszkodik. A használat nem korlátozódik az asztali alkalmazásra. A Codex CLI, továbbá a Visual Studio Code, a JetBrains és az Xcode integrációi szintén támogatottak.
Régiós adatkezelés és nulla adatmegőrzés
A bemutatott beállítás a Codex modellkéréseit az Amazon Bedrock Mantle szolgáltatásán keresztül, az us-gov-west-1 régióban továbbítja. A hozzáférést az AWS Identity and Access Management, röviden IAM, valamint a szervezet meglévő AWS GovCloud hálózati szabályai kezelhetik. A modellkövetkeztetés a Bedrock Responses API használatával történik.
Az adatrezidenciára vonatkozó elvárásokkal rendelkező ügyfelek esetében a feldolgozás a kiválasztott Amazon Bedrock régióban maradhat. Az AWS tájékoztatása szerint a szolgáltatás tokenenkénti díjazással működik, így nincs szükség ülésalapú licencekre vagy fejlesztőnkénti vállalásokra. A konfiguráció a nulla adatmegőrzést is támogatja. Ennek alkalmazásakor az AWS nem írja tartós tárhelyre a promptokat és a válaszokat, és ezeket nem osztja meg a modell szolgáltatóival.
Az adminisztrátorok rögzíthetik a korlátokat
A megoldás olyan szervezetekre szabható, amelyeknek a modellkövetkeztetéshez GovCloud identitásokat, végpontokat és régiós ellenőrzéseket kell használniuk. A helyi telepítés API alapú bejelentkezést, kezelt eszközszabályzatot, névvel ellátott AWS profilt és hálózati korlátozásokat alkalmaz. A rendszergazdai requirements.toml fájl olyan előírásokat tartalmazhat, amelyeket a felhasználók nem módosíthatnak.
Ezek között szerepelhet az engedélyezett jogosultsági szintek, eszközök és beállítások köre. A javasolt alapkonfiguráció többek között letiltja a böngésző és a számítógép használatát, a távoli vezérlést, a bejelentkezési parancsértelmezőt, a képalkotást és az alkalmazáson belüli böngészőt. A hálózati szabályok kizárólag az engedélyezett Bedrock Mantle végpontot hagyják jóvá, miközben több OpenAI és ChatGPT domaint tiltottként jelölnek.
A használat előtt létre kell hozni a config.toml és a requirements.toml fájlt. A ChatGPT alkalmazás API kulccsal vagy az AWS SDK hitelesítési láncával kapcsolódhat az AWS Bedrockhoz. Ez a lánc az AWS IAM Identity Center SSO folyamatait is támogatja.
Az AWS ugyanakkor külön hangsúlyozza, hogy a GovCloud használata és az útmutató követése önmagában nem jelent munkaterhelési engedélyt. A szervezetnek saját biztonsági terve és engedélyezési folyamata alapján kell felülvizsgálnia a modellt, az AWS szolgáltatásait, a régiót, a végpontot, a munkaállomás szabályait, a tárhelyeket, a hitelesítő adatokat és az adatáramlásokat. A megoldást egy ügynökség biztonsági csapata tesztelheti és dokumentálhatja, mielőtt szélesebb körben engedélyeznék. A fő kontrollokat a kezelt számítógép szabályzatai, valamint az alkalmazott AWS identitás és jogosultságok jelentik.
