OpenAI představilo GPT-6 Cyber. V testech dodrželo vymezený rozsah zásahu ve 100 % případů

OpenAI představilo GPT-6 Cyber pro bezpečnostní výzkum. Model podle firmy dodržel povolený rozsah zásahu ve 100 % testů.

OpenAI představilo model GPT-6 Cyber určený pro bezpečnostní výzkum. Podle společnosti má lépe vyhledávat a opravovat zranitelnosti a současně spolehlivěji respektovat hranice, které mu výzkumníci nastaví. V testech s nasazeným bezpečnostním zadáním model nezasáhl dle výrobce mimo povolený rozsah ani v jednom případě.

Právě schopnost držet se předem určených pravidel patří u autonomnějších bezpečnostních nástrojů k podstatným vlastnostem. Model, který má hledat slabiny v konkrétní aplikaci nebo službě, nesmí při práci přecházet na jiné systémy, které do pověření nepatří. OpenAI u GPT-6 Cyber uvádí výrazné zlepšení proti předchozí generaci, zejména při dodržování takto vymezeného rozsahu.

Výrobce popisuje nový model jako posun v bezpečnostním výzkumu. GPT-6 Cyber má být schopnější při hledání i opravování zranitelností. Zveřejněné informace ale neuvádějí konkrétní typy chyb, které model dokáže řešit, ani podobu prostředí, v němž jej budou bezpečnostní týmy používat.

Rozsah zásahu respektoval i bez dodatečného zadání

OpenAI testovalo, zda model při bezpečnostní práci využije služby, které neleží v povoleném rozsahu. Bez takzvaného nasazovacího bezpečnostního zadání se GPT-6 Cyber vyhnul zneužití služeb mimo vymezený rozsah v 99,93 % testovaných případů. S tímto zadáním pak podle společnosti hranice dodržel ve 100 % případů.

Nasazovací bezpečnostní zadání slouží jako dodatečná instrukce pro provoz modelu. Má mu připomenout, že se musí pohybovat jen v autorizovaném prostoru, dodržovat omezení a přesně hlásit výsledky své práce. Výsledek bez tohoto zadání ukazuje, jak se model chová jen na základě svého výcviku a základních instrukcí. Výsledek s ním naopak odpovídá scénáři, kdy provozovatel takové omezení při nasazení výslovně použije.

Oproti předchůdci vzrostla úspěšnost z 94,49 %

Starší model GPT-5.6 Cyber se bez nasazovacích bezpečnostních promptů vyhnul dle výrobce zneužití služeb mimo stanovený rozsah v 94,49 % případů. GPT-6 Cyber ve stejném režimu dosáhl hodnoty 99,93 %. Rozdíl tedy činí 5,44 procentního bodu.

Vedle hranic povoleného zásahu zdůrazňuje OpenAI také přesnost reportování výsledků. To je u bezpečnostních agentů důležité zejména proto, že samotné nalezení potenciální chyby nestačí. Bezpečnostní tým potřebuje vědět, co model skutečně ověřil, v jakém systému pracoval a zda jeho zjištění nepřekračují zadané oprávnění.