Anthropic včera predstavil Claude Mythos Preview a zároveň spustil Project Glasswing. Nejde o bežné produktové vydanie. Firma model zatiaľ nepúšťa verejne a hovorí o ňom najmä v súvislosti s kybernetickou bezpečnosťou. Dôvod je jednoduchý: podľa technického reportu a sprievodného testovania model pri hľadaní chýb zvládol prácu, ktorá ešte donedávna vyžadovala tímy skúsených bezpečnostných výskumníkov.
Podľa Anthropicu Mythos počas interných testov identifikoval zero-day zraniteľnosti vo všetkých hlavných operačných systémoch aj webových prehliadačoch. To je presne ten typ tvrdenia, pri ktorom sa oplatí brzdiť hype. Aj tak však ide o správu, ktorú sa nedá ignorovať. Ak sa podobné schopnosti potvrdia aj v širšej praxi, bezpečnostný trh sa začne meniť rýchlejšie, než si väčšina firiem stihne upratať vlastné vývojové procesy.
Z Capybary sa stal Mythos
Existencia modelu sa na verejnosť dostala už skôr cez únik interných materiálov, kde sa objavovalo označenie Capybara. Po oficiálnom uvedení Anthropic potvrdil, že Mythos Preview je jeho nový všeobecný model so silným výkonom v programovaní, logickom uvažovaní a bezpečnostných úlohách.
Dôležité je, že Anthropic ho nepredstavuje ako úzko špecializovaný „cyber“ nástroj. Skôr tvrdí, že bezpečnostné schopnosti sa objavili ako dôsledok širšieho posunu v reasoning a kódovaní. V praxi to znamená, že model nevyniká len v tom, že rozumie zdrojovému kódu. Podľa firmy zvláda aj dlhšie samostatné hľadanie problémov bez toho, aby ho musel človek priebežne navigovať krok za krokom.
Práve tu je viditeľný rozdiel oproti starším modelom. Kým pri predchádzajúcich generáciách bolo bežné, že expert model neustále usmerňoval, Mythos má podľa Anthropicu dlhšie fungovať autonómne po jedinej inštrukcii typu: nájdi zraniteľnosť v tomto programe. Report uvádza aj konkrétne príklady starých chýb, ktoré model odhalil, vrátane 27-ročnej chyby v OpenBSD a 16-ročnej zraniteľnosti vo FFmpeg.
Project Glasswing má z Mythosu spraviť obranný nástroj
Práve preto Anthropic model zatiaľ nezverejňuje široko cez API ani ako bežné predplatné. Namiesto toho spustil Project Glasswing, teda koordinovaný program s veľkými technologickými a bezpečnostnými partnermi. V reportoch a mediálnych správach sa spomínajú mená ako Microsoft, Google, Apple, Amazon, Nvidia, Cisco, CrowdStrike, Palo Alto Networks, Linux Foundation či Apache Software Foundation.
Cieľ je celkom pragmatický: ak už takýto model existuje, treba ho čo najrýchlejšie využiť na obranné čistenie infraštruktúry skôr, než sa rovnako výkonné modely dostanú k útočníkom s menšími obmedzeniami. Anthropic tvrdí, že na tento program vyčlenil 100 miliónov dolárov v kreditoch a ďalšie financie poslal aj nadáciám, ktoré udržiavajú open-source projekty.
To je dôležitý detail. Väčšina kritického softvéru dnes nestojí len na produktoch veľkých vendorov, ale aj na open-source komponentoch, ktoré sú často roky podfinancované. Ak model naozaj dokáže hľadať staré a ťažko odhaliteľné chyby vo veľkom, potom budú podobné programy potrebné aj mimo PR roviny. Inak sa výhoda AI presunie skôr na stranu tých, ktorí chcú chyby zneužiť, než na stranu tých, ktorí ich chcú opraviť.
Pre bezpečnostný trh je to skôr varovanie než oslava
Najzaujímavejšie na celej novinke nie je samotné marketingové meno Mythos. Dôležitejšie je, čo z nej vyplýva pre bezpečnostný trh. Tradičný model obrany často počíta s tým, že útok je drahý, pomalý a personálne náročný. Anthropic však v reporte otvorene píše, že táto logika prestáva platiť, ak model zvládne opakované, únavné a technicky náročné kroky útoku vo veľkom rozsahu.
To neznamená, že každá firma je od zajtra bezbranná. Znamená to skôr to, že ručné code review, občasný audit a náhodné fuzzovanie už nebudú stačiť ako komfortná norma. Firmy budú musieť zrýchliť patchovanie, skrátiť okno medzi nálezom a opravou a pridať do pipeline automatizované bezpečnostné testy, ktoré budú bežať podstatne častejšie než dnes.
Rovnako dôležité je aj politické pozadie. Uvedenie Mythosu prichádza v čase, keď sa bezpečnostné schopnosti frontier modelov prestávajú vnímať len ako technická zaujímavosť. Čoraz viac sa z nich stáva otázka štátnej správy, kritickej infraštruktúry a prístupu k výkonným modelom. To vysvetľuje, prečo Anthropic pri uvedení tlačí na kontrolovaný prístup a koordináciu s partnermi, nie na okamžitú distribúciu verejnosti.
Čo z toho plynie pre firmy a vývojové tímy
Najpraktickejší záver je tento: AI bezpečnostné modely už netreba vnímať ako futuristický doplnok. Začínajú byť novou vrstvou infraštruktúry. Pre firmy to znamená, že budú musieť upraviť spôsob, akým testujú softvér, riešia bug bounty, robia interný red teaming a prioritizujú záplaty.
Súčasne však platí aj druhá strana rovnice. Model, ktorý vie rýchlo nájsť a exploitovať chyby, je rovnako cenný pre obranu aj pre útok. Rozdiel teda nebude v tom, či podobné systémy vzniknú, ale kto ich dostane skôr, pod akými pravidlami a s akým dohľadom.
Ak ťa zaujíma aj opačná strana rizika, teda čo sa stane, keď problém nie je v systéme, ale v samotnom modeli, pozri aj súvisiaci článok: Ako sa môže LLM správať ako trojský kôň: riziká a ochrana.
FAQ: Najčastejšie otázky
Môžem si model Claude Mythos vyskúšať aj ja?
Nie. Podľa Anthropicu je model momentálne dostupný len v obmedzenom režime pre partnerov zapojených do Project Glasswing a ďalšie vybrané bezpečnostné organizácie.
Znamená to, že dnešné operačné systémy sú deravé?
Skôr to znamená, že veľké a staré kódové bázy stále obsahujú chyby, ktoré doteraz unikali pozornosti. Nové generácie modelov ich vedia hľadať rýchlejšie a vo väčšom rozsahu než doterajšie nástroje.