Společnost Anthropic vydala v první polovině června model Fable 5, což je upravená a omezená verze jejich přelomového modelu Mythos 5. Mythos je podle recenzí i sdělení samotné firmy nástrojem, který výrazně převyšuje veškerou současnou konkurenci. Anthropic jej dokonce označil za potenciální kybernetickou zbraň – dokáže totiž v kódech aplikací odhalit zranitelnosti, kterých si dosud nevšiml žádný člověk ani jiná umělá inteligence. Právě kvůli těmto schopnostem firma Mythos nezpřístupnila veřejnosti a poskytla jej pouze několika desítkám vybraných partnerů.
Fable 5: Mythos pro všechny
Model Fable 5 se sice k veřejnosti dostal, ale s bezpečnostními omezeními, která měla jeho nebezpečné schopnosti potlačit. Sám jsem ho zatím netestoval, ale podle dostupných ohlasů šlo o mimořádný nástroj. Dokázal pracovat zcela autonomně a dlouhodobě, zpracovávat obrovské datové sady a řešit komplexní úlohy. Zvládal vědecké úkony, precizně analyzoval detailní grafy, hrál hry (dokonce úspěšně dohrál Pokémon FireRed), psal pokročilý kód a navrhoval léky. Výzkumu v oblasti genomiky se dokázal autonomně věnovat i celý týden, přičemž si sám navrhl vlastní model strojového učení s excelentními výsledky.
Americká vláda vystavila stopku
Krátce po spuštění Fable 5 však jedna z firem zaměřených na testování bezpečnosti (spekuluje se o Amazonu) upozornila americkou vládu, že bariéry omezující kyberschopnosti lze obejít. Vláda následně nařídila společnosti Anthropic, aby model Fable znepřístupnila všem uživatelům bez amerického občanství. Protože Anthropic neměl technické prostředky, jak toto nařízení selektivně a spolehlivě vymáhat, rozhodl se model raději vypnout pro všechny.
Anthropic nesouhlasí
Firma celou situaci jako prolomení bezpečnosti nevnímá. Model se podle ní chová standardně: dokáže zkontrolovat a opravit části kódu, ale při pokusu o složitější a potenciálně nebezpečné operace se automaticky přepne na starší, bezpečnější verzi. Vláda však argumentuje tím, že sám Anthropic před schopnostmi modelu Mythos varoval. Pokud tedy existuje byť jen minimální šance, že lze ve verzi Fable tyto pokročilé funkce odemknout, představuje to obrovské kybernetické riziko.
Jak to bude dál?
Míč je teď na straně společnosti Anthropic, která musí podle americké vlády hrozbu definitivně odstranit, aby mohl být Fable 5 znovu spuštěn. Uvidíme, jak se k situaci firma postaví a jaké další pojistky implementuje. Celá kauza nám každopádně ukazuje jednu důležitou věc: umělá inteligence nám již dnes otevírá dříve netušené možnosti napříč obory. A to komukoliv z nás, za cenu běžného předplatného kolem pětistovky měsíčně.
Stanislav Jarolímek
Email: stanislav@leadmachine.cz
Úvodní obrázek: Google Gemini