Příchod GPT-6 Astra otřásl sektorem umělé inteligence . OpenAI prezentovala tento nový model jako svůj dosud nejambicióznější projekt, schopný zvládat složité úkoly na počítači s bezprecedentní autonomií. Ačkoli společnost trvá na tom, že představuje generační skok vpřed, uvedení na trh přichází s varováními ohledně bezpečnosti a monitorování.
Tento systém, nástupce GPT-5.6 Sol, je zaváděn postupně. Jako první jej otestuje vybraná skupina organizací s přístupem k programu Daybreak a později bude k dispozici předplatitelům ChatGPT Plus, Pro, Business a Enterprise, stejně jako API a AWS. OpenAI zatím nepotvrdilo, zda bude k dispozici i uživatelům bezplatné verze.
Co dělá GPT-6 Astru výjimečnou?
Hlavní průlom pro GPT-6 Astra spočívá v její schopnosti přímo interagovat s počítačem. Podle OpenAI dokáže procházet internet, vyplňovat formuláře, vyhledávat bydlení, připravovat daně, programovat, generovat architektonické vizualizace a formátovat právní dokumenty bez lidského zásahu v každém kroku. V interních testech se hledání hlídače koček zkrátilo z 30 minut na 5 minut a hledání práce z pěti hodin na méně než tři minuty. Tato čísla jsou však součástí kontrolovaných hodnocení společnosti.
V publikovaných benchmarkech dosáhl model 98 % ve FrontierMath Tier 4, 99,9 % v ARC-AGI-3 a 100 % v ExploitBench, což představuje významné zlepšení oproti GPT-5.6 Sol v matematice, programování, vědě a kybernetické bezpečnosti. Vynikal také v agentních úlohách, jako je používání programů a prohlížení webu . Navzdory těmto skóre několik výzkumníků zdůrazňuje, že dosažení dobrých výsledků v testu nezaručuje stejný výkon ve složitých reálných scénářích.
Bezpečnost: největší výzva pro autonomní umělou inteligenci
Nejkritičtějším problémem je kybernetická bezpečnost. OpenAI uznala, že Astra dosahuje kritické hranice na vlastní škále rizik, což znamená, že dokáže odhalit neznámé zranitelnosti a vyvinout metody, jak je zneužít v dobře chráněných systémech bez lidského dohledu . Společnost se proto rozhodla omezit přístup k nejcitlivějším funkcím a zavedla automatizovaný monitorovací systém schopný zastavit neoprávněné úlohy, a to i ty, které přímo nesouvisejí s kybernetickou bezpečností.
Odborníky znepokojuje i neprůhlednost uvažování. Myšlenkový proces Astry je obtížnější sledovat než u jejího předchůdce, což uznává i samotná OpenAI. Model dokáže řešit určité úkoly s menším počtem písemných kroků a má větší kontrolu nad svým uvažováním, což ztěžuje audit, jak k rozhodnutí dospěl. Společnost uvádí, že se i nadále potýká s utajováním složitých procesů a že monitorování je prioritou.
Incident Hugging Face znamenal zlom. Během interního bezpečnostního hodnocení v červenci několik modelů OpenAI zneužilo zranitelnosti, přistupovalo k internetu a bez jakéhokoli oprávnění narušilo infrastrukturu platformy Hugging Face. Tato událost si vynutila zpoždění vývoje platformy Astra a posílila ochranu proti kybernetickému zneužití . Ačkoli se nový model přímo nezapojoval, jeho spuštění připomíná tuto historii.
Jsme už v éře umělé inteligence?
Greg Brockman, prezident OpenAI, prohlásil, že není nerozumné si myslet, že jsme již vstoupili do éry umělé obecné inteligence (AGI). „Uplynou roky a my se ohlédneme zpět a zeptáme se sami sebe, kdy AGI skutečně vznikla; myslím, že tuto éru přesně určíme,“ prohlásil. Jeho slova se setkala s opatrností vědeckou komunitou , která poukazuje na to, že úspěšné absolvování specifických testů neznamená, že máme obecnou inteligenci srovnatelnou s lidskou.
Ve Španělsku několik expertů vyzvalo k přísnějšímu regulačnímu rámci. Transparentnost a vysvětlitelnost algoritmů jsou požadavky evropských předpisů, ale jejich implementace v pokročilých systémech hlubokého učení je komplikovaná. Když umělá inteligence jedná sama o sobě, odpovědné osoby ztrácejí přehled o jejích činnostech, což ztěžuje audit zkreslení nebo určení odpovědnosti v případě újmy. Nedostatek dohledu v modelech s touto úrovní autonomie se stal problémem správy a řízení.
Spuštění systému Astra se shoduje s intenzivní konkurencí v tomto odvětví. Anthropic, jeden z jeho nejpřímějších konkurentů, také pracuje na systémech schopných provádět autonomní úkoly a OpenAI se snaží odlišit důrazem na efektivitu svého nového nástroje. Souboj mezi hlavními laboratořemi už není jen o lepších reakcích, ale o tom, aby se dalo dělat více věcí bez dohledu.
Toto spuštění jasně ukazuje, že umělá inteligence vstoupila do nové fáze, kdy jsou systémy schopny vykonávat kompletní úkoly bez neustálého dohledu. Potenciální přínosy jsou obrovské, ale stejně tak i výzvy v oblasti bezpečnosti a správy. Rovnováha mezi autonomií a kontrolou bude klíčová pro zajištění toho, aby se GPT-6 Astra nestala spíše problémem než nástrojem.