GPT-5.6: te same wyniki taniej — poradnik OpenAI
4 min czytaniaPoradnik dla rodziny GPT-5.6 podważa założenie, że do każdego zadania trzeba brać najmocniejszy dostępny model i najwyższy poziom rozumowania — i robi to na liczbach z realnych wdrożeń.
Najbardziej wymowny jest przykład z benchmarku BrowseComp, który sprawdza umiejętność wyszukiwania trudno dostępnych faktów. Trzy miesiące wcześniej GPT-5.5 w trybie Extra High uzyskał 84,36 proc. przy koszcie 33,27 dolara. GPT-5.6 Luna w tym samym trybie osiągnął na starcie 84,04 proc. przy koszcie 1,33 dolara.
Drugi wątek to poziom rozumowania. Na teście Agents’ Last Exam GPT-5.6 Sol przy „niskim” rozumowaniu wypadł lepiej niż GPT-5.5 przy „wysokim”, przy niezmienionej reszcie konfiguracji. To odwraca dotychczasową intuicję, że wyższe ustawienie zawsze oznacza lepszy wynik.
Potwierdza to jeden z cytowanych praktyków. „Wrzuciliśmy GPT-5.6 do naszego środowiska i niski poziom rozumowania dał nam najlepsze wyniki. Model wiedział, kiedy danych po prostu nie ma, nie gonił za fałszywymi tropami i dochodził do właściwej odpowiedzi przy mniejszej liczbie tokenów” — powiedział Izzy Miller, szef działu badań AI (AI Research Lead) w firmie Hex.
Osobno opisano zmiany w Responses API. Rozumowanie może być zachowywane między kolejnymi turami modelu, długie rozmowy są kompresowane natywnym mechanizmem kompaktowania, a wiele agentów można orkiestrować równolegle. Do tego doszło programatyczne wywoływanie narzędzi, w którym model pisze kod w JavaScript, żeby filtrować i łączyć dane poza swoim oknem kontekstu.
Efekt tych ustawień pokazano na teście ARC-AGI-3. GPT-5.6 Sol uzyskał tam 13,3 proc. w standardowej konfiguracji, a po włączeniu zachowywania rozumowania i kompaktowania wynik wzrósł do 38,3 proc., przy około sześciokrotnie mniejszej liczbie tokenów wyjściowych. Sam model pozostał ten sam — zmieniła się wyłącznie architektura wokół niego.
Co to znaczy dla Twojej firmy
Jeśli odkładasz automatyzację powtarzalnych zadań, bo rachunki za AI wydawały się nieprzewidywalne, właśnie zmieniła się arytmetyka. Procesy, które wcześniej wymagały najdroższego modelu na każdym etapie, dziś da się obsłużyć tańszymi wariantami przy porównywalnej jakości. Warto jednak pamiętać, że lepszy stosunek ceny do wydajności sam w sobie nie przesądza o kosztach całego wdrożenia.
Dla praktyka
Pierwszy ruch: zejdź z domyślnego poziomu rozumowania i zmierz wynik. W materiale opisano, że startupy raportują istotne oszczędności w wielu przepływach pracy właśnie przez obniżenie poziomu rozumowania z wcześniejszych ustawień domyślnych.
Drugi ruch: przestań traktować model flagowy jako domyślny do wszystkiego. Mniejsze modele z rodziny 5.6 opisano jako dobre dopasowanie do obciążeń o dużym wolumenie, interakcji wrażliwych na opóźnienie i powtarzalnych kroków wewnątrz przepływów agentowych. Przykład z materiału: w firmie legal-tech, która parsuje odręczne notatki przed analizą, do samego wyciągania danych wystarczą Terra albo Luna.
Trzeci ruch dotyczy buforowania promptów. Minimalny czas życia cache’u prompta wydłużono do 30 minut, a punkty podziału cache’u można teraz ustawiać deterministycznie w oknie kontekstu modelu. Warto też nadal używać parametru prompt_cache_key, bo zwiększa szansę, że żądanie trafi na ten sam silnik inferencji co poprzednie z tym samym prefiksem.
Konkretny efekt takiej optymalizacji opisał Lorenzo Gentile, AI Engineer w Ploy: „Dodaliśmy punkty podziału cache’u i klucze specyficzne dla przestrzeni roboczej do współdzielonego promptu o długości 29 000 tokenów i ograniczyliśmy niebuforowane wejście o 28 proc.”.
Czwarty obszar to programatyczne wywoływanie narzędzi. Zamiast kazać modelowi rozumować nad każdym pośrednim wynikiem, przenosisz filtrowanie i agregację do kodu. Alex Wang z zespołu ds. zastosowań AI (Applied AI) w firmie Rogo podał, że w ich ewaluacjach GPT-5.6 z programatycznym wywoływaniem narzędzi utrzymał jakość zgodną z ich rubryką, zużywając o 21 proc. mniej tokenów wejściowych.
Czego nie robić: nie zakładaj, że tryb wieloagentowy zawsze się opłaca. Zachowanie wieloagentowe opisano jako mocno sterowalne, a instruowanie modelu, kiedy ma powoływać podagentów, zwiększa szansę, że zrobi to tylko tam, gdzie dodatkowe zużycie tokenów przełoży się na lepszy wynik.