OpenAI pokazuje własny chip Jalapeño i pełny stos AI
3 min czytaniaTekst podpisany przez Sarah Friar jest w gruncie rzeczy wykładem z ekonomii infrastruktury. Główna teza brzmi: postęp w AI kumuluje się najszybciej wtedy, gdy cały system poprawia się jednocześnie - sprzęt, oprogramowanie serwujące modele, same modele i produkty.
Najbardziej konkretna część to Jalapeño, pierwszy własny układ OpenAI przeznaczony do wnioskowania. Na publicznym teście porównawczym (benchmarku) InferenceX, na modelu GPT-OSS 120B, układ osiągnął wyższą przepustowość szczytową na kilowat i niższe opóźnienie generowania tokenów niż porównywane systemy. Wyniki obejmują także modele DeepSeek R1 oraz Kimi K2.
Sarah Friar pisze o tym wprost: „Mamy teraz działający własny krzem ze zmierzonymi wynikami, a kolejne generacje są już w przygotowaniu”. Własny układ ma dawać OpenAI większą kontrolę nad tym, jak działają modele, oraz nad ekonomią ich serwowania.
Drugi wątek to portfolio dostawców. Obok Microsoftu i Nvidii, opisanych jako fundament wzrostu firmy, wymienione są AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy i SoftBank. Zamysł jest taki, żeby każde obciążenie - trenowanie modeli, masowe wnioskowanie, agenci działający bez przerwy - trafiało do systemu najkorzystniejszego pod względem możliwości i kosztu.
Trzeci wątek dotyczy tego, co z tej wydajności wynika gospodarczo. W materiale pada odwołanie do paradoksu Jevonsa: większa efektywność sprawia, że opłacalnych zastosowań jest coraz więcej, co zwiększa łączne zużycie. Jako przykłady wymieniono indywidualną analizę dla każdego klienta, przegląd każdej umowy i uruchamianie scenariuszy finansowych na żywo.
Co to znaczy dla Twojej firmy
Dla właściciela małej lub średniej firmy to nie jest news o chipie, tylko o cenniku, który dopiero nadejdzie. Jeśli koszt jednego użytecznego wyniku modelu spada, opłacalne staje się to, co dziś jest za drogie - lepsza ekonomika oznacza, że więcej prac zaczyna się finansowo spinać.
Warto jednak rozdzielić deklarację od faktury. Niższy koszt jednostkowy sam w sobie nie przesądza o wysokości rachunku, bo - zgodnie z logiką paradoksu Jevonsa - wraz z lepszą efektywnością rośnie łączne zużycie.
Drugi wniosek dotyczy zależności od jednego dostawcy. Im mocniej zintegrowany stos, tym wygodniejsze wdrożenie, dlatego w materiale mowa jest o wartości utrzymania wiarygodnego wyboru między dostawcami („credible choice across providers”).
Dla praktyka
Zacznij od policzenia, ile realnie kosztuje Cię dziś jedno „udane” zadanie AI, a nie ile kosztuje tysiąc tokenów. Liczba prób potrzebnych do dobrego wyniku, czas pracy człowieka na poprawki i odsetek odrzuconych odpowiedzi mówią o kosztach więcej niż stawka z cennika.
Deklarowane zużycie tokenów wyjściowych to jeden z sygnałów o ekonomice modelu. Jeśli rozliczasz się za tokeny, porównuj modele nie po samej jakości odpowiedzi, lecz po jakości podzielonej przez liczbę wygenerowanych tokenów w Twoich własnych zadaniach.
Praktyczne kroki, które możesz wykonać bez czekania na kolejne zapowiedzi:
- zbuduj własny mały zestaw testowy z typowych zadań Twojej firmy i wzorcowych odpowiedzi, i puszczaj na nim każdy nowy model przed zmianą w produkcji;
- w kodzie integracji trzymaj nazwę modelu w konfiguracji, a nie na sztywno w wywołaniu - podmiana ma być zmianą jednej zmiennej;
- mierz koszty w rozbiciu na procesy, żeby wiedzieć, który zestaw promptów zjada budżet.
Czego nie robić: nie przepisuj architektury pod zapowiedzi sprzętowe. Opublikowane wyniki dotyczą infrastruktury dostawcy i jego własnych pomiarów.
Nie rezygnuj też z testowania alternatyw tylko dlatego, że jeden ekosystem wygodnie się integruje.