OpenAI prezentuje Jalapeño – pierwszy autorski chip AI, który ma uniezależnić firmę od Nvidii
W skrócie
- OpenAI zaprezentowało swój pierwszy autorski procesor AI o nazwie Jalapeño, opracowany we współpracy z firmą Broadcom.
- Nowy układ scalony ma zmniejszyć zależność OpenAI od kart graficznych Nvidii, które dotychczas stanowiły podstawę infrastruktury obliczeniowej firmy.
- Premiera chipa wpisuje się w szerszy trend budowania własnych procesorów przez największe firmy technologiczne, by ograniczyć koszty i uzależnienie od zewnętrznych dostawców sprzętu.
OpenAI ujawniło swój pierwszy autorski procesor przeznaczony do zadań sztucznej inteligencji. Układ nosi nazwę Jalapeño i powstał we współpracy z firmą Broadcom gizmodo.com.
Premiera chipa to jeden z ważniejszych kroków strategicznych w historii firmy – oznacza próbę uniezależnienia się od Nvidii, której karty graficzne od lat napędzają infrastrukturę obliczeniową OpenAI gizmodo.com.
Jalapeño – chip, który ma zmienić zależności sprzętowe OpenAI
Dotychczas OpenAI, podobnie jak większość czołowych laboratoriów AI, opierało swoje systemy treningowe i wnioskowania na procesorach graficznych Nvidii. Układy te są wydajne, ale drogie, a ich dostępność bywa ograniczona – szczególnie w obliczu globalnego popytu na moc obliczeniową do trenowania dużych modeli językowych. Własny chip daje OpenAI większą kontrolę nad kosztami, harmonogramem dostaw i architekturą sprzętową dopasowaną do specyficznych potrzeb firmy gizmodo.com.
Partnerem przy produkcji układu jest Broadcom – jeden z największych na świecie projektantów i dostawców układów scalonych, mający bogate doświadczenie we współpracy z gigantami technologicznymi przy tworzeniu dedykowanych procesorów AI. Broadcom produkuje m.in. niestandardowe układy dla Google (TPU) oraz Meta gizmodo.com.
Kontekst: wyścig o własne krzemy
OpenAI nie jest pierwszą firmą, która zdecydowała się na budowę własnego sprzętu. Google od lat korzysta z autorskich procesorów TPU, Apple projektuje układy z serii M, a Amazon i Microsoft rozwijają własne chipy do zastosowań chmurowych. Posiadanie autorskiego procesora pozwala firmom lepiej optymalizować stosunek wydajności do kosztów, a w dłuższej perspektywie – uniezależnić się od wahań cen i dostępności produktów Nvidii gizmodo.com.
Warto zaznaczyć, że dostępne materiały źródłowe nie zawierają szczegółowych danych technicznych dotyczących architektury Jalapeño, jego wydajności ani planowanej daty szerokiej dostępności. Informacje te mogą zostać ujawnione przez OpenAI w kolejnych komunikatach gizmodo.com.
Szerszy obraz działań sprzętowych OpenAI
Premiera Jalapeño zbiega się z innymi aktywnościami sprzętowymi OpenAI. Firma zapowiedziała na 15 lipca premierę urządzenia wejściowego sygnowanego marką Codex – specjalistycznej klawiatury powstałej we współpracy z producentem Work Louder, opartej na modelu Creator Micro 2 9to5mac.com.
Równolegle trwają prace nad bliżej nieokreślonym projektem sprzętowym realizowanym wspólnie z projektantem Jonym Ivem i jego studiem LoveFrom 9to5mac.com.
Działania te pokazują, że OpenAI konsekwentnie rozszerza swoją obecność poza oprogramowanie i modele językowe, budując własne ekosystemy sprzętowe zarówno po stronie infrastruktury obliczeniowej (chip Jalapeño), jak i urządzeń końcowych dla użytkowników.
Skala ambicji OpenAI w obszarze sprzętu jest tym bardziej znacząca, że firma jednocześnie intensywnie inwestuje w bezpieczeństwo swoich modeli – jak wynika z innych doniesień, do automatycznego testowania odporności modelu GPT-5.6 Sol na ataki przeznaczono ponad 700 000 godzin obliczeniowych równoważnych procesorom A100 securityweek.com.
Własny chip mógłby w przyszłości obniżyć koszty tego rodzaju operacji.
Szerszy kontekst
Jalapeño to układ ASIC, zaprojektowany do jednego wąskiego zastosowania, a nie do ogólnej elastyczności procesora graficznego. Jego celem jest wąskie gardło pamięci, które spowalnia duże modele językowe. Fizyczny projekt łączy dużą sekcję obliczeniową z sześcioma stosami pamięci o wysokiej przepustowości, aby przyspieszyć przepływ danych.
"Na podstawie wczesnych testów Jalapeño będzie efektywnie wykonywać nasze najważniejsze zadania obliczeniowe blisko teoretycznych limitów sprzętu" — powiedział w oświadczeniu Richard Ho, który kieruje działem sprzętowym OpenAI.
Inżynierom firmy zajęło około dziewięciu miesięcy ukończenie projektu układu przed wysłaniem go do tajwańskiego TSMC w celu produkcji, częściowo dzięki wykorzystaniu sztucznej inteligencji do przyspieszenia określonych etapów procesu — podało OpenAI.
Wczesne testy pokazują, że układ zapewnia wydajność na wat znacznie lepszą niż obecne najnowocześniejsze chipy, a dyrektor generalny Broadcomu twierdzi, że koszt na token wnioskowania jest o około 50% niższy w porównaniu z najlepszym sprzętem Nvidii.
"Jalapeño zostało zaprojektowane od podstaw z myślą o wnioskowaniu LLM, z wykorzystaniem szczegółowej wiedzy z naszej bliskiej współpracy z badaczami OpenAI" — powiedział Richard Ho, który kieruje programem sprzętowym OpenAI. "Zoptymalizowaliśmy architekturę pod kątem jąder obliczeniowych, przepływu pamięci, sieci i wzorców obsługi, które mają największe znaczenie dla modeli granicznych AI."
Analiza
Jalapeño to nie tylko kolejny firmowy chip — to przede wszystkim narzędzie do odzyskania kontroli nad kosztami operacyjnymi, które przy skali ChatGPT stają się jednym z największych wyzwań biznesowych OpenAI. Układ jest procesorem ASIC zaprojektowanym wyłącznie do wnioskowania (inference), czyli obsługi zapytań użytkowników, a nie do trenowania modeli. Architektura łączy duży blok obliczeniowy z sześcioma stosami pamięci wysokiej przepustowości, co bezpośrednio uderza w wąskie gardło, jakim jest przepływ danych w dużych modelach językowych (wg forbes.com). Prezes Broadcomu Hock Tan twierdzi, że Jalapeño dorównuje układom Blackwell Nvidii i procesorom TPU Google'a, a wg facebook.com koszt wnioskowania na token ma być o około 50% niższy niż w przypadku najlepszego sprzętu Nvidii — choć ta liczba pochodzi z materiałów promocyjnych i wymaga niezależnej weryfikacji. Projekt zajął inżynierom zaledwie 9 miesięcy, częściowo dzięki wykorzystaniu AI do przyspieszenia samego procesu projektowania, a produkcję przejął TSMC (wg reuters.com). OpenAI planuje wdrożenie układu jeszcze w tym roku, a serwery zbuduje kanadyjski producent Celestica — wyłącznie na potrzeby OpenAI.
Kluczowy kontekst strategiczny jest taki, że OpenAI nie rezygnuje z Nvidii ani AMD — nadal utrzymuje umowy z oboma dostawcami, a także ze startupem Cerebras (wg nytimes.com). Jalapeño pełni więc rolę dźwigni negocjacyjnej: własny chip zmniejsza uzależnienie i wzmacnia pozycję przy kolejnych kontraktach zakupowych. Broadcom z kolei umacnia swoją rolę pośrednika — projektuje niestandardowe układy dla Google, Meta i teraz OpenAI, stając się de facto bramkarzem całej branży (wg forbes.com). Firma zapowiedziała wielogeneracyjny plan rozwoju sprzętu, co oznacza, że Jalapeño to dopiero pierwszy krok w budowie własnego stosu sprzętowego.
Szerszy obraz ambicji OpenAI w obszarze infrastruktury jest imponujący: firma deklaruje docelowe zużycie energii przez własne chipy na poziomie 10 gigawatów — ilości wystarczającej do zasilenia milionów gospodarstw domowych (wg nytimes.com). W połączeniu z pracami nad urządzeniami końcowymi (klawiatura Codex, projekt z Jonym Ivem) widać konsekwentną transformację OpenAI z laboratorium badawczego w zintegrowanego pionowo gracza technologicznego, który chce kontrolować zarówno krzem, jak i interfejs użytkownika. Własny chip do wnioskowania może też w przyszłości obniżyć koszty intensywnych operacji bezpieczeństwa — takich jak testowanie odporności modeli na ataki, pochłaniające setki tysięcy godzin obliczeniowych.