Przekaż działowi zakupów użyteczną specyfikację
Możesz znać model, który chcesz uruchomić, nie mając jeszcze finalnej konfiguracji serwera. Pomagamy zidentyfikować wymagania sprzętowe i pytania, które należy rozwiązać przed zapytaniem o opcje dostaw.
Zakres planowania może obejmować brief konfiguracyjny, opcje sprzętowe oraz listę zależności lokalizacyjnych i integracyjnych. Wymagany rezultat uzgadniamy na początku dyskusji.
- Trening i fine-tuning
- Analiza wymagań modelu i zbiorów danych, pamięci akceleratorów, transferu danych i storage checkpointów.
- Inferencja
- Definicja obciążenia serwującego: rozmiar modelu, precyzja, współbieżność, docelowe opóźnienie i przewidywane godziny pracy.
- Istniejące środowiska
- Uwzględnienie dostępnej przestrzeni rack, zasilania, chłodzenia, interfejsów sieciowych, storage i już używanego stosu oprogramowania.