Kupiłeś komputer Copilot+ albo laptop z napisem AI PC na pudełku, a w środku jest jednostka NPU o mocy 40, 50, 60 albo 80 TOPS. Otwierasz Menedżer zadań, żeby zobaczyć ją przy pracy. Stoi na 0%. Otwierasz jeszcze raz w trakcie wideorozmowy, gdy odpowiada czat, gdy generuje się obraz. Dalej 0%.
Nasuwa się wniosek, że coś jest zepsute, i prawie zawsze jest on błędny. Bezczynne NPU to normalny stan NPU. To nie jest ogólny akcelerator, na który Windows rozkłada pracę tak, jak równoważy rdzenie procesora. Uruchamia modele przekonwertowane i skompilowane specjalnie pod niego, więc program użyje twojego NPU tylko wtedy, gdy ktoś dostarczył model zbudowany pod ten konkretny sprzęt. Większość tego nie zrobiła.
Ten poradnik pokazuje, gdzie widać aktywność, które części Windows faktycznie dziś z niej korzystają, trzy powody, dla których licznik stoi na zerze, i jak nagrać ślad, który odpowiada na pytanie, zamiast zgadywać z wykresu odświeżanego raz na sekundę.
Gdzie naprawdę widać aktywność NPU
Są trzy miejsca, a dwa z nich są wyłączone, dopóki sam ich nie włączysz.
Wykres. Menedżer zadań, zakładka Wydajność. Na komputerze z NPU jest tam pozycja obok procesora, pamięci, dysku, Wi-Fi i karty graficznej, a po kliknięciu dostajesz wykorzystanie, wersję sterownika i lokalizację sprzętu, czyli ten sam panel co dla GPU.
Kolumny per proces. Tego prawie nikt nie znajduje. W zakładkach Procesy, Użytkownicy i Szczegóły są kolumny NPU i Aparat NPU, domyślnie ukryte. Kliknij prawym przyciskiem nagłówek dowolnej kolumny, wybierz Wybierz kolumny i zaznacz je. Kolumna NPU pokazuje udział aktywności na proces, a Aparat NPU nazywa silnik wykonawczy wewnątrz NPU, po czym rozróżnisz dwa obciążenia na tym samym urządzeniu.
Kolumny pamięci. Zakładka Szczegóły ma też Dedykowaną pamięć NPU i Pamięć współdzieloną NPU. W większości laptopów konsumenckich NPU nie ma własnej pamięci i pożycza RAM systemowy, więc liczba pojawia się przy pamięci współdzielonej. To będzie ważne, gdy ktoś powie ci, że układ 40 TOPS uruchomi duży model językowy.
Co dziś używa NPU
Microsoft uzależnia konkretny zestaw funkcji Windows od NPU o mocy powyżej 40 TOPS, i to jest definicja komputera Copilot+, a nie hasło marketingowe. Funkcje, które na takich maszynach trafiają na NPU, to między innymi Efekty Studia Windows, napisy na żywo z tłumaczeniem, Recall, Click to Do, Cocreator w programie Paint i super rozdzielczość w Zdjęciach.
Poza samym Windowsem lista jest krótka i warto ją znać, bo mówi, kiedy w ogóle patrzeć:
- Wideorozmowy. Rozmycie tła, kadrowanie, kontakt wzrokowy i redukcja szumów przez Efekty Studia Windows to najpewniejszy sposób, żeby licznik ruszył. Zacznij rozmowę, włącz efekty i patrz na wykres.
- Przeglądarki. Microsoft Edge używa NPU do części pracy lokalnej, na przykład do rozpoznawania tekstu w plikach PDF.
- Aplikacje z własnym modelem. Garść narzędzi kreatywnych i do wideokonferencji ma wersje pod NPU. Prawie cała reszta liczy swoje AI na procesorze, karcie graficznej albo czyimś serwerze.
Zwróć uwagę, czego na tej liście nie ma. Czat w karcie przeglądarki to zapytanie sieciowe. Chmurowy generator obrazów to zapytanie sieciowe. Żadne z nich nigdy nie dotknie twojego NPU, niezależnie od tego, ile ma TOPS.
Trzy powody odczytu zero
Gdy spodziewałeś się pracy, a masz płaską linię, to jeden z tych trzech powodów, w tej kolejności prawdopodobieństwa.
1. Nic o to nie poprosiło. Przypadek domyślny i nie jest to usterka. Windows nie przenosi dowolnej pracy na NPU; wybiera aplikacja.
2. Model był w złym formacie i zadanie wziął ktoś inny. Modele są trenowane i rozprowadzane w formatach zmiennoprzecinkowych, na przykład FP32, a wiele NPU liczy na liczbach całkowitych, na przykład INT8, więc model trzeba najpierw skwantyzować i skompilować pod ten sprzęt. Gdy brakuje odpowiedniego dostawcy wykonania, Windows ML przechodzi na GPU albo CPU i praca kończy się normalnie. Nic nie zgłasza błędu. Nic ci nie mówi. Wynik jest identyczny, pobór mocy nie.
3. Praca była prawdziwa, ale za krótka, żeby ją zobaczyć. Menedżer zadań próbkuje mniej więcej raz na sekundę. Pojedyncza klasyfikacja obrazu albo sprawdzenie słowa aktywującego trwa kilka milisekund. Dwadzieścia takich w ciągu minuty to prawdziwe użycie NPU, które próbnik sekundowy narysuje jako zero przez większość tej minuty.
Jak to udowodnić śladem
Windows ma do tego gotowy profil śledzenia zdarzeń. Windows Performance Recorder dostał profil Neural Processing, który zapisuje interakcje modelu sterownika z NPU, więc dostajesz każde zgłoszenie pracy wraz z procesem, który je wysłał, zamiast próbkowanego procenta.
Z wiersza poleceń uruchomionego jako administrator:
wpr -start NeuralProcessing -start CPU
:: teraz odtwórz sytuację: rozmowa z Efektami Studia, uruchomienie modelu, użycie funkcji
wpr -stop npu.etl -compress
Otwórz npu.etl w Windows Performance Analyzer, darmowym programie z Microsoft Store, i
poszukaj pozycji Neural Processing, a w niej NPU Utilization. Zobaczysz, które procesy zgłosiły
pracę, kiedy i z jakich miejsc w kodzie. Jeśli ślad jest pusty, sprawa jest rozstrzygnięta: nic nie
poprosiło NPU o pracę w tym oknie czasu.
Oba narzędzia pochodzą z Windows Performance Toolkit, części Windows ADK. To ten sam instrument, który Microsoft poleca własnym deweloperom, co ma znaczenie: dostajesz tę samą odpowiedź, którą dostaliby ludzie od sterownika.
Co z tego wynika przy zakupie
Wynikają trzy rzeczy i są warte więcej niż jakiekolwiek porównanie TOPS.
NPU to przede wszystkim funkcja baterii i temperatur. Wygrywa tam, gdzie trzeba uruchamiać mały model bez przerwy przy niskim poborze mocy, zostawiając procesor i kartę graficzną wolne i ciche: rozmycie tła przez całe spotkanie, napisy przez cały wykład. To realna korzyść i nie jest to korzyść, którą sugeruje marketing.
To nie jest zamiennik pamięci karty graficznej. NPU w laptopie zwykle nie ma własnej pamięci i pożycza RAM systemowy. TOPS opisuje tempo działań arytmetycznych, a lokalny model językowy ogranicza to, jak szybko da się czytać wagi, więc duży model nie staje się praktyczny dlatego, że układ na pudełku dostał większą liczbę. Stronę pamięci opisuje nasz poradnik ile naprawdę potrzeba VRAM.
Funkcje objęte bramką potrzebują więcej niż układu. Próg Copilot+ to NPU powyżej 40 TOPS oraz 16 GB RAM. Maszyna ze sprawnym NPU i 8 GB nie kwalifikuje się i żadna aktualizacja tego nie zmieni.
Jak to wygląda po stronie PC Workmana
Wprost: PC Workman nie czyta dziś liczników NPU. Czyta procesor, pamięć, dyski, temperatury, pobór mocy i zachowanie procesów, a jego asystent działa lokalnie, bez NPU i bez klucza do chmury. Telemetria NPU to kandydat na roadmapę, a nie funkcja, którą mogę deklarować. Narzędzie monitorujące, które wymyśliłoby liczbę dla sprzętu, którego nie czyta, było warte mniej niż brak liczby.
Pomaga za to w części, którą da się dziś zmierzyć: czy praca, o której myślisz, że jest na NPU, nie jest przypadkiem opłacana przez twój procesor, i ile to kosztuje w cieple i baterii. Jeśli wentylatory przyspieszają w trakcie wideorozmowy na maszynie z NPU 40 TOPS, coś liczy się w złym miejscu, a to widać w licznikach, które PC Workman już czyta.
Następne pytanie: czego lokalny model naprawdę potrzebuje od twojego komputera? Zobacz pozostałe poradniki →
Źródła: Microsoft, Copilot+ PCs developer guide (wymóg 40+ TOPS, podgląd NPU w Menedżerze zadań, kwantyzacja do formatów całkowitych, profil WPR Neural Processing); Windows ML execution providers (wybór dostawcy wykonania i tryb awaryjny); Windows Performance Toolkit v11 (analiza NPU w WPA).