NPU (Neural Processing Unit)

Eine NPU (Neural Processing Unit) ist ein dedizierter Prozessor oder eine Verarbeitungseinheit auf einem größeren SoC, der speziell für die Beschleunigung von neuronalen Netzwerkoperationen und KI-Aufgaben entwickelt wurde. Im Gegensatz zu Allzweck-CPUs und GPUs sind NPUs für datengesteuertes paralleles Rechnen optimiert, wodurch sie bei der Verarbeitung großer Multimedia-Datenmengen wie Videos und Bildern sowie bei der Verarbeitung von Daten für neuronale Netzwerke äußerst effizient sind. Sie eignen sich besonders für KI-bezogene Aufgaben wie Spracherkennung, Hintergrundunschärfe in Videoanrufen und Foto- oder Videobearbeitungsprozesse wie die Objekterkennung.

NPUs sind integrierte Schaltkreise, unterscheiden sich jedoch von Einzweck-ASICs (Application-Specific Integrated Circuits, anwendungsspezifische integrierte Schaltkreise). Während ASICs für einen einzigen Zweck (z. B. das Schürfen von Bitcoins) entwickelt wurden, bieten NPUs mehr Komplexität und Flexibilität und werden so den vielfältigen Anforderungen des Netzwerkcomputings gerecht. Dies erreichen sie durch spezielle Software- oder Hardware-Programmierung, die auf die besonderen Anforderungen von Berechnungen in neuronalen Netzen zugeschnitten ist.

Bei den meisten Geräten für Verbraucher wird die NPU tatsächlich in die Haupt-CPU integriert, wie beispielsweise bei den Intel Core- und Core Ultra-Serien oder den neuen AMD Ryzen 8040-Serie-Laptop-Prozessoren. In größeren Rechenzentren oder spezialisierteren industriellen Betrieben kann die NPU jedoch ein völlig separater Prozessor auf der Hauptplatine sein, der von anderen Verarbeitungseinheiten getrennt ist.

NPU vs. GPU

Obwohl viele KI- und Machine-Learning-Workloads auf GPUs ausgeführt werden, gibt es einen wichtigen Unterschied zwischen GPU und NPU.

GPUs sind zwar für ihre parallelen Rechenkapazitäten bekannt, aber nicht alle GPUs sind über die Grafikverarbeitung hinaus dafür geeignet, da sie spezielle integrierte Schaltkreise benötigen, um Machine-Learning-Workloads effektiv zu verarbeiten. Die beliebtesten Nvidia-GPUs verfügen über diese Schaltkreise in Form von Tensor-Kernen, aber auch AMD und Intel haben diese Schaltkreise in ihre GPUs integriert, hauptsächlich für die Verarbeitung von Auflösungs-Upscaling-Operationen – eine sehr häufige KI-Workload.

NPUs hingegen nehmen diese Schaltkreise einfach aus einer GPU (die eine Reihe anderer Operationen ausführt) heraus und machen sie zu einer eigenständigen Einheit. Dadurch können sie KI-bezogene Aufgaben bei geringerem Stromverbrauch effizienter verarbeiten, was sie ideal für Laptops macht, aber auch ihr Potenzial für anspruchsvolle Workloads einschränkt, für deren Ausführung wahrscheinlich weiterhin eine GPU erforderlich ist.

Die Rolle von NPUs in verschiedenen Systemen

NPUs wurden entwickelt, um die Funktionen von CPUs und GPUs zu ergänzen. Während CPUs eine Vielzahl von Aufgaben übernehmen und GPUs sich durch die Darstellung detaillierter Grafiken auszeichnen, sind NPUs auf die schnelle Ausführung KI-gesteuerter Aufgaben spezialisiert. Diese Spezialisierung stellt sicher, dass kein einzelner Prozessor überlastet wird und ein reibungsloser Betrieb im gesamten System gewährleistet ist.

Bei Videoanrufen kann eine NPU beispielsweise die Aufgabe des Unschärfens des Hintergrunds effizient verwalten, sodass die GPU sich auf intensivere Aufgaben konzentrieren kann. Ebenso können NPUs bei der Foto- oder Videobearbeitung die Objekterkennung und andere KI-bezogene Prozesse übernehmen und so die Gesamteffizienz des Arbeitsablaufs verbessern.

NPUs in PCs

NPUs werden im Bereich der PCs und Laptops immer häufiger eingesetzt. Die Core Ultra-Prozessoren von Intel und die Snapdragon X Elite-Prozessoren von Qualcomm sind Beispiele dafür, dass NPUs neben CPUs und GPUs integriert sind. Diese NPUs verarbeiten KI-Aufgaben schneller, wodurch die anderen Prozessoren entlastet werden und der Computer effizienter arbeitet.

Die NPU von Qualcomm kann beispielsweise beeindruckende 75 Tera-Operationen pro Sekunde ausführen und zeigt damit ihre Fähigkeit, generative KI-Bilder zu verarbeiten. Die Integration von NPUs in die neueste Gerätegeneration bedeutet, dass die Branche gut gerüstet ist, um die neuesten KI-Technologien zu nutzen und den Anwendern mehr KI-bezogene Annehmlichkeiten und effiziente Prozesse zu bieten.

NPUs in Mobilgeräten

In Smartphones spielen NPUs eine entscheidende Rolle bei KI-Berechnungen und -Anwendungen. Huawei war eines der ersten Unternehmen, das NPUs in Smartphone-CPUs integriert hat, wodurch die KI-Rechenleistung und Energieeffizienz im Vergleich zu herkömmlichen CPUs und GPUs erheblich verbessert wurden. Die mobilen Bionic-Chips von Apple nutzen NPUs für Aufgaben wie Videostabilisierung, Fotokorrektur und vieles mehr.

NPUs verbessern auch die Fähigkeiten von Geräten bei der Erkennung von Inhalten in Fotos, der Anpassung der Kameraeinstellungen für optimale Aufnahmen, der Erzeugung von Bokeh-Effekten in Selfies und der Unterstützung von KI-gesteuerten Funktionen wie Bixby Vision auf Samsung Galaxy-Geräten.

NPUs in anderen Geräten

NPUs werden zunehmend in einer Reihe von Geräten beliebt, die traditionell nicht über fortschrittliche Prozessoren verfügen, wie Fernseher und Kameras. Da jedoch jedes elektronische Gerät immer mehr zu einem eigenständigen Computer wird, finden NPUs ihren Weg in alle Arten von Geräten im Haushalt.

In Fernsehern werden NPUs beispielsweise verwendet, um die Auflösung älterer Inhalte auf die modernere 4K-Auflösung zu verbessern. In Kameras können NPUs zur Bildstabilisierung und Qualitätsverbesserung sowie für Autofokus, Gesichtserkennung und vieles mehr eingesetzt werden.

Auch Smart-Home-Geräte nutzen NPUs, um maschinelles Lernen auf Edge-Geräten für die Spracherkennung oder Sicherheitsinformationen zu verarbeiten, die viele Verbraucher aufgrund ihrer Sensibilität nicht zur Verarbeitung an einen Cloud-Datenserver senden möchten.

Die Zukunft der NPUs

Je weiter wir uns in eine zunehmend KI-gesteuerte Zukunft bewegen, desto schneller wird das Wachstum der NPUs voranschreiten. Da große Akteure wie Intel, AMD und Qualcomm NPUs in ihre neuesten Prozessoren integrieren, treten wir in eine Ära ein, in der die KI-Verarbeitung immer rationalisierter, effizienter und viel allgegenwärtiger wird.

Mit NPUs ausgestattete Geräte werden KI-Aufgaben schneller ausführen können, was zu kürzeren Datenverarbeitungszeiten und mehr Komfort für die Nutzer führt. Ob durch schnellere Videobearbeitung, fortschrittliche KI-Filter in Anwendungen oder die effiziente Verarbeitung von KI-Aufgaben in Smartphones – NPUs ebnen den Weg für ein intelligenteres und effizienteres Computererlebnis.

Letztendlich stellen NPUs einen bedeutenden Fortschritt in der Welt der KI und des maschinellen Lernens auf Verbraucherebene dar. Durch ihre Spezialisierung auf neuronale Netzwerkoperationen und KI-Aufgaben entlasten NPUs herkömmliche CPUs und GPUs. Dies führt insgesamt zu effizienteren Computersystemen, bietet Entwicklern aber auch ein fertiges Werkzeug, das sie in neuen Arten von KI-gesteuerter Software wie Live-Videobearbeitung oder Dokumentenerstellung einsetzen können. Im Wesentlichen gilt: Unabhängig davon, welche Aufgabe Sie auf Ihrem PC oder Mobilgerät ausführen, werden NPUs wahrscheinlich irgendwann eine Rolle bei der Verarbeitung dieser Aufgaben spielen.

Stand: 30.10.2025