FPGA-basierter Beschleuniger für neuronale Netzwerke übertrifft GPUs

Es wurde als GoogLeNet Inception-v1 CNN mit einer 8-Bit-Ganzzahlauflösung gezeigt. Er erreichte 16,8 Terra-Operationen pro Sekunde (TOPS) und kann pro Sekunde über 5.300 Bilder pro Sekunde ableiten Xilinx Virtex UltraScale + XCVU9P-3-FPGA. Der modulare, skalierbare Ansatz eignet sich für Objekterkennungs- und Videoverarbeitungsanwendungen am Rand und in der Cloud, erläutert Fawcett, sowie für Inferenz in Rechenzentren und intelligenten Kameras.

Die DPU kann so konfiguriert werden, dass sie eine optimale Rechenleistung für neuronale Netztopologien in maschinellen Lernanwendungen bietet, wobei die parallele DSP-Architektur, der verteilte Speicher und die Rekonfigurierbarkeit der Logik und die Konnektivität für verschiedene Algorithmen verwendet werden.

Die DPU erreicht eine um mehr als 50% höhere Leistung als konkurrierende CNNs und übertrifft GPUs für ein gegebenes Leistungs- oder Kostenbudget, behauptet das Unternehmen. "Die FPGA ist eine weltweit führende Plattform und Architektur, die sehr flexibel für die Zukunftssicherung ist und GPUs mit geringerer Latenz in der KI übertreffen kann", fügte Fawcett hinzu.

Das Unternehmen hat außerdem angekündigt, ein DPhil (PhD0 an der Oxford University) zu unterstützen, um Techniken zur Implementierung von Deep-Learning-Beschleunigung für fpgas zu studieren.