EIE is targeting extremely latency-

EIE is targeting extremely latency-focused applications, which require real-time inference. Since assembling a batch adds significant amounts of latency, we consider the case when batch size = 1 when benchmarking the performance and energy efficiency with CPU and GPU as shown in Figure 6. As a comparison, we also provided the result for batch size = 64 in Table IV. EIE outperforms most of the platforms and is comparable to desktop GPU in the batching case.

結果 (繁體中文) 1:

EIE的目標是極其潛伏期為重點的應用，這需要實時推理。由於組裝批次增加了延遲的顯著的量，我們認為當批量大小= 1基準如如圖6所示。作為比較用的CPU和GPU的性能和能量EF法fi ciency時，我們還提供了用於批量大小= 64的結果的情況下在表IV中。EIE優於大部分的平台和相當於在配料情況桌面GPU。

結果 (繁體中文) 2:

EIE 面向極度延遲的應用程式，這些應用程式需要即時推理。由於組裝批次處理會增加大量延遲，因此，當使用 CPU 和 GPU 對性能和能效進行基準測試時，我們會考慮批次處理大小 = 1 的情況，如圖 6 所示。作為比較，我們還在表 IV 中提供了批次處理大小 = 64 的結果。EIE 優於大多數平臺，在批次處理案例中可與桌面 GPU 相媲美。

結果 (繁體中文) 3:

EIE的目標是非常關注延遲的應用程序，這些應用程序需要實时推理。由於組裝一個批會新增大量的延遲，囙此我們在使用CPU和GPU對效能和能源效率進行基準測試時，考慮批大小為1的情况，如圖6所示。作為比較，我們還提供了錶IV中的批大小=64的結果。EIE優於大多數平臺，在批次處理情况下與案頭GPU相當。