異構并行計算包含兩個子概念：異構和并行。

1異構是指異構并行計算需要同時處理多個不同架構的計算平臺的問題。
2并行是指異構并行計算主要采用并行的編程方式，所有的處理器都是多核向量處理器，要發揮多種處理器混合平臺的性能必須要采用并行的編程方式。

異構并行計算的出現緩解了處理器發展面臨的兩個主要問題：性能問題和功耗問題。

1由于不同的硬件適合處理不同的計算問題。合理地將不同類型的計算分發到異構平臺的不同硬件上能夠獲得更好的計算性能。
2由于采用為特定應用優化的處理器。處理器設計可以依據應用的具體 特點來優化，故功耗方面也會獲得更好的結果。

在性能和功耗都比較重要的情況下，如何衡量處理器的性能就變得復雜起來，對于計算性能至上的應用來說，性能更為重要。而對于功耗有特殊要求的應用來說，性能功耗比（每瓦功耗能夠支撐的處理器計算能力）可能更為合適。