在科學計算領域，關于并行編程的討論集中于如何自定義算法以有效利用硬件。以下幾個與高性能系統有關的因素使討論趨于白熱化：多核和超多核系統的引入、全局處理單元（GPU）等可編程設備的出現、現成商用（COTS）計算機集群的日益普及。

直至最近，尚無商業高級工具可以支持針對高性能系統的科學計算應用程序的開發。并行編程是一門深奧的技術，只有那些旨在通過利用自定義設置和低級庫以及通過為特定硬件調優應用程序，來實現最高性能的專家才會應用。在 2007 年的一份簡報中，IDC 強調了擴展到多個節點的難度，原因在于缺乏恰當的編程環境。1如今，高性能系統日益普及，因而急需使這些系統在整體上更具可編程性。

為此，并行編程解決方案的關注焦點必須超越自定義算法和性能。并行編程工具的生態系統正在得以發展。它們協助工程師設計、開發和調試并行應用程序，以及充分利用快速發展演變的硬件的能力。為了取得成功，這些在過去幾年中已經成熟了很多的新生態系統需要：

1. 擴展開發串行應用程序時所用標準工具的功能性，以支持并行編程

2. 支持應用程序的可伸縮性，從簡單的多核桌面到復雜的集群和網格配置，無需修改應用程序代碼

3. 提供健壯的集成開發環境（IDE）

4. 以批處理和交互式模式執行應用程序

語言支持

在選擇編程語言時，適當的并行編程支持是一項關鍵考慮事項。這種支持的具體范圍可能有所不同，從微妙的隱式支持到極為顯式的語言構造。隱式方法包括由系統推動的自動并行化，無需修改現有程序。顯式方法要求用戶聲明程序，使該程序以并行方式運行。隱式并行化依然是一個活躍的研究領域，當前尚無全面的解決方案，因而在可以預見的未來，一定程度的語言顯性是必不可少的。2 理想情況下，語言應直接支持高級并行語言構造，用戶只需進行最少的編程聲明即可獲得最優的性能。

傳統并行編程解決方案主要關注顯式方法，這種方法通常使用消息傳遞接口（MPI）命令。MPI 是并行程序中點對點通信的行業標準協議。使用 MPI 要求程序員處理低級語言構造，這是一個巨大的障礙。

某些軟件企業正著手應對并行編程支持的需求。例如，. NET Framework 的 Microsoft Parallel Extensions 為使用任何 .NET 語言編寫的應用程序提供了并發語言構造。這些構造抽象了較低層面的編程細節。

MathWorks 并行計算工具允許用戶跨隱式/顯式范疇編程。例如，編寫計算密集型應用程序的 MATLAB 用戶可能將 FOR 循環聲明為 PARFOR 循環。在單處理器系統中執行時，PARFOR 循環的行為與傳統的 FOR 循環完全相同。但在多核機器或集群上執行時，PARFOR 將透明、有效地利用如今可用的其他計算資源。此外，編寫數據密集型應用程序的用戶可將數組聲明為分布式數組，跨多個內核或處理器分配。分布式數組使用戶能夠開發并行應用程序，而無需自行關注消息傳遞的低層細節。在理想的隱式編程中，并行化的應用程序無需修改任何代碼。MathWorks 正在為此理想而努力，逐漸在工具包中為并行計算添加直接支持，不再需要修改使用這些工具的應用程序。

可伸縮性

配有多核處理器的桌面計算機和 以GPU為基礎的通用計算（即GPGPU，如 NVIDIA 出品的 CUDA Toolkit）已經問世。而為此類系統編程往往需要在單獨一臺機器上使用線程模型，許多用戶需要超越單獨一臺機器的能力，擴展到計算機集群。此時就需要基于進程的模型。用戶應用程序無需關注線程或進程，而是應該盡可能有效地運行。無論如何，可伸縮性仍然是一個有待解決的難題

在某些情況下，用戶需要在具有可變容量的資源上運行應用程序?？勺冑Y源的示例之一就是 Amazon Elastic Compute Cloud (EC2)，它使用戶能夠完全控制在 Amazon 的計算環境中運行的資源。這種方法的障礙包括安裝的困難性以及在外部系統上運行時對知識產權的掌控不足。

程序員需要工具來使之能夠無縫地將應用程序從桌面擴展到集群和網格，同時無需修改代碼。MathWorks 并行計算工具提供的配置框架就是為并行應用程序解決可伸縮性問題的典范之一。配置框架允許用戶維護指定的設置，例如調度程序類型和集群使用策略。因而，用戶只需輕松更改配置名即可在硬件資源間切換。

集成開發環境（IDE）

IDE 需要支持基于處理器和基于線程的解決方案，同時協助新手和經驗豐富的程序員開發應用程序。具體來說，IDE 使程序員能夠調試處理大型數據集并且在桌面計算機或大型集群上運行的并行應用程序。

Microsoft 在其 Visual Studio 開發系統中做出了很多努力以應對此需求。Visual Studio 2005 可執行并行應用程序，其調試器支持進程級和線程級斷點與步進。而另外一種產品——由 TotalView Technologies 提供的 TotalView Debugger 支持多種平臺和編程語言，它能夠擴展到數千線程或進程，并提供了探索大型和復雜數據集的工具。

批處理和交互式執行模式

工具應支持批處理和交互式工作流。如果能夠以交互的方式開發并行應用程序，程序員的工作效率將大幅度提高。然而，大多數高性能計算（HPC）中心都支持批處理工作流，用戶編寫應用程序、將其提交到集群以便處理，并等待結果。其他一些解決方案則基于 Web，如來自 Purdue University 的 nanoHUB.org 以及 Sun Microsystems 提供的 network.com，它們關注以交互式方法隨需應變地訪問計算資源。

MathWorks 并行計算工具同時為兩類工作流提供支持。它們擴展了 MATLAB，允許程序員使用熟悉的 MATLAB 環境，以交互的方式開發并行應用程序。程序員還可使用批處理環境，這為他們提供了脫機執行模式。

結束

總而言之，并行應用程序開發中最關鍵的需求就是語言構造、可伸縮特性、開發環境和工作流模式。某些廠商提供的解決方案允許科學計算用戶更有效地為并行系統構建應用程序，就如同構建傳統串行程序一樣。無論如何，理想工具生態系統中依然存在空白。諸如效用計算和網格可用性等正在展現出來的趨勢會為這一迅速變化的領域帶來更多更復雜的需求。

STM32/STM8

意法半導體/ST/STM