近年來，使用GPU(通用圖形處理器)進行科學計算已變得十分普遍。GPU最初設計用于圖像密集型視頻游戲產業中的圖形渲染繪制，但近年來GPU不斷發展，現可用于更廣泛的用途。研究人員可對其進行程序設計以執行計算，用于數據分析、數據可視化，以及金融和生物建模等應用。

    MATLAB的GPU支持為活躍于許多學科的大量研究人員(不一定是CUDA編程專家)提供了一種加速科學計算的新方法。考慮到MATLAB主要是用于科學計算和工程計算，因此MATLAB最新提供的GPU支持是一種邏輯開發，以便讓非編程專家同樣能夠使用此技術。

    有了MATLAB的這些新功能之后，用戶便可以利用GPU來實現其應用程序的顯著提速，而無需進行低級的C語言程序設計。這一最新技術發展提供了現有方法以外的其他方法來加速特定硬件上的MATLAB算法執行。

使用MATLAB進行GPU程序設計

    MATLAB中的CUDA支持為GPU加速后的MATLAB操作提供了基礎，并實現了現有CUDA內核與MATLAB應用程序的集成。用戶現在可以使用不同的程序設計技術來實現易用性與執行優化兩者的適當平衡(參考文獻1)。

    MATLAB支持啟用了CUDA的NVIDIA GPU(具有1.3或更高版本計算功能)，例如Tesla 10系列和基于Fermi架構的尖端Tesla 20系列。GPU 1.3版提供的雙浮點精度全面支持是保證大多數科學計算不因速度權衡而損失精度(loss Svb)的先決條件，并且可以將代碼更改的需要減到最低。

    在MATLAB中實現GPU計算的三種方法加速了整個應用程序的進度，并實現了所需的建模復雜度與執行控制間的權衡方案。

在GPU上執行重載的MATLAB函數

    最簡單的編程模式包括對GPU(GPU數組)上已加載數據的MATLAB函數直接調用。用戶可以決定何時在MATLAB工作區和GPU之間移動數據或創建存儲在GPU內存中的數據，以盡可能減少主機與設備間數據傳輸的開銷。在第一個版本中，已重載了超過100個MATLAB函數(包括FFT和矩陣除法)，以在GPU數組中無縫執行。用戶可在同一函數調用中將在GPU上加載的數據和MATLAB工作區中的數據混合，以實現最優的靈活性與易用性。

     這種方法提供了一個簡單的接口，讓用戶可以在GPU上直接執行標準函數，從而獲得性能提升，而無需花費任何時間開發專門的代碼。

MATLAB代碼示例1，在GPU上執行矩陣除法

     當處理存儲在GPU內存中的數據時，會重載 \ 操作符以便在GPU上運行。在這種情況下，用戶不得對函數進行任何更改，只能指定何時從GPU內存移動和檢索數據，這兩種操作分別通過gpuArray和gather命令來完成。

在MATLAB中定義GPU內核

     作為第二種編程模式，用戶可以定義MATLAB函數，執行要對GPU上的向量化數據執行的標量算術運算。使用這種方法，用戶可以擴展和自定義在GPU上執行的函數集，以構建復雜應用程序并實現性能加速，因為需要進行的內核調用和數據傳輸比以前少。

     這種編程模式允許用算術方法定義要在GPU上執行的復雜內核，只需使用MATLAB語言即可。使用這種方法，可在GPU上執行復雜的算術運算，充分利用數據并行化并最小化與內核調用和數據傳輸有關的開銷。

MATLAB代碼示例2，將MATLAB函數定義為GPU內核

    同樣，在這種情況下，用戶不得對函數進行任何更改，只能指定何時從GPU內存移動和檢索數據以及使用arrayfun命令調用函數。TaylorFun函數會在A_gpu矢量的各個元素上執行，充分利用數據并行化。

直接從MATLAB調用CUDA代碼

     為了進一步擴展在GPU上執行的集合函數，可以從CUDA或PTX代碼中創建一個MATLAB可調用的GPU內核。第三種編程模式可以讓用戶輕松地從MATLAB直接調用已有CUDA代碼，使非CUDA專家同樣能夠進行代碼重用。

    這種編程模式同樣有助于CUDA開發人員的工作，因為它提供了直接從MATLAB進行CUDA代碼測試的整體解決方案，無需使用GPU在環配置進行基于文件的數據交換。此外，用戶還可以直接從MATLAB試用有關線程塊大小和共享內存的參數。

MATLAB代碼示例3，直接從MATLAB調用CUDA代碼

    對于精通CUDA的程序員而言，這種方法可實現輕松混合串行與高度并行代碼的可能，從而獲得最優的性能，而無需開發整個應用程序的C語言代碼。

     在編譯代碼并生成ptx文件之后，用戶可向MATLAB聲明該內核，設置有關線程塊大小的屬性，并直接對數據調用內核。同樣，在這種情況下，用戶可以決定何時在主機內存與設備之間移動數據，以盡可能減少數據傳輸的開銷。

GPU和CPU間的執行權衡

    相比多核處理器，GPU可顯著地加速高度并行操作的執行。實踐證明，GPU的大規模并行體系結構有助于從金融計算到分子動力學等許多領域的密集科學計算。通過將計算密集型內核映射到GPU并在CPU上運行應用程序的順序部分，可以將整體執行加速5倍到超過100倍(參考文獻2)。

     MATLAB GPU支持可以通過無縫方式為大規模并行復雜應用程序提速，而不損失精度。通過支持1.3或更高版本的CUDA，MathWorks解決方案可完全實現GPU上的雙浮點精度計算，從而保證不因任何速度權衡而損失精度。

      可使用GPU實現的加速主要取決于主機內存和GPU設備間數據傳輸的開銷。計算密集型并行應用程序可減少數據傳輸量，將能體驗更快的程序執行。同樣，以上考慮明顯適用于在GPU上執行的MATLAB應用程序(參見圖 1)。

圖1，使用雙浮點精度實現矩陣除法的計算加速見MATLAB代碼示例1所述。注意：對于小型矩陣而言，設備與主機間的數據傳輸開銷是最主要的，因此可能不會發生任何加速，或者GPU上的程序執行甚至可能會比在CPU上的執行還要慢

     根據計算復雜度和并行程度的不同，在所有GPU和CPU上執行復雜應用程序時，可以體驗到最佳的加速效果。這視程序員的經驗和水平而異，要看他是否能確定最佳的執行平臺。基于這些原因，很難估計使用GPU可獲得的最大加速效果。根據可用的硬件平臺和應用程序的復雜性，程序員可以使用MATLAB配置代碼以實現最快執行，并作出目標平臺的最佳選擇(圖2)。

圖2，計算不同內核大小的泰勒級數所需的執行時間見MATLAB代碼示例2所述。注意：當在四核處理器上執行該函數時，MATLAB隱式多線程已對其進行了加速，無需修改應用程序代碼。當計算加速大于數據傳輸的開銷時，GPU對復雜函數更有幫助。GPU計算時間幾乎與內核復雜度無關

結論

    為了實現GPU的最大靈活性和易用性，MathWorks提供了不同的編程模式來更好地滿足開發人員的偏好。有了MATLAB GPU支持，用戶便可以一種無縫且不費力的方式加速其應用程序。此外，GPU支持已集成在Parallel Computing Toolbox中，因此可以對所有具有并行性的應用程序進行加速，無論其位于GPU上還是CPU上，并可最終擴展到集群。因此，MATLAB GPU支持只需最少的編程工作，便可將 MATLAB的任務與數據并行化功能擴展到更多硬件平臺。