首頁 產品介紹 課程介紹 專業教育訓練 【課程十四】NVIDIA CUDA GPU 高速平行運算程式開發
以類別搜尋
以關鍵字搜尋
專業教育訓練
產品名稱
【課程十四】NVIDIA CUDA GPU 高速平行運算程式開發
產品型號
T052
產品規格

NVIDIA 在 2007 年推出圖形處理器 (GPU: Graphics Processing Unit) 程式開發工具 CUDA (Compute Unified Device Architecture),讓開發者可以在通用圖形處理器 (GPGPU: General Purpose GPU) 上開發各類的科學運算 (Scientific Computing),促成許多 HPC (High Performance Computing) 應用領域的進步;具有高度運算需求的科學領域包括:人工智慧 (Artificial Intelligence)、機器學習 (Machine Learning)、深度學習 (Deep Learning)、影音3D多媒體、生物醫學、國防科學、石油探勘、財務工程、土木建築、電腦輔助製造(CAM: Computer Aided Manufacturing)、計算機輔助工程(CAE: Computer Aided Engineering)、電腦輔助設計(CAD:Computer Aided Design)、氣體煙霧模擬、火焰模擬、模流水流模擬等。


隨著半導體技術的迅速成長,至今在單一個 GPU 中,處理器核心(processor core)的個數已增加到數萬核以上,使得 GPU 的計算能力也跟著快速成長;至今 CUDA 開發環境已經相當成熟,超高速運算時代已經來臨。


本 GPU 平行運算課程聚焦於「基礎 ➜ 實作 ➜ HPC應用 ➜ 產業趨勢」四大主軸,每個單元搭配「實務案例及應用場景」,最大目標是引導 CUDA 初學者能夠快速瞭解 CUDA 的平行理念。首先從 CUDA 的基礎平行計算模式開始介紹,針對在撰寫 CUDA 平行程式時,使用特殊記憶體該注意的事項、大量資料在平行處理時的各種切割方式、從多執行緒(multiple threads)到多 GPU 處理核心的分配方法、進而跨越多 GPU 晶片(multiple GPUs)的多串流(multiple streams)處理等議題,都是本課程要探討的內容;同時,基於新版 CUDA SDK、新款 GPU 及 NVIDIA AI Supercomputer 架構等新功能,本課程也將介紹其發表的新架構及新技術。首重加強學習效果,本課程的安排特別著重於由淺而深,逐步引導從理解進而以最快的速度上手 CUDA 平行程式開發;只要具備 C 程式語言的設計基礎就可參加此課程,快速瞭解 CUDA 平行處理程式的設計技巧及 GPU 的平行概念。


2025 國立臺灣大學 高效能運算服務 暑期高效能運算課程 (請詳見以下網站)

https://course.cc.ntu.edu.tw/202507/course/course5.html


※上課時間 :歡迎機關團體或個人隨時來電洽詢。


基礎 :具備有 C 程式語言的設計基礎者均可參加此課程。


  

【課程內容表】

 

授課講師
兌全有限公司 專任講師
第一天  議 程 內     容
8:30~9:00 報     到
9:00~10:50
Part 1:基礎概念與 CUDA 入門
1. GPU 與 CUDA 平行運算概念入門
    NVIDIA GPU 架構介紹
    CUDA SDK、運算能力與產業應用範例
2. 平行計算的核心概念:Thread, Block, Grid, Warp
    GPU 如何「分工合作」
    各式各樣的數據如何「平行分割」
    數據與運算的平行分配
10:50~11:00 休息時間
11:00~12:00
3. 基礎 CUDA 平行程式設計實作
    編寫簡單 CUDA 程式,感受 GPU 的加速魅力
12:00~13:00 午餐時間
13:00~14:20 Part 2:CUDA記憶體管理與效能分析

4. GPU 記憶體階層與優化策略
    Global, Constant, Shared 記憶體介紹
    實作:使用 Shared Memory 加速小範例
14:20~14:30 休息時間
14:30~16:00 5. 效能分析與優化工具
    Nsight System 與 Nsight Compute
    透過效能分析找出 CUDA 程式的瓶頸
16:00~16:10 休息時間
16:10~17:00 6. 基礎 CUDA 平行程式設計實作
    在平行程式中加入計時器評估效能
  賦    歸

 

 

授課講師
兌全有限公司 專任講師
第二天  議 程內     容
8:30~9:00報     到
9:00~10:50
Part 3:科學運算應用專題
7. 應用專題:影像處理加速實作
    Image Sobel Filtering, De-noising, and Rotation
    CUDA Texture 及 Surface 記憶體的輔助加速方式
10:50~11:00休息時間
11:00~12:008. 科學模擬與金融應用專題
    N Body 物理模擬與 Monte Carlo 選擇權平行運算
    Reduction Optimization 平行計算
    如何使用 GPU 平行化解決不同領域的計算問題
12:00~13:00午餐時間
13:00~14:20Part 4:進階技術與未來趨勢
9. 多 GPU 與 Streams 並行技術
    GPUDirect Peer-to-peer Transfers 及 Unified Virtual Addressing
14:20~14:30休息時間
14:30~16:0010. NVIDIA AI 超級運算與最新技術分享
    NVIDIA AI Supercomputer 架構與未來趨勢
16:00~16:10休息時間
16:10~17:0011. NVLink 高速互聯如何提升 AI 大語言模型 (LLM) 的訓練
    CUDA 在生成式 AI(例如 ChatGPT、LLM)背後所扮演的角色
 賦    歸

 

【資訊內容】

 

 



檔案下載

  

兌全有限公司
電話:(03)301-9583  傳真:(02)301-9045
地址:33046桃園市桃園區大興西路二段67號4樓之1
E-mail :sales@gpu123.com   
    

 

Designed by ezb2b2c