NVIDIA在AI on RTX技術與應用分享會說明了多項在搭載Windows作業系統個人電腦上的AI應用，並進行實際展示。
專注高於100 TOPS高階AI應用身為AI軟、硬體技術大廠，NVIDIA自然也相當重視包含桌上型與筆記型等個人電腦的AI應用，雖然NVIDIA並不像AMD、Intel等廠商推出處理器搭配內建NPU（神經處理器）或內建GPU（繪圖處理器）的解決方案，但卻能透過效能更高的獨立顯示卡、獨立顯示晶片等GPU提供更豐富的應用。
- 延伸閱讀：
- GTC 2024春季場系列報導
- NVIDIA說明Windows作業系統AI應用（上）：強調高階AI功能優勢（本文）
- NVIDIA說明Windows作業系統AI應用（下）：多種AI應用功能展示（工作中）
NVIDIA將個人電腦粗分為AI運算效能介於10~45 TOPS（Int8資料類型）、由NPU與內建GPU驅動的基本AI電腦（Basic AI PC），以及效能介於100~1300 TOPS（Int8、FP8資料類型）、搭載獨立GPU的高階AI電腦（Permium AI PC）。
雖然NVIDIA並沒有點名「基本」與「高階」AI電腦的規格與型號，但我們仍可明確推斷，基本AI電腦指的是搭載AMD Ryzen 7040、8040、8000G等系列處理器，或是Intel Core Ultra 1系列處理器的電腦，而高階AI電腦自然就是搭載NVIDIA自家獨立顯示卡或獨立顯示晶片的桌上型與筆記型電腦。
這2種類型的電腦都具有在本機執行AI應用程式的能力，具有低延遲、不需連網或將資料上傳至雲端、無額外伺服器費用等優勢，而高階AI電腦則進一步能夠執行規模更大的AI模型（有助於提供更精確、理想的回應與結果），並執行更複雜的AI應用程式以提升使用者體驗與工作效率，並可在更短的時間內完成相同的運算負載。
NVIDIA也補充了NPU的優勢，那就是它們雖然效能不如獨立GPU，但具有更高的電力效率，更適合常時間於背景持續運作，尤其對藉由電池運作的筆記型電腦來說更加重要。
至於例如複雜的AI圖像生成、AI模型訓練、執行超大規模AI模型等運算負載更高的需求，則建議使用AI運算效能可達數千TOPS且具有擴充性（Scalable）的雲端GPU完成。
▲ NVIDIA在說明會整理許多自家在Windows作業系統上提供的AI應用程式與功能，由NVIDIA技術行銷經理蘇家興進行介紹。
▲ 使用者能在Windows作業系統下直接享受DLSS、AI圖像生成加速、影片頻、視訊會議強化等功能帶來的效能提升與便利性。
▲ NVIDIA以效能將電腦分為基本AI電腦、高階AI電腦（Permium AI PC），以及重度AI雲端伺服器。
▲ 個人電腦部分，基本AI電腦的條件為AI運算效能介於10~45 TOPS（Int8資料類型）、由NPU與內建GPU驅動的，高階AI電腦則為效能介於100~1300 TOPS（Int8、FP8資料類型）、搭載獨立GPU。
▲ 基本與高階AI電腦主要以AI運算效能區分，會造成執行AI應用程式功能與效能的落差。
NVIDIA也在會中說明自己具有完整且強固的AI軟、硬體生態系統，能夠支援PyTorch、ONNX、TenosrFlow等常見的AI運算框架，有許多應用程式也支援NVIDIA自家的Tensor RT SDK與執行環境，目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速，在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。
此外NVIDIA也透過DLSS將超解析度（Super Resolution，即升頻）、畫格生成（Frame Generation）、光線重建（Ray Reconstruction）等AI功能應用於提升遊戲的畫質以及FPS效能。
AI運算的效能表現方面，NVIDIA也是獨佔鰲頭。根據NVIDIA提供的測試數據，搭載行動版GeForce RTX 4090的筆記型電腦在Stable Diffusion圖像生成的速度比搭載Apple Silicon M3 Max的MacBook Pro快了7倍。而在UL Procyon AI圖像生成測試部分，市場價格約為新台幣21,990元的GeForce RTX 4070 Super，表現就超出價格達新台幣35,990元的AMD Radeon RX 7900 XTX。
至於影片編輯、大型語言模型部分，NVIDIA提供的解決方案也都具有更出色的效能表現，在視訊會議強化功能部分也有更理想的效果。詳細情況請參考下方圖表說明。
▲ NVIDIA已經提供超過500款AI遊戲功能（如DLSS）、AI應用程式功能，並具有完整的軟、硬體堆疊。
▲ 搭載NVIDIA獨立顯示晶片的筆記型電腦在AI圖像生成、3D渲染、AI影片編輯、語音強化等功能都有更出色的效能表現。
▲ 目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速，在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。
▲ NVIDIA顯示卡在UL Procyon AI圖像生成測試的表現領先競爭對手許多。
▲ NVIDIA顯示卡、顯示晶片執行LLM的效能也相當凸出。
▲ NVIDIA Boardcast視訊會議能提供更精準以的背景模糊功能，並可自行設定背景效果，眼神校正效果也更加理想。
▲ NVIDIA也提供許多開發工具，並以更高的效能提升工作效率。
▲ NVIDIA將持續強化高階AI電腦的效能與功能。
NVIDIA也在活動當天提供多樣AI應用與程式展示，筆者將會在下篇文章中繼續介紹。
加入T客邦Facebook粉絲團 固定链接 'NVIDIA說明Windows作業系統AI應用（上）：強調高階AI功能優勢' 提交: April 30, 2024, 5:00pm CST