時事

Computex 2024:NVIDIA 創辦人黃仁勳 演講紀錄

在一場席捲全球數萬億美元產業的 AI 革命中,NVIDIA 創辦人兼 CEO 黃仁勳將在 COMPUTEX 2024 開幕前在台北發表主旨演講,闡述 AI 生態系統的未來發展。演講定於6月2日在國立臺灣大學體育館舉行,這場演講將在6月3日至6日於台北南港展覽館舉行的 COMPUTEX 展覽會之前揭幕。主旨演講將於台灣時間6月2日晚上7點(太平洋時間凌晨4點)在 NVIDIA.com 上進行直播,並提供重播。

以下是傑西同步收看NVIDIA KEYNOTE所做的快速筆記

開場影片

  • KEYNTOE 製作過程、討論架構、調整過程。
  • 動畫的製作、活動現場光影調整。
  • 也有在PRODUCTION ROOM(製作會議室 )採排對稿子之後最終調整。
  • 影片當中也有看到邱麗孟,NVIDIA全球副總裁暨台灣區總經理(前微軟台灣總經理)。
  • 當然還有黃仁勳在夜市跑來跑去的片段。

OPENING

  • 台灣是NVIDIA重要的合作伙伴,一起打造了了世界的AI基礎
  • NVIDIA 生於電腦影像跨越到人工智慧新紀元,這是NVIIDA的核心價值
  • 影片:展現透過各種視覺化技術產生出來的各種場景,(後續會提及使用到那些重點技術,算是起承轉合起的部分)
    • ACE NIM、OPENPBR、PHYSX、WARP、NeuralVDB、Side FX Houdini、omniverse Cloud API、Earth-2。
    • 各種不同工廠實際使用相關技術的場景。

新的運算時代

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
  • GPU + AI:剛剛播放的影片,裡面全部都是圍繞GPU+AI,這將會是新的運算的模式。
  • 小結(CUDA這個段落)
    • CUDA 實現良性循環:計算成本下降
    • 過去十年來的計算成本已經大幅下降產生了非常大的邊際效益
      • 1964:IBM S/360 大型電腦
      • 1995:WINDOWS 95 個人電腦
      • 2007:手機,IPHONE,連網時代
  • GPU 的重要性(從NVIDIA的角度)
    • 處理器(CPU)的成長慢下來了,但是資料處理的量成長。
      GPU/ CUDA (ACCELERATED COMPUTING) 的成長快速增加。
      • CUDA(Compute Unified Device Architecture,統一計算架構)是NVIDIA提出的一個架構。
    • CPU + GPU
      • 1.5倍的成本,增加100倍的速度(能源消耗多三倍)。
      • 強調使用透過GPU,增加運算資源,節省費用以及能源。
      • 『買越多、省約多』the more you buy , the more yoru save。
        • 60倍的運算、或者節省掉98%的費用。
        • 30倍的運算、或者節省掉97%的費用。
      • CUDA不同的函示庫:解釋各種不同演算法被使用在不同的地方
        • Aerial RAN:透智慧化演算法,來調整5G電信網路。
          • NVIDIA Aerial | NVIDIA Developer
          • NVIDIA Aerial CUDA-Accelerated RAN 是一個用於建構商業級、軟體定義、雲端原生 5G 和未來 6G 無線接取網路的框架。它包括 NVIDIA GPU 加速的可互通 PHY 和 MAC 層,可使用 AI 元件輕鬆修改和無縫擴展
          • 並在 NVIDIA 基礎架構(即 GPU、DPU 和 CPU)上加速。對於 RAN L1 和 L2 層,Aerial 支援 GPU 加速,為 5G 網路提供高效能虛擬化分散式單元 (vDU)。
        • 台積電正在使用cuLITHO節省生產成本
        • Parabrick 基因計算
          • NVIDIA Parabricks 入門 |英偉達 — Getting Started with NVIDIA Parabricks | NVIDIA
          • NVIDIA Parabricks是一款可擴展的基因組學分析軟體套件,利用全端加速運算在幾分鐘內處理資料。它與所有領先的測序儀器相容,支援多種生物資訊學工作流程,並整合人工智慧以實現準確性和客製化。 Parabricks 是一種經濟高效且節省空間的解決方案,非常適合專注於推進疾病理解和管理的大規模基因組學專案。
        • cuOPT 路徑計算
          • NVIDIA cuOpt 透過加速運算實現更好、更快的決策,從而優化營運。 cuOpt 協助團隊解決具有多重限制的複雜路由問題,並提供動態重新路徑、負載平衡和機器人模擬等新功能,求解器回應時間為亞秒。 cuOpt 擁有 23 項世界紀錄基準,擁有過去三年來最大路由基準的所有世界紀錄。
        • cuDF 程式運算加速
          • GOOGLE 使用cuDF 用在 PANDAS增加了加速50倍速度,不需要修改程式碼
          • PANDAS可以算是Python當中的Excel試算表
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

展示:EARTH 2

  • DIGITAL TWIN(數位孿生數位分身數位雙生):
    • 把地球複製一份到數位世界當中,建立數位孿生的虛擬模型,重現所有的環境來進行預測、計算、模擬。
    • NVIIDA EARTH 2 採用 CorrDiff的模型建立生成式AI
  • 中央氣象局案例
    • 透過WRF(中尺度數值天氣預報系統)進行訓練
    • 可以產生出與原來相比相差高達12倍解析度的天氣模式。
    • 可以從25公里縮小精確成2公里
    • 快一千倍、能源效力快三千倍,可以用來預測颱風登陸地點
    • 未來:超本地預測,加入城市各類的建築對天候的影響,可以精確到十公尺,加入PALM的高解析度產生的數據產生模型。用來模擬大氣、海洋邊界。加上原來的天氣模型跟這樣的建築影響就可以計算出,強氣流下沉之後對於行人的影響。
  • 人工智慧、物理模擬、觀測數據
  • (影片當中中文是由AI生成語音)

Generative AI Tracks Typhoons, Tames Energy Use | NVIDIA Blog

當台灣的氣象預報員看到颱風近在咫尺時,他們的頭髮被吹得飛起來,這是因為使用電腦創造的颱風模擬,大幅減少了所需的時間和能源。

這是許多領域的用戶在生成式 AI 顯示出新性能水平如何降低總擁有成本時的反應。

風暴中的 AI
追蹤颱風提供了生成式 AI 能力的絕佳測試案例。這項工作傳統上是通過 CPU 集群運行複雜的算法來創建25公里分辨率的大氣模型。

CorrDiff,這是一個生成式 AI 模型,是 NVIDIA Earth-2 的一部分,提供用於天氣和氣候研究的服務和軟件。

使用目前用於文字到圖像服務的一類擴散模型,CorrDiff 以 1,000 倍的速度將 25 公里的模型解算到 2 公里,單次推理所需能源比傳統方法少 3,000 倍。

CorrDiff 將成本降低 50 倍,能源使用減少 25 倍
即使在每年重新訓練模型一次並使用統計組合的一千個預測來提高預測精度時,CorrDiff 也在 NVIDIA AI 平台上表現出色。與這些條件下的傳統方法相比,它將成本降低了 50 倍,能源使用量每年減少 25 倍。

這意味著以往需要近三百萬美金用於 CPU大型叢集架構(CLUSTER,大型主機多台一起運算)及其運行所需能源的工作,現在可以在一個配備 NVIDIA H100 Tensor Core GPU 的單一系統上,而且花費約 六萬美金就可以達成。這是一個巨大的減少,顯示出生成式 AI 和加速計算如何提高能源效率並降低總擁有成本。

這項技術還幫助預報員更準確地看到颱風將在哪裡登陸,可能拯救生命。

“NVIDIA的 CorrDiff 生成式 AI 模型開啟了使用 AI 生成的公里級天氣預報的大門,使台灣能夠更好地準備颱風,”台灣國家災害防救科技中心主任陳宏宇說。

使用 CorrDiff,台灣的氣象預報員每年可以節省近百萬瓩的能源。如果全球近 200 個地區天氣數據中心採用這項技術以實現更可持續的計算,能源節省可能會大幅增加。

銷售商業預測的公司也在採用 CorrDiff,因為它的速度和節省吸引了他們。

能源效率的廣闊前景
NVIDIA Earth-2 將這些能力擴展到行星規模。它融合了 AI、物理模擬和觀測數據,幫助國家和公司應對氣候變化等全球性問題。這將有助於解決氣候變化的影響,到 2050 年,氣候變化預計每年將導致一百萬人死亡和 1.7 萬億美元的損失。

運算資源的成長跟轉變

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
  • 如果有更大的網路跟計算容量,試想可以拿他來做什麼事情?
    • NVIDIA在2012年調整了GPU技術架構,讓他可以支援tensor core,我們也發明了NV LINK、TensorRT、cuDNN、NCCL、也收購了Mellanox、TensorRT-LM、triton inference server
  • OPENAI的故事
    • 上面這一些技術如果放在一台機器上面,沒有人瞭解是什麼,也沒有人要他。在2016年那時候第一次公開在GTC發表的時候,一間在舊金山的小公司看到了,希望黃仁勳可以提供一台給他們。黃仁勳親自把世界上第一台AI電腦 DGX送到了OPEN AI這間公司。
    • 2017年:運算規模擴大成資料中心
    • 2022年十一月:OPENAI正式推出CHATGPT,五天內就有一百萬的使用者。兩個月後成長到了一億。
    • CHATGPT突然爆紅,這是世界第一次看到生成式AI,可以理解你語意,並且針對你問題回答。
    • (畫面上出現了,距離台北101最近的夜市是那一間,講到這個黃仁勳又開始聊到通化夜市,有一個賣水果賣43年的阿姨可以去找她)
  • 現在這個年代的AI可以做的事情
    • 生成式AI:自然語意的識別、電腦視覺辨識、語音說話的辨識。
    • 這些可以被識別出來的東西都可以讓AI進行學習,像是剛剛提到的EARTH2模型
  • 任何我們可以學習的東西,AI都可以生成。
    • 新產業革命:AI FACTORY(AI 的製造生成中心)
    • 產生出來的TOKEN,可以應用在不同的產品以及產業
    • 生成式的資料將會更準確、更有效
    • 電腦不將只是工具,而是產生技能的所在

NVIDIA NIMS (NVIDIA inference microservices)

  • Production-Ready APIs That Run Anywhere | NVIDIA
  • 透過這樣的微服務(已經包裝好的容器container)、提供了各種不同的應用,直接下載就可以使用。
  • 不同應用、產業、像是視覺識別、對話、照片轉影片。
  • 可以下載並且變成你的服務提供給你的客戶。
  • 演講當中有提到人工智慧客服。當然現在很多都是提供文字,這就接到下一個要講到的透過模擬產生的數位人。
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
各種不同的NIM提供不同的服務

NVIDIA 今天宣布,全球 2800 萬開發者現在可以下載 NVIDIA NIM™——提供模型作為優化容器的推理微服務——以部署在雲端、數據中心或工作站上,使他們能夠在幾分鐘內輕鬆構建生成式 AI 應用程序,如智能助手、聊天機器人等,而不是數週。

這些新的生成式 AI 應用程序變得越來越複雜,通常利用多個具有不同能力的模型來生成文本、圖像、視頻、語音等。NVIDIA NIM 通過提供一種簡單、標準化的方法來將生成式 AI 添加到應用程序中,大大提高了開發者的生產力。

NIM 還使企業能夠最大化其基礎設施投資。例如,在 NIM 中運行 Meta Llama 3-8B 比不使用 NIM 的情況下在加速基礎設施上產生多達 3 倍的生成式 AI 令牌。這使企業能夠提高效率,使用相同數量的計算基礎設施生成更多的回應。

近 200 家技術合作夥伴——包括 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys——正在將 NIM 集成到其平台中,以加速生成式 AI 在特定領域應用中的部署,如智能助手、代碼助手和數字人類化身。Hugging Face 現在提供 NIM——從 Meta Llama 3 開始。

“NVIDIA NIM 正在幫助技術行業讓每個組織都能夠觸及生成式 AI,集成到各處平台,開放給全球開發者,無處不在運行,”NVIDIA 創辦人兼 CEO 黃仁勳說。“每個企業都在尋求將生成式 AI 添加到其運營中,但不是每個企業都有專門的 AI 研究團隊。”

企業可以通過 NVIDIA AI Enterprise 軟件平台使用 NIM 部署生產級 AI 應用程序。從下個月開始,NVIDIA 開發者計劃的成員可以免費獲取 NIM 用於研究、開發和測試在其首選基礎設施上。

40 多個 NIM 微服務支持跨模態的生成式 AI 模型
NIM 容器預構建以加速 GPU 加速推理的模型部署,並可以包括 NVIDIA CUDA® 軟件、NVIDIA Triton 推理服務器™ 和 NVIDIA TensorRT™-LLM 軟件。

在 ai.nvidia.com 上可以作為 NIM 端點體驗的 40 多個 NVIDIA 和社群所提供的模型包括 Databricks DBRX、Google 的開源模型 Gemma、Meta Llama 3、Microsoft Phi-3、Mistral Large、Mixtral 8x22B 和 Snowflake Arctic。

開發者現在可以通過 Hugging Face AI 平台訪問 Meta Llama 3 模型的 NVIDIA NIM 微服務。這使開發者能夠輕鬆訪問並運行 Llama 3 NIM,只需幾次點擊即可通過 Hugging Face 推理端點,在其首選雲上由 NVIDIA GPU 提供支持。

企業可以使用 NIM 來運行生成文本、圖像和視頻、語音和數字人類的應用程序。使用 NVIDIA BioNeMo™ NIM 微服務進行數位化的生物學研究,研究人員可以構建新的蛋白質結構以加速藥物發現。

數十家醫療保健公司正在部署 NIM,以支持各種應用中的生成式 AI 推理,包括手術規劃、數字助手、藥物發現和臨床試驗優化。

使用新的 NVIDIA ACE NIM 微服務,開發者可以輕鬆構建和操作在客戶服務、遠程醫療、教育、遊戲和娛樂中的互動、栩栩如生的數位人類。

數百家 AI 生態系統合作夥伴嵌入 NIM
包括 Canonical、Red Hat、Nutanix 和 VMware(被博通收購)在內的平台提供商正在支持開源 KServe 或企業解決方案上的 NIM。AI 應用公司 Hippocratic AI、Glean、Kinetica 和 Redis 也在部署 NIM 以支持生成式 AI 推理。

領先的 AI 工具和 MLOps 合作夥伴——包括 Amazon SageMaker、Microsoft Azure AI、Dataiku、DataRobot、deepset、Domino Data Lab、LangChain、Llama Index、Replicate、Run.ai、Saturn Cloud、Securiti AI 和 Weights & Biases——也將 NIM 嵌入到其平台中,以使開發者能夠使用優化的推理構建和部署特定領域的生成式 AI 應用程序。

全球系統集成商和服務交付合作夥伴 Accenture、Deloitte、Infosys、Latentview、Quantiphi、SoftServe、TCS 和 Wipro 已創建 NIM 能力,以幫助世界各地的企業快速開發和部署生產 AI 策略。

企業可以在全球基礎設施製造商如 Cisco、Dell Technologies、Hewlett-Packard Enterprise、Lenovo 和 Supermicro,以及服務器製造商 ASRock Rack、ASUS、GIGABYTE、Ingrasys、Inventec、Pegatron、QCT、Wistron 和 Wiwynn 的 NVIDIA 認證系統™ 上幾乎無處不在地運行 NIM 支持的應用程序。NIM 微服務還集成到 Amazon Web Services、Google Cloud、Azure 和 Oracle Cloud Infrastructure。

行業巨頭利用 NIM 增強生成式 AI
行業領導者包括富士康、和碩、Amdocs、Lowe’s、ServiceNow 和西門子等公司正在使用 NIM 來進行製造、醫療保健、金融服務、零售、客戶服務等領域的生成式 AI 應用:

  • 富士康——世界上最大的電子製造商——正在使用 NIM 開發嵌入到其 AI 工廠中的各種內部系統和流程中的特定領域 LLM,用於智能製造、智慧城市和智能電動車。
  • 和碩——台灣的電子製造公司——正在利用 NIM 進行 TaME 項目,即台灣 Mixtral of Experts 模型,旨在推動本地 LLM 的發展。
  • Amdocs——全球領先的通信和媒體公司軟件和服務提供商——正在使用 NIM 運行一個客戶計費 LLM,顯著降低了令牌的成本,提高了準確性多達 30%,並減少了延遲 80%,實現了接近實時的回應。
  • Lowe’s——一家《財富》50 強家居改善公司——正在使用生成式 AI 用於各種用途。例如,該零售商正在利用 NVIDIA NIM 推理微服務來提升員工和客戶的體驗。
  • ServiceNow——業務轉型的 AI 平台——今年早些時候宣布,它是第一批訪問 NIM 的平台提供商之一,能夠為其客戶提供快速、可擴展和更具成本效益的 LLM 開發和部署。NIM 微服務集成在 Now AI 多模態模型中,並可供安裝了 ServiceNow 生成式 AI 體驗 Now Assist 的客戶使用。
  • 西門子——一家專注於工業、基礎設施、交通和醫療保健的全球技術公司——正在將其運營技術與 NIM 微服務集成,用於車間 AI 工作負載。它還正在使用 NIM 構建其工業輔助操作員的本地版本。

可用性
開發者可以在 ai.nvidia.com 免費試驗 NVIDIA 微服務。企業可以在 NVIDIA 認證系統和領先的雲平台上運行 NVIDIA AI Enterprise,以部署生產級 NIM 微服務。從下個月開始,NVIDIA 開發者計劃的成員將獲得免費訪問 NIM 用於研究和測試。

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

NVIDIA Releases Digital Human Microservices, Paving Way for Future of Generative AI Avatars | NVIDIA Newsroom

NVIDIA 今天宣布,NVIDIA ACE 生成式 AI 微服務已經普遍可用,以加速下一波數位人類的發展,並將很快推出平台上的新生成式 AI 突破。

客戶服務、遊戲和醫療保健領域的公司是第一批採用 ACE 技術的公司,這些技術簡化了在客戶服務、遠程醫療、遊戲和娛樂中創建、動畫和操作栩栩如生的數位人類的過程。

現在普遍可用的 NVIDIA ACE 數位人類生成式 AI 技術套件包括:

  • NVIDIA Riva ASR、TTS 和 NMT——用於自動語音識別、文本轉語音轉換和翻譯
  • NVIDIA Nemotron LLM——用於語言理解和上下文回應生成
  • NVIDIA Audio2Face——基於音軌生成逼真的面部動畫
  • NVIDIA Omniverse RTX——用於實時光線追蹤逼真的皮膚和頭髮

新宣布的技術包括:

  • NVIDIA Audio2Gesture——基於聲音軌道生成身體動作,將很快推出
  • NVIDIA Nemotron-3 4.5B——一個新的小型語言模型(SLM),專為低延遲、設備端的 RTX AI PC 推理而設計

“數位人類將革新各個行業,”NVIDIA 創辦人兼 CEO 黃仁勳表示。“在多模態大型語言模型和神經圖形學上的突破——通過 NVIDIA ACE 提供給我們的開發者生態系統——讓我們更接近意圖驅動計算的未來,在這個未來中與計算機的互動就像與人類的互動一樣自然。”

到目前為止,NVIDIA 已經為開發者提供了在資料中心運行的 ACE 作為 NIM 微服務。現在,NVIDIA 正在為部署在一億台 RTX AI PC 和筆記本電腦上的 ACE PC NIM 微服務進行構建。

這些微服務包括 NVIDIA Nemotron-3 4.5B,該公司的首個 SLM,專為在設備上運行而設計,其精度和準確性與在雲端運行的大型語言模型(LLM)相似。Nemotron-3 4.5B SLM 現已進入早期訪問階段。NVIDIA Audio2Face 和 NVIDIA Riva ASR 設備端模型將很快在早期訪問中可用。

新的 NVIDIA AI 推理管理軟件開發工具包簡化了 ACE 到 PC 的部署。它預先配置了所需的 AI 模型、引擎和依賴項,同時在 PC 和雲端之間無縫地編排 AI 推理。

COMPUTEX 展會上展示了一個更新版的 Covert Protocol 技術演示,這是與 Inworld AI 合作開發的。使用在 GeForce RTX PC 上本地運行的 Audio2Face 和 Riva ASR,該演示允許玩家使用對話語言與數位人類 NPC 進行互動並影響他們,以完成任務。

ACE 在開發各種應用的開發者中引起了轟動,這些應用來自 Aww Inc.、Dell Technologies、Gumption、Hippocratic AI、Inventec、OurPalm、Perfect World Games、Reallusion、ServiceNow、Soulbotix、SoulShell 和 UneeQ 等公司。

Aww Inc. 是一家位於日本的虛擬人類公司,於 2018 年推出了首位虛擬名人 Imma。自那以來,Imma 已成為全球超過 50 個國家的主要品牌代言人。現在,Aww Inc. 計劃利用 ACE Audio2Face 微服務進行實時動畫,為其用戶提供高度互動的通信體驗。

完美世界遊戲公司是一家遊戲開發和發行公司,正在其新的神話荒野技術演示《Legends》中採用 ACE。玩家可以與一個完全互動的、逼真的、多語言的 AI NPC 進行互動,語言包括英語和普通話。使用 NVIDIA Audio2Face NIM,角色的音頻回應能夠實時生成逼真的面部動畫。

英業達是一家在 AI 領域投入大量資金的大型技術公司,正在使用 NVIDIA Audio2Face NIM 來增強其 VRSTATE 平台內的醫療保健 AI 代理。這種集成提供了一種更具吸引力、更舒適的虛擬諮詢體驗。在 COMPUTEX 展會上,英業達展示了一個可以幫助患者獲取健康信息的 AI 代理。

ServiceNow 是一個業務轉型 AI 平台,最近在其 Now Assist Gen AI Experience 中展示了 ACE NIM 在生成式 AI 服務代理中的應用,突出了數位化身在零售、旅遊等行業中增強客戶和員工互動的潛力。

戴爾科技公司在上個月的戴爾科技世界大會上展示了其尖端的戴爾生成式 AI 解決方案,用於數位助手。這一解決方案允許企業利用智能數位助手通過自然對話在各行各業(如零售、醫療保健和客戶服務)中與客戶互動。

NVIDIA 藝術團隊使用基於 ACE 構建的生成式 AI 工具,包括 Synthesia 和 Hour One,製作了一個由文字轉影片的“數位黃仁勳”化身。

該多語言化身採用了 ElevenLabs 的專有 AI 語音技術,生成了具有黃仁勳獨特聲音和風格的普通話和英語版本。NVIDIA 還與專門從事 AI 語音技術的 NVIDIA Inception 成員 Voicemod 合作,創作了黃仁勳主旨演講的結尾主題曲。

ACE NIM 現已上市
用於伺服器部署的包括 Riva 和 Audio2Face 在內的 NVIDIA ACE NIM 微服務現已投產,並增加了 NVIDIA AI Enterprise 軟件,以便開發者獲得企業級支持。註冊以獲取在 RTX AI PC 上運行的 ACE NIM 微服務的早期訪問。

數位人類 Digital Human

Create Digital Avatars with Generative AI | Use Case | NVIDIA

  • 透過模型產生的數位人影像,可以直接跟用戶對話。在各種不同領域跟客戶對話。
  • 可以產生如同真人般的膚色。
  • 其他可以發行的新服務可以參考上面的新聞稿。
  • ACE可以在雲端也可以在電腦上執行。
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

RTX AI電腦

發表四款RTX AI電腦

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

NVIDIA Brings AI Assistants to Life With GeForce RTX AI PCs | NVIDIA Newsroom

NVIDIA 今天宣布了全新 NVIDIA RTX™ 技術,將為運行在新的 GeForce RTX™ AI 筆記本電腦上的 AI 助手和數字人類提供動力。

NVIDIA 推出了 Project G-Assist——一個由 RTX 驅動的 AI 助手技術演示,為 PC 遊戲和應用程序提供上下文感知的幫助。Project G-Assist 技術演示首次亮相於 Studio Wildcard 的 ARK: Survival Ascended。此外,NVIDIA 還推出了基於 PC 的首個 NVIDIA NIM™ 推理微服務,用於 NVIDIA ACE 數字人類平台。

這些技術由 NVIDIA RTX AI 工具包提供支持,這是一套新的工具和軟件開發套件,幫助開發人員在 Windows PC 上優化和部署大型生成式 AI 模型。這些技術加入了 NVIDIA 的完整堆棧 RTX AI 創新,這些創新加速了超過 500 個 PC 應用程序和遊戲以及 200 個筆記本電腦設計。

此外,ASUS 和 MSI 新推出的 RTX AI PC 筆記本電腦配備了最高至 GeForce RTX 4070 GPU 和節能的片上系統,具有 Windows 11 AI PC 功能。這些 Windows 11 AI PC 將在可用時免費更新到 Copilot+ PC 體驗。

NVIDIA 消費者 AI 副總裁 Jason Paul 表示:“NVIDIA 於 2018 年推出 RTX Tensor Core GPU 和 NVIDIA DLSS,開創了 AI PC 時代。現在,通過 Project G-Assist 和 NVIDIA ACE,我們為超過 1 億 RTX AI PC 用戶解鎖了下一代 AI 體驗。”

Project G-Assist,GeForce AI 助手

AI 助手將變革遊戲和應用程序內的體驗——從提供遊戲策略和分析多人遊戲重播到協助複雜的創意工作流程。Project G-Assist 是對未來的一瞥。

PC 遊戲提供了廣闊的探索世界和複雜的機制,即使是最敬業的玩家也需要花費大量時間和精力來掌握。Project G-Assist 旨在使用生成式 AI 將遊戲知識觸手可及。

Project G-Assist 接受來自玩家的語音或文本輸入,並結合來自遊戲屏幕的上下文信息,通過 AI 視覺模型運行數據。這些模型增強了大型語言模型(LLM)的上下文感知和應用程序特定的理解,並生成定制的回應,以文本或語音形式傳遞。

NVIDIA 與 Studio Wildcard 合作展示了這項技術在 ARK: Survival Ascended 中的應用。Project G-Assist 可以幫助回答有關生物、物品、背景故事、目標、困難的首領等問題。由於 Project G-Assist 是上下文感知的,因此它會根據玩家的遊戲會話個性化其回應。

此外,Project G-Assist 還可以配置玩家的遊戲系統以獲得最佳性能和效率。它可以提供性能指標的見解,根據用戶的硬件優化圖形設置,應用安全的超頻,甚至在保持性能目標的同時智能地降低能耗。

首次亮相的 ACE PC NIM

用於數字人類的 NVIDIA ACE 技術現在將通過 NVIDIA NIM——推理微服務來到 RTX AI PC 和工作站上,這些微服務使開發人員能夠將部署時間從幾週縮短到幾分鐘。ACE NIM 微服務在本地設備上運行高質量的推理,用於自然語言理解、語音合成、面部動畫等。

在 COMPUTEX 展會上,NVIDIA ACE NIM 在 PC 上的遊戲首秀將在與 Inworld AI 合作開發的 Covert Protocol 技術演示中展示。該演示現在展示了 NVIDIA Audio2Face™ 和 NVIDIA Riva 自動語音識別在本地設備上的運行。

Windows Copilot Runtime 將添加 GPU 加速以支持本地 PC SLM

Microsoft 和 NVIDIA 正在合作幫助開發者將新的生成式 AI 功能引入其 Windows 本地和網絡應用程序。這項合作將為應用程序開發者提供易於使用的應用程序編程接口(API),以訪問 GPU 加速的小型語言模型(SLM),這些模型作為 Windows Copilot Runtime 的一部分在設備上運行,支持檢索增強生成(RAG)功能。

SLM 為 Windows 開發者提供了巨大的可能性,包括內容摘要、內容生成和任務自動化。RAG 功能通過為 AI 模型提供在基礎模型中未充分表示的領域特定信息來增強 SLM。RAG API 使開發者能夠利用應用程序特定的數據源並調整 SLM 的行為和功能以滿足應用程序需求。

這些 AI 功能將由 NVIDIA RTX GPU 以及其他硬件供應商的 AI 加速器加速,為最廣泛的 Windows 生態系統提供快速、響應迅速的 AI 體驗。

API 將在今年晚些時候發布開發者預覽版。

使用 RTX AI 工具包達到 4 倍速度和 3 倍更小的模型

AI 生態系統已為應用程序開發者構建了數十萬個開源模型,但大多數模型是為一般用途預訓練的,並且旨在在數據中心運行。

為了幫助開發者構建能夠在 PC 上運行的應用程序特定 AI 模型,NVIDIA 推出 RTX AI 工具包——一套用於在 RTX AI PC 上進行模型定制、優化和部署的工具和 SDK。RTX AI 工具包將於本月晚些時候向更廣泛的開發者提供。

開發者可以使用開源 QLoRa 工具定制預訓練模型。然後,他們可以使用 NVIDIA TensorRT™ 模型優化器量化模型,使其消耗的內存減少多達 3 倍。NVIDIA TensorRT Cloud 隨後優化模型,以在 RTX GPU 系列中達到最佳性能。結果是性能比預訓練模型快 4 倍。

新的 NVIDIA AI 推理管理器 SDK 現已提供早期訪問,簡化了 ACE 向 PC 的部署。它預先配置了所需的 AI 模型、引擎和依賴項,同時無縫編排 PC 和雲之間的 AI 推理。

Adobe、Blackmagic Design 和 Topaz 等軟件合作夥伴正在將 RTX AI 工具包的組件集成到其流行的創意應用程序中,以加速 RTX PC 上的 AI 性能。

Adobe Creative Cloud 產品市場副總裁 Deepa Subramaniam 表示:“Adobe 和 NVIDIA 繼續合作,提供突破性的客戶體驗,涵蓋所有創意工作流程,從視頻到圖像、設計、3D 等。RTX PC 上的 TensorRT 10.0 提供了前所未有的性能和 AI 驅動的功能,為創作者、設計師和開發者在 Photoshop 等行業領先的創意工具中解鎖了新的創作可能性。”

RTX AI 工具包的組件(如 TensorRT-LLM)已集成到流行的開發者框架和生成式 AI 應用程序中,包括 Automatic1111、ComfyUI、Jan.AI、LangChain、LlamaIndex、Oobabooga 和 Sanctum.AI。

用於內容創作的 AI

NVIDIA 還將 RTX AI 加速集成到為創作者、修改者和視頻愛好者設計的應用程序中。

去年,NVIDIA 推出了使用 TensorRT 加速的 RTX,適用於最受歡迎的 Stable Diffusion 用戶界面之一 Automatic1111。從本週開始,RTX 還將加速非常受歡迎的 ComfyUI,其性能比目前的版本提高了多達 60%,比 MacBook Pro M3 Max 提高了 7 倍。

NVIDIA RTX Remix 是一個修改平台,用於重新製作經典的 DirectX 8 和 DirectX 9 遊戲,提供全光線追蹤、NVIDIA DLSS 3.5 和物理準確的材料。RTX Remix 包括一個運行時渲染器和 RTX Remix 工具包應用程序,促進遊戲資產和材料的修改。

去年,NVIDIA 將 RTX Remix Runtime 開源,允許修改者擴展遊戲兼容性並提升渲染能力。

自今年早些時候 RTX Remix Toolkit 推出以

來,已有 20,000 名修改者使用它來修改經典遊戲,導致在 RTX Remix Showcase Discord 上開發了超過 100 個 RTX 重新製作的項目。

本月,NVIDIA 將使 RTX Remix Toolkit 開源,允許修改者簡化資產替換和場景重新照明的過程,增加 RTX Remix 資產導入器的支持文件格式,並通過新模型增強 RTX Remix 的 AI 紋理工具。

此外,NVIDIA 將通過 REST API 使 RTX Remix Toolkit 的功能可訪問,允許修改者實時鏈接 RTX Remix 到 Blender 等數字內容創建工具、Hammer 等修改工具以及 ComfyUI 等生成式 AI 應用程序。NVIDIA 還將提供一個 SDK,用於 RTX Remix Runtime,使修改者能夠將 RTX Remix 的渲染器部署到其他應用程序和超越 DirectX 8 和 9 經典遊戲的遊戲中。

隨著更多 RTX Remix 平台的開源,全球的修改者可以創建更多驚人的 RTX 重新製作。

NVIDIA RTX Video 是一個受歡迎的 AI 驅動超分辨率功能,支持在 Google Chrome、Microsoft Edge 和 Mozilla Firefox 瀏覽器中,現已作為 SDK 向所有開發者提供,幫助他們本地集成 AI 用於升級、銳化、壓縮伪影減少和高動態範圍(HDR)轉換。

即將推出的視頻編輯軟件 Blackmagic Design 的 DaVinci Resolve 和 Wondershare Filmora 中,RTX Video 將允許視頻編輯器將較低質量的視頻文件升級到 4K 分辨率,並將標準動態範圍源文件轉換為 HDR。此外,免費媒體播放器 VLC media 將很快在其現有的超分辨率功能中添加 RTX Video HDR。

NVIDIA BLACKWELL平台

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
DGX平台: 8GPU HOPPER(BLACKWELL的前一代) 氣冷版本
DGX BLACKWELL(液態冷卻)可以透過NVLINK 連結在一起,提供了72GPU的運算能力。
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
  • Blackwell運算平台:Nvidia 專為生成式AI所打造的處理器平台
    • 這是目前台積電目前可以生產的最大尺寸的晶片,在一個節點(NODE)兩個 BLACKWELL GPU+一個 GRACE CPU。兩個GPU之間有10TB的資料連結。
    • 這是我們第五代的NVLINK,可以透過他連結更多的GPU。
    • 可靠度:需要透過新的技術(RSA)來提升系統的可靠度
    • 透過資料的解壓縮引擎,也可以可以更快速的讀取大量的資料(快20倍)
    • 是目前技術上非常複雜的一套系統,這樣的運算量成長量(TFLOPS),已經超越了莫爾定律,但是透過每一代的更迭,雖然運算量成長了,但是實際成本是下降的。
  • 一個節點的Blackwell運算量還不夠,要靠DGX增加串聯運算立
    • DGX HOPPER:8個GPU,氣冷,BLACKWELL前一代
    • DGX BLACKWELL:72GPU,水冷。基於MGX的模組化設計透過NVLINK連結在一起。
    • 因為語言模型越來越大,所以一個節點沒辦法完成運算,需要更大的運算資源,所以需要透過NVLINK串連更多的運算資源。
    • NVLINK SWITCH (串連不同的BLACKWELL模組):有500億的電晶體,72的連接孔,每個孔提供400G的頻寬,每秒總頻寬7.2TB。
    • 在DGX背後,需要NV LINK連結所有GPU:裡頭有5000電線,總長兩英里(3.2公里)的電線,可以連結72GPU連結在一起。
  • 生成式人工智慧適用的 Blackwell 架構 | NVIDIA
    • Blackwell 處理器包含 2080 億個電晶體,並採用專為 NVIDIA 量身打造的台積電 4NP 製程製造。所有 Blackwell 產品都配備兩個具有光罩限制的晶粒,透過每秒 10 TB (TB/秒) 的晶片對晶片互連技術,在一個顯示卡超級晶片中,提供兩個顯示卡晶片的功能。
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
計算量成長
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
能源消率帶來的用電量下降

Computer Industry Joins NVIDIA to Build AI Factories and Data Centers for the Next Industrial Revolution | NVIDIA Newsroom

NVIDIA 與全球頂尖計算機製造商今天推出了一系列基於 NVIDIA Blackwell 架構的系統,這些系統配備了 Grace CPU、NVIDIA 網路和基礎設施,旨在為企業構建 AI 工廠和數據中心,推動下一波生成式 AI 突破。

在他的 COMPUTEX 主旨演講中,NVIDIA 創辦人兼 CEO 黃仁勳宣布,ASRock Rack、ASUS、GIGABYTE、Ingrasys、Inventec、Pegatron、QCT、Supermicro、Wistron 和 Wiwynn 將使用 NVIDIA GPU 和網路推出雲端、本地、嵌入式和邊緣 AI 系統。

“下一次工業革命已經開始。公司和國家正在與 NVIDIA 合作,將數萬億美元的傳統數據中心轉變為加速計算,並建立一種類型的新數據中心——AI 工廠,生產一種新商品:人工智慧,”黃仁勳說。“從服務器、網路和基礎設施製造商到軟件開發商,整個行業正在為 Blackwell 加速 AI 驅動的創新做好準備,涵蓋各個領域。”

為了應對各類應用,這些產品將涵蓋從單 GPU 到多 GPU、從 x86 到基於 Grace 的處理器,以及從空氣冷卻到液冷技術。

此外,為了加速開發不同尺寸和配置的系統,NVIDIA MGX 模組化參考設計平台現在支持 NVIDIA Blackwell 產品。這包括新的 NVIDIA GB200 NVL2 平台,該平台旨在為主流大型語言模型推理、檢索增強生成和數據處理提供無與倫比的性能。

GB200 NVL2 特別適合新興市場機會,如數據分析,公司每年在這些領域花費數百億美元。利用 NVLink®-C2C 互連提供的高帶寬內存性能和 Blackwell 架構中的專用解壓引擎,加速數據處理速度可達 18 倍,能源效率比使用 x86 CPU 高 8 倍。

加速計算的模組化參考架構

為了滿足世界數據中心多樣化的加速計算需求,NVIDIA MGX 為計算機製造商提供了參考架構,以快速且具成本效益地構建超過 100 種系統設計配置。

製造商從其服務器機箱的基本系統架構開始,然後選擇 GPU、DPU 和 CPU 以應對不同的工作負載。到目前為止,已有來自 25 多個合作夥伴的 90 多個系統發佈或正在開發中,利用 MGX 參考架構,這比去年來自六個合作夥伴的 14 個系統有所增加。使用 MGX 可以將開發成本削減多達四分之三,並將開發時間減少三分之二,至僅六個月。

AMD 和 Intel 正在支持 MGX 架構,計劃首次提供他們自己的 CPU 主機處理器模塊設計。這包括下一代 AMD Turin 平台和 Intel® Xeon 6 處理器(前代代號為 Granite Rapids)。任何服務器系統製造商都可以使用這些參考設計來節省開發時間,同時確保設計和性能的一致性。

NVIDIA 最新的平台 GB200 NVL2 也利用 MGX 和 Blackwell。其擴展的單節點設計支持多種系統配置和網路選項,無縫整合加速計算進入現有數據中心基礎設施。

GB200 NVL2 加入了 Blackwell 產品陣容,其中還包括 NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell Superchips 和 GB200 NVL72。

生態系統聯合

NVIDIA 的綜合合作夥伴生態系統包括全球領先的半導體製造商台積電(TSMC),以及提供關鍵組件以創建 AI 工廠的全球電子製造商。這些創新包括來自 Amphenol、亞洲活性元件(AVC)、酷冷至尊、Colder Products Company(CPC)、Danfoss、台達電子和 LITEON 的服務器機架、電力供應、冷卻解決方案等。

因此,新的數據中心基礎設施可以快速開發和部署,以滿足全球企業的需求——並通過 Blackwell 技術、NVIDIA Quantum-2 或 Quantum-X800 InfiniBand 網路、NVIDIA Spectrum™-X 乙太網路和 NVIDIA BlueField®-3 DPU 在 Dell Technologies、Hewlett Packard Enterprise 和 Lenovo 的服務器中進一步加速。

企業還可以訪問 NVIDIA AI Enterprise 軟件平台,包括 NVIDIA NIM™ 推理微服務,以創建和運行生產級生成式 AI 應用程序。

台灣擁抱 Blackwell

黃仁勳在其主旨演講中還宣布,台灣領先的公司正在迅速採用 Blackwell,將 AI 的力量帶入他們的業務。

台灣的領先醫療中心長庚紀念醫院計劃使用 NVIDIA Blackwell 計算平台推進生物醫學研究,並加速成像和語言應用以改進臨床工作流程,最終提高患者護理水平。

富士康,世界上最大的電子製造商之一,計劃使用 NVIDIA Grace Blackwell 開發 AI 驅動的電動汽車和機器人平台的智能解決方案平台,以及越來越多的基於語言的生成式 AI 服務,以為其客戶提供更個性化的體驗。

支持性引言

  • Amphenol 總裁兼 CEO R. Adam Norwitt 表示:“NVIDIA 的突破性 AI 系統需要先進的互連解決方案,Amphenol 自豪地供應關鍵組件。作為 NVIDIA 豐富生態系統中的重要合作夥伴,我們能夠提供高度複雜和高效的互連產品,為 Blackwell 加速器提供尖端性能。”
  • AVC 主席兼 CEO Spencer Shen 表示:“AVC 在 NVIDIA 產品中扮演重要角色,為其 AI 硬件,包括最新的 Grace Blackwell Superchip,提供高效冷卻。隨著 AI 模型和工作負載的不斷增長,可靠的熱管理對於處理密集型 AI 計算非常重要,我們將與 NVIDIA 一起邁向每一個新台階。”
  • ASUS 主席 Jonney Shih 表示:“ASUS 正在與 NVIDIA 合作,通過我們強大的服務器產品線,將企業 AI 推向新高度,這些產品將在 COMPUTEX 展出。利用 NVIDIA 的 MGX 和 Blackwell 平台,我們能夠打造針對訓練、推理、數據分析和高性能計算的量身定制數據中心解決方案。”
  • Dover Corporation 的 CPC 總裁 Janel Wittmayer 表示:“CPC 的創新專用連接技術使得 NVIDIA GPU 的液冷在 AI 系統中實現簡單可靠的連接成為可能。憑藉共同的性能和質量願景,CPC 具備供應關鍵技術組件的能力和專業知識,以支持 NVIDIA 的卓越增長和進步。我們的連接器對於保持溫度敏感產品的完整性至關重要,這在 AI 系統執行計算密集型任務時尤為重要。我們很高興成為 NVIDIA 生態系統的一部分,將我們的技術應用於新領域。”
  • Cooler Master CEO Andy Lin 表示:“隨著加速計算需求的不斷飆升,企業利用尖端加速器的能源標準的解決方案需求也在增加。作為熱管理解決方案的先鋒,Cooler Master 正在幫助釋放 NVIDIA Blackwell 平台的全部潛力,為客戶帶來令人難以置信的性能。”
  • Danfoss CEO Kim Fausing 表示:“Danfoss 專注於創新、高性能的快速斷開和流體動力設計,使我們的聯軸器在數據中心實現高效、可靠和安全的運行成為可能。作為 NVIDIA AI 生態系統的重要組成部分,我們的合作使數據中心能夠在滿足激增的 AI 需求的同時最大限度地減少環境影響。”
  • Delta Electronics 主席兼 CEO Ping Cheng 表示:“無處不在的計算能力需求引發了加速性能能力的新時代。通過我們先進的冷卻和

NVIDIA SPECTRUM 資料中心架構

  • 這個是一個基於乙太網路的技術,為了是在既有資料中心處理AI的超大流量,上面提到的DGX模式的運算能量,還是沒有辦法滿足現在超大型資料中心的運算需求,所以還有另外一個提供給資料中心的連結模式。
  • 這是提供給同時間需要進行超大量計算的資料中心使用。
  • 設備連接網卡BlueField-3 400G Super NIC,資料交換設備為 Spectrum SN5600
  • 未來可以透過新的平台串聯超過百萬GPU

Spectrum-X | 適用於人工智慧的乙太網路平台 | NVIDIA

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

NVIDIA Supercharges Ethernet Networking for Generative AI | NVIDIA Newsroom

NVIDIA 今天宣布,NVIDIA Spectrum™-X 乙太網路平台已被廣泛採用,並且加速了產品發布計劃。

CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 是首批採用 NVIDIA

NVIDIA 今天宣布,NVIDIA Spectrum™-X 乙太網路平台已被廣泛採用,並且加速了產品發布計劃。

CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 是首批採用 NVIDIA Spectrum-X 的 AI 雲服務提供商,將極致的網路性能帶入其 AI 基礎設施。此外,多家 NVIDIA 合作夥伴也宣布了基於 Spectrum 的產品,包括 ASRock Rack、ASUS、GIGABYTE、Ingrasys、Inventec、Pegatron、QCT、Wistron 和 Wiwynn,這些公司加入了 Dell Technologies、Hewlett Packard Enterprise、Lenovo 和 Supermicro 的行列,將該平台整合到他們的產品中。

“生成式 AI 等突破性技術的快速進步強調了每個企業都需要優先考慮網路創新以獲得競爭優勢,”NVIDIA 網路業務高級副總裁 Gilad Shainer 表示。“NVIDIA Spectrum-X 革新了乙太網路,讓企業能夠充分利用其 AI 基礎設施的力量來改變其運營和行業。”

年度發布節奏 Spectrum-X 是全球首個為 AI 構建的乙太網絡結構,其生成式 AI 網路性能比傳統乙太網絡結構快 1.6 倍。

為了滿足行業對 Spectrum 提供的性能的強烈需求,NVIDIA 創辦人兼 CEO 黃仁勳在今天於台灣的 COMPUTEX 主旨演講中宣布,NVIDIA 計劃每年推出新的 Spectrum-X 產品,提供更高的帶寬和端口,並增強軟件功能集和可編程性,以推動領先的 AI 乙太網路性能。

Spectrum-X 包括 NVIDIA Spectrum SN5600 乙太網交換機和 NVIDIA BlueField-3 SuperNIC,是一個端到端的平台,具有生成式 AI 雲所需的性能和功能。利用自適應路由和擁塞控制以最大限度地提高帶寬和噪聲隔離,它為 AI 提供了最高性能的乙太網路,為每個規模的數千個同時 AI 任務提供可預測的結果。

結合 NVIDIA BlueField-3 DPU,該平台能夠實現先進的雲多租戶、GPU 計算彈性和零信任安全。藉此,雲服務提供商可以加速 AI 解決方案的開發和部署,同時提高投資回報。

以下這個影片秒數從GPU開始一路到整個資料中心,將產品ROADMAP一次呈現。

下一代產品

  • KEYNOTE提到的都已經是成熟的產品,已經開始進行下一代平台的開發,每年都會提出新的架構。
  • 未來都是會在不同層級(GPU/NVLINK/NIC/SWITCH)會提供不同的新產品,下一代平台RUBIN
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

機器人

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
倉庫範例
2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說
工廠範例

Robotic Factories Supercharge Industrial Digitalization as Electronic Makers Adopt NVIDIA AI and Omniverse | NVIDIA Newsroom

NVIDIA 今天宣布,主要的台灣電子製造商正在使用該公司的技術,將其工廠轉變為更加自主的設施,並推出了一個新的參考工作流程。該工作流程結合了 NVIDIA Metropolis 視覺 AI、NVIDIA Omniverse™ 基於物理的渲染和模擬,以及 NVIDIA Isaac™ AI 機器人開發和部署技術。

通過使用該工作流程來構建數字孿生進行實時模擬不同的工廠佈局,製造商可以在不進行昂貴的物理變更的情況下優化空間、流程和效率。

NVIDIA 機器人與邊緣計算副總裁 Deepu Talla 表示:“製造業的 AI 已經來了。每個工廠都因生成式 AI 和數字孿生技術的變革性影響而變得越來越自主。通過 NVIDIA Omniverse、Metropolis 和 Isaac,工業生態系統可以加速採用自主技術,幫助提升運營效率並降低成本。”

電子製造商採用 NVIDIA 技術構建機器人設施

台達電子、富士康、和碩及緯創正在使用參考工作流程來構建、模擬和運營其機器人增強設施。

在 COMPUTEX 主旨演講中,NVIDIA 創辦人兼 CEO 黃仁勳展示了富士康——全球最大的電子製造商之一——如何在 NVIDIA Omniverse 平台上開發其工廠的數字孿生,該平台可以虛擬集成來自如 Siemens Xcelerator 平台的 Teamcenter 等領先行業工具的 3D 數據。

Omniverse 幫助富士康的團隊優化設備佈局以改善運營流量,並使用 NVIDIA Metropolis 的 AI 相機監控工人安全。富士康隨後可以將工廠數字孿生用作虛擬培訓環境,以模擬、測試和驗證其基於 NVIDIA Isaac Perceptor 加速庫構建的自主移動機器人(AMR),以及其由 NVIDIA Isaac Manipulator AI 模型驅動的 AI 機器人操作臂。

富士康 CEO 兼董事長劉揚偉表示:“AI 和機器人技術將革新製造業,提升工廠現場的安全性並顯著提高運營效率。通過將 NVIDIA Omniverse、Metropolis 和 Isaac 集成到我們的運營中,我們可以創建工廠的精細數字孿生,以培訓機器人,前所未有地優化工作流程並降低成本。”

台達電子

台達電子是一家領先的電子和基於物聯網的智慧綠色解決方案的製造商,正在使用 NVIDIA Isaac Sim™——一個基於 Omniverse 和 OpenUSD 開發的可擴展機器人模擬平台——來虛擬整合其演示生產線。然後,它生成物理準確的、逼真的合成數據,用於訓練其 NVIDIA Metropolis 驅動的自動光學檢查和缺陷檢測解決方案的計算機視覺模型。

和碩

和碩是一家台灣的製造商和服務提供商,正在部署 NVIDIA Metropolis 多相機工作流程,並推出一套新的服務,將其 NVIDIA Omniverse 和 Metropolis 工廠數字孿生工作流程連接到 NVIDIA NeMo™ 和 NVIDIA NIM™,以幫助工廠操作員實時“聊天”。這些技術進步將幫助改善和碩龐大工廠網絡中的工人安全和生產效率,該網絡覆蓋超過 2100 萬平方英尺,每月生產超過 1500 萬個組件。

緯創

緯創是一家全球領先的電子製造商,已構建其工廠的數字孿生,以加速 NVIDIA DGX™ 和 NVIDIA HGX™ 服務器的生產。現在,它正在擴展 Omniverse 的使用,以開發其用於測試和確保新組裝的 NVIDIA HGX 系統的質量、性能和能耗的數據中心數字孿生。

通過首先使用 NVIDIA Omniverse 模擬其設施和工作流程,緯創將其工廠上線時間縮短了一半——從典型的五個月縮短到僅兩個半月——並通過測試和優化佈局將工人的效率提高了超過 50%。

緯創全球製造總裁 Alec Lai 表示:“NVIDIA Omniverse 和 NVIDIA Metropolis 的結合使我們能夠在虛擬環境中測試新佈局,以識別新流程並使用來自生產線上每台機器的實時物聯網數據監控實時運營。數字化我們的工廠規劃流程使端到端周期時間減少了 50%。”

工業應用的生態系統擴展

台灣領先的系統集成商 Kenmec 是 Omniverse 和 Metropolis 工作流程和服務的早期實施者,為 Giant Group 等主要製造商提供服務。

為了幫助整個生態系統中的開發者,這些數字孿生工作流程將作為參考架構系列提供。

2024,COMPUTEX,COMPUTEX 2024,KEYNOTE,NVIDIA @傑西大叔 x 這裡胡說

COMPUTEX 2024 相關文章

最新新聞

傑西大叔

一個對客機有著無比熱情的旅人
一個對電子產品瘋狂的科技宅
一個被說對食物才有愛的吃貨
老本行是資訊產業,不小心跨足PODCAST圈,又是個器材控
骨子裡流著旅行人的血液,長著飛機人的翅膀
飛行超過125萬公里,繞了31圈的地球,65個機場,148條航線
能感受到各種隱藏在五感細節小巧思

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

Back to top button
Blogimove部落格搬家技術服務