欧美牲交a欧美在线,国产色婷婷亚洲99麻豆,国产GAYSEXCHINA男同,中国少妇毛多水多BXⅩ

概況

NVIDIA L40S 加速下一代工作負(fù)載，為數(shù)據(jù)中心賦予 AI 和圖形性能的GPU，生成式 AI 正在推動(dòng)轉(zhuǎn)型變革，為各行各業(yè)開辟領(lǐng)域迎來新的機(jī)遇。要借助 AI 實(shí)現(xiàn)轉(zhuǎn)型，企業(yè)需要更多的計(jì)算資源、更大的規(guī)模和更為廣泛的功能來滿足不斷增長的多種復(fù)雜工作負(fù)載的需求。

NVIDIA L40S GPU 是一款適用于數(shù)據(jù)中心的功能強(qiáng)大的通用型 GPU，可為下一代AI 應(yīng)用提供端到端加速服務(wù) ? 從生成式 AI 以及模型訓(xùn)練和推理到 3D 圖形、渲染和視頻應(yīng)用。

 

應(yīng)用

> 生成式 AI

> 大語言模型 (LLM)

> 訓(xùn)練和推理

> NVIDIA Omniverse? Enterprise

> 渲染和 3D 圖形

> 串流和視頻內(nèi)容

 

特性

第四代 Tensor Core

針對(duì)結(jié)構(gòu)化稀疏和優(yōu)化的 TF32 格式提供硬件支持， 為 AI 和數(shù)據(jù)科學(xué)模型訓(xùn)練提供開箱即得的性能提升?？衫?DLSS 技術(shù)加速 AI 增強(qiáng)型圖形功能，從而在特定應(yīng)用中提供更高的分辨率和更好的性能。

第三代 RT Core

增加的吞吐量以及并發(fā)光線追蹤和著色功能可提升光線追蹤性能，從而加快產(chǎn)品設(shè)計(jì)以及建筑、工程和施工工作流程的渲染。借助硬件加速的動(dòng)態(tài)模糊和令人驚嘆的實(shí)時(shí)動(dòng)畫，查看逼真的設(shè)計(jì)。

Transformer 引擎

Transformer 引擎可加速 AI 性能，并提高訓(xùn)練和推理的顯存利用率。憑借 Ada Lovelace 第四代 Tensor Cores 的強(qiáng)大功能，Transformer 引擎可以智能掃描Transformer 架構(gòu)神經(jīng)網(wǎng)絡(luò)的各個(gè)層，并在 FP8 和 FP16 精度之間自動(dòng)重鑄，從而提供更快的 AI 性能并加速訓(xùn)練和推理

數(shù)據(jù)中心就緒

NVIDIA L40S GPU 針對(duì)全天候企業(yè)數(shù)據(jù)中心運(yùn)營進(jìn)行了優(yōu)化，并由 NVIDIA 提供設(shè)計(jì)、構(gòu)建、測試和支持，以確保更大限度地實(shí)現(xiàn)性能、耐用性和正常運(yùn)行時(shí)間。NVIDIA L40S GPU 符合新的數(shù)據(jù)中心標(biāo)準(zhǔn)，支持網(wǎng)絡(luò)設(shè)備構(gòu)建系統(tǒng) (NEBS) 3 級(jí)標(biāo)準(zhǔn)，并采用了信任根技術(shù)的安全啟動(dòng)功能，可為數(shù)據(jù)中心提供額外的安全保護(hù)層

規(guī)格

GPU 架構(gòu)	NVIDIA Ada Lovelace 架構(gòu)
GPU 顯存	帶有 ECC 的 48GB GDDR6
顯存帶寬	864Gb/s
互聯(lián)接口	PCIe 4.0x16：64Gb/s 雙向
基于 NVIDIA Ada Lovelace 架構(gòu)的 CUDA Core 核心	18,176
NVIDIA 第三代 RT Core	142
NVIDIA 第四代 Tensor Core	568
RT Core 性能 TFLOPS	209
FP32 TFLOPS 單精度浮點(diǎn)運(yùn)算能力	91.6
TF32 Tensor Core TFLOPS	183 I 366*
Bfloat16 浮點(diǎn)運(yùn)算性能 Tensor Core TFLOPS	362.05 I 733*
FP16 Tensor Core	362.05 I 733*
FP8 Tensor Core	733 I 1,466*
INT8 Tensor TOPS 峰值 INT4 Tensor TOPS 峰值	733 I 1,466* 733 I 1,466*
外形規(guī)格	4.4"（高）x 10.5"（長）- 雙插槽
顯示端口	4 個(gè) DisplayPort 1.4a
最 大功耗	350 瓦
電源接口	16 針
散熱	被動(dòng)
支持虛擬 GPU (vGPU) 軟件	是
支持 vGPU 配置文件	請(qǐng)參閱《虛擬 GPU 許可指南》
NVENC | NVDEC	3x | 3x（包含 AV1 編碼和解碼）
通過硬件信任根進(jìn)行安全啟動(dòng)	是
NEBS Ready	3 級(jí)
MIG 支持	否
NVLink 支持	否

*采用稀疏技術(shù)

（此內(nèi)容由g8fo6b.cn提供）