5月20日消息，NVIDIA宣布，TensorRT AI推理加速框架现已登陆GeForce RTX显卡，性能比DirectML直接翻倍。
TensorRT是NVIDIA推出的一种推理优化器，能够显著提升AI模型的运行效率，此次，NVIDIA将TensorRT引入RTX平台，使得所有RTX显卡的用户都能享受到更快的AI性能。
根据NVIDIA的介绍，TensorRT不仅支持原生Windows ML，还能够自动选择合适的硬件来运行每个AI功能，并下载相应的执行提供程序，极大地简化了开发流程。
在性能方面，NVIDIA展示了TensorRT与DirectML的对比数据：在ComfyUI中，使用TensorRT的用户可以获得高达2倍的性能提升；在DaVinci Resolve和Vegas Pro中，性能提升达到了60%。
此外，TensorRT for RTX还带来了其他优势，例如8倍更小的库文件大小和针对每个GPU的即时优化，这些改进不仅提升了性能，还优化了软件的存储和管理。
TensorRT for RTX将在6月正式推出，NVIDIA还在不断扩展其AI SDKs，目前正为超过150个AI SDK提供支持，本月将推出5个新的ISV集成，包括LM Studio、Topaz Video AI、Bilibili、AutoDesk VRED和Chaos Enscape等。
本文转载于快科技，文中观点仅代表作者个人看法，本站只做信息存储
阅读前请先查看【免责声明】本文来自网络或用户投稿，本站仅供信息存储,若本文侵犯了原著者的合法权益，可联系我们进行处理。 转载请注明出处：https://www.bjjwt.cn/news/3551.html
