TensorFlow 官方博客宣布开源新的运行时 TFRT,该运行时提供了统一的、可扩展的基础结构层,并在各类硬件上均具有高性能。
TFRT 产品经理 Eric Johnson 表示,TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比,新的运行时将急切的执行需求放在第一位,同时特别强调架构的可扩展性和模块化。

它能够很好地满足开发复杂模型时寻求更快的迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求,以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。
简单来讲,TFRT 可以减少开发、验证和部署企业级模型所需的时间。
TFRT 利用了 eager 和图形执行的通用抽象,为了获得更好的性能,其图执行器支持并发执行操作和异步 API 调用。在性能测试中,与 TensorFlow 当前的运行时相比,TFRT 将经过训练的 ResNet-50 模型(一种流行的图像识别算法)在图形卡上的推理时间缩短了 28%。
TFRT 仍处在早期开发阶段,它已经与 TensorFlow 集成,最终将成为其默认运行时。
关于 TFRT 的更多信息,可查看 TensorFlow 官方博客:
https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html
特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
站长资讯网