TensorFlow 官方博客宣布开源新的运行时 TFRT，该运行时提供了统一的、可扩展的基础结构层，并在各类硬件上均具有高性能。

TFRT 产品经理 Eric Johnson 表示，TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比，新的运行时将急切的执行需求放在第一位，同时特别强调架构的可扩展性和模块化。

它能够很好地满足开发复杂模型时寻求更快迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求，以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。

简单来讲，TFRT 可以减少开发、验证和部署企业级模型所需的时间。

TFRT 利用了 eager 和图形执行的通用抽象，为了获得更好的性能，其图执行器支持并发执行操作和异步 API 调用。在性能测试中，与 TensorFlow 当前的运行时相比，TFRT 将经过训练的 ResNet-50 模型（一种流行的图像识别算法）在图形卡上的推理时间缩短了 28％。

TFRT 仍处在早期开发阶段，它已经与 TensorFlow 集成，最终将成为其默认运行时。关于 TFRT 的更多信息，可查看 TensorFlow 官方博客。