谷歌于2月17日发布了TensorFlow Serving，这是个旨在帮助开发者将机器学习模型加入产品中的开源项目。很明显，TensorFlow Serving必然是为谷歌自家的TensorFlow机器学习库优化，不过谷歌也表示它可扩展到支持其它模型和数据。

如 TensorFlow这样的项目更易于构建机器学习算法，并为某些特定类型的数据输入做适应学习，而TensorFlow Serving则专注于让这些模型能够加入到产品环境中。开发者使用TensorFlow构建模型，然后使用TensorFlow Serving的API从客户端对输入做回应。谷歌同时还表示，TensorFlow Serving能够利用GPU资源加速处理过程。

如谷歌所说，有了这样的系统并不仅仅意味着开发者能够将其构建的模型更快的应用到产品中，而且还能够实验不同的算法和模型，并且仍保持稳定的结构。开发者还能够基于新的数据改善模型或者其输出，而架构的其它部分仍保持稳定。

谷歌表示，TensorFlow Serving采用C++编写，为性能做有优化，在16核至强设备上，每核每秒能够处理超过10万个请求。当前TensorFlow Serving的code以及教程已经能够在GitHub获取到(点击这里)。