模式识别服务架构

向图像识别项目的开发者提问。组织此类服务架构的最佳方式是什么？

现在我倾向于决定使用专门的 Amazon EC2 P2 GPU 实例来处理数据（尤其是训练）。这些服务器安装了仅用于人工神经网络（Python、Anaconda、Keras、TensorFlow）操作的软件。在生产模式下，服务器将带有元数据的图像作为输入（具体如何处理图像以及返回什么数据），并在输出时返回一个 JSON 数组，具体取决于元数据的类型。那里没有存储任何特殊逻辑，所有分析都在 Web 应用程序服务器上进行。

训练和测试样本存储在单独的集群（具有大磁盘空间的常规服务器）中。他们自己的搜索机器人（通过社交网络和搜索引擎）找到的来自网络的图像也被加载在那里。

Web 应用程序与神经网络的交互是通过对 GPU 服务器的 API 请求来执行的。此外，结果已经发送给客户端（类似地，从客户端到 Web 应用程序的所有内容，然后到神经网络中的处理）。

现在主要问题：

1. 您在哪个领域进行分析？（例如，要确定一个男人在照片中穿着一件蓝色男式夹克，会执行一系列查询“搜索男人”->“搜索夹克”->“确定夹克的颜色”以神经网络以获得更高质量的响应并减少网络负载，如果前一个请求是肯定的，则每个请求都单独执行）。在单个神经网络中实现所有搜索选项是否有意义，或者为相当简单的任务创建许多单独的神经网络是否更好？
2. 您如何在培训和网络阶段优化资源消耗？到目前为止，我唯一的选择是在云托管的框架内创建一个专门的 GPU 集群进行训练，并根据需要定期打开它（否则它会变得很昂贵）。