安防云在PaaS部署大数据分析计算引擎 比如采用MapReduce的离线处理

来源:电子发烧友网 | 2019-11-07 15:11:35 |

对于智能视频图像分析服务,主要核心是智能分析算法引擎,目前业内普遍采用的是基于深度学习的智能视频图像分析算法,在IaaS基础设施层面上,一般都会采用高性能的GPU服务器设备提升算法执行效率。因此,在安防云平台上,GPU服务器设备集群已经成为一个必须的资源池,为安防云平台提供高性能的计算基础。

针对这方面的需求,科达自主研发的智能分析GPU服务器提供了高密度高性能的GPU计算能力,在标准4U服务器架构上,可提供不少于12套高性能GPU分析处理单元,支持堆叠扩展,可充分满足各类深度分析智能分析算法集群化及高密度的应用需求。

安防的云计算服务的核心内容是什么

在IaaS层系统层面,安防云计算平台需要将GPU计算资源高效管理和利用,采用集群化、虚拟化的方式进行资源的灵活调度和分配,最大限度地提升视频图像分析能力。同时,安防云平台还需要能够对GPU计算资源使用情况、GPU处理器的状态等进行密切的监控,在单个或者多个GPU计算设备故障的情况下,能够保证不会影响已经在进行的智能视频分析业务,实现GPU的池化服务性能。科达智能分析系统所采用的GPU服务器内置集群管理功能,可结合安防云平台中各类视频智能分析服务的需求提供丰富的资源监控管理和调度服务,实现云平台对GPU计算资源的高效应用。

此外,在PaaS层面上,安防云计算平台还可以进一步对智能视频分析服务进行分层,将算法框架以及具体的算法应用分离,能够提供各种类型的深度学习分析算法框架,如TensorFlow、Torch等,保证这些算法框架可以利用强大的云基础架构快速地调度各类计算资源,为具体的算法应用提供统一、可靠、便捷的资源服务平台。届时,各种具体的基于深度学习的智能分析应用,如:人脸分析、车辆分析、行为分析等即可在云平台上实现快速的部署和管理。

对于安防大数据分析服务,主要核心是各种大数据分析挖掘算法(PaaS层面),以及能够支撑这些数据分析算法的分布式数据库(DaaS层面)。安防大数据分析面对的是海量的安防数据资源,包括几十亿、上百亿的目标描述信息以及相关的特征信息,包括人、车目标记录,人像特征、人脸特征、车辆特征以及各种庞大的车辆信息库、人脸信息库等。这些数据需要高可靠的存储读写,并且要能高性能地分析利用起来。

在DaaS层面,科达采用高性能的分布式数据库技术,通过分布式计算以及横向便捷扩展特性,可以满足上百亿的数据存储、调用和分析的需求。分布式数据库通过采用数据离散存储、数据冗余保护、数据分层存储、内存加速、分布式计算等技术,为海量数据提供高可靠、高性能、易扩展的数据存储服务系统,满足安防云平台对海量结构化/半结构化数据存储、读写和分析计算的要求。

在分布式数据库的基础上,安防云平台在PaaS层面上部署各种分布式大数据分析计算引擎,以便对海量数据资源进行分析,比如采用MapReduce的数据离线处理,采用spark或者strom实现数据的近实时处理或者实时业务处理。支持大数据全文检索的引擎如slor+spark,支持数据挖掘的引擎如sparkHive等。

通过这些高性能的大数据分析的算法、流式数据处理技术,以高性能的分布式数据库为基础,进一步提升了海量数据分析的效率,满足实时的布控报警需求,从而能够实现由事后处理到事前预警的转变。(粟杰)

关键词: 安防云 PaaS 计算引擎