雷锋网消息,2019深圳安博会前一天,比特大陆在深圳发布了第三代智能服务器SA5,这款AI服务器搭载了9月刚发布的BM1684 AI芯片,主要面向视频及图像智能分析领域。比特大陆董事长詹克团在发布会现场表示,未来3-5年视频结构化的市场规模将是今天的1万倍,单路视频结构化价格下降100倍是一个合理的水平。
视频结构化市场规模3-5年将增加1万倍
之所以需要视频结构化,是因为摄像头采集的原始视频图像是非结构化的数据,不能直接被计算机读取和识别,想要让视频图像在智慧城市、平安城市更好发挥作用,就需要用智能视频分析技术对视频图像进行结构化处理。以安防领域为例,需要对原始视频进行智能分析,获得三类关键信息,首先是识别出运动目标,然后进一步判断出运动的目标是人、车还是动物,以及他们所具备的特征,最后再分析识别出的目标的运动轨迹。
这其中,涉及到时空分割、特征提取、对象识别、深度学习等处理手段,这一过程十分复杂,且需要强大的算力支持,所以目前视频结构化尚未大规模应用。詹克团表示,今天市场上几千路级别的视频结构化只是零零星星的出现,我们中了的一个视频结构化的项目,只有几千路,已经是非常大的规模。但未来所有摄像头的数据都会被结构化,并且在云端被结构化。
他同时指出,目前全球每年出货的安防摄像头数量大概是1亿只,按照5年的存量来计算,就是5亿只,并且这绝大部分都在中国。因此,未来3-5年视频结构化市场规模将是今天的1万倍,但如果按照今天的市场价格,一定做不下来。所以,从技术和产品的角度看,未来3-5年市场的单路视频结构化价格会下降,我认为下降100倍是合理的水平。
比特大陆AI业务线总裁王晨光
性能提升8倍,降低算力成本
既然要大幅下降视频结构化的成本,底层的算力成本的降低至关重要,SA5的推出的重要原因之一就是迎合视频和图片结构化的需求。比特大陆AI业务线总裁王晨光在发布会现场表示,“比特大陆算丰智能服务器SA5主要面向视频及图像智能分析领域,可搭载第三方算法,运行视频结构化、人脸检测识别、车辆检测识别、物品检测识别、视频检测等多类安防和互联网视频智能分析应用,是目前人工智能领域最为成熟、稳定的智能服务器”。
据了解,基于BM1684的SA5是 19 英寸的标准 2U 服务器,内置3个智能分析单元,包含24颗BM1684 芯片,可以提供浮点32位2.2*24TFlops以及整型8位17.6*24Tops的峰值计算力。功耗方面,SA5整体功耗小于700W,INT8模式下可提供高达422T的算力,性能较上一代产品提升约8倍。
发布会现场,比特大陆展示了基于CPU和GPU的384路实时视频流的效果,可以看到GPU在处理视频时更具优势,但TPU能带来更好的性能。王晨光表示,单台SA5 具备768路 30帧每秒的1080P视频的处理能力或每秒12000张人脸图片的检测分析,能大大提升智慧城市、智慧安防、互联网等行业视频/图像智能分析的效率。
另外,SA5采用可插拔模块化设计,内置主控单元(MPU)、算力单元(AIU)、存储单元等核心模块,能够方便后期的运维。主控单元部分,是基于X86架构的智能管理调度系统,能够实现算法部署、系统升级、算力性能监控、能耗管理、算力动态负载均衡。可以为AIU单元提供管理以及数据交换, 20G的网络接口以满足算力数据的输入输出。
算力单元是服务器的核心,SA5集成的是BM1684,单个单元最多集成8块BM1684芯片,整机可以按需配置多个单元。SA5的存储单元是选配单元,在不满配算力单元的有情况下可以加配存储单元。
至于BM1684,定位是聚焦于云端及边缘应用的人工智能推理,采用台积电12nm工艺,在典型功耗仅16瓦的前提下,FP32精度算力达到2.2TFlops,INT8算力可高达17.6Tops,在Winograd卷积加速下,INT8算力更提升至35.2Tops。同时,BM1684芯片还内置多种加解密算法,可保护客户的算法安全、模型安全可靠,创建安全可信的计算环境。更详细的解读请查看雷锋网此前的报道。
詹克团透露,明年还将发布性基于7nm工艺的第四代BM1686 AI芯片。
算法公司都是朋友
算力成本降低的同时,只有与算法进行更好的融合才能带来效率的提升最终实现成本100倍的降低。不过詹克团强调,比特大陆专注于算力芯片和算力硬件的提供,不在市场上销售算法,所有的算法厂商都是我们的朋友,都是我们的生态合作伙伴,都是我们的客户。
因此,为了能够让开发者和使用者快速便捷的实现视频结构化分析、人脸识别等智能应用,比特大陆提供底层驱动环境、编译器、推理部署工具等一站式的工具包——BMNNSDK(BITMAIN Neural Network SDK)。
据悉,通过BMNNSDK,开发者基于深度学习框架开发训练的模型,可以自动编译转化成在SA5高性能计算平台效运行的应用,当前支持的深度学习框架包括TensorFlow、Caffe、mxnet、ONNX、Caffe2等,支持CNN/RNN/DNN等神经网络模型。
与比特大陆不同的是,不少AI芯片公司都会提供软硬一体的解决方案,为的是实现更好的软硬一体化。比特大陆为何选择不卖算法而是与算法公司合作?詹克团在BM1684的发布会后接受雷锋网采访时表示,AI领域软硬一体化在终端摄像头可能带来成本和性能的优势,但云端是一个通用的高性能计算中心平台,一定要能够支持多种不同算法。比特大陆在这方面也经过很长世间的思考,最后我们决定有所为有所不为,提供芯片和算力硬件,和更多的算法厂商合作打造生态。
在SA5的发布会上,比特大陆的合作伙伴中科云从、以萨、深瞐、千视通分别分享了他们如何与比特大陆的合作,四位分享者都提到,比特大陆提供的工具链和服务都可以让他们可以很方便且高效率地使用硬件的算力,但也同时表示,他们可以提高算法的精度,要实现成本足够低,还需要比特大陆提供成本更低的硬件。
既然选择了合作的方式,生态的构建自然更加重要,发布会上,比特大陆与中科云从、以萨、深瞐、千视通、英飞拓、智慧眼科技、华付、南泽智能、华尊科技、蓝典科技、灵想科技、航康信息、伟视清、叁拾柒号仓、考斯、鑫和汇通、小牛智能等17家生态合作伙伴同时签约,共同搭建开放的生态系统。
雷锋网(公众号:雷锋网)小结
AI技术的落地需要更高算力的支持,这也是近年来AI芯片如此受关注的重要原因。比特大陆之所以能在AI芯片领域取得不错的成绩,很重要的原因就在于其成立之初就一直专注于专用芯片的设计,自2016年第一代AI芯片流片之后,不断积累在AI芯片领域的经验。至于只提供硬件,与广大算法公司合作的方式能否成功,则有待观察,不过目前基于比特大陆算力的硬件在城市大脑、智慧安防、智慧社区等领域都有不错的进展。
相关文章:
。
原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/66802.html