格灵深瞳

厂商: 格灵深瞳

格灵深瞳成立于2013年4月,是一家一起具有核算机视觉和深度学习技能以及嵌入式硬件研制才能的人工智能公司,作为一家视频大数据产品和计划供给商,在人和车的检测、盯梢与辨认等技能坚持自主研制,首要重视的范畴包含公共安全、智能交通、金融安防等,一起在无人驾驶、机器人和智能医疗方面也进行了深化的布局。

运用产品:

布景介绍

2016年,Alpha Go和人类围棋大师的两轮对决改写了群众对人工智能的认知,也让人工智能成为言论焦点。本年7月20日,国务院公布《新一代人工智能开展规划》,清晰将人工智能作为未来国家重要的开展战略。UCloud作为国内抢先的云核算公司,2017年头提出了“CBA”三位一体开展战略,其间人工智能跟着云核算、大数据、深度学习等技能完成了快速开展。

客户介绍

人工智能的五大中心技能包含核算机视觉、机器学习、自然言语处理、机器人和语音辨认。格灵深瞳是一家一起具有核算机视觉、深度学习技能以及嵌入式硬件研制才能的人工智能公司,具有全球抢先的三维视觉感知技能,协助核算机理解人的行为轨道,也是一家将人工智能运用于金融安防、智能交通等范畴的公司。

项目布景及事务应战

经过多年技能堆集和沉积,格灵深瞳在金融安防、智能交通等职业累积很多了数据,经过深度学习技能,进一步将核算机视觉功能进步。接下来,格灵深瞳将开辟商场、超市等连锁企业,为他们供给智能视频监控处理计划,完成真实的商业化。


 
跟着事务拓宽,格灵深瞳很需求GPU做在线服务的核算支撑,布置客户前端的智能摄像时机进行画面抓拍,一起把画面传回云端,由云端的GPU集群来进行核算,而且能够快速将回来的成果供给给用户。

UCloud处理计划

一直以来,UCloud都走在科技开展前沿。在人工智能鼓起之初,公司便活跃与国内抢先的人工智能公司触摸,一起讨论人工智能与云核算的结合点。因而,在与格灵深瞳触摸中,UCloud深化发掘客户痛点,运用强壮技能实力和杰出服务,成功拿下人工智能范畴的标杆客户。
经过与客户一系列的接洽,UCloud总结出此类客户以往的IT架构,并拿出了针对AI客户的处理计划。

格灵深瞳等传统AI客户的IT架构以自建机房为主


软件架构:
  • 需求保护多套深度学习结构,如:Tensorflow、Caffe;
  • 很难进行结构层面优化以完成较好的练习功能;
  • 需求自己保护一套驱动库房,不同GPU卡对应不同的显卡驱动;
  • 练习数据品种繁复,数据量较大,办理起来较杂乱,包含热数据备份和冷数据归档、存储容量扩展性、IOPS和带宽吞吐量等,都是杂乱的工程性问题。
硬件资源:
  • 需求自己购买机柜、X86服务器、GPU显卡、UPS电源、交换机、路由器,保护本钱高;
  • 需求保护一个X86服务器的备件库,确保GPU服务器的较高的练习功率;
  • 服务器、GPU卡归于固定资源,无法做到资源快速扩展,从头收购周期较长;
  • 练习数据的周期性迭代,使得硬件资源运用率存在凹凸峰值。
资金投入:
  • 硬件资源购买需一次性投入很多资金;
  • 电费开支巨大,一般还需求触及电路改造;
  • 需求专业的硬件和操作体系运维工程师。

UCloud软硬件并行,供给完善的处理计划

硬件资源:

UCloud供给NVIDIA Tesla系列GPU卡P40。P40是NVIDIA推出的专门用于深度学习练习和推理的GPU卡,供给比CPU服务器快40倍的深度学习推理速度,选用NVIDIA新的PascalTM 架构和16纳米制作工艺,具有3840个流处理器,中心主频高达1303~1531MHz,24GB GPU显存;高达12 TFLOPS单精度浮点运算和47TFLOPS整数运算才能(INT8)让深度学习的速度飙升。
UCloud供给单机4卡P40物理机:

 
UCloud供给根据P40云主机:

UCloud处理计划

格灵深瞳云端架构:

    格灵深瞳原先自建的机房深度学习练习渠道运用单机8卡(GTX 1080Ti)的GPU物理机。迁移到UCloud云上之后,挑选UCloud的单机4卡(P40)GPU物理机+单机4卡(P40)GPU云主机,练习数据三副本存放在UCloud供给的3台万兆网络环境的SSD物理机上,终究完成资源层弹性弹性和存储层可靠性。
 

软件架构(PaaS):

    UCloud最近刚发布了AI-Train在线练习产品,处理包含代码办理、运转环境保护、GPU办理保护、数据办理等模型练习过程中的每个环节,供给一站式Paas处理计划。下一步,咱们将了解格灵深瞳的软件架构,为其处理模型练习场景所带来的一系列工程性难题。




 客户收益

经过运用UCloud的服务,协助格灵深瞳处理硬件本钱以及人力本钱,大幅度降低了格灵深瞳的本钱投入。
资金投入前后比照:
前:硬件资源购买需一次性投入很多资金。
后:UCloud一切产品都能够供给按需付费形式,不需求一次性付费,进步了客户资金的利用率。

前:电费开支巨大,一般还需求触及电路改造。
后:UCloud一切GPU资源都不收取产品费用以外的任何费用。

前:需求专业硬件和操作体系运维工程师。
后:UCloud一切GPU产品有专业的团队运营保护,发作硬件毛病后,能够快速从备件库更换新硬件,或许敞开新的GPU资源,删去毛病机器。

现在,格灵深瞳已经成为UCloud在人工智能范畴的标杆客户。在探索探寻人工智能的道路上,咱们发现“中立性”是人工智能公司对云核算厂商重要评价规范之一。此次UCloud成功将人工智能技能与云核算服务结合,从中带来的经历和可仿制性,将为UCloud进军人工智能范畴打下坚实的根底。