成功案例

首页 - 成功案例 - 成功案例

【案例】整体性价比提升2.5倍,涂鸦智能40%应用已迁移至ARM 架构

2021-02-22 发布

涂鸦智能是一家全球化AI+IoT领军企业,连接消费者、制造品牌、OEM厂商和连锁零售商的智能化需求,为开发者提供一站式人工智能物联网的PaaS级解决方案,业务涵盖了硬件开发工具、全球云、智慧商业平台开发三大方面,提供从技术到营销渠道的全面生态赋能,打造世界领先的IoT OS。

目前,涂鸦智能每天处理的设备请求平均为840亿次,高峰时可达到150万次/秒,同时云端服务器响应时间小于10毫秒/次,每天还会处理1.2亿次的AI语音交互数据。

面对业务高速发展的不断挑战,涂鸦希望为客户提供一个全球化的高可用IoT平台。但是,依靠涂鸦自建全球数据中心,成本高,运维困难,而且由于业务增长迅速,必须做到实时扩容。因此,涂鸦选择牵手亚马逊云服务(AWS)为客户提供高可用、性价比高的云服务平台。

涂鸦智能云端开发部首席架构师陈亚焱介绍,在涂鸦的技术平台架构中,每个IoT设备首先通过MQTT(Message Queuing Telemetry Transport,消息队列遥测传输协议)连接到云端,底层同时支持TLS(Transport Layer Security,安全传输层协议)和QUIC(Quick UDP Internet Connection,快速UDP网络连接),而涂鸦智能率先将QUIC用于MQTT协议,旨在得到更高性能的网络传输以及在入网环境下更好的表现。

该平台通过AWS的NLB(Network Load Balancer,网络负载均衡),将请求转发到后端具体的实例上。目前,涂鸦的Levimqm2m协议解析、Levimqcore请求处理及连接认证、peadb自研内存数据库等三层应用已经全部切换到AWS的Graviton2。

从测试数据效果来看:在架构方案测试时,使用×86的时候,CPU的占用率大约为27%,2020年8月开始向Graviton2迁移后,CPU的占用率降到了平均12%以下。

陈亚焱指出,从测试数据上看Graviton2带给涂鸦三个主要成果:一是CPU的性能提升了100%,二是服务器单价降低了20%,三是整体性价比提升了2.5倍。

目前,涂鸦已经将大约40%的实例切换到了Graviton2架构的实例上。鉴于Graviton2如此优秀的表现,涂鸦未来会逐步将更多的实例向Graviton2进行迁移。

AWS大中华区产品部计算与存储总监周舸介绍,Graviton2除了适合于IoT网关和视频处理编解码应用,还有很多更广泛的适用范围。

比如在高性能计算领域,有客户已经使用Graviton2进行天气预报的运算;在流体设计领域,很多客户已经开始使用Graviton2进行飞机、船舶的设计;在半导体设计领域,最主要的三大EDA软件应用都已经成功在Graviton2上跑出了优异的性能。

AWS 总结Graviton2最适用的领域主要包括Web 应用和游戏服务器、开源数据库、高性能计算HPC、内存缓存、媒体编解码、电子设计自动化EDA、数据分析、微服务等。

ARM芯片的优异性能主要得益于架构上的明显优势。在需要并行处理多个任务的时候,传统的x86架构采用SMT多线程方式,会产生争夺缓存等资源的现象,例如在一个核上同时跑2个任务,就会影响到彼此的性能。但是在ARM架构中,应用在两个核中独立运行,不会发生任何资源的争夺。

周舸表示,AWS推出ARM架构的Graviton2,就是基于客户开发环境、开发语言、应用架构、微服务化等变化所带来的特点,旨在充分发挥CPU所有晶体管的能力,带给客户极致性价比的解决方案。

相信在不久的将来,会有越来越多使用Gravition2的成功应用。