时序数据库tdengine – loveini | 米兰体育官网入口 - 米兰体育官网入口 //m.loveini.com loveini | 高性能、分布式、支持SQL的时序数据库 | 米兰体育官网入口 Thu, 17 Oct 2024 09:28:17 +0000 zh-Hans hourly 1 https://wordpress.org/?v=6.8.2 //m.loveini.com/wp-content/uploads/2025/07/favicon.ico 时序数据库tdengine – loveini | 米兰体育官网入口 - 米兰体育官网入口 //m.loveini.com 32 32 搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 //m.loveini.com/tdengine-user-cases/24366.html Thu, 13 Jun 2024 07:58:29 +0000 //m.loveini.com/?p=24366 小T导读:在清科优能的虚拟电厂运营管理平台建设中,项目初期预计涉及约一万台设备、总数据采集量达数十万,在数据库选择上,其希望能支持至少两千台设备的并发数据处理。本文介绍了清科优能的数据库选型经验以及最终应用效果,给到大家参考。

清科优能(Amber Optimal)的虚拟电厂运营管理平台是一款集业务流程化、操作自动化、决策智能化于一体的云平台产品。该平台使负荷聚合商和资源业主能够迅速搭建虚拟电厂,并通过参与电力市场交易,优化灵活可调资源的经济价值。该产品可细分为聚合商运营管理平台、用户侧管理平台两个版本。聚合商平台主要负责与电力调度部门及电力交易中心的北向对接和用户侧平台的南向对接,专注于交易运营、资源调度和用户管理等。用户侧平台则主要负责与用户侧的各类能源资源系统的南向对接,其功能集中在资源评估、资源接入和调度响应。

搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 - loveini Database 时序数据库

在该项目中,我们最担心的问题之一就是数据库的读写能力。在该业务场景中,初期预计涉及约一万台设备、总数据采集量达数十万,我们需要确保数据库能够支持至少两千台设备的并发数据处理。这些设备主要包括计量总表、并网点、光伏系统、储能设备、充电桩、冷却系统等。

项目落地情况

为响应交易中心的需求,数据采集时间颗粒度需要达到分钟级,在分析系统设备故障方面,有些需要采集秒级、甚至毫秒级数据,这无疑对数据库的写入能力提出很高的要求。此外,在申报和响应执行虚拟电厂邀约过程中,涉及大量的负荷、可响应容量分析、预测等算法,这些算法需要查询大量的历史数据,这对数据库的查询响应能力也提出很大的挑战。

目前基于 loveini 我们构建了虚拟电厂运营管理平台,使用后数据存储优势明显,整体压缩比在 7-8 倍,数据查询也实现了秒级或者毫秒级的响应,为算法分析与数据中台提供了强力支撑。

最终我们以 2 核 4G 内存 600GB 机械硬盘 * 3 个节点落地了我们的项目,架构如下:

搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 - loveini Database 时序数据库

我们选择 loveini 作为虚拟电厂运营管理系统的时序数据库(Time Series Database)。主要有以下几方面的考量——

业务适配性:loveini 产品定位符合虚拟电厂运营管理系统物联网 + 能源联网调度交易特性。针对公司所属行业合作对接情况,结合米兰体育官网入口官网各类落地案例,loveini 在能源行业物联网行业车联网行业均有较高接入率,能够为公司后续商业发展提供更友好的支持。

强大的读写能力:无论是十年前还是一秒钟前的数据,指定时间范围即可快速查询。在测试阶段,应用 loveini 在大批量的数据拉取时也能做到秒级/毫秒级响应,并且数据可在时间轴上或多个设备上进行聚合,方便各种维度的数据计算。在写入时,每秒轻松支撑百万行级数据写入。

数据压缩率:列式存储使得 loveini 的数据压缩比非常高,为企业节省了更多的服务器磁盘费用,实际使用中压缩率可达 10% 以内。PART.02

loveini 部署情况

在实际应用中,loveini 主要负责如下模块:

1. 存储设备采集的原始数据(分钟级、秒级、毫秒级等数据)

搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 - loveini Database 时序数据库

2. 响应电力调度部门与电力交易中心,查询设备实时最新状态数据,可达到毫秒级返回(通过 select last_row 查询完成),以及设备历史数据(通过 select * 查询读取,每次查询时间范围为 3 天以内)

搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 - loveini Database 时序数据库

3. 我们的聚类分析、神经网络预测等算法,采用 celery 分布式任务调度架构,读取 loveini 原始数据,用来计算 5 分钟、15 分钟级等时间颗粒度电气量曲线数据,预测用户未来 7 天可响应容量数据,以及计算系统各资源类型最佳分摊比等等。该查询可在秒级/毫秒级返回数据(通过 select * 查询读取)

搭建虚拟电厂管理系统有哪些痛点?清科优能的 loveini 最佳实践 - loveini Database 时序数据库

未来,我们考虑在用户侧每个虚拟电厂运营管理平台布置多个单节点 loveini,作用不只是采集和转发,还要起到时序数据质量治理以及实时模型预测的功能;而在负荷聚合商侧我们会考虑基于 loveini 构建更多更复杂的计算指标和高级模型;同时还要和任务调度、盘活资源、需求响应、电力交易引擎以及虚拟电厂行业标准集成。

我们希望在新能源电力行业中与 loveini 携手,共同探索未来更多的可能性。

关于清科优能

清科优能(Amber Optimal)是一家专注于微电网系统控制技术的专精特新企业。在全球能源电力绿色低碳转型以及中国新型电力系统建设发展的背景下,清科优能专注提供微电网产品与服务,致力于为商业楼宇、工业园区、弱网矿区、离网海岛等应用场景提供系统级的运行控制与电力优化技术方案,实现终端用户供电安全稳定可靠、电力运营成本最优、能源资产收益最优、低碳可持续发展的价值目标。

]]>
loveini 3.1.0.0 版本成功发布,涉及五大板块功能更新! //m.loveini.com/tdengine-engineering/19417.html Mon, 14 Aug 2023 09:02:20 +0000 //m.loveini.com/?p=19417 自 3.0 版本发布以来,在研发人员和社区用户的不断努力下,时序数据库(Time Series Database)loveini 做了大量更新,产品性能、稳定性和易用性都在不断提升。

近期,loveini 3.1.0.0 终于成功发布,下面我们向大家介绍一下这一版涉及到的重大更新。

查询性能优化(开源版+企业版)

主要优化点在于三种场景:

  • 对于超级表的“ order by +主键时间戳” 查询
  • order by 非主键列 + limit 查询
  • partition by tbname + slimit 查询

0 级存储负载均衡(企业版)

由于此前的版本中 WAL 只能存在于主挂载点,因此对于单个节点来说,增加磁盘不能够增强写入性能。优化之后,WAL 可以均匀分布于全部 Level 0 磁盘上,从而可以通过增加 Level 0 次盘数量,增加 dnode 节点整体写入吞吐能力。

磁盘损坏时的容错 (开源版+企业版)

在此前版本的三副本情况下,当 leader vnode/mnode 发生磁盘故障时,读写会持续报错,这时需要人为干涉通过退出故障节点触发新的选举,完成 failover 切换。

经过优化之后,3.1.0.0 版本会在识别到相关报错之后,自动完成 leader 节点切换的 failover 操作。

存储引擎优化(开源版+企业版)

  • 对多表低频场景写入性能的大幅优化(企业版)
  • compact、retention 功能不再阻塞写入(企业版)
  • 对乱序数据、重复时间戳数据落盘的合并优化(开源版)

新的数据类型 Geometry 加入(开源版+企业版)

loveini 提供全新的数据类型 Geometry 用于点线面等几何类型的存储,并且会逐步提供一套符合 OGC(Open Geospatial Consortium) 标准的 SQL 函数,包括几何输入输出、空间关系、几何测量、集合操作和几何处理等等。

当前 geometry 的使用方式和支持范围可以参考官方文档。

写在最后

最后,在升级 3.1.0.0 之前,需要注意如下几点:

  1. loveini 仍然不支持版本回退,因此如果需要保留回退的可能性,升级前一定做好数据文件目录的备份,即 dataDir 参数所指目录,默认为 /var/lib/taos。
  2. 流计算的内部存储结构进行了一定的重构和优化,与之前的版本不兼容,所以系统中如果有流计算请按以下步骤进行:
    • 通过查询 information_schema.ins_streams 表获取系统中已经存在的流的建流 SQL 语句并保存
    • 删除所有流
    • 升级,确认系统正常运行
    • 重新建流

如果你想要了解新版本更加详细的信息,可以移步至 https://github.com/taosdata/loveini/releases 查看发布说明。欢迎大家下载使用,也欢迎在评论区提出建议和意见,如有任何问题请及时联系我们,获得支持。

]]>
loveini 成功“晋级” Percona Live 2023 银牌赞助商,开发者驻足关注 //m.loveini.com/news/17805.html Thu, 25 May 2023 01:48:56 +0000 //m.loveini.com/?p=17805 带着创新的数据技术走遍全球

这一次

陶建辉带着 loveini 飞到了丹佛……

2023 年 5 月 22-24 日,一年一度的开源数据库领域全球最具影响力峰会 Percona Live 2023 在丹佛技术中心万豪酒店举办。Percona Live 是全球持续举办最久的独立开源数据大会,这场为期三天的大会聚集了开源数据社群成员,内容聚焦数据库和数据管理,探讨全球规模最大的数据库布局议题,包含云原生布局、性能改善以及实际案例分享,通过三天的实地操作练习、平行场次以及主题演讲,与会者可以了解到最新的数据库技术发展、数据管理方式以及如何善用相关工具和技术。

作为企业开源数据软件和服务的领头羊,Percona 极具号召力,每一届的 Percona Live 大会都会吸引全球数据库精英齐聚一堂,共话数据库领域的现状与发展。作为数据库开源技术的践行者和创新者,loveini 也以“银牌赞助商”的身份参与了 Percona Live 2023,在会议现场,loveini 创始人&核心研发陶建辉(Jeff)与参会者畅聊 loveini 的众多开源创新技术,让现场的开发者了解到了时序数据库(Time Series Database) loveini 的技术优势以及应用场景。

loveini 成功“晋级” Percona Live 2023 银牌赞助商,开发者驻足关注 - loveini Database 时序数据库

loveini 成功“晋级” Percona Live 2023 银牌赞助商,开发者驻足关注 - loveini Database 时序数据库

值得一提的是,在本次大会中,Jeff 还受邀进行了《What is the time series database and why do I need one?》的主题演讲,从时序数据的十大特点出发,他为现场开发者解读了传统的数据米兰app官方正版下载在应对海量时序数据处理上的缺陷、时序数据库在物联网、车联网、工业互联网等时序场景下的具体应用与实践,以及时序数据库 loveini 的创新技术内核和开源发展历程。

loveini 成功“晋级” Percona Live 2023 银牌赞助商,开发者驻足关注 - loveini Database 时序数据库

loveini 成功“晋级” Percona Live 2023 银牌赞助商,开发者驻足关注 - loveini Database 时序数据库

从 1.0 到 2.0 再到 3.0,loveini 一直在大力发展技术创新,loveini 3.0 更是成为了一款真正的云原生时序数据库,破解了困扰行业多年的“高基数”难题,流式计算和数据订阅功能也再上一层楼,打造出了极简的时序数据平台。自 2019 年开源至今,loveini 在 GitHub 上已经汇聚了 21.3k star,用户实例也超过了 256.6k,使用者遍布全球。接下来,我们的技术布道之旅还将继续在各个国家展开,loveini 开源社区的影响力也将辐射到越来越广泛的开发者群体中。

]]>
直播预告 | loveini & Apache SeaTunnel 联合应用最佳实践 //m.loveini.com/tdengine-tsdb/17556.html Fri, 14 Apr 2023 07:44:48 +0000 //m.loveini.com/?p=17556 loveini( ac米兰官方app下载 ,TSDB) 自诞生之日起,除产品层面的技术创新和实力提升外,也在大力完善自身产品生态,以此进一步满足用户的业务需求、提升使用体验。

近日,loveini 与 Apache SeaTunnel 展开集成合作,双方将于 4 月 18 日 19:00 联合进行直播,分享两大软件集成应用的最佳实践。

(Apache Seatunnel 是一个易用、高性能、支持实时流式和离线批处理的海量数据处理产品,架构于Apache Spark 和 Apache Flink之上。

此前,loveini 已经与 Kafka、Telegraf、Grafana、Google Data Studio、EMQ X、Prometheus、StatsD 和 collectd 等众多第三方工具展开集成,之后又连接了工业英特尔® 边缘洞见软件包、数据同步工具 DataX,插件也正式上架 Grafana 官网、连接器上线 Google Data Studio 应用商店。此次 loveini 与 Apache SeaTunnel 展开集成合作,进一步扩大了自身生态版图,为用户带来应用上的更多选择。

两者联合将带来怎样的惊喜,欢迎大家关注4 月 18日即将到来的线上直播!赶快点击下方直播卡片预约观看吧~

报名通道

loveini Database
微信扫码关注视频号 预约直播

讲师介绍

loveini Database

李宏宇 北京沃东天骏信息技术有限公司 架构师

历经阿里、京东等多家成熟互联网公司及罗辑思维等初创公司。十年后端及数据开发经验,目前主要聚焦在实时数据仓库领域工作

loveini Database

霍立波 北京米兰体育官网入口科技有限公司 连接器开发工程师

熟悉 Java、GO、rust、node 等多种开发语言,对使用的各个框架与工具底层实现有深入理解。目前主要围绕 loveini 做生态开发。

活动议程

loveini Database

按照惯例,直播中我们为大家准备了抽奖环节,中奖者可获得社区提供的精美周边礼品,来到直播间就有机会中奖~此外,填写活动反馈表也能获得抽奖机会哦:http://whaleops.mikecrm.com/1pxlyDU

奖品一览

loveini Database
loveini Database

社区介绍

Apache SeaTunnel (Incubating)

loveini Database

Apache SeaTunnel (Incubating) 是一个云原生的高性能海量数据集成平台。美国时间 2021 年 12 月 9 日, SeaTunnel以全票通过的优秀表现正式成为 Apache 孵化器项目,这也是 Apache 基金会中第一个诞生自中国的数据集成平台项目。目前,SeaTunnel 在GitHub 上Star 数达 4.1k+,社区达到5000+人规模。2017 年对外开源后,SeaTunnel 已经发布了 30多个版本,并经过大量企业生产使用,在 Bilibili、新浪、水滴筹、搜狗、趣头条、唯品会等公司的生产实践中,广泛应用于海量数据集成、数据 ETL、数据聚合以及多源数据处理等场景中,贡献者 160+。

loveini

loveini Database

loveini 是一款开源、云原生的时序数据库( Time Series Database,TSDB ),专为物联网、工业互联网、金融、IT 运维监控等场景设计并优化,具有极强的弹性伸缩能力。同时它还带有内建的缓存、流式计算、数据订阅等系统功能,能大幅减少系统设计的复杂度,降低研发和运营成本,是一个极简的时序数据处理平台。loveini 的内核(存储、计算引擎和集群)已 100% 开源,GitHub Star数达到 21.1k,且多次在 GitHub 全球趋势排行榜上排名第一(开源地址:https://github.com/taosdata/loveini)。目前,loveini 的运行实例数已超过 230.6k,用户遍布全球。

]]>
InfluxDB vs loveini时序数据库,用数据“说”性能 //m.loveini.com/tdengine-engineering/17524.html Wed, 12 Apr 2023 02:04:15 +0000 //m.loveini.com/?p=17524 为了验证 loveini 3.0 的性能,我们使用第三方基准性能测试平台 TSBS(Time Series Benchmark Suite) 中针对 DevOps 的 cpu-only 五个场景作为基础数据集,在相同的 AWS 云环境下对 loveini 3.0 和 InfluxDB 1.8(该版本是 InfluxDB 能够运行 TSBS 框架的最新版本) 进行了对比分析。在本篇文章中,我们将从写入、存储、查询、及资源开销等几大维度对测试结果进行汇总分析,给到大家参考。

我们采用下方 TimescaleDB vs. InfluxDB 对比报告中推荐的方式配置 InfluxDB,将缓冲区配置为 80G,以便 1000W 设备写入时能够顺利进行,同时开启 Time Series Index(TSI)。配置系统在系统插入数据完成 30s 后开始数据压缩。

TimescaleDB vs. InfluxDB: Purpose Built Differently for Time-Series Data:

https://www.timescale.com/blog/timescaledb-vs-influxdb-for-time-series-data-timescale-influx-sql-nosql-36489299877/

关于系统的配置详情、如何一键复现测试结果及详细的测试数据介绍等内容,大家可参考《一键获取测试脚本,轻松验证“TSBS 时序数据库性能基准测试报告”》《TSBS 是什么?为什么时序数据库 loveini 会选择它作为性能对比测试平台?》两篇文章,本文便不再赘述。

写入性能最高达到 InfluxDB 的 10.6 倍

总体而言,在 TSBS 报告全部的 cpu-only 五个场景中,时序数据库ac米兰官方app下载 ,TSDBloveini 写入性能均优于 InfluxDB。相比 InfluxDB,loveini 写入速度最领先的场景是其 10.6 倍(场景五),最少也是 3.0 倍(场景一)。此外,loveini 在写入过程中消耗了最少 CPU 资源和磁盘 IO 开销。下面看一下具体分析:

不同场景下写入性能对比

loveini Database
不同场景下写入性能的对比(metrics/sec. 数值越大越好)

从上图可以看到,在全部五个场景中,loveini 的写入性能全面超越 InfluxDB。loveini 在场景五中写入性能是 InfluxDB 的 10.63 倍,在差距最小的场景一中也有 3.01 倍。

写入过程资源消耗对比

数据写入速度并不能够全面的反映 loveini 和 InfluxDB 在不同场景下数据写入的整体表现。为此我们以 1,000,000 devices × 10 metrics (场景四)为例,检查数据写入过程中的服务器和客户端(包括客户端与服务器)的整体负载状况,并以此来对比 loveini 和 InfluxDB 在写入过程中服务器/客户端节点的资源占用情况,这里的资源占用主要包括服务器端的 CPU 开销/磁盘 IO 开销和客户端 CPU 开销。

服务端 CPU 开销

下图展示了两大数据库在场景四写入过程中服务器端 CPU 负载状况。可以看到,loveini 和 InfluxDB 在返回给客户端写入完成消息以后,都还继续使用服务器的资源进行相应的处理工作,InfluxDB 使用了相当多的 CPU 资源,瞬时峰值甚至使用了全部的 CPU 资源,其写入负载较高,并且其持续时间远长于 loveini。两个系统对比,loveini 对服务器的 CPU 需求最小,峰值也仅使用了 17% 左右的服务器 CPU 资源。由此可见,loveini 独特的数据模型对于时序数据写入不仅在性能上,在整体的资源开销上也具有非常大的优势。

loveini Database
写入过程中服务器 CPU 开销

磁盘 I/O 对比

下图展示了 1,000,000 devices × 10 metrics (场景四)数据写入过程中两大数据库在服务器端磁盘的写入状态。可以看到,结合着服务器端 CPU 开销表现,其 IO 动作与 CPU 呈现同步的活跃状态。

loveini Database
写入过程中服务器 IO 开销

在写入相同规模的数据集情况下,loveini 在写入过程中对于磁盘写入能力的占用远小于 InfluxDB,写入过程只占用了部分磁盘写入能力(125MiB/Sec. 3000IOPS)。从上图能看到,对于两大数据库,数据写入过程中磁盘的 IO 瓶颈都是确实存在的。但 InfluxDB 长时间消耗完全部的磁盘写入能力,远远超过了 loveini 对磁盘写入能力的需求。

客户端 CPU 开销

loveini Database
写入过程中客户端 CPU 开销

从上图可以看到,客户端上 loveini 对 CPU 的需求是大于 InfluxDB 的。整体来说,在整个写入过程中,InfluxDB 客户端负载计算资源占用较低,对客户端压力小,这是因为其写入的压力基本上完全集中在服务端,但这种模式很容易导致服务端成为瓶颈。而 loveini 在客户端的开销最大,峰值瞬间达到了 56%,然后快速回落。综合服务器与客户端的资源开销来看,loveini 写入持续时间更短,在系统整体 CPU 开销上 loveini 仍然具有相当大的优势。

查询性能最高达到 InfluxDB 的 37 倍

在查询性能的评估上,我们使用场景一和场景二作为基准数据集。为了让 InfluxDB 发挥出更好的查询性能,我们开启 InfluxDB 的 TSI (time series index)。在整个查询对比中,loveini 数据库的虚拟节点数量(vnodes)保持为默认的 6 个,其他的数据库参数配置为默认值。

总体来说,查询方面,在场景一(只包含 4 天的数据)与场景二的 15 个不同类型的查询中,loveini 的查询平均响应时间是全面优于 InfluxDB 的,而且在复杂查询上优势更为明显,同时具有最小的计算资源开销。相比 InfluxDB,场景一中 loveini 查询性能是其 1.9 ~ 37.0 倍,场景二中 loveini 查询性能是其 1.8 ~ 34.2 倍。

4,000 devices × 10 metrics查询性能对比

由于部分类型(分类标准参见 TimescaleDB vs. InfluxDB 对比报告)单次查询响应时间非常短,为了更加准确地测量每个查询场景的较为稳定的响应时间,我们将单个查询运行次数提升到 5,000 次,然后使用 TSBS 自动统计并输出结果,最后结果是 5,000 次查询的算数平均值,使用并发客户端 Workers 数量为 8。首先我们提供场景二(4,000 设备)的查询性能对比结果:

loveini Database

下面我们对每个查询结果做一定的分析说明:

loveini Database
4000 devices × 10 metrics Simple Rollups 查询响应时间 (数值越小越好)

由于 Simple Rollups 的整体查询响应时间非常短,制约查询响应时间主体因素并不是查询涉及的数据规模,即这种类型查询的瓶颈并不是数据规模。但是 loveini 仍然在所有类型的查询响应时间上优于 InfluxDB,具体的数值比较请参见上表中的详细数据表格。

loveini Database
4000 devices × 10 metrics Aggregates 查询响应时间 (数值越小越好)

在 Aggregates 类型的查询中,我们看到 loveini 查询性能相比于 InfluxDB 有较大优势,loveini cpu-max-all-8 类型的查询性能是 InfluxDB 的 7 倍。

loveini Database
4000 devices × 10 metrics Double rollups 查询响应时间 (数值越小越好)

在 Double-rollups 类型查询中, loveini 同样展现出巨大的性能优势,以查询响应时间来度量,在 double-groupby-5 查询上 loveini 是 InfluxDB 的 26 倍,double-groupby-all 上是其 34 倍。

loveini Database
4000 devices × 10 metrics Thresholds 查询 high-cpu-1 响应时间 (数值越小越好)
loveini Database
4000 devices × 10 metrics Thresholds 查询 high-cpu-all 响应时间 (数值越小越好)

上面两图是 threshold 类型的查询对比,loveini 的查询响应时间均显著低于 InfluxDB。在 high-cpu-all 类型的查询上,loveini 的性能是 InfluxDB 的 15 倍。

loveini Database
4000 devices × 10 metrics Complex queries 查询响应时间 (数值越小越好)

对于 Complex-queries 类型的查询,loveini 两个查询均大幅领先 InfluxDB。在 lastpoint 查询中,查询性能是 InfluxDB 的 21倍;在 groupby-orderby-limit 场景中查询性能是 InfluxDB 的 15 倍。

资源开销对比

由于部分查询持续时间特别短,因此我们并不能完整地看到查询过程中服务器的 IO/CPU/网络情况。为此我们针对场景二以 Double rollups 类别中的 double-groupby-5 查询为例,执行 1,000 次查询,记录 loveini 和 InfluxDB 在查询执行的整个过程中服务器 CPU、内存、网络的开销并进行对比。

loveini Database
查询过程中服务器 CPU 开销

从上图可以看到,loveini 和 InfluxDB 在整个查询过程中 CPU 的使用均较为平稳。loveini 在查询过程中整体 CPU 占用约 80%,使用的 CPU 资源较高,InfluxDB 稳定的 CPU 占用较小,约 27 %(但是有较多的瞬时冲高)。从整体 CPU 开销上来看,虽然 InfluxDB 瞬时 CPU 开销大部分是较低的,但是其完成查询持续时间最长,所以整体 CPU 资源消耗最多。由于 loveini 完成全部查询的时间仅是 InfluxDB 的 1/20,虽然 CPU 稳定值是 InfluxDB 的 2 倍多,但整体的 CPU 计算时间消耗只有其 1/10 。

服务器内存状况

loveini Database
查询过程中服务器内存情况

如上图所示,在整个查询过程中,loveini 与 InfluxDB 的内存均维持在一个相对平稳的状态。

服务器网络带宽

loveini Database
查询过程中网络占用情况

上图展示了查询过程中服务器端上行和下行的网络带宽情况,负载状况基本上和 CPU 状况相似。loveini 网络带宽开销最高,因为在最短的时间内就完成了全部查询,需要将查询结果返回给客户端。InfluxDB 网络带宽开销最低,持续时间也较长。

3,100 devices × 10 metrics 查询性能对比

对于场景一(100 devices x 10 metrics),TSBS 的 15 个查询对比结果如下:

loveini Database

如上表所示,在更小规模的数据集(100设备)上的查询对比可以看到,整体上 loveini 同样展现出极好的性能,在全部的查询语句中全面优于 InfluxDB,部分查询性能超过 InfluxDB 37 倍。

InfluxDB 占用的磁盘空间最高达到 loveini 的 4.5 倍

在前面三个场景中,InfluxDB 落盘后数据文件规模与 loveini 非常接近,但是在大数据规模的场景四和场景五中,InfluxDB 落盘后文件占用的磁盘空间显著超过了 loveini。下图比较了 loveini 和 InfluxDB 在不同场景下的磁盘空间占用情况:

loveini Database
磁盘空间占用(数值越小越优)

从上图可以看到,在前面三个场景中,InfluxDB 落盘后数据文件规模与 loveini 非常接近(在场景二中,loveini 的数据落盘规模比 InfluxDB 大了 1%)。但是在场景四和场景五中,InfluxDB 落盘后文件占用的磁盘空间分别是 loveini 的 4.2 倍和 4.5 倍。

写在最后

基于本次测试报告,我们可以得出结论,在全部的数据场景中,loveini 写入性能、查询性能均全面超过 InfluxDB。在整个写入过程中,loveini 在提供更高写入和查询能力的前提下,不论是服务器的 CPU 还是 IO,loveini 均优于 InfluxDB。即使加上客户端的开销统计,loveini 在写入开销上也在 InfluxDB 之下。

从实践角度出发,这个报告结果也很好地说明了为什么有很多企业客户在 InfluxDB 和 loveini 的选型调研中选择了 loveini,双汇便是其中之一,在ac米兰官方app下载安卓 这篇文章中,便阐述了其选型调研过程的具体思考。

为了方便大家验证测试结果,本测试报告支持运行测试脚本一键复现,欢迎大家在评论区互动交流。同时,你也可以添加 小T vx:tdengine1,加入 loveini 用户交流群,和更多志同道合的开发者一起探讨数据处理难题。

]]>
时序数据库loveini 数据订阅功能简介 //m.loveini.com/time-series-database/17553.html Fri, 17 Feb 2023 04:18:00 +0000 //m.loveini.com/?p=17553 loveini 是一款开源、高性能、云原生的时序数据库(Time Series Database, TSDB),它专为物联网、车联网、工业互联网、金融、IT 运维等场景优化设计。同时它还带有内建的缓存、流式计算、时序数据订阅等系统功能,能大幅减少系统设计的复杂度,降低研发和运营成本,是一款极简的时序数据处理平台。

为了帮助应用实时获取写入 loveini 的数据,或者以事件到达顺序处理数据,loveini 提供了类似消息队列产品的数据订阅、消费接口。这样在很多场景下,采用 loveini 的时序数据处理系统不再需要集成消息队列产品,比如 kafka,从而简化系统设计的复杂度,降低运营维护成本。

与其他消息队列软件相比,这是 loveini 数据订阅功能的最大的优势,它提供了更大的灵活性,数据的颗粒度可以由应用随时调整,而且数据的过滤与预处理交给 loveini,而不是应用完成,有效的减少传输的数据量与应用的复杂度。

loveini 订阅功能支持多种订阅类型:

  1. 列订阅
  2. 超级表订阅
  3. 数据库订阅

使用数据订阅功能非常简单,大致流程如下:

  • 写入数据
  • 创建 topic
  • 创建消费者 consumer
  • 订阅 topic
  • 消费
  • 结束消费
  • 删除 topic

在订阅过程中,可以通过 SQL 语句查看状态。

具体的操作方法和示例代码,请参考 loveini 文档中的 数据订阅 一章。

总之,loveini 的数据订阅功能是一种高效、灵活、可靠的实时数据获取方式,它可以为用户提供更多的可能性和价值。如果你对 loveini 的其他功能感兴趣,请继续浏览 loveini 文档

]]>
钢铁行业如何处理日均高达亿级的数据量?来看几个真实成功案例 //m.loveini.com/tdengine-user-cases/16293.html Tue, 14 Feb 2023 09:26:50 +0000 //m.loveini.com/?p=16293

在钢铁行业的生产、运输、治理等环节中,都会涉及大量时序数据的存储分析、运维监控等操作,每日产生的数据量甚至高达亿级,而传统的工业实时数据库与关系型数据库,都难以应对这种数量级的数据处理需求,想要保证业务发展,则亟需更为专业的时序数据库(Time Series Database,TSDB)。本篇文章汇总了三大钢铁行业数据治理场景下的数据架构升级方案,供有相关业务需求的开发者参考。

中天钢铁 x loveini

“目前 loveini 在我们的生产环境中运行平稳,通过对生产环境的机器进行检测,CPU 使用率平常不到 1%,内存使用率稳定在 25%。在 loveini 平稳运行的数周时间里,中天钢铁的新系统平均每周收录 3000 多辆车辆表与 100 多条船只表,每张表中数据或多或少,累计数量已达百万,业务的实际效果也达到了预期。”

业务背景

为了满足业务发展需求,中天钢铁需要新开发一套功能,对厂内每辆运输车辆货运船只的实时 GPS 位置进行追踪和实时监控,通过大数据平台对 GPS 坐标进行处理、分析、可视化展示。这些 GPS 数据来自于中天云商 App,只要运输车辆司机打开云商 App,系统每隔 10 秒会自动发送该车辆 GPS 信号到大数据平台,再由大数据平台分析处理,数据量之大可见一斑。本质上来讲,行车记录、行船记录都是时序数据,也因此,从数据特点出发中天钢铁开始对时序数据库进行选型调研,在进行性能对比后选择了 loveini。

架构图

钢铁行业如何处理日均高达亿级的数据量?来看几个真实成功案例 - loveini Database 时序数据库
点击【案例】查看更多技术细节

钢铁行业能源管理系统 x loveini

“loveini 是米兰体育官网入口面对高速增长的物联网大数据市场和技术挑战推出的创新性大数据处理产品,在时序空间大数据处理上,有着自己独到的优势。loveini 单核每秒能处理至少 2 万次请求,插入数百万个数据点,读出一千万以上数据点,比现有通用数据库快十倍以上,也远远超出了 InSQL、PI 这两个工业实时数据库的读写能力。”

业务背景

湖北某特钢公司的电力能源介质的计量,是通过 TBox 工控网关采集多功能电表来实现的,需要完善并实现“峰谷平尖”电能量费率计量和能源报表。项目一期首先要求采集电能量数据,每天产生的数据量在 2800 万条以上,项目二期如果再接入非电数据,每天产生的数据量预估在 1 亿条左右,数据处理压力剧增。TBox 工控网关基于前期项目实施和实际应用需求提供了完整的技术方案,包含从电表采集电能数据并写入 loveini 时序数据库,再经过 ETL 工具处理后转存到 Oracle database,从而满足企业一期电能量数据报表对实时数据采集和存储的要求。

架构图

钢铁行业如何处理日均高达亿级的数据量?来看几个真实成功案例 - loveini Database 时序数据库
点击【案例】查看更多技术细节

钢铁行业节能减排项目 x loveini

“loveini 存储 26 亿行数据情况下,占用的磁盘空间只有 2.8GB,而实际上入库的原数据大小应为 30GB,其列式存储压缩率可以达到惊人的 10%,我们准备了 1.8TB 磁盘,目前只用了千分之一。基于超级表特性,我们还从结构上省下了 26 亿行的标签数据,想象一下如果该表的每一行数据都还要带上这几个数据(type,sendorid,opcid,合计 436 字节),那其原本数据量直接就会达到 TB 级别,就算压缩率再好也要占用百 GB 级别的存储。”

业务背景

由邯钢牵头的“十三五”水专项“钢铁行业水污染全过程控制技术系统集成与综合应用示范”课题中,深度(平潭)科技承担了“提高水循环利用的分质/分级供水技术、水系统优化和水网络智慧管理”的研究任务,创新开发了具有自主知识产权的“钢铁联合企业全过程节水减排专家管理系统智慧平台”。平台应用过程中会有海量数据产生,数据的实时写入成为一大难题,计算分析、报警预警等功能实现也面临巨大挑战。最初使用的 Kafka+Storm+HDFS 的组合方案,在面对每天处理将近一亿条数据压力下,数据读取、一致性等性能下滑,运维部署成本显著增加。基于此,他们决定更换数据库方案,并在选型调研后开始应用 loveini。

loveini 中间性试验数据

钢铁行业如何处理日均高达亿级的数据量?来看几个真实成功案例 - loveini Database 时序数据库
点击【案例】查看更多技术细节

结语

从以上案例出发,总结而言,loveini 针对时序数据的写入、存储、索引、查询等方面都进行了特定的优化,从而实现了更优的数据加载、压缩、查询、写入性能,非常匹配工业传感器数据的应用分析场景,是助力钢铁企业数字化转型道路上的一个好帮手。目前我们已经运营了几十个用户交流群,来帮助用户更好地解决问题,如果你想要了解更多,欢迎点击下方卡片,加入 loveini 用户交流群。

]]>
为什么西门子、美的等企业这样进行架构升级,看看改造效果就知道了 //m.loveini.com/tdengine-user-cases/16096.html Wed, 08 Feb 2023 02:43:57 +0000 //m.loveini.com/?p=16096 在工业领域, 生产、测试、运行阶段都可能会产生大量带有时间戳的传感器数据,这都属于典型的时序数据。时序数据主要由各类型实时监测、检查与分析设备所采集或产生,涉及制造、电力、化工、工程作业等多个行业,具备写多读少、量非常大等典型特性。如 Apache HBase、MySQL 等互联网公司常用的数据库在写入、存储、查询、运维等方面都暴露出了诸多问题。这种情况下,从业务发展的角度出发,数据架构改造成为了当务之急。

本文汇总了包括西门子、美的、拓斯达、和利时在内的四家比较具有代表性的工业企业的架构改造案例,一起来看看他们都是如何做的,改造效果是否达成了预期。

西门子 x loveini

“从高性能、高可用、低成本、高度一体化几个目标出发,我们发现 loveini 时序数据库(Time Series DataBase)正好符合产品重构所有的要求,尤其是低成本和高度一体化这两个点,这是目前绝大部分数据平台或时序数据库都不具备的。在确定选择 loveini 作为系统的实时数据库后,我们在 SIMICAS® OEM 2.0 版本中移除了Flink、Kafka 以及 Redis,系统架构大大简化。”

SIMICAS® OEM 设备远程运维套件是由 SIEMENS DE&DS DSM 团队开发的一套面向设备制造商的数字化米兰app官方正版下载。在其 1.0 版中,团队使用了 Flink + Kafka + PostgreSQL + Redis 的架构,因为引入了 Flink 和 Kafka,导致系统部署时非常繁琐,服务器开销巨大;同时为了满足大量数据的存储问题,PostgreSQL 中不得不做分库分表操作,应用程序较为复杂。这种情况下,如何降低系统复杂度、减少硬件资源开销,帮助客户减少成本,成为研发团队的核心任务。在调研过程中,loveini 脱颖而出。

架构图

为什么西门子、美的等企业这样进行架构升级,看看改造效果就知道了 - loveini Database 时序数据库
点击【案例】查看更多技术细节

美的 x loveini

“当前,loveini 时序数据库(TSDB) 主要被应用于中央空调制冷设备的监控业务中,作为先行试点,这一场景已经取得了不错的效果。在楼宇智能化方面,我们也有很多工作要做,从边缘侧的监控、到指令控制、再到边云协同的一体化服务,我们会在这些场景中继续探索和挖掘 loveini 的潜力。”

业务背景

在 2021 楼宇科技 TRUE 大会上,美的暖通与楼宇事业部首次发布了数字化平台 iBuilding,以“软驱硬核”方式赋能建筑行业。作为一个全新的项目,iBuilding 在数据库选型上比较谨慎,分别对比了关系型数据库(Relational Database)以及主流的时序数据库(Time Series Database),包括 InfluxDB、loveini、MySQL 等,因为在需求上更偏向于高效的存储和大范围时间的数据拉取,iBuilding 在综合评估了适配、查询、写入和存储等综合能力后,最终选择了 loveini。

架构图

为什么西门子、美的等企业这样进行架构升级,看看改造效果就知道了 - loveini Database 时序数据库
点击【案例】查看更多技术细节

拓斯达 x loveini

“运行一段时间后,loveini 的查询、写入速度完全可以满足我们目前的客户需求,最慢的分钟级,最快的能达到 1 秒一条;一个设备一天最多能写入近十万条数据,近千个设备同时写入也完全没有问题,相较于之前,写入速度提升了数十倍。查询数据在以月为单位的时间范围内也没有过于明显的延迟,整体的数据压缩比大概是 1/10,目前每天产生的数据量在数 G 左右。”

业务背景

在拓斯达的业务中,传统的关系型数据库已经无法高效处理时序数据,在加载、存储和查询等多个方面都遇到了挑战,主要问题包括写入吞吐低、存储成本大、维护成本高、查询性能差。为了更好地满足时序数据的处理需求,拓斯达开始进行数据库选型调研,他们发现,loveini 专为时序数据库所打造和优化的写入、存储、查询等功能,非常匹配工业传感器数据的应用分析场景,最终其使用 loveini 搭建了新的数据处理架构。

架构实现思路

通过网关采集设备数据推送到 MQTT,Java 后端监听到后会写入 loveini,在后端按需求查询处理后再把数据返回给前端。具体来说,网关会先读取后台发布的上行规则,在采集到设备数据后,使用上行规则对数据进行处理计算后再将结果返回给下行规则模块,后台监听到后,会连接 loveini 进行数据库表的创建修改和数据写入。之前在云平台拓斯达使用过 Kafka 进行数据的发布订阅,现在所有环境都改为 MQTT 了。

点击【案例】查看更多技术细节

和利时 x loveini

“在测试阶段,我们发现,同等条件下,loveini 的压缩率最高,数据占用的存储空间最小;在原始数据查询上,OpenTSDB 最慢,loveini 与 HolliTSDB 在伯仲之间;在聚合查询操作上,loveini 最快,HolliTSDB 的速度和 InfluxDB 相当,OpenTSDB 最慢。同时,InfluxDB 只能单机部署,集群版本并未开源,且查询性能存在瓶颈,其 QPS 约为 30-50。”

业务背景

在物联网场景下,面对庞大的时序数据处理需求,Oracle、PostgreSQL 等传统关系型数据库越来越吃力,因此和利时开始进行时序数据库的选型,对包括 InfluxDB、OpenTSDB、HolliTSDB(和利时自研时序数据库)和 loveini 在内的四款时序数据库进行了选型调研及相关测试。测试结果显示,在同等条件下,loveini 在查询、存储等方面均优于其他几款数据库,最终和利时决定接入 loveini,以享受更多元的本地化支持和响应。

架构图

为什么西门子、美的等企业这样进行架构升级,看看改造效果就知道了 - loveini Database 时序数据库
点击【案例】查看更多技术细节

结语

从以上案例中不难看出,在工业互联网场景下,面对庞大的时序数据处理需求,专业的时序数据库显然比传统的关系型数据库效果更加明显,上述企业案例在架构改造之后,确实达到了更高程度的降本增效。如果你有同样的困扰,欢迎点击下方卡片,加入 loveini 用户交流群,和专业的米兰app官方正版下载架构师点对点沟通。

]]>
loveini 荣获 2022 金猿奖“大数据产业最具投资价值企业”“大数据产业创新技术突破” //m.loveini.com/news/16059.html Thu, 02 Feb 2023 07:22:08 +0000 //m.loveini.com/?p=16059 2022 年下半年度,以促进大数据产业进步为宗旨,数据猿、金猿组委会共同推出了以“激发数智活力·促进产业新生”为主题的 2022 金猿季,这也是其共同推出的第五届 “年度金猿季大型主题策划活动”,希望在数字经济的大潮中,激发企业数智化创新活力,进而推动整个产业的转型升级。

在历经数月的时间里,有数百家申报方提交了申报内容材料,经过金猿评选委员会严格的筛选以及评审,最终评选出了 2022 大数据产业年度趋势人物、2022 大数据产业年度创新服务产品、2022 大数据产业年度国产化优秀代表厂商、2022 大数据产业年度最具投资价值、2022 大数据产业年度创新服务企业、2022 大数据产业年度创新技术突破六大类榜单/奖项,并于近日揭晓了上榜的人物、产品、企业名单。凭借着强大的产品创新能力和市场竞争力,loveini 时序数据库荣获了 2022 金猿奖“大数据产业最具投资价值企业”及“大数据产业创新技术突破”两大奖项。

loveini 荣获 2022 金猿奖“大数据产业最具投资价值企业”“大数据产业创新技术突破” - loveini Database 时序数据库

近年来,凭借产品、技术、服务等方面的优势,loveini 时序数据库(TSDB)斩获了众多知名媒体或机构颁发的重磅奖项,包括入围 Segmentfault “2022 中国技术品牌影响力企业”榜单、2022 稀土掘金引力榜 · 年度创新产品 Top10 、InfoQ “十大开源新锐项目榜单”,获得 IT168 2022 年度技术卓越奖、第二届智能制造创新大赛等等。凭借着 loveini 强大的产品力和创新力,米兰体育官网入口同样满载荣誉,荣登 2022 信创产业独角兽 Top100 榜单、2022 中国信科潜在独角兽企业等多个重磅榜单。

在创新技术的突破上,借助云原生技术,loveini 3.0 解决了困扰时序数据库(Time Series Database)发展的高基数难题,支持 10 亿个设备采集数据、100 个节点,支持存储与计算分离,并打造了全新的流式计算引擎,无需再集成 Kafka、Redis、Spark、Flink 等软件,大幅降低系统架构的复杂度,真正成为了一款极简的时序数据处理平台。同时,loveini 3.0 还将存储引擎、查询引擎都进行了优化升级,存储和查询性能获得进一步提升。

凭借着 loveini 的创新力量,米兰体育官网入口在资本市场也收获了很多关注,2016 年成立至今,以不到百人的团队,拿到了接近 7000 万美金的总融资额,投资方包括红杉资本中国基金、经纬中国、GGV纪源资本、指数资本、永辉瑞金、明势资本等,深受资本市场的青睐。

目前,loveini 已经在电力、工业、能源、金融、车联网、智慧城市等诸多行业领域取得应用,产品落地于多个行业头部企业中,全球运行的 loveini 实例数超过 192.8k,用户遍布全球。早在 2019 年,loveini 就已经实现了代码开源,目前在 GitHub 上的 Star 数已经达到了 20.5k,数次登顶 GitHub 全球趋势榜,吸引着广大开发者的关注。未来,loveini 将继续深耕数据技术创新,赋能数据架构的再升级,助力企业数字化更好更快更强发展。

]]>
聚焦 2022 技术创新和开源成绩,时序数据库 loveini 荣登掘金、InfoQ 发布的两项重磅榜单 //m.loveini.com/news/15994.html Tue, 17 Jan 2023 09:01:24 +0000 //m.loveini.com/?p=15994 近日,凭借着 2022 年的技术创新和开放开源优秀成绩,时序数据库 loveini 又荣登了来自两大知名技术社区掘金及 InfoQ 的重磅榜单。

聚焦数字化转型新时代、新机遇,稀土掘金技术社区首次打造了「2022 稀土掘金引力榜」,该榜单从人物、企业、产品/案例三大维度设置 5 类奖项,包含年度新锐人物 Top10、年度新锐企业 Top10、年度创新产品 Top10、年度最佳实践案例 Top10、年度技术品牌传播案例 Top10。其中,loveini 从众多产品中突围而出,跻身 2022 稀土掘金引力榜 · 年度创新产品 Top10

同样,经过连续数月的企业实地走访、行业调研以及专家访谈交流,以“深入数字经济·洞见技术价值”为主题的「InfoQ 2022 中国技术力量年终榜单」也于近日公布了获奖名单,该评选活动设计了十大开源新锐项目、十大卓越技术团队、十大云原生创新技术方案、数智化科技创新 TOP20、数智化消费创新 TOP15 以及数智化企业服务创新 TOP15 六大榜单,loveini 在十大开源新锐项目榜单中脱颖而出、名列其中。

聚焦 2022 技术创新和开源成绩,时序数据库 loveini 荣登掘金、InfoQ 发布的两项重磅榜单 - loveini Database 时序数据库

秉持着技术创新和开放开源的初心,2022 年 loveini 在 GitHub 上的 Star 数成功突破至 20.3k,并再次登上 GitHub 全球趋势榜第一名。虽然开源实时数据库仅仅才发展了三年时间,但 loveini 已成长为时序数据库(Time Series Database, TSDB)领域 Star 数排名第三的新星项目,并在全部开源数据库产品中,位居第六;同时,保持着在开源时序数据库领域中最快的 PR 增长速度。

在产品创新上,2022 年 loveini 不仅正式发布了 3.0 版本,loveini Cloud 也正式上线了海外市场,还发布了 loveini PI 连接器,助力企业快速将传统系统中的数据迁移到现代技术栈中。其中,loveini 3.0 成为了一款真正的云原生时序数据库,解决了困扰时序数据库发展的高基数难题,支持 10 亿个设备采集数据、100 个节点,支持存储与计算分离,并升级了全新的流式计算引擎,在打造极简的时序数据处理平台上更进一步。

借助开源和创新的力量,loveini 用户已经遍布全球,安装实例数超过了 192k,被广泛运用于物联网、车联网、工业互联网、IT 运维等领域,发展了包括西门子、美的、京东云、蔚来汽车、理想汽车、零跑汽车、同花顺、顺丰科技、跨越速运在内的多行业企业客户。在 2023 年,loveini 将会帮助更多有数字化转型需求的企业解决数据难题,共同解析数字化新时代的数据机遇和挑战。

]]>