Kafka “孕育”了一款开源关系数据库:KarelDB

摘要:

Java 开发者对 Apache Kafka 应该不会感到陌生,这是一个分布式的发布订阅消息系统,作为一个非常重要的开源项目,它已经被许多公司以及产品用作关键组件。Kafka 及其配套的 Key-Value 存储系统如今也越来越多地被用来为关系数据库提供持久性存储,大多数数据库也使用 Key-Value 存储系统作为基础。

本文将要介绍的这款数据库正是由 Apache Kafka 提供支持,它同样使用了来自 Kafka 配套的 Key-Value 存储系统。

近期面世的 KarelDB 是一款关系数据库,它几乎完全基于开源组件构建,包括用于 SQL 引擎的 Apache Calcite 以及用于事务和控制功能的 Apache Omid。到目前为止,这款数据库仅支持单节点,但 KarelDB 的作者表示它在将来会扩大支持规模。

和其他的新兴数据库一样,KarelDB 同样基于 Kafka 的嵌入式 Key-Value 存储系统和名为 KCache 的内存缓存(in-memory cache)。默认情况下,KarelDB 使用配置成 RocksDB 缓存的 KCache,由应用广泛的 Kafka 流处理软件提供支持。

KarelDB 的作者,同时任职于 Confluent 公司(基于 Apache Kafka 提供流数据平台的供应商)的 Robert Yokota 表示:“这使得 KarelDB 能够支持规模更大的数据集和拥有更快的启动时间。”他还在最近介绍 KarelDB 的博文中补充道:“KCache 可被配置成使用内存缓存而非 RocksDB。”

与 Confluent 基于 Kafka 的平台不同,KarelDB 不是流数据库。尽管如此,Yokota 还是选择了关系数据库,主要是因为它基于 Kafka 支持的开源组件。因此,他认为 KarelDB 有机会流行起来。这些开源组件包括 Calcite,它是一个 SQL 框架,支持将关系查询推送到数据存储系统,这个方法被认为可以提供更高效的处理。Yokota 表示 KarelDB 会从即将推出的 Calcite 优化机制中“自动受益”。

与此同时,Apache Omid 框架与 KarelDB 一起使用,以支持 Key-Value 存储系统上的事务。Omid 最初被设计为面向 HBase NoSQL 数据库的事务管理器,但由于它使用现有的 Key-Value 存储系统来维护事务元数据,因此与 KCache 轻松地配套使用。

Yokota 指出,KarelDB 将类似的功能堆叠在 KCache 的上面以管理事务。Omid 还使用一种独有的名为多版本并发控制(multi-version concurrency control)的技术,以在其他关系数据库中实现“快照隔离(snapshot isolation)”机制。此外,KarelDB 还支持作为嵌入式数据库或服务器运行。在第二种情况下,它使用 Apache Avatica 来支持远程过程调用传输协议(Remote Procedure Call wire protocol)。

Yokota 还认为使用 Kafka 运行这些开源组件有许多优点,其中一个就是多台服务器能够“追踪”同一主题集。也就使得多台 KarelDB 服务器可以作为一个集群运行,而不会产生单一故障点。”

对了,KarelDB 名字的灵感来自一位科学家 —— 它以捷克科幻小说作家 Karel Capek 的名字命名,Karel Capek 被认为发明了“机器人”(robot)一词。此外,还有一门编程语言也是以他的名字命名。

来源:

https://www.datanami.com/2019/09/30/kafka-spawns-open-source-kareldb/

活动入口:

天翼云 - 0元体验数十款云产品

阿里云推广大使招募中 - 零门槛高返佣 技术变现

查看评论
created by ceallan