Binance 如何使用 Quickwit 构建 100PB 日志服务(Quickwit 博客)

极客之家推荐Binance 如何使用 Quickwit 构建 100PB 日志服务(Quickwit 博客)这篇文章给大家，欢迎收藏极客之家享受知识的乐趣

三年前，我们开源了 Quickwit，一个面向大规模数据集的分布式搜索引擎。我们的目标很宏大：创建一种全新的全文搜索引擎，其成本效率比 Elasticsearch 高十倍，配置和管理显著更简单，并且能够扩展到 PB 级别的数据。

• https://quickwit.io/blog/quickwit-first-release

虽然我们知道 Quickwit 的潜力，但我们通常测试的数据量不超过 100TB，索引吞吐量不超过 1GB/s。我们缺乏现实世界中的数据集和计算资源来测试 Quickwit 在多 PB 规模下的表现。

直到六个月前，情况发生了变化。币安（全球领先的加密货币交易所）的两位工程师发现了 Quickwit 并开始尝试使用它。仅仅几个月内，他们实现了我们梦寐以求的目标：成功地将多个 PB 级别的 Elasticsearch 集群迁移到 Quickwit，取得了显著的成绩，包括：

• 将索引扩展到了每天 1.6 PB。
• 运行了一个处理100 PB 日志的搜索集群。
• 每年节省数百万美元，通过降低 80% 的计算成本和减少 20 倍的存储成本（对于相同的保留期）。

在这篇博客文章中，我将与大家分享币安是如何构建 PB 级别的日志服务以及如何克服将 Quickwit 扩展到多 PB 规模时遇到的挑战。

币安面临的挑战

作为全球领先的加密货币交易所，币安处理着巨大的交易量，每笔交易都会产生对安全、合规性和运营洞察至关重要的日志。这导致了大约每秒处理 2100万条日志记录，相当于每秒 18.5GB，或每天 1.6PB 的日志量。

为了管理如此庞大的数据量，币安之前依赖于 20 个 Elasticsearch 集群。大约 600 个 Vector Pod 从不同的 Kafka 主题拉取日志并进行处理，然后再推送到 Elasticsearch 中。

然而，这种设置在几个关键领域未能满足币安的需求：

• 运维复杂性：管理众多 Elasticsearch 集群变得越来越具有挑战性和耗时。
• 有限的保留期限：币安仅保留大部分日志几天的时间。他们的目标是将此期限延长至数月，这意味着需要存储和管理 100PB 的日志，这对于他们的 Elasticsearch 设置来说成本高昂且复杂。
• 有限的可靠性：为了限制基础设施成本，高吞吐量的 Elasticsearch 集群被配置为没有复制，这损害了持久性和可用性。

团队知道他们需要彻底改变才能满足日益增长的日志管理、保留和分析需求。

为什么 Quickwit 几乎是完美的选择

当币安的工程师们发现 Quickwit 时，他们很快意识到它相比现有的设置提供了几个关键优势：

• 原生 Kafka 集成：它允许直接从 Kafka 中摄入日志，具备恰好一次（exactly-once）语义，提供了巨大的运维好处。具体而言，您可以拆除集群，在一分钟内重新创建，不会丢失任何数据，准备好以每天 1.6PB 的速度摄入或搜索 PB 级别的数据，并且可以根据临时峰值上下调整规模。
• 对象存储作为主要存储：所有索引的数据都保留在对象存储上，消除了在集群侧配置和管理存储的需求。
• 更好的数据压缩：Quickwit 通常比 Elasticsearch 实现好两倍的数据压缩，进一步减少了索引的存储占用。

然而，没有任何用户将 Quickwit 扩展到多 PB 级别，任何工程师都知道将系统扩展 10 倍或 100 倍可能会暴露出意想不到的问题。但这并没有阻止他们，他们准备迎接这一挑战！

每天 1.6PB 的索引扩展

借助 Kafka 数据源，币安迅速扩大了索引规模。在 Quickwit 概念验证的一个月后，他们已经达到了每秒几 GB 的索引速度。

这种快速进展很大程度上归功于 Quickwit 与 Kafka 的工作方式：Quickwit 利用 Kafka 的消费者组将工作负载分布在多个Pod 之间。每个 Pod 索引 Kafka 分区的一个子集，并使用最新的偏移量更新元存储，确保恰好一次（exactly-once）语义。这种设置使得 Quickwit 的索引器无状态：您可以拆除整个集群并重新启动，索引器会像什么都没有发生一样从中断的地方继续运行。

然而，币安的规模揭示了两个主要问题：

• 集群稳定性问题：几个月前，Quickwit 的 gossip 协议（称为 Chitchat）在数百个 Pod 的情况下遇到了困难：一些索引器会离开集群然后重新加入，导致索引吞吐量不稳定。
  • https://github.com/quickwit-oss/chitchat
• 不均衡的工作负载分配：币安为其日志使用了多个 Quickwit 索引，索引吞吐量各不相同。有些索引的吞吐量高达每秒几 GB，而其他索引只有每秒几 MB。Quickwit 的放置算法无法均匀分布工作负载。这是一个已知的问题 issue，我们将在今年晚些时候解决这个问题。
  • https://github.com/quickwit-oss/quickwit/issues/4630

为了解决这些限制，币安为每个高吞吐量的 topic 部署了单独的索引集群，并为较小的主题保留了一个集群。由于索引器无状态，隔离每个高吞吐量集群并未带来运维负担。此外，所有 Vector Pod 都被移除，因为币安直接在 Quickwit 中使用了 Vector 转换。

经过几个月的迁移和优化后，币安最终实现了 1.6 PB 的索引吞吐量，使用了 10 个 Quickwit 索引集群，共 700 个 Pod 请求大约 2800 个 vCPU 和 6 TB 内存，平均每个 vCPU 达到 6.6 MB/s。在一个特定的高吞吐量 Kafka topic 上，这个数字上升到了每个 vCPU 11 MB/s。

接下来的挑战是：扩展搜索！

用于 100PB 日志的单一搜索集群

现在 Quickwit 已经能够高效地每天索引 1.6PB 的数据，挑战转向了搜索 PB 级别的日志。如果有 10 个集群，币安通常需要为每个集群部署搜索 Pod，这削弱了 Quickwit 的一个优势：汇聚搜索资源以访问所有索引共享的对象存储。

为了避免这个陷阱，币安的工程师们设计了一个巧妙的解决方案：他们通过将每个索引集群元存储中的所有元数据复制到一个PostgreSQL 数据库中，创建了一个统一的元存储。这个统一的元存储使得部署一个独特的集中式搜索集群成为可能，该集群能够搜索所有索引！

目前，币安管理着一个适度规模的搜索集群，包含 30 个搜索 Pod，每个 Pod 请求 40 个 vCPU 和 100GB 内存。举个例子，您只需要 5 个搜索器（8 个 vCPU，6GB 内存请求）就能在 400TB 的日志中找到所需的信息。币安运行这类查询针对的是PB级别的数据，同时还运行聚合查询，因此需要更高的资源请求。

总结

总体而言，币安迁移到 Quickwit 是一次巨大的成功，并带来了几个实质性的益处：

• 与 Elasticsearch 相比，计算资源减少了 80%。
• 对于相同的保留期限，存储成本降低了 20 倍。
• 在基础设施成本和维护操作方面都是经济可行的大规模日志管理解决方案。
• 配置微调最少，一旦确定了正确的 Pod 数量和资源，就能够高效工作。
• 根据日志类型，将日志保留期限增加到一个月或几个月，提高了内部故障排查的能力。

总之，币安从 Elasticsearch 迁移到 Quickwit 是币安和 Quickwit 工程师之间激动人心的 6 个月合作经历，我们为此感到非常自豪。我们已经计划了数据压缩、多集群支持以及更好地与 Kafka 数据源分配工作负载等方面的改进。

更多

• ClickHouse + Grafana 搭建可观测性解决方案 - 日志篇
• 折腾 Superset 4.x，上线中文文档(完全 LLM 翻译与润色)

版权声明：本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若内容造成侵权/违法违规/事实不符，请联系邮箱：jacktools123@163.com进行投诉反馈，一经查实，立即删除！