logstack 日志技术栈-04-opensource 开源工具 OpenObserve+Grafana Loki

本文介绍: 日志管理包含日志数据存储、处理、分析和可视化，通过利用日志管理工具，可以监控性能趋势、解决问题、检测异常并优化整体系统性能。近年来，开源日志管理解决方案在大家寻求灵活且经济有效的方式来管理现代系统典型的大量日志数据时，获得了显著的关注。这些工具为商业产品提供了有力的替代方案，使各种规模的企业都能有效地管理日志数据。在这篇文章中，我们将讨论六种开源日志管理工具，这些工具为在生产环境中有效管理日志数据提供了灵活且经济有效的解决方案。我们将探讨它们的能力以及优缺点，以便你可以为自己的业务选择合适的解决方案。

日志技术栈

日志管理包含日志数据存储、处理、分析和可视化，通过利用日志管理工具，可以监控性能趋势、解决问题、检测异常并优化整体系统性能。

近年来，开源日志管理解决方案在大家寻求灵活且经济有效的方式来管理现代系统典型的大量日志数据时，获得了显著的关注。这些工具为商业产品提供了有力的替代方案，使各种规模的企业都能有效地管理日志数据。

在这篇文章中，我们将讨论六种开源日志管理工具，这些工具为在生产环境中有效管理日志数据提供了灵活且经济有效的解决方案。我们将探讨它们的能力以及优缺点，以便你可以为自己的业务选择合适的解决方案。

1. OpenObserve

OpenObserve 是一个基于 Rust 的开源平台，可以通过支持日志、指标和追踪来满足你所有的可观察性需求。

它的目标是提供一个平台，该平台可以替代 Prometheus 用于指标、Elasticsearch 用于日志、Jaeger 用于链路追踪、Grafana 用于仪表板等，并且他还可以和 S3、GCS、Minio、Azure Blob 等对象存储服务兼容使用，比 Elasticsearch 低 140 倍的存储成本。

使用 OpenObserve，你不需要学习新的查询语言来查询日志，因为它支持 SQL 作为其主要的日志和追踪查询语言，以及 PromQL 用于查询指标数据。它也非常容易安装和操作，由于其基于 Rust 来编写的，所以它只需要很少的资源来运行。

它还提供了一个直观且易于使用的 UI 界面，允许你管理和可视化你正在收集的各种可观察性数据。在摄取或查询时，你可以丰富、解析、删除敏感数据，并删除日志的不需要的部分，以便只留下相关的部分。

OpenObserve 还提供了一个内置的报警机制，可以将警报发送到 Slack、Microsoft Teams 和其他渠道。它还支持团队成员之间的协作，并使用基于角色的访问控制来根据团队成员的级别控制对数据的访问，确保你的数据的整体安全。

OpenObserve 的优点

在一个包中提供日志、指标、链路追踪、仪表板、报警和函数支持。

免费计划提供每月 200GB 的摄取和 15 天的保留。

支持日志查询的 SQL 和指标的 PromQL。

团队的基于角色的访问控制。

由于其高效的数据存储过程，存储成本要低得多。

用 Rust 编写以获得高性能。

OpenObserve 的缺点

作为一个相对较新的产品，它没有像其他已经存在了更长时间的解决方案那样经过长时间的测试。

在撰写本文时，对日志和链路追踪的支持比指标更成熟。

2. Grafana Loki

Loki 是由 Grafana 团队制作的一个日志管理系统，它根据开源 AGPLv3 许可证发布。由于其日志存储机制，它是独一无二的，只对每个日志流的标签和元数据进行索引，而不是日志的内容。这使它需要更少的存储空间，也可以更快地处理日志消息。然而，这种方式的缺点是，与其他平台相比，它在日志搜索功能上就不那么好用了。

它使用 Promtail（专门为 Loki 构建的日志收集器）通过 HTTP API 拉取日志。然后将日志分组成流并用标签进行索引，但是为了提高性能和降低存储成本，日志的文本并未被索引。一旦日志在 Loki 中，它们可以使用 Loki 的查询语言 LogQL 进行检索。它还与 Grafana 无缝集成，用于通过其可定制的仪表板显示从日志数据生成的各种数据。

Loki 还提供了一个强大的报警系统，你可以创建在满足某些条件时将触发的规则，然后将它们发送到 Prometheus AlertManager，然后将它们路由到适当的目的地，这确保了能够快速识别并及时解决关键问题。

部署 Grafana Loki 有 3 个方式：

单机模式：适合小型部署和开发环境。

微服务模式：适合大型部署和生产环境。

Grafana Cloud：由 Grafana 团队托管的 SaaS 解决方案。