Cloud
文章平均质量分 84
Moshow郑锴
Powered by Core iMoshow
展开
-
GCP DataFlow命令行如何检测当前Job的Traffic情况
在 Google Cloud Dataflow 中,可以使用命令行工具(如 gcloud)来监控当前作业的流量和状态。以下是一些常用的命令和方法,用于检测 Dataflow 作业的流量情况。原创 2024-11-24 14:28:50 · 260 阅读 · 0 评论 -
GCP Cloud Storage命令详解和日常使用案例
gsutil是与 Google Cloud Storage 交互的重要工具,支持多种操作和自动化脚本。通过掌握常用命令和使用案例(备份+恢复+定期上传日志+大规模数据迁移+定期清理备份+检索文件),可以有效管理存储在 GCS 中的数据,提高工作效率。原创 2024-11-24 14:24:29 · 594 阅读 · 0 评论 -
Google BigQuery最佳实践
遵循这些最佳实践可以帮助你在使用 BigQuery 时优化性能、控制成本并提高安全性。通过合理的数据设计、查询优化和监控管理,可以更有效地利用 BigQuery 的强大功能。原创 2024-11-22 00:35:07 · 986 阅读 · 0 评论 -
GCP Cloud FireStore的Native Mode和DataStore Mode有什么区别
Google Cloud Firestore 主要有两种模式:原生模式(Native mode)和 Datastore 模式。,选择哪种模式主要取决于你的应用需求。如果需要灵活的数据结构和实时功能,可以选择原生模式;如果是维护现有的 Datastore 应用或需要简单的数据模型,则可以选择 Datastore 模式。原创 2024-11-21 00:10:27 · 285 阅读 · 0 评论 -
GCP数据库之Google Cloud Spanner(ACID强一致性)
Google Cloud Spanner 是 GCP 中一个强大且灵活的数据库解决方案,适合需要 ACID 事务和高扩展性的应用。Cloud Spanner 特别适合以下场景:需要高可用性和强一致性的企业级应用。大规模的在线事务处理(OLTP)系统。需要全球分布和低延迟访问的应用。原创 2024-11-18 00:02:12 · 585 阅读 · 0 评论 -
GCP Cloud Storage 的lock retention policy是什么
Google Cloud Storage 的锁定保留策略(Lock Retention Policy)是一种用于保护存储桶中对象数据的功能。它允许用户设置一个保留期,在此期间对象不能被删除或覆盖。这对于确保数据的长期保留和合规性非常重要,尤其是在需要满足法律、法规或行业标准时。原创 2024-11-18 00:02:08 · 1026 阅读 · 0 评论 -
在Google Cloud Platform (GCP) 中用Pub/Sub+Dataflow+BigQuery构建数据处理仓库
Pub/Sub:作为消息队列,Pub/Sub 用于接收和传输实时数据流。它能够处理高吞吐量的消息,并将数据分发到多个订阅者。Dataflow:用于数据处理和转换。Dataflow 支持流式和批处理,可以从 Pub/Sub 中读取数据,进行实时处理,然后将结果写入 BigQuery 或其他存储。BigQuery:作为数据仓库,BigQuery 用于存储和分析大规模数据。经过 Dataflow 处理的数据可以直接写入 BigQuery,以便后续的分析和查询。原创 2024-11-17 21:37:03 · 964 阅读 · 0 评论 -
什么是GCP的ACL和IAM权限控制
ACL 是一种简单的权限管理机制,用于控制特定资源(如 Cloud Storage 桶或对象)的访问。它允许您为每个资源直接定义哪些用户或服务帐号可以进行哪些操作。 IAM,您可以通过定义谁(身份)对哪些资源具有哪种访问权限(角色)来管理访问权限控制。例如,Compute Engine 虚拟机实例、Google Kubernetes Engine (GKE) 集群和 Cloud Storage 存储桶都是 Google Cloud 资源。您用于整理资源的组织、文件夹和项目也是资源。原创 2024-11-17 18:02:17 · 702 阅读 · 0 评论 -
GCP : Memcache backed by Cloud Datastore
当Memcache与Cloud Datastore结合使用时,可以利用Cloud Datastore的自动扩展特性,以支持大量用户和数据的增长,同时保持高性能。Memcache backed by Cloud Datastore可以提供快速的数据访问速度,同时保证数据的持久化存储,这样即使在缓存失效或系统重启的情况下,数据也不会丢失。综上所述,Memcache backed by Cloud Datastore的主要用途在于提供高性能、可扩展的数据缓存解决方案,同时确保数据的持久化存储和高可用性。原创 2024-11-17 00:33:14 · 499 阅读 · 0 评论 -
BigQuery中jobUser和dataViewer的角色有什么不同
角色功能jobUser:可以创建和管理作业,但不能查看数据。dataViewer:可以查看数据,但不能创建或管理作业。适用场景jobUser适合需要运行查询的用户。dataViewer适合只需访问数据的用户。在实际应用中,这两个角色可以根据团队的需求进行组合使用,以确保用户能够获得所需的权限,同时保持数据的安全性和合规性。原创 2024-11-17 00:32:54 · 951 阅读 · 0 评论 -
Google Cloud Log Analytics 查询和过滤日志
本文档介绍在Google Log Analytics用SQL查询日志条目,并为构建可视化做准备。对日志进行过滤查询,对日志条目进行分类汇总。原创 2024-11-02 09:51:49 · 1396 阅读 · 0 评论 -
Google Stackdriver 查找包含错误组的日志条目
Google Stackdriver(现在称为Google Cloud Operations Suite)是Google提供的一套监控、日志记录和错误报告工具,用于管理云服务和应用程序的性能。本文档介绍了如何使用日志浏览器查找、过滤和排除属于错误组的日志条目。错误组通过分组帮助您识别环境中的趋势和反复出现的问题 包含错误的值的日志条目 例如异常类型、帧或消息原创 2024-11-02 09:41:29 · 929 阅读 · 0 评论 -
Windows Cold DR using PD Async Replication
PD Async Replication delivers quick recovery from unforeseen disasters. It replicates storage blocks across regions, achieving low Recovery Point Objective (RPO) under one minute and helps reduce Recovery Time Objective (RTO).原创 2024-03-18 22:05:09 · 909 阅读 · 0 评论 -
gcloud storage cp
Cloud Storage customers often ask us about the fastest way to ingest and retrieve data from their buckets. Getting the best performance often requires the users to know the right flags and parameters to optimize transfer speeds. In many situations, custome原创 2024-03-18 22:02:23 · 1190 阅读 · 0 评论 -
Google DataFlow入门与(Pub/Sub-DataFlow-BigQuery解决方案)
目标- 创建 Pub/Sub 主题。- 使用表和架构创建 BigQuery 数据集。- 使用 Google 提供的流式处理模板,通过 Dataflow 将数据从 Pub/Sub 主题流式传输到 BigQuery。- 创建用户定义的函数 (UDF) 以扩展 Google 提供的流处理模板。原创 2022-09-18 23:01:28 · 1169 阅读 · 0 评论 -
Google Pub/Sub入门
GCP - Google Pub/Sub 入门,核心概念:Topic主题、Subscription订阅者、Message消息,订阅模式:Pull拉式(批量拉取)、Push推式(实时推送)等等原创 2022-09-18 22:40:00 · 871 阅读 · 2 评论
分享