Gcp

Create BigQuery Tables for Apache Iceberg using dbt and Read them from Snowflake

Getting ID Token from Google Apps Script to assume AWS role and read/write to S3

Calling Cloud Run functions from BigQuery to process data using any libraries and services

Setting up GCP's Workload Identity Federation with Terraform to Call APIs from AWS without creating Service Account Keys

Sending notifications from Airflow using Slack credentials stored in Secrets Manager

Identifying High-Cost Queries Using BigQuery's INFORMATION_SCHEMA

Running dbt as an Airflow TaskGroup with astronomer-cosmos

Restoring BigQuery Data using time travel and snapshots

Setting up GCP's managed Airflow service Cloud Composer using Terraform and running workflows

Creating new tables in BigQuery by processing data with SQL using dbt

Read and run WordCount Sample on Dataflow, managed ETL service using Apache Beam

Avoiding OOM in count-distinct operations on massive datasets using HyperLogLog++, a probabilistic cardinality estimation algorithm

GlueのカスタムコネクタでBigQueryに接続する

ウェブアプリとしてデプロイしたGASをブラウザからAPIとして呼ぶ際のCORSエラー

claspでGoogle Apps Scriptをローカルで開発しデプロイする

GoのSheets API v4クライアントでSpreadsheetを読み書きする

IstioをHelmでインストールしてRoutingとTelemetryを行いJaeger/Kialiで確認する

CircleCI 2.0でDocker imageをbuildしてタグを付けてContainer Registryに上げる

KubernetesのCustom Resource Definition(CRD)とCustom Controller

KubernetesのNetworkPolicy Resource

GCPのCloud Pub/Sub

GAEのTaskQueue

GKEでのService(ClusterIP/NodePort/LoadBalancer)とIngress

TerraformでGKEクラスタとBigQueryを立てる

Macでの開発環境構築メモ

KubernetesにHelmでLocustによる分散負荷試験環境を立てる

RBACが有効なGKEでHelmを使う

Kubernetesの1PodでAppとfluentdコンテナを動かしてBigQueryに送る

fluentdのmonitor_agentのデータをGoでGoogle Stackdriverに送って監視する

gcloudのアカウント切り替えとkubectlのcontext変更

GKEで複数コンテナのアプリケーションを動かす

Google Container Engine(GKE)で単一コンテナのアプリケーションを動かす