Mac/Linux 从Google Cloud Storage 下载财务报告数据

2022/2/11 7:16:37

本文主要是介绍Mac/Linux 从Google Cloud Storage 下载财务报告数据,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

Mac/Linux 从Google Cloud Storage 下载财务报告数据 (Download reports from Google Cloud Storage)

流程

  • 配置Mac/Linux 代理
  • 安装gsutil工具及配置环境
  • 确认 Google Cloud Storage的关键信息
  • 使用 gsutil cp gs://BUCKET_NAME/OBJECT_NAME /目标文件路径

配置Mac/Linux 代理

前提:本文代理服务使用的是ss vTWOray,默认为socks5。

  • 虽然gsutil支持socks代理协议,但因为下载效率问题,本文依旧采用http协议。如你的代理服务默认是socks协议,需要先将其转化成http模式。
    转化成http代理教程如下:
    Mac上使用polipo将socks5代理转为http代理

安装python3.7以上版本,并配置为默认执行

  • 查看python版本:python -V
  • 查看python3执行路径:which python3
  • 配置python3为默认执行命令
    编辑环境变量配置文件:vim ~/.zshrc 或者 vim ~/.bash_profile
    添加命令:alias python="/usr/local/bin/python3.7"
    保存退出并 source ~/.zshrc
  • 查看python版本:python -V

配置代理

  • vim ~/.zshrc
alias proxy="export http_proxy=http://127.0.0.1:8001;export https_proxy=http://127.0.0.1:8001;export HTTP_PROXY=http://127.0.0.1:8001;export HTTPS_PROXY=http://127.0.0.1:8001" 
alias unproxy="unset http_proxy"  

检验终端的代理状态

  • 开启代理:proxy
  • 关闭代理:unproxy
  • curl https://www.google.com.hk

安装gsutil工具及配置环境

  • 安装gsutil 工具:install the gsutil tool
  • 配置gsutil 运行环境变量:
    vim ~/.zshrc 
    添加命令:export PATH=${PATH}:$HOME/gsutil
    保存退出 source  ~/.zshrc
  • 运行gsutil

确认 Google Cloud Storage的关键信息

  • 进入目标:Google Cloud Platfrom
  • 点击左上导航栏找到:Cloud Storage并进入Setting选项
  • 点击进入Interoperability页面
  • 找到Access keys for your user account 并Create a key
  • 保存生成的Access key 和 Secret

gutil的boto配置

  • 编辑.boto文件 :vim ~/.boto
  • 代理配置
    找到 [Boto]
    找到一下参数并修改为自己的代理数据
    proxy = 127.0.0.1
    proxy_type = http
    proxy_port = 8001
  • 密钥配置
    找到 [Credentials]
    找到一下参数并修改为刚生成的Access key 和 Secret
      gs_access_key_id = GOOGYROMDHOUQNCZXKZS
      gs_secret_access_key = zdndwhQbJ7H2s2261YdRGvlygIB2OnWaubM

使用 gsutil cp gs://BUCKET_NAME/OBJECT_NAME /目标文件路径

    通过单击Download报告页面上相应部分标题旁边的Copy Cloud Storage URI按钮,找到您的报告桶ID。
    您的云存储URI以pubsite_prod_rev开头(例如,pubsite_prod_rev_01234567890987654321)。
  • gsutil cp gs://pubsite_prod_rev_01234567890987654321/sales/salesreport_202202.zip /Users/cheneychan


这篇关于Mac/Linux 从Google Cloud Storage 下载财务报告数据的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程