iMind Developers Blog

iMind開発者ブログ

AzureのVMのディスク容量をCLIで増やす

概要 AzureのVMを作成した後、deallocateしてディスク容量を変更して再度立ち上げる。 バージョン情報 azure-cli 2.0.54-1 参考URL ほぼ下記URLに書かれている手順をなぞる。 https://docs.microsoft.com/en-us/azure/virtual-machines/linux/expand-disks V…

CLIでAzureの操作

概要 AzureをCLIで扱った経験がなかったもんで、下記などの基本的な操作を実行してみる。 インスタンスの開始・終了 ストレージの作成とattach ファイルストレージの操作 バージョン情報 azure-cli 2.0.54-1 Ubuntu 18.04.1 LTS 導入 MSのサイトを参考にazur…

XfceでSuper+wで開くブラウザを変更する

概要 何かの拍子にブラウザのデフォルトがChromiumになってしまったのでFirefoxに戻したかった。 バージョン情報 Xubuntu 18.04 ブラウザの立ち上げについて Super+wによるWebブラウザの立ち上げはコマンド的には下記になる。 $ exo-open --launch WebBrowse…

AirflowでFailedのタスクをまとめてリトライ

概要 週明けに出社したらAirflowのTask Instancesが真っ赤になっていた。 そんな時、1つずつタスクをリトライしていくのは辛いのでコマンドでまとめてリトライする方法を確認する。 また、再実行する必要がない場合にまとめてSuccessにアップデートする方法…

Apache AirflowのDBをPostgreSQLに切り替える

概要 Apache AirflowのDBはデフォルトではSQLiteになっているが、これをPostgreSQLに切り替えてみる。 バージョン情報 Python 3.6.5 apache-airflow==1.10.1 psycopg2==2.7.5 上記が既にインストールされている前提で作業を進める。 DBとUserの生成 下記のSQ…

Ansibleでディスク容量チェック

概要 複数台のディスクスペースをチェックしてエラーを投げる処理を書きたかった。 サーバー側には何も入れたくなかったのでAnsibleで実行してみる。 バージョン情報 ansible 2.7.6 やり方 StackOverflowによるとansible_mountの結果からsize_availableやsiz…

Pythonで簡易な名前からの性別判定器を書く

概要 名前から性別を判定するのって簡単にできるのかな、ということで簡易な判定器を書いて試してみる。 バージョン情報 Python 3.6.8 scikit-learn==0.19.1 xgboost==0.72.1 テストデータ 名前一覧とか名前ランキング的なページをスクレイピングして27,326…

AirflowでWeb画面からDAGを消せなかった場合

概要 AirflowでWeb画面からDAGを削除しようとした場合に「DAG with id {DAG_ID} not found. Cannot delete」というエラーが出ることがある。 これの削除の仕方。 バージョン情報 Python 3.6.7 apache-airflow==1.10.1 CUIでの削除 CUIから「airflow delete_d…

Pythonのsubprocessで標準出力を取得

概要 Pythonで外部コマンドを呼んで標準出力を文字列で取得する。 バージョン情報 Python 3.6.8 事前準備 標準出力と標準エラーに出力する下記のようなコード(out.py)を用意しておく。 import sys print('standard out') print('standard error', file=sys…

Airflowのdags内でairflow.cfgの値を参照する

概要 $AIRFLOW_HOME/airflow.cfgファイルに記述した内容をPythonのコードから取りたかった。 バージョン情報 Python 3.6.7 apache-airflow==1.10.1 settingsを参照する AIRFLOW_HOMEやDAGS_FOLDERの値はairflow.settingsに入っている。 import airflow # air…