Git Product home page Git Product logo

airflow_base_ru's Introduction

airflow_base_RU

Установка Apache Airflow на Windows 10 и простые первые даги DAG's

Для установки airflow на windows 10 необходимо сначала установить подсистему Windows для Linux (Windows subsystem for Linux - WSL), т.к. airflow не поддерживает windows((

Шаг 1.

Изначально компонент WSL отключен. Чтобы его включить, вам необходимо зайти в Пуск -> Панель управления -> Программы и компоненты -> Включение и отключение компонентов windows , активировать галочку -> Подсистема Windows для Linux (Windows Subsystem for Linux) , нажать кнопку ОК, и перезагрузить компьютер.

Шаг 2.

Качаем и устанавливаем любой понравившийся дистрибьютив.

Все готово к началу установки.

Шаг 3.

Сама установка описана в официальной документации и разбита на следующие действия:

  • сначала в командной строке вводим wsl для доступа к установленной подсистеме;
  • затем непостредственно установка - pip install apache-airflow;
  • если "по-хорошему" не прошло, то выполняем следующий набор команд для выбора и установки определенной версии:
    1. export AIRFLOW_HOME=~/airflow
    2. source ~/.bashrc
    3. AIRFLOW_VERSION=2.2.3
    4. PYTHON_VERSION="$(python3 --version | cut -d " " -f 2 | cut -d "." -f 1-2)"
    5. CONSTRAINT_URL="https://raw.githubusercontent.com/apache/airflow/constraints-${AIRFLOW_VERSION}/constraints-${PYTHON_VERSION}.txt"
    6. pip3 install "apache-airflow==${AIRFLOW_VERSION}" --constraint "${CONSTRAINT_URL}"
    7. export PATH=$PATH:~/.local/bin
    8. source ~/.bashrc
  • инициализация базы данных, по умолчанию sqlite - airflow db init;
  • создание пользователя - airflow users create \ --username admin \ --firstname Peter \ --lastname Parker \ --role Admin \ --email [email protected]
  • запуск локального сервера - airflow webserver --port 8080
  • запуск шедулера в новом окне - airflow scheduler

Если все сделано верно, то при посещении localhost:8080 и после ввода данных пользователя вам будут доступны для ознакомления с функциональностью стандартные даги, их уже можно покрутить/позапускать и посмотреть на результаты.

П.С.

По умолчанию создается домашняя папка AIRFLOW_HOME=~/airflow, ее можно сменить export AIRFLOW_HOME='ваш путь'. В папку airflow/dags необходимо будет поместить все ваши новые даги для последующей с ними работы. Для того чтобы получить доступ к папкам подсистемы проделаем следующее cmd -> wsl -> cd ~/ -> explorer.exe .

airflow_base_ru's People

Contributors

alexandr308 avatar

Watchers

 avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.