vanuan / data.city.cv.ua Goto Github PK

View Code? Open in Web Editor NEW

0.0 0.0 0.0 13 KB

Python 80.54% Shell 19.46%

data.city.cv.ua's People

Contributors

Watchers

data.city.cv.ua's Issues

Помилка Datapusher

https://data.city.cv.ua/dataset/markets_sellingpoints

--------------------------------------------------------------------------------
INFO in jobs [/datapusher/datapusher/jobs.py:338]:
Fetching from: https://data.city.cv.ua/dataset/a9e615d2-bdae-4c15-9272-fdacb70008f3/resource/b1a90e16-841f-4895-990e-d3914caba8a2/download/markets_sellingpoints.xlsx
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
INFO in jobs [/datapusher/datapusher/jobs.py:458]:
Determined headers and types: [{'type': u'text', 'id': u'market_name'}, {'type': u'text', 'id': u'market_owner'}, {'type': u'numeric', 'id': u'market_owner_code'}, {'type': u'numeric', 'id': u'\u0417\u0430\u0433\u0430\u043b\u044c\u043d\u0430 \u043a\u0456\u043b\u044c\u043a\u0456\u0441\u0442\u044c \u0442\u043e\u0440\u0433\u043e\u0432\u0435\u043b\u044c\u043d\u0438\u0445 \u043c\u0456\u0441\u0446\u044c'}, {'type': u'numeric', 'id': u'\u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u043f\u0440\u043e\u0434\u0442\u043e\u0432\u0430\u0440\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0437 \u043d\u0438\u0445 \u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u0441\u0456\u043b\u044c\u0433\u043e\u0441\u043f\u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0456\u0457'}, {'type': u'numeric', 'id': u'\u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u043d\u0435\u043f\u0440\u043e\u0434\u043e\u0432\u043e\u043b\u044c\u0447\u0438\u0445 \u0442\u043e\u0432\u0430\u0440\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0422\u043e\u0440\u0433\u043e\u0432\u0435\u043b\u044c\u043d\u0438\u0445 \u043c\u0456\u0441\u0446\u044c \u0437\u0430\u0433\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043e\u0440\u0438\u0441\u0442\u0443\u0432\u0430\u043d\u043d\u044f'}, {'type': u'numeric', 'id': u'\u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u043f\u0440\u043e\u0434\u0442\u043e\u0432\u0430\u0440\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0437 \u043d\u0438\u0445 \u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u0441\u0456\u043b\u044c\u0433\u043e\u0441\u043f\u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0456\u0457'}, {'type': u'numeric', 'id': u'\u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0430\u0436\u0443 \u043d\u0435\u043f\u0440\u043e\u0434\u043e\u0432\u043e\u043b\u044c\u0447\u0438\u0445 \u0442\u043e\u0432\u0430\u0440\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0422\u043e\u0440\u0433\u043e\u0432\u0435\u043b\u044c\u043d\u0438\u0445 \u043c\u0456\u0441\u0446\u044c \u0456\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445'}, {'type': u'numeric', 'id': u'\u0406\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445 \u043f\u0430\u0432\u0456\u043b\u044c\u0439\u043e\u043d\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0406\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445 \u043a\u0456\u043e\u0441\u043a\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0406\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445 \u0437\u0430\u043a\u0440\u0438\u0442\u0438\u0445 \u043f\u0440\u0438\u043b\u0430\u0432\u043a\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0406\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445 \u0440\u043e\u0437\u043a\u043b\u0430\u0434\u043d\u0438\u0445 \u043f\u0440\u0438\u043b\u0430\u0432\u043a\u0456\u0432 \u0456 \u0441\u0442\u043e\u043b\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0406\u043d\u0434\u0438\u0432\u0456\u0434\u0443\u0430\u043b\u044c\u043d\u0438\u0445 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0421\u0443\u043c\u0430 \u0432\u0438\u0442\u0440\u0430\u0447\u0435\u043d\u0438\u0445 \u043a\u043e\u0448\u0442\u0456\u0432 \u043d\u0430 \u0440\u043e\u0437\u0432\u0438\u0442\u043e\u043a \u0440\u0438\u043d\u043a\u0443 (\u0442\u0438\u0441. \u0433\u0440\u043d.)'}, {'type': u'numeric', 'id': u'\u0432\u043b\u0430\u0441\u043d\u0438\u0445 \u0440\u0438\u043d\u043a\u0443'}, {'type': u'numeric', 'id': u'\u0437\u0430\u043b\u0443\u0447\u0435\u043d\u0438\u0445 \u0443 \u043f\u0456\u0434\u043f\u0440\u0438\u0454\u043c\u0446\u0456\u0432'}, {'type': u'numeric', 'id': u'\u0421\u0443\u043c\u0430 \u0432\u0438\u0442\u0440\u0430\u0447\u0435\u043d\u0438\u0445 \u043a\u043e\u0448\u0442\u0456\u0432 \u043d\u0430 \u0440\u0435\u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0456\u044e \u0430\u0431\u043e \u043d\u043e\u0432\u0435 \u0431\u0443\u0434\u0456\u0432\u043d\u0438\u0446\u0442\u0432\u043e \u043d\u0430 \u0440\u0438\u043d\u043a\u0443 (\u0442\u0438\u0441. \u0433\u0440\u043d.)'}, {'type': u'numeric', 'id': u'\u0432\u043b\u0430\u0441\u043d\u0438\u0445 \u0440\u0438\u043d\u043a\u0443'}, {'type': u'numeric', 'id': u'\u0437\u0430\u043b\u0443\u0447\u0435\u043d\u0438\u0445 \u0443 \u043f\u0456\u0434\u043f\u0440\u0438\u0454\u043c\u0446\u0456\u0432'}]
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
INFO in jobs [/datapusher/datapusher/jobs.py:466]:
Saving chunk 0
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
ERROR in scheduler [/usr/local/lib/python2.7/site-packages/apscheduler/scheduler.py:520]:
Job "push_to_datastore (trigger: RunTriggerNow, run = True, next run at: None)" raised an exception
--------------------------------------------------------------------------------
Traceback (most recent call last):
  File "/usr/local/lib/python2.7/site-packages/apscheduler/scheduler.py", line 512, in _run_job
    retval = job.func(*job.args, **job.kwargs)
  File "/datapusher/datapusher/jobs.py", line 468, in push_to_datastore
    records, api_key, ckan_url)
  File "/datapusher/datapusher/jobs.py", line 245, in send_resource_to_datastore
    check_response(r, url, 'CKAN DataStore')
  File "/datapusher/datapusher/jobs.py", line 160, in check_response
    response=response.text)
HTTPError: CKAN DataStore bad response. Status code: 500 Internal Server Error. At: https://data.city.cv.ua/api/3/action/datastore_create. status=500 url=https://data.city.cv.ua/api/3/action/datastore_create response=
    <html>
    <head>
    <title>Server Error</title>
    
    </head>
    <body>
    <h1>Server Error</h1>
    An internal server error occurred
    
    </body>
    </html>

Метадані: опис та валідація

Портал повинен надавати можливість зберігання та завантаження метаданих:
https://www.w3.org/TR/dwbp/#metadata

Варіанти стандартів:

https://frictionlessdata.io/specs/table-schema/

Імплементація

Утіліта створення схеми
Інтерфейс плагіну ckanext-validation для специфікації схеми згідно стандарту Table Schema:

Встановити ліміт розміру файлу

Проблема:

для файлу розміром 5 МБ уже видає помилку 413 Request Entity Too Large

Рішення:

Спецсимволи у тегах

Тег може містити лише числа, літери, а також символи - (дефіс) та _ (підкреслення)

Неможливо використовувати слова, що містять апостроф

Налаштувати DataStore та DataPusher

Потрібно налаштувати DataStore та DataPusher для коректної роботи попереднього перегляду та API (кириличні символи, перегляд непублічних наборів, перегляд великих файлів).

Форматування дати неконсистенте

У вікні попереднього перегляду дати у секції “Додаткова інформація” форматуються без відмінювання (наприклад, “7 Січень 2018”).
При цьому на сторінці набору дати у цій же секції форматуються правильно

504 - Gateway Time-out

З невідомих причин виникає помилка 504

Зворотній зв’язок

Встановити плагін для організації зворотнього зв’язку. Варіанти:

публічні коментарі до кожного набору
приватні зауваження до кожного набору
оцінювання кожного набору
загальні зауваження по порталу

Стиль головної сторінки (ckan.homepage_style)

Ліцензія

Кожен набір даних має містити посилання на уривок з ЗУ "Доступ до публічної інформації":

ст. 10-1, п.2:

Публічна інформація у формі відкритих даних є дозволеною для її подальшого вільного використання та поширення.

Будь-яка особа може вільно копіювати, публікувати, поширювати, використовувати, у тому числі в комерційних цілях, у поєднанні з іншою інформацією або шляхом включення до складу власного продукту, публічну інформацію у формі відкритих даних з обов’язковим посиланням на джерело отримання такої інформації.

Recommend Projects

React

A declarative, efficient, and flexible JavaScript library for building user interfaces.
Vue.js

🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
Typescript

TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
TensorFlow

An Open Source Machine Learning Framework for Everyone
Django

The Web framework for perfectionists with deadlines.
Laravel

A PHP framework for web artisans
D3

Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

javascript

JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
web

Some thing interesting about web. New door for the world.
server

A server is a program made to process requests and deliver data to clients.
Machine learning

Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
Visualization

Some thing interesting about visualization, use data art
Game

Some thing interesting about game, make everyone happy.

Recommend Org

Facebook

We are working to build community through open source technology. NB: members must have two-factor auth.
Microsoft

Open source projects and samples from Microsoft.
Google

Google ❤️ Open Source for everyone.
Alibaba

Alibaba Open Source for everyone
D3

Data-Driven Documents codes.
Tencent

China tencent open source team.