You are not logged in.

Announcement

*** NOTICE: forum.openstreetmap.org is being retired. Please request a category for your community in the new ones as soon as possible using this process, which will allow you to propose your community moderators.
Please create new topics on the new site at community.openstreetmap.org. We expect the migration of data will take a few weeks, you can follow its progress here.***

#1 2009-10-29 17:03:26

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Хранилище для выкачанных osm-файлов

Выступаю с инициативой (наказуемой, ессно smile ) пользоваться созданным мной хранилищем для общедоступного хранения свежевыкачанных osm-файлов.

Зачем это нужно?
Многие из нас выкачивают "свои" области с осм'а, некоторые делают это ежесуточно. К сожалению, в настоящий момент "сырые" osm-файлы не хранятся где-либо централизованным образом. Подозреваю, что это приводит к тому, что
а) те, кто умеют, качают одно и то же каждый для себя
б) те, кто не умеет, не могут получить сырые данные для обработки вовсе.
Данная инициатива представляет собой попытку исправить этот недостаток.

Почему не база?
Просто потому, что пока ее нет. Понятно, поднятие зеркала для России с возможностью выкачивания разных регионов полностью бы решило эту проблему, но пока мы имеет, то что имеем.

Как это будет работать?
Пока предлагаю следующее:
энтузиастам-добровольцам, которые готовы обеспечить более-менее регулярное выкладывание областей, по запросу я даю доступ к ftp, куда они будут заливать архивы скачанных областей. Доступ к закачанным архивам будет открытый и свободный для всех. Для начала могу обещать 500Мб места у хостера под это дело, дальше - посмотрим.

Да, пока там пусто smile
Доберусь домой - залью "свои" Питер, Псков, Карелию и Новгород

Offline

#2 2009-10-29 17:42:47

sim
Member
Registered: 2008-04-19
Posts: 632
Website

Re: Хранилище для выкачанных osm-файлов

чуть-чуть забегая вперед, буквально на днях, будет ежедневная резка osm-ов по всем областям (точнее она уже есть, в тестировании)

Offline

#3 2009-10-29 19:23:09

liosha
Member
From: Moscow
Registered: 2008-03-04
Posts: 8,447
Website

Re: Хранилище для выкачанных osm-файлов

sim, а сам процесс какой будет, если не секрет?

Offline

#4 2009-10-29 19:37:50

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

"Свои" файлы залил. liosha, Zkir, присоединитесь?

Offline

#5 2009-10-29 19:58:22

liosha
Member
From: Moscow
Registered: 2008-03-04
Posts: 8,447
Website

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov, естессно. Присылай пароли и явки  smile

Offline

#6 2009-10-29 20:43:01

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

liosha, выслал на gmail. Жду прибавления smile

Offline

#7 2009-10-30 06:49:47

Ezhick
Member
From: Moscow
Registered: 2008-10-08
Posts: 2,508
Website

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov а можно и мне доступ? Тула, Орел, Краснодарский край ежедневно качаю.

Offline

#8 2009-10-30 07:51:21

astroiLL
Member
From: Краснодар
Registered: 2009-06-25
Posts: 348
Website

Re: Хранилище для выкачанных osm-файлов

А можно разделить тему? А то обсуждаем в стрип-режиме сразу две возможности.
Я понял, что автор предложил только хранилище? Т.е. если я выкачиваю OSM для Краснодара и Ростова скриптом, а выкладывать на http://fmesh.ru/osm ?
Могу и туда выкладывать, а не у себя, опять же у меня возникают проблемы с каналом и стабильное хранилище было бы удобно.
Ezhick, ты Краснодарский край регулярно качаешь? У меня работает ночью скрипт КрКр и РостовНаДону с областью.

Last edited by astroiLL (2009-10-30 07:53:19)


Линукс и Астрономия. Сисадмин, компьютерщик и таксист - всё шабашник. Обращайтесь если чо.

Offline

#9 2009-10-30 08:00:18

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

astroiLL wrote:

Я понял, что автор предложил только хранилище? Т.е. если я выкачиваю OSM для Краснодара и Ростова скриптом, а выкладывать на http://fmesh.ru/osm ?

Да именно так.
Координаты выслал Вам и Ezhick'у. Договаривайтесь насчет КрКр smile

Offline

#10 2009-10-30 09:26:47

Ezhick
Member
From: Moscow
Registered: 2008-10-08
Posts: 2,508
Website

Re: Хранилище для выкачанных osm-файлов

КрКр качал регулярно, ибо не знал, что его еще кто-то качает и выкладывает. Меня попросили делать конверт под ПокетГИС, для него и качал. Готов перестать качать, ибо сегодня пришли запросы еще на несколько регионов, которые пока никто не качает, переключусь на них.

Offline

#11 2009-10-30 11:20:21

neutron
Member
From: Yekaterinburg
Registered: 2009-08-07
Posts: 100

Re: Хранилище для выкачанных osm-файлов

Ещё бы прикрутить в табличку:
- размер файла;
- описание файла (координаты границ);

Offline

#12 2009-10-30 11:44:38

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

Размер прикручу.
Границы - руками заливать имхо муторно. Попробую напрячь сервер заняться их вытягиванием из файлов. Если не начнет ругаться - сделаю потихоньку.

Offline

#13 2009-10-30 11:58:41

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov wrote:

Размер прикручу.

Done

Offline

#14 2009-10-30 12:36:18

Ezhick
Member
From: Moscow
Registered: 2008-10-08
Posts: 2,508
Website

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov wrote:

Размер прикручу.
Границы - руками заливать имхо муторно. Попробую напрячь сервер заняться их вытягиванием из файлов. Если не начнет ругаться - сделаю потихоньку.

А они там есть, чтобы их вытягивать???

Offline

#15 2009-10-30 12:41:14

astroiLL
Member
From: Краснодар
Registered: 2009-06-25
Posts: 348
Website

Re: Хранилище для выкачанных osm-файлов

Мы в какой-то теме с Лешей обсудили и я взял загрузку OSM КрКр с Ростовом на себя.
Вот тут:
http://astrokuban.info/pub/GPS/Maps/OSM/
ftp://astrokuban.info/pub/GPS/Maps/OSM/
возникают каждую ночь (в 1:00-2:00) мои скачанные регионы.
Если Ivan Komarov пришлет мне имя и пароль на ftp доступ (я пока ничего не получил), то буду и туда выкладывать, одна строка в скрипте не помеха.


Линукс и Астрономия. Сисадмин, компьютерщик и таксист - всё шабашник. Обращайтесь если чо.

Offline

#16 2009-10-30 12:41:25

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

Ezhick wrote:

А они там есть, чтобы их вытягивать???

BBox? Всяко есть - for_each_nodes и они у нас в руках smile А после liosh'иного osmsort'а они в заголовке osm-файла прописаны

Offline

#17 2009-10-30 12:43:39

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

astroiLL wrote:

Если Ivan Komarov пришлет мне имя и пароль на ftp доступ (я пока ничего не получил), то буду и туда выкладывать, одна строка в скрипте не помеха.

Высылал sad
напишите на vanokom at DO_NOT_SPAM_ME freemail.ru

Offline

#18 2009-10-30 12:46:04

Ezhick
Member
From: Moscow
Registered: 2008-10-08
Posts: 2,508
Website

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov wrote:

[А после liosh'иного osmsort'а они в заголовке osm-файла прописаны

Для отсталых, типа меня: osmsort это что и с чем его едят?

Offline

#19 2009-10-30 12:46:33

liosha
Member
From: Moscow
Registered: 2008-03-04
Posts: 8,447
Website

Re: Хранилище для выкачанных osm-файлов

BBox и for_each_nodes - немного разные вещи

Offline

#20 2009-10-30 12:53:17

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

liosha wrote:

BBox и for_each_nodes - немного разные вещи

Так-то оно так, но ведь osmsort именно так его и считает?

Ezhick wrote:

Для отсталых, типа меня: osmsort это что и с чем его едят?

составная часть liosh'иного конвертера.

Offline

#21 2009-10-30 12:56:04

astroiLL
Member
From: Краснодар
Registered: 2009-06-25
Posts: 348
Website

Re: Хранилище для выкачанных osm-файлов

Ezhick wrote:
Ivan Komarov wrote:

[А после liosh'иного osmsort'а они в заголовке osm-файла прописаны

Для отсталых, типа меня: osmsort это что и с чем его едят?

Ты не в теме? А чем ты загружаешь OSM?
У меня в скрипте загружается с помощью osmget и потом сортируется с помощью osmsort, запаковывается bz2 и выкладывается на ftp.
И притом грузятся с определенными границами, чтобы стыковалось с другими регионами.


Линукс и Астрономия. Сисадмин, компьютерщик и таксист - всё шабашник. Обращайтесь если чо.

Offline

#22 2009-10-30 13:01:48

liosha
Member
From: Moscow
Registered: 2008-03-04
Posts: 8,447
Website

Re: Хранилище для выкачанных osm-файлов

Ivan Komarov wrote:
liosha wrote:

BBox и for_each_nodes - немного разные вещи

Так-то оно так, но ведь osmsort именно так его и считает?

Нет, он считает по bbox-ам скаченных кусков, которые выдаёт api.
При этом часть точек граничных веев остаются снаружи bbox-а

Offline

#23 2009-10-30 13:03:58

Ivan Komarov
Member
Registered: 2008-10-02
Posts: 1,050

Re: Хранилище для выкачанных osm-файлов

liosha wrote:

Нет, он считает по bbox-ам скаченных кусков, которые выдаёт api.
При этом часть точек граничных веев остаются снаружи bbox-а

осознал smile

Offline

#24 2009-10-30 13:27:44

Ezhick
Member
From: Moscow
Registered: 2008-10-08
Posts: 2,508
Website

Re: Хранилище для выкачанных osm-файлов

astroiLL wrote:

Ты не в теме? А чем ты загружаешь OSM?
У меня в скрипте загружается с помощью osmget и потом сортируется с помощью osmsort, запаковывается bz2 и выкладывается на ftp.
И притом грузятся с определенными границами, чтобы стыковалось с другими регионами.

Гружу через xapi curl'ом.

Offline

#25 2009-10-30 13:39:59

astroiLL
Member
From: Краснодар
Registered: 2009-06-25
Posts: 348
Website

Re: Хранилище для выкачанных osm-файлов

Получил я доступ, т.ч. сегодняшний скрипт закинет OSM-файлы и на http://fmesh.ru/osm
Завтра (или в понедельник) проверим.


Линукс и Астрономия. Сисадмин, компьютерщик и таксист - всё шабашник. Обращайтесь если чо.

Offline

Board footer

Powered by FluxBB