OpenStreetMap Forum

The Free Wiki World Map

You are not logged in.

#1 2011-10-04 19:20:00

Tiles Downloader bremsen Server aus

hi, wer Twitter verfolgt, wird die Warnung von Firefishy (Wiki server Admin) vielleicht gelesen haben:

#OpenStreetMap tile scraping apps: MOBAC, NaviComputer, OpenMaps, Locus & oMaps are killing our servers & endangering our hosting #sysadmin

Aus diesem Grund haben die entsprechenden Wikiseiten der Tools auch Warnhinweise bekommen:
http://wiki.openstreetmap.org/wiki/Temp … ileServers
http://wiki.openstreetmap.org/wiki/Blocked_applications
http://www.openstreetmap.org/user/!i!/diary/15046


Ich weiß, dass es natürlich eine blöde Sache ist, da gerade preiswerte Apps einfach auf die OSMTiles verweisen und diese für einen Bereich massenhaft downloaden. Und wir wollen natürlich, dass unsere Karte auch genutzt wird... Aber so langsam ist die Schmerzgrenze erreicht, da MOBAC wohl schon 30% unseres Traffic ausmacht. Alternative Tilesquellen gibt es und auch ein eigener Tilesserver für die Softwaretools ist ja möglich.

Bitte also diese Tools nicht weiter empfehlen, wenn jemand fragt!

Last edited by !i! (2011-10-08 17:18:27)

Offline

#2 2011-10-04 19:55:58

Re: Tiles Downloader bremsen Server aus

Schon vor einiger Zeit wurde in einem Thread das Grabschverhalten von "OSM-Downloader-Apps" kritisiert. Nop ist diesem "Resourcenraub" konsequent mit Downloadsperren entgegen getreten. Apps-Anbieter, die keinen eigenen Tilesserver aufsetzen, sind meines Erachtens ausnahmslos untragbar. Ich verstehe nicht, warum man nichts dagegen macht.

Offline

#3 2011-10-04 20:31:39

Re: Tiles Downloader bremsen Server aus

Naja ich persönlich befürchte einige Irritation bei potentiellen "Endnutzern" der Apps: "Ein freies Projekt, dass man aber nicht wirklich nutzen kann?!?"

Persönlich hätte ich nichts gegen eine einwöchige Sperre der OSM Tiles, so dass nur schematische Geisterbilder angezeigt werden und ein Text den Hintergrund erklärt, zum Beispiel:

"OSM.org zeitweise wegen übermäßiger Nutzung gesperrt.

Unser freies Projekt finanziert seine Infrastruktur ausschließlich über Spenden. Daher ist es nicht möglich, dass jede Software sich die Kartenbilder (Kacheln) auf Vorrat regelmäßig von dieser Webseite lädt. Wir protestieren hiermit gegen diese Form der Nutzung und möchten jeden dazu ermuntern, andere Quellen für Kacheln zu nutzen, oder einen eigenen Kachelserver für die eigene Software zu betreiben" Ist aber nur so eine Idee wink

Offline

#4 2011-10-04 20:40:36

viw
Super Senior Member
Registered: 2010-05-15
Posts: 2,198

Re: Tiles Downloader bremsen Server aus

!i! wrote:

Naja ich persönlich befürchte einige Irritation bei potentiellen "Endnutzern" der Apps: "Ein freies Projekt, dass man aber nicht wirklich nutzen kann?!?"

Persönlich hätte ich nichts gegen eine einwöchige Sperre der OSM Tiles, so dass nur schematische Geisterbilder angezeigt werden und ein Text den Hintergrund erklärt, zum Beispiel:

"OSM.org zeitweise wegen übermäßiger Nutzung gesperrt.

Unser freies Projekt finanziert seine Infrastruktur ausschließlich über Spenden. Daher ist es nicht möglich, dass jede Software sich die Kartenbilder (Kacheln) auf Vorrat regelmäßig von dieser Webseite lädt. Wir protestieren hiermit gegen diese Form der Nutzung und möchten jeden dazu ermuntern, andere Quellen für Kacheln zu nutzen, oder einen eigenen Kachelserver für die eigene Software zu betreiben" Ist aber nur so eine Idee wink

Nop hat eine Möglichkeit gefunden diese Tools zu bändigen. Ich denke das sollte OSM auch machen und wenn statt nichts dann auch noch Fehlertiles zurückgegeben werden, mit einem Link, dann ist dies umso besser.

Offline

#5 2011-10-04 20:42:19

aighes
OSM Addict
From: Germany
Registered: 2009-03-29
Posts: 4,990
Website

Re: Tiles Downloader bremsen Server aus

Das Problem ist, dass der Endanwender nicht ahnt, dass er "Schaden" anrichtet. Weiterhin besteht immer noch das Kommunikationsproblem, dass der Endanwender nicht weiß, dass OSM ein Datensammelprojekt ist, sondern glaubt, dass das Produkt von OSM die Karte ist. Kann man auch keinem übel nehmen, denn die Homepage erweckt genau diesen Eindruck.

@viw: Bei Mapnik gibt es auch so eine Bremse. Irgendwann kommt nurnoch alle 2s eine Kachel an. Ich fände es auch sinnvoller, statt alle 2 s eine Kachel zu senden, lieber nach x Kacheln 9 von 10 Kacheln mit einer entsprechenden Meldung auszuliefern (ähnlich wie more OSM comming soon).

Last edited by aighes (2011-10-04 20:45:02)


Viele Grüße
Henning, developer of RadReiseKarte and member of DataWorkingGroup

Offline

#6 2011-10-04 21:05:28

Re: Tiles Downloader bremsen Server aus

Hallo

der Trend geht doch dahin, dass man sich  zB. von der Geofabrik pbf Files runterläd und lokal rendert. Oder liege ich da falsch. Ich habe mich mal mit Android und GPS beschäftigt wobei OSMAND schonmal eine gute Mapnik ahnliche (?) Darstellung hat. Das Projekt Mapsforge bietet ja ähnliches. Leider kann man da aber (noch) nicht den Kartenstil ändern und man kann die untergeordneten Wanderwege schlecht von Hauptstrassen unterscheiden.
Also OSMAND macht das schon mal ganz gut. Mich wundert nur, dass es keine PC Version zum lokalen rendern gibt, wie das die Android GPS  machen. Oder habe ich da was übersehen?
Bei Mapsforge ist glaube ich so einePC Version am entstehen. Das lokale Rendern würde doch das Problem der Tiles Downloader drastisch verbessern...oder sehe ich das falsch?
Also OSMAND hat so ne gute Karte, dass ich da keine Tiles mehr downlode....und braucht weniger Platz....

Sollte man diese Schiene nicht verstärkt publizieren???

MfG
Achim

Last edited by womisa (2011-10-04 21:07:18)

Offline

#7 2011-10-04 21:28:41

aighes
OSM Addict
From: Germany
Registered: 2009-03-29
Posts: 4,990
Website

Re: Tiles Downloader bremsen Server aus

Das ist ja der Umkehrschluss aus Matthias Forderung, Tile-Sauger nicht zu nutzen und vor allem nicht mehr zu empfehlen.


Viele Grüße
Henning, developer of RadReiseKarte and member of DataWorkingGroup

Offline

#8 2011-10-04 22:07:58

Re: Tiles Downloader bremsen Server aus

Genau Achim. Nur ist es leider so, dass es für jemand der eine App bauen will (z.B. einen Gastronomieführer, wo die Karte eigentlich nur Beiwerk ist), dass es 1000x einfacher ist, einfach irgendwie die Kacheln zu nutzen. Und wie das immer so ist, wird dann die Offline-Funktionalität dadurch umgesetzt, dass "mal ebend" eine Massen-Download-Funktion hinzugestrickt wird und damti ist der Entwickler aus dem Schneider und unser Ärger geht los.
Eine vergleichsweise einfache Vektor-Karten-Einbindung gibt es IMHO noch nicht zur Einbindung in eigene Apps
http://wiki.openstreetmap.org/wiki/Develop/Frameworks

Wenn das mal irgendwo "offiziell" announced werden würde, könnte man ja vielleicht auch eine Pressemeldung herausgeben und die Situation auch Unbeteiligten schildern. Dann wäre das Problem vielleicht für die meisten leichter einzusehen, weil es nicht darum geht, ihrer Lieblings-App die Karten "auszubauen" wink

Offline

#9 2011-10-04 22:23:34

Re: Tiles Downloader bremsen Server aus

Ist hier schonmal die frage gestellt worden warum solche Tools genutzt werden ?

Sicher !

Aber auch gefragt wie man das abstellen kann und trotzdem die Nutzer von Karten glücklich!

Ich selbst verwende MOBAC weil es eine geniales Programm ist das in viele Kartenformate zu konvertieren!


Aber ich lade keine Karten aus dem Netz sondern verwende selbstgerenderte Karten.

Apps/Programme die nur Online Karten nutzten sollte man schon einen Riegel vorschieben.

Apps/Programme die auch Offline Karten verwenden können sollte man es aber dem User möglichst leicht machen!



Mein Vorschlag ist das alle Tile-Server-Betreiber die hier losschreien das ihr Server raucht, sich mit den Programmieren der unten erwähnten Programme zusammen setzten und was Endnutzerfreundlicher kreieren.

Eine Kombinartion von JOSM / Maperative und MOBAC

1. Ich wähle wie in JOSM den gewünschten Bereich aus und das Programm holt sich von der geofabrik oder Co die nötigen pbf's bzw. Upadatet vorhandene und liefert die Rohdaten des Bereichs.
2. Ich wähle wie in Maperative den entsprechenden Kartenstil
3. Ich sage in welchem Format ich es gespeichert haben will
Klick auf OK und das muß laufen ohne das ich viele GB Hauptspeicher brauch usw...


Die einzel Lösungen sind ja schon vorhanden - Es müsste eigentlich nur noch zusammengebracht weden was zusammen gehört.


Alle anderen Lösungen mit installiere das und richte das so ein / passe das dann an .....

Da werden 90% der User/Nutzer der Programme/Apps  darauf einen "großen Haufen" setzten und trotzdem versuschen an irgdewelche Online Karten zu kommen.


Sorry - MOBAC ist ein gutes Programm - Es sind die Nutzer und die hürden zum richtigen nutzen die das Problem sind.
Wie beim Autofahren. Vile wünschen demjenigen der ihn mit deutlich überhöhter Geschwindigkeit Überholt nenn Blitzer and den Hals.
Aber keiner will alle 100 m einen Blitzer oder auf jeder 2.ten Brücke nee Abstandskontrolle!

Offline

#10 2011-10-04 22:31:53

Re: Tiles Downloader bremsen Server aus

Vorschlag: Der Tileserver sollte bei Überlast den Überlast-Proggys ab und zu eine "Überlast-Kachel" anbieten, die dann nur "Please read overload.osm.org" als Text beinhaltet. Man kann das ganze ja auch Last-Abhängig machen. Zur Hauptzeit wird das z.B. vermehrt gemacht und auf der Page wird dann der Grund dafür genannt und auch der Hinweis, daß man Nachts weniger Probleme hat, und die Aufforderung, den Programmierer um eine Lösung zu bitten.

Der User, der gar nicht merkt, was lost ist, wird sicher schnell mal die URL eingeben und dann gleich lesen, daß er gerade Schaden anrichtet. Entweder er macht nachts weiter oder er wendet sich an den Anbieter seiner Software. Das führt dann zu dem Ergebnis, daß die am stärksten verbreiteten Anbieter auch am stärksten von den Usern kontaktiert werden.

Man sollte nur öffentlich zeigen, wie berechnet wird, wer dann beschränkt wird. Z.b. könnte man sagen, daß bei halb-viel-Überlast die Anbieter, welche 25% vom Traffic ausmachen angeschrieben werden. Am Ende werden die 50% der Top-Traffic-Anwendungen ausgewählt.


---

Offline

#11 2011-10-04 23:09:09

Re: Tiles Downloader bremsen Server aus

!i! wrote:

Naja ich persönlich befürchte einige Irritation bei potentiellen "Endnutzern" der Apps: "Ein freies Projekt, dass man aber nicht wirklich nutzen kann?!?"

Die Frage ist, was man unter "wirklich nutzen" versteht.
OSM ist nun mal eben kein Kartenanbieter, sondern eine Geodatenbank, aus der sich viele verschiedene Karten rendern lassen.
Wer Apps zur Verfügung stellt oder gar verkauft, hat die moralische Pflicht, die User über die Sachlage zu informieren.

aighes wrote:

Das Problem ist, dass der Endanwender nicht ahnt, dass er "Schaden" anrichtet. ...

Und dafür trägt der Apps-Anbieter die Verantwortung!

!i! wrote:

... Nur ist es leider so, dass es für jemand der eine App bauen will (z.B. einen Gastronomieführer, wo die Karte eigentlich nur Beiwerk ist), dass es 1000x einfacher ist, einfach irgendwie die Kacheln zu nutzen. Und wie das immer so ist, wird dann die Offline-Funktionalität dadurch umgesetzt, dass "mal ebend" eine Massen-Download-Funktion hinzugestrickt wird und damti ist der Entwickler aus dem Schneider und unser Ärger geht los. ...

Und genau das darf nicht sein, bzw. muß dadurch unterbunden werden, daß OSM-Server vor Massendownloads geschützt werden.

Quasilottes vorbildliches Verhalten, sich die Kartenkacheln selbst zu rendern und dann mit Mobac vom eigenen Rechner zu ziehen, in allen Ehren. Aber solange 1. die Nutzer (anscheinend) nicht ausreichend informiert werden und es 2. leichtere Wege gibt, an das Kartenmaterial zu kommen, wird sich an der Überlastung der OSM-Server nichts ändern. Im Gegenteil!

Apelle, solche Programme nicht für Massendownloads und somit Trafficklau und Überlastung der OSM-Server zu nutzen werden im www verhallen.
Solange die Downloads funktionieren, werden sie gemacht.
Also muß man sie drosseln.
Aber der Nutzer sollte auf jeden Fall den Grund der Drosselung erfahren.
Ganz egal, wie das umgesetzt wird.

Wenn die Download-Reduzierung obendrein dazu führt, daß Anbieter in Zugzwang gebracht werden, um so besser.

Mobac mag ein noch so tolles Programm sein. Wenn damit Schaden angerichtet wird, dann muß dafür gesorgt werden, daß das aufhört.

Gruß
tt

Offline

#12 2011-10-04 23:21:12

aighes
OSM Addict
From: Germany
Registered: 2009-03-29
Posts: 4,990
Website

Re: Tiles Downloader bremsen Server aus

@quasilotte: Deine Logik verstehe ich nicht.
Jemand stellt einen Tile-Server online, den man unter bestimmten Bedingungen nutzen darf. Warum sollte der Betreiber nun mit Leuten eine Lösung suchen, die sich absichtlich diesen Bedingungen widersetzen?

Ebenso wird der Traffic ja nicht weniger, nur weil man ihn zu einer anderen Tageszeit erzeugt.


Viele Grüße
Henning, developer of RadReiseKarte and member of DataWorkingGroup

Offline

#13 2011-10-04 23:36:15

Re: Tiles Downloader bremsen Server aus

!i! wrote:

Eine vergleichsweise einfache Vektor-Karten-Einbindung gibt es IMHO noch nicht zur Einbindung in eigene Apps

..wenn ich die Zielsetzung von MapsForge und den Viewer richtig verstanden erlaubt dieses Projekt genau das! Aber eben auf Android. Meine offene Frage war ja warum dass es das nicht für den PC gibt?

Ich finde MOBAC auch genial, da ich viele Ausgabeformate für die entsprechende Ziel-Hardware generieren kann. Was eben fehlt, wie oben erwähnt, dass man wie bei Maperative zB. von bpf Files eigene Kartenstile (lokal) als Input generieren kann.


MfG
Achim

Ps: Ich werde sowas mal im MOBAC Forum anregen......

Offline

#14 2011-10-05 00:42:32

Re: Tiles Downloader bremsen Server aus

aighes wrote:

Ebenso wird der Traffic ja nicht weniger, nur weil man ihn zu einer anderen Tageszeit erzeugt.

Aber die Spitzenbelastung, welche die bereitzuhaltende Kapazität bestimmt, ist geringer.

Kurzes Beispiel:
Ein Bahnunternehmen fährt 20 Mal am Tag von A nach B (Rückfahrt wird hier nicht betrachtet) und befördert hierbei 10.000 Personen.
In einen Zug passen 500 Personen.
Wenn 95 Prozent der Personen zur gleichen Zeit von A nach B fahren und die restlichen 5 Prozent über den restlichen Betriebstag verteilt, dann muss das Bahnunternehmen hierfür 19 Züge (und bis zu 19 Gleise, falls sich die Züge nicht alle aneinander hängen lassen) bereithalten.
Wenn die Personen aber gleichmäßig über den Betriebstag verteilt von A nach B fahren, benötigt das Bahnunternehmen nur einen Zug (20 Fahrten) und ein Gleis.
Die Anzahl der beförderten Personen und die Anzahl der Fahrten ist gleich, die Kosten unterscheiden sich aber sehr stark.

Gruß,
Mondschein

Last edited by Mondschein (2011-10-05 00:44:05)

Offline

#15 2011-10-05 02:18:29

derstefan
Senior Member
From: OpenTopoMap
Registered: 2010-03-28
Posts: 292
Website

Re: Tiles Downloader bremsen Server aus

Top! Es handelt sich also nicht um eine Gleichverteilung ("weißes Rauschen"). Da klingelts in Sachen Warteschlangentheorie, Erlang, dropped und refused...

Offline

#16 2011-10-05 05:49:02

Re: Tiles Downloader bremsen Server aus

aighes wrote:

Ebenso wird der Traffic ja nicht weniger, nur weil man ihn zu einer anderen Tageszeit erzeugt.

Richtig! OSM ist ein weltweites Projekt. Wenn es bei uns spät nachts ist, ist in den USA grad Nachmittag oder Abend, also "Hauptverkehrszeit" in Sachen Downloads. Zudem geht es meines Wissens gar nicht in erster Linie um den Traffic, sondern um das so genannte Rendern-on-the-Fly.

Die Kacheln in den hohen Zoomstufen (mindestens 17 und 18) werden nicht schon gerendert vorgehalten, sondern erst dann erzeugt, wenn jemand sie anfordert. Die CPU-Last für den Server ist in diesem Fall sehr hoch. Wenn ich richtig gerechnet habe, gibt es allein in Zoomstufe 18 insgesamt 20 Milliarden Kacheln (ohne Meeresfläche). Diese komplett zu rendern und täglich aktuell zu halten, ist fast nicht möglich; so etwas könnte man höchstens für jeweils ausgewählte Regionen schaffen, also zum Beispiel einen Deutschland-Server aufstellen, der dann nur damit beschäftigt ist, Kacheln zu rendern...

Offline

#17 2011-10-05 07:11:09

viw
Super Senior Member
Registered: 2010-05-15
Posts: 2,198

Re: Tiles Downloader bremsen Server aus

quasilotte wrote:

Eine Kombinartion von JOSM / Maperative und MOBAC

1. Ich wähle wie in JOSM den gewünschten Bereich aus und das Programm holt sich von der geofabrik oder Co die nötigen pbf's bzw. Upadatet vorhandene und liefert die Rohdaten des Bereichs.
2. Ich wähle wie in Maperative den entsprechenden Kartenstil
3. Ich sage in welchem Format ich es gespeichert haben will
Klick auf OK und das muß laufen ohne das ich viele GB Hauptspeicher brauch usw...
...
Sorry - MOBAC ist ein gutes Programm - Es sind die Nutzer und die hürden zum richtigen nutzen die das Problem sind.
Wie beim Autofahren. Vile wünschen demjenigen der ihn mit deutlich überhöhter Geschwindigkeit Überholt nenn Blitzer and den Hals.
Aber keiner will alle 100 m einen Blitzer oder auf jeder 2.ten Brücke nee Abstandskontrolle!

Also ich finde das eine ganz ganz tolle Idee. Da du ja damit bereits Erfahrungen hast, wäre es doch ein leichtes das mal in ein Programm zu gießen und der Allgemeinheit zur Verfügung zu stellen, oder?
Wahrscheinlich hängt da einfach etwas mehr dran. Vor einigen Monaten konnte man bereits schon einmal über MOBAC lesen. Nach dem NOP die Reit und Wanderkarte gesperrt hat, hat sich auch der Autor hier blicken lassen. Immer wieder rief er ich will erstmal Statistiken. Ich glaube gar nicht das meine Anwendung und und und.
Ja dann hat ihm der Admin die gleiche Hausnummer wie eben genannt und er war leicht schockiert. Darauf hat er seine Anwendung offline genommen und sich daran gemacht eine Möglichkeit zu suchen offline rendering anzubieten. Was daraus geworden ist sehen wir ja deutlich. Auch die Argumente, dann laden sich die Nutzer eben Googlemaps runter statt OSM, scheinen nicht wirklich Realität geworden zu sein.
Im Übrigen sehe ich es wie Aighes. Warum soll sich der Serverbetreiber darum kümmern? Wenn du eine Website mit tollen Inhalten als Werbung machst, dann wirst du doch auch nicht hinnehmen, wenn ein anderer diese Seite ohne deine Werbung als Iframe einbindet. Dazu gibt es bereits Urteile. Aber bei OSM ist das anders?

Offline

#18 2011-10-05 08:11:30

dulcedo
Senior Member
From: Schwarzwald
Registered: 2010-05-15
Posts: 174

Re: Tiles Downloader bremsen Server aus

Wir könnten ein Projekt starten das die Kapazitäten aller "Hobby" Renderer bündelt. Beispielsweise betreibe ich solch einen Renderer/Tileserver für eigenen Projekte der damit lange nicht ausgelastet, für massive öffentliche Zugriffe aber nicht leistungsfähig genug ist. Wenn nun jemand eine Art load-balancing-server anbieten würde der über eine einzige Adresse die Last über all diese kleinen server verteilt wären diese besser ausgelastet und die Allgemeinheit könnte mit Zugriff darauf die Hauptserver entlasten.

Offline

#19 2011-10-05 08:13:21

Re: Tiles Downloader bremsen Server aus

viw wrote:

Im Übrigen sehe ich es wie Aighes. Warum soll sich der Serverbetreiber darum kümmern?

Leute, wir machen doch unsere Karte, gerade damit man sie nutzt, das steht doch außer Frage? Und da sollte (meiner Meinung nach) nicht wie in Politik und Wirtschaft der schwarze Peter hin und her geschoben werden, sondern zusammen eine Lösung erarbeitet werden.

MOBAC finde ich eigentlich auch ein sehr gutes Programm, da sich der Autor mal hingesetzt hat und die Sachen, die 90% aller Tools zur Nutzung von Online-Karten zusammengetragen hat. Aber leider tritt jetzt ebend besagtes Problem auf und dass muss zwingend mit der Hilfe des Autors gelöst werden. Ansätze wären:
- Nutzung von Mapquest Tiles
- eigenen MOBAC Tiles Server finanzieren
- Integration von besagter Offline Rendering-Technologie

P.S. Habe die Leute mal aufmerksam gemacht: https://sourceforge.net/apps/phpbb/moba … p?f=1&t=24

Last edited by !i! (2011-10-05 08:27:33)

Offline

#20 2011-10-05 08:26:15

Re: Tiles Downloader bremsen Server aus

!i! wrote:
viw wrote:

Im Übrigen sehe ich es wie Aighes. Warum soll sich der Serverbetreiber darum kümmern?

Leute, wir machen doch unsere Karte, gerade damit man sie nutzt, das steht doch außer Frage? Und da sollte (meiner Meinung nach) nicht wie in Politik und Wirtschaft der schwarze Peter hin und her geschoben werden, sondern zusammen eine Lösung erarbeitet werden.

MOBAC finde ich eigentlich auch ein sehr gutes Programm, da sich der Autor mal hingesetzt hat und die Sachen, die 90% aller Tools zur Nutzung von Online-Karten zusammengetragen hat. Aber leider tritt jetzt ebend besagtes Problem auf und dass muss zwingend mit der Hilfe des Autors gelöst werden. Ansätze wären:
- Nutzung von Mapquest Tiles
- eigenen MOBAC Tiles Server finanzieren
- Integration von besagter Offline Rendering-Technologie


... oder Stefan Küste fragt mal bei Winzigweich nach, ob die noch ein paar Server rumstehen haben. Schliesslich haben die uns ihre Luftbilder zum abmalen überlassen, um von den Navteq-Lizenzverträgen weg zu kommen.

Gruß,
ajoessen

Offline

#21 2011-10-05 08:26:54

aighes
OSM Addict
From: Germany
Registered: 2009-03-29
Posts: 4,990
Website

Re: Tiles Downloader bremsen Server aus

!i! wrote:
viw wrote:

Im Übrigen sehe ich es wie Aighes. Warum soll sich der Serverbetreiber darum kümmern?

Leute, wir machen doch unsere Karte, gerade damit man sie nutzt, das steht doch außer Frage?

Genutzt ja, aber nicht missbraucht.


Viele Grüße
Henning, developer of RadReiseKarte and member of DataWorkingGroup

Offline

#22 2011-10-05 09:43:55

Re: Tiles Downloader bremsen Server aus

quasilotte wrote:

Eine Kombinartion von JOSM / Maperative und MOBAC

1. Ich wähle wie in JOSM den gewünschten Bereich aus und das Programm holt sich von der geofabrik oder Co die nötigen pbf's bzw. Upadatet vorhandene und liefert die Rohdaten des Bereichs.
2. Ich wähle wie in Maperative den entsprechenden Kartenstil
3. Ich sage in welchem Format ich es gespeichert haben will
Klick auf OK und das muß laufen ohne das ich viele GB Hauptspeicher brauch usw...

Theoretisch funktioniert das - in der Praxis ist diese Lösung nur für kleine Kartenausschnitte mit hohen Zoomstufen brauchbar. Der Grund dafür liegt wie du ja erwähnst in dem hohen Speicherverbrauch von Maperative. Was Maperative einfach fehlt ist eine integrierte Datenbank, damit nicht alles im RAM gehalten werden muss. Aktuell braucht man ohne 64Bit Betriebssystem und mindestens 4-8GB Hauptspeicher da gar nicht erst anzufangen, wenn man Übersichtskarten generieren will. Schon der Import von Hessen (~1GB als OSM-Datei) scheitert auf einem 32Bit Windows-System an der 2GB-RAM-Hürde.

!i! wrote:

MOBAC finde ich eigentlich auch ein sehr gutes Programm, da sich der Autor mal hingesetzt hat und die Sachen, die 90% aller Tools zur Nutzung von Online-Karten zusammengetragen hat. Aber leider tritt jetzt ebend besagtes Problem auf und dass muss zwingend mit der Hilfe des Autors gelöst werden. Ansätze wären:
- Nutzung von Mapquest Tiles
- eigenen MOBAC Tiles Server finanzieren
- Integration von besagter Offline Rendering-Technologie

Und MapQuest hat keine TileUsage-policy? Das würde das Problem IMHO nur verschieben.
Einen eigenen TileServer wäre eine Möglichkeit, jedoch habe ich keinerlei Erfahrung mit der Thematik und das MOBAC-Projekt verfügt über keinerlei Finanzen. Außerdem würde die Qualität und Aktualität nie den Stand der OSM-Server erreichen, was viele Nutzer wieder dazu bringen würde auf die OSM-Server umzuschalten. Da scheint es mir sinnvoller zu sein einen Spendenaufruf in MOBAC zu integrieren, so dass OSM noch irgendwo einen Mirror-Server hinstellen kann.

Die Offline Rendering-Technologie scheint mir langfristig die beste Lösung zu sein. Allerdings ist das Hauptproblem hier, dass der Hauptteil der MOBAC-Nutzer Windows verwendet und OSM Windows eher stiefmütterlich unterstützt. MapsForge ist ein Ansatz - leider bisher wie schon erwähnt ohne PC-Umsetzung (da scheint aber etwas in Arbeit zu sein - wann und wie es nutzbar wird steht aber in den Sternen).
Ich habe schon einige Versuche unternommen einen Offline-renderer in MOBAC zu integrieren, bin jedoch nie weit gekommen. Im Moment experimentiere ich mit der 2.4er Beta von SpatialLite nachdem ich gesehen habe, dass es ein SQLite Plugin für Mapnik gibt.

Ansonsten habe ich in den vergangenen Monaten schon einiges umgesetzt in MOBAC, um die OSM-Server vor zu gierigen Nutzern zu schützen. Das dazu geführt, dass die alten unbeschränkten Versionen (die es auf der Projektseite nicht mehr zum Download gibt) sich sehr großer Beliebtheit erfreuen.

mobrob/r-x - Autor von MOBAC.

Offline

#23 2011-10-05 09:56:02

Re: Tiles Downloader bremsen Server aus

mobrob wrote:

...
Ansonsten habe ich in den vergangenen Monaten schon einiges umgesetzt in MOBAC, um die OSM-Server vor zu gierigen Nutzern zu schützen. Das dazu geführt, dass die alten unbeschränkten Versionen (die es auf der Projektseite nicht mehr zum Download gibt) sich sehr großer Beliebtheit erfreuen.

mobrob/r-x - Autor von MOBAC.

Das Internet vergißt eben nichts. Auch keine alten Programmversionen.
Die moderne "Büchse der Pandora".

Es wird nichts anderes übrig bleiben, als die OSM-Server vor Massendownloads zu schützen.

tt

Offline

#24 2011-10-05 14:15:26

Re: Tiles Downloader bremsen Server aus

mobrob wrote:
!i! wrote:

MOBAC finde ich eigentlich auch ein sehr gutes Programm, da sich der Autor mal hingesetzt hat und die Sachen, die 90% aller Tools zur Nutzung von Online-Karten zusammengetragen hat. Aber leider tritt jetzt ebend besagtes Problem auf und dass muss zwingend mit der Hilfe des Autors gelöst werden. Ansätze wären:
- Nutzung von Mapquest Tiles
- eigenen MOBAC Tiles Server finanzieren
- Integration von besagter Offline Rendering-Technologie

Und MapQuest hat keine TileUsage-policy? Das würde das Problem IMHO nur verschieben....

Hi, doch, aber die erlaubt ausdrücklich die Nutzung durch Dritte (in deinem Fall würde ich sie allerdings vorher nochmal kontaktieren). Die haben auch ein ganzes Content-Delivery-Network hinter sich und nicht wie wir nur ein paar Server.
http://wiki.openstreetmap.org/wiki/MapQ … _map_tiles
http://wiki.openstreetmap.org/wiki/TMS

Das mit der Spende wäre sicherlich auch eine Möglichkeit, aber keine die mal ebend mittelfristig wirkt. Auch bei unserem Projekt braucht es ja Admins, die diese Server betreuen können. Das Aufsetzen eines eigenen Servers ist mittlerweile auch nicht mehr so schwer und kann wie viele unserer kleineren Projekte trotzdem minutengenau aktualisiert werden mit der Haupt-Datenbank.

Gäbe es eine Möglichkeit die alten MOBAC Versionen per Refferer oder User-Agent zu blocken und die neuen intakt zu lassen?

Last edited by !i! (2011-10-05 14:23:42)

Offline

#25 2011-10-05 17:26:12

Re: Tiles Downloader bremsen Server aus

Marqqs wrote:
aighes wrote:

Ebenso wird der Traffic ja nicht weniger, nur weil man ihn zu einer anderen Tageszeit erzeugt.

Richtig! OSM ist ein weltweites Projekt. Wenn es bei uns spät nachts ist, ist in den USA grad Nachmittag oder Abend, also "Hauptverkehrszeit" in Sachen Downloads.

Auch wenn es ein weltweites Projekt ist, ist did Popularitaet in Europa wesentlich groesser als im Rest der Welt. Insofern ist das Traffic verhalten stark durch Europa gepraegt und somit gibt es derzeit durchaus stark und schwachlastzeiten. http://munin.openstreetmap.org/openstre … _eth0.html zeigt das Trafic verhalten des tile-proxy servers.

Marqqs wrote:

Zudem geht es meines Wissens gar nicht in erster Linie um den Traffic, sondern um das so genannte Rendern-on-the-Fly.

Das war frueher der Fall, das hat sich aber in letzter Zeit wohl etwas geaendert.

Das on the fly rendering ist nicht mehr so sehr das Problem. Zum einen hat das Hardwareupdate (verwendung einer SSD fuer die DB) die Rendering performance deutlich gesteigert, zum anderen haben diverse mechanismen dafuer gesorgt das die rendering requests etwas ausgebremst wurden. Somit kommt es zur Zeit nur noch selten vor das der Renderingteil des Servers ueberlastet ist.

Andererseits, haben wohl die beiden Hoster von OSM (University College London und Imperial College), vor kurzem OSM freundlich darauf hingewiesen das OSM inzwischen so viel traffic verursacht das es nicht mehr so einfach im akademischen Netz der Unis nebenher laufen kann und OSM aufgefordert dafuer zu sorgen das der Traffic zurueckgeht, oder zu mindestens nicht weiter waechst. (Was genau die Bedingungen waren weis ich nicht).

Desshalb haben die Sysadmins in den letzten Wochen verschiedene Massnahmen ergriffen um den Traffic einzudaemen um sicherzustellen das OSM nicht irgendwann das Hosting wegen ueberbenutzung verliert. Was genau gemacht wurde, weis ich nicht. Eine Massnahme war unter anderem einige wohl bekannte tile scraper Programme wie MOBAC, OpenMaps oder NaviComputer zublocken. Anstelle der normalen OSM Kacheln bekommen diese Programme die folgenden Fehlerkachel ( http://wiki.openstreetmap.org/w/images/ … _Abuse.png ), es wurde auch eine Wiki Seite angelegt um die Sache den veraergerten Nutzer zu erklaeren ( http://wiki.openstreetmap.org/wiki/Blocked_applications ). Ausserdem wurden die per IP Limits fuer Traffic herabgesetzt.

Wie weit das hilft und ob noch weitere Massnahmen ergriffen werden muessen muss man noch sehen.

Offline

Board footer

Powered by FluxBB 1.4.8
Hosting sponsored by Oxilion