Thread Schnelles Auslagern von wenigen, aber großen binären Hashvalues (7 answers)
Opened by GoetzM at 2016-09-20 10:05

GoetzM
 2016-09-20 11:49
#185409 #185409
User since
2014-02-26
12 Artikel
BenutzerIn
[default_avatar]
Die Daten kommen aus dem Openstreetmap-Bereich.
Es sind letzlich Koordinaten und jede Menge anderes Zeug die ich
glücklicherweise gut in Pakte aufteilen kann (für Polygontests).

Mit dem Zeilenende habe ich nur geschrieben, weil ich zeilenweises Rückeinlesen der Binädaten schon mal nicht machen kann,
weil die Zeilenumbrüche eben in den Daten vorkommen.
Ich muss also entwerder Dateien komplett slurpen (z.B. eine Datei pro Key binär einlesen) oder eben die Binärwerte in ausgeschriebene Zahlen umwandelt, per Komma trennen und kann dann wieder nach dem einlesen zurückpacken.
Die Datenmenge ist noch nicht in dem Bereich von 500GB aber mit 16 GB komm ich kaum noch hin und will Rechnerkauf vermeiden...eine größere Datenmenge steht aber bereits an, die ich für eine neue Funktion brauche.
Das Problem ist einzig die Peformance...die Sache selbst ist einfach.
Wenn keiner eine fertige Lösung hat, teste ich beide meiner Lösungen gegeneinander und mache dann eine der beiden von mir beschriebenen Lösungen.


Danke,
Götz

View full thread Schnelles Auslagern von wenigen, aber großen binären Hashvalues