Schrift
Wiki:Tipp zum Debugging: use Data::Dumper; local $Data::Dumper::Useqq = 1; print Dumper \@var;
[thread]8502[/thread]

MD5 erstellen dauert sehr lange (Seite 2)



<< |< 1 2 3 >| >> 22 Einträge, 3 Seiten
Taulmarill
 2006-11-13 19:32
#71721 #71721
User since
2004-02-19
1750 Artikel
BenutzerIn

user image
ok, auch wenn es in der synopsis des moduls anders drin steht, scheint sich die Pure-Perl variante nach Digest::Perl::MD5 und nicht nach Digest::MD5 zu installieren. also dürftest du da schon das richtige haben.

eine idee habe ich noch. behalte doch mal den speicherverbrauch deines perl-programms im auge. evtl. muss der rechner swapen (kann ich mir eigendlich nicht vorstellen). vostellbar währe auch, dass es an der geschwindigkeit der festplatte bzw. des filesystems liegt. um das zu testen, könntest du mal die datei nach /dev/null ausgeben und schauen, wie lange das dauert.\n\n

<!--EDIT|Taulmarill|1163439184-->
$_=unpack"B*",~pack"H*",$_ and y&1|0& |#&&print"$_\n"for@.=qw BFA2F7C39139F45F78
0A28104594444504400 0A2F107D54447DE7800 0A2110453444450500 73CF1045138445F4800 0
F3EF2044E3D17DE 8A08A0451412411 F3CF207DF41C79E 820A20451412414 83E93C4513D17D2B
ptk
 2006-11-13 21:59
#71722 #71722
User since
2003-11-28
3645 Artikel
ModeratorIn
[default_avatar]
Bei den obigen while-Schleife sollte man zusichern, dass die eingelesenen chunks nicht zu groß werden --- oder handelt es sich um Textdateien, bei denen in regelmäßigen Abständen Newlines kommen? Am besten $/ = \8192; oder so setzen.
zipster
 2006-11-14 12:16
#71723 #71723
User since
2004-09-06
458 Artikel
BenutzerIn
[default_avatar]
Quote
Bei den obigen while-Schleife sollte man zusichern, dass die eingelesenen chunks nicht zu groß werden


chunks?

Quote
oder handelt es sich um Textdateien, bei denen in regelmäßigen Abständen Newlines kommen? Am besten $/ = \8192; oder so setzen.


Hab ich oben schon erwähnt
Quote
...
Es handelt sich hier um VMWare dateien
...


Es sind die Dateien die von der Software VMWare für eine virtuelle Maschine angelegt werden. Und diese sollen über Nacht gesichert werden. Und weil ich mir HUNDERTPROZENTIG sicher sein will das dieses Backup auch funktioniert hat und die Dateien einsatzbereit sind möchte ich ne Überprüfung mit rein nehmen und da letztens hier jemand einen Codeschnipsel gepostet hat wo das mit dem MD5 gemacht wird habe ich grad diesen getestet und dann verwendet.
nepos
 2006-11-14 13:51
#71724 #71724
User since
2005-08-17
1420 Artikel
BenutzerIn
[Homepage] [default_avatar]
ptk meint mit Chunks die Groesse der Bloecke, die pro Schleifendurchlauf eingelesen werden. Mit obiger Einstellung wuerde die Datei in 8k-Bloecken eingelesen werden.
zipster
 2006-11-14 16:13
#71725 #71725
User since
2004-09-06
458 Artikel
BenutzerIn
[default_avatar]
Danke ;)

Und kann man da noch was verbessern?
zipster
 2006-11-14 19:55
#71726 #71726
User since
2004-09-06
458 Artikel
BenutzerIn
[default_avatar]
Was würde es denn jetzt ausmachen wenn ich statt Digest::MD5 Digest::CRC
verwende? Ich hab mal sowas gehört das CRC nicht mehr wie 2GB kann. Stimmt das?

Danke

Gruß
Seri aka Zipster
ptk
 2006-11-14 20:58
#71727 #71727
User since
2003-11-28
3645 Artikel
ModeratorIn
[default_avatar]
Hast du meinen Ratschlag befolgt? Und hast du überprüft, ob nicht schon das Einlesen alleine langsam ist? Also nur die while-Schleife zum Einlesen ausführen, ohne MD5-Operationen?
zipster
 2006-11-15 10:39
#71728 #71728
User since
2004-09-06
458 Artikel
BenutzerIn
[default_avatar]
While alleine ohne Md5 dauert genauso lange.
Wie könnte man das beschleunigen?
nepos
 2006-11-15 10:55
#71729 #71729
User since
2005-08-17
1420 Artikel
BenutzerIn
[Homepage] [default_avatar]
Hm, was interessant ist: die Methode addfile() liest die Datei auch in einer While-Schleife ein und das in 4k-Bloecken. Deshalb bringt diese Methode auch keinen Geschwindigkeitsvorteil :(
ptk
 2006-11-15 21:22
#71730 #71730
User since
2003-11-28
3645 Artikel
ModeratorIn
[default_avatar]
[quote=zipster,15.11.2006, 09:39]While alleine ohne Md5 dauert genauso lange.
Wie könnte man das beschleunigen?[/quote]
Und hast du es auch mit 4- oder 8K-Blöcken versucht?
<< |< 1 2 3 >| >> 22 Einträge, 3 Seiten



View all threads created 2006-11-13 17:38.