Diese Website existiert nur weil wir Werbung mit AdSense ausliefern.
Bitte den AdBlocker daher auf dieser Website ausschalten! Danke.

storeBackup: Rechner ist ausgelastet

Alles rund um die Systemverwaltung, die Administration und Konfiguration Eures Linuxsystems

Moderator: Moderatoren

Antworten
Benutzeravatar
froemken
Member
Member
Beiträge: 166
Registriert: 4. Feb 2005, 03:48
Wohnort: Oberbergischer Kreis
Kontaktdaten:

storeBackup: Rechner ist ausgelastet

Beitrag von froemken » 22. Jul 2008, 10:32

Hallo zusammen,

wir setzen hier storeBackup ein und haben nun das Problem, dass ein Backup (PDC-Server) von 185GB Daten 50 Stunden benötigt. Die Dateien werden auf ein NAS-Laufwerk gesichert.
Laut top ist die CPU zu 0.4 % ausgelastet, aber die load average liegt zwischen 8 und 16. Auf der Suche nach diesem Phänomen habe ich herausgefunden, dass das an den Flaschenhälsen Festplatte und/oder Netzwerkkarte liegen kann. Gut...wenn es daran liegen soll, stellt sich mir die Frage: Warum dann unser Fileserver mit dem gleichen Festplattensystem und auch einer 1000Mb Netzwerkkarte innerhalb von 10 Stunden 420GB an Datentransfer schafft?

Ich habe heute wieder top und ps aux gequält. Bei dem Fileserver (420GB) sieht man mit ps aux während des Kopiervorganges mehrere Einträge ala cp /von /nach. Bei dem PDC-Server sehe ich nur den Perl-Prozess von storeBackup mit 0.4% Auslastung. Wenn dieser Dienst vorhanden ist und schon seit Stunden am Arbeiten ist, ich aber keinen eizigen cp-Befehl finde, was macht dieser Prozess dann? Schlafen? Der müsste endlich mal anfangen Daten hin und her zu schaufeln.

Hier ein Auszug der ps aux:

Code: Alles auswählen

root         1  0.0  0.0    680   248 ?        S    Jun28   0:02 init [5]
root         2  0.0  0.0      0     0 ?        S    Jun28   0:00 [migration/0]
root         3  0.0  0.0      0     0 ?        SN   Jun28   0:00 [ksoftirqd/0]
root         4  0.0  0.0      0     0 ?        S    Jun28   0:02 [migration/1]
root         5  0.0  0.0      0     0 ?        SN   Jun28   0:00 [ksoftirqd/1]
root         6  0.0  0.0      0     0 ?        S<   Jun28   0:00 [events/0]
root         7  0.0  0.0      0     0 ?        S<   Jun28   0:00 [events/1]
root         8  0.0  0.0      0     0 ?        S<   Jun28   0:00 [khelper]
root        13  0.0  0.0      0     0 ?        S<   Jun28   0:00 [kthread]
root        24  0.0  0.0      0     0 ?        S<   Jun28   0:00 [kacpid]
root       113  0.0  0.0      0     0 ?        S<   Jun28   0:48 [kblockd/0]
root       114  0.0  0.0      0     0 ?        S<   Jun28   0:02 [kblockd/1]
root       159  0.0  0.0      0     0 ?        S    Jun28  12:08 [kswapd0]
root       160  0.0  0.0      0     0 ?        S<   Jun28   0:00 [aio/0]
root       161  0.0  0.0      0     0 ?        S<   Jun28   0:00 [aio/1]
root       754  0.0  0.0      0     0 ?        S    Jun28   0:00 [kseriod]
root       851  0.0  0.0      0     0 ?        S    Jun28   0:01 [kirqd]
root       987  0.0  0.0      0     0 ?        S    Jun28   0:00 [scsi_eh_0]
root      1107  0.0  0.0      0     0 ?        S<   Jun28   0:13 [reiserfs/0]
root      1108  0.0  0.0      0     0 ?        S<   Jun28   0:04 [reiserfs/1]
root      2154  0.0  0.0      0     0 ?        S    Jun28   0:00 [cifsoplockd]
root      2207  0.0  0.0   1472   604 ?        S<s  Jun28   0:00 /sbin/udevd -d
root      2227  0.0  0.0      0     0 ?        S    Jun28   0:00 [khpsbpkt]
root      2276  0.0  0.0      0     0 ?        S    Jun28   0:00 [knodemgrd_0]
root      2354  0.0  0.0   1460   440 ?        S<   Jun28   0:00 [hwscand]
root      2863  0.0  0.0      0     0 ?        S    Jun28   0:00 [khubd]
root      3861  0.0  0.0   1780   888 ?        Ss   Jun28   0:47 /sbin/syslog-ng
root      3882  0.0  0.0   1604   596 ?        Ss   Jun28   0:00 /sbin/klogd -c 1 -x -x
100       3979  0.0  0.2   5688  2292 ?        Ss   Jun28   0:00 /usr/bin/dbus-daemon-1 --system
root      5527  0.0  0.0   1496   464 ?        Ss   Jun28   0:00 /sbin/resmgrd
nobody    5841  0.0  0.1   4388  1852 ?        Ss   Jun28   0:01 /usr/sbin/mdnsd -f /etc/rendezvous.conf -b
nobody    5925  0.0  0.0   1508   480 ?        Ss   Jun28   0:00 /sbin/portmap
root      5933  0.0  0.1   4272  1472 ?        Ss   Jun28   0:01 /usr/sbin/saslauthd -a ldap
root      5953  0.0  0.0   1500   444 ?        Ss   Jun28   0:00 /sbin/startpar -f -- tdm2
root      5954  0.0  0.1   4200  1104 ?        S    Jun28   0:00 /usr/sbin/3dm2
root      5959  0.0  0.1   4272  1472 ?        S    Jun28   0:02 /usr/sbin/saslauthd -a ldap
root      5960  0.0  0.1   4272  1472 ?        S    Jun28   0:02 /usr/sbin/saslauthd -a ldap
root      5961  0.0  0.1   4272  1472 ?        S    Jun28   0:01 /usr/sbin/saslauthd -a ldap
root      5962  0.0  0.1   4272  1472 ?        S    Jun28   0:01 /usr/sbin/saslauthd -a ldap
root      5964  0.0  0.1   4200  1104 ?        S    Jun28   0:02 /usr/sbin/3dm2
root      5965  0.0  0.1   4200  1104 ?        S    Jun28   0:01 /usr/sbin/3dm2
root      5984  0.0  0.1   5812  2024 ?        Ss   Jun28   1:06 /usr/sbin/nmbd -D -s /etc/samba/smb.conf
root      6009  0.0  0.6   9344  6920 ?        Ss   Jun28   0:01 /usr/bin/perl /usr/libexec/webmin/miniserv.pl /etc/webmin/miniserv.conf
root      6045  0.0  0.0   2732   740 ?        Ss   Jun28   0:00 /opt/kde3/bin/kdm
root      6052  0.0  1.6  18812 16880 ?        S    Jun28   0:43 /usr/X11R6/bin/X -br -nolisten tcp :0 vt7 -auth /var/lib/xdm/authdir/authfiles/A:0-8I25oT
root      6056  0.0  0.1   2896  1184 ?        S    Jun28   0:00 -:0
root      6070  0.0  1.3  24720 13812 ?        S    Jun28   0:15 /opt/kde3/bin/kdm_greet
lp        6218  0.0  0.3   6576  3180 ?        Ss   Jun28   0:00 /usr/sbin/cupsd
root      6364  0.0  0.0   2080   860 ?        Ss   Jun28   0:00 /usr/sbin/xinetd
root      6370  0.0  0.0   1472   536 ?        Ss   Jun28   0:00 /usr/sbin/acpid -c /etc/acpi/events.ignore
root      6414  0.0  0.1   4536  1928 ?        Ss   Jun28   0:01 /usr/sbin/sshd -o PidFile=/var/run/sshd.init.pid
ntp       6455  0.0  0.2   2656  2656 ?        SLs  Jun28   0:07 /usr/sbin/ntpd -p /var/lib/ntp/var/run/ntp/ntpd.pid -u ntp -i /var/lib/ntp
root      6480  0.0  0.2  12764  2788 ?        Ssl  Jun28   0:38 /usr/sbin/nscd
root      6494  0.0  0.1   2868  1260 ?        S    Jun28   0:00 /usr/sbin/powersaved -d -x /usr/lib/powersave/scripts -a resmgr -v 3
root      6681  0.0  0.0   1752   632 ?        Ss   Jun28   0:00 /usr/sbin/cron
root      6694  0.0  1.8  21892 19192 ?        Ss   Jun28   0:00 /usr/sbin/spamd -d -c -L
root      6721  0.0  1.8  21892 19188 ?        S    Jun28   0:00 spamd child
root      6722  0.0  1.8  21892 19192 ?        S    Jun28   0:00 spamd child
root      6723  0.0  1.8  21892 19192 ?        S    Jun28   0:00 spamd child
root      6724  0.0  1.8  21892 19192 ?        S    Jun28   0:00 spamd child
root      6725  0.0  1.8  21892 19192 ?        S    Jun28   0:00 spamd child
root      6756  0.0  0.2   3796  2448 ?        Ss   Jun28   0:09 /usr/sbin/hald --daemon=yes
root      6762  0.0  0.0   1908   636 tty1     Ss+  Jun28   0:00 /sbin/mingetty --noclear tty1
root      6764  0.0  0.0   1908   636 tty2     Ss+  Jun28   0:00 /sbin/mingetty tty2
root      6765  0.0  0.0   1908   636 tty3     Ss+  Jun28   0:00 /sbin/mingetty tty3
root      6766  0.0  0.0   1908   636 tty4     Ss+  Jun28   0:00 /sbin/mingetty tty4
root      6767  0.0  0.0   1908   636 tty5     Ss+  Jun28   0:00 /sbin/mingetty tty5
root      6768  0.0  0.0   1908   636 tty6     Ss+  Jun28   0:00 /sbin/mingetty tty6
root     13404  0.0  0.0      0     0 ?        S    Jul08  19:08 [cifsd]
cyrus     3102  0.0  0.1   4576  1384 ?        Ss   Jul10   0:09 /usr/lib/cyrus/bin/master -p /var/run/cyrus.pid -d
cyrus     3106  0.0  0.1  27356  1408 ?        S    Jul10   0:04 idled
ldap      3278  0.0  0.5  21496  5724 ?        Ssl  Jul10   1:39 /usr/lib/openldap/slapd -h ldap:/// -u ldap -g ldap -o slp=on
root     24754  0.0  0.2   8860  3076 ?        Ss   Jul10   0:03 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     24755  0.0  0.2   8860  3052 ?        S    Jul10   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     25132  0.0  9.6 105956 99840 ?        Ss   Jul10   8:24 /usr/local/sbin/.libs/lt-clamd
root     32571  0.0  0.1   4948  1460 ?        Ss   Jul16   0:06 /usr/lib/postfix/master
postfix  32579  0.0  0.1   4896  1572 ?        S    Jul16   0:02 qmgr -l -t fifo -u
vscan    32609  0.0  4.0  47720 41520 ?        Ss   Jul16   0:01 amavisd (master)
root     32631  0.0  0.2   5560  2368 ?        Ss   Jul16   0:24 /usr/bin/fetchmail -d 600 -f /etc/fetchmailrc -L /var/log/fetchmail
root      1794  0.0  0.3   9384  3660 ?        S    Jul17   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     14360  0.0  0.0   1756   632 ?        S    Jul20   0:00 /usr/sbin/cron
root     14361  0.0  0.1   2440  1052 ?        Ss   Jul20   0:00 /bin/sh -c  test -x /usr/lib/cron/run-crons && /usr/lib/cron/run-crons >/dev/null 2>&1
root     14362  0.0  0.1   2444  1188 ?        S    Jul20   0:00 /bin/bash /usr/lib/cron/run-crons
root     14488  0.0  0.1   2440  1108 ?        SN   Jul20   0:00 /bin/sh /etc/cron.daily/updatedb
root     14496  0.0  0.1   2440  1124 ?        SN   Jul20   0:00 /bin/sh /usr/bin/updatedb --localuser=nobody --prunepaths=/mnt /cdrom /tmp /usr/tmp /var/tmp /var/spool /proc /media
root     14516  0.0  0.1   2440  1132 ?        SN   Jul20   0:00 /bin/sh /usr/bin/updatedb --localuser=nobody --prunepaths=/mnt /cdrom /tmp /usr/tmp /var/tmp /var/spool /proc /media
nobody   14517  0.0  0.1   4584  1600 ?        S    Jul20   0:00 su nobody -s /bin/sh -c /usr/bin/find /       \( -fstype nfs -o -fstype NFS -o -fstype proc -o -fstype afs -o -fstype p
root     14518  0.0  2.5  27100 26132 ?        SN   Jul20   0:49 /usr/bin/sort -z -f
root     14519  0.0  0.0   1468   340 ?        SN   Jul20   0:00 /usr/lib/find/frcode -0
nobody   14520  0.1  0.0   1708   912 ?        D    Jul20   3:51 /usr/bin/find / ( -fstype nfs -o -fstype NFS -o -fstype proc -o -fstype afs -o -fstype proc -o -fstype smbfs -o -fstype
root     20526  0.0  0.0      0     0 ?        S    Jul21   0:02 [pdflush]
root     20681  0.0  0.0   1760   648 ?        S    Jul21   0:00 /usr/sbin/cron
root     20682  0.3  1.3  15936 13544 ?        Ds   Jul21   3:41 perl /ebs/storeBackup/bin/storeBackup.pl -f /ebs/storeBackup/bin/ebsPDCserverBackup
root     20685  0.0  0.1   4732  1344 ?        S    Jul21   0:00 /usr/sbin/sendmail -FCronDaemon -odi -oem -oi -t
root     20686  0.0  0.1   4712  1320 ?        S    Jul21   0:00 /usr/sbin/postdrop -r
root     22800  0.0  0.3   9452  4048 ?        S    07:22   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    22802  0.0  0.2  34508  2800 ?        S    07:23   0:00 imapd
root     22809  0.0  0.3   9376  3600 ?        S    07:24   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22850  0.0  0.3   9376  3656 ?        S    07:31   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22852  0.0  0.0      0     0 ?        S    07:32   0:00 [pdflush]
cyrus    22853  0.0  0.2  30092  2704 ?        S    07:32   0:00 imapd
root     22858  0.0  0.3   9456  3712 ?        S    07:32   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22868  0.0  0.3   9456  3704 ?        S    07:34   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    22887  0.0  0.2  38084  2984 ?        S    07:35   0:00 imapd
root     22891  0.0  0.3   9376  3604 ?        S    07:36   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    22894  0.0  0.2  29940  2756 ?        S    07:37   0:00 imapd
cyrus    22899  0.0  0.2  44572  2956 ?        S    07:37   0:00 imapd
root     22908  0.0  0.3   9456  3852 ?        S    07:39   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22910  0.0  0.3   9376  3644 ?        S    07:39   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    22921  0.0  0.2  35604  2864 ?        S    07:40   0:00 imapd
cyrus    22922  0.0  0.2  29900  2648 ?        S    07:40   0:00 imapd
root     22934  0.0  0.3   9460  3728 ?        S    07:42   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22936  0.0  0.3   9456  3748 ?        S    07:42   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22942  0.0  0.3   9460  3800 ?        S    07:44   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     22981  0.0  0.3   9456  3720 ?        S    07:45   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    22984  0.0  0.2  30548  2720 ?        S    07:46   0:00 imapd
root     23001  0.0  0.3   9448  3988 ?        S    07:47   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     23003  0.0  0.3   9376  3620 ?        S    07:47   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23005  0.0  0.2  29876  2624 ?        S    07:48   0:00 imapd
cyrus    23014  0.0  0.3  46824  3412 ?        S    07:49   0:00 imapd
root     23019  0.0  0.3   9460  3692 ?        S    07:49   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23038  0.0  0.2  30228  2772 ?        S    07:51   0:00 imapd
root     23078  0.0  0.3   9376  3604 ?        S    07:58   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23081  0.0  0.2  29940  2720 ?        S    07:58   0:00 imapd
root     23117  0.0  0.3   9460  3708 ?        S    08:00   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23144  0.0  0.2  29996  2756 ?        S    08:05   0:00 imapd
root     23162  0.0  0.3   9376  3608 ?        S    08:07   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
root     23169  0.0  0.3   9376  3672 ?        S    08:07   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23185  0.0  0.2  31988  2728 ?        S    08:09   0:00 imapd
cyrus    23208  0.0  0.2  31468  2708 ?        S    08:13   0:00 imapd
cyrus    23256  0.0  0.2  38972  2836 ?        S    08:16   0:00 imapd
cyrus    23258  0.0  0.2  29808  2576 ?        S    08:16   0:00 imapd
root     23381  0.0  0.3   9464  3996 ?        S    08:37   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
cyrus    23385  0.0  0.2  30772  2712 ?        S    08:38   0:00 imapd
root     23474  0.0  0.2   8284  2420 ?        Ss   08:52   0:00 sshd: root@pts/2
root     23477  0.0  0.1   3176  1800 pts/2    Ss   08:52   0:00 -bash
cyrus    23542  0.0  0.2  30308  2732 ?        S    08:56   0:00 imapd
cyrus    23711  0.0  0.3  57764  3428 ?        S    09:17   0:00 imapd
cyrus    23745  0.0  0.2  29816  2704 ?        S    09:22   0:00 imapd
postfix  23959  0.0  0.1   4740  1348 ?        S    09:40   0:00 pickup -l -t fifo -u -c -o content_filter  -o receive_override_options no_header_body_checks
root     24047  0.0  0.3   9452  3708 ?        S    09:49   0:00 /usr/sbin/smbd -D -s /etc/samba/smb.conf
vscan    24120  0.2  4.3  51048 44640 ?        S    10:01   0:04 amavisd (ch9-avail)
vscan    24183  0.2  4.4  52892 46512 ?        S    10:04   0:04 amavisd (ch7-avail)
root     24235  0.0  0.0   2128   868 pts/2    S+   10:08   0:00 less
cyrus    24253  0.0  0.2  29900  2664 ?        S    10:13   0:00 imapd
cyrus    24318  0.0  0.2  29816  2656 ?        S    10:23   0:00 imapd
root     24323  0.0  0.2   8152  2344 ?        Rs   10:25   0:00 sshd: root@pts/1
root     24326  0.0  0.1   3180  1804 pts/1    Ss   10:25   0:00 -bash
cyrus    24346  0.0  0.2  29824  2612 ?        S    10:28   0:00 imapd
cyrus    24347  0.0  0.2  29816  2600 ?        S    10:28   0:00 imapd
postfix  24350  0.0  0.1   4728  1348 ?        S    10:28   0:00 proxymap -t unix -u
postfix  24351  0.0  0.1   4876  1736 ?        S    10:28   0:00 trivial-rewrite -n rewrite -t unix -u
postfix  24352  0.0  0.1   4908  1796 ?        S    10:28   0:00 cleanup -z -t unix -u -c
root     24353  0.0  0.1   5180  1976 ?        S    10:28   0:00 smtp -n smtp-amavis -t unix -c -o smtp_data_done_timeout 1200 -o smtp_send_xforward_command yes -o disable_dns_lookups
postfix  24356  0.0  0.1   4868  1840 ?        S    10:29   0:00 smtpd -n localhost:10025 -t inet -u -c -s 2 -o content_filter  -o local_recipient_maps  -o relay_recipient_maps  -o smt
postfix  24383  0.0  0.1   5000  1920 ?        S    10:30   0:00 smtpd -n smtp -t inet -u -c -s 2
postfix  24393  0.0  0.2   5220  2096 ?        S    10:32   0:00 smtp -t unix -u
cyrus    24394  0.0  0.1  28156  1988 ?        S    10:32   0:00 lmtpd
root     24396  0.0  0.0   2724   816 pts/1    R+   10:33   0:00 ps aux
In der storeBackup-Conf haben wir das Komprimieren schon ausgeschaltet, weil es sonst noch länger dauern würde. Auch haben wir überprüft, ob storeBackup die Dateien auf dem Ziellaufwerk doppelt kopiert oder hardlinked. Sie sind hardlinked!

Was macht storeBackup die ganze Zeit? Das ist teilweise so schlimm, dass Anmeldungen ab Mittwoch fast unmöglich werden, da ja dank der 50 Stunden, dann 3 storeBackup-Dienste mit dem sichern beschäftigt sind.

Wär echt super, wenn da jemand einen Tipp für mich hat.

Stefan
Du brauchst eine neue Webseite auf Basis von TYPO3:
www.sfroemken.de

Tipps, Tricks und Tutorials zu TYPO3:
typo3.sfroemken.de

Werbung:
ixo
Newbie
Newbie
Beiträge: 11
Registriert: 27. Jul 2008, 08:54

Re: storeBackup: Rechner ist ausgelastet

Beitrag von ixo » 27. Jul 2008, 09:06

Hallo froemken,

von wo nach wo sicherst Du? Wo läuft storeBackup, auf dem Fileserver oder auf dem PDC?
Bei dem Fileserver (420GB) sieht man mit ps aux während des Kopiervorganges mehrere Einträge ala cp /von /nach.
Bei dem PDC-Server sehe ich nur den Perl-Prozess von storeBackup mit 0.4% Auslastung.
Annahme: Wenn der perl Prozess von storeBackup auf dem PDC läuft, dann haben die Prozesse auf dem Fileserver nichts mit storeBackup zu tun (außer nfsd).

Annahme: Ich gehe des weiteren davon aus, dass es nicht das erste Backup ist - das dauert lange.

Falls meine Annahmen stimmen, habe ich wahrscheinlich eine Lösung. Kannst Du sie bestätigen?

Gruss, ixo

Benutzeravatar
froemken
Member
Member
Beiträge: 166
Registriert: 4. Feb 2005, 03:48
Wohnort: Oberbergischer Kreis
Kontaktdaten:

Re: storeBackup: Rechner ist ausgelastet

Beitrag von froemken » 28. Jul 2008, 12:41

Ich sichere von PDC auf eine NFS-Freigabe. Das Gleiche mit dem Fileserver. Kurz: Auf beiden Server läuft storeBackup. Die NFS-Freigabe befindet sich auf einem speziellen NAS-Server mit 4TB.
Richtig...es ist nicht das erste Backup. Es ist ein Veränderungsbackup. Aber Dank Hardlinks ist auf jedes Veränderungsbackup auch gleichzeitig ein Vollbackup. Ich habe mit ls -li auch die Inodes überprüft...bei einigen Dateien sind es dieselben. Hatte nämlich schon Angst, dass das FS auf dem NAS-Server Hardlinks nicht unterstützt.

PS: Hab jetzt grad 2 Wochen Urlaub, kann jetzt also nicht testen.
PPS: Im Wiki habe ich evtl. ein besseres Backuptool gefunden. Evtl. steige ich sogar komplett um
Du brauchst eine neue Webseite auf Basis von TYPO3:
www.sfroemken.de

Tipps, Tricks und Tutorials zu TYPO3:
typo3.sfroemken.de

ixo
Newbie
Newbie
Beiträge: 11
Registriert: 27. Jul 2008, 08:54

Re: storeBackup: Rechner ist ausgelastet

Beitrag von ixo » 28. Jul 2008, 13:17

Ok, Du hast also zwei Sicherungen laufen:
1. lokal auf dem NFS Server.
2. über NFS vom PDC auf den NFS Server.

Wenn ich es richtig interpretiere, dann ist 2. das Problem (Backup-Zeit 50 Stunden).
Die zu sichernde Datenmenge (420GB) spielt keine Rolle (außer beim ersten Backup). Ein wichtiges Kriterium ist die Anzahl der zu sichernden Dateien (bzw. Hard Links).
Da die cpu Last auf dem PDC verschwindend gering ist, gehe ich jetzt davon aus, dass das Setzen der Hard Links (+ chmod + chown) so lange dauert.

Du hast entweder extrem viele Dateien (viele Millionen) oder Latenzprobleme mit NFS (oder beides ;) )
Verbesserungsvorschläge für die Performance:

1. NFS, bei mir hat sich folgendes bewährt (aus /etc/fstab):
server:/disk1 /disk1 nfs rsize=8192,wsize=8192,user,exec,async,noatime 1 1
Wichtig sind hier async und noatime. Eine andere Blocksize kann bei Dir günstiger sein. (async ist hier kein Problem, da ein Backup sowieso als Ganzes fertiggestellt wurde oder nicht)
(async muss auch auf dem Server in der /etc/exports gesetzt werden!)

2. Setz 'mal progressReport=2000, dann siehst du wieviel Links Dein Rechner so schafft. (Die Werte varieren, je nachdem ob noch komprimiert oder kopiert werden muss. So wie ich es verstehe, hast Du aber relativ wenig Änderungen, so dass hauptsächlich verlinkt wird. Du kanst einfach die besten Werte nehmen.)

3. Es gibt eine neue Version von storeBackup (2.0), die ist noch im (inzwischen gut produktiv seit einigen Monaten getestetem Beta). Sie hat (u.a.) die neue Option lateLink (und wahlweise noch lateCompress): Es werden überhaupt keine Links mehr gesetzt, sondern nur die Informationen was zu Linken (zu Komprimieren) wäre, in eine (komprimierte) Datei geschrieben. Der eigentliche Sicherungsvogang wird dadurch etwa 3-10 mal so schnell (je nachdem, wie schnell / lahm die NFS Performance ist, dh. bei Dir müsste es einiges bringen). Das Kriterium für die Geschwindigkeit ist dann hauptsächlich, wie schnell die zu sichernden Dateien gescannt werden können.
Durch die Sicherung wird also ein "unvollständiges" (also kein Full-) Backup erzeugt. Auf dem Server wird dann später ein Programm gestartet, dass alle Links (Kompressionen) wieder herstellt. Das Resultat ist dann identisch mit dem einer "normalen" Sicherung. Das Löschen alter Backups kann ebenfalls auf den Server verlagert werden, was natürlich massiv schneller ist als über NFS.
Auch ohne diese Option ist die neue Version deutlich schneller (also z.B. bei einer lokalen Sicherung).

Der 3. Punkt bringt auf jeden Fall das Meiste. Falls Du Interesse hast, die Version 2.0 'mal auszuprobieren, schick eine E-Mail an den Verfasser des Programms.

Viele Grüße, ixo

Antworten

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 1 Gast