Hello,
Au vu de tes logs, DRBD semble être configuré comme tu le souhaite ( speed: 73,756 (70,644) *want: 1,000,001 K/sec *)
Je regarderai du côté des perfs disques peut être, tu peux nous en dire un peu plus ?
(un basique dd bs=1M count=1024 if=/dev/zero of=delme conv=fdatasync devrait nous donner une idee)
Feron Valentin valferon@gmail.com 0474 225 521
Le 30 mars 2014 01:08, Sébastien 65 sebastien-65@live.fr a écrit :
Bonjour,
Alors voici les tests d'une synchro de 4To sur l'interface Giga des deux serveurs :
root@node1:/etc/drbd.d# drbdsetup /dev/drbd0 syncer -r 1000M root@node1:/etc/drbd.d# cat /proc/drbd version: 8.3.11 (api:88/proto:86-96) srcversion: F937DCB2E5D83C6CCE4A6C9 0: cs:SyncTarget ro:Primary/Secondary ds:Inconsistent/UpToDate C r----- ns:0 nr:9537420 dw:9537408 dr:8 al:0 bm:582 lo:1 pe:7410 ua:0 ap:1 ep:1 wo:f oos:3897360024 [>....................] sync'ed: 0.3% (3806012/3815328)Mfinish: 14:40:25 speed: 73,756 (70,644) want: 1,000,001 K/sec
#### atop PRC | sys 2.41s | user 0.00s | | | #proc 72 | | #trun 1 | #tslpi 73 | #tslpu 1 | | #zombie 0 | clones 0 | | | #exit 0 | CPU | sys 19% | user 0% | | irq 1% | | | idle 275% | wait 105% | | | steal 0% | guest 0% | | curf 2.80GHz | curscal ?% | cpu | sys 19% | user 0% | | irq 1% | | | idle 80% | cpu003 w 0% | | | steal 0% | guest 0% | | curf 2.80GHz | curscal ?% | cpu | sys 2% | user 0% | | irq 0% | | | idle 98% | cpu001 w 0% | | | steal 0% | guest 0% | | curf 2.80GHz | curscal ?% | cpu | sys 0% | user 0% | | irq 0% | | | idle 100% | cpu002 w 0% | | | steal 0% | guest 0% | | curf 2.80GHz | curscal ?% | cpu | sys 0% | user 0% | | irq 0% | | | idle 0% | cpu000 w100% | | | steal 0% | guest 0% | | curf 2.80GHz | curscal ?% | CPL | avg1 1.95 | | avg5 0.84 | | avg15 0.78 | | | | csw 108392 | | intr 53239 | | | | numcpu 4 | MEM | tot 2.0G | | free 1.7G | cache 71.0M | | dirty 0.5M | buff 4.7M | | slab 17.9M | | | | | | | SWP | tot 4.0G | | free 4.0G | | | | | | | | | | vmcom 41.0M | | vmlim 5.0G | DSK | sdb | | busy 70% | read 0 | | write 5323 | KiB/r 0 | | KiB/w 131 | MBr/s 0.00 | | MBw/s 68.59 | avq 1.27 | | avio 1.25 ms | DSK | sda | | busy 1% | read 4 | | write 2 | KiB/r 7 | | KiB/w 38 | MBr/s 0.00 | | MBw/s 0.01 | avq 1.57 | | avio 9.33 ms | NET | transport | tcpi 47361 | | tcpo 46753 | udpi 0 | udpo 0 | tcpao 0 | | tcppo 0 | tcprs 0 | tcpie 0 | tcpor 0 | | udpnp 0 | udpip 0 | NET | network | | ipi 47363 | ipo 46754 | | ipfrw 0 | deliv 47363 | | | | | | icmpi 0 | | icmpo 0 | NET | eth1 60% | pcki 502072 | | pcko 46743 | si 601 Mbps | | so 2749 Kbps | coll 0 | mlti 0 | | erri 0 | erro 0 | | drpi 0 | drpo 0 | NET | eth0 0% | pcki 17 | | pcko 11 | si 1 Kbps | | so 10 Kbps | coll 0 | mlti 0 | | erri 0 | erro 0 | | drpi 0 | drpo 0 | PID RUID EUID THR SYSCPU USRCPU VGROW RGROW RDDSK WRDSK ST EXC S CPUNR CPU CMD 1/1 2575 root root 1 1.94s 0.00s 0K 0K 0K 0K -- - S 3 20% drbd0_receiver 2580 root root 1 0.37s 0.00s 0K 0K 0K 0K -- - S 3 4% drbd0_asender 2560 root root 1 0.04s 0.00s 0K 0K 0K 0K -- - S 1 0% drbd0_worker 2860 root root 1 0.02s 0.00s 8888K 728K 0K 0K -- - R 2 0% atop 2512 root root 1 0.02s 0.00s 0K 0K 0K 0K -- - S 3 0% kworker/3:0 2533 root root 1 0.02s 0.00s 0K 0K 0K 0K -- - S 3 0% kworker/3:1 2096 root root 1 0.00s 0.00s 0K 0K 0K 0K -- - S 3 0% sshd 1915 root root 1 0.00s 0.00s 28K 472K 28K 0K -- - S 1 0% cron 25 root root 1 0.00s 0.00s 0K 0K 0K 0K -- - S 2 0% sync_supers 176 root root 1 0.00s 0.00s 0K 0K 0K 4K -- - S 3 0% jbd2/sda1-8 2531 root root 1 0.00s 0.00s 0K 0K 0K 0K -- - S 2 0% flush-8:0
### iftop -i eth1 node1 => node2 2,16Mb 2,15Mb 2,14Mb
<= 550Mb 549Mb 549Mb
Date: Sun, 30 Mar 2014 00:57:18 +1100 From: valferon@gmail.com To: frsag@frsag.org Subject: Re: [FRsAG] DRBD valeur syncer
Hello,
En passant le syncer a 1000M au lieu de 100M, la difference est minime etant donne qu'en admettant que ton lien est le bottleneck et pas les disques, la vitesse theorique maximale est de 125MB/s.
A 100M/s tu es donc pas loin de ta vitesse maximum de synchro.
Comme le dit Olivier, 30% une fois la premiere synchro faite est recommande et un bon compromis.
J'aime bien 'atop' personellement pour mettre en evidence ce genre de limitations (hdd, cpu, mem, inet}.
My 2 cents.
Val
Le 29 mars 2014 23:46, Olivier olc@glou.fr a écrit :
Hello,
On 29/03/2014 13:23, Sébastien 65 wrote:
Quelle valeur pensez vous la meilleure concernant le syncer > rate pour un DRBD (Actif/Passif) avec un lien Giga dédié à la synchro ?
La doc suggère un mode de calcul (en gros, 30% de la capacité max du maillon le plus faible). Cela dit, pour la synchro initiale, autant mettre tout à fond.
http://www.drbd.org/users-guide/s-configure-sync-rate.html (8.4) http://www.drbd.org/users-guide-8.3/s-configure-syncer-rate.html (8.3)
NB : syncer est deprécié à partir de drbd 8.4, ça explique pourquoi il n'y a eu pas de changement si tu utilises cette version. En effet, sauf erreur drbd ignore la section "syncer" mais ne prévient pas. :)
Durant les phases de synchro, notamment la synchro initiale, il est utile d'observer l'état de drbd (watch cat /proc/drbd), on y voit notamment le temps estimé et la vitesse de synchro (en plus du pourcentage). C'est le bon moment pour changer les paramètres en live, observer les éventuelles incidences, repérer les éventuels goulots. Penser à bien surveiller la charge CPU, la charge réseau (iftop), et les IO sur la source et la cible (top/iowaits, iostat -xm 5).
a+
Oliv _______________________________________________ Liste de diffusion du FRsAG http://www.frsag.org/
_______________________________________________ Liste de diffusion du FRsAG http://www.frsag.org/