Milewski Daniel
2019-Sep-19 10:09 UTC
[Gluster-users] File visible in listing but inaccessible over libgfapi
I've observed an interesting behavior in Gluster 5.6. I had a file which was placed on incorrect subvolume (aparrently by the rebalancing process). I could stat and read the file just fine over FUSE mount point, with this entry appearing in log file: [2019-09-18 13:00:04.484683] D [MSGID: 0] [dht-common.c:3030:dht_lookup_cbk] 0-portal-shared-dht: Entry /9d33b830-6fc9-4190-a33a-19940a3a8589/images/8130a8db-e3b0-4345-b040-72df1252faaf/d486dfc8-0ad5-4253-a586-e 18f47139a31 missing on subvol portal-shared-replicate-2 However, when using libgfapi the file was visible in directory listing, but I could neither stat nor read it. I fixed this by running rebalance. I have two questions: 1. Why the behavior is different between these two access methods? From what I know, when a file can't be find on a subvolume it belongs to (according to file name's hash value) Gluster looks for file on any other subvolume. 2. Could replace-brick operation trigger rebalance by itself? As far as I know, the only operation that can trigger rebalace is remove-brick, but I've found out that rebalance process is running in oVirt events tab after I've run replace-brick. The message said: Detected start of rebalance on volume portal-shared of Cluster Portal from CLI. However, I'm pretty sure I didn't run it manually, nor could I find any trace of this in cmd_history.log. Sp??ki Grupy Wirtualna Polska: Wirtualna Polska Holding Sp??ka Akcyjna z siedzib? w Warszawie, ul. Jutrzenki 137A, 02-231 Warszawa, wpisana do Krajowego Rejestru S?dowego - Rejestru Przedsi?biorc?w prowadzonego przez S?d Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapita? zak?adowy: 1 445 199,00 z? (w ca?o?ci wp?acony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513 Wirtualna Polska Media Sp??ka Akcyjna z siedzib? w Warszawie, ul. Jutrzenki 137A, 02-231 Warszawa, wpisana do Krajowego Rejestru S?dowego - Rejestru Przedsi?biorc?w prowadzonego przez S?d Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapita? zak?adowy: 320 005 950,00 z? (w ca?o?ci wp?acony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593 Administratorem udost?pnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzib? w Warszawie (dalej ?WPM?). WPM przetwarza Twoje dane osobowe, kt?re zosta?y podane przez Ciebie dobrowolnie w trakcie dotychczasowej wsp??pracy, w zwi?zku z zawarciem umowy lub zosta?y zebrane ze ?r?de? powszechnie dost?pnych, w szczeg?lno?ci: imi? i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatno?ci<https://onas.wp.pl/poufnosc.html>, mi?dzy innymi w celu realizacji wsp??pracy, realizacji obowi?zk?w przewidzianych prawem, w celach marketingowych WP. Podstaw? prawn? przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesy?anie informacji marketingowych o us?ugach WP, w tym zaprosze? na konferencje bran?owe, informacje o publikacjach. Twoje dane mo?emy przekazywa? podmiotom przetwarzaj?cym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowi?zuj?cego prawa. Masz prawo m.in. do ??dania dost?pu do danych, sprostowania, usuni?cia lub ograniczenia ich przetwarzania, jak r?wnie? prawo do zg?oszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz spos?b ich realizacji opisali?my w polityce prywatno?ci<https://onas.wp.pl/poufnosc.html>. Tam te? znajdziesz informacje jak zakomunikowa? nam Twoj? wol? skorzystania z tych praw.
Nithya Balachandran
2019-Sep-20 09:57 UTC
[Gluster-users] File visible in listing but inaccessible over libgfapi
On Thu, 19 Sep 2019 at 15:40, Milewski Daniel <Daniel.Milewski at grupawp.pl> wrote:> I've observed an interesting behavior in Gluster 5.6. I had a file > which was placed on incorrect subvolume (aparrently by the rebalancing > process). I could stat and read the file just fine over FUSE mount > point, with this entry appearing in log file: > > [2019-09-18 13:00:04.484683] D [MSGID: 0] > [dht-common.c:3030:dht_lookup_cbk] 0-portal-shared-dht: Entry > /9d33b830-6fc9-4190-a33a-19940a3a8589/images/8130a8db-e3b0-4345-b040-72df1252faaf/d486dfc8-0ad5-4253-a586-e > 18f47139a31 missing on subvol portal-shared-replicate-2 > > However, when using libgfapi the file was visible in directory listing, > but I could neither stat nor read it. I fixed this by running > rebalance. > > I have two questions: > > 1. Why the behavior is different between these two access methods? From > what I know, when a file can't be find on a subvolume it belongs to > (according to file name's hash value) Gluster looks for file on any > other subvolume. >We recently enabled lookup-optimize for volumes by default. In this case, gluster will not look on other subvols if it doesn't find it on the hashed subvol. You can disable this option to get rid of the issue permanently. 2. Could replace-brick operation trigger rebalance by itself? As far as> I know, the only operation that can trigger rebalace is remove-brick, > but I've found out that rebalance process is running in oVirt events > tab after I've run replace-brick. The message said: > > Replace-brick should not trigger rebalance.Regards, Nithya> Detected start of rebalance on volume portal-shared of Cluster Portal from > CLI. > > However, I'm pretty sure I didn't run it manually, nor could I find any > trace of this in cmd_history.log. > > > Sp??ki Grupy Wirtualna Polska: > > Wirtualna Polska Holding Sp??ka Akcyjna z siedzib? w Warszawie, ul. > Jutrzenki 137A, 02-231 Warszawa, wpisana do Krajowego Rejestru S?dowego - > Rejestru Przedsi?biorc?w prowadzonego przez S?d Rejonowy dla m.st. > Warszawy w Warszawie pod nr KRS: 0000407130, kapita? zak?adowy: 1 445 > 199,00 z? (w ca?o?ci wp?acony), Numer Identyfikacji Podatkowej (NIP): > 521-31-11-513 > > Wirtualna Polska Media Sp??ka Akcyjna z siedzib? w Warszawie, ul. > Jutrzenki 137A, 02-231 Warszawa, wpisana do Krajowego Rejestru S?dowego - > Rejestru Przedsi?biorc?w prowadzonego przez S?d Rejonowy dla m.st. > Warszawy w Warszawie pod nr KRS: 0000580004, kapita? zak?adowy: 320 005 > 950,00 z? (w ca?o?ci wp?acony), Numer Identyfikacji Podatkowej (NIP): > 527-26-45-593 > > Administratorem udost?pnionych danych osobowych jest Wirtualna Polska > Media S.A. z siedzib? w Warszawie (dalej ?WPM?). WPM przetwarza Twoje dane > osobowe, kt?re zosta?y podane przez Ciebie dobrowolnie w trakcie > dotychczasowej wsp??pracy, w zwi?zku z zawarciem umowy lub zosta?y zebrane > ze ?r?de? powszechnie dost?pnych, w szczeg?lno?ci: imi? i nazwisko, adres > email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce > prywatno?ci<https://onas.wp.pl/poufnosc.html>, mi?dzy innymi w celu > realizacji wsp??pracy, realizacji obowi?zk?w przewidzianych prawem, w > celach marketingowych WP. Podstaw? prawn? przetwarzania Twoich danych > osobowych w celach marketingowych jest prawnie uzasadniony interes jakim > jest m.in. przesy?anie informacji marketingowych o us?ugach WP, w tym > zaprosze? na konferencje bran?owe, informacje o publikacjach. Twoje dane > mo?emy przekazywa? podmiotom przetwarzaj?cym je na nasze zlecenie oraz > podmiotom uprawnionym do uzyskania danych na podstawie obowi?zuj?cego > prawa. Masz prawo m.in. do ??dania dost?pu do danych, sprostowania, > usuni?cia lub ograniczenia ich przetwarzania, jak r?wnie? prawo do > zg?oszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz > spos?b ich realizacji opisali?my w polityce prywatno?ci< > https://onas.wp.pl/poufnosc.html>. Tam te? znajdziesz informacje jak > zakomunikowa? nam Twoj? wol? skorzystania z tych praw. > ________ > > Community Meeting Calendar: > > APAC Schedule - > Every 2nd and 4th Tuesday at 11:30 AM IST > Bridge: https://bluejeans.com/118564314 > > NA/EMEA Schedule - > Every 1st and 3rd Tuesday at 01:00 PM EDT > Bridge: https://bluejeans.com/118564314 > > Gluster-users mailing list > Gluster-users at gluster.org > https://lists.gluster.org/mailman/listinfo/gluster-users >-------------- next part -------------- An HTML attachment was scrubbed... URL: <http://lists.gluster.org/pipermail/gluster-users/attachments/20190920/fc9b9fef/attachment.html>