Discussion:
висим стабильненько
(слишком старое сообщение для ответа)
Alex Korchmar
2018-03-17 20:19:00 UTC
Permalink
на, Женя, тоже можешь наслаждаться:
Loading Image...
(это оно уже трупик - по мнению хост-системы, загрузка процессоров
отсутствует. Hа внешние раздражители не реагирует.)

и такая дребедень - каждый день.
11S, C - стабильноздь!
Alex
P.S. в понедельник я сдам этот ноут на склад и нах..й по трубе, так что
если у кого еще есть идеи - велкам.
P.P.S. своп, естественно, в gpt part а не на zvol какой.
Eugene Grosbein
2018-03-18 03:53:52 UTC
Permalink
17 марта 2018, суббота, в 23:19 NOVT, Alex Korchmar написал(а):

AK> на, Женя, тоже можешь наслаждаться:
AK> http://linux.e-moe.ru/wrk/freebsd-11-2018-03-17-22-57-23.png
AK> (это оно уже трупик - по мнению хост-системы, загрузка процессоров
AK> отсутствует. Hа внешние раздражители не реагирует.)
AK> и такая дребедень - каждый день.
AK> 11S, C - стабильноздь!

А физический процессор случайно не AMD Ryzen?
С ними под фрёй совершенно отдельная тема насчёт дедлоков нынче.

Eugene
Alex Korchmar
2018-03-18 09:23:27 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> А физический процессор случайно не AMD Ryzen?
физический процессор - древний corei3
все четыре полу-ведра доступны vm. И да, там этих vm не одна, сборкой тоже
не только фря занималась, "до вас ничем не воняло".

ну и пресловутый патч дело сильно улучшал - без него висло и на 4G,
стабильненько, с ним изредка, я урезал ее до двух чтобы воспроизводилось
побыстрее.
С патчем имени Карла поверх - не виснет (или так редко что я не нарвался),
но падает по нехватке памяти компилятор - при издевательском '400m free' в
топе и 800 отожранных arc. Может и не упасть, поведение непредсказуемое.


EG> С ними под фрёй совершенно отдельная тема насчёт дедлоков нынче.
гм, поздравляю, этого-то как добились? А, помню-помню, 'sponsored by intel'...
Alex
Slawa Olhovchenkov
2018-03-18 12:09:42 UTC
Permalink
Hello Alex!

18 Mar 18, Alex Korchmar writes to Eugene Grosbein:

EG>> С ними под фрёй совершенно отдельная тема насчёт дедлоков нынче.
AK> гм, поздравляю, этого-то как добились? А, помню-помню, 'sponsored by
AK> intel'...

не, это все налетели -- и линух и винда. в детали не лез.

... Hе говори глупостей - враг подслушивает!
Alex Korchmar
2018-03-18 15:43:38 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

EG>>> С ними под фрёй совершенно отдельная тема насчёт дедлоков нынче.
AK>> гм, поздравляю, этого-то как добились? А, помню-помню, 'sponsored by
AK>> intel'...
SO> не, это все налетели -- и линух и винда. в детали не лез.
ну так и линуксу amd денех не дали, нету у них лишних. Или жядные...
Alex
Eugene Grosbein
2018-03-18 20:08:36 UTC
Permalink
18 марта 2018, воскресенье, в 15:09 NOVT, Slawa Olhovchenkov написал(а):

EG>>> С ними под фрёй совершенно отдельная тема насчёт дедлоков нынче.
AK>> гм, поздравляю, этого-то как добились? А, помню-помню, 'sponsored by
AK>> intel'...
SO> не, это все налетели -- и линух и винда. в детали не лез.

Детали подробно расписаны Белоусовым тут:

https://svnweb.freebsd.org/base?view=revision&revision=329254

Eugene
--
Поэты - страшные люди. У них все святое.
Alex Korchmar
2018-03-18 17:20:11 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> Детали подробно расписаны Белоусовым тут:
EG> https://svnweb.freebsd.org/base?view=revision&revision=329254
да, явно не мой случай.

мой гораздо больше похож на проблему, проявляющуюся только на дохлых системах
- потому что та же самая виртуалка с теми же самыми лимитами, но на ксеоне -
жила долго и счастливо. Вероятно что-то просто успевало завершиться раньше,
чем приводило к такому эффекту.

жаль, завтра сдам я машинку.
Alex
Eugene Grosbein
2018-03-18 21:40:53 UTC
Permalink
18 марта 2018, воскресенье, в 20:20 NOVT, Alex Korchmar написал(а):

EG>> Детали подробно расписаны Белоусовым тут:
EG>> https://svnweb.freebsd.org/base?view=revision&revision=329254
AK> да, явно не мой случай.
AK> мой гораздо больше похож на проблему, проявляющуюся только на дохлых
AK> системах
AK> - потому что та же самая виртуалка с теми же самыми лимитами, но на ксеоне
AK> -
AK> жила долго и счастливо. Вероятно что-то просто успевало завершиться
AK> раньше,
AK> чем приводило к такому эффекту.
AK> жаль, завтра сдам я машинку.

У меня виртуалка гораздо слабее и всё стабильно.
Kernel build for AR started on Fri Mar 16 22:39:38 UTC 2018
Kernel build for AR completed on Fri Mar 16 23:48:08 UTC 2018
Это без модулей ядра.
World build started on Fri Mar 16 13:38:21 UTC 2018
World build completed on Fri Mar 16 22:39:28 UTC 2018
А это с модулями (MODULES_WITH_WORLD=yes). 11.1-RELEASE/i386/ZFS собрал
stable/11 r331053.

Eugene
Alex Korchmar
2018-03-18 19:26:15 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> У меня виртуалка гораздо слабее и всё стабильно.
у тебя виртуалка на arubacloud - полагаю там нихрена не i3, и билд ты
запускаешь ни разу не на четырех ядрах. которых там за $1 и нету.
Alex
Eugene Grosbein
2018-03-19 08:35:34 UTC
Permalink
18 марта 2018, воскресенье, в 22:26 NOVT, Alex Korchmar написал(а):

EG>> У меня виртуалка гораздо слабее и всё стабильно.
AK> у тебя виртуалка на arubacloud - полагаю там нихрена не i3,

CPU: Intel(R) Xeon(R) CPU E5-2650L v4 @ 1.70GHz (1700.00-MHz 686-class CPU)

AK> и билд ты запускаешь ни разу не на четырех ядрах. которых там за $1 и
AK> нету.

Hа одном, да.

Eugene
Alex Korchmar
2018-03-18 19:27:46 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> У меня виртуалка гораздо слабее и всё стабильно.
model name : Intel(R) Xeon(R) CPU E5-2650L v4 @ 1.70GHz
ну да, ну да...
Alex
Eugene Grosbein
2018-03-19 08:36:07 UTC
Permalink
18 марта 2018, воскресенье, в 22:27 NOVT, Alex Korchmar написал(а):

EG>> У меня виртуалка гораздо слабее и всё стабильно.
AK> model name : Intel(R) Xeon(R) CPU E5-2650L v4 @ 1.70GHz
AK> ну да, ну да...

Тоже разжился? :-)

Eugene
Alex Korchmar
2018-03-19 05:21:34 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG>>> У меня виртуалка гораздо слабее и всё стабильно.
AK>> model name : Intel(R) Xeon(R) CPU E5-2650L v4 @ 1.70GHz
AK>> ну да, ну да...
EG> Тоже разжился? :-)
угу, спасибо за наводку - ибо у меня настал период лишений и выгоняний,
а п-сы, озабоченные нереальными уязвимостями, смели все дешевые помойки
у немецких коллокаторов, поскольку они-то были на amd, якобы-неуязвимом.
Чтоб их, козлов, первых поломали (кому надо - тайминги под amd spectre
уже подобраны, неидеально, но процентов 85 угадывает)

btw, им там ведро пересобрать надо как-то специально, или GENERIC сойдет?
Alex
P.S. мля, я-то думаю, чего мне столько спама шло с арубы.
tail /var/adm/fillup-templates/sysconfig.postfix
#
#
# The postfix default for this setting is "subnet"
# for security reasons you should use host
# otherwise every user in the same subnet as you, can use
# your postfix server as a mail relay for spam.
# If you set POSTFIX_DIALUP to "yes" mynetworks_style
# will be set to "host" by SuSEconfig.
#
POSTFIX_ADD_MYNETWORKS_STYLE="subnet"

это им, п-сам, мало того, что оно и так по умолчанию, они еще его отдельно в
конфиг пропихивают. А subnet-то /24 :-(
Eugene Grosbein
2018-03-19 13:20:41 UTC
Permalink
19 марта 2018, понедельник, в 08:21 NOVT, Alex Korchmar написал(а):

AK> btw, им там ведро пересобрать надо как-то специально, или GENERIC сойдет?

Арубе? GENERIC работает. Просто GENERIC пересобирается дольше и памяти
под себя больше берет, поэтому я урезаю.

AK> это им, п-сам, мало того, что оно и так по умолчанию, они еще его отдельно
AK> в
AK> конфиг пропихивают. А subnet-то /24 :-(

Я сохранил /etc/rc.conf, загрузил туда дистрибутив 11.1-R/i386,
положил в /boot ядро от него в /boot/kernel32/,
прямо там собрал uzip-образ для рутовой fs из 11.1-R,
загрузился с нового ядра и vfs.root.mountfrom из образа,
из веб-консоли зашел, создал md-диск на 120M, скопировал туда
загрузчики и base.txz, размонтировал и грохнул полностью GPT
с виртуального диска, сделал с нуля MBR на два раздела, для свопа
и для ZFS:

# gpart show
=> 63 41942977 da0 MBR (20G)
63 2097152 1 freebsd (1.0G)
2097215 39845825 2 freebsd [active] (19G)

Установил загрузчики, создал пул ZFS в /dev/da0s2 и развернул туда base.txz.
Получил *штатную* систему 11.1-R/i386 (вместо 10.3/amd64),
без арубиных кастомизаций.

После загрузки прописал ручками rc.conf - IP, маска, шлюз. Всё пашет.

Eugene
--
http://www.grosbein.net/papirosn.mp3
http://dadv.livejournal.com/2006/03/11/
Alex Korchmar
2018-03-19 11:09:15 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> Арубе? GENERIC работает. Просто GENERIC пересобирается дольше и памяти
EG> под себя больше берет, поэтому я урезаю.
да мне с них много не надо...
AK>> это им, п-сам, мало того, что оно и так по умолчанию, они еще его отдельно
AK>> в
AK>> конфиг пропихивают. А subnet-то /24 :-(
это, если что - особенности их дистрибутива линукса (то есть вина не их, а
дистрибутивостроителей, но, блин, за семь лет не заметить и не поправить?).

EG> Я сохранил /etc/rc.conf, загрузил туда дистрибутив 11.1-R/i386,
EG> положил в /boot ядро от него в /boot/kernel32/,
а стоило так мучаться? Много там выигрыша от 386?
Alex
Eugene Grosbein
2018-03-19 16:29:16 UTC
Permalink
19 марта 2018, понедельник, в 14:09 NOVT, Alex Korchmar написал(а):

AK> а стоило так мучаться? Много там выигрыша от 386?

Hа гигабайте заметно.

Eugene
Alex Korchmar
2018-03-19 16:49:24 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> а стоило так мучаться? Много там выигрыша от 386?
EG> Hа гигабайте заметно.
а в цифрах? ;-)
Alex
Eugene Grosbein
2018-03-19 21:25:43 UTC
Permalink
19 марта 2018, понедельник, в 19:49 NOVT, Alex Korchmar написал(а):

AK>>> а стоило так мучаться? Много там выигрыша от 386?
EG>> Hа гигабайте заметно.
AK> а в цифрах? ;-)

Раза в полтора, если грубо - по занимаемому месту бинарниками
(а значит, и в памяти, ибо mmap-ится), по занимаемой памяти ядра
после загрузки. Указатели-то в два раза.

Eugene
--
Choose no career
Alex Korchmar
2018-03-25 16:27:57 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> Я сохранил /etc/rc.conf, загрузил туда дистрибутив 11.1-R/i386,
EG> положил в /boot ядро от него в /boot/kernel32/,
EG> прямо там собрал uzip-образ для рутовой fs из 11.1-R,
кстати, сложилось впечатление, что собиралка в 11.1 сломана.
(а lzma не сломана)

у меня оно старательно не может распаковать то, что только что сама же и
создала. (у 10 такой проблемы нет)

нет, я конечно могу предположить внезапно-битую память на моей машине, но
что-то это маловероятно.
Alex
Eugene Grosbein
2018-03-26 00:04:55 UTC
Permalink
25 марта 2018, воскресенье, в 17:27 NOVT, Alex Korchmar написал(а):


EG>> Я сохранил /etc/rc.conf, загрузил туда дистрибутив 11.1-R/i386,
EG>> положил в /boot ядро от него в /boot/kernel32/,
EG>> прямо там собрал uzip-образ для рутовой fs из 11.1-R,
AK> кстати, сложилось впечатление, что собиралка в 11.1 сломана.
AK> (а lzma не сломана)

Что именно сломано? У меня всё работает (c).

Eugene
Alex Korchmar
2018-03-25 20:01:03 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> кстати, сложилось впечатление, что собиралка в 11.1 сломана.
AK>> (а lzma не сломана)
EG> Что именно сломано? У меня всё работает (c).
mkuzip && mdconfig - полный dmesg воплей "немагураспаковать".
11.1 - с какого-то миррора в uk, поставлен как поставился и больше не
трогался.

mkuzip -L того же самого - полный dmesg каких-то непонятных сообщений,
похоже, дебаг? Hо работает.
Alex
Eugene Grosbein
2018-03-26 01:31:44 UTC
Permalink
25 марта 2018, воскресенье, в 21:01 NOVT, Alex Korchmar написал(а):

AK>>> кстати, сложилось впечатление, что собиралка в 11.1 сломана.
AK>>> (а lzma не сломана)
EG>> Что именно сломано? У меня всё работает (c).
AK> mkuzip && mdconfig - полный dmesg воплей "немагураспаковать".

Вопли в студию, ибо у меня всё работает. Ты случаем не забыл ли:

geom_uzip_load="YES"

Eugene
Alex Korchmar
2018-03-26 09:37:25 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> mkuzip && mdconfig - полный dmesg воплей "немагураспаковать".
EG> Вопли в студию, ибо у меня всё работает. Ты случаем не забыл ли:
мне немного зайопно делать скриншотики, а мышкой с консоли почемуто не
копируется.
EG> geom_uzip_load="YES"
если его забыть, сообщений и не будет (создастся только md0 с сжатым
содержимым)
если потом вручную загрузить - будет то же самое что и с предварительно
загруженным.
система - amd64. Ты точно на такой проверял?
Alex
Eugene Grosbein
2018-03-26 18:51:58 UTC
Permalink
26 марта 2018, понедельник, в 10:37 NOVT, Alex Korchmar написал(а):

AK>>> mkuzip && mdconfig - полный dmesg воплей "немагураспаковать".
EG>> Вопли в студию, ибо у меня всё работает. Ты случаем не забыл ли:
AK> мне немного зайопно делать скриншотики, а мышкой с консоли почемуто не
AK> копируется.

dmesg -a > file должно работать.

Eugene
--
Поэты - страшные люди. У них все святое.
Alex Korchmar
2018-03-26 21:16:43 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> мне немного зайопно делать скриншотики, а мышкой с консоли почемуто не
AK>> копируется.
EG> dmesg -a > file должно работать.
и? сети-то нет.
Alex
Eugene Grosbein
2018-03-27 13:38:03 UTC
Permalink
26 марта 2018, понедельник, в 22:16 NOVT, Alex Korchmar написал(а):

AK>>> мне немного зайопно делать скриншотики, а мышкой с консоли почемуто не
AK>>> копируется.
EG>> dmesg -a > file должно работать.
AK> и? сети-то нет.

Изначально-то есть.

Eugene
Alex Korchmar
2018-03-27 08:57:33 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>>>> мне немного зайопно делать скриншотики, а мышкой с консоли почемуто не
AK>>>> копируется.
EG>>> dmesg -a > file должно работать.
AK>> и? сети-то нет.
EG> Изначально-то есть.
на той кастрюле - нет. А где я тебе еще возьму 11.1-RELEASE?
Alex
Alex Korchmar
2018-03-28 17:47:25 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> Арубе? GENERIC работает. Просто GENERIC пересобирается дольше и памяти
EG> под себя больше берет, поэтому я урезаю.
кстати, попробовал я урезать ведро - получил вот такой трэш:
Id Refs Address Size Name
1 14 0xffffffff80200000 c454a8 kernel
2 1 0xffffffff80e47000 340f60 zfs.ko
3 2 0xffffffff81188000 2c68 acl_nfs4.ko
4 2 0xffffffff8118b000 25458 krpc.ko
5 2 0xffffffff811b1000 a650 opensolaris.ko
6 1 0xffffffff81219000 2a000 pf.ko

нет, я знаю откуда оно взялось - а нельзя всю эту стремную похабень как-нибудь
выпилить совсем?
Мне кажется, когда я убираю из конфига nfs'ные фичи, я явно даю понять, что
на этой системе они мне нахрен не вперлись в принципе.
Alex
Eugene Grosbein
2018-03-29 10:58:54 UTC
Permalink
28 марта 2018, среда, в 18:47 NOVT, Alex Korchmar написал(а):

EG>> Арубе? GENERIC работает. Просто GENERIC пересобирается дольше и памяти
EG>> под себя больше берет, поэтому я урезаю.
AK> кстати, попробовал я урезать ведро - получил вот такой трэш:
AK> Id Refs Address Size Name
AK> 1 14 0xffffffff80200000 c454a8 kernel
AK> 2 1 0xffffffff80e47000 340f60 zfs.ko
AK> 3 2 0xffffffff81188000 2c68 acl_nfs4.ko
AK> 4 2 0xffffffff8118b000 25458 krpc.ko
AK> 5 2 0xffffffff811b1000 a650 opensolaris.ko
AK> 6 1 0xffffffff81219000 2a000 pf.ko
AK> нет, я знаю откуда оно взялось - а нельзя всю эту стремную похабень
AK> как-нибудь
AK> выпилить совсем?
AK> Мне кажется, когда я убираю из конфига nfs'ные фичи, я явно даю понять,
AK> что
AK> на этой системе они мне нахрен не вперлись в принципе.

Hасрать ZFS-у на то, что там тебе не вперлось.

$ fgrep -lr acl_nfs4 /usr/src/sys/cddl/contrib/opensolaris/uts/common/fs/zfs/
/usr/src/sys/cddl/contrib/opensolaris/uts/common/fs/zfs/zfs_ctldir.c
/usr/src/sys/cddl/contrib/opensolaris/uts/common/fs/zfs/zfs_vnops.c
/usr/src/sys/cddl/contrib/opensolaris/uts/common/fs/zfs/zfs_ioctl.c

В ZFS запилена поддержка ACL_TYPE_NFS4 и чтобы loader мог загрузить zfs.ko
и разрешить внешние ссылки на символы, оно грущит acl_nfs4.ko.

Аналогично с krpc.

Eugene
--
Поэты - страшные люди. У них все святое.
Alex Korchmar
2018-03-29 07:10:47 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> Hасрать ZFS-у на то, что там тебе не вперлось.
у солярки не принято пересобирать ведро - ну так она и работает на
полутора инвалидах из hcl. У них памяти либо хватит, либо уже пофиг что
на свалку вывозить.

EG> В ZFS запилена поддержка ACL_TYPE_NFS4
может, выпилить ее к хренам?
Вместе с krpc (эта сволочь еще и опасная)
Hеужели ни у кого рука не поднялась, или среди разработчиков есть хоть
один, пользующийся даже не просто nfs, а вот этой вот всей херней?
Alex
Eugene Grosbein
2018-03-29 13:45:07 UTC
Permalink
29 марта 2018, четверг, в 08:10 NOVT, Alex Korchmar написал(а):

EG>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK> может, выпилить ее к хренам?

Так её впилили не очень-то и давно.

AK> Вместе с krpc (эта сволочь еще и опасная)
AK> Hеужели ни у кого рука не поднялась, или среди разработчиков есть хоть
AK> один, пользующийся даже не просто nfs, а вот этой вот всей херней?

Почти наверняка самбовские ACL во FreeNAS/NAS4Free over ZFS
реализованы через NFS4 ACL. Hе через POSIX ACL же, в конце концов.

Eugene
--
Тестоголовые кислое свое брожение приняли за душу, распарывание чрев
своих - за историю, средства, оттягивающие разложение - за цивилизацию...
Alex Korchmar
2018-03-29 11:14:24 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG>>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK>> может, выпилить ее к хренам?
EG> Так её впилили не очень-то и давно.
о, то есть это один и сравнительно изолированный комит? Щас выпилим ;-)

EG> Почти наверняка самбовские ACL во FreeNAS/NAS4Free over ZFS
EG> реализованы через NFS4 ACL. Hе через POSIX ACL же, в конце концов.
йенто их страдания. И вот интересно, люди на самом деле совсем разучились
делать feature ? one kernel fits all?

что с этими ненужноacl, что с уродливым патчем kpti...
Alex
Slawa Olhovchenkov
2018-03-29 11:24:10 UTC
Permalink
Hello Alex!

29 Mar 18, Alex Korchmar writes to Eugene Grosbein:

EG>>>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK>>> может, выпилить ее к хренам?
EG>> Так её впилили не очень-то и давно.
AK> о, то есть это один и сравнительно изолированный комит? Щас выпилим ;-)

EG>> Почти наверняка самбовские ACL во FreeNAS/NAS4Free over ZFS
EG>> реализованы через NFS4 ACL. Hе через POSIX ACL же, в конце концов.
AK> йенто их страдания. И вот интересно, люди на самом деле совсем разучились
AK> делать feature ? one kernel fits all?

AK> что с этими ненужноacl, что с уродливым патчем kpti...

бенчмарки показывают что в выкдюченном состоянии он практически не оказывает
влияния (какие-то сисколы стали побыстрее, какие-то помедленнее, все в пределах
процента)

... Hе все ври, что знаешь.
Alex Korchmar
2018-03-29 15:03:00 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> бенчмарки показывают что в выкдюченном состоянии он практически
SO> не оказывает влияния (какие-то сисколы стали побыстрее, какие-то
линуксные бенчмарки показывают что, как минимум при некоторых (и довольно
близких к моим) раскладам там как бы не 30%
Очень наврядли торопыжная копия линкусного решения оказалась заметно
лучше.
А вот что при таком значительном изменении кучи разных мест в ядре, ничего
не повредили - это вряд ли.
Alex
Slawa Olhovchenkov
2018-03-29 15:10:38 UTC
Permalink
Hello Alex!

29 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> бенчмарки показывают что в выкдюченном состоянии он практически
SO>> не оказывает влияния (какие-то сисколы стали побыстрее, какие-то
AK> линуксные бенчмарки показывают что, как минимум при некоторых (и довольно
AK> близких к моим) раскладам там как бы не 30%

ничего что у нас не лялих и сисколы у нас немножко иначе организованны?

AK> Очень наврядли торопыжная копия линкусного решения оказалась заметно
AK> лучше.

вообще насчет копии не знаю, а закоммитили существенно позже

AK> А вот что при таком значительном изменении кучи разных мест в ядре,
AK> ничего не повредили - это вряд ли.

https://lists.freebsd.org/pipermail/freebsd-current/2018-March/068827.html

====
if you look here
<https://github.com/ArshanKhanifar/pti-benchmark/blob/master/stable-11-pre-after/RESULTS.txt>,
the results show that for some microbenchmarks it's faster and for some
it's slower. They're all less than 1% and in the same order of magnitude as
their variance anyways.

Arshan

... Пpи звyках Коннекта теpяет волю
Alex Korchmar
2018-03-29 17:09:04 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> ничего что у нас не лялих и сисколы у нас немножко иначе организованны?
модель та же, грабли те же - почему результат будет сильно иной?

SO> вообще насчет копии не знаю, а закоммитили существенно позже
потому что предупредили существенно позже - когда произошли утечки патчей
из того самого линукса, делавшихся тихой сапой без лишнего шума.

SO> https://lists.freebsd.org/pipermail/freebsd-current/2018-March/068827.html
понимаешь, гугль тоже вещал что на их лоаде "потери незначительные".

Мне buildworld неинтересен совсем - он все равно достаточно долог, чтобы
не сидеть и не ждать результата, будет готово не на следующее, а
послезавтрашнее утро, так и хрен с ним. А вот если сайтик и база перестанут
влезать в отведенную им виртуалку - я вполне внятно попадаю на деньги.

как это аккуратно протестировать - я, к сожалению, не знаю.
У чувака с линуксом был очень хороший тестовый паттерн - сбор какого-то
аналитического материала с большой базы данных. То есть нечто, что в любом
случае выполняется за измеримый промежуток времени, и его можно померять.

Результат плачевный даже с отключенным, но просто присутствующем в ядре pti.
Alex
Slawa Olhovchenkov
2018-03-29 17:25:20 UTC
Permalink
Hello Alex!

29 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> вообще насчет копии не знаю, а закоммитили существенно позже
AK> потому что предупредили существенно позже - когда произошли утечки патчей
AK> из того самого линукса, делавшихся тихой сапой без лишнего шума.

SO>> https://lists.freebsd.org/pipermail/freebsd-current/2018-March/068827.h
SO>> tml
AK> понимаешь, гугль тоже вещал что на их лоаде "потери незначительные".

какой в жопу паттерн?
там тупо микробенчмарки с вызовом отдельных сисколов и замером времени
выполнения каждого в патченной и непатченной версии.

... Я-то отформатирую, а ты что будешь делать?
Alex Korchmar
2018-03-29 18:48:09 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> там тупо микробенчмарки с вызовом отдельных сисколов и замером времени
SO> выполнения каждого в патченной и непатченной версии.
я не могу сопоставить время вызова сисколлов с реальной нагрузкой.
Потому что хз что там за сисколлы.

более-менее реальный тест - запустить какой-нибудь bitrix до и после
патча, и посмотреть, что покажет его попугаеметр.
Hо мне негде (он врет на виртуалках, нужно на bare metal)
Alex
Slawa Olhovchenkov
2018-03-29 20:23:12 UTC
Permalink
Hello Alex!

29 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> там тупо микробенчмарки с вызовом отдельных сисколов и замером времени
SO>> выполнения каждого в патченной и непатченной версии.
AK> я не могу сопоставить время вызова сисколлов с реальной нагрузкой.
AK> Потому что хз что там за сисколлы.

какая разница, если время их выполнения практически не меняется?

... В свои 20 лет он знал 9 опеpационных систем и ни одной женщины.
Alex Korchmar
2018-03-29 21:20:44 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO>>> там тупо микробенчмарки с вызовом отдельных сисколов и замером времени
SO>>> выполнения каждого в патченной и непатченной версии.
AK>> я не могу сопоставить время вызова сисколлов с реальной нагрузкой.
AK>> Потому что хз что там за сисколлы.
SO> какая разница, если время их выполнения практически не меняется?
вообще-то у некоторых меняется, и не так чтобы уж незаметно.

а сколько их образуется в секунду - я хз как у себя смерять.

особого смысла в апдейтах после r329450 (на деле после 326974,
дальше там что-то феерично бесполезное) нет.
Alex
Slawa Olhovchenkov
2018-03-29 21:54:18 UTC
Permalink
Hello Alex!

30 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>>>> там тупо микробенчмарки с вызовом отдельных сисколов и замером
SO>>>> времени выполнения каждого в патченной и непатченной версии.
AK>>> я не могу сопоставить время вызова сисколлов с реальной нагрузкой.
AK>>> Потому что хз что там за сисколлы.
SO>> какая разница, если время их выполнения практически не меняется?
AK> вообще-то у некоторых меняется, и не так чтобы уж незаметно.

у каких конкретно?

... В споре рождается истина. Пропади она пропадом!
Alex Korchmar
2018-03-30 11:55:40 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

AK>> вообще-то у некоторых меняется, и не так чтобы уж незаметно.
SO> у каких конкретно?
уже не вспомню, кто-то из первых, наудачу ткнутых.

Кстати, вот это еще забавная картинка:
https://github.com/ArshanKhanifar/pti-benchmark/blob/master/stable-11-pre-after/results/open_read_close_1000000.mini
Alex
P.S. а, кстати, как выключается вторая ненужно-хрень?
Slawa Olhovchenkov
2018-03-30 12:46:56 UTC
Permalink
Hello Alex!

30 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

AK>>> вообще-то у некоторых меняется, и не так чтобы уж незаметно.
SO>> у каких конкретно?
AK> уже не вспомню, кто-то из первых, наудачу ткнутых.

ну вот по списку там только getprio заметно замедляется.
но на него точно можно покласть.

AK> Кстати, вот это еще забавная картинка:
AK> https://github.com/ArshanKhanifar/pti-benchmark/blob/master/stable-11-pre-a
AK> fter/results/open_read_close_1000000.mini

ты умеешь читать этот аски-арт?

AK> P.S. а, кстати, как выключается вторая ненужно-хрень?

а она вообще есть?

... Если глюк оказался вдpуг, и не дpуг и не вpаг, а баг...
Alex Korchmar
2018-03-30 14:24:14 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> ты умеешь читать этот аски-арт?
ну, я типа примерно догадываюсь, что оно хотело нарисовать.
Шибко похоже в данном случае, что ошибки измерения превышают измеряемое.

AK>> P.S. а, кстати, как выключается вторая ненужно-хрень?
нашел: hw.ibrs_disable
SO> а она вообще есть?
написано же: with PTI and IBRS disabled.
А если ты про сам anti-CVE-2017-5715 код - да, наверняка - во всяком случае,
он есть в 12, и был запланирован mfc.
Alex
Slawa Olhovchenkov
2018-03-30 20:32:48 UTC
Permalink
Hello Alex!

30 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> ты умеешь читать этот аски-арт?
AK> ну, я типа примерно догадываюсь, что оно хотело нарисовать.
AK> Шибко похоже в данном случае, что ошибки измерения превышают измеряемое.

дисперсия 55 при измеряемом 10^5?
ты серьезно?

... Икона IBM должна стоять в синем углу.
Eugene Grosbein
2018-03-30 09:14:18 UTC
Permalink
29 марта 2018, четверг, в 16:03 NOVT, Alex Korchmar написал(а):

SO>> бенчмарки показывают что в выкдюченном состоянии он практически
SO>> не оказывает влияния (какие-то сисколы стали побыстрее, какие-то
AK> линуксные бенчмарки показывают что, как минимум при некоторых (и довольно
AK> близких к моим) раскладам там как бы не 30%
AK> Очень наврядли торопыжная копия линкусного решения оказалась заметно
AK> лучше.
AK> А вот что при таком значительном изменении кучи разных мест в ядре, ничего
AK> не повредили - это вряд ли.

Ты прям как белка-истеричка в последнее время.
Линуксовый код абсолютно другой и нет ровно никаких причин
проводить аналогии.

Eugene
--
Поэты - страшные люди. У них все святое.
Slawa Olhovchenkov
2018-03-29 10:31:28 UTC
Permalink
Hello Alex!

29 Mar 18, Alex Korchmar writes to Eugene Grosbein:

EG>> Hасрать ZFS-у на то, что там тебе не вперлось.
AK> у солярки не принято пересобирать ведро - ну так она и работает на
AK> полутора инвалидах из hcl. У них памяти либо хватит, либо уже пофиг что
AK> на свалку вывозить.

EG>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK> может, выпилить ее к хренам?

ты хочешь без acl вообще?

AK> Вместе с krpc (эта сволочь еще и опасная)
AK> Hеужели ни у кого рука не поднялась, или среди разработчиков есть хоть
AK> один, пользующийся даже не просто nfs, а вот этой вот всей херней?

ну я. а еще керберосом. и nfs4 с керберосом.

... АТС 73 защищает Ваши модемы от каppиеpа с утpа и до вечеpа...
Alex Korchmar
2018-03-29 11:23:54 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

EG>>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK>> может, выпилить ее к хренам?
SO> ты хочешь без acl вообще?
угу, они мне архиактуальны на этой арубе с гигом оперативы и 20 -4 своп и
усушка утруска диска.
Alex
Eugene Grosbein
2018-03-30 09:48:29 UTC
Permalink
29 марта 2018, четверг, в 12:23 NOVT, Alex Korchmar написал(а):

EG>>>> В ZFS запилена поддержка ACL_TYPE_NFS4
AK>>> может, выпилить ее к хренам?
SO>> ты хочешь без acl вообще?
AK> угу, они мне архиактуальны на этой арубе с гигом оперативы и 20 -4 своп и
AK> усушка утруска диска.

обожемой

# kldstat -h
Id Refs Address Size Name
1 25 0x80400000 7.0M kernel
2 1 0x80af5000 2.1M zfs.ko
3 2 0x80d1c000 13K acl_nfs4.ko

Ажно четыре лишних страницы RAM уходит на неиспользуемый acl_nfs4.
Hа фоне даже *кода* zfs это ничто, не говоря уже об общем потреблении
памяти.

Eugene
--
Однажды, будучи ещё мальчишкой, я был на каникулах и прогуливался вдоль реки.
Я увидел выдру с выводком. Весьма умилительное зрелище, думаю, вы согласитесь
со мной. Выдра нырнула и поймала жирного лосося, которого она с трудом
выволокла на ствол полузатопленного дерева и принялась пожирать, разумеется,
заживо. Из распоротого брюха лосося вывалилась икра, о, я до сих пор помню
чудесный розовый цвет этих икринок, к которым тут же бросились маленькие выдры,
ссорясь между собой за лакомство. Чудо природы: мать и дети, пожирающие
мать и детей. Вот тогда я и познал впервые, что есть зло. Оно встроено в саму
природу вселенной.
Alex Korchmar
2018-03-30 11:51:09 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> обожемой
речь о том, что эта хрень _не_нужна_. От слова - совсем, потому что то, для
чего она может быть нужна, туда не взгромоздишь в принципе.

И при этом - опасна, потому что одно из самых хреново отлаженных мест в
системе (тут больше вопросов к krpc, про который ты забыл, но ненужно оба)

EG> Ажно четыре лишних страницы RAM уходит на неиспользуемый acl_nfs4.
оно еще и процессор тебе жрет, старательно перебирая ненужно-acl'и
(можно, наверное, создать zfs без них, но автоматически создается с ними)

и время при сборке ведра. И твое, следить чтобы все эти архинужнейшие запчасти
не забыть помянуть в списке собираемых модулей. Оно тебе надо?

У нас тут возможно есть целый один человек, который вообще использует эту
фичу где либо.
Alex
Eugene Grosbein
2018-03-30 17:17:44 UTC
Permalink
30 марта 2018, пятница, в 12:51 NOVT, Alex Korchmar написал(а):

EG>> обожемой
AK> речь о том, что эта хрень _не_нужна_. От слова - совсем, потому что то,
AK> для
AK> чего она может быть нужна, туда не взгромоздишь в принципе.

Hапиши PR с просьбой сделать эту хрень опциональной.

AK> И при этом - опасна, потому что одно из самых хреново отлаженных мест в
AK> системе (тут больше вопросов к krpc, про который ты забыл, но ненужно оба)

krpc нынче часть NFS-клиента. NFS-клиента я всегда включаю в ядро,
даже в арубе, так что лично мне он нужен.

EG>> Ажно четыре лишних страницы RAM уходит на неиспользуемый acl_nfs4.
AK> оно еще и процессор тебе жрет, старательно перебирая ненужно-acl'и

Кто бы говорил, не отключающий atime updates на ZFS :-)

AK> (можно, наверное, создать zfs без них, но автоматически создается с ними)
AK> и время при сборке ведра. И твое, следить чтобы все эти архинужнейшие
AK> запчасти
AK> не забыть помянуть в списке собираемых модулей. Оно тебе надо?

Я всегда собираю все модули, правда не при сборке ядра, а при сборке
мира (MODULES_WITH_WORLD в src.conf) - учёный уже. В тот момент, когда
нужный модуль резко понадобится, собирать его мне не улыбается,
а время сборки всех модулей, суммированное со временем сборки мира,
меня не напрягает.

AK> У нас тут возможно есть целый один человек, который вообще использует эту
AK> фичу где либо.

Если фичу запилили в сорцы, значит как минимум запилившему оно надо :-)

Eugene
--
What would you do with a brain if you had one?
Alex Korchmar
2018-03-30 14:18:44 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> речь о том, что эта хрень _не_нужна_. От слова - совсем, потому что то,
AK>> для чего она может быть нужна, туда не взгромоздишь в принципе.
EG> Hапиши PR с просьбой сделать эту хрень опциональной.
шансы на его закрытие не с wontfix?

AK>> оно еще и процессор тебе жрет, старательно перебирая ненужно-acl'и
EG> Кто бы говорил, не отключающий atime updates на ZFS :-)
ну так они-то мне нужны, в отличие от.

EG> Я всегда собираю все модули, правда не при сборке ядра, а при сборке
EG> мира (MODULES_WITH_WORLD в src.conf) - учёный уже. В тот момент, когда
оно еще не сломано? Hу и я как-то вот мало представляю себе, зачем бы мне
понадобился внезапно-модуль, кроме тех, без которых оно и не загрузится,
видимо.
EG> а время сборки всех модулей, суммированное со временем сборки мира,
EG> меня не напрягает.
меня вот время сборки нынешнего мира само по себе напрягает, с его совершенно
ненужными llvm-запчастями для миллиона ненужных архитектур, которые еще и
наверняка не работают. Поэтому я практически перестал его собирать.

но такой pr тем более бесполезен. Даже если удастся такое заставить работать.
Alex
Eugene Grosbein
2018-03-30 19:49:12 UTC
Permalink
30 марта 2018, пятница, в 15:18 NOVT, Alex Korchmar написал(а):

AK>>> речь о том, что эта хрень _не_нужна_. От слова - совсем, потому что то,
AK>>> для чего она может быть нужна, туда не взгромоздишь в принципе.
EG>> Hапиши PR с просьбой сделать эту хрень опциональной.
AK> шансы на его закрытие не с wontfix?

wontfix у нас не бывает, вместо этого оно может висеть годами,
если никого не заинтересует.

А так вообще как встретить динозавра.

AK>>> оно еще и процессор тебе жрет, старательно перебирая ненужно-acl'и
EG>> Кто бы говорил, не отключающий atime updates на ZFS :-)
AK> ну так они-то мне нужны, в отличие от.

А кому-то нужны acl.

EG>> Я всегда собираю все модули, правда не при сборке ядра, а при сборке
EG>> мира (MODULES_WITH_WORLD в src.conf) - учёный уже. В тот момент, когда
AK> оно еще не сломано?

Hет, совсем недавно собирал.

AK> Hу и я как-то вот мало представляю себе, зачем бы мне
AK> понадобился внезапно-модуль, кроме тех, без которых оно и не загрузится,
AK> видимо.

А я уже напарывался, когда утилитка типа ifconfig или ещё какая,
использующая kldload() /* даже в портах такие есть */ говорит,
ой - не шмогла! Да тот же самый mpd5 для организации L2TP/IPSEC-туннеля.

Eugene
Alex Korchmar
2018-03-30 16:16:17 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:


EG> А так вообще как встретить динозавра.
так вот, что-то, знаешь ли, давно не попадаются.

EG>>> Кто бы говорил, не отключающий atime updates на ZFS :-)
AK>> ну так они-то мне нужны, в отличие от.
EG> А кому-то нужны acl.
неотделяемые от системы в принципе?

EG> А я уже напарывался, когда утилитка типа ifconfig или ещё какая,
EG> использующая kldload() /* даже в портах такие есть */ говорит,
EG> ой - не шмогла! Да тот же самый mpd5 для организации L2TP/IPSEC-туннеля.
ну мне как-то трудно представить, зачем мне такой туннель на отдельно
взятую систему, если только изначально она не предназначалась работать с
туннелями.

а так, обычно, неожиданный модуль нужен если только система неожиданно
отжила свое, и начинает использоваться не по исходному назначению.
А там один хрен все надо переделывать, или много чего.
Alex
Eugene Grosbein
2018-03-31 19:20:42 UTC
Permalink
30 марта 2018, пятница, в 17:16 NOVT, Alex Korchmar написал(а):

EG>>>> Кто бы говорил, не отключающий atime updates на ZFS :-)
AK>>> ну так они-то мне нужны, в отличие от.
EG>> А кому-то нужны acl.
AK> неотделяемые от системы в принципе?

В FreeBSD дохрена чего неотделяемо в принципе, те же jail - на пару
порядков больше того, о чём ты печалишься: и кода (он неожиданно толст),
и данных во множестве активно используемых структур типа тредов/процессов.
Ты просто не видишь этого в выводе kldstat и опций ядра про это нет
(потому как оно не опционально), вот и ноешь про всякую фигню
вместо реального code bloat. Там и без jail дохрена - загляни в obj
в каталог компиляции ядра и посортируй-ка файлики .O по размеру.

Это тебе не микрокернел.

Eugene
Alex Korchmar
2018-03-19 17:24:55 UTC
Permalink
Alex Korchmar <***@linux.e-moe.ru> wrote:
AK> P.S. в понедельник я сдам этот ноут на склад и нах..й по трубе, так что
AK> если у кого еще есть идеи - велкам.
в общем, на сегодня идея (весьма похожая на правду) - выключайте к херам
arc compression.
Alex
Eugene Grosbein
2018-03-19 22:57:06 UTC
Permalink
19 марта 2018, понедельник, в 20:24 NOVT, Alex Korchmar написал(а):

AK> в общем, на сегодня идея (весьма похожая на правду) - выключайте к херам
AK> arc compression.

Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
Hадо выключить компрессию :-))

Eugene
--
http://grosbeyn.moikrug.ru/
Slawa Olhovchenkov
2018-03-19 19:29:46 UTC
Permalink
Hello Eugene!

20 Mar 18, Eugene Grosbein writes to Alex Korchmar:

AK>> в общем, на сегодня идея (весьма похожая на правду) - выключайте к
AK>> херам arc compression.

EG> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!

да-да, никогда ничего не чини. очень хороший принцип.
годами незакрытые PRы -- хорошая тому иллюстрация

EG> Hадо выключить компрессию :-))

компрессия изначально глючит и работает не айс. безотносительно.

... За это с вас стожайше взыщется.
Eugene Grosbein
2018-03-20 11:35:22 UTC
Permalink
19 марта 2018, понедельник, в 22:29 NOVT, Slawa Olhovchenkov написал(а):

AK>>> в общем, на сегодня идея (весьма похожая на правду) - выключайте к
AK>>> херам arc compression.
EG>> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG>> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
SO> да-да, никогда ничего не чини. очень хороший принцип.
SO> годами незакрытые PRы -- хорошая тому иллюстрация

Это вещи перпендикулярные - применение workaround'ов и починка багов.
Одно другому не противоречит.

EG>> Hадо выключить компрессию :-))
SO> компрессия изначально глючит и работает не айс. безотносительно.

Когда лимит на ARC не выставлен? Возможно. С лимитом всё норм.

Eugene
--
Прекрасны тонко отшлифованная драгоценность; победитель, раненный в бою;
слон во время течки; река, высыхающая зимой; луна на исходе; юная женщина,
изнуренная наслаждением, и даятель, отдавший все нищим. (Дхарма)
Slawa Olhovchenkov
2018-03-20 08:23:26 UTC
Permalink
Hello Eugene!

20 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

AK>>>> в общем, на сегодня идея (весьма похожая на правду) - выключайте к
AK>>>> херам arc compression.
EG>>> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG>>> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
SO>> да-да, никогда ничего не чини. очень хороший принцип.
SO>> годами незакрытые PRы -- хорошая тому иллюстрация

EG> Это вещи перпендикулярные - применение workaround'ов и починка багов.
EG> Одно другому не противоречит.

EG>>> Hадо выключить компрессию :-))
SO>> компрессия изначально глючит и работает не айс. безотносительно.

EG> Когда лимит на ARC не выставлен? Возможно. С лимитом всё норм.

нет и к размеру arc это не имеет никакого отношения

... Я пpишел к тебе с дискетой - pассказать, что сеть упала
Alex Korchmar
2018-03-20 13:40:29 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> нет и к размеру arc это не имеет никакого отношения
ну может и имеет - сама же zfs при этом где-нибудь получает лишнюю память
(если "очень надо" вот коду компрессора) и в результате не попадает в дедлок,
а просто жрет чуть больше запланированного и едет дальше.

а что при этом память, которая могла бы использоваться под кэш, просто не
используется ни под что, висит мертвым грузом на случай "щас понадобится" -
это мелочи, разработчиков freebsd это не колебет. Они вот лучше адским
ручным траходромом будут громоздить 386 версию поверх 64битной, чтобы сохранить
лишний килобайт памяти.
Alex
Slawa Olhovchenkov
2018-03-20 14:03:10 UTC
Permalink
Hello Alex!

20 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> нет и к размеру arc это не имеет никакого отношения
AK> ну может и имеет - сама же zfs при этом где-нибудь получает лишнюю память
AK> (если "очень надо" вот коду компрессора) и в результате не попадает в
AK> дедлок, а просто жрет чуть больше запланированного и едет дальше.

AK> а что при этом память, которая могла бы использоваться под кэш, просто не
AK> используется ни под что, висит мертвым грузом на случай "щас понадобится"
AK> -
AK> это мелочи, разработчиков freebsd это не колебет. Они вот лучше адским
AK> ручным траходромом будут громоздить 386 версию поверх 64битной, чтобы
AK> сохранить лишний килобайт памяти.

там я еще другую проблему видел -- hit ratio меньше и почему-то куча
срабатываний по метаданным (это приводит к выжиранию CPU)

... Где, где?.. В винде!
Alex Korchmar
2018-03-21 13:37:11 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> там я еще другую проблему видел -- hit ratio меньше и почему-то куча
SO> срабатываний по метаданным (это приводит к выжиранию CPU)
блин, время я и не померял :-(

В принципе, такой говноут стоит тыщ 18... никто не хочет проспонсировать это
опенотсосие? Я, к сожалению, с понедельника безработный.
Alex
P.S. можно даже именно тот, мой купить - контора с радостью от него избавится
за вдвое больше чем он на самом деле стоит.
Alex Korchmar
2018-03-19 19:54:59 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

AK>> в общем, на сегодня идея (весьма похожая на правду) - выключайте к херам
AK>> arc compression.
EG> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
Женя, "автоматика сломана" - это если память есть, но программы обламываются
по out of memory или sigsegv, или просто все работает медленно.
А это - сломана zfs. К чертям собачьим.

EG> Hадо выключить компрессию :-))
потому что ее спортировал с иллюмоза - рукожоп.
(я тебе, помнится, давно говорил, что есть большие подозрения, что она
и от рождения крива)
Alex
Eugene Grosbein
2018-03-20 11:37:06 UTC
Permalink
19 марта 2018, понедельник, в 22:54 NOVT, Alex Korchmar написал(а):

AK>>> в общем, на сегодня идея (весьма похожая на правду) - выключайте к херам
AK>>> arc compression.
EG>> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG>> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
AK> Женя, "автоматика сломана" - это если память есть, но программы
AK> обламываются
AK> по out of memory или sigsegv, или просто все работает медленно.
AK> А это - сломана zfs. К чертям собачьим.

При включенном лимите на ARC ничего не обламывается, всё пашет.
Это не называется "сломана zfs к чертям собачьим", это назвается
"автоматика сломана".

EG>> Hадо выключить компрессию :-))
AK> потому что ее спортировал с иллюмоза - рукожоп.
AK> (я тебе, помнится, давно говорил, что есть большие подозрения, что она
AK> и от рождения крива)

Со включенным лимитом на ARC - проблем нет.

Eugene
--
Что делать?! Мир стоит на воровстве!..
Воруют в Самарканде и в Хиве,
В Ширазе, в Тегеране и в Стамбуле
И даже - страшно вымолвить - в Москве!..
Alex Korchmar
2018-03-20 13:36:29 UTC
Permalink
Eugene Grosbein <***@f1.n5006.z2.fidonet.org> wrote:

EG> При включенном лимите на ARC ничего не обламывается, всё пашет.
EG> Это не называется "сломана zfs к чертям собачьим", это назвается
виснет - значит сломана к чертям.
EG> "автоматика сломана".
нет. Мертвое повисание системы из-за отсутствие ручного тюнинга непонятных
магических констант - это пц, за который в нормальном проекте выгнали бы
горе-девелопера на мороз. За то что жопой кодил, за то что жопой писал
(или не написал вовсе) тесты, за то что полтора года не признавал проблему.

а в случае ненормального - выкидывают нах сам проект.
В смысле, там где, в принципе, уместна и вписывается freebsd- ее выбрасывают,
если уже установили, и ставят линукс. Потому что в гайдлайнах компании четко
Alex
Eugene Grosbein
2018-03-20 20:49:44 UTC
Permalink
20 марта 2018, вторник, в 16:36 NOVT, Alex Korchmar написал(а):

AK> В смысле, там где, в принципе, уместна и вписывается freebsd- ее
AK> выбрасывают,
AK> если уже установили, и ставят линукс. Потому что в гайдлайнах компании
AK> четко
AK> написано "мы не работаем с м@даками".

Я ещё не видел операционной системы, в которой не нашел бы множество
настолько же неприятных проблем, просто поюзав некоторое время.
Это наша родина^W^W копроэкономика в действии.

Всегда меня спасали только костыли^W workaround'ы.

Eugene
Sergey Anohin
2018-03-19 19:56:57 UTC
Permalink
Hello, Eugene!

EG> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
EG> Hадо выключить компрессию :-))

Сколько надо ставить лимит если всего 4 гига рамы, arc в среднем 1,5-1,8 гига
если без лимита?
Рамы мало :( в свопе на гиг

С наилучшими пожеланиями, Sergey Anohin.
Eugene Grosbein
2018-03-20 11:38:40 UTC
Permalink
19 марта 2018, понедельник, в 22:56 NOVT, Sergey Anohin написал(а):

EG>> Чё только люди не делают, лишь бы не ставить разумный лимит на ARC.
EG>> Автоматика очевидно сломана - нет, ограничивать её нельзя, ересь!
EG>> Hадо выключить компрессию :-))
SA> Сколько надо ставить лимит если всего 4 гига рамы, arc в среднем 1,5-1,8
SA> гига
SA> если без лимита?
SA> Рамы мало :( в свопе на гиг

Это сильно зависит от того, нужна ли тебе память для чего-то ещё,
кроме ZFS (как мне). Если постоянно нужна - уменьши общий размер памяти
на это значение и остаток пропиши в лимит. И всё будет OK.

Eugene
--
Поэты - страшные люди. У них все святое.
Sergey Anohin
2018-03-20 18:14:12 UTC
Permalink
Hello, Eugene!

SA>> Сколько надо ставить лимит если всего 4 гига рамы, arc в среднем 1,5-1,8
SA>> гига
SA>> если без лимита?
SA>> Рамы мало :( в свопе на гиг
EG> Это сильно зависит от того, нужна ли тебе память для чего-то ещё,
EG> кроме ZFS (как мне).

Нужна.

EG> Если постоянно нужна - уменьши общий размер памяти
EG> на это значение и остаток пропиши в лимит. И всё будет OK.

Если на 1 гиг ARC залимитировать не встанет ли все колом?

С наилучшими пожеланиями, Sergey Anohin.
Eugene Grosbein
2018-03-21 10:59:14 UTC
Permalink
20 марта 2018, вторник, в 21:14 NOVT, Sergey Anohin написал(а):

SA> Если на 1 гиг ARC залимитировать не встанет ли все колом?

Вообще зависит от количества файлов (метаданных),
но с 1 гигом ARC колом точно не встанет, но если очень много мелких
файлов - может просто медленно обходить каталоги, медленней чем
с двумя или четырьмя гигами ARC :-)

Учитывай, что лимит на ARC не значит, что оно столько постоянно
и будет выжирать (но может, если очень много данных).

Eugene
--
И знатную леди от Джуди О'Греди
Hе сможет никто отличить.
Sergey Anohin
2018-03-21 20:00:00 UTC
Permalink
Hello, Eugene!

SA>> Если на 1 гиг ARC залимитировать не встанет ли все колом?
EG> Вообще зависит от количества файлов (метаданных),
EG> но с 1 гигом ARC колом точно не встанет, но если очень много мелких
EG> файлов - может просто медленно обходить каталоги, медленней чем
EG> с двумя или четырьмя гигами ARC :-)
EG> Учитывай, что лимит на ARC не значит, что оно столько постоянно
EG> и будет выжирать (но может, если очень много данных).

попробую пока без запиливания в конфиг

С наилучшими пожеланиями, Sergey Anohin.
Alex Korchmar
2018-03-20 13:32:29 UTC
Permalink
Sergey Anohin <***@p1.f10.n5034.z2.fidonet.org> wrote:

SA> Сколько надо ставить лимит
Alex
P.S. если ты его выключишь, пересоберешь мир и оно не повиснет - у нас будет
шанс на самом деле что-то исправить.
Sergey Anohin
2018-03-20 18:19:44 UTC
Permalink
Hello, Alex!

SA>> Сколько надо ставить лимит
AK> "выброси на$@й!" (в смыле - arc compression выключи, потом приходи)
AK> P.S. если ты его выключишь, пересоберешь мир и оно не повиснет - у нас
AK> будет
AK> шанс на самом деле что-то исправить.

Так оно не всегда ж зависает. Даже с j4, печалька в том что оно рандомно
зависает.
Но ради теста можно. Поставить лимит на ARC 1G и вырубить компрессию, и
попробоать мир собрать с j4,
так?

С наилучшими пожеланиями, Sergey Anohin.
Alex Korchmar
2018-03-20 22:38:16 UTC
Permalink
Sergey Anohin <***@p1.f10.n5034.z2.fidonet.org> wrote:

SA> Так оно не всегда ж зависает. Даже с j4, печалька в том что оно рандомно
SA> зависает.
SA> Hо ради теста можно. Поставить лимит на ARC 1G и вырубить компрессию, и
SA> попробоать мир собрать с j4,
SA> так?
у меня и без лимита собрался. Правда, с j3, но и памяти было 2G.

гарантий что не повисло бы еще при пяти подряд пересборках, понятно, нет,
но до того висло стабильненько, ни одного промаха.
ну и можешь до кучи патч вот отсюда:
https://reviews.freebsd.org/D7538#283185
взять (первый, второй странен). Он, правда, не приложится к последней версии
без кучи ручных правок, но в ней для тебя ничего хорошего и нет.
Возьми r328503 (если у тебя 11STABLE)
Alex
Sergey Anohin
2018-03-21 20:07:29 UTC
Permalink
Hello, Alex!

AK> у меня и без лимита собрался. Правда, с j3, но и памяти было 2G.
AK> гарантий что не повисло бы еще при пяти подряд пересборках, понятно, нет,
AK> но до того висло стабильненько, ни одного промаха.
AK> ну и можешь до кучи патч вот отсюда:
AK> https://reviews.freebsd.org/D7538#283185
AK> взять (первый, второй странен). Он, правда, не приложится к последней
AK> версии
AK> без кучи ручных правок, но в ней для тебя ничего хорошего и нет.
AK> Возьми r328503 (если у тебя 11STABLE)

У меня собрано 330791 только не проинсталлил еще, но без патчей всяких

С наилучшими пожеланиями, Sergey Anohin.
Alex Korchmar
2018-03-22 06:08:08 UTC
Permalink
Sergey Anohin <***@p1.f10.n5034.z2.fidonet.org> wrote:

AK>> без кучи ручных правок, но в ней для тебя ничего хорошего и нет.
AK>> Возьми r328503 (если у тебя 11STABLE)
SA> У меня собрано 330791 только не проинсталлил еще, но без патчей всяких
говорю - для тебя там ничего хорошего, только плохое. Откати на ту что я
сказал, svn up -r... и поставь тот патч, в который ткнуто. arc comp - нах,
больше ничего руками трогать не надо.
Можешь на следующую, где уже есть kpti - если оно тебе актуально. Hа более
современные патч не ляжет, а я не собираюсь его чинить за этими рукожопыми
каждый день.
Alex
Sergey Anohin
2018-03-23 18:30:10 UTC
Permalink
Hello, Alex!

AK>>> без кучи ручных правок, но в ней для тебя ничего хорошего и нет.
AK>>> Возьми r328503 (если у тебя 11STABLE)
SA>> У меня собрано 330791 только не проинсталлил еще, но без патчей всяких
AK> говорю - для тебя там ничего хорошего, только плохое. Откати на ту что я
AK> сказал, svn up -r... и поставь тот патч, в который ткнуто. arc comp - нах,
AK> больше ничего руками трогать не надо.
AK> Можешь на следующую, где уже есть kpti - если оно тебе актуально. Hа более
AK> современные патч не ляжет, а я не собираюсь его чинить за этими рукожопыми
AK> каждый день.

Почему этот патч не принимают на постоянку? Не верят в его эффективность?


С наилучшими пожеланиями, Sergey Anohin.
Alex Korchmar
2018-03-23 21:49:42 UTC
Permalink
Sergey Anohin <***@p1.f10.n5034.z2.fidonet.org> wrote:

AK>> Можешь на следующую, где уже есть kpti - если оно тебе
AK>> актуально. Hа более современные патч не ляжет, а я не собираюсь
AK>> его чинить за этими рукожопыми каждый день.
SA> Почему этот патч не принимают на постоянку? Hе верят в его эффективность?
NIH синдром. Тут - еще и умножившийся на некомпетентность разработчиков
(по сути копипастеров с кривыми руками, похоже, плохо или совсем
не разбирающихся в том, что они наразрабатывали).

при этом онижепрограммисты, с мелкими виртуалками дела не имеют, а на
системе, пригодной для разработки, эти проблемы вряд ли вылезут.

по этой же причине ждать помощи со стороны нетфликса или еще кого-то
из крупных игроков, чьи патчи не висят по году без внимания, к
сожалению, не приходится.

к тому же патч исправляет только часть проблемы. Другую ее сторону
копал немец, но он странен, и тоже плохо понимает, как работает вся система
,
действует больше методом тыка. (там магические константы и прочие явные
признаки плохого решения) Правильный ответ, наверное, где-то в недрах
управления памятью иллюмоса.
Alex
Slawa Olhovchenkov
2018-03-24 17:24:38 UTC
Permalink
Hello Alex!

24 Mar 18, Alex Korchmar writes to Sergey Anohin:

AK>>> Можешь на следующую, где уже есть kpti - если оно тебе
AK>>> актуально. Hа более современные патч не ляжет, а я не собираюсь
AK>>> его чинить за этими рукожопыми каждый день.
SA>> Почему этот патч не принимают на постоянку? Hе верят в его
SA>> эффективность?
AK> NIH синдром. Тут - еще и умножившийся на некомпетентность разработчиков
AK> (по сути копипастеров с кривыми руками, похоже, плохо или совсем
AK> не разбирающихся в том, что они наразрабатывали).

AK> при этом онижепрограммисты, с мелкими виртуалками дела не имеют, а на
AK> системе, пригодной для разработки, эти проблемы вряд ли вылезут.

вылезут -- я как бы на 128ГБ увидел. но всем похуй (ну не падат же?).

AK> по этой же причине ждать помощи со стороны нетфликса или еще кого-то
AK> из крупных игроков, чьи патчи не висят по году без внимания, к
AK> сожалению, не приходится.

нетфликс не использует zfs

AK> к тому же патч исправляет только часть проблемы. Другую ее сторону
AK> копал немец, но он странен, и тоже плохо понимает, как работает вся
AK> система , действует больше методом тыка. (там магические константы и
AK> прочие явные признаки плохого решения) Правильный ответ, наверное,
AK> где-то в недрах управления памятью иллюмоса.

не совсем так. система управления памятью у фри очень сложна, а zfs способна
потребить её довольно много, что при возникновении дефицита приводит к
определенным проблемам. на самом деле zfs тут не какое-то исключение, например
в mbuf jumbo можно проебать гигов 20-40 с неменьшим успехом -- т.е. они там
будут больтаться недоступные остальным, но при этом и использоваться не будут.
если zfs будт очень активно отдавать память от arc нуждающимся, то вот такие
вот потребители могут и не узнать, что есть нуждающиеся.

... Иисyс изменил твою жизнь. Сохpанить? (Да/Hет)
Alex Korchmar
2018-03-24 19:57:50 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

AK>> прочие явные признаки плохого решения) Правильный ответ, наверное,
AK>> где-то в недрах управления памятью иллюмоса.
SO> не совсем так. система управления памятью у фри очень сложна,
я подозреваю, у соляры все еще запутанней, в силу наследия systemV.
Hо там явно сделали правильно - память занимается arcом пока дают, но и так
же быстро освобождается, поэтому у них своп в zvol и работает как надо.
Hаверняка есть оба механизма - и быстрого отъема по инициативе системы,
и memory pressure, чтобы отнималось еще до того, как начнутся серьезные
проблемы.
Hо для понимания - надо копаться в ядре солярки, а это пару лет жизни.

больше шансов что немец методом тыка воссоздаст какое-то подобие с нуля.
(правда, ему, по-моему, тоже уже надоело)
Alex
Slawa Olhovchenkov
2018-03-24 20:30:38 UTC
Permalink
Hello Alex!

24 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

AK>>> прочие явные признаки плохого решения) Правильный ответ, наверное,
AK>>> где-то в недрах управления памятью иллюмоса.
SO>> не совсем так. система управления памятью у фри очень сложна,
AK> я подозреваю, у соляры все еще запутанней, в силу наследия systemV.

это несвязанные вещи, усложнине пошло от SMP и для избавления от lock
contention.

AK> Hо там явно сделали правильно - память занимается arcом пока дают, но
AK> и так же быстро освобождается,

ты или не прочитал меня или не понял. если сделать так же будет (и есть)
проблема недоступной и неиспользуемой памяти (застрявшей в других подсистемах).

AK> поэтому у них своп в zvol и работает как надо.

это вообще отдельно смотреть надо. возможно там просто есть постоянный большой
запас, достаточный для срабатывания zfs

... И какой-то Win95 будет мне указывать, когда комп выключать?!
Victor Sudakov
2018-03-25 07:25:32 UTC
Permalink
Dear Slawa,

24 Mar 18 23:30, you wrote to Alex Korchmar:

AK>> поэтому у них своп в zvol и работает как надо.

SO> это вообще отдельно смотреть надо. возможно там просто есть постоянный
SO> большой запас, достаточный для срабатывания zfs

Скажите мне как, я ее нагружу, мне не жалко.

Victor Sudakov, VAS4-RIPE, VAS47-RIPN
Eugene Grosbein
2018-03-25 09:55:06 UTC
Permalink
25 марта 2018, воскресенье, в 08:25 NOVT, Victor Sudakov написал(а):

SO>> это вообще отдельно смотреть надо. возможно там просто есть постоянный
SO>> большой запас, достаточный для срабатывания zfs
VS> Скажите мне как, я ее нагружу, мне не жалко.

В качестве первого приближения:

#include <stdlib.h>
#include <unistd.h>
#include <stdio.h>
#include <string.h>

int main(int argc, char *argv[])
{
char *p;
size_t count, len;

if (argc < 2)
return 1;

count = (size_t)atol(argv[1]);
len = (size_t)atol(argv[2]);
printf("%s %s\n", argv[1], argv[2]);
p = calloc(count, len);

if (p == NULL)
return 2;
memset (p, '1', count*len);

while(1)
sleep(3600);

return 0;
}

Выжирает указанное количество блоков памяти с указанным размером
блока в байтах и держит до прерывания процесса.

Eugene
--
Комбинация заискивания, подкупа и устрашения заставит молодого ученого
работать над управляемыми снарядами или атомной бомбой. (Hорберт Винер)
Slawa Olhovchenkov
2018-03-25 09:37:22 UTC
Permalink
Hello Victor!

25 Mar 18, Victor Sudakov writes to Slawa Olhovchenkov:

AK>>> поэтому у них своп в zvol и работает как надо.

SO>> это вообще отдельно смотреть надо. возможно там просто есть постоянный
SO>> большой запас, достаточный для срабатывания zfs

VS> Скажите мне как, я ее нагружу, мне не жалко.

гм. можно попробовать последний шланг в несколько потоков собрать на минимуме
памяти.
ты же про солярку?

... Это мои кишки, и я не желаю, чтобы над ними гадал жулик!
Eugene Grosbein
2018-03-25 09:51:46 UTC
Permalink
24 марта 2018, суббота, в 22:30 NOVT, Slawa Olhovchenkov написал(а):

SO> ты или не прочитал меня или не понял. если сделать так же будет (и есть)
SO> проблема недоступной и неиспользуемой памяти (застрявшей в других
SO> подсистемах).

Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
что память всё и неплохо бы вернуть системе неиспользуемую память,
если таковая у подсистемы завалялась. Hавскидку:

$ sysctl -a -d | fgrep lowmem
vm.lowmem_period: Low memory callback period
vfs.ufs.dirhash_lowmemcount: number of times low memory hook called
kstat.zfs.misc.arcstats.l2_abort_lowmem:

Eugene
Slawa Olhovchenkov
2018-03-25 09:38:16 UTC
Permalink
Hello Eugene!

25 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

SO>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>> других подсистемах).

EG> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG> если таковая у подсистемы завалялась. Hавскидку:

EG> $ sysctl -a -d | fgrep lowmem
EG> vm.lowmem_period: Low memory callback period
EG> vfs.ufs.dirhash_lowmemcount: number of times low memory hook called

есть. я знаю. я вроде даже про это сказал.
и что?

EG> kstat.zfs.misc.arcstats.l2_abort_lowmem:

это сюда не относится

... Спать ложился pано утpом, вечеpами все звонил кому-то... (c) Сплин
Eugene Grosbein
2018-03-25 20:16:54 UTC
Permalink
25 марта 2018, воскресенье, в 10:38 NOVT, Slawa Olhovchenkov написал(а):

SO>>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>>> других подсистемах).

EG>> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG>> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG>> если таковая у подсистемы завалялась. Hавскидку:

SO> есть. я знаю. я вроде даже про это сказал.
SO> и что?

Hо тогда ж не должно быть "проблемы недоступной и неиспользуемой памяти
(застрявшей в других подсистемах)".

Eugene
--
Прекрасны тонко отшлифованная драгоценность; победитель, раненный в бою;
слон во время течки; река, высыхающая зимой; луна на исходе; юная женщина,
изнуренная наслаждением, и даятель, отдавший все нищим. (Дхарма)
Slawa Olhovchenkov
2018-03-25 15:45:34 UTC
Permalink
Hello Eugene!

25 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

SO>>>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>>>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>>>> других подсистемах).

EG>>> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG>>> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG>>> если таковая у подсистемы завалялась. Hавскидку:

SO>> есть. я знаю. я вроде даже про это сказал.
SO>> и что?

EG> Hо тогда ж не должно быть "проблемы недоступной и неиспользуемой памяти
EG> (застрявшей в других подсистемах)".

с чего бы это "не должно"?

... В споре рождается истина. Пропади она пропадом!
Eugene Grosbein
2018-03-26 00:10:10 UTC
Permalink
25 марта 2018, воскресенье, в 16:45 NOVT, Slawa Olhovchenkov написал(а):

SO>>>>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>>>>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>>>>> других подсистемах).
EG>>>> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG>>>> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG>>>> если таковая у подсистемы завалялась. Hавскидку:
SO>>> есть. я знаю. я вроде даже про это сказал.
SO>>> и что?
EG>> Hо тогда ж не должно быть "проблемы недоступной и неиспользуемой памяти
EG>> (застрявшей в других подсистемах)".
SO> с чего бы это "не должно"?

Дык она же высвободится. А если дело в том, что позже, чем из ARC,
то это должно просто решаться - введением линейной шкалы приоритетов
и допущения админа к рулению этими приоритетами через sysctl,
чтобы он мог сказать - вот на этом тазике мне пожалуйста из mbuf в первую
очередь освобождать, потому что ARC тут брильянтовый, а вот на этом
ARC вообще чисто символически нужен, а на mbuf бёрстовая нагрузка
и лучше его лишний раз не трогать.

Eugene
Slawa Olhovchenkov
2018-03-25 19:37:34 UTC
Permalink
Hello Eugene!

26 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

SO>>>>>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>>>>>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>>>>>> других подсистемах).
EG>>>>> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG>>>>> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG>>>>> если таковая у подсистемы завалялась. Hавскидку:
SO>>>> есть. я знаю. я вроде даже про это сказал.
SO>>>> и что?
EG>>> Hо тогда ж не должно быть "проблемы недоступной и неиспользуемой
EG>>> памяти (застрявшей в других подсистемах)".
SO>> с чего бы это "не должно"?

EG> Дык она же высвободится. А если дело в том, что позже, чем из ARC,
EG> то это должно просто решаться - введением линейной шкалы приоритетов
EG> и допущения админа к рулению этими приоритетами через sysctl,
EG> чтобы он мог сказать - вот на этом тазике мне пожалуйста из mbuf в первую
EG> очередь освобождать, потому что ARC тут брильянтовый, а вот на этом
EG> ARC вообще чисто символически нужен, а на mbuf бёрстовая нагрузка
EG> и лучше его лишний раз не трогать.

ну займись.
только вот имей ввиду, что в mbuf она и так свободная уже лежит. это если ты не
понял.
она такая же свободная и около ARC лежит обычно. на данный момент вообще нет
отдельных механизмов и приоритетов между ними для разделения евентов "поджаться
и сбросить лишнее" и "достать зажилиннное пять лет назад и не используемое".
и вообще там 240 потенциальных хомяка.

... Люди как голуби - только взлетят чуть повыше и срать им на тебя
Eugene Grosbein
2018-03-26 01:29:28 UTC
Permalink
25 марта 2018, воскресенье, в 20:37 NOVT, Slawa Olhovchenkov написал(а):


SO>>>>>>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>>>>>>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в
SO>>>>>>> других подсистемах).
EG>>>>>> Тащем-то у FreeBSD есть механизм уведомления подсистем о том,
EG>>>>>> что память всё и неплохо бы вернуть системе неиспользуемую память,
EG>>>>>> если таковая у подсистемы завалялась. Hавскидку:
SO>>>>> есть. я знаю. я вроде даже про это сказал.
SO>>>>> и что?
EG>>>> Hо тогда ж не должно быть "проблемы недоступной и неиспользуемой
EG>>>> памяти (застрявшей в других подсистемах)".
SO>>> с чего бы это "не должно"?
EG>> Дык она же высвободится. А если дело в том, что позже, чем из ARC,
EG>> то это должно просто решаться - введением линейной шкалы приоритетов
EG>> и допущения админа к рулению этими приоритетами через sysctl,
EG>> чтобы он мог сказать - вот на этом тазике мне пожалуйста из mbuf в первую
EG>> очередь освобождать, потому что ARC тут брильянтовый, а вот на этом
EG>> ARC вообще чисто символически нужен, а на mbuf бёрстовая нагрузка
EG>> и лучше его лишний раз не трогать.
SO> ну займись.

Так я не понял, тебя именно порядок освобождения напрягает или что-то другое?

SO> только вот имей ввиду, что в mbuf она и так свободная уже лежит. это если
SO> ты не
SO> понял.
SO> она такая же свободная и около ARC лежит обычно. на данный момент вообще
SO> нет
SO> отдельных механизмов и приоритетов между ними для разделения евентов
SO> "поджаться
SO> и сбросить лишнее" и "достать зажилиннное пять лет назад и не
SO> используемое".

А в чём разница?

Eugene
--
Комбинация заискивания, подкупа и устрашения заставит молодого ученого
работать над управляемыми снарядами или атомной бомбой. (Hорберт Винер)
Slawa Olhovchenkov
2018-03-26 08:51:10 UTC
Permalink
Hello Eugene!

26 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

EG>>> Дык она же высвободится. А если дело в том, что позже, чем из ARC,
EG>>> то это должно просто решаться - введением линейной шкалы приоритетов
EG>>> и допущения админа к рулению этими приоритетами через sysctl,
EG>>> чтобы он мог сказать - вот на этом тазике мне пожалуйста из mbuf в
EG>>> первую очередь освобождать, потому что ARC тут брильянтовый, а вот на
EG>>> этом ARC вообще чисто символически нужен, а на mbuf бёрстовая
EG>>> нагрузка и лучше его лишний раз не трогать.
SO>> ну займись.
EG> Так я не понял, тебя именно порядок освобождения напрягает или что-то
EG> другое?

меня напрегает что у кого не работает -- те не могут закоммитить, а кто может
коммитить -- тем похуй.

SO>> только вот имей ввиду, что в mbuf она и так свободная уже лежит. это
SO>> если ты не понял. она такая же свободная и около ARC лежит обычно. на
SO>> данный момент вообще нет отдельных механизмов и приоритетов между ними
SO>> для разделения евентов "поджаться и сбросить лишнее" и "достать
SO>> зажилиннное пять лет назад и не используемое".
EG> А в чём разница?

я в соседнем письме все подробно расписал. что конкретно тебе не понятно?

... Читай книжки, это рулез, истину тебе говорю.
Eugene Grosbein
2018-03-26 18:50:27 UTC
Permalink
26 марта 2018, понедельник, в 09:51 NOVT, Slawa Olhovchenkov написал(а):

EG>> Так я не понял, тебя именно порядок освобождения напрягает или что-то
EG>> другое?
SO> меня напрегает что у кого не работает -- те не могут закоммитить, а кто
SO> может
SO> коммитить -- тем похуй.

Hе, я про техническую сторону спрашиваю: есть механизм освобождения
памяти, занятой подсистемами ядра, но в данный момент не используемой.
Что именно с ним не так - порядок освобождения? Что-то другое?

SO>>> только вот имей ввиду, что в mbuf она и так свободная уже лежит. это
SO>>> если ты не понял. она такая же свободная и около ARC лежит обычно. на
SO>>> данный момент вообще нет отдельных механизмов и приоритетов между ними
SO>>> для разделения евентов "поджаться и сбросить лишнее" и "достать
SO>>> зажилиннное пять лет назад и не используемое".
EG>> А в чём разница?
SO> я в соседнем письме все подробно расписал. что конкретно тебе не понятно?

Мне непонятно, в чём разница между "поджаться и сбросить лишнее" и "достать
зажилиннное пять лет назад и не используемое". Пожалуйста, не ленись
повторить объяснение, когда тебе говорят, что оно непонятно.

Eugene
Slawa Olhovchenkov
2018-03-26 14:23:50 UTC
Permalink
Hello Eugene!

26 Mar 18, Eugene Grosbein writes to Slawa Olhovchenkov:

EG>>> Так я не понял, тебя именно порядок освобождения напрягает или что-то
EG>>> другое?
SO>> меня напрегает что у кого не работает -- те не могут закоммитить, а
SO>> кто может коммитить -- тем похуй.

EG> Hе, я про техническую сторону спрашиваю: есть механизм освобождения
EG> памяти, занятой подсистемами ядра, но в данный момент не используемой.
EG> Что именно с ним не так - порядок освобождения? Что-то другое?

почему ты решил, что с ним что-то не так? я такого не говорил.

SO>>>> только вот имей ввиду, что в mbuf она и так свободная уже лежит.
SO>>>> это
SO>>>> если ты не понял. она такая же свободная и около ARC лежит обычно.
SO>>>> на данный момент вообще нет отдельных механизмов и приоритетов между
SO>>>> ними для разделения евентов "поджаться и сбросить лишнее" и "достать
SO>>>> зажилиннное пять лет назад и не используемое".
EG>>> А в чём разница?
SO>> я в соседнем письме все подробно расписал. что конкретно тебе не
SO>> понятно?

EG> Мне непонятно, в чём разница между "поджаться и сбросить лишнее"

это про освобождение памяти

EG> и "достать зажилиннное пять лет назад и не используемое".

это про свободную память, которая недоступна системе для аллокаций.

EG> Пожалуйста, не ленись повторить объяснение, когда тебе говорят, что
EG> оно непонятно.

пожалуйста не ленись из того объяснения процитировать непонятные куски. или мне
его сюда закопипастить? а ты его сотрешь полностью со словами "все равно не
понял"?

... Тянем-потянем, вытянуть... NO CARRIER
Eugene Grosbein
2018-04-01 04:11:02 UTC
Permalink
26 марта 2018, понедельник, в 15:23 NOVT, Slawa Olhovchenkov написал(а):

EG>> Мне непонятно, в чём разница между "поджаться и сбросить лишнее"
SO> это про освобождение памяти
EG>> и "достать зажилиннное пять лет назад и не используемое".
SO> это про свободную память, которая недоступна системе для аллокаций.

Что такое "свободная память, недоступная системе для аллокаций"
и в чём её свободность, если система не может её занять,
и чем освобождение такой памяти отличается от "поджаться и сбросить
лишнее"? Мне непонятно, для чего проводится различие между этими двумя
вариантами.

Eugene
--
http://grosbeyn.moikrug.ru/
Slawa Olhovchenkov
2018-04-01 00:08:46 UTC
Permalink
Hello Eugene!

01 Apr 18, Eugene Grosbein writes to Slawa Olhovchenkov:

EG>>> Мне непонятно, в чём разница между "поджаться и сбросить лишнее"
SO>> это про освобождение памяти
EG>>> и "достать зажилиннное пять лет назад и не используемое".
SO>> это про свободную память, которая недоступна системе для аллокаций.

EG> Что такое "свободная память, недоступная системе для аллокаций"

там нет никакой информации

EG> и в чём её свободность, если система не может её занять,

она уже освобождена подсистемой, но еще не переведена в глобальный список
свободной памяти, находится в локальном списке.

EG> и чем освобождение такой памяти отличается от "поджаться и сбросить
EG> лишнее"?

она не освобождается какой-то выделенной подсистемой.

EG> Мне непонятно, для чего проводится различие между этими двумя
EG> вариантами.

потому что они действительно разные.

... Куст - это пучок растений, произрастающих из одного места.
Alex Korchmar
2018-03-25 16:17:26 UTC
Permalink
Slawa Olhovchenkov <***@f500.n5030.z2.fidonet.org> wrote:

SO> ты или не прочитал меня или не понял. если сделать так же будет (и есть)
SO> проблема недоступной и неиспользуемой памяти (застрявшей в других
SO> подсистемах).
с другими подсистемами пусть их щисливые юзвери ковыряются (тут есть
шанс что какой-нибудь нетфликс эта проблема достанет и в рядах грантожоров
начнутся лишения и выгоняния)

нам бы пока zfs как-нибудь победить.
Alex
Slawa Olhovchenkov
2018-03-25 16:45:44 UTC
Permalink
Hello Alex!

25 Mar 18, Alex Korchmar writes to Slawa Olhovchenkov:

SO>> ты или не прочитал меня или не понял. если сделать так же будет (и
SO>> есть) проблема недоступной и неиспользуемой памяти (застрявшей в других
SO>> подсистемах).
AK> с другими подсистемами пусть их щисливые юзвери ковыряются (тут есть
AK> шанс что какой-нибудь нетфликс эта проблема достанет и в рядах грантожоров
AK> начнутся лишения и выгоняния)

AK> нам бы пока zfs как-нибудь победить.

ты зря так думаешь.

ITEM SIZE LIMIT USED FREE REQ FAIL SLEEP
mbuf_jumbo_page: 4096, 16777216, 987894, 759655,8205734907395, 0, 0

вот тебе пожалуйста 3ГБ свободной память в mbuf.
она действительно свободная, т.е. сейчас не используется mbuf jubmbo.
а я видел и 40ГБ.

и когда у нас будет дефицит памяти, ты можешь быстро-быстро конечно что-то из
ARC выкинуть.
только во-первых это будет все же что-то наверное нужное, в отличии от
вышепоказанного. а во-вторых оно вообще-то не попадет в систему. оно попадет во
что-то типа (если специально не применить некоторых трюков, а трюки эти таки
немножко дорогие, см.ниже.)

ITEM SIZE LIMIT USED FREE REQ FAIL SLEEP
zio_data_buf_1048576: 1048576, 0, 217577, 1604,14972433811, 0, 0

(вот тут у нас 1.6Г свободной памяти)

и потом её оттуда достанут, если pressure будет продолжаться. как и из jumbo. и
из остальных мест. и после этого свободной памяти окажется ДОХУЯ.

но а) это будет потом б) мы уже повыкидывали всякое из ARC да и ARC зачем-то
уменьшили в) это затратный по CPU процесс и вдобавок он тормозит много что,
т.к. при этом происходит contention lock (причем по памяти).

пункт в) -- он из-за оптимизации под SMP: для того, что бы всякие подсистемы не
дрались постоянно за один lock при alloc/free они живут по зонам. и если если в
зону память берут достаточно дешево, то обратно в систему ты её дешево вернуть
не можешь -- надо будет брать глобальный лок, вертать память, освобождать лок.
это дорого. поэтому free память помещает во внутризоновый free. из него в
систему подбирает кажется pagedaemon, когда начинают стучать по балде
"freepages меньше лимита! ааа!". но как уже сказанно -- это дорогая операция --
локи и все такое.

ну и можно с полным альтруизмом при малейшем намеке широкой рукой из ARC всякое
выкидывать, но вообще-то по всяким другим нычкам могут лежать совершенно не
нужные гигабайты и гигабайты. т.е. надо проявлять жадность и скупердяйство. но
умеренные. что бы из нычек всякое тоже успевало повыдавливаться. а то кулаков
нынче столько развелось -- бедному крестьянину податься некуда.

... Пылесос -- уникальный продукт. Чем сильнее он сосет -- тем лучше.
Eugene Grosbein
2018-03-19 21:29:52 UTC
Permalink
20 марта 2018, вторник, в 00:25 NOVT, Eugene Grosbein написал(а):

AK>>>> а стоило так мучаться? Много там выигрыша от 386?
EG>>> Hа гигабайте заметно.
AK>> а в цифрах? ;-)
EG> Раза в полтора, если грубо - по занимаемому месту бинарниками
EG> (а значит, и в памяти, ибо mmap-ится), по занимаемой памяти ядра
EG> после загрузки. Указатели-то в два раза.

Hо есть и жирненький минус - современный софт уже достаточно
сильно развращён бесконечным размером виртуального адресного
пространства 64 битов (ZFS included) и на 4GB может чуствовать
себя в тесноте. Впрочем, зависит от задач - на мелкой виртуалке
можно файловые системы с src, obj, ports держать без автомонтирования,
а тогда ZFS скукоживается очень сильно и много не кушает.

Eugene
--
Как жаль, что не роняли вам на череп утюгов.
Скорблю о вас - как мало вы успели.
Loading...