Мы обновили нашу ОС с Debian 5 до Debian 6 и, соответственно, обновили Torque.
Теперь qstat и qsub работают около 1 минуты и не работают еще минуту.
У меня крутящий момент-2.5.5 (но я пробовал 2.4.8, и у него были те же проблемы).
Когда мы запускаем qstat в половине случаев, он работает, а в половине случаев мы получаем:
pbs_iff: cannot read reply from pbs_server
No Permission.
qstat: cannot connect to server torque-server (errno=15007) Unauthorized Request
В системном журнале мамы:
pbs_mom: LOG_ERROR::Operation now in progress (115) in
TMomFinalizeChild, cannot open interactive qsub socket to host
girkelab-3.ucr.edu:51056 - 'cannot connect to port 777 in
client_to_svr - errno:115 Operation now in progress' - check routing
tables/multi-homed host issues
На сервере:
/opt/torque-2.5.5/bin/qmgr -c 'print server'
#
# Create queues and set their attributes.
#
#
# Create and define queue batch
#
create queue batch
set queue batch queue_type = Execution
set queue batch resources_default.nodes = 1
set queue batch enabled = True
set queue batch started = True
#
# Set server attributes.
#
set server scheduling = True
set server acl_hosts = torque-server
set server acl_hosts += torque-server+biocluster+parrot+owl
set server acl_hosts += owl-33+biocluster-33
set server acl_hosts += girkelab-3+girkelab-4
set server operators = root@torque-server
set server default_queue = batch
set server log_events = 511
set server mail_from = adm
set server query_other_jobs = True
set server scheduler_iteration = 600
set server node_check_rate = 150
set server tcp_timeout = 6
set server log_level = 0
set server submit_hosts = biocluster+parrot+owl
set server submit_hosts += girkelab-3+girkelab-4
set server submit_hosts += owl-33+biocluster-33
set server allow_node_submit = True
set server next_job_number = 206082
Почему он сообщает об ошибке разрешения, если работает половину времени?
Что я могу сделать, чтобы диагностировать проблему?
Вывод: Сервер заблокирован из-за неработающего узла.
Прежде чем мы в этом разобрались, многое было перепробовано:
Ничего, было неправильно, и что бы я ни пробовал, временная ошибка «Нет разрешения» не исчезла.
У меня был один узел, который умер накануне вечером. Раньше у нас были проблемы, когда Torque заклинивал вместо того, чтобы определять мертвые узлы. Итак, я удалил узлы из /var/spool/torque/server_priv/nodes
(стандартное расположение конфигурации крутящего момента). Перезапустил крутящий момент, но это не помогло.
Поздно вечером мы с моим боссом нашли решение. Была куча старых файлов ("запущенных заданий") в /var/spool/torque/server_priv/jobs/
который принадлежал удаленному мертвому узлу. Удалить. Начать сначала. Решено.
"Нет разрешения"?!
Что ж, ты не один такой: http://comments.gmane.org/gmane.comp.clustering.torque.user/8401