CC BY
32
Аппроксимация времени пребывания для системы массового обслуживания Fork-Join на основе инвариантов отношения
Р. С. Хабаров, к.т.н. В. А. Лохвицкий, к.т.н. А. С. Дудкин Военно-космическая академия им. А. Ф. Можайского Санкт-Петербург, Россия xabarov1985@gmail.com, lokhv_va@mail.ru, andry-ll@mail.ru
Аннотация. Предлагается метод аппроксимации среднего времени пребывания заявок в системе массового обслуживания Fork-Join с экспоненциальным распределением времени обслуживания на основе инвариантов отношения. Идея заключается в применении интуитивной пропорции между временными характеристиками подобных систем массового обслуживания. Показано, что по сравнению с известными методами, предложенная аппроксимация обладает большей точностью, особенно при увеличении количества каналов в системе.
Ключевые слова: системы массового обслуживания, процессы расщепления и слияния заявок, процесс fork-join, инварианты отношения.
Введение
Для оценивания показателей оперативности обработки запросов в системах, использующих технологии распределенных и параллельных вычислений, применяются системы массового обслуживания типа Split-Merge и Fork-Join.
Общая идея функционирования системы Split-Merge и Fork-Join заключается в следующем: поступающие в систему заявки «расщепляются» на n подзадач, каждая из которых отправляется в канал с номерами 1, 2, ..., n соответственно. Обработанные подзадачи попадают в буфер синхронизации, где дожидаются окончания обслуживания родственных им подзадач. В момент окончания обслуживания последней родственной подзадачи происходит синхронизация, т. е. объединение, после чего заявка покидает систему. Считается, что синхронизация происходит мгновенно.
Отличие систем Split-Merge и Fork-Join показано на рисунках 1 и 2 на примере трех каналов обслуживания. В случае Fork-Join освободившийся канал может быть занят подзадачей следующей заявки (рис. 1).
Рис. 1. Схема обслуживания заявок в СМО Fork-Join
При организации обслуживания Split-Merge (рис. 2) в момент поступления заявки происходит блокировка, и освободившиеся каналы простаивают, дожидаясь обслуживания последней из подзадач текущей заявки.
Рис. 2. Схема обслуживания заявок в СМО Split-Merge
Процессам Fork-Join и Split-Merge посвящено достаточно большое количество работ [1-14]. Для системы Split-Merge в [6] получено точное решение по определению максимума времени обслуживания независимых каналов с экспоненциальным временем обслуживания и различными ин-тенсивностями, а также аппроксимации для случая общего распределения. В [8] упомянутое распределение получено для гомогенных и гетерогенных серверов, причем представление его в матрично-экспоненциальной форме позволило найти как первый, так и моменты высших порядков. Надо отметить, что указанный способ характеризуется высокой вычислительной сложностью, являющейся следствием входящих в него трудоемких операций обращения и кронекерова произведения матриц. Применение кронеке-ровой алгебры связано со значительным дополнительным расходом памяти, а также множеством избыточных операций с нулевыми операндами. В [1] найдено точное решение для произвольного распределения обслуживания на основе численного интегрирования по Чебышеву — Лаггеру. Решение обладает сравнительно небольшой трудоемкостью и высокой точностью.
Для систем Fork-Join точное выражение для среднего времени пребывания в системе с произвольным распределением обслуживания было получено только для системы с двумя каналами [5, 7]. Для случая n > 2 и экспоненциального обслуживания с помощью различных методов были получены аппроксимации среднего времени пребывания [9, 12, 13]. Приведем здесь кратко полученные результаты.
В [7] приведена точная формула для среднего времени пребывания в системе, n = 2 и экспоненциального распределения времени обслуживания
м
= (Н2 - РШ
где Нп = YH=11/п и для n = 2 Н2 = 1,5 ,
Р = Х/ц ,
i
v™ = —- — среднее время пребывания в СМО M/M/1.
(1)
Intellectual Technologies on Transport. 2020. No 2
В [9] предложена аппроксимация для среднего времени пребывания в СМО Fork-Join с n каналами обслуживания
\нп , 4 ЯПЛ 1 12-р 1 ^ „
v1-it + п(1 -t)p\--E—i'п- 2 (2)
В [12] Varki и Merchant предложили формулу
- 11я-+«Ь +(1 - 2р) ,и *22 (3)
В [13] предложен метод аппроксимации времени отклика на основе комбинации методов интерполяции высокой и слабой входных нагрузок:
Шп + (vn-Hn)р],
(4)
где
(т-1)!
В данной работе предложен метод на основе аппроксимации инвариантов отношения, позволяющий получить оценку среднего времени пребывания для СМО Fork-Join с экспоненциальным распределением времени обслуживания с большей точностью.
Идея метода
В [15] для нахождения временных характеристик многоканальных СМО с приоритетами был использован метод на основе идеи инвариантов отношения между искомыми характеристиками:
Мк / Gk /п -Мк / Gk/1
М/G /п
(5)
М/С/1 '
Все обозначения приведены в нотации Кендалла. Методы расчета систем, указанных в правой части, считаются известными. В частности, для расчета систем применяются итерационные методы Такахаси — Таками или матрично-геометрической прогрессии [16-19]. Для бесприоритетных систем М/G/l и M/G/n с неоднородным потоком заявок использовалась суммарная интенсивность потока заявок и средневзвешенные моменты распределения длительности обслуживания.
Предложим подобный подход для нахождения среднего времени обслуживания в СМО Fork-Join с экспоненциальным временем обслуживания и количеством каналов. Перепишем пропорцию (5) в следующем виде:
/ /
F]п - Р J2
М/М/2
(6)
Здесь FJ2 и FJn — СМО Fork-Join с 2-мя и n каналами соответственно. Для нахождения среднего времени пребывания в FJ2 воспользуемся формулой (1). Расчет оставшихся СМО из правой части (6) будем осуществлять известными методами [16].
Приведем здесь схему реализации метода:
а) Рассчитать среднее время ожидания Vpj в СМО Fork-Join с 2-мя каналами обслуживания согласно формуле (1).
б) Для системы M/M/n рассчитать среднее время пребывания Vn согласно известным формулам:
Рп
+ 1
ц(1-р )2 ц
(7)
где
Р 0
X рп
Р= -, Рп = Ро ^ ,
1 + +
^ l~1 i! п! 1-Е
в) Для системы M/M/2 рассчитать среднее время пребывания заявок V2 согласно (7), приняв n = 2.
г) Получить среднее время пребывания в СМО Fork-Join для n каналов обслуживания на основе соотношения
= Vj2, ■ —
FJ FJ y2 ■
Приведем результаты расчетов среднего времени пребывания в СМО Fork-Join в сравнении с методами, предложенными в [9, 12, 13] (формулы (2), (3), (4)) и данными имитационного моделирования.
На рисунках 3 и 4 приведены результаты расчетов среднего времени пребывания в зависимости от коэффициента загрузки для СМО Fork-Join с n = 3 и n = 10 соответственно. Для результатов расчетов согласно формулам (2), (3) и (4) использованы обозначения «NT», «VM», «Varma» соответственно. Результаты имитационного моделирования обозначены как «ИМ», результаты расчетов на основе инвариантов отношения — как «Инв».
Рис. 3. Среднее время пребывания в СМО Fork-Join с n = 3 в зависимости от коэффициента загрузки
Рис. 4. Среднее время пребывания в СМО Fork-Join с n = 10 в зависимости от коэффициента загрузки
На рисунках 5 и 6 приведены результаты расчетов в зависимости от количества каналов обслуживания для коэффициентов загрузки 0,7 и 0,9 соответственно.
1
Рис. 5. Среднее время пребывания в СМО Fork-Join при p = 0,7 в зависимости от количества каналов обслуживания
Рис. 6. Среднее время пребывания в СМО Fork-Join при p = 0,9 в зависимости от количества каналов обслуживания
На рисунках 7 и 8 приведены результаты расчетов относительной погрешности оценки среднего времени пребывания при p = 0,9 в зависимости от количества каналов обслуживания и при n = 3 в зависимости от коэффициента загрузки. За условный эталон приняты данные имитационного моделирования.
Рис. 7. Относительная погрешность расчета среднего
времени пребывания в СМО Fork-Join с p = 0,9 в зависимости от количества каналов обслуживания
Рис. 8. Относительная погрешность расчета среднего времени пребывания в СМО Fork-Join при n = 3 в зависимости от коэффициента загрузки
Как видно из рисунков, точность аппроксимации методом инвариантов отношения выше рассчитанных по формулам (2-4), особенно это заметно при росте количества каналов обслуживания и коэффициента загрузки.
Заключение
Метод инвариантов отношения в сравнении с существующими методами показал большую точность аппроксимации для среднего времени пребывания для СМО с процессами Fork-Join. Было показано, что с ростом количества каналов точность оценки для предложенного метода увеличивается, тогда как для существующих методов заметно снижается. В дальнейших исследованиях планируется обобщить полученные результаты для случая неэкспоненциального распределения времени обслуживания.
Литература
1. Рыжиков Ю. И. Метод расчета длительности обработки задач в системе массового обслуживания с учетом процессов Split-Join / Ю. И. Рыжиков, В. А. Лохвицкий, Р. С. Хабаров // Известия высших учебных заведений. Приборостроение. 2019. Т. 62, № 5. С. 419-423.
DOI: 10.17586/0021-3454-2019-62-5-419-423.
2. Хабаров Р. С. Модель оценивания оперативности многопоточной обработки задач в распределенной вычислительной среде с учетом процессов Split-Join / Р. С. Хабаров, В. А. Лохвицкий // Вестник Российского нового университета. Серия «Сложные системы: модели, анализ и управление». 2019. Вып. 1. С. 26-34.
3. Alomari F. B. Efficient Response Time Approximation for Multiclass Fork and Join Queues in Open and Closed Queueing Networks / F. B. Alomari, D. A. Menasce // IEEE Transaction on Parallel and Distributed Systems. 2014. Vol. 25, Is. 6. Pp. 1437-1446. DOI: 10.1109/TPDS.2013.70.
4. Baccelli F. The Fork-Join Queue and Related Systems with Synchronization Constraints: Stochastic Ordering and Computable Bounds / F. Baccelli, A. M. Makowski, A. Shwartz // Advanced in Applied Probability. 1989. Vol. 21. Pp. 629-660. DOI: 10.2307/1427640.
5. Baccelli F. Two Parallel Queues Created by Arrivals with Two Demands: The M/G/2 Symmetrical Case // INRIA Report. No. 426 (July, 1986).
6. Fiorini P. M. Exact Analysis of Some Split-Merge Queues / P. M. Fiorini, L. Lipsky // ACM SIGMETRICS Performance Evaluation Review. 2015. Vol. 43, No. 2. Pp. 51-53. DOI: 10.1145/2825236.2825257.
7. Flatto L. Two Parallel Queues Created by Arrivals with Two Demands I / L. Flatto, S. Hahn // SIAM Journal on Applied Mathematics. 1984. Vol. 44, No. 5. Pp. 1041-1053.
8. Harrison P. G. Queueing Models with Maxima of Service Times / P. G. Harrison, S. Zertal // Computer Performance Evaluation. Modelling Techniques and Tools: Proceedings of 13th International Conference on Modelling Techniques and Tools for Computer Performance Evaluation (TOOLS 2003), (Urbana, IL, USA, September 2-5, 2003) / P. Kemper, W. H. Sanders (eds) // Lecture Notes in Computer Science, Vol. 2794. Pp. 152-168. DOI: 10.1007/978-3-540-45232-4_10.
9. Nelson R. Approximate Analysis of Fork/Join Synchronization in Parallel Queues / R. Nelson, A. N. Tantawi // IEEE Transactions on Computers. 1988. Vol. 37, No. 6. Pp. 739-743.
10. Olvera-Cravioto M. Parallel Queues with Synchronization / M. Olvera-Cravioto, O. Ruiz-Lacedelli // ArXiv. 2015. Vol. abs/1501.00186. 37 p.
11. Qiu Z. Beyond the Mean in Fork-Join Queues: Efficient Approximation for Response-Time Tails / Z. Qiu, J. G. Perez, P. G. Harrison // Performance Evaluations. 2015. Vol. 91. Pp. 99-116. DOI: 10.1016/j.peva.2015.06.007.
12. Varki E. The M/M/1 Fork-Join Queue with Variable SubTasks. [Electronic resource] / E. Varki, A. Merchant, H. Chen. 15 p.
URL: http://www.cs.inh.edu/~varki/publication/2002-nov-open.pdf (дата обращения 15.06.2020).
13. Varma S. Interpolation Approximations for Symmetric Fork-Join Queues / S. Varma, A. M. Makowski // Performance Evaluation. 1994. Vol. 20, Is. 1-3. Pp. 245-265.
DOI: 10.1016/0166-5316(94)90016-7.
14. Wright P. E. Two Parallel Processors with Coupled Inputs // Advances in Applied Probability. 1992. Vol. 24, Is. 4. Pp. 986-1007. DOI: 10.2307/1427722.
15. Рыжиков Ю. И. Расчет многоканальных систем обслуживания с абсолютным и относительным приоритетами на основе инвариантов отношения / Ю. И. Рыжиков, А. Д. Хомоненко // Интеллектуальные технологии на транспорте. 2015. № 3 (3). С. 11-16.
16. Вишневский В. М. Теоретические основы проектирования компьютерных сетей: Монография. — М.: ЗАО «РИЦ «Техносфера», 2003. — 512 с.
17. Рыжиков Ю. И. Алгоритм расчета многоканальной системы с эрланговским обслуживанием // Автоматика и телемеханика. 1980. № 5. С. 30-37.
18. Рыжиков Ю. И. Итеративный метод расчета многоканальных систем с произвольным распределением времени обслуживания / Ю. И. Рыжиков, А. Д. Хомоненко // Проблемы управления и теория информации. 1980. № 3. С. 32-38.
19. Takahashi Y. A Numerical Method for the Steady-State Probabilities of a G1/G/C Queuing System in a General Class / Y. Takahashi, Y. Takami // Journal of the Operations Research Society of Japan. 1976. Vol. 19, Is. 2. Pp. 147-157.
DOI: 10.15807/jorsj.19.147.
Sojourn Time Approximation for Fork-Join Queue Based on Relationship Invariants
R. S. Khabarov, PhD V. A. Lokhvitsky, PhD A. S. Dudkin A. F. Mozhaisky Military Space Academy Saint Petersburg, Russia xabarov1985@gmail.com, lokhv_ca@mail.ru, andry-ll@mail.ru
Abstract. A method for mean sojourn time approximation for task in the Fork-Join queuing system with an exponential distribution of service times based on relation invariants is proposed. The idea is to use an intuitive proportion between the time characteristics of such queuing systems. It is shown that, compared with the known methods, the proposed approximation is more accurate, especially with an increase in the number of channels in the system.
Keywords: queuing systems, splitting and merging applications, fork-join process, relationship invariants.
References
1. Ryzhikov Y. I., Lokhvitsky V. A., Khabarov R. S. Method of Calculating Task Treatment Duration in Queueing System with Consideration of Split-Join Processes [Metod rascheta dlitel'nosti obrabotki zadach v sisteme massovogo ob-sluzhivaniya s uchetom processov Split-Join], Journal of Instrument Engineering [Izvestiya vysshikh uchebnykh zavedeniy. Priborostroenie], 2019 Vol. 62. No. 5, Pp. 419-423.
DOI: 10.17586/0021-3454-2019-62-5-419-423.
2. Khabarov R. S., Lokhvitskiy V.A. Efficiency Evaluation Model of Parallel Processing in Distributed Environment Using Split-Join Queue [Model' otsenivaniya operativnosti mnogopo-tochnoy obrabotki zadach v raspredelennoy vychislitel'noy srede s uchetom protsessov Split-Join], Vestnik of Russian New University. Complex Systems: Models, Analysis, Management [Vestnik Rossiyskogo novogo universiteta. Slozhnye sistemy: modeli, analiz i upravlenie], 2019, Is. 1, Pp. 26-34.
3. Alomari F. B., Menasce D. A. Efficient Response Time Approximation for Multiclass Fork and Join Queues in Open and Closed Queueing Networks, IEEE Transaction on Parallel and Distributed Systems, 2014, Vol. 25, Is. 6, Pp. 1437-1446. DOI: 10.1109/TPDS.2013.70.
4. Baccelli F., Makowski A. M., Schwartz A. The Fork-Join Queue and Related Systems with Synchronization Constraints: Stochastic Ordering and Computable Bounds, Advanced in Applied Probability, 1989, Vol. 21, Pp. 629-660. DOI: 10.2307/1427640.
5. Baccelli F. Two Parallel Queues Created by Arrivals with Two Demands: The M/G/2 Symmetrical Case, INRIA Report, No. 426 (July, 1986).
6. Fiorini P. M., Lipsky L. Exact Analysis of Some Split-Meige Queues, ACM SIGMETRICS Performance Evaluation Review, 2015, Vol. 43, No. 2. Pp. 51-53. DOI: 10.1145/2825236.2825257.
7. Flatto L., Hahn S. Two Parallel Queues Created by Arrivals with Two Demands I, SIAM Journal on Applied Mathematics, 1984, Vol. 44, No. 5, Pp. 1041-1053.
8. Harrison P. G., Zertal S. Queueing Models with Maxima of Service Times, In: Kemper P., Sanders W. H. (eds) Computer Performance Evaluation, Modelling Techniques and Tools: Proceedings of 13th International Conference on Modelling Techniques and Tools for Computer Performance Evaluation
(TOOLS 2003), Urbana, IL, USA, September 2-5, 2003. Lecture Notes in Computer Science, Vol. 2794. Pp. 152-168. DOI: 10.1007/978-3-540-45232-4_10.
9. Nelson R., Tantawi A. N. Approximate Analysis of Fork/Join Synchronization in Parallel Queues, IEEE Transactions on Computers, 1988, Vol. 37, No. 6, Pp. 739-743.
10. Olvera-Cravioto M., Ruiz-Lacedelli O. Parallel Queues with Synchronization, ArXiv, 2015, Vol. abs/1501.00186, 37 p.
11. Qiu Z., Perez J. G., Harrison P. G. Beyond the Mean in Fork-Join Queues: Efficient Approximation for Response-Time Tails, Performance Evaluations, 2015, Vol. 91, Pp. 99-116. DOI: 10.1016/j.peva.2015.06.007.
12. Varki E., Merchant A., Chen H. The M/M/1 Fork-Join Queue with Variable SubTasks, 15 p.
Available at: http://www.cs.inh.edu/~varki/publication/2002-nov-open.pdf (accessed 15 June 2020).
13. Varma S., Makowski A. M. Interpolation Approximations for Symmetric Fork-Join Queues, Performance Evaluation, 1994, Vol. 20, Is. 1-3. Pp. 245-265. DOI: 10.1016/0166-5316(94)90016-7.
14. Wright P. E. Two Parallel Processors with Coupled Inputs, Advances in Applied Probability, 1992, Vol. 24, Is. 4, Pp. 986-1007. DOI: 10.2307/1427722.
15. Ryzhikov Y. I., Khomonenko A. D. Calculation of MultiChannel Queueing Systems with Absolute and Relative Priorities on the Basis of Invariants Relationship [Raschet mnog-okanal'nykh sistem obsluzhivaniya s absolyutnym i otnositel'nym prioritetami na osnove invariantov otnosheniya], Intellectual Technologies on Transport [Intellektual'nye tekhnologii na transporte], 2015, No. 3 (3), Pp. 11-16.
16. Vishnevsky V. M. Theoretical foundations of computer network design: Monograph [Teoreticheskie osnovy proektiro-vaniya komp'yuternykh setey: Monografiya], Moscow, TECHNOSPHERA Publishing Company, 2003, 512 p.
17. Ryzhikov Y. I. Algorithm for Calculating a Multichannel System with Erlang Service [Algoritm rascheta mnogokanal'noy sistemy s erlangovskim obsluzhivaniem], Automation and Remote Control [Avtomatika i telemekhanika], 1980, No. 5, Pp. 30-37.
18. Ryzhikov Y. I., Khomonenko A. D. An Iterative Method for Calculating Multichannel Systems with an Arbitrary Distribution of Service Time [Iterativnyy metod rascheta mnog-okanal'nykh sistem s proizvol'nym raspredeleniem vremeni ob-sluzhivaniya], Problems of Control and Information Theory [Problemy upravleniya i teoriya informatsii], 1980, No. 3, Pp. 32-38.
19. Takahashi Y., Takami Y. A Numerical Method for the Steady-State Probabilities of a G1/G/C Queuing System in a General Class, Journal of the Operations Research Society of Japan, 1976, Vol. 19, Is. 2, Pp. 147-157. DOI: 10.15807/jorsj. 19.147.
HHmmneKmyaxbHbie техноnогии Ha mpaHcnopme. 2020. № 2
50
