Научная статья на тему 'Сравнительный анализ и подбор систем технического зрения в молочном животноводсве'

Сравнительный анализ и подбор систем технического зрения в молочном животноводсве Текст научной статьи по специальности «Медицинские технологии»

CC BY
430
62
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Вестник НГИЭИ
ВАК
Ключевые слова
ДОИЛЬНЫЕ РОБОТЫ / ЖИВОТНОВОДСТВО / ИДЕНТИФИКАЦИЯ СОСКОВ / ИСТОЧНИК СВЕТА / ЛАЗЕРНЫЙ ДАЛЬНОМЕР / МАНИПУЛЯТОР / ОПТИЧЕСКОЕ РАСПОЗНАВАНИЕ ОБРАЗОВ / РОБОТИЗИРОВАННЫЕ СИСТЕМЫ / СИСТЕМЫ ТЕХНИЧЕСКОГО ЗРЕНИЯ / 3D-КАМЕРА / MILKING ROBOTS / ANIMAL HUSBANDRY / NIPPLE IDENTIFICATION / LIGHT SOURCE / LASER RANGEFINDER / MANIPULATOR / OPTICAL PATTERN RECOGNITION / ROBOTIC SYSTEMS / VISION SYSTEMS / 3D CAMERA

Аннотация научной статьи по медицинским технологиям, автор научной работы — Кирсанов Владимир Вячеславович, Павкин Дмитрий Юрьевич, Юрочка Сергей Сергеевич, Матвеев Владимир Юрьевич

Введение: в ходе анализа систем технического зрения в молочном животноводстве выявлено расхождение по используемым измерительным системам и датчикам видеои фотофиксации. В доильных роботах используются 3D-камеры ToF и RGBD, лазерное сканирование, лидары. В статье проведен анализ современных разработок, направленных на изучение систем технического зрения, используемых в области животноводства. Выявить преимущества и недостатки существующих решений. Показано, что использование лазерного способа позиционирования вымени и сосков молочной коровы для наведения манипулятора доения менее эффективно, чем использование 3D-датчиков фотои видеофиксации. Материалы и методы: установили, что в зависимости от освещенности и расстояния до объекта необходимо использовать 3D-камеры с технологиями ToF или RGBD. Провели сравнительный анализ существующих роботизированных систем доения, использующих системы технического зрения. Обсуждение: разработанные в настоящее время системы нуждаются в доработке алгоритмов, выполняющих надежное распознавание сосков. Основными недостатками текущих алгоритмов является то, что существует определённая нехватка способов получения и обработки общей перспективы изображения. Результаты: на основании проведенного анализа установили, что 3D ToF-камеры непригодны для точечного наведения. На расстоянии 0,4 м до объекта ошибка в позиционировании составляет 1,8 см. Использование только лазерной системы наведения неэффективно, т. к. не позволяет в режиме реального времени производить корректирующие поправки при одевании доильных стаканов. Лазерное сканирование не «распознает» аномальное развитое вымя. Сравнительный анализ роботизированных доильных установок показал, что самая инновационная система технического зрения установлена в роботах Lely. Заключение: для точного позиционирования вымени и сосков, необходимо использовать 3D RGBD камеру вместе с лазерной системой наведения. Обрабатывать полученный фотои видеоматериал с помощью искусственного интеллекта. Это позволит запоминать особенности вымени каждого животного и минимизировать процент ошибки.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по медицинским технологиям , автор научной работы — Кирсанов Владимир Вячеславович, Павкин Дмитрий Юрьевич, Юрочка Сергей Сергеевич, Матвеев Владимир Юрьевич

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

COMPARATIVE ANALYSIS AND SELECTION OF TECHNICAL VISION SYSTEMS IN DAIRY ANIMAL BREEDING

Introduction: during the analysis of vision systems in dairy farming revealed a discrepancy in the used measurement systems and sensors of video and photo fixation. The milking robots use 3D TOF and RGBD cameras, laser scanning, lidars. The article analyzes modern developments aimed at the study of vision systems used in the field of animal husbandry. Identify the advantages and disadvantages of existing solutions. It is shown that the use of a laser method of positioning the udder and nipples of a dairy cow to guide the milking manipulator is less effective than the use of 3D photo and video sensors. Materials and methods: it was found that, depending on the illumination and distance to the object, it is necessary to use 3D cameras with ToF or RGBD technologies. A comparative analysis of existing robotic milking systems using vision systems was carried out. Discussion: developed in the present system need improvement algorithms that perform reliable recognition of the nipples... Introduction: during the analysis of vision systems in dairy farming revealed a discrepancy in the used measurement systems and sensors of video and photo fixation. The milking robots use 3D TOF and RGBD cameras, laser scanning, lidars. The article analyzes modern developments aimed at the study of vision systems used in the field of animal husbandry. Identify the advantages and disadvantages of existing solutions. It is shown that the use of a laser method of positioning the udder and nipples of a dairy cow to guide the milking manipulator is less effective than the use of 3D photo and video sensors. Materials and methods: it was found that, depending on the illumination and distance to the object, it is necessary to use 3D cameras with ToF or RGBD technologies. A comparative analysis of existing robotic milking systems using vision systems was carried out. Discussion: developed in the present system need improvement algorithms that perform reliable recognition of the nipples. The main drawbacks of the current algorithms are that there is a certain lack of ways to obtain and process the General perspective of the image. Results: based on the analysis found that 3D ToF cameras are not suitable for point guidance. At a distance of 0.4 m from the object, the error in positioning is 1.8 cm only use the laser targeting system is inefficient, because it does not allow in real time to take corrective amendments when putting on the milking cups. Laser scanning does not «recognize» abnormal udder. A comparative analysis of robotic milking machines showed that the most innovative vision system is installed in Lely robots. Conclusions: for precise positioning of the udder and nipples, it is necessary to use a 3D RGBD camera together with a laser guidance system. Process the resulting photo and video using artificial intelligence. This will allow you to remember the features of the udder of each animal and minimize the percentage of errors. function show_eabstract() { $('#eabstract1').hide(); $('#eabstract2').show(); $('#eabstract_expand').hide(); } ▼Показать полностью

Текст научной работы на тему «Сравнительный анализ и подбор систем технического зрения в молочном животноводсве»

20. Shumetov V. G., Kryukova O. A. Metodologiya i praktika analiza dannyh v upravlenii. Metody odnomer-nogo i dvumernogo analiza [Methodology and practice of data analysis in management. Methods of one-dimensional and two-dimensional analysis], ucheb. posobie. Orel : Publ. RANHiGS, 2012. 176 p.

21. SPSS Base 8.0 for Windows // Rukovodstvo po primeneniyu [Application manual], Moscow: SPSS Rus', 1998. 397 p.

22. Tekhnicheskaya politika OAO MRSK Centra [Technical policy of JSC IDGC Centre], [Elektronnyj resurs]. Available at: http://www.razrad.ru/teh/mrsk_teh_politika.pdf (Accessed 28.12.2018).

Submitted 18.10.2018; revised 3.12.2018.

About the authors: Vadim G. Shumetov, Dr. Sci. (Economy),

Professor of the chair of information technologies and mathematics

Address: FSBEE HE Oryol state agrarian University named after N. I. Parakhin, 302019, Russia, Oryol, General Rodin street, 69, tel. (4862) 76-49-10 E-mail: [email protected] Spin-code: 3991-5449

Yuri D. Volchkov, Ph. D. (Engineering), associate professor of the chair t of electric power supply Address: FSBEE HE Oryol state agrarian University named after N. I. Parakhin, 302019, Russia, Oryol, General Rodin street, 69, tel. (4862) 76-44-69 E-mail: [email protected] Spin-code: 8544-8294

Natalia V. Makhiyanova, senior lecturer of the chair of electric power supply

Address: FSBEE HE Oryol state agrarian University named after N. I. Parakhin, 302019, Russia, Oryol, General Rodin street, 69, tel. (4862) 76-44-69 E-mail: [email protected] Spin-code: 8326-2903

Contribution of the authors:

Vadim G. Shumetov: analysed data, designed tables with results of the study, put results of the study in diagrams. Yuri D. Volchkov: research supervision, developed the theoretical framework, critical analyzing and editing the text. Natalia V. Makhiyanova: writing of the draft, collection and processing of materials, performed statistical processing of empirical data, made the layout and the formatting of the article.

All authors have read and approved the final manuscript.

05.20.00 УДК 631.171

СРАВНИТЕЛЬНЫЙ АНАЛИЗ И ПОДБОР СИСТЕМ ТЕХНИЧЕСКОГО ЗРЕНИЯ В МОЛОЧНОМ ЖИВОТНОВОДСВЕ

© 2019

Владимир Вячеславович Кирсанов, доктор технических наук,

заведующий лабораторией, главный научный сотрудник Федеральный научный агроинженерный центр ВИМ (Россия) Дмитрий Юрьевич Павкин, кандидат технических наук, младший научный сотрудник Федеральный научный агроинженерный центр ВИМ (Россия)

Сергей Сергеевич Юрочка, аспирант, инженер Федеральный научный агроинженерный центр ВИМ (Россия) Владимир Юрьевич Матвеев, кандидат технических наук, доцент кафедры «Технический сервис» Нижегородский государственный инженерно-экономический университет, Княгинино (Россия)

Аннотация

Введение: в ходе анализа систем технического зрения в молочном животноводстве выявлено расхождение по используемым измерительным системам и датчикам видео- и фотофиксации. В доильных роботах используются 3D-камеры ToF и RGBD, лазерное сканирование, лидары. В статье проведен анализ

69

современных разработок, направленных на изучение систем технического зрения, используемых в области животноводства. Выявить преимущества и недостатки существующих решений. Показано, что использование лазерного способа позиционирования вымени и сосков молочной коровы для наведения манипулятора доения менее эффективно, чем использование SD-датчиков фото- и видеофиксации.

Материалы и методы: установили, что в зависимости от освещенности и расстояния до объекта необходимо использовать 3D-камеры с технологиями ToF или RGBD. Провели сравнительный анализ существующих роботизированных систем доения, использующих системы технического зрения.

Обсуждение: разработанные в настоящее время системы нуждаются в доработке алгоритмов, выполняющих надежное распознавание сосков. Основными недостатками текущих алгоритмов является то, что существует определённая нехватка способов получения и обработки общей перспективы изображения. Результаты: на основании проведенного анализа установили, что 3D ToF-камеры непригодны для точечного наведения. На расстоянии 0,4 м до объекта ошибка в позиционировании составляет 1,8 см. Использование только лазерной системы наведения неэффективно, т. к. не позволяет в режиме реального времени производить корректирующие поправки при одевании доильных стаканов. Лазерное сканирование не «распознает» аномальное развитое вымя. Сравнительный анализ роботизированных доильных установок показал, что самая инновационная система технического зрения установлена в роботах Lely. Заключение: для точного позиционирования вымени и сосков, необходимо использовать 3D RGBD камеру вместе с лазерной системой наведения. Обрабатывать полученный фото- и видеоматериал с помощью искусственного интеллекта. Это позволит запоминать особенности вымени каждого животного и минимизировать процент ошибки.

Ключевые слова: доильные роботы, животноводство, идентификация сосков, источник света, лазерный дальномер, манипулятор, оптическое распознавание образов, роботизированные системы, системы технического зрения, SD-камера.

Для цитирования: Кирсанов В. В., Павкин Д. Ю., Юрочка С. С., Матвеев В. Ю. Сравнительный анализ и подбор систем технического зрения в молочном животноводстве // Вестник НГИЭИ. 2018. № 1 (92). С. 69-79.

COMPARATIVE ANALYSIS AND SELECTION OF TECHNICAL VISION SYSTEMS IN DAIRY ANIMAL BREEDING

© 2019

Vladimir Vyacheslavovich Kirsanov, Dr. Sci. (Engineering), the head of laboratory, chief researcher

Federal agricultural research centre VIM (Russia) Dmitry Yuryevich Palkin, Ph. D. (Engineering), junior researcher Federal agricultural research centre VIM (Russia) Sergey Sergeevich Yurochka, postgraduate, engineer Federal agricultural research centre VIM (Russia) Vladimir Yuryevich Matveev, Ph. D. (Engineering), the associate professor of the department «Technical service» Nizhny Novgorod state engineering-economic University, Knyaginino (Russia)

Abstract

Introduction: during the analysis of vision systems in dairy farming revealed a discrepancy in the used measurement systems and sensors of video and photo fixation. The milking robots use 3D TOF and RGBD cameras, laser scanning, lidars. The article analyzes modern developments aimed at the study of vision systems used in the field of animal husbandry. Identify the advantages and disadvantages of existing solutions. It is shown that the use of a laser method of positioning the udder and nipples of a dairy cow to guide the milking manipulator is less effective than the use of 3D photo and video sensors.

Materials and methods: it was found that, depending on the illumination and distance to the object, it is necessary to use 3D cameras with ToF or RGBD technologies. A comparative analysis of existing robotic milking systems using vision systems was carried out.

Discussion: developed in the present system need improvement algorithms that perform reliable recognition of the nipples. The main drawbacks of the current algorithms are that there is a certain lack of ways to obtain and process the General perspective of the image.

Results: based on the analysis found that 3D ToF cameras are not suitable for point guidance. At a distance of 0.4 m from the object, the error in positioning is 1.8 cm only use the laser targeting system is inefficient, because it does not allow in real time to take corrective amendments when putting on the milking cups. Laser scanning does not «recognize» abnormal udder. A comparative analysis of robotic milking machines showed that the most innovative vision system is installed in Lely robots.

Conclusions: for precise positioning of the udder and nipples, it is necessary to use a 3D RGBD camera together with a laser guidance system. Process the resulting photo and video using artificial intelligence. This will allow you to remember the features of the udder of each animal and minimize the percentage of errors.

Key words: milking robots, animal husbandry, nipple identification, light source, laser rangefinder, manipulator, optical pattern recognition, robotic systems, vision systems, 3D camera.

For citation: Kirsanov V. V., Palkin D. Yu., Yurochka S. S., Matveev V. Yu. Comparative analysis and selection of technical vision systems in dairy animal breeding // Bulletin NGIEI. 2018. № 1 (92). P. 69-79.

Введение

Сегодня на промышленных предприятиях интенсивно применяются автоматизированные и роботизированные системы, которые выполняют производственную работу. Это позволяет получать продукцию более высокого уровня, снизить трудозатраты и минимизировать отрицательные воздействия на работников [1; 2].

Все это способствует внедрению на промышленных предприятиях роботизированных и автоматизированных систем. В 2015 году количество внедренных сельскохозяйственных роботизированных систем составило более 140 тысяч единиц [3; 4].

В сельскохозяйственной сфере, в частности в доильных роботах, теплицах, сортировочных комплексах и др., применяются системы технического зрения. Эти системы основаны на лазерном позиционировании объекта в пространстве с получением объемных изображений и 3D-камерах [5; 6]. К данным системам предъявляются повышенные требования в отношении безопасности работы, так как контакт робота происходит напрямую с животным и не исключаются воздействия со стороны животных. Разброс координат и размеров сосков вымени, отмечаются нетипично развитые органы, возможные перемещения животного в процессе обслуживания [1]. Эти требования усложняют алгоритмы функционирования систем технического зрения по сравнению с промышленными роботами.

Системы технического зрения, используемые в доильных роботах, выпускаемых компаниями Lely, Delaval, GEA, состоят из следующих модулей: 3D ToF-камера, лазерный дальномер, источник света [3; 4; 6].

Цель исследований - проведение обзорного анализа современных разработок, направленных на изучение систем технического зрения, используемых в области животноводства. Выявление преимуществ и недостатков существующих решений.

Материалы и методы

К камерам, являющимся основой технического зрения, в робототехнике предъявляются следующие требования: получение объемного изображения для последующей обработки, а также способность определять расстояние до объекта. ToF 3D-камера переводится с английского как «камера времени пролета» или «времяпролетная камера». Технология ToF (Time of Flight imaging), используемая 3D камерами, позволяет определять дальность от источника света до объекта через скорость света, измеряя время пролета светового сигнала, испускаемого излучателем и отраженного каждой точкой получаемого изображения [7; 8].

Данный тип камер позволяет получать два типа изображений: изображение с ближним инфракрасным излучением (NIR) и трехмерное изображение глубины (рис. 1) [6].

Обсуждение

В робототехнике при использовании 3D-камер, являющихся основой технического зрения, также применяется технология RGBD. RGBD в переводе с английского - красный, зеленый, синий, глубина. Данная технология позволяет обрабатывать 2D-изображения RGB и данные 3D-глубины с помощью датчика глубины [9]. Этот датчик основан на активном стереофоническом подходе, который использует инфракрасный структурированный свет для вычисления глубины 3D из сцены. Карта глубины строится путем анализа закодированного изображения инфракрасного лазерного излучения и трансформируется в трехмерное «облако» точек. Этот датчик имеет лучшее разрешение, чем его аналоги TOF [10; 11].

Исследования двух типов камер, проведенные M. A. Akhloufi [6], показали, что использование 3D-камер с технологией RGBD [12] является более приоритетным за счет сегментационной обработки и более высокого разрешения цветных изображений.

Во время испытаний, проводимых Dario Piatti and Fulvio Rinaudo [10], было установлено, что сбор данных, полученных с ToF-камеры, затруднителен и не точен, если камера использовалась при прямом солнечном свете. Необходимо применение дополнительных датчиков, которые

подавляют задний фон и уменьшают количество шумов на получаемом изображении. Еще одним недостатком использования 3D ToF-камер является недостаточная точность при измерении расстояния до темных поверхностей. Ошибка 1,8 см при расстоянии в 0,4 м [13].

Fiat

Рис. 1. Изображение NIR (слева) и трехмерное изображение (справа), снятое с помощью TOF-камеры Fig. 1. A NIR image (left) and a three-dimensional image (right) taken with a TOF camera

Корейские исследователи, проанализировав существующие решения по способам получения и обработки изображений для нахождения сосков, предложили следующее: для более точного определения сосков необходимо использовать систему обнаружения, состоящую из тепловизера, ToF и RGBD камеры. Это позволит игнорировать различные загрязнения вымени, наросты, обилие волосяного покрова, что существенно мешает точной идентификации. Разработали два алгоритма работы данной системы (рис. 2). При проектировании модуля технического зрения с использованием ToF 3D-камеры в робототехнике, особенно при решении задач в области животноводства необходимо придерживаться следующих выводов [14]:

- работают в темноте;

- очень простая постобработка;

- плотная карта расстояний с наименьшей погрешностью при сравнении с другими видеоизмерительными системами;

- низкий уровень шума.

Лидар - это радиолокационная система, работающая в оптическом диапазоне и использующая в качестве источника излучения лазер. Системы лидар времяпролетного типа используют короткие импульсы лазерного излучения, которые с высокой точностью фиксируют моменты их передачи и приема, чтобы вычислить расстояние от нулевой точки до

объекта. После объединенных серий сканирования создается трехмерная сцена с координатами у, z), которые объединяются в «облаке» точек [15]. Для генерации облака точек все подсистемы, составляющие систему лидар, должны работать совместно. Качество полученных данных напрямую зависит от параметров каждой подсистемы, но и от взаимосогласованной их работы. Выставление параметров сенсоров и контроль работы подсистем осуществляет системный контроллер лазерного дальномера.

Система лидар является лидирующей системой за счет высокой разрешающей способности и диапазону измерения, используемой в качестве технического зрения при сравнении с разными типами 3D-камер, но недостаток этой системы - высокая стоимость [10; 14]. К тому же для распознавания вымени следует применять более упрощённые системы, потому что задачи, которые ставятся перед лидаром для определения вымени в пространстве, не раскроют весь потенциал возможностей системы лидар.

Еще одним вариантом технического зрения является использование стереопары. Стереопара -вид стереоизображения, представленный парой плоских перспективных изображений объекта, сделанных с помощью камер, которые получили из двух разных точек зрения, расположенных между собой на расстоянии, соответствующем межзрачко-

вому расстоянию человека. Данное решение эффективно применяется в робототехнике при внедрении простых, но эффективных систем получения SD-изображений.

Для обеспечения приемлемой точности между камерами выбирается расстояние на основе следующих правил: чем дальше объект от стереоскопической системы, тем больше должно быть базовое расстояние между объективами. Это позволит получать SD-изображения объектов и строить карту глубины, но не измерять расстояние до объекта.

При проектировании системы стереопар под конкретную задачу в робототехнике необходимо придерживаться следующих выводов [1S; 14]:

- система работает на больших дистанциях;

- можно проектировать с использованием дешевых камер;

- не работает в темноте;

- вычислительно сложная постобработка;

- не точное построение карты глубины.

Анализ систем технического зрения, которые

применяются в доильных роботах Lely, Delaval, GEA показал, что все три системы базируются на видеозахвате изображения с помощью SD ToF-камер. Измерение расстояния от нулевой точки до коровы и ее отдельных органов происходит с помощью лазерного дальномера или внутренних технологий SD ToF-камеры. Данные о характеристиках систем технического зрения, установленных в роботах Lely, Delaval, GEA, приведены в таблице 1 [3; 10; 15; 16; 17].

В доильном роботе Lely - Astronaut A4 используется инновационная система управления манипулятором на данный момент. Система состоит из SD ToF-камеры, лазерного датчика и фотодатчика. SD камера установлена в верхней части робота так, что позволяет определять местоположение крестца коровы (рис. S) [11]. Алгоритмы обработки видеоизображения определяют положение крестца коровы в пространстве и фиксируют его относительно нулевой точки. Манипулятор корректирует свое местоположение относительно данных, полученных с SD-камеры. Далее с помощью лазерного модуля, который установлен в «руке» манипулятора, определяется местоположение вымени. Последним действием в системе наведения служит отдельное лазерное трехуровневое сканирование каждого

соска. Это позволяет системе определять нахождение каждого соска в пространстве относительно нулевой точки, скорректировать положение манипулятора и произвести одевание доильного стакана.

Чем сильнее отклонение развивающегося вымени от эталона, тем меньше шанс успешного одевания доильных стаканов (рис. 4). На рисунке 3 (правая часть) видно, как лазерный луч, испускаемый доильным роботом Lely Astronaut A4, выступает за предел соска и неправильно определяет местоположение соска в пространстве. На левой части рисунка 2 видно, как луч еле заметно проецируется на соске [6].

В доильном роботе DeLaval - VMS система технического зрения установлена непосредственно «в руке» манипулятора. 3D-камера определяет местоположение вымени и сосков относительно манипулятора [10; 11; 18]. Лазерный излучатель проецируется на сосках вымени коровы, который является своего рода маркером. Лазерные лучи отражаются и улавливаются камерой, которая, сканируя лазерное отражение, определяет положение соска относительно нулевой точки и наводит манипулятор [18].

Успешный исход идентификации сосков и наведение доильных стаканов также связаны и с устройством алгоритма определения местоположения сосков [19].

■и

1

f ~

/ V 1 \ A

/

/

Ш i\(

/ < /

2

Рис. 3. Схематичное изображение системы технического зрения в доильном роботе: 1 - ToF 3D-камера; 2 - трехуровневый лазерный дальномер Fig. 3. Schematic representation of the vision system in the milking robot: 1 - ToF 3D-camera; 2 - three-level laser range finder

Определение сосков с помощью тепловизера/ Definition of nipple using о thermal imager

Применеие геометрии к получнному изображению / The application of geometry

to the received image _ ^ . ___

Определение области Зля последующей идентфикоции вымени с помощью ToF и RGBD камер / Define an or a for subsequent identification of the udder using ToF and RGBD cameras

Применено алштма для обработки изображеия олученного с ToF и RGBD камер дляидентфикации с ос коô / Applicotio of he algorithm for processing cameras for identification of nipple images obtained with ToF and RGBD

Определение координат сосков с последующей фиксацией / The determination of the coordinates of the nipples with subsequent fixation

Сбор изображений / Collecting images

Обнаружение граней/ Face detection

Определение вертикалей соска/ The definition of the verticals nipple

Определение горизонталей

соска/ The definition of the contours _nipple_

_lie_

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Нахождение вершин вертикалей соска / Finding vertices _vertical nipple_

Нахождение центральной точки горизонталей соска / Finding the central points of nipple contours

Определение трехерной позиции в пространстве с использованием координат путем примененияматрицы преобразования данных с камеры / Determination of fhee-dimensional position in spce using coordinates by applying the matrix convert the data from the camera

Окончательное определение соска / Final determination _npple_

Рис. 2. Распознавание вымени (слева), оптимизированный алгоритм распознавания сосков с применением тепловизера (справа) Fig. 2. Teat detection of a cow: An Algorithm (left) and Optimized Algorithm for Teat sorting by thermal imaging (right)

В доильном роботе DeLaval - VMS присутствует система определения упитанности животных. Основным элементом данной системы является 3D ToF-камера. Данная система позволяет получать объемное изображение животного (рис. 5) и обрабатывать полученную информацию. Упитанность животного оценивается в баллах и выстраивается гра-

фик упитанности животного для упрощенного восприятия информации пользователем [18; 19]. Модуль технического зрения установлен над проходом, через которой движутся животные. Когда корова проходит через область видеозахвата, модуль фиксирует ее экстерьерные пропорции и отправляет на сервер для дальнейшего анализа.

Таблица 1. Сравнительные характеристики систем технического зрения, установленные в доильных роботах

Table 1. Comparative characteristics of vision systems installed in milking robots

Техническое зрение / Technical vision

Доильные роботы / Milking robots

Система нахождения сосков / Nipple locating system

Тип камеры / Camera type Марка и модель камеры / Make and model of camera Разрешение / Resolution

Lely - Astronaut A4

3D-камера+ трехлучевой лазерный дальномер / 3D-camera + three-beam laser far

TOF

O3D 214

64x64

DeLaval - VMS

3D-камера + двухлу-чевой лазерный дальномер / 3D-camera + dual beam laser far TOF

SR3000

176x144

GEA Farm Technologies -MIone

3D камера 3D camera +

TOF SR4000 176x144

Скорость считывания / Read speed 20 MHz 20 MHz 15 или 30 MHz

Передача цвета / Color нет / no нет / no нет / no

Рабочая дистанция / Working distance 0,5-6 м 0.3-7,5 м 0.3-10 м

Система / метод определения расстояния / The system / method definition ia distances лазерный дальномер / laser range finder триангуляция / triangulation ToF

Количество лучей / Number of rays 1 2 ToF

f-U

(

Рис. 4. Позиционирование лазерного луча в современных роботах Fig. 4. Positioning of the laser beam in modern robots

Доильный робот GEA Farm Technologies -MIone для определения вымени и сосков использует 3D ToF-камеру без лазерных излучателей [10]. 3D-камера установлена в «руке» манипулятора и защищена корпусом.

Данные системы нуждаются в доработке алгоритмов, выполняющих надежное распознавание сосков. Основными недостатками текущих алгоритмов является то, что существует определённая нехватка способов получения и обработки общей перспективы изображения. В данных методах соски индивидуально анализируются и исходя из данного анализа, алгоритмом принимается решение к даль-

нейшему действию. Различные физические наросты, обильный волосяной покров, изменение газового состава в коровнике, значительно влияют и усложняют обработку изображений алгоритмами. Это приводит к тому, что алгоритмы принимают ошибочные решения, за счет чего возрастает ошибка неправильного наведения манипулятора доения. Также системы, а не полностью используют всю информацию о 3D модели построенной на основе данных с изображений [16; 20].

Заключение Использование только лазерных систем для позиционирования вымени и сосков неэффективно.

Лазерная система является дорогостоящей в сравнении с ToF и RGBD камерами. Применение лидар систем в качестве технического зрения не целесообразно для управления манипулятором доения, но эффективно в автомобилестроении. При выборе между 3D ToF и RGBD камерами для обнаружения вымени и сосков, анализ показал, что камеры RGBD дают лучшие результаты. В условиях повышенной освещенности или воздействия прямого солнечного

света на систему технического зрения, когда 3D ToF камеру является основным элементом, необходимо использовать датчики подавления заднего фона для лучшей идентификации.

Наилучшей системой технического зрения, подходящей для распознавания вымени и сосков, является тепловизер и 3D RGBD камера. Это позволяет игнорировать загрязнения и обильный волосяной покров, для точного наведения.

Рис. 5. Получение и обработка изображения системой определения упитанности DeLaval Fig. 5. Image acquisition and processing by the DeLaval fitness system.

Следующая работа, направленная на анализ и подбор существующих алгоритмов, будет включать в себя: подбор основных алгоритмов обработки изображений, полученных с ToF 3D-камеры, формул для проведения автоматических бонитировоч-

ных расчетов, программное обеспечение для обработки полученных данных. Это позволит приступить к исследованиям в области автоматической бонитировки молочных коров по вымени.

СПИСОК ЛИТЕРАТУРЫ

1. Ошуркова Ю. Л., Глаголева Т. И. Биологические аспекты интенсификации животноводства // Российская сельскохозяйственная наука. 2017. № 5. С. 51-53.

2. Карпова О. С., Анисимова Е. И. Стратегия развития скотоводства в Поволжье // Молочное и мясное скотоводство. 2001. № 7. С. 2-4.

3. Крысин Д. Ю., Небылов А. В. Применение времяпролетных PMD-камер для определения дальность до водной поверхности // Научно-технический вестник информационных технологий, механики и оптики. 2013. № 2 (84). С. 33-39.

4. Rodenburg J. Robotic Milking Systems: Are they the Way of the Future? // Journal WCDS Advances in Dairy Technology. 2008. №. 20. P. 35-54.

5. Дорохов А. С. Компьютерное зрение как инструмент системы управления технологическими процессами // Система технологий и машин для инновационного развития АПК России: Сборник научных докладов Международной научно-технической конференции, посвященной 145-летию со дня рождения основоположника земледельческой механики В. П. Горячкина. 2013. С. 355-357.

6. Akhloufi M. A. 3D vision system for intelligent milking robot automation // The conference Intelligent Robots and Computers Vision XXXI: Algorithms and Techniques. 2014. №. 9025.

7. Багутдинов Р. А. Гносеологические аспекты к определению назначения и состава СТЗ в задачах проектирования и разработки робототехнических комплексов // Программные системы и вычислительные методы. 2017. № 1. С. 39-45.

8. Pycinski B., Czajkowska J., Badura P., Juszczyk J., Pietka E. Time-of-Flight Camera, Optical Tracker and Computed Tomography in Pairwise Data Registration // Journal PLoS. 2011. №. 7. P. 63-75.

9. Henry P., Krainin M., Herbst E., Ren X., Fox D. RGB-D mapping: Using Kinect-style depth cameras for dense 3D modeling of indoor environments // International Journal of Robotics Research. 2012. №. 31. P. 647-663.

10. Piatti D., Rinaudo F. SR-4000 and CamCube 3.0 Time of Flight (ToF) Cameras: Tests and Comparison // Remote Sensing. 2012. №. 4, pp. 1069-1089.

11. Artmann R. Sensor systems for milking robots // Journal of Computers and Electronics in Agriculture. 1997. №. 17. P. 19-40.

12. Piatti D., Rinaudo F. SR-4000 and CamCube3.0 Time of light (ToF) Cameras: Tests and Comparison // Remote Sensing. 2012. №. 4. P. 1069-1089.

13. Zhang A. Handbook of 3D Machine Vision: Optical Metrology and Imaging // CRC Press Publish. 2017.

414 р.

14. Pal A., Rastogi A., Myongseok S., Ryuh B. S. Algorithm design for Teat Detection System Methodology using TOF, RGBD and Thermal Imaging in Next Generation Milking Robot System // 14th International Conference on Ubiquitous Robots and Ambient Intelligence (URAI). 2017. P. 895-896.

15. Антонов А. Сканирующие лазерные дальномеры (Lidar) // Современная электроника. 2016. № 1. С.10-15.

16. Beder C., Koch R. Calibration of Focal Length and 3D Pose Based on the Reflectance and Depth Image of a Planar Object // Journal Proceedings of the Dynamic 3D Imaging Workshop. 2007.

17. Khoshaba S., Haralanova V. Camera cleaning study fo Automatic Milking System utilizing at Delaval International AB // Mechanical Engineering and Machine Science. VIII. 2013. Р. 117.

18. Delaval holding AB. Arrangement and method for determining a body condition score of an animal Patent. EN № WO 2010/063527. 2009.

19. Cyganek B., Siebert J. P. Infotech: An Introduction to Computer Vision Techniques and Algorithms // Introduction and Tutorial to the Image Library. Wiley. 2009. 60 p.

20. Klose R., Penlington J., Ruckelshausen A. Usability study of 3D time-of-flight cameras for automatic plant phenotyping // Machine Vision and Applications. 2009. №. 69. P. 93-105.

Дата поступления статьи в редакцию 12.11.2018, принята к публикации 4.12.2018.

Информация об авторах: Кирсанов Владимир Вячеславович, доктор технических наук, заведующий лабораторией, главный научный сотрудник

Адрес: Федеральный научный агроинженерный центр ВИМ, 109428, Россия, Москва, 1-й Институтский проезд, 5 E-mail: [email protected] Spin-код: 3983-5253

Павкин Дмитрий Юрьевич, кандидат технических наук, младший научный сотрудник Адрес: Федеральный научный агроинженерный центр ВИМ, 109428, Россия, Москва, 1-й Институтский проезд, 5 E-mail: [email protected] Spin-код: 7671-5380

Юрочка Сергей Сергеевич, аспирант, инженер

Адрес: Федеральный научный агроинженерный центр ВИМ, 109428, Россия, Москва, 1-й Институтский проезд, 5 E-mail: [email protected] Spin-код: 8689-5597

Матвеев Владимир Юрьевич, кандидат технических наук, доцент кафедры «Технический сервис»

Адрес: Нижегородский государственный инженерно-экономический университет, 606340, Россия, Княгинино,

ул. Октябрьская, 22а

E-mail: [email protected]

Spin-код: 6756-1176

Заявленный вклад авторов: Кирсанов Владимир Вячеславович: научное руководство.

Павкин Дмитрий Юрьевич: общее руководство проектом, анализ и дополнение текста статьи. Юрочка Сергей Сергеевич: анализ полученных результатов, написание основной части текста. Матвеев Владимир Юрьевич: верстка и форматирование работы.

Все авторы прочитали и одобрили окончательный вариант рукописи.

REFERENCES

1 Oshurkova Yu. L., Glagoleva T. I. Biologicheskie aspekty intensifikacii zhivotnovodstva [Biological aspects of livestock intensification], Rossijskaya sel'skohozyajstvennaya nauka [Russian agricultural science], 2017. No. 5. pp.51-53.

2 Karpova O. S., Anisimova E. I. Strategiya razvitiya skotovodstva v Povolzh'e [Strategy of cattle breeding development in the Volga region], Molochnoe i myasnoe skotovodstvo [Dairy and beef cattle breeding], 2001. No. 7. pp. 2-4.

3. Krysin D. Yu., Nebylov A. V. Primenenie vremyaproletnyh PMD-kamer dlya opredeleniya dal'nost' do vod-noj poverhnosti [Application of time-of-flight PMD-cameras to determine distance to water surface], Nauchno-tekhnicheskij vestnik informacionnyh tekhnologij, mekhaniki i optiki [Scientific and technical journal of information technologies, mechanics and optics], 2013. No. 2 (84). pp. 33-39.

4. Rodenburg J. Robotic Milking Systems: Are they the Way of the Future? Journal WCDS Advances in Dairy Technology, 2008, No. 20, pp. 35-54.

5. Dorokhov A. S. Komp'yuternoe zrenie kak instrument sistemy upravleniya tekhnologicheskimi protsessami [Computer vision as a tool of technological process control], Sistema tekhnologij i mashin dlya innovacionnogo razvitiya APK Rossii: Sbornik nauchnyh dokladov Mezhdunarodnoj nauchno-tekhnicheskoj konferencii, posvyashchennoj 145-letiyu so dnya rozhdeniya osnovopolozhnika zemledel'cheskoj mekhaniki V. P. Goryachkina [System of technologies and machines for innovative development of the agroindustrial complex of Russia: Collection of scientific reports of the International scientific and technical conference devoted to the 145th anniversary of the founder of agricultural mechanics V. P. Goryachkin], 2013. pp. 355-357.

6. Akhloufi M. A. 3D vision system for intelligent milking robot automation. The conference Intelligent Robots and Computers Vision XXXI: Algorithms and Techniques, 2014, No. 9025.

7. Bagutdinov R. A. Gnoseologicheskie aspekty k opredeleniyu naznacheniya i sostava STZ v zadachah proekti-rovaniya i razrabotki robototekhnicheskih kompleksov [Gnoseological aspects of determining the purpose and composition of the STZ in the design and development of robotic systems], Programmnye sistemy i vychislitel'nye metody [Software systems and computational methods], 2017. No. 1. pp. 39-45.

8. Pycinski B., Czajkowska J., Badura P., Juszczyk J., Pietka E. Time-of-Flight Camera, Optical Tracker and Computed Tomography in Pairwise Data Registration. JournalPLoS, 2011, No. 7, pp. 63-75.

9. Henry P., Krainin M., Herbst E., Ren X., Fox D. RGB-D mapping: Using Kinect-style depth cameras for dense 3D modeling of indoor environments. International Journal of Robotics Research, 2012, No. 31, pp. 647-663.

10. Piatti D., Rinaudo F. SR-4000 and CamCube 3.0 Time of Flight (ToF) Cameras: Tests and Comparison. Remote Sensing, 2012, No. 4, pp. 1069-1089.

11. Artmann R. Sensor systems for milking robots. Journal of Computers and Electronics in Agriculture, 1997, No. 17, pp. 19-40.

12. Piatti D., Rinaudo F. SR-4000 and CamCube3.0 Time of light (ToF) Cameras: Tests and Comparison. Remote Sensing, 2012, No. 4, pp. 1069-1089.

13. Zhang A. Handbook of 3D Machine Vision: Optical Metrology and Imaging. CRC Press Publish, 2017,

414 p.

14. Pal A., Rastogi A., Myongseok S., Ryuh B. S. Algorithm design for Teat Detection System Methodology using TOF, RGBD and Thermal Imaging in Next Generation Milking Robot System. 14th International Conference on Ubiquitous Robots and Ambient Intelligence (URAI), 2017, pp. 895-896.

15. Antonov A. Skaniruyushchie lazernye dal'nomery (Lidar) [Laser scanning range finders (Lidar)], Sovremen-naya ehlektronika [Modern electronics], 2016. No. 1. pp. 10-15.

16. Beder C., Koch R. Calibration of Focal Length and 3D Pose Based on the Reflectance and Depth Image of a Planar Object. Journal Proceedings of the Dynamic 3D Imaging Workshop, 2007.

17. Khoshaba S., Haralanova V. Camera cleaning study fo Automatic Milking System utilizing at Delaval International AB, Mechanical Engineering and Machine Science. VIII, 2013, pp. 117.

18. Delaval holding AB. Arrangement and method for determining a body condition score of an animal Patent. EN № WO 2010/063527, 2009.

19. Cyganek B., Siebert J. P. Infotech: An Introduction to Computer Vision Techniques and Algorithms. Introduction and Tutorial to the Image Library: Wiley, 2009, 60 p.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

20. Klose R., Penlington J., Ruckelshausen A. Usability study of 3D time-of-flight cameras for automatic plant phenotyping. Machine Vision and Applications, 2009, No. 69, pp. 93-105.

Submitted 12.11.2018; revised 4.12.2018.

About the authors:

Vladimir V. Kirsanov, Dr. Sci. (Engineering), the head of laboratory, chief researcher Address: Federal agricultural research centre VIM, 109428, Russia, Moscow, 1-st Institutskiy proezd, 5 E-mail: [email protected] Spin-code: 3983-5253

Dmitry Yu. Pavkin, Ph. D. (Engineering), junior researcher

Address: Federal agricultural research centre VIM, 109428, Russia, Moscow, 1-st Institutskiy proezd, 5 E-mail: [email protected] Spin-code: 7671-5380

Sergey S. Yurochka, the post-graduate student, engineer

Address: Federal agricultural research centre VIM, 109428, Russia, Moscow, 1-st Institutskiy proezd, 5 E-mail: [email protected] Spin-code: 8689-5597

Vladimir Yu. Matveev, Ph. D. (Engineering), the associate professor of the chair «Technical service» Address: Nizhny Novgorod state University of engineering and Economics, 606340, Russia, Knyaginino, Oktyabrskaya Str., 22a E-mail: [email protected] Spin code: 6756-1176

Contribution of the authors: Vladimir V. Kirsanov: research supervision.

Dmitry Yu. Palvin: managed the research project, analysing and supplementing the text. Sergey S. Yurochka: analyzed data, wrote most parts of the text. Vladimir Yu. Matveev: made the layout and the formatting of the article.

All authors have read and approved the final manuscript.

i Надоели баннеры? Вы всегда можете отключить рекламу.