Научная статья на тему 'ОЦЕНКА ПОКАЗАТЕЛЕЙ ПРЕЦИЗИОННОСТИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ В НАУЧНЫХ ИССЛЕДОВАНИЯХ НА ОСНОВЕ ПРАВИЛА СЛОЖЕНИЯ ДИСПЕРСИЙ'

ОЦЕНКА ПОКАЗАТЕЛЕЙ ПРЕЦИЗИОННОСТИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ В НАУЧНЫХ ИССЛЕДОВАНИЯХ НА ОСНОВЕ ПРАВИЛА СЛОЖЕНИЯ ДИСПЕРСИЙ Текст научной статьи по специальности «Математика»

CC BY
146
21
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
НАУЧНЫЕ ИССЛЕДОВАНИЯ / РЕЗУЛЬТАТ ИЗМЕРЕНИЯ / ВОСПРОИЗВОДИМОСТЬ / ПРАВИЛО СЛОЖЕНИЯ ДИСПЕРСИЙ / СТАНДАРТНОЕ ОТКЛОНЕНИЕ / РАСШИРЕННАЯ НЕОПРЕДЕЛЕННОСТЬ

Аннотация научной статьи по математике, автор научной работы — Попов Анатолий Аркадьевич, Косырева Ольга Николаевна, Добротин Сергей Александрович

Проведено сопоставление ряда определений и формул расчета показателей прецизионности результатов измерений, прописанных в нормативных документах в области метрологии, с положениями теории статистики. В результате проведенного анализа выявлено, что описанная в нормативных документах по метрологии исходная статистическая модель носит частный характер, что обуславливает в некоторых случаях несоответствие прописанных и теоретических базовых формул. Предложена общая форма исходной статистической модели, а также новая формула для расчета числа степеней свободы внутригрупповой дисперсии, согласующаяся с теоретическим определением статистического термина «число степеней свободы». Показана специфика метрологической обработки результатов измерений в научных исследованиях по сравнению с рутинными стандартизованными методиками. Для случая научных исследований, когда проводимые измерения носят частный, иногда уникальный характер, разработаны рекомендации по интервальной оценке результата измерения на основе расширенной неопределенности, а также по оценке стандартного отклонения воспроизводимости на основе внутрилабораторного стандартного отклонения для случая промежуточной прецизионности. В качестве первого приближения на основе справочных данных дана оценка соотношения между дисперсиями повторяемости и воспроизводимости. Приведен пример расчета в соответствии с предлагаемой методикой. Использование данного подхода повышает достоверность экспериментальных результатов научных исследований.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Попов Анатолий Аркадьевич, Косырева Ольга Николаевна, Добротин Сергей Александрович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

ASSESSMENT OF PRECISION INDICATORS FOR MEASUREMENT RESULTS IN SCIENTIFIC RESEARCH BASED ON THE VARIANCES ADDITION RULE

Correlation of a number of definitions and formulas for measurement results of precision indicators calculation described in regulatory documents in the field of metrology, with provisions of the theory of statistics, is carried out. It is shown that the initial statistical model is of a particular nature, causing in some cases a discrepancy between the stated and theoretical basic formulas. A general form of the initial statistical model and a new formula for calculation of the number of degrees of freedom of intragroup variance consistent with theoretical definition of the «number of degrees of freedom» statistical term, are proposed. Specificity of metrological processing of measurement results in scientific research in comparison with routine standardized methods, is shown. For the case of scientific research, when the performed measurements are of a particular, sometimes unique nature, recommendations have been developed for interval estimate of the measurement result based on expanded uncertainty, as well as for the reproducibility standard deviation estimate based on the intra-laboratory standard deviation for the case of intermediate precision. As a first approximation based on reference data, an estimate of relationship between the variances of repeatability and reproducibility, is given. Example of calculation in accordance with the proposed methodology, is given. The use of this approach increases the reliability of scientific research experimental results.

Текст научной работы на тему «ОЦЕНКА ПОКАЗАТЕЛЕЙ ПРЕЦИЗИОННОСТИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ В НАУЧНЫХ ИССЛЕДОВАНИЯХ НА ОСНОВЕ ПРАВИЛА СЛОЖЕНИЯ ДИСПЕРСИЙ»

УДК 51-74 DOI: 10.46960/1816-210X_2022_3_32

ОЦЕНКА ПОКАЗАТЕЛЕЙ ПРЕЦИЗИОННОСТИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ В НАУЧНЫХ ИССЛЕДОВАНИЯХ НА ОСНОВЕ ПРАВИЛА СЛОЖЕНИЯ ДИСПЕРСИЙ

А.А. Попов

ORCID: 0000-0002-0598-5203 e-mail: popovanatol@inbox.ru

Нижегородский государственный технический университет им. Р.Е. Алексеева (Дзержинский политехнический институт) Дзержинск, Россия

О.Н. Косырева ORCID: 0000-0003-2126-3275 e-mail: lelia7@list.ru

Дзержинский филиал Российской академии народного хозяйства и государственной службы

при Президенте Российской Федерации

Дзержинск, Россия

С.А. Добротин

ORCID: 0000-0001-6925-2693 e-mail: zavkaf_sgpd@dzr.ranepa.ru

Дзержинский филиал Российской академии народного хозяйства и государственной службы

при Президенте Российской Федерации Дзержинск, Россия

Проведено сопоставление ряда определений и формул расчета показателей прецизионности результатов измерений, прописанных в нормативных документах в области метрологии, с положениями теории статистики. В результате проведенного анализа выявлено, что описанная в нормативных документах по метрологии исходная статистическая модель носит частный характер, что обуславливает в некоторых случаях несоответствие прописанных и теоретических базовых формул. Предложена общая форма исходной статистической модели, а также новая формула для расчета числа степеней свободы внутригрупповой дисперсии, согласующаяся с теоретическим определением статистического термина «число степеней свободы». Показана специфика метрологической обработки результатов измерений в научных исследованиях по сравнению с рутинными стандартизованными методиками. Для случая научных исследований, когда проводимые измерения носят частный, иногда уникальный характер, разработаны рекомендации по интервальной оценке результата измерения на основе расширенной неопределенности, а также по оценке стандартного отклонения воспроизводимости на основе внутрилабораторного стандартного отклонения для случая промежуточной прецизионности. В качестве первого приближения на основе справочных данных дана оценка соотношения между дисперсиями повторяемости и воспроизводимости. Приведен пример расчета в соответствии с предлагаемой методикой. Использование данного подхода повышает достоверность экспериментальных результатов научных исследований.

Ключевые слова: научные исследования, результат измерения, воспроизводимость, правило сложения дисперсий, стандартное отклонение, расширенная неопределенность.

ДЛЯ ЦИТИРОВАНИЯ: Попов, А.А. Оценка показателей прецизионности результатов измерений в научных исследованиях на основе правила сложения дисперсий / А.А. Попов, О.Н. Косырева, С.А. Добротин // Труды НГТУ им. Р.Е. Алексеева. 2022. № 3. С. 32-43. DOI: 10.46960/1816-210X 2022 3 32

ASSESSMENT OF PRECISION INDICATORS FOR MEASUREMENT RESULTS IN SCIENTIFIC RESEARCH BASED ON THE VARIANCES ADDITION RULE

© Попов А.А, Косырева О.Н., Добротин С.А., 2022

A.A. Popov

ORCID: 0000-0002-0598-5203 e-mail: popovanatol@inbox.ru

Nizhny Novgorod State Technical University n.a. R.E. Alekseev (Dzerzhinsk Polytechnic Institute) Dzerzhinsk, Russia

O.N. Kosyreva ORCID: 0000-0003-2126-3275 e-mail: lelia7@list.ru

The Russian Presidential Academy of National Economy and Public Administration (The Presidential Academy, RANEPA), Dzerzhinsky branch Dzerzhinsk, Russia

S.A. Dobrotin

ORCID: 0000-0001-6925-2693 e-mail: zavkaf_sgpd@dzr.ranepa.ru

The Russian Presidential Academy of National Economy and Public Administration (The Presidential Academy, RANEPA), Dzerzhinsky branch Dzerzhinsk, Russia

Abstract. Correlation of a number of definitions and formulas for measurement results of precision indicators calculation described in regulatory documents in the field of metrology, with provisions of the theory of statistics, is carried out. It is shown that the initial statistical model is of a particular nature, causing in some cases a discrepancy between the stated and theoretical basic formulas. A general form of the initial statistical model and a new formula for calculation of the number of degrees of freedom of intragroup variance consistent with theoretical definition of the «number of degrees of freedom» statistical term, are proposed. Specificity of metrological processing of measurement results in scientific research in comparison with routine standardized methods, is shown. For the case of scientific research, when the performed measurements are of a particular, sometimes unique nature, recommendations have been developed for interval estimate of the measurement result based on expanded uncertainty, as well as for the reproducibility standard deviation estimate based on the intra-laboratory standard deviation for the case of intermediate precision. As a first approximation based on reference data, an estimate of relationship between the variances of repeatability and reproducibility, is given. Example of calculation in accordance with the proposed methodology, is given. The use of this approach increases the reliability of scientific research experimental results.

Key words: scientific research, measurement result, reproducibility, variance addition rule, standard deviation, extended uncertainty.

FOR CITATION: A.A. Popov, O.N. Kosyreva, S.A. Dobrotin. Assessment of precision indicators for measurement results in scientific research based on the variances addition rule. Transactions of NNSTU n.a. R.E. Alekseev. 2022. № 3. Pp. 32-43. DOI: 10.46960/1816-210X_2022_3_32

В научных исследованиях важным вопросом является возможность повторения экспериментальных результатов, полученных ранее в других лабораториях, что соответствует измерениям в условиях воспроизводимости [1]. Это возможно в случае сопровождения полученных экспериментальных данных показателями прецизионности. Вопросу их определения посвящен, в частности, ряд стандартов [1-3]. Однако при их внимательном изучении выявляется ряд положений, не вполне согласующихся с базовыми положениями теории статистики.

Целью данной статьи является анализ соответствия определений терминов показателей прецизионности результатов измерений и формул для их расчета с базовыми положениями теории статистики, а также формулировка рекомендаций по представлению экспериментальных результатов с указанием показателей прецизионности.

При оценке прецизионности результатов каких-либо измерений, т.е. их степени близости друг к другу, исходные данные формируются из отдельных групп, соответствующих условиям проведения измерений. Различают условия повторяемости, промежуточной прецизионности и воспроизводимости. В рамках вопроса о возможности получения повторных результатов экспериментальных исследований речь идет об условиях воспроизводимости, когда результаты измерений получают одним и тем же методом, на идентичных объектах ис-

пытаний, в разных лабораториях, разными операторами, с использованием различного оборудования [1].

Для классификации элементов выборочной совокупности в теории статистики общеизвестно правило сложения дисперсий, характеризующих рассеяние элементов выборки относительно средних величин [4]:

^общ = ^внгр + ^межгр, (1)

где .Ообщ, -Овнгр и .Омежгр - соответственно общая, внутри- и межгрупповая дисперсии.

Для случая нахождения таких дисперсий по сгруппированным данным исходной выборки достаточно большого объема, они находятся как средневзвешенные величины:

4 Р ( ЕЕ пу Ь -х Г

»=1 7=1_; (2)

р

7 =1

ЕNj ■ °7 гр

_ 7=1 ; (3)

^общ

D

внгР p

S Nj

j = 1

S nij -(xj - Xj )2

Dj rP = -; (4)

SSNj \xj - x)2

Dмежгр

j=1_; (5)

p

S.Nj

j =1 q

Nj =S nij , (6)

i=1

где q - количество элементов в отдельной группе; p - количество групп; Xj - i-ое значение в

j-ой группе; nj - частота значения xy; x - общая средняя; Nj - объем j-ой группы; Djrp - групповая дисперсия в j-ой группе; xj - средняя в j-ой группе.

В случае малых выборок, характерных для большинства методик измерений и использования «исправленных» дисперсий, выполняться будет только правило сложения соответствующих квадратов отклонений:

общ = SSBHrp + межгр , (7)

где ^^общ ^^внгр и ^^межгр - соответственно общая, внутри- и межгрупповая суммы квадратов отклонений.

Для случая одинаковых объемов выборок в группах эти суммы находятся следующим образом:

^общ = X X (xij -x F' (8)

i=1 j=1

p 4 ( - \2

SSBHip = - xj Г ' (9)

j=1i=1

^межгр = q Xvx j - x) • (10)

j=1

Оценки дисперсий получаются путем усреднения соответствующих квадратов отклонений на числа степеней свободы дисперсий

2 SS

s =—, (11)

f

где SS - сумма квадратов отклонений; f - число степеней свободы дисперсии.

Под термином «число степеней свободы» понимается [5, 6] число слагаемых в сумме за вычетом числа налагаемых на них ограничений, в качестве которых в данном случае выступают соответствующие средние величины. Тогда в рассматриваемом случае числа степеней свободы дисперсий будут определяться следующим образом:

Абщ = pq -1; (12)

Увнгр = p(q -1); (13)

Умежгр =(p - 1)q • (14)

В результате каждое слагаемое в формуле (7) делится на свое значение, отличное от остальных, и переход от формулы (7) к формуле (1) нарушается. В то же время правило, выражаемое формулой (1), находит свое отражение в расчетах, связанных с оценкой прецизионности результатов измерений, например [2]:

2 2,2 ,1вЛ S2 = S2 + S2, (15)

2 2 2

где sr , Sr и sl - соответственно оценки дисперсий воспроизводимости, повторяемости и межлабораторной дисперсии.

В этом случае количество групп p - это количество лабораторий, задействованное в оценке дисперсии воспроизводимости, а q - количество проведенных единичных определений в одной лаборатории, используемых для получения одного результата измерения. При этом дисперсия повторяемости определяется как осредненное значение оценок внутрилабо-раторных дисперсий [2], получаемых в условиях повторяемости. Для случая одинакового количества единичных определений

Р

X

s2

= , (16) Р

1 1

'2 = ;гт Е Ьч-'Я • (17)

1 11 =1

где хц - значение измеряемой величины, получаемое в результате единичного определения.

Стандартное отклонение повторяемости является мерой разброса результатов единичных определений относительно среднего в отдельной лаборатории и является показателем внутрилабораторной прецизионности в условиях повторяемости [3].

В [2] (формулы (21), (22)) и [3] (формула (10)) межлабораторная дисперсия представлена в виде разности, которая для случая одного уровня измерений и одинакового числа единичных определений во всех лабораториях будет иметь вид:

1 Р , -чо 2

'I =-Ч- XГ - - (>8)

Р9

Подстановка этих значений в формулу (15) дает следующее выражение:

2 2 sR = sr

/ Л p

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1 1

v q)

+Ifcj - =xf (19)

j=i

Вид первого слагаемого в правой части уравнения означает, что в дисперсии повторяемости осуществлен переход к осреднению по числу параллельных определений, а второе слагаемое представляет собой оценку межгрупповой дисперсии, найденной осреднением по числу степеней свободы. Таким образом, правило, выражаемое формулой (1), снова не будет выполняться.

Вторая проблема, возникающая при рассмотрении формулы (15) для оценки дисперсии воспроизводимости, заключается в ответе на вопрос о том, мерой разброса чего является данная оценка. Если мы используем формулу (15), то, согласно [2], получаем оценку дисперсии воспроизводимости, а если формулу (1), то, согласно положениям статистики, получаем оценку общей дисперсии. Известно [4], что стандартное отклонение, получаемое из общей дисперсии, является мерой разброса отдельных значений в группах относительно общей средней. Согласно определению [1], «стандартное отклонение воспроизводимости - это среднеквадратическое отклонение результатов измерений, полученных в условиях воспроизводимости», т.е. именно результатов измерений, а не единичных определений. За очень редким исключением, при котором единичное определение и является результатом измерения, результат отдельного измерения представляет собой среднее арифметическое результатов единичных определений, получаемых, как правило, в условиях повторяемости.

Данное противоречие заложено в использовании исходной статистической модели [1], раздел 5, согласно которой каждый результат измерения y может быть представлен в виде:

х = m + B + e, (20)

где m - общее среднее значение (математическое ожидание); В - лабораторная составляющая систематической погрешности в условиях повторяемости; е - случайная составляющая погрешности каждого результата измерений в условиях повторяемости.

Использование данной формулы тут же приводит к формуле (15), если находить дисперсии левой и правой частей этого равенства. Однако при этом не конкретизируется, что понимается под словами «каждый результат измерения». Если это результат единичного определения, то стандартное отклонение воспроизводимости, получаемое из дисперсии воспроизводимости по формуле (15), характеризует разброс единичных определений. Если под каждым результатом измерения понимается результат отдельного измерения, получаемый осреднением результатов единичных определений, то формула (20) неверна в последнем слагаемом, поскольку в этом случае каждый результат измерения:

q

x = m + B + —, (21)

q

где et - случайная составляющая погрешности каждого результата единичного определения в условиях повторяемости.

Если находить дисперсию от левой и правой части уравнения (21), то легко приходим к формуле:

2

'Р )=-1 + 7 • (22)

что соответствует приведенному в [3, формула (2)].

Отличие экспериментальных результатов в научных исследованиях от результатов рутинных измерений, получаемых с помощью стандартизованных методик, заключается в том, что в стандартизованных методиках для оценки показателей воспроизводимости в рамках процедуры подтверждения компетентности аккредитованных лабораторий можно привлечь достаточно большую их группу, где данный метод измерения внедрен, в то время как в научных исследованиях проводимые измерения носят частный, иногда уникальный характер. В связи с этим возникает вопрос оценки соотношения между дисперсиями повторяемости и воспроизводимости.

Отношение

У = (23)

— г

зависит от применяемого метода и объекта измерения. Например, для случая контроля содержания химических веществ в воде у = 1,4 [7], приведенные справочные данные в [8, 9] показывают изменение этой величины в пределах от 1,2 до 2,2. Поэтому в отсутствии других данных на первом этапе можно оценочно взять значение у как среднее от этих границ, т.е. у = 1,7. Для уточнения этого значения необходимо найти внутрилабораторное стандартное отклонение -я для случая промежуточной прецизионности, используя для этого, как минимум, фактор «время». Переход к стандартному отклонению воспроизводимости можно осуществить с использованием рекомендации [9], п. 4.5.3:

-Ял

-Я = —- (24)

к 0,84

Полученное значение можно использовать для нахождения стандартного отклонения результата измерения в условиях воспроизводимости по формуле (22). Интервальная

оценка результата измерения, в пределах которой должно находиться значение, полученное в любой другой лаборатории, может записываться в виде [8]:

X = X ± и, (25)

где U - расширенная неопределенность результата измерения.

В качестве коэффициента охвата, необходимого для расчета расширенной неопределенности, берется [5] квантиль ¿-распределения Стьюдента, соответствующего доверительной вероятности и числу эффективных степеней свободы рассчитываемой статистики. В данном случае это число степеней свободы дисперсии воспроизводимости, которая, являясь частным случаем общей дисперсии, имеет число степеней свободы:

/вос = Р1 -1 (26)

В качестве примера, иллюстрирующего предложенную методику расчета, была проведена обработка экспериментальных данных, указанных в [2], раздел В.1. Поскольку приведенная в источнике информации проверка исходной выборки на совместимость и наличие выбросов показала их отсутствие, данный этап в приводимых ниже расчетах был опущен.

В соответствии с положениями стандарта [2], исходная выборка была уменьшена до объема, при котором количество единичных определений в каждой базовой ячейке равнялось трем (табл. 1).

Таблица 1.

Результаты единичных определений, % (масс.)

Table 1.

Results of single determinations, % (wt.)

Уровень измеряемой характеристики Номер единичного определения Номер лаборатории

1 2 3 4 5 6 7 8

1 1 0,71 0,69 0,66 0,67 0,70 0,73 0,71 0,70

2 0,71 0,67 0,65 0,65 0,69 0,74 0,71 0,65

3 0,70 0,68 0,69 0,66 0,66 0,73 0,69 0,68

2 1 1,20 1,22 1,28 1,23 1,31 1,39 1,20 1,24

2 1,18 1,21 1,31 1,18 1,22 1,36 1,26 1,22

3 1,23 1,22 1,30 1,20 1,22 1,37 1,26 1,30

3 1 1,68 1,64 1,61 1,68 1,64 1,70 1,69 1,67

2 1,70 1,64 1,61 1,66 1,67 1,73 1,70 1,68

3 1,68 1,65 1,62 1,66 1,60 1,73 1,68 1,67

4 1 3,26 3,20 3,37 3,16 3,20 3,27 3,27 3,25

2 3,26 3,20 3,36 3,22 3,19 3,31 3,24 3,25

3 3,20 3,20 3,38 3,23 3,18 3,29 3,23 3,26

Поскольку количество единичных определений в каждой базовой ячейке было одинаковым, средние величины (табл. 2) определялись по правилу нахождения средней арифметической простой величины.

Таблица 2.

Осредненные величины, % (масс.)

Table 2.

Average values, % (wt.)

Уровень измеряемой характеристики Групповые средние .'■.' . Общая средняя X

Номер лаборатории

1 2 3 4 5 6 7 8

1 0,707 0,680 0,667 0,660 0,683 0,733 0,703 0,677 0,6888

2 1,203 1,217 1,297 1,203 1,250 1,373 1,240 1,253 1,2546

3 1,687 1,643 1,613 1,667 1,637 1,720 1,690 1,673 1,6663

4 3,240 3,200 3,370 3,203 3,190 3,290 3,247 3,253 3,2492

Суммы квадратов отклонений определялись по формулам (8) - (10), результаты представлены в табл. 3-5. Расчеты велись в MS Excel с использованием всех десятичных знаков -режим, установленный по умолчанию. Окончательно определяемые характеристики сведены в табл. 6.

Значения компонентов — х) в межгрупповой сумме квадратов отклонений

—\2

Таблица 3. Table 3.

Values of components

in the intergroup sum of squared deviations

Уровень измеряемой характеристики Номер лаборатории Я*-* $$межгр

1 2 3 4 5 6 7 8

1 3,210 • 10-4 7,656 • 10-5 4,876 • 10-4 8,265 • 10-4 2,934 • 10-5 1,987 • 10-3 2,126 • 10-4 1,460 • 10-4 4,087 • 10-3 1,226 • 10-2

2 2,626 • 10-3 1,437 • 10-3 1,771 • 10-3 2,626 • 10-3 2,100 • 10-5 1,410 • 10-2 2,126 • 10-4 1,562 • 10-6 2,279 • 10-2 6,840 • 10-2

3 4,168 • 10-4 5,251 • 10-4 2,800 • 10-3 1,736 • 10-7 8,751 • 10-4 2,889 • 10-3 5,640 • 10-4 5,017 • 10-5 8,120 • 10-3 2,436 • 10-2

4 8,402 • 10-5 2,417 • 10-3 1,460 • 10-2 2,100 • 10-3 3,500 • 10-3 1,667 • 10-3 6,250 • 10-6 1,736 • 10-5 2,439 • 10-2 7,318 • 10-2

Таблица 4.

Значения компонентов {xy — Xj во внутригрупповой сумме квадратов отклонений

Table 4.

(% - xj F.

{Ху — X j

Values of components J ' in the intragroup sum of squared deviations

Уровень измеряемой характеристики Номер единичного определения Номер лаборатории $$вигр

1 2 3 4 5 6 7 8

1 1 1,111 • 10-5 1,000 • 10-4 4,444 • 10-5 1,000 • 10-4 2,778 • 10-4 1,111 • 10-5 4,444 • 10-5 5,444 • 10-4 3,800 • 10-3

2 1,111 • 10-5 1,000 • 10-4 2,778 • 10-4 1,000 • 10-4 4,444 • 10-5 4,444 • 10-5 4,444 • 10-5 7,111 • 10-4

3 4,444 • 10-5 0,000 5,444 • 10-4 0,000 5,444 • 10-4 1,111 • 10-5 1,778 • 10-4 1,111 • 10-5

q Z{xj—xj f Z=1 6,667 • 10-5 2,000 • 10-4 8,667 • 10-4 2,000 • 10-4 8,667 • 10-4 6,667 • 10-5 2,667 • 10-4 1,267 • 10-3

2 1 1,111 • 10-5 1,111 • 10-5 2,778 • 10-4 7,111 • 10-4 3,600 • 10-3 2,778 • 10-4 1,600 • 10-3 1,778 • 10-4 1,480 • 10-2

2 5,444 • 10-4 4,444 • 10-5 1,778 • 10-4 5,444 • 10-4 9,000 • 10-4 1,778 • 10-4 4,000 • 10-4 1,111 • 10-3

3 7,111 • 10-4 1,111 • 10-5 1,111 • 10-5 1,111 • 10-5 9,000 • 10-4 1,111 • 10-5 4,000 • 10-4 2,178 • 10-3

Продолжение табл. 4.

Значения компонентов {xy — Xj во внутригрупповой сумме квадратов отклонений

Table 4 (continued).

(•xij ~ Xj F:

Values of components 4 j J ' in the intragroup sum of squared deviations

Уровень измеряемой характеристики Номер единичного определения Номер лаборатории ^^внгр

1 2 3 4 5 6 7 8

3 1 4,444 • 10-5 1,111 • 10-5 1,111 • 10-5 1,778 • 10-4 1,111 • 10-5 4,000 • 10-4 0,000 1,111 • 10-5 4,000 • 10-3

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

2 1,778 • 10-4 1,111 • 10-5 1,111 • 10-5 4,444 • 10-5 1,111 • 10-3 1,000 • 10-4 1,000 • 10-4 4,444 • 10-5

3 4,444 • 10-5 4,444 • 10-5 4,444 • 10-5 4,444 • 10-5 1,344 • 10-3 1,000 • 10-4 1,000 • 10-4 1,111 • 10-5

Z {xij—xj F ¡=1 2,667 • 10-4 6,667 • 10-5 6,667 • 10-5 2,667 • 10-4 2,467 • 10-3 6,000 • 10-4 2,000 • 10-4 6,667 • 10-5

4 1 4,000 • 10-4 0,000 0,000 1,878 • 10-3 1,000 • 10-4 4,000 • 10-4 5,444 • 10-4 1,111 • 10-5 7,400 • 10-3

2 4,000 • 10-4 0,000 1,000 • 10-4 2,778 • 10-4 0,000 4,000 • 10-4 4,444 • 10-5 1,111 • 10-5

3 1,600 • 10-3 0,000 1,000 • 10-4 7,111 • 10-4 1,000 • 10-4 0,000 2,778 • 10-4 4,444 • 10-5

Z {xij—xj F ¡=1 2,400 • 10-3 0,000 2,000 • 10-4 2,867 • 10-3 2,000 • 10-4 8,000 • 10-4 8,667 • 10-4 6,667 • 10-5

Значения компонентов (xy — Xв общей сумме квадратов отклонений

(x;; - X Г

Values of components J in the total sum of squared deviations

Таблица 5.

Table 5.

Уровень измеряемой характеристики Номер единичного определения Номер лаборатории SS общ

1 2 3 4 5 6 7 8

1 1 4,516 • 10-4 1,562 • 10-6 8,266 • 10-4 3,516 • 10-4 1,266 • 10-4 1,702 • 10-3 4,516 • 10-4 1,266 • 10-4 1,606 • 10-2

2 4,516 • 10-4 3,516 • 10-4 1,502 • 10-3 1,502 • 10-3 1,562 • 10-6 2,627 • 10-3 4,516 • 10-4 1,502 • 10-3

3 1,266 • 10-4 7,656 • 10-5 1,562 • 10-6 8,266 • 10-4 8,266 • 10-4 1,702 • 10-3 1,562 • 10-6 7,656 • 10-5

X (xy- xf i=1 1,030 • 10-3 4,297 • 10-4 2,330 • 10-3 2,680 • 10-3 9,547 • 10-4 6,030 • 10-3 9,047 • 10-4 1,705 • 10-3

2 1 2,979 • 10-3 1,196 • 10-3 6,460 • 10-4 6,043 • 10-4 3,071 • 10-3 1,834 • 10-2 2,979 • 10-3 2,127 • 10-4 8,320 • 10-2

2 5,563 • 10-3 1,988 • 10-3 3,071 • 10-3 5,563 • 10-3 1,196 • 10-3 1,111 • 10-2 2,934 • 10-5 1,196 • 10-3

3 6,043 • 10-4 1,196 • 10-3 2,063 • 10-3 2,979 • 10-3 1,196 • 10-3 1,332 • 10-2 2,934 • 10-5 2,063 • 10-3

X (xy - xf 1=1 9,146 • 10-3 4,380 • 10-3 5,780 • 10-3 9,146 • 10-3 5,463 • 10-3 4,277 • 10-2 3,038 • 10-3 3,471 • 10-3

3 1 1,891 • 10-4 6,891 • 10-4 3,164 • 10-3 1,891 • 10-4 6,891 • 10-4 1,139 • 10-3 5,641 • 10-4 1,406 • 10-5 2,836 • 10-2

2 1,139 • 10-3 6,891 • 10-4 3,164 • 10-3 3,906 • 10-5 1,406 • 10-5 4,064 • 10-3 1,139 • 10-3 1,891 • 10-4

3 1,891 • 10-4 2,641 • 10-4 2,139 • 10-3 3,906 • 10-5 4,389 • 10-3 4,064 • 10-3 1,891 • 10-4 1,406 • 10-5

X (хУ - X1 i=1 1,517 • 10-3 1,642 • 10-3 8,467 • 10-3 2,672 • 10-4 5,092 • 10-3 9,267 • 10-3 1,892 • 10-3 2,172 • 10-4

4 1 1,174 • 10-4 2,417 • 10-3 1,460 • 10-2 7,951 • 10-3 2,417 • 10-3 4,340 • 10-4 4,340 • 10-4 6,944 • 10-7 8,058 • 10-2

2 1,174 • 10-4 2,417 • 10-3 1,228 • 10-2 8,507 • 10-4 3,501 • 10-3 3,701 • 10-3 8,403 • 10-5 6,944 • 10-7

3 2,417 • 10-3 2,417 • 10-3 1,712 • 10-2 3,674 • 10-4 4,784 • 10-3 1,667 • 10-3 3,674 • 10-4 1,174 • 10-4

X (хУ - XF i=1 2,652 • 10-3 7,252 • 10-3 4,400 • 10-2 9,169 • 10-3 1,070 • 10-2 5,802 • 10-3 8,854 • 10-4 1,187 • 10-4

Таблица 6.

Значения сумм квадратов отклонений

Table 6.

Values of sums of squared deviations

Уровень измеряемой характеристики внгр ^^межгр

1 3,800 • 10-3 1,226 • 10-2 1,606 • 10-2

2 1,480 • 10-2 6,840 • 10-2 8,320 • 10-2

3 4,000 • 10-3 2,436 • 10-2 2,836 • 10-2

4 7,400 • 10-3 7,318 • 10-2 8,058 • 10-2

Используя формулы (17) и (16), можно получить для каждого уровня измеряемой характеристики значения дисперсии повторяемости. Значения дисперсии воспроизводимости по методике ГОСТ [2] должны быть посчитаны по формуле (19), а по предлагаемой - по формулам (8), (11), (12). Полученные результаты представлены в табл. 7. Значения дисперсии воспроизводимости, полученные расчетом по методике [2], оказались завышенными на 6-8 % по сравнению с результатами расчетов на основании правила сложения сумм квадратов отклонений.

Таблица 7.

Результаты расчетов дисперсий

Table 7.

Results of variance calculations

Уровень измеряемой характеристики Дисперсия повторяемости 2 s r Расчеты по методике [2] Расчеты по предлагаемой методике

Дисперсия воспроизводимости 2 sR 2 SR S r Дисперсия воспроизводимости 2 sR 2 SR S r

1 2,375 • 10-4 7,423 • 10-4 3,125 6,984 • 10-4 2,940

2 9,250 • 10-4 3,874 • 10-3 4,188 3,617 • 10-3 3,910

3 2,500 • 10-4 1,327 • 10-3 5,307 1,233 • 10-3 4,932

4 4,625 • 10-4 3,793 • 10-3 8,202 3,504 • 10-3 7,575

Выводы

Анализ положений нормативных документов в области метрологии, регламентирующих оценку показателей прецизионности результатов измерений и их сопоставление с положениями теории статистики, привели к трем основным выводам.

1. Для нахождения оценки дисперсии воспроизводимости необходимо использовать правило сложения квадратов отклонений, а не дисперсий. При дальнейшем переходе к дисперсии воспроизводимости в качестве числа степеней свободы можно использовать величину pq - 1.

2. Дисперсия воспроизводимости характеризует разброс результатов единичных определений, сделанных в условиях воспроизводимости, относительно общей средней.

3. Для характеристики воспроизводимости результатов экспериментальных исследований необходимо использовать расширенную неопределенность результата измерения, для чего необходимо определить дисперсии повторяемости и воспроизводимости.

Библиографический список

1. ГОСТ Р ИСО 5725-1-2002. Точность (правильность и прецизионность) методов и результатов измерений. Часть 1. Основные положения и определения [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200029975 (Дата обращения 12.01.2022)

2. ГОСТ Р ИСО 5725-2-2002 Точность (правильность и прецизионность) методов и результатов измерений. Часть 2. Основной метод определения повторяемости и воспроизводимости стандартного метода измерений [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/ 1200029976 (дата обращения 12.01.2022)

3. ГОСТ Р ИСО 5725-6-2002. Точность (правильность и прецизионность) методов и результатов измерений. Часть 6. Использование значений точности на практике [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200029980 (дата обращения 12.01.2022)

4. Гмурман, В.Е. Теория вероятностей и математическая статистика: учеб. пособие для вузов / В.Е. Гмурман. - М.: Высшая школа, 2003. - 479 с.

5. ГОСТ 34100.3-2017/ISO/IEC Guide 98-3:2008. Неопределенность измерения. Часть 3. Руководство по выражению неопределенности измерения [Электронный ресурс] // Режим доступа: https://docs. cntd.ru/ document/ 1200146871 (Дата обращения 12.01.2022).

6. ГОСТ Р ИСО 3534-1-2019. Статистические методы. Словарь и условные обозначения. Часть 1. Общие статистические термины и термины, используемые в теории вероятностей [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200167574 (Дата обращения 12.01.2022)

7. ГОСТ Р 51232-98 Вода питьевая. Общие требования к организации и методам контроля качества. [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200003120 (Дата обращения 12.01.2022).

8. РМГ 61-2010. Рекомендации по межгосударственной стандартизации. Государственная система обеспечения единства измерений. Показатели точности, правильности, прецизионности методик количественного химического анализа. Методы оценки. [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200094703 (Дата обращения 12.01.2022).

9. РМГ 76-2014. Рекомендации по межгосударственной стандартизации. Государственная система обеспечения единства измерений. Внутренний контроль качества результатов химического анализа. [Электронный ресурс] // Режим доступа: https://docs.cntd.ru/document/1200123083 (Дата обращения 12.01.2022).

Дата поступления

в редакцию: 05.04.2022

i Надоели баннеры? Вы всегда можете отключить рекламу.