2. Первичная обработка данных
2.1. Для всех повторностей в контроле и в каждой из концентраций на конкретный срок вычисляется среднее арифметическое значение тест-функции X по формуле:
x + x + x + ... + x 1 2 3 n SUM x ----------------------- = ----- = X, n n
где: x - частные значения тест-параметра в каждой из повторностей (в контрольном варианте или в каждой из концентраций); n - количество значений (повторностей) в серии.
2.2. В случае существенных отклонений одной из дат в серии от средней арифметической целесообразно оценить, не выпадает ли она, в силу каких-то побочных причин, из общей закономерности. Для этого может быть проведено вычисление по следующим формулам:
если сомнительная дата оказалась наименьшей по значению -
x - x 2 1 v = ---------, x - x n-1 1 где v - коэффициент оценки принадлежности; x - сомнительная дата 1 (наименьшая); x - дата, следующая по величине; x - дата, предшествующая 2 n-1 наибольшей в серии,
если сомнительная дата оказалась наибольшей по значению -
x - x n n-1 v = ---------, x - x n 2 где x - сомнительная дата (наибольшая); x - дата, предшествующая по n n-1 величине; x - дата, следующая за наименьшей в серии. 2
Полученный коэффициент v сопоставляется с приведенными в таблице величинами для уровня значимости P = 0,05 и для разного числа повторностей n (Таблица 3.1):
Таблица 3.1
Значение коэффициента v от числа повторностей n
n -
|
4
|
5
|
6
|
7
|
8
|
9
|
10
|
11
|
12
|
V -
|
0,96
|
0,81
|
0,69
|
0,61
|
0,55
|
0,51
|
0,48
|
0,45
|
0,43
|
n -
|
13
|
14
|
15
|
16
|
17
|
18
|
19
|
20
|
|
V -
|
0,41
|
0,40
|
0,38
|
0,37
|
0,36
|
0,35
|
0,34
|
0,33
|
Если вычисленная величина v равна табличному или превышает его, то оцениваемая дата может быть исключена из выборки данных. Новое среднее арифметическое значение и все последующие вычисления производятся без этой даты.
2.3. Вычисляется среднее квадратическое отклонение значений тест-функции от среднего (сигма) для контроля и для каждой из концентраций:
2 SUM (x - X) -------------------- 2 i / 2 сигма = -------------; сигма = \/SUM (x - X) / (n-1). N - 1 i
2.4. Рассчитывается ошибка среднего арифметического значения тест-функции (S) в контроле и в каждой из концентраций:
сигма S = -----. - \/n