2. Первичная обработка данных

2. Первичная обработка данных

2.1. Для всех повторностей в контроле и в каждой из концентраций на конкретный срок вычисляется среднее арифметическое значение тест-функции X по формуле:

                   x  + x  + x  + ... + x
                    1    2    3          n   SUM x
                   ----------------------- = ----- = X,
                             n                 n

где: x - частные значения тест-параметра в каждой из повторностей (в контрольном варианте или в каждой из концентраций); n - количество значений (повторностей) в серии.

2.2. В случае существенных отклонений одной из дат в серии от средней арифметической целесообразно оценить, не выпадает ли она, в силу каких-то побочных причин, из общей закономерности. Для этого может быть проведено вычисление по следующим формулам:

если сомнительная дата оказалась наименьшей по значению -

                                   x  - x
                                    2    1
                              v = ---------,
                                  x    - x
                                   n-1    1

    где  v  -  коэффициент  оценки  принадлежности;  x  - сомнительная дата
                                                      1
(наименьшая); x  - дата, следующая по величине; x    - дата, предшествующая
               2                                 n-1
наибольшей в серии,

если сомнительная дата оказалась наибольшей по значению -

                                  x  - x
                                   n    n-1
                              v = ---------,
                                   x  - x
                                    n    2

    где x  - сомнительная дата (наибольшая); x    - дата, предшествующая по
         n                                    n-1
величине; x  - дата, следующая за наименьшей в серии.
           2

Полученный коэффициент v сопоставляется с приведенными в таблице величинами для уровня значимости P = 0,05 и для разного числа повторностей n (Таблица 3.1):

Таблица 3.1

Значение коэффициента v от числа повторностей n

n -
4
5
6
7
8
9
10
11
12
V -
0,96
0,81
0,69
0,61
0,55
0,51
0,48
0,45
0,43
n -
13
14
15
16
17
18
19
20
V -
0,41
0,40
0,38
0,37
0,36
0,35
0,34
0,33

Если вычисленная величина v равна табличному или превышает его, то оцениваемая дата может быть исключена из выборки данных. Новое среднее арифметическое значение и все последующие вычисления производятся без этой даты.

2.3. Вычисляется среднее квадратическое отклонение значений тест-функции от среднего (сигма) для контроля и для каждой из концентраций:

                         2
             SUM (x  - X)                    --------------------
         2         i                        /           2
    сигма  = -------------;       сигма = \/SUM (x  - X)  / (n-1).
                 N - 1                            i

2.4. Рассчитывается ошибка среднего арифметического значения тест-функции (S) в контроле и в каждой из концентраций:

                                     сигма
                                 S = -----.
                                        -
                                      \/n