3. Вычисления достоверности различий при определении ПДК вещества
3.1. Вычисления достоверности различия по критерию t (Стьюдента)
st
Вычисляется критерий достоверности различия средних значений
тест-функции в контроле и в каждой из концентраций (t ):
d
X - X
контр. оп
t = ------------------.
d ---------------
/ 2 2
\/ S + S
контр. оп
Вычисленные величины критерия t сопоставляются с табличными значениями
d
(критерий Стьюдента), приведенными в таблице 3.1.1. Эти значения (t )
st
соответствуют уровню значимости P = 0,05 и числу степеней свободы
(k = n + n - 2) до 30.
оп контр.
Таблица 3.1.1
Значения критерия Стьюдента
┌──────┬──────┬───────┬──────┬──────┬──────┬──────┬─────┬─────┬─────┬─────┐ │k - │1 │2 │3 │4 │5 │6 │7 │8 │9 │10 │ ├──────┼──────┼───────┼──────┼──────┼──────┼──────┼─────┼─────┼─────┼─────┤ │t - │12,7 │4,3 │3,18 │2,78 │2,57 │2,45 │2,37 │2,31 │2,26 │2,23 │ │ st │ │ │ │ │ │ │ │ │ │ │ ├──────┴──────┴───────┴──────┴──────┴──────┴──────┴─────┴─────┴─────┴─────┤ ├──────┬──────┬───────┬──────┬──────┬──────┬──────┬─────┬─────┬─────┬─────┤ │k - │11 │12 │13 │14 │15 │16 │17 │18 │19 │20 │ ├──────┼──────┼───────┼──────┼──────┼──────┼──────┼─────┼─────┼─────┼─────┤ │t - │2,2 │2,18 │2,16 │2,15 │2,13 │2,12 │2,11 │2,10 │2,09 │2,09 │ │ st │ │ │ │ │ │ │ │ │ │ │ ├──────┴──────┴───────┴──────┴──────┴──────┴──────┴─────┴─────┴─────┴─────┤ ├──────┬──────┬───────┬──────┬──────┬──────┬──────┬─────┬─────┬─────┬─────┤ │k - │21 │22 │23 │24 │25 │26 │27 │28 │29 │30 │ ├──────┼──────┼───────┼──────┼──────┼──────┼──────┼─────┼─────┼─────┼─────┤ │t - │2,08 │2,07 │2,07 │2,06 │2,06 │2,06 │2,05 │2,05 │2,05 │2,04 │ │ st │ │ │ │ │ │ │ │ │ │ │ └──────┴──────┴───────┴──────┴──────┴──────┴──────┴─────┴─────┴─────┴─────┘
Различие между средними значениями тест-параметра в опыте и в контроле
считается достоверным, если рассчитанная величина t , при соответствующей
d
величине k, равна табличной или превышает ее (t >= t ).
d st
3.2. Вычисления достоверности различия по критерию F (Фишера)
Для каждой пары сравниваемых средних величин (опыт и контроль) вычисляется величина отношения соответствующих дисперсий (квадратов средних квадратических отклонений):
2
сигма
1
F = -------.
эксп 2
сигма
2
Всегда берется отношение большей дисперсии к меньшей, поэтому величина
F не может быть меньше единицы.
эксп
Полученная величина критерия F сопоставляется с табличными
эксп
значениями (F ) для уровня значимости P = 0,05 при соответствующем числе
ст
степеней свободы k и k (Таблица 3.2.1).
1 2
Если F больше F при соответствующем значении степеней свободы, то
эксп ст
различие между сравниваемыми вариантами (между опытом и контролем)
достоверны.
Таблица 3.2.1
Значения критерия Фишера
┌──────────────────────┬──────────────────────────────────────────────────┐ │ k - число степеней │k - число степеней свободы для большей дисперсии │ │ 2 │ 1 │ │ свободы для меньшей ├─────┬────┬────┬────┬────┬────┬────┬────┬────┬────┤ │ дисперсии │ 1 │ 2 │ 3 │ 4 │ 5 │ 6 │ 7 │ 8 │ 9 │ 10 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │1 │161 │200 │216 │225 │230 │234 │237 │239 │241 │242 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │2 │18,5 │19,0│19,3│19,3│19,4│19,4│19,4│19,4│19,4│19,4│ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │3 │10,1 │9,6 │9,3 │9,1 │9,0 │8,9 │8,9 │8,8 │8,8 │8,8 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │4 │7,7 │6,9 │6,6 │6,4 │6,3 │6,2 │6,1 │6,0 │6,0 │6,0 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │5 │6,6 │5,8 │5,4 │5,2 │5,1 │5,0 │4,9 │4,8 │4,8 │4,7 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │6 │6,0 │5,1 │4,8 │4,5 │4,4 │4,3 │4,2 │4,2 │4,1 │4,1 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │7 │5,6 │4,7 │4,4 │4,1 │4,0 │3,9 │3,8 │3,7 │3,7 │3,6 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │8 │5,3 │4,5 │4,1 │3,8 │3,7 │3,6 │3,5 │3,4 │3,4 │3,3 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │9 │5,1 │4,3 │3,9 │3,6 │3,5 │3,4 │3,3 │3,2 │3,2 │3,1 │ ├──────────────────────┼─────┼────┼────┼────┼────┼────┼────┼────┼────┼────┤ │10 │5,0 │4,1 │3,7 │3,5 │3,3 │3,2 │3,1 │3,1 │3,0 │3,0 │ └──────────────────────┴─────┴────┴────┴────┴────┴────┴────┴────┴────┴────┘
4. Использование пробит-анализа для определения ЛК
50
При определении концентраций, способных вызывать гибель 50% особей в выборке (например, при определении ОБУВ вещества), проводят такое преобразование значений концентрации и эффекта гибели организмов, при котором зависимость эффекта от концентрации превращается из сигмоиды в прямую линию. Такое преобразование позволяет по данным, полученным только для 2 - 3 концентраций, определить вероятный эффект для всего диапазона концентраций от максимально недействующей до минимально абсолютно летальной.
Для этого на графике значения процентных концентраций вещества переводятся в логарифмическую форму, а полученный эффект - из процентов гибели организмов в соответствующие им значения условных единиц - пробитов. Значения пробитов приводятся в таблице 4.1.
Таблица 4.1
Значение процента гибели организмов в опыте
соответствующему условному числу единиц-пробитов
|
Гибель, %
|
0
|
1
|
2
|
3
|
4
|
5
|
6
|
7
|
8
|
9
|
|
-
|
2,67
|
2,95
|
3,12
|
3,25
|
3,35
|
3,45
|
3,52
|
3,59
|
3,66
|
|
|
10
|
3,72
|
3,77
|
3,82
|
3,83
|
3,92
|
3,96
|
4,01
|
4,05
|
4,08
|
4,12
|
|
20
|
4,16
|
4,19
|
4,23
|
4,26
|
4,29
|
4,33
|
4,36
|
4,39
|
4,42
|
4,45
|
|
30
|
4,48
|
4,50
|
4,53
|
4,56
|
4,59
|
4,61
|
4,64
|
4,67
|
4,69
|
4,72
|
|
40
|
4,75
|
4,77
|
4,80
|
4,82
|
4,85
|
4,87
|
4,90
|
4,92
|
4,95
|
4,97
|
|
50
|
5,00
|
5,03
|
5,05
|
5,08
|
5,10
|
5,13
|
5,15
|
5,18
|
5,20
|
5,23
|
|
60
|
5,25
|
5,28
|
5,31
|
5,33
|
5,36
|
5,39
|
5,41
|
5,44
|
5,47
|
5,50
|
|
70
|
5,52
|
5,55
|
5,58
|
5,61
|
5,64
|
5,67
|
5,71
|
5,74
|
5,77
|
5,81
|
|
80
|
5,84
|
5,88
|
5,92
|
5,95
|
5,99
|
6,04
|
6,08
|
6,13
|
6,18
|
6,23
|
|
90
|
6,28
|
6,34
|
6,41
|
6,48
|
6,55
|
6,64
|
6,75
|
6,89
|
7,05
|
7,33
|
На графике, отражающем связь эффекта (в пробитах) с концентрацией (в
логарифмах), определяют точку, соответствующую пробиту 5 (50% гибели), и
опускают из нее перпендикуляр на ось концентраций. Основание этого
перпендикуляра придется на концентрацию, соответствующую ЛК .
50
Помимо графического может быть использован расчетный способ определения полуэффективной концентрации. Он основан на прямолинейной взаимосвязи между концентрацией и эффектом, выраженным в пробитах.
Для этого вводятся дополнительные обозначения:
x - порядковый номер данной концентрации в шкале исследованных концентраций;
y - гибель тест-организмов, выраженная в пробитах;
B - весовой коэффициент пробита, определяемый по таблице 4.2:
Таблица 4.2
Весовые коэффициенты значений пробитов
|
Пробит
|
0,0
|
0,1
|
0,2
|
0,3
|
0,4
|
0,5
|
0,6
|
0,7
|
0,8
|
0,9
|
|
3
|
1,0
|
1,2
|
1,4
|
1,6
|
1,8
|
2,0
|
2,3
|
2,6
|
2,9
|
3,2
|
|
4
|
3,5
|
3,7
|
3,9
|
4,1
|
4,3
|
4,5
|
4,6
|
4,7
|
4,8
|
4,9
|
|
5
|
5,0
|
4,9
|
4,8
|
4,7
|
4,6
|
4,5
|
4,3
|
4,1
|
3,9
|
3,7
|
|
6
|
3,5
|
3,2
|
2,9
|
2,6
|
2,3
|
2,0
|
1,8
|
1,6
|
1,4
|
1,2
|
Зависимость между концентрацией и эффектом, выраженным в пробитах,
описывается следующим уравнением: y = A + A x.
0 1
Для вычисления коэффициентов A и A может быть использован калькулятор
0 1
с программой определения коэффициентов прямолинейной регрессии или
производятся следующие операции ("методом наименьших квадратов"):
По данным, полученным в исследованиях, составляется таблица по соответствующей форме (Таблица 4.3):
Таблица 4.3
Исходные данные
для вычисления компонентов системы уравнений при вычислении
ЛК "методом наименьших квадратов"
50
┌───────────────────┬────┬──────┬───────┬──────┬───────┬───────┬──────────┐ │ │ │ │ │ │ 2 │ │ │ │Концентрация, мг/л │ x │ y │ B │ XB │ x B │ yB │ xyB │ ├───────────────────┼────┼──────┼───────┼──────┼───────┼───────┼──────────┤ │ │ │ │ │ │ 2 │ │ │ │ │ │ │ SUMB │SUMxB │SUMx B │ SUMyB │ SUMxyB │ └───────────────────┴────┴──────┴───────┴──────┴───────┴───────┴──────────┘
Данные из таблицы используются для решения следующей системы уравнений:
┌
│ A x SUMB + A x SUMxB = SUMyB
│ 0 1
│
(1) < 2
│ A x SUMxB + A x SUMx B = SUMxyB
│ 0 1
└
(2) A = (SUMyb - A x SUMxB) / SUMB
0 1
SUMxB 2
(3) ----- x (SUMyB - A x SUMxB) + A x SUMx B = SUMxyB
SUMB 1 1
Из уравнения (3) вычисляем A и подставляем его в уравнение (2) для
1
вычисления A .
0
Подставив оба коэффициента и величину "y", равную 5 (пробит 50%), в
уравнение (1), можно вычислить искомую величину концентрации ЛК .
50