【www.arisingsemi.com--节日相关】

相对平均偏差计算公式
使用SHARP  EL-5100计算相对标准偏差(RSD)、标准工作曲线、相关系数(r)和农药降解动态方程示例
注意:本计算器部分数码管失灵,可通过调整小数点位数读出。具体是按左侧TAB键,然后按3,保留3位,按4保留4位……。
1  计算相对标准偏差(RSD)、标准工作曲线、相关系数(r)示例
1.1计算相对标准偏差(RSD)
分析测试结果的精密度通常用相对标准偏差(RSD)表示,过去也有用变异系数(CV)表示的。
目前,我国相关标准中规定精密度用相对标准偏差(RSD)表示。
以下列一组测试数据为例计算相对标准偏差(RSD)。
表1 一组测定数据的统计值
重复
1
2
3
4
5
6
7
8
平均值()
标准偏差(Sx)
相对标准偏差(RSD)
测定值
20.5
21.3
19.6
20.1
20.8
21.0
21.7
19.9
20.6
0.7219
0.035
打开计算器电源ON ,将右下角的开关拨至统计档STAT ,按黄色的2ndF 和红色的CL 清空内存。
输入数据20.5,按蓝色的M+显示1.0000…., 依次输入21.3,按蓝色的M+显示2.0000…., 直至8组数据输入完毕。按黄色的2ndF,按4提取;按黄色的2ndF,按5提取Sx; 用Sx/×100= RSD
在常量和痕量分析中,对RSD有不同的要求,将测定值的RSD同标准中规定的RSD相比,判断是否超差。
超差则说明测定方法有问题。
分析测定方法中的准确度通常用回收率表示,即测定值与添加值的比值。常量分析为99~101%;痕量分析(如农药残留分析)通常为80~120%。添加通常采用“半量”添加的方法,比如原溶液中测定有50ng组分,再添入50ng组分。
农药残留的添加回收通常是在空白对照样品中添加。
1.2 标准工作曲线、相关系数(r)示例
表2 标准工作曲线数据统计
进样量(ng)
X轴
10
20
30
40
50
60
70
峰面积
Y轴
1020
2040
3060
4090
5110
6090
7150
直线回归方程
Y = 2.8571+101.92X
相关系数(r)
0.9999
打开计算器电源ON ,将右下角的开关拨至统计档STAT ,按黄色的2ndF 和红色的CL 清空内存。输入数据10,按M后出现逗号,然后输入数据1020,按M+显示1.0000…., 依次输入20,输入数据2040,按蓝色的M+显示2.0000…., 直至7组数据输入完毕。
按2ndF,按× 提取截距a; 按2ndF,按+ 提取斜率b 按2ndF,按( 提取相关系数(r)。
将得到的r同表5比较。本组n=5, 若线性相关(水平0.01,即100次试验,有99次应这样),r = 0.874,而本试验计算得r = 0.9999,说明成极好的线性回归关系;反之则不然。本计算器的直线回归方程为Y = a+bX。
有时对进样量、峰面积取单对数或双对数时,二者才能呈线性关系。
这与检测器特性有关。
2  计算农药降解动态方程示例
当X与Y在单对数坐标系上画图呈直线时,表明函数属于Y=debx的变量关系,即In Y=bX+Ind, 令Y’=InY, B=Ind, M=b, 则化为直线式:
Y’=MX+B
此时,
截距 
斜率 
大多数农药降解动态可用方程Ct = C0 e-Kt来具体表达,即通常所说的化学一级反应动力学方程。Ct=Y,d=C0,b=K=M,X=t。
由于农药在环境中的浓度通常是较低的,因此我们可以用下式来表达:

…………………………………………………………………(1)


(1)式积分得:
Ct = C0 e-kt………………………………………………………………

(2)
式中,K为降解速率常数;C0为农药的初始浓度;也叫原始沉积量;Ct为t时刻农药的浓度。



(2)式取对数得:
…………………………………………………………………

(3)


……………………………………………………………………

(4)

当施用的农药降解50%,即Ct=1/2C0时,所需时间叫降解半衰期,以T1/2表示时:
…………………………………………………………(5)


(5)说明T1/2与降解速率常数K成反比,与农药初始浓度C0无关。
同理T 0.99即农药降解99%所需时间可按下式计算:
……………………………………………………(6)


(3)~

(5)推算细节:


令Ct =1/2C0
………

(7)
大多数农药在农作物上和环境中的残留量(浓度),随施药后的时间(天)变化以近似负指数函数递减的规律变化。以甲基毒死蜱在甘蓝及土壤上的消解动态数据为例,具体介绍求降解动态方程实例。

表3 甲基毒死蜱在甘蓝及土壤上的消解动态
施药剂量
g/ha(a.i.)
取样间隔
时    间
(d)
施药1次
甘蓝
土壤
平均残留量
(mg/kg)
消解率
( % )
平均残留量
(mg/kg)
消解率
( % )
720
1/24
5.82

2.12

1
1.10
81
1.12
47
2
0.19
97
0.59
72
3
0.06
99
0.26
88
7
0.02
99
0.07
97
14
0.002
99
0.02
99
21
0.002
99
0.006
99
原始沉积量所对应的时间为1/24天,即喷药后1小时。
以X表示时间,Y表示残留量。在计算回归方程时,通常只取降解率达90%以上的1~2组数据。
即甘蓝上取4组数据,土壤上取5组数据。
表4 甲基毒死蜱在甘蓝上的消解动态统计数据
X(天)
1/24
1
2
3
Y(mg/kg)
5.82
1.10
0.19
0.06
lnY(mg/kg)
1.7613
0.0953
-1.6607
-2.8134
将Y 转换成lnY,或直接输入具有计算直线回归方程功能的计算器计算。

以SHARP  EL-5100计算器为例,甲基毒死蜱在甘蓝上的降解动态方程,计算结果为:r=-0.9957,是否相关,及相关显著水平,可查相关系数检验表(表2),v=4-2=2, P0.05=0.950, P0.01=0.990,因此该方程可以模拟该种药剂随时间变化的情况。a=1.7119,b=-1.5666=K。取a值自然对数为C0=5.5397,因此Ct = 5.5397e-1.5666t。
按式

(5)
由此,我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为:
Ct = 5.5397e-1.5666t,T1/2=0.4d,r=-0.9957,显著水平为P0.01。

按照上述计算过程,可同理计算出土壤上的降解方程。
对某些除草剂可用Ct=C0t-k 回归。
数据处理取双对数,即X和Y都取对数。
表5  相关系数检验表
N-2
P
N-2
P
0.05
0.01
0.05
0.01
1
2
3
4
5
6
7
8
9
10
0.997
0.950
0.878
0.811
0.754
0.707
0.666
0.632
0.602
0.576
1.000
0.990
0.959
0.917
0.874
0.884
0.798
0.765
0.735
0.708
11
12
13
14
15
16
17
18
19
20
0.553
0.532
0.514
0.497
0.482
0.468
0.456
0.444
0.433
0.423
0.684
0.661
0.641
0.623
0.608
0.590
0.575
0.561
0.549
0.537。

本文来源:http://www.arisingsemi.com/wendangdaquan/60117/