美文网首页
生测数据分析中死亡率为0%以及100%的数据是应该删除

生测数据分析中死亡率为0%以及100%的数据是应该删除

作者: 发现Lichens | 来源:发表于2024-04-12 15:25 被阅读0次

    本文主要讨论生物测定数据处理过程中死亡率为0%以及100%的数据是应该删除

    在毒理学领域,我们主要通过生物测定去明确一种物质对生物的毒力大小。对于杀虫剂而言,最广泛的指标就是致死中剂量LD50或致死中浓度LC50,即杀死50%试虫所需要的杀虫剂剂量或浓度。一般我们需要设置5-7个药剂剂量和1个溶剂对照,每个剂量处理一定数目的试虫,处理一定时间后检测死亡率。(这里假设溶剂对照没有死亡,不用校正)我们将死亡率根据概率值转换表转换为概率值,将剂量进行对数转化,以概率值为纵坐标、剂量对数为横坐标,就可以得到剂量对数-概率值曲线,也称毒力回归线。那么根据这条线进行反推,我们就能得到死亡率为50%时对应的剂量,即LD50。

    生物测定实验数据

    根据下面的例子我们可以看到根据DPS数据处理系统得到的LD50为3.71 ng/头,确实是符合预期的。但是大多数人往往容易忽略的一点是,死亡率为0%以及100%的数据是应该删除的,因为这两个点明显偏离回归线。

    生物测定实验数据分析(DPS) 剂量对数-概率值曲线( 毒力回归线 )

    因此,我们比较了删除这两组数据后的线性回归拟合情况,结果表明删掉了这两组极端值后相关系数提高,p值降低,线性拟合程度更好。

    不同数据的分析结果

    但是情况也不是绝对的,如果死亡率的梯度本身不好,极端值对拟合情况的影响也有可能时好时坏。

    相关文章

      网友评论

          本文标题:生测数据分析中死亡率为0%以及100%的数据是应该删除

          本文链接:https://www.haomeiwen.com/subject/uytkxjtx.html