Všechny výsledky pro limity detekce pro vodní matrice byly shromážděny a jsou uvedeny na obrázku 1, tj.Tj. chybový graf pro průměr meze detekce každé složky zobrazené zvlášť.
Chybový graf meze detekce (ng/l) pro vodní matrici.
Meze detekce na základě poměru signálu k šumu (SN)
Výšky signálu a šumu se používají k výpočtu poměru signálu k šumu. Je zřejmé, že nižší hodnoty výšky šumu a vyšší hodnoty výšky signálu vedou k nižším hodnotám detekčních limitů. Tento přístup se většinou doporučuje, pokud přístroj vykazuje šum v nepřítomnosti analytu. V pokynech pro validační postup Harmonizace , poměr signál/šum se navrhuje použít analytické postupy, které vykazují základní šum. V instrumentální analýze se to považuje za detekční limit, protože v instrumentální analýze, jako je chromatografie, odezva přístroje silně souvisí se všemi vlastnostmi přístrojových částí dohromady, např. s nástřikovým portem, kolonou, pecí, detektorem, uživatelem atd. Poměr signálu k šumu (S/N) se vypočítá pomocí 2H/h, kde: H je výška píku odpovídajícího příslušné složce v chromatogramu získaném z předepsaného referenčního roztoku, měřená od maxima píku k extrapolované základní linii signálu pozorované ze vzdálenosti rovnající se dvacetinásobku šířky v polovině výšky; h je rozsah šumu pozadí v chromatogramu získaném po nástřiku nebo po aplikaci slepého pokusu, pozorovaný ze vzdálenosti rovnající se dvacetinásobku šířky v polovině výšky píku v chromatogramu získaném s předepsaným referenčním roztokem a pokud možno umístěný stejně kolem místa, kde se tento pík nachází. Podle tohoto vzorce vede detekce signálu vytvořeného analytem v jeho standardní formě k přístrojovému detekčnímu limitu, aniž by se braly v úvahu jakékoli kroky při úpravě vzorku. Proto při stanovení více reziduí, jako je tato studie, vykazuje každý analyt svou odezvu bez jakéhokoli rušivého faktoru, protože se jedná pouze o standardní roztok, a to je to, co je obecně známo jako instrumentální detekční limit (IDL).
Tabulka 3 znázorňuje maximální hodnotu šumu pro 4,4`-DDT (520) jako nejvyšší hodnotu detekčního limitu (0,563 μg/l ve vodě). Mez detekce se pohybovala od 0,066 do 0,563 μg/l ve vodě (průměr 0,202±0,141 μg/l); mezitím se výška šumu a signálu pohybovala od 86 do 520 (průměr 205±126) a od 1526 do 5116 (průměr 3411±997) pro 2 μg/l slepého vzorku obohacené matrice. V hodnotách meze detekce se objevil rostoucí trend v pořadí: Heptachlor epoxid< β-HCH< δ-HCH< α-HCH< heptachlor< aldrin< endosulfan II< 4. Zjištěná hodnota detekčních limitů se pohybovala v rozmezí od 1 do 5,4′-DDE< dieldrin< endrin< methoxychlor< endrin aldehyd< γ-HCH < 4,4′-DDD< endosulfan I< endosulfan sulfát< endrin keton< 4,4′-DDT. SN skutečně indikuje výkonnost přístroje u požadovaných analytů. Nejdůležitějšími charakteristikami při výkonu chromatografie jsou tedy zvolený detektor (ECD), stacionární fáze (kolona, HP-5ms), mobilní fáze (nosný plyn, N2), režim nástřiku (splitless) a teploty injekčního portu, pece a detektoru.
Mezě detekce založené na sklonu kalibrační křivky (CCS)
Sklon kalibrační křivky je dalším postupem pro předpoklad meze detekce v analytické chemii. Rajaković a Marković klasifikovali limity detekce kalibrační křivky do tří skupin: obyčejné nejmenší čtverce, vážené nejmenší čtverce a nelineární kalibrační křivky. Výsledky v tabulce 4 jsou založeny na lineárních nejmenších čtvercích. Pro kvantifikaci se používají dvě kalibrační metody, a to vnitřní a vnější kalibrace. Limity detekce byly vypočteny na základě sklonů těchto dvou grafů. Odezvy analytů (y) byly vyneseny proti koncentracím řady standardních hodnot analytů (x). Mez detekce byla vypočtena podle rovnice: a + 3 × S D y slope , (kde a je intercepce kalibrační rovnice). U externí kalibrace (CCSE) se meze detekce pohybovaly od 0,295 do 2,107 μg/l ve vodě (průměr 1,219±0,466 μg/l). Fatoki a Awofolu stanovili hodnoty mezi 5,5 a 20,6 ng/l na základě rovnice lineární kalibrační křivky pro některé organochlorové pesticidy ve vzorcích vody. Mezitím Rajaković a Marković ve studii o limitu detekce arsenu pomocí ICP uvádějí nespolehlivé hodnoty limitu detekce na základě rovnice lineární kalibrační křivky nejmenších čtverců.
Na druhé straně bylo zjištěno, že pomocí kalibrace vnitřního standardu se meze detekce (CCSI) pohybují v rozmezí od 0,178 do 2,043 (průměr 1,179±0,494). V hodnotách meze detekce se objevil rostoucí trend v pořadí: endosulfan sulfát> endrin aldehyd> 4,4′-DDE> endrin keton> endosulfan II> endrin> methoxychlor> dieldrin> 4,4′-DDT> γ-HCH> endosulfan I> 4,4′-DDD> α-HCH> β-HCH> aldrin> heptachlor epoxid> δ-HCH> heptachlor. Nejnižší detekční limit byl tedy pro endosulfansulfát a nejvyšší pro heptachlor na základě CCS. V případě CCSE je rostoucí trend meze detekce: heptachlor> endrin> α-HCH> β-HCH> δ-HCH> 4,4′-DDE> epoxid heptachloru> síran endosulfanu> aldehyd endrinu> keton endrinu> aldrin> endosulfan II> 4,4′-DDT> 4,4′-DDD> γ-HCH> dieldrin > methoxychlor> endosulfan I. Rostoucí trend u obou metod (CCSI a CCSE) proto není stejný, což by mohlo být důsledkem faktoru relativní odezvy pocházejícího z vlivu vnitřního standardu. Kromě toho limity detekce odvozené z kalibračního sklonu vnitřního standardu vykazují nižší hodnoty pro limity detekce odvozené metodou CCSE. Analýzy dat pomocí SPSS však neprokázaly žádné významné rozdíly mezi detekčními limity těchto dvou metod.
Detekční limity založené na laboratorně obohaceném slepém vzorku (LFB)
Detekční limit založený na laboratorně obohaceném slepém vzorku představuje další rozsah detekčních limitů pro cílové organochlorové pesticidy na základě směrodatné odchylky a hodnoty T . Limity detekce založené na LFB se pohybovaly od 0,001 do 0,005 μg/l ve vodě (průměr 0,002±0,001 μg/l). Tento rozsah detekčních limitů je ve shodě s Darko a Akoto , kteří stanovili rezidua organochlorových pesticidů ve vodě z jezera Bosomtwi v Ghaně. Toto rozmezí však nesouhlasí se studiemi Tan a He a Samoh a Ibrahim , kteří uvedli nižší, resp. vyšší rozmezí detekčních limitů.
Tendence zvyšování meze detekce je v tomto pořadí: endosulfan sulfát> 4,4′-DDE> endrin aldehyd> endrin keton> endosulfan II> endrin> methoxychlor> dieldrin> 4. V tabulce 1 jsou uvedeny hodnoty v rozmezí od 1 do 4,4′-DDT> γ -HCH> endosulfan I> 4,4′-DDD> α-HCH> β-HCH> aldrin> heptachlor epoxid > δ-HCH> heptachlor. Nejnižší a nejvyšší hodnoty detekčních limitů byly zjištěny pro endosulfansulfát a heptachlor. Laboratorní obohacený slepý vzorek zohledňuje všechny kroky přípravy a analýzy vzorku.
Mezní hodnoty detekce založené na LFB pro sediment jsou uvedeny v tabulce 5. Hodnoty ukazují úrovně detekce mezi 0,001 a 0,005 ng/g (průměr 0,001±0,001). Toto rozmezí je podobné výsledkům Kim a Kang ( 0,002 až 0,005 ng/g). Výsledky Tan a He (0,01-0,08 ng/g) a Kim a Lee (0,02-0.16 ng/kg) ukazují na vyšší, respektive nižší hodnoty při porovnání s detekčními limity této studie
Porovnání tří metod výpočtu detekčních limitů
Detekční limity metod v této studii se skládají ze tří metod, které jsou zdokumentovány v analytické chemii, a kterou použít, je na rozhodnutí chemika. U metody poměru signálu k šumu je kladen důraz na instrumentální vlastnosti. V metodě CCS je pozornost věnována rychlému a výchozímu předpokladu pro detekční limit. U metody LFB je předpoklad založen na postupech všech metod, ať už zlepšují, nebo snižují hodnoty detekce. Cílem zjištění rozdílů mezi těmito údaji je odhalit zákonitosti v údajích a zjistit, zda jsou spolehlivé pro vykazování hodnot meze detekce. Miller a Millerová doporučují porovnávat různé metody za účelem nalezení spolehlivých mezních hodnot detekce. Na druhou stranu v závislosti na povaze jednotlivých metod by měl chemik při použití kterékoli z nich dbát zvýšené opatrnosti. Nedoporučuje se používat metodu kalibrační křivky pro jednobodové kalibrace . Postup odstupu signálu od šumu se většinou používá spíše pro IDL než pro mez detekce metody. LFB může dávat vysoké hodnoty v případech rostoucí interference v několika krocích techniky úpravy vzorku. Ze všech tří metod výpočtu vykazují meze detekce založené na LFB nižší hodnoty.
Při posuzování vnitřního standardu i vnějšího standardu jako jedné metody výpočtu je rostoucí trend mezí detekce následující: LFB<SN<CCS. Přestože odstup signálu od šumu by měl mít nejnižší instrumentální detekční limit a metoda LFB by měla být vyšší, protože má horší citlivost kvůli interferencím, toto zjištění ukazuje, že analytik může zlepšit detekční limity metody v případě omezení v IDL. Chung a Chen rovněž zmínili tento efekt dosažení limitu detekce metody v matrici způsobený snížením chemického šumu z extrakce matrice. Proto lze extrakcí pomocí SPE a zesílením dosáhnout výsledků s nižším detekčním limitem při analýze organochlorových pesticidů, jak ukázala tato studie. Podobně Janska a Lehotay ve své studii na zelenině rovněž zjistili nižší limity detekce v matricových extraktech.
Podobnost všech provedených metod a jejich zběžná kontrola vyvolává možnost, že mezi údaji ze čtyř metod (CCSI, CCSE, SN, LFB) nejsou statisticky významné rozdíly. Proto je pro studium rozdílů spojených s metodami aplikovanými na 18 cílových organochlorových pesticidů vhodný t-test nezávislého vzorku. V programu SPSS byl proveden nezávislý výběrový t-test pro porovnání detekčních limitů (t(34)=9,5, P=0, dvouvýběrový). Byl zjištěn významný rozdíl mezi detekčními limity na základě SN (M=0,202, SD=0,14) a hodnotami CCS pro CCSI a CCSE na základě cílových OCP. Mezi detekčními limity na základě CCSI (M=1,12, SD=0,5) a detekčními limity na základě CCSE (M=1,22, SD=0,45; t(34)=0,6, P=0,56, dvouvýběrový test) nebyly významné rozdíly. Limity detekce založené na LFB (M=0,005, SD=0,002) a SN (M=0,202, SD=0,14; t(34)=6, P=0,00, two-tailed) vykazovaly významné rozdíly. K porovnání hodnot detekce na základě CCSI a LFB byl rovněž proveden t-test nezávislého výběru. Byl zjištěn významný rozdíl mezi detekčními limity na základě LFB (M=0,005, SD=0,002) a detekčními limity na základě CCSI (M=1,12, SD=0,5; t(34)=-7,5, P=0,00, dvouvýběrový test). Podobné výsledky byly zjištěny ve výzkumu Rajakoviće a Markoviće týkajícím se různých metod výpočtu meze detekce arsenu pomocí ICP. Zmiňuje, že jedinečnou hodnotu pro LOD vypočtenou určitým modelem nelze přímo srovnávat s hodnotami vypočtenými jinými modely.