Toate rezultatele pentru limitele de detecție pentru matrici de apă au fost adunate împreună și sunt prezentate în figura 1, i.adică un grafic cu bare de eroare pentru media limitelor de detecție ale fiecărui component prezentat separat.
Bară de eroare a limitelor de detecție (ng/L) pentru matricea de apă.
Limitele de detecție bazate pe raportul semnal/zgomot (SN)
Înălțimile semnalului și zgomotului sunt folosite pentru a calcula raportul semnal/zgomot. În mod clar, valori mai mici pentru înălțimea zgomotului și valori mai mari pentru înălțimea semnalului rezultă în valori mai mici pentru limitele de detecție. Această abordare este recomandată mai ales atunci când instrumentul prezintă zgomot în absența unui analit. În orientările pentru procedura de validare a armonizării , raportul semnal-zgomot se sugerează să se aplice proceduri analitice care prezintă zgomot de bază. În analiza instrumentală, aceasta este considerată limita de detecție, deoarece în analiza instrumentală, cum ar fi cromatografia, răspunsul instrumentului este strâns legat de toate proprietățile părților instrumentale luate împreună, de exemplu, portul de injecție, coloana, cuptorul, detectorul, utilizatorul etc. Raportul semnal/zgomot (S/N) se calculează cu 2H/h, unde: H este înălțimea vârfului corespunzător componentei în cauză, în cromatograma obținută din soluția de referință prescrisă, măsurată de la maximul vârfului până la linia de bază extrapolată a semnalului observat de la o distanță egală cu de 20 de ori lățimea la jumătatea înălțimii; h este intervalul zgomotului de fond într-o cromatogramă obținută după injectarea sau aplicarea unui blanc, observat de la o distanță egală cu de 20 de ori lățimea la jumătatea înălțimii vârfului din cromatograma obținută cu soluția de referință prescrisă și, dacă este posibil, situat în mod egal în jurul locului unde se găsește acest vârf. În conformitate cu această formulă, detectarea unui semnal produs de un analit în forma sa standard conduce la limita de detecție instrumentală, fără a lua în considerare nicio etapă de tratare a probei. Prin urmare, într-o determinare multireziduală, cum este cea din studiul de față, fiecare analit își arată răspunsul liber de orice factor de interferență, deoarece este doar o soluție standard, iar acest lucru este ceea ce se numește în general limita de detecție instrumentală (IDL).
Tabelul 3 ilustrează valoarea maximă a zgomotului pentru 4,4`-DDT (520) ca fiind cea mai mare valoare a limitei de detecție (0,563 μg/L în apă). Limitele de detecție au variat de la 0,066 la 0,563 μg/L în apă (media de 0,202±0,141μg/L); între timp, zgomotul și înălțimea semnalului au variat de la 86 la 520 (media de 205±126) și, respectiv, de la 1526 la 5116 (media de 3411±997), pentru 2 μg/L de apă matricială fortificată în gol. A apărut o tendință de creștere a valorilor limitei de detecție în ordine: Heptaclor epoxid< β-HCH< δ-HCH< α-HCH< heptaclor< aldrin< endosulfan II< 4,4′-DDE< dieldrin< endrin< metoxiclor< endrin aldehidă< γ-HCH < 4,4′-DDD< endosulfan I< sulfat de endosulfan< endrin cetonă< 4,4′-DDT. Într-adevăr, SN indică performanța instrumentului în ceea ce privește analiții doriți. Așadar, cele mai importante caracteristici în performanța cromatografică sunt detectorul selectat (ECD), faza staționară (coloană, HP-5ms), faza mobilă (gaz purtător, N2), modul de injecție (splitless) și temperaturile portului de injecție, ale cuptorului și ale detectorului.
Limitele de detecție bazate pe panta curbei de etalonare (CCS)
Panta unei curbe de etalonare este o altă procedură pentru a presupune o limită de detecție în chimia analitică. Rajaković și Marković au clasificat limitele de detecție ale curbei de calibrare în trei grupe: curbe de calibrare ordinare cu cel mai mic pătrat, curbe de calibrare cu cel mai mic pătrat ponderat și curbe de calibrare neliniare. Rezultatele din tabelul 4 se bazează pe cel mai mic pătrat liniar. Pentru cuantificare se utilizează două metode de calibrare, și anume calibrarea internă și externă. Limitele de detecție au fost calculate pe baza pantelor acestor două diagrame. Răspunsurile analiților (y) au fost reprezentate grafic față de concentrațiile unei serii de valori standard ale analiților (x). Limita de detecție a fost calculată cu ajutorul ecuației: a + 3 × S D y pantă , (unde a este o interceptare a ecuației de calibrare) . Pentru calibrarea externă (CCSE), limitele de detecție au variat de la 0,295 la 2,107 μg/L în apă (media de 1,219±0,466 μg/L). Fatoki și Awofolu au determinat valori cuprinse între 5,5 și 20,6 ng/L, pe baza unei ecuații de curbă de calibrare liniară pentru unele pesticide organoclorurate în probe de apă. Între timp, într-un studiu privind o limită de detecție a arsenicului cu ajutorul ICP, Rajaković și Marković arată valori ale limitei de detecție nesigure, pe baza unei ecuații liniare a curbei de calibrare a celor mai mici pătrate.
Pe de altă parte, prin calibrarea cu etalon intern, s-a constatat că limitele de detecție (CCSI) au variat de la 0,178 la 2,043 (media de 1,179±0,494). A apărut o tendință de creștere a valorilor limitei de detecție în ordine: sulfat de endosulfan> endrin aldehidă> 4,4′-DDE> endrin cetonă> endosulfan II> endrin> metoxiclor> dieldrin> 4,4′-DDT> γ-HCH> endosulfan I> 4,4′-DDD> α-HCH> β-HCH> aldrin> heptaclor epoxid> δ-HCH> heptaclor. Astfel, cea mai mică limită de detecție a fost pentru sulfatul de endosulfan, iar cea mai mare pentru heptaclor, pe baza CCS. În cazul CCSE, tendința de creștere a limitei de detecție este: heptaclor> endrin> α-HCH> β-HCH> δ-HCH> 4,4′-DDE> heptaclor epoxid> endosulfan sulfat> endrin aldehidă> endrin cetonă> aldrin> endosulfan II> 4,4′-DDT> 4,4′-DDD> γ-HCH> dieldrin> metoxiclor> endosulfan I. Prin urmare, tendința de creștere pentru cele două metode (CCSI și CCSE) nu este aceeași, ceea ce ar putea fi rezultatul unui factor de răspuns relativ care provine dintr-un efect de standard intern. În plus, limitele de detecție derivate din panta de calibrare a unui standard intern prezintă niveluri mai scăzute pentru limitele de detecție derivate prin CCSE. Cu toate acestea, analizele datelor prin SPSS nu au arătat diferențe semnificative între limitele de detecție ale acestor două metode.
Limitele de detecție bazate pe un blanc fortificat de laborator (LFB)
Limita de detecție bazată pe un blanc fortificat de laborator prezintă o altă gamă de limite de detecție pentru pesticidele organoclorurate țintă, bazată pe abaterea standard și valoarea T . Limitele de detecție bazate pe LFB au variat de la 0,001 la 0,005 μg/L în apă (media de 0,002±0,001 μg/L). Acest interval de limite de detecție este în concordanță cu Darko și Akoto , care au determinat reziduurile de pesticide organoclorurate în apa din lacul Bosomtwi, Ghana. Cu toate acestea, acest interval nu este în concordanță cu studiile lui Tan și He și Samoh și Ibrahim , care au raportat intervale mai mici și, respectiv, mai mari pentru limitele de detecție.
Tendința de creștere a limitei de detecție este în ordine: sulfat de endosulfan> 4,4′-DDE> endrin aldehidă> endrin cetonă> endosulfan II> endrin> metoxiclor> dieldrin> 4,4′-DDT> γ -HCH> endosulfan I> 4,4′-DDD> α-HCH> β-HCH> aldrin> heptaclor epoxid> δ-HCH> heptaclor. Cele mai mici și cele mai mari valori pentru limitele de detecție au fost pentru sulfatul de endosulfan și, respectiv, heptaclor. Un blanc fortificat de laborator ia în considerare toate etapele de pregătire și analiză a probei.
Limitele de detecție bazate pe LFB pentru sedimente sunt prezentate în tabelul 5. Valorile indică niveluri de detecție între 0,001 și 0,005 ng/g (media de 0,001±0,001). Acest interval este similar cu rezultatele lui Kim și Kang ( 0,002 – 0,005 ng/g). Rezultatele lui Tan și He (0,01-0,08 ng/g) și ale lui Kim și Lee (0,02-0.16 ng/kg) indică niveluri mai ridicate și, respectiv, mai scăzute, atunci când se compară cu limitele de detecție ale acestui studiu
Comparări între cele trei metode de calcul al limitei de detecție
Limitele de detecție ale metodelor din studiul actual constau din trei metode care sunt documentate în chimia analitică, iar care să fie folosită este o decizie a chimistului. În metoda raportului semnal/zgomot, accentul se pune pe proprietățile instrumentale. În metoda CCS, se acordă atenție unei ipoteze rapide și inițiale pentru limita de detecție. Metoda LFB face o presupunere bazată pe procedurile tuturor metodelor, indiferent dacă acestea îmbunătățesc sau reduc valorile de detecție. Scopul găsirii diferențelor dintre aceste date este de a dezvălui modelele din date, pentru a vedea dacă acestea sunt fiabile pentru raportarea valorilor limitei de detecție. Miller și Miller recomandă compararea diferitelor metode pentru a găsi valori limită de detecție fiabile. Pe de altă parte, în funcție de natura fiecărei metode, chimistul trebuie să fie atent atunci când utilizează oricare dintre ele. Nu se recomandă utilizarea metodei curbei de calibrare pentru etalonări într-un singur punct . Procedura semnal-zgomot este utilizată în principal pentru IDL, mai degrabă decât pentru o limită de detecție a metodei. LFB poate produce valori ridicate în cazurile de interferență crescândă în mai multe etape ale unei tehnici de tratare a probei. Dintre cele trei metode de calcul, limitele de detecție bazate pe LFB au prezentat valori mai mici.
Considerând atât etalonul intern, cât și etalonul extern ca o singură metodă de calcul, tendința de creștere a limitelor de detecție este după cum urmează: LFB<SN<CCS. Deși semnalul la zgomot ar trebui să aibă cea mai mică limită de detecție instrumentală, iar metoda LFB ar trebui să fie mai mare decât aceasta, deoarece are o sensibilitate mai slabă din cauza interferențelor, această constatare arată că un analist poate îmbunătăți limitele de detecție ale metodei în cazul unei limitări în IDL. Chung și Chen au menționat, de asemenea, acest efect al obținerii unei limite de detecție a metodei într-o matrice, cauzat de reducerea zgomotului chimic din extracțiile matricei. Prin urmare, extracția prin SPE și ameliorare poate obține rezultate cu o limită de detecție mai mică atunci când se analizează pesticide organoclorurate, așa cum se arată în acest studiu. În mod similar, Janska și Lehotay au găsit limite de detecție mai mici în extracțiile matriciale și în studiul său asupra legumelor.
Similitudinile dintre toate metodele efectuate și o inspecție ocazională a acestora ridică posibilitatea de a nu avea diferențe semnificative între datele celor patru metode (CCSI, CCSE, SN, LFB) din punct de vedere statistic. Prin urmare, un test t pentru eșantioane independente este adecvat pentru a studia diferențele asociate cu metodele aplicate la cele 18 pesticide organoclorurate vizate. Pentru a compara limitele de detecție, s-a efectuat un test t cu eșantioane independente cu SPSS (t(34)=9,5, P=0, cu două cozi). A existat o diferență semnificativă între limitele de detecție bazate pe SN (M = 0,202, SD = 0,14) și valorile CCS pentru CCSI și CCSE bazate pe PCO țintă. Nu au existat diferențe semnificative între limitele de detecție bazate pe CCSI (M=1,12, SD=0,5) și limitele de detecție bazate pe CCSE (M=1,22, SD=0,45; t(34)=0,6, P=0,56, cu două cozi). Limitele de detecție bazate pe LFB (M=0,005, SD=0,002) și SN (M=0,202, SD=0,14; t(34)=6, P=0,00, cu două cozi) au prezentat diferențe semnificative. S-a efectuat, de asemenea, un test t cu eșantion independent pentru a compara valorile de detecție bazate pe CCSI și LFB. A existat o diferență semnificativă între limitele de detecție bazate pe LFB (M=0,005, SD=0,002) și limitele de detecție bazate pe CCSI (M=1,12, SD=0,5; t(34)=-7,5, P=0,00, cu două cozi). Rezultate similare au fost găsite în cercetarea lui Rajaković și Marković privind diferite metode de calcul al limitei de detecție pentru arsenic prin ICP. El menționează că o valoare unică pentru LOD calculată de un anumit model nu poate fi comparată direct cu cele calculate de alte modele.
.