Kaikki havaitsemisrajoja koskevat tulokset koottiin yhteen, ja ne on esitetty kuvassa 1, i.eli virhepalkkikaavio kunkin komponentin havaitsemisrajojen keskiarvosta, joka esitetään erikseen.
Havaitsemisrajan (ng/L) virhepalkki vesimatriisille.
Signaali-kohinasuhteeseen (SN)
Signaalin ja kohinan korkeuksia käytetään signaali-kohinasuhteen laskemiseen. On selvää, että alhaisemmat kohinan korkeuden arvot ja korkeammat signaalin korkeuden arvot johtavat alhaisempiin havaitsemisrajojen arvoihin. Tätä lähestymistapaa suositellaan useimmiten silloin, kun laitteessa esiintyy kohinaa ilman analyyttiä. Yhdenmukaistamisen validointimenettelyä koskevissa ohjeissa , signaali-kohinasuhde ehdotetaan käytettäväksi analyysimenetelmiä, joissa esiintyy lähtötason kohinaa. Instrumenttianalytiikassa tätä pidetään havaitsemisrajana, koska instrumenttianalytiikassa, kuten kromatografiassa, instrumentin vaste on vahvasti sidoksissa instrumentin kaikkien osien ominaisuuksiin yhdessä, esim. injektioporttiin, kolonniin, uuniin, detektoriin, käyttäjään jne. Signaali-kohinasuhde (S/N) lasketaan kaavalla 2H/h, jossa: H on kyseistä komponenttia vastaavan piikin korkeus kromatogrammissa, joka on saatu määrätystä vertailuliuoksesta, mitattuna piikin maksimista signaalin ekstrapoloidulle perusviivalle, joka on havaittu etäisyydeltä, joka on 20 kertaa puolikorkeuden leveys; h on taustakohinan vaihteluväli kromatogrammissa, joka on saatu injektion tai nollakokeen annostelun jälkeen ja joka on havaittu etäisyydeltä, joka on 20 kertaa määrätyllä vertailuliuoksella saadun piikin leveyden puolikorkeus, ja joka on mahdollisuuksien mukaan sijoitettu yhtä suurelle etäisyydelle paikasta, jossa piikki esiintyy. Tämän kaavan mukaan analyytin standardimuodossaan tuottaman signaalin havaitseminen johtaa instrumentaaliseen havaitsemisrajaan ottamatta huomioon mitään näytteen käsittelyvaiheita. Näin ollen tämän tutkimuksen kaltaisessa monijäämämäärityksessä kukin analyytti näyttää vasteensa ilman mitään häiritseviä tekijöitä, koska se on vain standardiliuos, ja tätä kutsutaan yleisesti instrumentaaliseksi havaitsemisrajaksi (IDL).
Taulukossa 3 on esitetty 4,4`-DDT:n (520) kohinan enimmäisarvo korkeimpana havaitsemisrajan arvona (0,563 μg/l vedessä). Havaitsemisrajat vaihtelivat välillä 0,066-0,563 μg/l vedessä (keskiarvo 0,202±0,141μg/l); samalla kohinan ja signaalin korkeus vaihtelivat välillä 86-520 (keskiarvo 205±126) ja 1526-5116 (keskiarvo 3411±997) 2 μg/l väkevöidyn matriisiveden nollanäytteen osalta. Havaitsemisraja-arvojen nouseva suuntaus ilmeni seuraavassa järjestyksessä: heptaklooriepoksidi< β-HCH< δ-HCH< α-HCH< heptakloori< aldriini< endosulfaani II< 4,4′-DDE< dieldriini< endriini< metoksikloori< endriinialdehydi< γ-HCH < 4,4′-DDD< endosulfaani I< endosulfaanisulfaatti< endriiniketoni< 4,4′-DDT. SN osoittaa todellakin laitteen suorituskyvyn halutuilla analyytteillä. Kromatografian suorituskyvyn kannalta tärkeimmät ominaisuudet ovat siis valittu detektori (ECD), stationäärifaasi (kolonni, HP-5ms), liikkuva faasi (kantokaasu, N2), injektiotapa (splitless) sekä injektioportin, uunin ja detektorin lämpötilat.
Kalibrointikäyrän kaltevuuteen (CCS) perustuvat havaitsemisrajat
Kalibrointikäyrän kaltevuus on toinen menettely, jolla voidaan olettaa havaitsemisraja analyyttisessä kemiassa. Rajaković ja Marković luokittelivat kalibrointikäyrien havaitsemisrajat kolmeen ryhmään: tavallinen pienin neliö, painotettu pienin neliö ja epälineaariset kalibrointikäyrät. Taulukon 4 tulokset perustuvat lineaariseen pienimpään neliöön. Kvantifioinnissa käytetään kahta kalibrointimenetelmää, nimittäin sisäistä ja ulkoista kalibrointia. Havaitsemisrajat laskettiin näiden kahden kuvaajan kaltevuuden perusteella. Analyyttien vasteet (y) piirrettiin analyyttien vakioarvojen sarjan (x) pitoisuuksia vastaan. Havaitsemisraja laskettiin yhtälöllä: a + 3 × S D y slope , (jossa a on kalibrointiyhtälön leikkauspiste) . Ulkoisessa kalibroinnissa (CCSE) havaitsemisrajat vaihtelivat 0,295-2,107 μg/l vedessä (keskiarvo 1,219±0,466 μg/l). Fatoki ja Awofolu määrittivät lineaarisen kalibrointikäyrän yhtälön perusteella joillekin orgaanisille klooratuille torjunta-aineille vesinäytteissä arvot välillä 5,5-20,6 ng/l. Rajakovićin ja Markovićin tutkimuksessa arseenin havaitsemisrajasta ICP:llä Rajaković ja Marković osoittivat epäluotettavia havaitsemisraja-arvoja lineaarisen pienimmän neliön kalibrointikäyrän yhtälön perusteella.
Toisaalta sisäisellä standardikalibroinnilla havaitsemisrajat (CCSI) vaihtelivat 0,178:n ja 2,043:n välillä (keskiarvo 1,179±0,494). Havaitsemisraja-arvojen nouseva suuntaus ilmeni seuraavassa järjestyksessä: endosulfaanisulfaatti> endriinialdehydi> 4,4′-DDE> endriiniketoni> endosulfaani II> endriini> metoksikloori> dieldriini> 4,4′-DDT> γ-HCH> endosulfaani I> 4,4′-DDD> α-HCH> β-HCH> aldriini> heptaklooriepoksidi> δ-HCH> heptakloori. Näin ollen alhaisin havaitsemisraja oli endosulfaanisulfaatilla ja korkein heptakloorilla CCS:n perusteella. CCSE:n tapauksessa havaitsemisrajan kasvava suuntaus on: heptakloori> endriini> α-HCH> β-HCH> δ-HCH> 4,4′-DDE> heptaklooriepoksidi> endosulfaanisulfaatti> endriinialdehydi> endriiniketoni> aldriini> endosulfaani-II> 4,4′-DDT> 4,4′-DDD> γ-HCH> dieldriini > metoksikloori> endosulfaani I. Näin ollen näiden kahden menetelmän (CCSI ja CCSE) kasvava suuntaus ei ole sama, mikä voi johtua sisäisen standardin vaikutuksesta johtuvasta suhteellisesta vastekertoimesta. Lisäksi sisäisen standardin kalibrointikaltevuuden perusteella johdetut havaitsemisrajat osoittavat alhaisempia tasoja kuin CCSE:llä johdetut havaitsemisrajat. LFB:hen perustuvat havaitsemisrajat vaihtelivat vedessä välillä 0,001-0,005 μg/l (keskiarvo 0,002±0,001 μg/l). Tämä havaitsemisrajojen vaihteluväli on sopusoinnussa Darkon ja Akoton kanssa, jotka määrittivät orgaanisten klooripitoisten torjunta-aineiden jäämiä vedestä Bosomtwi-järvestä Ghanassa. Tämä vaihteluväli ei kuitenkaan tue Tanin ja He:n sekä Samohin ja Ibrahimin tutkimuksia, joissa havaitsemisrajat olivat alempana ja ylempänä.
Havaitsemisrajan nouseva suuntaus on seuraavassa järjestyksessä: endosulfaanisulfaatti> 4,4′-DDE> endriinialdehydi> endriiniketoni> endosulfaani II> endriini> metoksikloori> dieldriini> 4,4′-DDT> γ -HCH> endosulfaani I> 4,4′-DDD> α-HCH> β-HCH> aldriini> heptaklooriepoksidi > δ-HCH> heptakloori. Alhaisin ja korkein havaitsemisraja oli endosulfaanisulfaatilla ja heptakloorilla. Laboratoriossa vahvistetussa nollanäytteessä otetaan huomioon kaikki näytteen valmistuksen ja analyysin vaiheet.
Taulukossa 5 on esitetty LFB:hen perustuvat sedimentin havaitsemisrajat. Arvot osoittavat havaitsemisrajat välillä 0,001-0,005 ng/g (keskiarvo 0,001±0,001). Tämä vaihteluväli on samanlainen kuin Kimin ja Kangin tulokset ( 0,002-0,005 ng/g). Tanin ja He:n (0,01-0,08 ng/g) sekä Kimin ja Leen (0,02-0.16 ng/kg) osoittavat korkeampia ja matalampia pitoisuuksia, kun niitä verrataan tämän tutkimuksen havaitsemisrajoihin
Ehavaitsemisrajojen laskentamenetelmien vertailu
Tässä tutkimuksessa käytetyt menetelmien havaitsemisrajat koostuvat kolmesta menetelmästä, jotka on dokumentoitu analyyttisessä kemiassa, ja sen käyttäminen on kemistin päätös. Signaali-kohinasuhde-menetelmässä painotetaan instrumenttiominaisuuksia. CCS-menetelmässä kiinnitetään huomiota nopeaan ja alustavaan oletukseen havaitsemisrajasta. LFB-menetelmässä tehdään oletus, joka perustuu kaikkien menetelmien menettelyihin riippumatta siitä, parantavatko vai vähentävätkö ne havaitsemisarvoja. Näiden tietojen välisten erojen selvittämisen tavoitteena on paljastaa tiedoissa olevia malleja, jotta nähdään, ovatko ne luotettavia havaitsemisraja-arvojen ilmoittamisessa. Miller ja Miller suosittelevat eri menetelmien vertailua luotettavien havaitsemisraja-arvojen löytämiseksi. Toisaalta kemistin olisi kunkin menetelmän luonteesta riippuen oltava varovainen, kun hän käyttää jotakin niistä. Kalibrointikäyrämenetelmää ei suositella käytettäväksi yhden pisteen kalibroinneissa. Signaali-kohinamenetelmää käytetään useimmiten pikemminkin IDL:n kuin menetelmän havaitsemisrajan määrittämiseen. LFB voi tuottaa korkeita arvoja, jos häiriöt lisääntyvät näytteen käsittelytekniikan useissa vaiheissa. Kolmesta laskentamenetelmästä LFB:hen perustuvat havaitsemisrajat osoittivat alhaisempia arvoja.
Kun otetaan huomioon sekä sisäinen standardi että ulkoinen standardi yhtenä laskentamenetelmänä, havaitsemisrajojen kasvava suuntaus on seuraava: LFB<SN<CCS. Vaikka signaalista kohinaan pitäisi olla alhaisin instrumentaalinen havaitsemisraja ja LFB-menetelmän pitäisi olla sitä korkeampi, koska sen herkkyys on huonompi häiriöiden vuoksi, tämä havainto osoittaa, että analyytikko voi parantaa menetelmän havaitsemisrajoja, jos IDL:ssä on rajoituksia. Chung ja Chen mainitsivat myös tämän vaikutuksen menetelmän havaitsemisrajan saavuttamiseen matriisissa, joka johtuu matriisiuutoista aiheutuvan kemiallisen kohinan vähentämisestä. Näin ollen uuttamalla SPE:llä ja tehostamalla voidaan saavuttaa alhaisempi havaitsemisraja analysoitaessa orgaanisia klooria sisältäviä torjunta-aineita, kuten tässä tutkimuksessa osoitettiin. Samoin Janska ja Lehotay havaitsivat alhaisempia havaitsemisrajoja matriisiuutoissa myös vihanneksia koskevassa tutkimuksessaan.
Kaikkien suoritettujen menetelmien samankaltaisuudet ja niiden satunnainen tarkastelu herättävät mahdollisuuden, että neljän menetelmän (CCSI, CCSE, SN, LFB) tuottamien tietojen välillä ei ole tilastollisesti merkittäviä eroja. Sen vuoksi riippumattoman otoksen t-testi soveltuu 18 orgaanisen kloorin torjunta-aineen kohdemenetelmiin sovellettuihin menetelmiin liittyvien erojen tutkimiseen. SPSS-ohjelmalla tehtiin riippumattoman otoksen t-testi havaitsemisrajojen vertailemiseksi (t(34)=9,5, P=0, kaksoishäntä). SN-pohjaisten havaitsemisrajojen (M=0,202, SD=0,14) ja CCSI:n ja CCSE:n CCS-arvojen välillä oli merkitsevä ero kohteena olevien orgaanisten kloorattujen kloorattujen parafiinien osalta. CCSI:hen perustuvien havaitsemisrajojen (M=1,12, SD=0,5) ja CCSE:hen perustuvien havaitsemisrajojen (M=1,22, SD=0,45; t(34)=0,6, P=0,56, kaksoissidonta) välillä ei ollut merkittäviä eroja. LFB- (M=0,005, SD=0,002) ja SN-pohjaiset (M=0,202, SD=0,14; t(34)=6, P=0,00, kaksihaarainen) havaitsemisrajat osoittivat merkittäviä eroja. CCSI:hen ja LFB:hen perustuvien havaitsemisarvojen vertailemiseksi tehtiin myös riippumattoman otoksen t-testi. LFB:hen perustuvien havaitsemisrajojen (M=0,005, SD=0,002) ja CCSI:hen perustuvien havaitsemisrajojen (M=1,12, SD=0,5; t(34)=-7,5, P=0,00, kaksihaarainen) välillä oli merkittävä ero. Samanlaisia tuloksia saatiin Rajakovićin ja Markovićin tutkimuksessa, joka koski arseenin havaitsemisrajan laskentamenetelmiä ICP:llä. Hän mainitsee, että tietyllä mallilla laskettua yksittäistä LOD-arvoa ei voida suoraan verrata muilla malleilla laskettuihin arvoihin.