NOTIUNI DE PRELUCRARE SI ANALIZA

A REZULTATELOR EXPERIMENTALE
modalitati de prezentare a
rezultatelor experimentale
(tabele, diagrame, ecuatii)

caracterizarea si prelucrarea
datelor experimentale
(teste statistice, teste de corelatie)
date (experimentale)

- dare (lat.) = a da
- informatii pe care o situatie particulara le da unui
observator
- nu reprezinta realitatea absoluta; sunt manifestari ale
realitatii

- utilizarea corecta a metodelor de analiza si prelucrare a
datelor experimentale maxim de informatii dintr-un
experiment

- modele matematice Y = f(X
1
, X
2
, .....X
n
)
- rationale ecuatie dedusa teoretic
- empirice ecuatie rezultata din corelarea unor
date experimentale
Tabele

- contin valori numerice pentru doua categorii de variabile:
independente (X) si dependente (Y)

- titlul tabelului clar, concis, complet
- capul tabelului
denumirea variabilelor (simboluri), unitati de masura
- coloane valori ale variabilelor
- linii (randuri) interdependentele intre variabile
- prima coloana informatii pentru identificarea datelor
(numarul/codul probei/experientei)

- datele - ca atare sau prelucrate (ecuatii, grafice)

- avantaje - simple, usor de intocmit
- dezavantaje sugestivitate insuficienta
Scara etalon pentru determinarea cantitativa a polifenolilor totali

Nr. Concentratia
(micrograme ac. galic/ml)
Absorbanta
1. 0 0,0048
2. 1 0,1010
3. 2 0,2110
4. 3 0,3069
5. 4 0,4011
6. 5 0,4877
7. 6 0,5885
8. 7 0,6931
- interpolare determinarea lui Y pentru valori ale lui X in
limita valorilor extreme cuprinse in tabel
grafica: y = f(x)

-extrapolare determinarea lui Y pentru valori ale lui X in
afara valorilor extreme cuprinse in tabel (valori orientative)



Diagrame

- reprezentarea relatiei dintre doua sau mai multe marimi
variabile (linie, curba, suprafata de raspuns)


- avantaje:
- usurinta in compararea datelor
- evidentierea maximelor, minimelor, punctelor de inflexiune
- posibilitatea determinarii unei dependente matematice intre
marimi

-etape pentru construirea unei diagrame:

1. stabilirea sistemului de reprezentare
abscisa valorile variabilei independente
ordonata valorile variabilei dependente

2. identificarea axelor de coordonate
denumirea variabilelor, simboluri, unitati de masura

3. fixarea modulului axelor de coordonate
modul = lungimea corespunzatoare unitatii de masura a
marimii de reprezentat
suficient de mare
exprimat printr-un numar intreg


4. divizarea axelor de coordonate
intervale uniforme datele sa fie distribuite pe intreaga
suprafata a graficului
originea sistemului axelor de coordonate nu trebuie
inclusa obligatoriu

domeniul de variatie al variabilelor este prea mare:

ruperea curbei in mai multe portiuni
limitarea diagramei numai pe domeniul de valori
care intereseaza
reprezentarea pe aceeasi scara cu schimbarea modulului
5. evidentierea punctelor si trasarea curbei
simboluri - cerc, triunghi, romb, patrat, dreptunghi
legenda explicarea simbolurilor
bare de erori eroare de masurare a variabilelor
dependente
punctele, curba - grosime mai mare comparativ cu cea a
axelor

un grafic mai multe curbe

6. intitularea graficului clara (autoexplicare)

programe software specializate in intocmirea de tabele si grafice:
LOTUS 1-2-3 EXCEL
y = 0.0974x + 0.0083
R
2
= 0.9994
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0 1 2 3 4 5 6 7 8
conc. (microg/ml)
e
x
t
i
n
c
t
i
a
Scara etalon pentru determinarea cantitativa a polifenolilor totali

1 2 3 4 5 6 7
0
50
100
150
200
250
m
i
l
i
e
c
h
i
v
a
l
e
n
t
i

a
c
.

g
a
l
i
c
/
1
0
0

g

e
x
t
r
a
c
t
extract
Reprezentarea grafica a continutului in polifenoli totali
(miliechivalenti acid galic/100 g extract) al extractelor 1 - 7
Caracterizarea statistica a datelor experimentale

- stabilirea unei relatii de dependenta intre variabile
sistematizarea si caracterizarea datelor experimentale
- sistematizare tabele, diagrame, grafice
- caracterizare teste de statistica, teste de corelatie

- analiza numeroase etape surse de erori care afecteaza
rezultatele obtinute
- rezultatul nu reprezinta exact marimea cautata, ci o valoare
apropiata de aceasta
- masura in care un rezultat este accceptabil si demn de
incredere
- calculul statistic - aproximarea cu o anumita probabilitate a
masurii in care rezultatul unei analize se apropie de valoarea
adevarata
- orice analiza (operatie) comporta erori

- eroare = lipsa concordantei dintre observatia experimentala
exprimata prin rezultat si valoarea adevarata

-surse de erori:
- executantul
- instrumentele utilizate
- sistemul asupra caruia se efectueaza determinarea

- cuantumul erorilor datorate etapelor de analiza:
- prelevarea probei 40-45%
- pregatirea probei 30%
- etape ulterioare 20%
- masurarea 5-10%
calcularea erorilor:

eroare absoluta Ea = Xi A; (+/-)

eroare sistematica (eroare absoluta a mediei)
Ea = X - A


eroare relativa Er = Xi - A/A x 100
concentratii foarte mici de substanta
A = 20,08% Fe A = 0,80% Fe
Xi = 20,06% Fe Xi = 0,78% Fe
Ea = - 0,02 Ea = - 0,02
Er = - 0,0996% Er = - 2,5%

eroare relativa a mediei unui set de determinari
Er = X - A/A x 100

eroare mica exactitate mare
exactitatea relativa procente din valoarea adevarata:
Xi/A x 100 X/A x 100



TEST
concentratia unei probe: 42,76
valoarea adevarata: 42,84
eroarea relativa, procentual si la mie ?
exactitatea relativa ?
deviatia (abaterea) fata de medie
valoare obtinuta experimental media setului de determinari
d
i
= x
i
- x

deviatia medie
suma deviatiilor valorilor experimentale fata de medie/numar
de determinari
d = di / N

domeniul de dispersie (w)
valoarea cea mai mare valoarea cea mai mica

abaterea (deviatia, eroarea) standard ()
dispersia valorilor obtinute fata de medie
= (x
i
m)
2
/ N
m = media pe un numar infinit de determinari
N = numarul determinarilor (teoretic infinit)
deviatia (abaterea, eroarea) medie patratica (s)
s= (x
i
x)
2
/ N - 1
s valoare mica distributie a valorilor intr-un domeniu
ingust in jurul mediei precizie buna
exprima precizia unei valori

deviatia (abaterea, eroarea) medie patratica a mediei =
eroare standard (s
x
)
s
x
= s / N
exprima precizia metodei (medie)

deviatia (abaterea, eroarea) standard relativa s/x (RSD),
exprimata procentual = coeficient de variatie (CV)
RSD% = CV = s/x 100
compararea preciziilor
varianta (
2
, s
2
)
s
2
= (x
i
x)
2
/ N - 1
analiza cauzelor care determina dispersia datelor


TEST
dozarea Mg dintr-o proba:
I. 9,78 9,78 9,95 9,97
II. 10,15 10,02 10,12 10,18
valoare adevarata: 9,90
eroarea medie absoluta (Ea) ?
eroarea medie relativa (Er) ?
deviatia medie patratica (s) ?
deviatia medie patratica a mediei (s
x
) ?
coeficientul de variatie (CV) ?
domenii de dispersie (w) ?

-erori:
- sistematice
- intamplatoare
- personale (umane)

erori sistematice
- erori de metoda, erori instrumentale
- cauze permanente, cunoscute (impurificare, pierderi,
defecte ale aparatelor de masurare, etalonare incorecta a
vaselor de masurare a volumelor, citiri incorecte, reactii
secundare, conservare necorespunzatoare)
- dupa cauze:
erori ale metodelor
erori instrumentale
erori operationale si personale
- afecteaza exactitatea rezultatelor
- acuratete = exactitate = masura a apropierii sau
departarii rezultatului de valoarea reala
- media aritmetica a rezultatelor X
- rezultat analitic exact daca valoarea sa concorda
cu valoarea reala (adevarata) a marimii masurate
- se pot elimina (partial sau total)

erori ale metodelor:
-comportarea neideala a sistemelor analitice (instabilitatea
unor compusi, viteza mica a reactiilor, lipsa de specificitate a
unor reactivi)
- inerente metodelor analitice
- greu de identificat si corectat
- marimea erorii creste cu cat cantitatea de analit din proba
este mai redusa (componente in urme: 20%)
erori intrumentale:
-imperfectiuni ale instrumentelor (calibrare incorecta)
- influenta factorilor de mediu (masurarea pH-ului la
temperatura diferita de cea la care s-a facut calibrarea)
- orice instrument (performant!!!) erori

erori operationale si personale:
-lipsa de instruire si aptitudini
- ignoranta
- neatentie
- abilitate diferita de a face observatii cu exactitate (sesizarea
virajului de culoare, aprecierea nivelului de lichid in biureta
sau pipeta)

erori constante:
-valoare independenta de cantitatea de analit din proba
-erori de titrare

erori proportionale:
-valoarea creste/descreste proportional cu marimea probei
-eroare cu atat mai mare cu cat masa cantarita este mai mica


corectarea erorilor datorate metodelor:

1. efectuarea determinarii in comparatie cu o proba standard
- proba standard (etalon) = subst./amestec de subst. cu
compozitie si continut bine stabilite, pure, care reproduc fidel
(calit. si cant.) compozitia probei de analizat
-rezultatul obtinut se verifica in comparatie cu rezultatul
obtinut la determinarea cu proba standard

2. efectuarea determinarii printr-o alta metoda
-concordanta rezultatelor obtinute la determinarea aceluiasi
analit folosind metode diferite

3. efectuarea determinarii in paralel cu o proba martor (proba
in alb, blanc)
-proba martor nu contine analitul care se dozeaza

4. metoda adaosurilor standard
-eliminarea erorilor cauzate de interferente (probe cu
compozitie complexa); efecte de matrice
- ameliorarea sensibilitatii la determinarea analitilor care se
gasesc in concentratii foarte mici
-metoda adaosului unic:
proba / proba + standard

-metoda adaosurilor succesive
proba + volume constante de standard in etape
succesive
-metoda adaosurilor cu aducere la acelasi volum
proba
volume egale de proba + volume diferite de standard
aduse la acelasi volum


5. metoda standardului intern
- spectrofotometrie, cromatografie
- standard intern = alta specie chimica decat analitul care are
structura si proprietati cat mai asemanatoare cu acesta
- proba = standard intern + cant. necunoscuta de analit
- amestec standard =
standard intern + cant. cunoscuta de analit

raport conc. in proba/raport conc. in amestecul standard =
raport semnale in proba/raport semnale in amestecul standard

-evitarea erorilor datorate pierderilor de proba; orice operatie
afecteaza in aceeasi masura analitul si standardul intern

6. variatia marimii probei de analizat
-prezenta erorilor constante
- efectuarea de determinari pe probe de marimi diferite
-valori experimentale afectate de marimea probei

erori intamplatoare
- erori de reproductibilitate, erori aleatorii
- cauze necunoscute, neprevizibile, variabile (variatii
de temperatura, umiditate, presiune, defectiuni ale
ochiului, impurificare accidentala)
- afecteaza precizia rezultatelor
- precizia (fidelitatea) valori apropiate intre
rezultate
- nu se pot elimina

-se distribuie dupa o curba comparabila distributiei gaussiene
- ecuatia curbei de distributie normala (ecuatia lui Gauss)
evaluarea efectului total al erorilor intamplatoare asupra
rezultatului unei determinari fara a le cunoaste cauzele si
marimea individuala
Curba de distributie normala
Curbe de distributie normala pentru diferite valori ale lui
erori personale
erori umane
cauze : ignoranta, neglijenta:
- spalarea insuficienta/excesiva a precipitatelor
- calcinare insuficienta/excesiva a precipitatelor
- uscare insuficienta a precipitatelor
- spalare insuficienta a vaselor
- calcul incorect (mase moleculare/ionice, echivalenti)
- neatentie la cantarire si masurarea volumelor de solutii
- pierderi, contaminare accidentala

valuare anormala
- difera semnificativ de media aritmetica a datelor
- teste statistice:
- testul pentru eliminarea unui rezultat anormal
- testul t-Student

testul pentru eliminarea unui rezultat anormal:
calcularea amplitudinii (w)
w = X
max
X
min
Q = X
n
-X
n-1
/w sau Q = X
n+1
-X
n
/w
X
n
= valoarea anormala
X
n-1
= valoarea imediat inferioara
X
n+1
= valoarea imediat superioara

Q > Q
0
valoarea poate fi eliminata
Coeficientii Q
0
pentru eliminarea unui rezultat anormal (90%)
Nr. date
exp. (N)
3 4 5 6 7 8 9 10
Q
0
0,94 0,76 0,64 0,56 0,51 0,47 0,44 0,41
TEST
determinare cantitativa:
98,63 98,58 98,47 98,69%
98,47 eliminata ?
testul t-Student
x x/s t
x = valoarea anormala
x = media aritmetica a valorilor experimentale ale variabilei

t depaseste valorile critice de distributie Student valoarea
poate fi eliminata
- m (media adevarata) nu poate fi cunoscuta, dar se poate
aprecia gradul in care media valorilor obtinute experimental
se apropie de m

- intervalul in jurul valorii X in care m se poate gasi cu o
anumita probabilitate = interval de incredere; valori extreme
= limite de incredere
m = X ts/N ; t = parametru Student

-t valori diferite pentru diferite nivele de probabilitate

- probabilitate = nivel de incredere =
nr. cazuri favorabile/nr. total de cazuri posibile
90% 95%

- exprimarea rezultatului final: A = X ts
x
Valori critice ale distributiei Student (95%)
Nr. det.
(N)
1 2 3 4 5 6 7 8 9 10
t
12,705 4,303 3,182 2,776 2,571 2,447 2,365 2,306 2,262 2,228
TEST

media valorilor experimentale: 15,87%;
eroarea medie patratica: 0,20%
intervalul de incredere ptr. o probabilitate de 95% in
cazul in care s-au facut 4 determinari?
98,63 98,58 98,47 98,69
domeniul de incredere (probabilitate 95%) ?
Analiza de corelatie

-stabileste gradul de legatura dintre variabilele analizate
- dependente liniare sau parabolice

- covarianta (x, y)
cov(x,y) = (x
i
-x)(y
i
-y) / N-1
cov = 0 nici o corelatie; valori pozitive/negative

- coeficient de corelatie (r
y,x
)
exprima abaterea de la valoarea medie aritmetica
r(y,x) = (xi-x)(yi-y) / (x
i
-x)
2
(y
i
-y)
2

- coeficient de determinare (r
2
y,x)
exprima partea din variatia variabilei dependente Y
care poate fi explicata prin variatia variabilei
independente X
-testul Fischer (F)
-testeaza adecvanta unui model matematic (abilitatea
de a reprezenta date experimentale)
-compara dispersia datelor experimentale datorata
erorilor de experienta cu dispersia datelor
experimentale calculate pe baza modelului matematic
Fcalculat F
- modelul matematic reprezinta datele experimentale
cu probabilitatea corespunzatoare testului F
Valori critice ale distributiei Fischer
Nr. date
exp. (N)
1 2 3 5 7 9 10
1 161 200 216 230 237 241 242
2 18,51 19,0 19,16 19,30 19,36 19,38 19,39
3 10,13 9,55 9,28 9,01 8,88 8,81 8,87
CONTROLUL CALITATII REZULTATELOR
EXPERIMENTALE SI VALIDAREA
grafice de control ca procedee
statistice de control a desfasurarii
experimentelor

procesul de validare

analiza statistica de multivarianta in
validarea produselor farmaceutice
Grafice de control ca procedee statistice de control a
desfasurarii experimentelor

- harti de control ale lui Shewhart

- instrumente de evidentiere si verificare a calitatii

- cercetarea de preformulare si formulare farmaceutica
- procedee de screening farmacologic:
-grafice de control a mediei raspunsului biologic
-grafice de control al intervalului raspunsului
-performanta prod. testat/prod. de control
-media si variabilitatea raspunsului biologic
-validarea procedeului de testare
- etape de testare, dezvoltare, validare
-inregistrarea rezultatelor
estimarea deviatiei standard
construirea graficelor de control
- componente:
- set de puncte reprezentate cronologic
corespunzatoare caracteristicii de interes
- linie centrala estimarea mediei/deviatiei standard
- limitele superioara si inferioara de evaluare a datelor
- proces sub control
- proces in afara controlului date care depasesc limitele
grafice de medie (grafice de control a mediei de proces)

- cele mai utilizate in domeniul farmaceutic si medical

-ex.: controlul calitatii unui lot de produse:
- prelevarea unor seturi de cate 5 probe din regiuni
diferite 20 probe
- calcularea mediei fiecarui subgrup
- calcularea mediei de medie
- construirea graficului
linia centrala media de medie
limite superioara si inferioara limite de control
(calcul statistic; 3)

grafice de interval
(grafice de control a variabilitatii de proces)

R
i
= x
max i
-x
min

i

R = (R
1
+ R
2
+...............R
n
)/n
linia centrala
media intervalelor calculate pentru fiecare subgrup

limite de control:
UCL
R
= R + 3
R
(Upper Control Limit)
LCL
R
= R - 3
R
(Lower Control Limit)

R
= deviatia standard a intervalului R


analiza de tendinta

-utilizata pentru determinarea punctelor ne-naturale aflate in
interiorul limitei 3
Procesul de validare

-demonstreaza ca o metoda analitica conduce la rezultate
sigure, reproductibile (metoda este adecvata scopului pentru
care urmeaza sa fie folosita) sau ca un anumit procedeu
tehnologic realizeaza produse ce intrunesc normele specifice
de calitate

- metode analitice, procese tehnologice

- validare retrospectiva
metode/procedee/produse deja existente

- validare prospectiva
metode/procedee/produse noi
metodologia generala de validare a metodelor analitice

obiectiv demonstrarea ca o metoda de analiza corespunde
utilizarii pentru care a fost elaborata / un anumit procedeu
tehnologic realizeaza produse ce intrunesc normele specifice de
calitate

procedeu (metoda) validat au fost analizate:
exactitatea fidelitatea
specificitatea sensibilitatea

parametrii care fac obiectivul validarii:
exactitatea (acuratetea) fidelitatea (precizia)
repetabilitate reproductibilitate
linearitate specificitate
sensibilitate robustete

criterii de validare a metodelor de analiza:
- dupa nota Comisiei CEE (Comunitate Economica Europeana)
METODA CRITERII DE
VALIDARE
identificare/detectie - specificitatea
determinarea continutului
de impuritati
-specificitatea:
limita de detectie
limita de cuantificare
dozarea continutului
(concentratiei) sau a
activitatii substantei
-specificitate
- fidelitate
- repetabilitate
- reproductibilitate
- exactitate
- linearitate
- interval de linearitate
- sensibilitate
- dupa USP XXIII
CRITERII Dozarea
prod. activ,
prod. finiti
Dozarea
impuritatilor,
prod. de
degradare
Teste ptr.
limitele de
impuritati,
prod. de
degradare
Teste
farmaco
tehnice
fidelitate
(precizie)
+ - - +
exactitate
(acuratete)
- - + +
limita detectie
- - + +
limita cuantificare
- + - +
specificitate
+ + + +
interval validitate
+ + + +
linearitate
+ + - +
robustete
+ + + +
exactitate (acuratete)
concordanta dintre valoarea reala si rezultatul obtinut
ofera informatii asupra erorilor sistematice
Ea; Er; exactitate relativa

eroare absoluta: Ea = Xi A

eroare sistematica (eroare absoluta a mediei): Ea = X - A

eroare relativa Er = Xi - A/A x 100

eroare relativa a mediei unui set de determinari:
Er = X - A/A x 100

exactitatea relativa: Xi/A x 100 X/A x 100

fidelitate (precizie)
concordanta dintre rezultatele unei serii de masuratori
masura a repetabilitatii si reproductibilitatii

repetabilitate
fidelitate in conditii identice

reproductibilitate
fidelitate in conditii experimentale diferite

deviatia (abaterea fata de medie)
di = xi - x

deviatia medie
d = di / N

domeniul de dispersie (w)
valoarea cea mai mare valoarea cea mai mica

abaterea (deviatia, eroarea) standard ()
= (x
i
m)
2
/ N

deviatia (abaterea, eroarea) medie patratica (s)
s= (xi x)2 / N - 1

deviatia (abaterea, eroarea) medie patratica a mediei = eroare
standard (sx)
sx = s / N

deviatia (abaterea, eroarea) standard relativa s/x (RSD),
exprimata procentual = coeficient de variatie (CV)
RSD% = CV = s/x 100
linearitatea
intensitatea semnalului analitic variaza proportional cu
concentratia

specificitatea
determinarea unui component dintr-un amestec
multicomponent prin masurarea unui parametru fizico-chimic
caracteristic componentului urmarit
selectivitate
determinarea unui numar limitat de componente dintr-un
amestec multicomponent

limita de interferenta (C
int
) = conc. minima a unui component
interferent care poate produce perturbarea reactiei principale
erori sistematice

grad de selectivitate (l)
l = C
int
/ C
criteriu important ptr. aprecierea selectivitatii si specificitatii
neselective l 0,1
putin selective 0,1 < l 100
selective 100 < l 1000
foarte selective 1000 < l 10000
specifice l > 10000

sensibilitate
concentratia minima a unui component care poate fi
determinata cu siguranta

limita de detectie
cant. minima de component (mg) care poate fi identificata
limita de cuantificare
cant. cea mai mica de component care se poate doza, in
conditiile experimentale date, cu o anumita exactitate

limita de dilutie
volumul maxim de solutie in care se poate determina cant.
de component corespunzatoare limitei de detectie
L
D
= L
R
(mg) / V (mL)

robustete
obtinerea unor rezultate valabile (exacte) chiar daca se
produc modificari minore ale conditiilor experimentale
variatii mici rezultatele se pot valida


raport de validare

-obiectivele, scopul metodei, aplicabilitatea
- detalii subst., reactivi, standarde
- procedee de verificare a calitatii standardelor, reactivilor
- consideratii privind siguranta
- criterii de validare a metodei
- echipamente; cerinte privind functionarea si performatele lor
- detalii privind conditiile de lucru
- procedee statistice
- procedee de control a calitatii
- principalele reprezentari grafice (spectre, cromatograme)
- limita de acceptabilitate
- incertitudinea masuratorilor
- criterii pentru revalidare
- persoana care a validat metoda
- concluzii
TEST

Determinarea vitaminei C:
20,23 20,03 20,13 19,85 20,15

deviatia medie patratica (s)
deviatia medie patratica a mediei = eroare standard (sx)
deviatia (abaterea, eroarea) standard relativa s/x (RSD),
exprimata procentual = coeficient de variatie (CV)
interval de incredereal mediei la 95% (m)

Analiza statistica de multivarianta in validarea produselor
farmaceutice

- numar mare de variabile independente (proprietati fizico-
chimice, tip de echipament utilizat, parametri operationali,
ordinea etapelor procesului tehnologic)

- numar mare de variabile dependente (forta de compresie
duritatea si dizolvarea comprimatelor)

- fiecare variabila studiata independent si exhaustiv timp,
cost, lipsa de date privind interactiunile dintre variabile

-regresia multipla
- identifica relatii de legatura dintre variabilele
independente si o variabila dependenta
- dezavantaj investigheaza pe rand cate o variabila
dependenta

-analiza componentelor principale
- identifica cele mai importante variabile
(dependente) dezintegrare, duritate, dizolvare
- tehnici grafice

BIBLIOGRAFIE:

Popa L., Elemente de metodologia cercetarii stiintifice in
domeniul farmaceutic, ed. a II-a, Ed. Printech, Bucuresti, 2005.

Roman L., Bojita M., Sandulescu R., Validarea metodelor de
analiza si control, Ed. Medicala, 1998.

Boiculese L. V., Dimitriu G., Moscalu M., Elemente de
biostatistica, analiza statistica a datelor biologice, Ed. PIM,
Iasi, 2007.