Analiza lexicala

Analiza lexicala

. Un atom lexical poate fi privit ca un reprezentant al unei clase de siruri de caractere cu reguli de formare precise. .clasa operatorilor. daca consideram ca reprezentari posibile pentru operatorul relational ³mai mic´ pe ³<´. Totusi.clasa constante intregi . In majoritatea limbajelor de programare.clasa constante reale . intr-un sir de simboluri numite atomi lexicali (tokeus). drept clase vom gasi: . In momentul in care o secventa de caractere a fost identificata ca o aparitie a unui simbol de baza. toate trei vor conduce la crearea aceluiasi atom lexical. De exemplu. analizorul lexical va crea un atom lexical care sa o descrie.Analiza lexicala transforma programul sursa. daca in clasa operatorilor intra de obicei putini operatori (10 ± 20). ³LESS´ si ³LT´. de cele mai multe ori limitarae aparand in urma implementarii si nu datorita definitiei limbajului.clasa identif. in clasa identificatorilor sau constantelor vom gasi un numar reletiv mare de elemente. Clasele sunt pentru o anumita implementare. multimi finite. vazut ca un sir de caractere.

atomul lexical va contine un cod numeric. sa clasifice aceste subsiruri si sa le traduca in atomi lexicali. subsiruri ce respecta regulile de formare ale atomilor lexicali. reprezentand clasa si un indicator spre zona in care se gaseste memorat sirul de caractere. De exemplu. atom lexical Clasa Valoare 1 zona sirurilor beta . sa zicem 1. adica in informatii codificate ce vor pastra esentialul : clasa fiecarui subsir si eventual. modul de regasire al subsirului. in cazul unui subsir clasificat ca identificator.Sarcina analizorului lexical (scanner) este sa detecteze in sirul de caractere al PS.

atom lexical Clasa Valoare Nume/ valoare Atribute 1 beta Zona sirurilor . sau ce reprezinta el in general. care este un ³dictionar´ al tuturor identificatorilor si constantelor din program. in atomul lexical se plaseaza un indicator spre intrarea din TS corespunzatoare identificatorului.In mod curent. indicatia (valoarea) este prelucrata spre a servi altor scopuri. compilatorul mentine o zona rezervata pentru Tabela de Simboluri (TS). iar in loc de indicator spre sir. In aceasta tabela trebuie cautat identificatorul depistat in sirul de intrare. In acest scop. atributele sale. De exemplu: pentru fiecare identificator ne intereseaza daca el apare pentru prima data in program.

extragere si reprezentare a simbolurilor de baza. Delimitatorii (cuvintele cheie. Pentru exemplificare sa consideram caracterul ³:´ care in limbajul Pascal este un simbol de baza. In momentul in care un analizor Pascal ajunge in starea finala corespunzatoare acestuia se poate opri si poate accepta simbolul. In acest caz s-a depistat sfarsitul sirului iar in capul de citire a benzii de intrare este pozitionat pe urmatorul caracter. pornind de la simbolurile de baza pot fi construite automate finite care sa le accepte. Stabilirea modului de tratare a erorilor. nefiind inceputul unui alt simbol de baza. caracterele speciale precum si combinatiile de caractere speciale) impreuna cu identificatorii si constantele reprezinta simbolurile de baza ale unui program sursa. . Reprezentarea si structura acestor simboluri de baza poate fi modificata fara a altera puterea de exprimare a limbajului. determinand sfarsitul simbolului in timpul cautarii.Construirea unui analizor lexical presupune parcurgerea urmatoarelor etape: Stabilirea simbolurilor de baza Stabilirea modului de recunoastere. Proiectarea atomului finit pentru fiecare symbol de baza. De regula. Implementarea analizorului lexical. Sarcina unui analizor lexical este sa extraga urmatorul sibol de baza din textul de intrare.

Daca atomul se opreste intr-o stare finala. In caz contrar. Se semnaleaza eroare lexicala doar in cazul in care nu s-a trecut printr-o stare finala in timpul parcurgerii sirului. Proiectarea automatului finit pentru determinarea unui anumit simbol de baza (atom lexical) presupune determinarea starilor automatului. a alfabetului de intrare si a functiei de tranzitie. se reface textul de la intrare in pozitia ultimei stari finale intalnite. O reprezentare a gramaticilor pentru aceste simboluri poate fi urmatoarea: . dar este inceputul simbolului ³:=´. cuvinte cheie. De aceea. procesul de obtinere a unui nou simbol de baza se incheie. constante caractere speciale. asigurandu-se astel o pozitie de intoarcere.Caracterul ³:´ este de asemenea un simbol de baza Pascal. Automatul trebuie deci sa retina informatii referitoare la cea mai recenta stare finala intalnita. Exemplu: Presupunem ca un limbaj are urmatoarele simboluri de baza: identificatori. analizorul trebuie sa avanseze dincolo de el pentru a vedea ce urmeaza. Pentru reprezentare se pot folosi diagramele de tranzitie. succesiuni de caractere speciale.

c 0 A1 c A2 0 : A3 0 . cuvant_cheie ¶and¶|¶begin¶. 4 2 3 c .¶. caracter_special ¶:¶| µ. constante cifra. cifra ¶0¶|«|¶9¶. succesiune_caractere_speciale ´:=´| ³<>´.indetificator -> litera (litera|cifra) litera ¶A¶|«|¶Z¶. Automatele finite corespunzatoare sunt urmatoarele: l 1 l.

Acesta se realizeaza prin cuplarea celor 4 automate pe starea initiala 0. astfel: A1 1 l : 3 4 A3 .= : A4 0 < 7 > 8 5 6 unde l reprezinta litera iar c cifra. Pentru a reprezenta analizorul lexical se construieste un automat global pentru recunoasterea simbolurilor de baza ale limbajului. 0 c : < 5 = > 7 6 8 A4 2 A2 .

in cazul tuturor tranzitiilor care provin din automatele A1 si A2 se va introduce o actiune care va concatena caracterul curent de la intrare la un sir dat.Pentru a extrage simbolul de baza care incepe dupa o pozitie p in sirul de intrare trebuie sa recunoastem si sa stergem caracterele nesemnificative ± ca de exemplu spatiile albe (blanc) si comentariile (/* orice sir format din caractere diferite de * si /) ± trebuie sa folosim automatul pentru a citi simbolul si sa fixam pozitia finala p¶.pentru fiecare tranzitie intr-o stare finala se introduce o actiune semantica care va codifica corespunzator atomul lexical. . se va introduce cate o actiune semantica pentru tratarea acesteia. Eliminarea caracterelor nesemnificative se poate face astfel: Spatiu alb orice car inafara de * si / / * * 0 9 10 11 / Analizorul lexical trebuie sa tina seama de urmatoarele cerinte: .in caz de eroare. . .

dupa modelul anterior urmatoarele gramatici: 1. ³end´. indetificator litera (litera | cifra)* litera ¶a¶ | µA¶ «|¶Z¶. Se va folosi o structura de date de tip inregistrare care va contine urmatoarele campuri: codul atomului lexical si valoarea sa. cifra µ0¶ |«|¶9¶.¶ -secventa de aractere speciale ³:=´ -cuvintele cheie ³begin´. Se vor construi.Problema rezolvata Sa se implementeze un analizor lexical care sa recunoasca: -identificatori. 2.¶cifra+ [scara] scara µe¶ [µ+¶ | µ-µ] constanta_intreaga. -constante intregi -caracterele speciale µ:¶ si µ. -constante reale. .constanta_intreaga cifra+ 3. constanta_reala cifra+ scara | cifra+ ¶.

repeta | | * adauga caracterul ch la nume | | citeste ch | | pana ch este diferit de litera sau cifra | | .Algoritmul in pseudocod: * initializeaza nume=´ ³ -cat_timp ch este spatiu alb repeta |citeste ch .daca * nume este cuvant cheie atunci | | *codifica corespunzator | | astfel | | * atomul este identificator | | altfel daca ch este cifra atunci | .daca ch este litera atunci | .repeta | | * adauga caracterul ch la nume | | citeste ch | | pana ch este diferit de cifra | | .

repeta | | | | * adauga caracterul ch la nume | | | | citeste ch | | | | pana ch este diferit de cifra | | | | | | | .¶ atunci | | * atomul este constanta reala | | * adauga caracterul la nume | | citeste ch | | .daca ch este cifra atunci | | .daca ch este µ+¶ sau µ-µ atunci | | | * adauga semnul in nume | | | citeste ch | | - .daca ch este µ.daca ch este µe¶ sau µE¶ atunci | | * atomul este constanta reala | | * adauga caracterul la nume | | citeste ch | | .|* atomul este constanta intreaga | .

daca ch este cifra atunci | | | .¶ | * Caracterul special µ.| | .¶ | citeste ch | altfel | * atom necunoscut | citeste ch - .repeat | | | | * adauga caracterul ch la nume | | | | citeste ch | | | | pana ch este diferit de cifra | | | | | | | altfel daca ch este µ:¶ atunci | * adauga ch la nume | citeste ch | .daca ch este µ=¶ atunci | | * secventa ³:=´ | | citeste ch | | altfel | | * Caracterul special µ:¶ | | altfel daca ch este µ.

nume[*k+1]=0.h> #include <string. void Adauga(int *k){ if(*k < dim-1) { atom.cpv.h> #define dim 25 typedef enum {cid. /*Daca este litera */ . atom. FILE *f.cbad.nume[*k]=ch. /*Initializare atom */ atom.cod=cbad. } } void Analex(void){ static int k.catrib.Programul C este: #include <stdio.nume[0]=0.cbegin. int ch. char nume[dim].cint. /*Elimina spatiile*/ while(isspace(ch)) ch=getc(f). } atom.h> #include <stdlib. struct {tipAtom cod.cdpct. atom.ceof }tipAtom .creal.h> #include <ctype.h> #include <conio. (*k)++.cend.

/*Retine partea fractionara */ ."end")) atom.cod=cint. ch=getc(f).cod=cend."begin")) atom. ch=getc(f). else atom. else if(!strcmp(atom.cod=cbegin. } if(!strcmp(atom. /*Atomul este constanta intreaga */ atom. ch=getc(f). } /*Daca este cifra */ else if(isdigit(ch)){ k=0.if(isalpha(ch)){ k=0.cod=cid. do{ Adauga(&k).nume.nume. }while(isdigit(ch)). while(isalnum(ch)){ Adauga(&k). Adauga(&k).

ch=getc(f). ch=getc(f). } if(isdigit(ch)){ do{ Adauga(&k). Adauga(&k). }while(isdigit(ch)). if(isdigit(ch)){ do{ Adauga(&k). }while(isdigit(ch)). ch=getc(f).cod=creal.cod=creal. ch=getc(f). } } . } } /*Retine exponentul */ if(ch=='e' || ch=='E'){ /*Atomul este constanta reala */ atom.if(ch=='. ch=getc(f). if(ch=='+' || ch=='-'){ Adauga(&k). Adauga(&k).'){ /*Atomul este constanta reala */ atom.

ch=getc(f).nume[1]=0.nume[0]=ch. Adauga(&k). atom. else{ /*Este caracter ilegal */ atom. atom.cod=cbad. atom. atom.cod=ceof. }/*Daca este sfarsit de fisier */ else if(ch==-1) atom. ch=getc(f). atom. ch=getc(f).cod=cpv.cod=cdpct.cod=catrib. if(ch=='='){ Adauga(&k). ch=getc(f).} /*Daca este doua puncte*/ else if(ch==':'){ k=0.'){ k=0. Adauga(&k). } } /*Daca este punct si virgula */ else if(ch=='./*Avanseaza la urmatorul caracter */ } } .

scanf("%s".fisier). exit(1). printf("%5s %-15s\n". // clrscr().atom."Cannot open input file \n")."*COD*". printf("%5d %-15s\n".atom. } ."*NUME*******").cod !=ceof.nume). for(.cod.int main(void){ char fisier[17].atom.){ Analex()."rt"))==NULL){ fprintf(stderr. } return 0. if((f=fopen(fisier. } ch=' '. printf("\nDati numele fisierului care se analizeaza ").

Odata stabilit tipul atomilor lexicali si avand o gramatica pentru acest limbaj. A A [( = sau = ] O solutie simpla pentru a obtine aceasta conditie este ca in productiile gramaticii sa se foloseasca. A N. In general. se obisnuieste ca toate aspectele legate de tratarea erorilor sa se rezolve printr-o colectie proceduri comune tuturor fazelor. In diferite faze ale compilarii exista sarcini comune ale tratarii erorilor. iar problema apartenentei la un limbaj este decidabila. In cazul unui limbaj regulat. Automatul finit poate fi considerat modelul de baza al analizorului lexical. problema analizei lexicale apare. in continuare. Modelul va fi completat in momentul proiectarii cu alte facilitati pentru a raspunde ami bine nevoilor analizei lexicale. daca este posibil. In acest din urma caz exista metode simple de a transforma gramatica intr-o gramatica regulata echivalenta. instrumentul matematic. adica: + pentru orice A.Modelul analizorului lexical Sintaxa atomilor lexicali se prezinta sub forma unei gramatici regulate sau a unui GIC care genereaza un limbaj regulat. problema de decizie trebuie. este ca niciun neterminal sa nu fie autocontinut. in primul rand necesitatii de generare a atomilor lexicali. completata cu problema codificarii atomilor lexicali si cu probelma semnalarii si tratarii erorilor. in primul rand. modulul formal folosit in conceperea cuvintelor din limbaj este automatul finit. . numai un tip de recursivitate: la stanga sau la dreapta. Pentru a vea imaginea completa. ca o problema de decizie: sa stabileasca despre sirul de caractere daca este sau nu atom lexical. restrictia impusa GIC pentru a putea fi transformata. De aceea. Se va pune in evidenta modul in care se face detectarea erorilor in analizorul lexical.

Sign up to vote on this title
UsefulNot useful