Sunteți pe pagina 1din 45

Sisteme Critice

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 1


Obiective

Un sistem software critic este acel sistem a cărui
eroare poate duce la pagube severe, atât umane,
cât și economice.

Explicarea celor patru dimensiuni ale
dependabilității - disponibilitate, fiabilitate,
siguranță și securitate.

Obținerea acestei dependabilități implică evitarea
greșelilor, detectarea și eliminarea erorilor, iar în
cazul apariției acestora, limitarea pagubelor.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 2


Subiecte incluse

Un simplu sistem de siguranță critică

Dependabilitatea sistemului

Disponibilitatea și fiabilitatea

Siguranța

Securitatea

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 3


Sisteme critice

Sisteme de siguranță critice
• Erorile conduc la rănirea sau chiar pierderea de vieți
umane, cât și la distrugeri ecologice semnificative;
• Sistemul software al unei uzine chimice;

Sisteme de scop critice
• Erorile sau defecțiunile pot duce la neîndeplinirea scopului
activității;
• Sistemul de navigare al unei nave spațiale;

Sisteme economice critice
• Erorile pot provoca importante pagube financiare;
• Sistemul de servicii bancare;

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 4


Dependabilitatea sistemului

Cea mai importantă caracteristică pe care oricare
sistem critic trebuie să o dețină este
dependabilitatea.

Dependabilitatea sistemului reflectă gradul de
încredere al utilizatorului în acel sistem, în sensul
că va funcționa precum se așteaptă utilizatorii și că
nu va „cădea" în condiții normale de utilizare.

Utilitatea și încrederea nu sunt identice ca sens. Un
sistem nu trebuie să fie de încredere pentru a fi util.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 5


Importanța dependabilității

Sistemele ce nu prezintă dependabilitate și
sunt lipsite de încredere, siguranță și
securitate sunt respinse de către utilizatori.

Costul unei erori sau al unui defect poate fi
foarte ridicat.

Sistemele ce nu au dependabilitate, pot
cauza pierderi de informații, ceea ce
necesită un cost ridicat de recuperare
ulterioară a acestora.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 6


Metode de dezvoltare a
sistemelor critice

Costurile de eșec ale sistemelor critice sunt
atât de mari, încât se folosesc metode de
dezvoltare în cazul anumitor tipuri de sistem.

Exemple de metode de dezvoltare
• Metode formale de dezvoltare software
• Analiză statică
• Asigurarea externă a calității

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 7


Sisteme critice socio-tehnice

Eșecuri hardware
• Hardware-ul cedează ca urmare a unor erori de
fabricație, sau componentele sale au a ajuns la
sfârșitul duratei de viață așteptată.

Eșecuri software
• Software-ul cedează din cauza greșelilor sale în
specificațiile tehnice, de proiectare sau punere
în aplicare.

Eșecuri operaționale
• Operatorii umani greșesc. Este, probabil, cea
mai răspândită cauză a disfuncționalităților
sistemului.
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 8
Pompa cu insulină controlată software

Folosită de diabetici pentru a stimula
funcționarea pancreasului ce are rolul de a
produce insulina, un hormon esențial ce
metabolizează glucoza în sânge.

Se măsoară nivelul de glucoză (zahăr) din
sânge, folosind un microsenzor, calculându-
se apoi doza de insulină necesară pentru a
metaboliza glucoza.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 9


Organizarea pompei cu insulină
Insulin reservoir

Needle
Pump Clock
assembly

Sensor Controller Alarm

Display1 Display2

Power supply

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 10


Fluxul de date al pompei cu insulină

Blood
Blood parameters
Blood sugar Blood sugar Blood sugar
sensor analysis level

Insulin
requirement
computation
Pump control
Insulin commands Insulin
Insulin
Insulin requirement
delivery
pump controller

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 11


Cerințele dependabilității

Sistemul trebuie să fie disponibil spre a livra
insulina atunci când este necesar.

Sistemul trebuie să fie fiabil și să livreze
cantitatea corectă de insulină pentru a
contracara nivelul actual de zahăr din sânge.

Cerința esențială de siguranță este faptul că
dozele excesive de insulină nu trebuie
livrate, deoarece acest lucru poate pune în
pericol viața.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 12


Dependabilitatea

Dependabilitatea unui sistem echivalează cu
încrederea acordată lui.

Un sistem ce prezintă dependabilitate se
caracterizează prin încrederea pe care i-o
acordă utilizatorii.

Principalele dimensiuni ale dependabilității:
• Disponibilitate;
• Fiabilitate;
• Siguranță;
• Securitate.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 13


Dimensiunile dependabilității

Dependability

Availability Reliability Safety Security

The ability of the system The ability of the system The ability of the system The ability of the system
to deliver services when to deliver services as to operate without to protect itelf against
requested specified catastrophic failure accidental or deliberate
intrusion

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 14


Alte proprietăți ale dependabilității

Gradul de reparare
• Reflectă măsura în care sistemul poate fi reparat în caz
de defect;

Mentenanța
• Reflectă măsura în care sistemul poate fi adaptat în
funcție de noi cerințe;

Supraviețuirea
• Reflectă măsura în care sistemul poate livra sub un atac
ostil;

Toleranța la erori
• Reflectă măsura în care erorile cauzate de utilizator pot fi
evitate și tolerate.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 15


Mentenanța

Un atribut al sistemului ce se concentrează asupra
reparațiilor sistemului după descoperirea unui defect
sau schimbarea sistemului, prin includerea unor noi
proprietăți

Este foarte importantă pentru sistemele critice,
deoarece apar foarte frecvent defecte, datorate
problemelor de mentenanță

Mentenanța se diferențiază de alte dimensiuni ale
dependabilității, deoarece este un atribut static, și nu
dinamic, al sistemului. Nu se va detalia acest subiect
în cursul de față.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 16


Supraviețuirea

Abilitatea sistemului de a continua să-și
livreze serviciile utilizatorilor, în fața unui atac
deliberat sau accidental

Acesta este un atribut din ce în ce mai
important pentru sistemele distribuite a căror
securitate poate fi compromisă

Supraviețuiea subsumează noțiunea de
reziliență - capacitatea unui sistem de a
continua să funcționeze în ciuda defecțiunilor
apărute la unele componente
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 17
Dependabilitate vs performanță

Sistemele ce nu prezintă încredere pot fi respinse de
către utilizatori

Costul defecțiunii poate fi foarte ridicat

Este foarte dificilă ajustarea sistemelor, cu scopul de
a le spori dependabilitatea

Ar fi posibil să se facă o compensare a slabei
performanțe

Sistemele ce nu prezintă încredere pot cauza
pierderea unor informații prețioase

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 18


Costurile dependabilității

Costurile dependabilității tind să crească
exponențial, pe măsură ce sunt cerute nivele
crescute ale dependabilității

Există două motive
• Utilizarea unor tehnici de dezvoltare și hardware, ce au
un cost ridicat, cerute fiind de nivele mai ridicate ale
dependabilității
• Testarea sporită și sistemul de validare care este necesar
pentru a convinge sistemul client că nivelurile necesare
ale dependabilității au fost atinse

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 19


Costurile de creștere ale dependabilității

Low Medium High Very Ultra-high


high
Dependability

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 20


Economia dependabilității

Din cauza costurilor foarte mari de realizare
a dependabilității, poate fi mai rentabilă
acceptarea sistemelelor ce nu prezintă
încredere și plătirea costurilor datorate
erorilor

Cu toate acestea, lucrul acesta depinde de
factorii sociali și politici. O reputație a unor
produse care nu sunt de încredere poate sta
în calea unor afaceri viitoare

Depinde de tipul de sistem - pentru sisteme
de afaceri, în special, nivelurile modeste de
dependabilitate pot fi adecvate
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 21
Disponibilitate și fiabilitate

Fiabilitate
• Probabilitatea de funcționare a sistemului fără
defecțiuni într-un timp specificat, mediu dat și
pentru un anumit scop

Disponibilitate
• Probabilitatea ca un sistem, la un moment dat,
să fie operațional și capabil de a livra serviciile
cerute
• Ambele atribuite pot fi exprimate cantitativ

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 22


Disponibilitate și fiabilitate

Uneori este posibilă subsumarea disponibilității
sistemului în fiabilitatea sistemului
• Evident, dacă un sistem nu este disponibil, nu va
furniza serviciile de sistem specificate

Cu toate acestea, este posibil să avem sisteme
cu o fiabilitate scăzută, care trebuie să fie
disponibile. Cât timp erorile de sistem pot fi
reparate rapid și nu deteriorează datele,
fiabilitatea scăzută poate să nu reprezinte o
problemă

Disponibilitatea ia în considerare timpul de
reparație
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 23
Fiabilitate - terminologie

Termen Descriere
Eșec de sistem Un eveniment care are loc la un moment dat în timp, atunci
când sistemul nu emite un serviciu așa cum era de așteptat
de către utilizatorii săi.
Eroare de sistem O stare de sistem eronată, care poate duce la un
comportament al sistemului, ce nu este așteptat de către
utilizatorii sistemului.
Defecțiune de sistem O caracteristică a unui sistem software care poate duce la o
eroare de sistem. De exemplu, eșecul în a inițializa o
variabilă ar putea duce la faptul că acea variabilă va avea o
valoare greșită atunci când este folosită.
Erori sau greșeli Comportamentul uman care are ca rezultat introducerea
umane unor defecțiuni în sistem.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 24


Defecte și eșecuri

Eșecurile sunt, de obicei, o urmare a unor erori de
sistem, care sunt derivate din defecte în sistem

Cu toate acestea, defectele nu au neapărat ca
rezultat erori de sistem
• Starea sistemului defect poate fi tranzitorie și "corectată"
înainte ca o eroare să-și facă apariția

Erorile nu conduc neapărat la eșecuri de sistem
• Eroarea poate fi corectată prin detectarea și recuperarea
integrată a erorilor
• Protejarea împotriva eșecurilor o împlinesc facilitățile de
protecție integrate. Acestea pot, de exemplu, să protejeze
resursele sistemului de erorile de sistem

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 25


Percepții de fiabilitate

Definiția formală a fiabilității nu reflectă întotdeauna
percepția utilizatorului despre fiabilitatea unui sistem
• Ipotezele care sunt realizate cu privire la mediul în care
un sistem va fi utilizat pot fi incorecte
• Utilizarea unui sistem într-un mediu de birou poate fi destul
de diferită, față de utilizarea aceluiași sistem într-un mediu
universitar
• Consecințele erorilor de sistem afectează percepția de
fiabilitate
• Ștergătoarele de parbriz nesigure ale unei mașini pot fi
irelevante într-un climat uscat
• Eșecurile care au consecințe grave (cum ar fi o avarie a
motorului într-o mașină) sunt considerate de către utilizatori
ca având o greutate mai mare decât eșecurile incomode

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 26


Fiabilitatea - realizare

Evitarea defectelor
• Tehnici de dezvoltare sunt folosite fie pentru a minimiza
posibilitatea apariției greșelilor, sau a erorilor capcană,
înainte ca ele să rezulte în introducerea defectelor de
sistem

Detecția și îndepărtarea defectelor
• Tehnici de verificare și validare care cresc probabilitatea
de detectare și corectare a erorilor sunt utilizate, înainte
ca sistemul să intre în serviciu

Toleranța la defecte
• Tehnici “run-time” - utilizate pentru a se asigura că
defectele sistemului nu duc la erori de sistem și/sau care
erori de sistem nu conduc la eșecuri de sistem

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 27


Modelarea fiabilității

Puteți modela un sistem ca o mapare input –
output, în care unele intrări vor conduce la
rezultate eronate

Fiabilitatea sistemului reprezintă
probabilitatea cu privire la un anumit input ce
va consta într-un set de intrări ce cauzează
ieșiri eronate

Diferite persoane vor folosi sistemul în
diverse moduri, astfel că această
probabilitate nu este un atribut static al
sistemului, ci va depinde de mediul sistemului
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 28
Maparea - input/output
Inputs causing
erroneous outputs
Input set Ie

Program

Erroneous
outputs
Output set Oe

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 29


Percepția fiabilității

Possible
inputs

User Erroneous
1 inputs

User User
3 2

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 30


Îmbunătățirea fiabilității

Scoaterea a X% din defectele aflate într-un sistem
nu va îmbunătăți în mod necesar fiabilitatea cu X%.
Un studiu la IBM au arătat că eliminarea a 60% din
defectele produsului a dus la o îmbunătățire de 3%
în fiabilitate

Defectele programului pot fi în secțiunile rareori
executate din cod, astfel încât pot să nu fie niciodată
întâmpinate de utilizatori. Scoaterea acestora nu
afectează fiabilitatea percepută

Un program cu defecte cunoscute poate fi, prin
urmare, încă văzut ca fiind fiabil de către utilizatorii
săi
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 31
Siguranța

Siguranța este proprietatea unui sistem care reflectă
capacitatea sistemului de a opera, în mod normal
sau anormal, fără pericolul de a cauza prejudicii
umane sau chiar moartea, și fără deteriorarea
mediului sistemului

Este foarte important să se ia în considerare
siguranța software pe măsură ce mult mai multe
dispozitive încorporează sisteme de control bazate
pe software

Cerințele de securitate sunt cerințe exclusive, adică
exclud situațiile nedorite, mai degrabă decât să
specifice serviciile de sistem necesare
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 32
Siguranța critică

Sisteme critice de siguranță primare
• Sisteme software integrate a căror eșec poate cauza
hardware-ul asociat să eșueze și să amenințe direct
oamenii.

Sisteme critice de siguranță secundare
• Sisteme din a căror eșec rezultă defecțiuni în alte sisteme
care pot o amenințare la adresa oamenilor

Discuții focusate pe sisteme critice de siguranță
primare
• Sisteme critice de siguranță secundare pot fi luate în
considerare numai pe o bază unică

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 33


Siguranță și fiabilitate

Siguranța și fiabilitatea sunt legate între ele,
dar sunt diferite
• În general, fiabilitatea și disponibilitatea sunt
condiții necesare, dar nu suficiente pentru
siguranța sistemului

Fiabilitatea se referă la conformitatea cu o
anumită specificație și livrarea serviciilor

Siguranța se referă la asigurarea că sistemul
nu poate provoca daune, indiferent dacă
este sau nu conform cu specificațiile sale

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 34


Sisteme fiabile nesigure

Specificarea erorilor
• Dacă specificațiile sistemului sunt incorecte,
atunci sistemul se poate comporta așa cum este
specificat, dar încă poate provoca un accident

Erori hardware generatoare de intrări false
• Greu de anticipat în specificații

Comenzile sensibile din punct de vedere
contextual, adică emiterea comenzii potrivite
la momentul nepotrivit
• Adesea rezultatul erorii operatorului

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 35


Siguranță - terminologie
Termen Definiție
Accident Un eveniment neplanificat sau o succesiune de evenimente care duc la rănirea sau
chiar moartea omului, daune materiale sau de mediu. O mașină controlată de
computer, ce-și rănește operatorul este un exemplu de accident.
Pericol O condiție cu potențialul de a provoca sau contribui la un accident. Un eșec al
senzorului care detectează un obstacol în fața unei mașini, este un exemplu de pericol.
Prejudiciu O măsură a pierderii rezultate dintr-un incident. Daunele pot varia de la mai multe
persoane ucise ca urmare a unui accident, la un prejudiciu minor sau pagube
materiale.
Gravitatea O evaluare a prejudiciului cel mai rău posibil, care ar putea rezulta dintr-un anumit
pericolului risc. Gravitatea pericolului poate varia de la catastrofală, în care mai multe persoane
sunt ucise, la minoră care va avea ca rezultat doar daune minore.
Probabilitatea Probabilitatea evenimentelor ce loc și care creează un pericol. Valorile probabilității
pericolului tind să fie arbitrare, dar variază de la probabil (să zicem 1/100 sanșa unui pericol să
apară) la neverosimil (nu sunt situații admisibile unde ar putea avea loc un pericol).
Risc Acesta este o măsură a probabilității că sistemul va provoca un accident. Riscul este
evaluat prin luarea în considerare a probabilității pericolului, gravității acelui pericol,
cât și probabilitatea că un pericol va duce la un accident.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 36


Siguranță - realizare

Evitarea pericolelor
• Sistemul este conceput astfel încât, pur și simplu nu pot
să apară unele clase de pericol

Detectarea și îndepărtarea pericolelor
• Sistemul este proiectat astfel încât riscurile sunt detectate
și eliminate înainte ca acestea să conducă la un accident

Limitarea daunelor
• Sistemul include caracteristici de protecție care
minimizează daunele care ar putea rezulta în urma unui
accident

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 37


Accidente normale

Accidentele în sisteme complexe rareori au o
singură cauză, deoarece aceste sisteme sunt
concepute pentru a fi rezistente la un singur punct
de eșec
• Proiectarea sistemelor astfel încât un singur punct de
eșec să nu producă un accident este un principiu
fundamental al proiectării sistemelor de siguranță

Aproape toate accidentele sunt rezultatul
combinațiilor defecțiunilor

Acesta este, probabil, cazul în care anticiparea
tuturor combinațiilor problemă, în special, în
sistemele software controlate este imposibilă, deci
realizarea siguranței depline este imposibilă

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 38


Securitatea

Securitatea unui sistem este o proprietate a
sistemului care reflectă capacitatea
sistemului de a se proteja de un atac extern
accidental sau deliberat

Securitatea devine tot mai importantă,
deoarece sistemele sunt conectate la rețea,
deci accesul extern la sistem prin intermediul
internetului este posibil

Securitatea este o pre-condiție esențială
pentru disponibilitate, fiabilitate și siguranță

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 39


Securitate fundamentală

Dacă un sistem este un sistem conectat la
rețea și este nesigur, atunci afirmațiile
despre fiabilitatea și siguranța sa nu sunt de
încredere

Aceste afirmații depind de faptul că sistemul
de execuție și sistemul dezvoltat trebuie să
fie identice. Cu toate acestea, intruziunea
poate schimba sistemul de execuție și/sau
datele acestuia

Prin urmare, asigurarea fiabilității și a
siguranței nu mai este valabilă
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 40
Securitate - terminologie

Termen Definiție
Expunere Posibile pierderi sau daune într-un sistem de calcul. Acest lucru poate
fi pierderea sau deteriorarea datelor sau poate fi o pierdere de timp și
de efort, dacă recuperarea este necesară după o breșă de securitate.
Vulnerabilitate O slăbiciune într-un sistem bazat pe calculator care poate fi exploatată
pentru a cauza pierderi sau daune.
Atac O exploatare a vulnerabilității sistemului. În general, acest lucru este
din afara sistemului și este o încercare deliberată de a provoca unele
daune.
Amenințare Circumstanțele care au potențialul de a provoca pierderi sau
prejudicii. Vă puteți gândi la acestea ca fiind o vulnerabilitate a
sistemului care este supus unui atac.
Control O măsură de protecție care reduce vulnerabilitatea sistemului.
Criptarea ar fi un exemplu de control care a redus o vulnerabilitate a
unui sistem slab de control al accesului.

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 41


Daune produse de insecuritate

Negarea serviciului
• Sistemul este forțat într-o stare în care serviciile normale
sunt indisponibile sau în care prestarea de servicii este
degradată semnificativ

Coruperea programelor sau a datelor
• Programele sau datele din sistem pot fi modificate într-un
mod neautorizat

Divulgarea informațiilor confidențiale
• Informațiile gestionate de sistem pot fi expuse unor
oameni care nu sunt autorizați să citească sau să
utilizeze aceste informații

©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 42


Asigurarea securității

Evitarea vulnerabilităților
• Sistemul este proiectat astfel încât să nu apară
vulnerabilități. De exemplu, dacă nu există nici o
conexiune de rețea externă, atunci un atac extern este
imposibil

Detectarea și eliminarea atacurilor
• Sistemul este proiectat astfel încât atacurile asupra
vulnerabilității sunt detectate și neutralizate înainte ca
acestea să conducă la o expunere. De exemplu,
verificatorii de viruși găsesc și elimină virușii înainte ca
aceștia să infecteze un sistem

Limitarea expunerii
• Sistemul este conceput astfel încât consecințele negative
ale unui atac de succes sunt reduse la minimum. De
exemplu, o politică de backup permite ca informațiile
deteriorate să fie restaurate
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 43
Puncte cheie

Un sistem critic este un sistem în care eșecul poate
duce la pierderi economice ridicate, daune fizice sau
amenințări la adresa vieții .

Dependabilitatea unui sistem reflectă încrederea
utilizatorului în acel sistem

Disponibilitatea unui sistem reprezintă probabilitatea
că acesta va fi disponibil pentru a furniza servicii la
cerere

Fiabilitatea unui sistem reprezintă probabilitatea că
serviciile de sistem vor fi livrate conform
specificațiilor

Fiabilitatea și disponibilitatea sunt, în general, văzute
ca și condiții necesare, dar nu suficiente, pentru
siguranță și securitate
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 44
Puncte cheie

Fiabilitatea este legată de probabilitatea unei erori
care apare în uz operațional. Un sistem cu defecte
cunoscute poate fi de încredere

Siguranța este un atribut de sistem care reflectă
capacitatea sistemului de a opera, fără a pune în
pericol persoane sau mediul înconjurător

Securitatea este un atribut de sistem care reflectă
capacitatea sistemului de a se proteja de un atac
extern

Îmbunătățirea dependabilității necesită o abordare
socio-tehnică pentru a proiecta, unde se ia în
considerare oamenii, precum și hardware-ul și
software-ul
©Ian Sommerville 2004 Software Engineering, 7th edition. Chapter 3 Slide 45