Sisteme adaptive (personalizate)

S. Trausan-Matu 8
 Personalizare

Totala Personalizat Nula

Libertate nulă Libertate efectivă Libertate totală

|| || ||
V V V
Fixitate Empatie Dezorientare
||
V
Modelarea utilizatorului
Gabriel Guțu-Robu
Gabriel Guțu-Robu
Gabriel Guțu-Robu
 Etica în Inteligența Artificială
Ștefan Trăușan-Matu

15-Oct-21 14
Aplicații cu IA care pot genera probleme de etică
• Vehicule autonome
• Roboți (de exemplu, roboți de asistență)
• Recunoaștere facială
• Sisteme de suport a deciziilor - părtinire („bias”)
• Construirea profilurilor utilizatorilor în scopuri neetice
• Generarea de știri false, manipulare, propagandă, mesaje toxice
• Roboți de conversație cu enunțuri greșite
Inteligența Artificială (IA) - abordări
1. IA simbolică – bazată pe cunoștințe

2. IA conecționistă (subsimbolică) – rețele neuronale

• Abordări bazate pe logica formală și matematică

• Abordări statistice în ambele cazuri (mai puțin în cazul 1)

15-Oct-21 16
 Potențialul tehnologiei limbajului și
Inteligența Artificială – unde suntem,
către ce ar trebui să ne îndreptăm
Ștefan Trăușan-Matu
Universitatea Politehnica din București,
Institutul de Cercetări în Inteligența Artificială
„Mihai Drăgănescu”
www.lr-coordination.eu
 Potențialul inteligenței artificiale (IA)
• IA reprezintă una dintre cele mai mari oportunități pentru progresul
social și economic global [1]
• Există mai multe inițiative și proiecte noi din Europa în domeniul IA,
de exemplu:
• AI4EU: Prima platformă și ecosistem european IA la cerere („On-Demand”)
• Apeluri recente ICT-48-2020: Către o rețea europeană vibrantă de centre de excelență IA
• Face2Face Virtual Agora: Centre de excelență în inteligența artificială a UE (29 mai 2020 la
Bruxelles)
• Acum există deja exemple foarte importante de IA prezente în viața
noastră de zi cu zi ...

www.lr-coordination.eu
 Exemple de IA în viețile noastre
• Traducere automată
• Căutare inteligentă de documente
• Recomandări personalizate de produse
• Asistenți personali digitali (Siri, Alexa, Google
Assistant, Bixby ...)
• Automobile inteligente
• Marketing (de exemplu, Netflix, Amazon etc.)
• Chatbots (de exemplu, în domeniul bancar,
asistență pentru clienți și management etc.)
• Finanțe (de exemplu, tranzacționarea
acțiunilor)
• Agricultură (utilizarea optimă a resurselor,
creșterea populației)
• Sănătate
www.lr-coordination.eu
 Poziționare IA, învățare automată, învățare
profundă [3]
INTELIGENȚA ARTIFICIALĂ
Orice tehnică care permite calculatoarelor să
imite inteligența umană. ÎNVĂȚAREA AUTOMATĂ (ML)
Un subset de IA care include tehnici
statistice complexe care permit mașinilor să
învețe – îmbunătățirea performanțelor din
experiență - dar fără a fi programate în mod
explicit pentru a face acest lucru. Există
diferite tipuri de ML, inclusiv învățare
supravegheată, învățare nesupravegheată și
învățare prin recompensă („reinforcement”).
ÎNVĂȚAREA PROFUNDĂ
Un subset de ML compus din algoritmi care
permit programelor să se antreneze pentru a
îndeplini sarcini (cum ar fi recunoașterea
vorbirii și a imaginii). Inspirată de creierul
uman, învățarea profundă funcționează prin
antrenarea rețelelor neuronale artificiale cu
mai multe straturi la cantități mari de date.

1950s 1960s 1970s 1980s 1990s 2000s 2010s

www.lr-coordination.eu
 Ce este IA? Limbaj și inteligență
• „Dacă o conversație cu un dispozitiv nu poate fi diferențiată de o conversație
similară cu o ființă umană, atunci dispozitivul poate fi numit inteligent”
(Alan Turing)
• Problemă: Limbile umane sunt incredibil de elegante, eficiente, flexibile,
complexe!
• Un singur cuvânt poate însemna multe lucruri

• Multe moduri de a spune același lucru

• Înțelesul depinde de context

• Limbaj literar și figurativ (metafore)

• Schemele Winograd

www.lr-coordination.eu
 Ce este IA? Limbaj și inteligență

Câteva exemple interesante ...

• Juvenile Court to Try Shooting
Defendant
• Teacher Strikes Idle Kids
• Miners refuse to work after death
• Local High School Dropouts Cut in
Half
• Red Tape Holds Up New Bridges
• Police: Crack Found in Man's Buttocks
www.lr-coordination.eu
 Datele ca un combustibil pentru IA [4]
Public value

Storing, Sharing, Using and

Collecting and securing and curating and re-using
generating processing publishing Statistical analysis
Machine learning
Published data (e.g. open data) Storage Handle requests and agreement Visualisation
Sensory data (e.g. CCTV) Quality management Data sharing platforms Policy and service decisions
Requested data (e.g. forms) Catalogue Open Data websites Life decisions
Admin data (e.g. contracts) Cleansing Performance insights

Impacts the public sector and Impacts the public sector and
Impacts the public sector Impacts the public sector public stakeholders public stakeholders

Government
sources

Non-government
sources

www.lr-coordination.eu
 Referințe
[1] https://ec.europa.eu/info/sites/info/files/commission-white-paper-
artificial-intelligence-feb2020_en.pdf
[2] https://ec.europa.eu/digital-single-market/en/desi
[3] Jamie Berryhil, Kévin Kok Heang, Rob Clogher, Keegan McBride
(2019): „Hello, World: Artificial intelligence and its use in the public
sector“, OECD Observatory of Public Sector Innovation, p.23. Available
online at https://oecd-opsi.org/projects/ai/
[4] https://www.oecd-ilibrary.org/docserver/09ab162c-
en.pdf?expires=1583412591&id=id&accname=guest&checksum=DE3AC2
7D9E81DA0C3A35448B23FCC54E
[5] https://www.gartner.com/en/newsroom/press-releases/2019-08-28-
gartner-2019-hype-cycle-shows-cloud-office-has-hit-ma
www.lr-coordination.eu
 Alte documente

https://trends.oecd-opsi.org/embracing-innovation-in-government-global-
trends-2019.pdf
https://ec.europa.eu/info/sites/info/files/commission-white-paper-
artificial-intelligence-feb2020_en.pdf

www.lr-coordination.eu
 Website: www.lr-coordination.eu
Twitter: @LR_Coordination
Facebook: www.facebook.com/EuropeanLanguageResourceCoordination
LinkedIn: www.linkedin.com/in/lrcoordination
Email: info@lr-coordination.eu
Ce este etica? (Raymond Baumhart )
1. „Etica este legată de ceea ce sentimentele mele îmi spun ce este
bine sau rău.”
2. „Etica este formată din normele de comportament acceptate de
societatea noastră.”
3. „A fi etic este a face ceea ce cere legea.”
4. „Etica este legată de convingerile mele religioase.”
5. „Nu știu ce înseamnă cuvântul.”
15-Oct-21 27
Implementarea deciziilor asupra eticii în IA
1. „Etica este legată de ceea ce sentimentele mele îmi spun
ce este bine sau rău.”
• Programul de calculator ar trebui să analizeze cât de bună sau rea este o acțiune.
• Acest lucru este însă foarte greu, dacă nu chiar imposibil de realizat.
• În anumite situații se pot face raționamente asupra corectitudinii unei acțiuni.
• Rezolvarea problemei în toate cazurile ar presupune
• definirea formală a noțiunilor de bine și de rău
• simularea intuiției  Machine Learning (ML), Deep Learning (DL)?
• simularea analizei sentimentelor unui om  Analiza sentimentelor cu ML/DL?
15-Oct-21 28
 Implementarea deciziilor asupra eticii în IA
2. „Etica este formată din normele de comportament acceptate de
societatea noastră.”

Machine Learning (ML), Deep Learning (DL)?

15-Oct-21 29
Implementarea deciziilor asupra eticii în IA
2. „A fi etic este a face ceea ce cere legea.”
Legile roboticii ale lui Asimov:
(1)Să nu facă rău oamenilor sau, prin inacțiune, să permită ca un om să sufere.
(2)Să respecte ordinele oamenilor, cu excepția cazurilor în care este încălcată
prima lege.
(3)Să se protejeze pe ei înșiși, ce excepția cazurilor când se încalcă primele două
legi.

Logica formală deontică – reprezentarea cunoștințelor în logică + inferențe

15-Oct-21 30
Teorii filosofice asupra eticii (Piper)
• Teleologice
• Utilitarismul - binele și răul sunt deduse din consecințele
acțiunilor
• Hedonismul - este urmărită plăcerea ca scop – este bine
ceea ce îmi face plăcere

• Deontologice - se consideră nu rezultatul acțiunilor, ci anumite

norme

15-Oct-21 31
 Teorii asupra eticii
• Teleologice
• Utilitarismul - binele și răul sunt deduse din consecințele acțiunilor

• raționamente făcute de programe de calculator bazate pe
prelucrarea cunoștințelor explicit reprezentate
• Machine Learning, Deep Learning

• Deontologice - se consideră nu rezultatul acțiunilor, ci anumite norme


• Logica formală deontică
15-Oct-21 32
Etica în IA
• Trebuie respectate cel puțin normele și legislația
referitoare la etica observării oamenilor!

• IA care să evidențieze „fake–news”

(și nu să le genereze!!!)

• Omul în centru – Medii hermenofore vs. omul extins

15-Oct-21 33
Reglementări și preocupări în domeniul Eticii
în IA

• La nivelul UE, Consiliul European, Parlamentul European

• Companii: IBM, Orange ...

15-Oct-21 34
UniuneaEuropeană – Artificial Intelligence
High-Level Expert Group (AI-HLEG)
● implicare și supraveghere umană;
● robustețe tehnică și siguranță;
● respectarea vieții private și guvernanța datelor;
● transparență;
Explainable AI - XAI
● responsabilitate;
● bunăstarea societății și a mediului;
● diversitate, nediscriminare și echitate.

15-Oct-21 35
  AI HLEG (2019) Ethics guidelines for trustworthy AI, Disponibil la
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
 Comisia Europeană (2019) Building Trust in Human-Centric Artificial Intelligence,
COM(2020) 168, Disponibil la
https://ec.europa.eu/transparency/regdoc/rep/1/2019/EN/COM-2019-168-F1-EN-MAIN-
PART-1.PDF
 AI HLEG (2020) Assessment List for Trustworthy Artificial Intelligence (ALTAI) for
self-assessment, Disponibil la https://futurium.ec.europa.eu/en/european-ai-
alliance/pages/altai-assessment-list-trustworthy-artificial-intelligence
 Comisia Europeană (2020) Report on the safety and liability implications of Artificial
Intelligence, the Internet of Things and robotics, COM(2020) 64, Disponibil la
https://ec.europa.eu/info/sites/info/files/report-safety-liability-artificial-intelligence-
feb2020_en_1.pdf

Explainable AI - XAI
15-Oct-21 36
• European Parliament (2019) EU guidelines on ethics in artificial intelligence:
Context and implementation, Disponibil la
https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2
019)640163_EN.pdf
• IBM (2019) Everyday Ethics for Artificial Intelligence, Disponibil la
https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf
• Cousson-Postoarca, R. (2019) Ensuring ethical AI is human-centric, Disponibil la
https://www.orange-business.com/en/blogs/ensuring-ethical-ai-human-centric

15-Oct-21 37
 Explainable AI – XAI

Sisteme care pot da justificări,

care pot intra într-un
dialog explicativ
(care să poată „să dea socoteală”
pentru ceea ce propun sau decid)
15-Oct-21 38