Transcriere brută de Brigette L.

Domingo
Durata: 35 minute
[00:00:00.282] - Sam Charrington
Bine tuturor. Sunt pe fir cu Abeba Berhane. Abeba este doctorand la University College Dublin.
Abeba, bine ai venit la podcastul TWIML AI.

[00:00:12.552] - Abeba Berhane

Îți mulțumesc foarte mult că m-ai primit, Sam.

[00:00:15.522] - Sam Charrington

Sunt foarte încântat de această conversație. Am avut ocazia să ne întâlnim personal după o
lungă perioadă de interacțiune pe Twitter la cea mai recentă conferință NeurIPs, în special Black
in AI Workshop, unde nu numai că ați prezentat lucrarea Algorithmic Injustices Towards
Relational Ethics, dar ați câștigat cea mai bună lucrare acolo. Așa că aștept cu nerăbdare să
aprofundez acest subiect și alte subiecte. Dar înainte de a face asta, mi-ar plăcea să vă aud
împărtășind puțin despre trecutul vostru. Și voi menționa pentru cei care aud sirenele în fundal,
în timp ce am menționat că sunteți de la University College Dublin, se întâmplă să fiți în New
York acum la Conferința A. I. E. S. în asociere cu AAAI. Și, după cum probabil știu, este greu să
eviți sirenele și construcțiile în New York City. Deci, luați în considerare acest context. Starea
noastră de spirit, starea de spirit, ambianța, sunetul de fundal așa, fundalul tău.

[00:01:24.982] - Abeba Berhane

Da, da.

[00:01:25.942] - Sam Charrington

Cum ai început să lucrezi în AI Ethics?

[00:01:28.482] - Abeba Berhane

Deci pregătirea mea este în știința cognitivă și în special o parte a științei cognitive numită
Știința Cognitivă Întrupată, care își are rădăcinile, știți, în cibernetică, în gândirea sistemică.
Ideea este să te concentrezi pe social și cultural, pe istoric și să vezi cogniția în continuitate cu
lumea, cu fundalurile istorice și toate astea și spre deosebire de, știți, ești abordarea ta
tradițională a cunoașterii, care creează doar cunoașterea ca ceva localizat în creier sau ceva
formalizabil, ceva care poate fi calculat. Deci, da. Deci acesta este trecutul meu. Chiar și în
timpul maeștrilor mei, eu. Înclin spre partea AI a științei cognitive. Cu cât mă adâncesc mai mult
în ea, cu atât sunt mult mai atras de partea etică, de nedreptăți, de problemele sociale. Și astfel,
cu cât doctoratul continuă, cu atât mă regăsesc mai mult în partea etică.

[00:02:49.942] - Sam Charrington

A existat un anumit punct în care ți-ai dat seama că ești foarte încântat de partea de etică în
special sau a evoluat doar pentru tine?

[00:02:59.212] - Abeba Berhane

Cred că pur și simplu a evoluat. Așa că atunci când am început, la sfârșitul masteratului și la
începutul doctoratului, ideea mea este că, știți, avem acest nou mod de gândire relativ nou,
care este CoSci întrupat, care îmi place foarte mult pentru că subliniază, știți, ambiguități în
Transcriere brută de Brigette L. Domingo
Durata: 35 minute
dezordine și contingențe, spre deosebire de, Știți, trasarea unor limite curate. Așa că ideea
este, da, îmi place ideea de a redefini cunoașterea ca ceva relațional, ceva inerent social, și ceva
care este continuu afectat, influențat de alți oameni și de tehnologiile pe care le folosim. Deci
aspectul tehnologic, sfârșitul tehnologic a fost interesul meu. Deci, inițial, ideea este, da,
tehnologia constituie un aspect al cunoașterii noastre. Aveți faimoasa teză din 1998 a lui Andy
Clark și Dave Chalmers, mintea extinsă în care au susținut, știți, iPhone-ul este o extensie a
minții tale. Și astfel vă puteți gândi la asta în acest fel. Și într-un fel avansam aceeași linie de
gândire. Dar cu cât mă adânceam mai mult în ea, cu atât vedeam mai mult da, tehnologia
digitală, fie că e vorba de computere omniprezente, cum ar fi sistemele de recunoaștere facială
de pe stradă sau telefonul, orice. Da. Are impact și continuă să modeleze și să remodeleze
cunoașterea noastră în ceea ce înseamnă să exiști în lume. Dar ceea ce a devenit din ce în ce
mai clar pentru mine este că nu toată lumea este afectată în mod egal. Și cu cât ești mai
privilegiat, cu atât mai mult ai control asupra ta în ceea ce privește ceea ce te poate influența și
ceea ce poți evita. Aici mă implic din ce în ce mai mult în etica calculului și impactul său asupra
cunoașterii.

[00:05:23.422] - Sam Charrington

Noțiunea de privilegiu este ceva ce curge de-a lungul lucrării pe care ați prezentat-o la Black in
A.I., lucrarea Algorithmic Injustices, și această idee, această construcție a eticii relaționale. Ce
este etica relațională și la ce ajungi cu ea?

[00:05:45.202] - Abeba Berhane

Da, deci etica relațională nu este de fapt un lucru nou. O mulțime de oameni au teoretizat
despre asta și au scris despre asta. Dar modul în care o abordez este modul în care o folosesc și
cred că izvorăște din această frustrare că pentru mulți oameni care vorbesc despre etică sau
corectitudine sau dreptate, cea mai mare parte se reduce la, știți, construirea acestei formulări
clare a corectitudinii sau a unui calcul matematic despre cine ar trebui inclus și cine ar trebui
exclus. De ce fel de date avem nevoie, genul ăsta de lucruri. Deci, pentru mine, etica relațională
este un fel de a lăsa asta pentru un pic și să ne îndepărtăm și să vedem imaginea de ansamblu.
Și în loc să folosească tehnologia pentru a rezolva problemele care au apărut din tehnologia
însăși. Deci, ceea ce înseamnă cenzurarea tehnologiei, haideți în schimb să centrăm oamenii
care sunt oameni, în special oamenii care sunt afectați în mod disproporționat de, știți,
limitările sau problemele care apar cu dezvoltarea și implementarea tehnologiei. Deci, există o
cercetare robustă în care puteți cuantifica corectitudinea sau nedreptatea algoritmică. Și
modelul este că, cu cât ești mai mult în partea de jos a nivelului de intersecție, asta înseamnă că
cu cât ești mai departe de domeniul tău stereotipic alb CSI și cu cât este mai mare, cu atât este
mai mare impactul negativ asupra ta, fie că este vorba de clasificare sau clasificare sau dacă
este scanat și solicitat și prin angajarea algoritmilor. Sau căutând o locuință sau ceva de genul
acesta. Cu cât te îndepărtezi mai mult de acea categorie stereotipică, știi, status quo-ul, cu atât
mai mare este impactul asupra ta. Deci ideea de relaționare este un fel de a gândi din acea
perspectivă, de a lua asta ca punct de plecare. Deci, acestea sunt grupurile sau acestea sunt.