densification

de responsabilité
en IA professeur titulaire
directeur du CRDP
faculté de droit
université de montréal
chaire LR Wilson
www.gautrais.com
@gautrais
 2017


obligations de
transparence
+ économie
de partage
professeur titulaire
directeur du CRDP
faculté de droit
université de montréal
chaire LR Wilson
www.gautrais.com
@gautrais
Formal Level

Regulations Laws

Informal Level
Guidelines Principles Norms

Codes of
Methods Standards
Conduct

Documentation
Level
Contract
Audit
Procedures
1
densification +
LOIS


hausse généralisée de la
responsabilité des
acteurs


baisse généralisée de la
responsabilité des
acteurs du web


question vieille
comme le web
 Cubby
1991 Prodigy
1995

jurisprudence 1990

Playboy
1994
connaissance
contrôle
lccjti
2001

laxisme législatif

lda
2012
socan
2004

laxisme jurisprudentiel

crookes
2011
 Consensus des auteurs / lois
informational loyauty of
asymetry platforms

algorithmic
transparency
technological
due process
more
imputability



pas de responsabilité =
pas d’IA responsable



+ de responsabilité
comme une obligation
2
densification +
NORMES
INDUSTRIELLES


passe sous le radar du

droit


la référence aux normes

de l’industrie n’est pas
neutre


ex:
RGPD
(certification)


botté en touche du
« droit »
cacophonique
pas toujours
efficient

déficience des standards

trop
mous

trop
nombreux
 exemple de « mou »
« l’objectif de l’auditeur est de concevoir et
de mettre en œuvre des procédures d’audit
qui lui permettront d’obtenir des éléments
probants suffisants et appropriés pour
être en mesure de tirer des conclusions
raisonnables ».

Norme ISA 500 (2009) disponible à <

http://www.nifccanada.ca/key-terms-french-
only/item21207.pdf >
 what could be done?
generalization
publicity

better interaction between law &
standards
uniformization
‘customization’
3
densification +
NORMES
INDIVIDUELLES



centre of gravité normatif
 2 main solutions
documentation | cryptographic commitment

ê ê
(own proof) | (sealed document held by 1/3 party)

ê
ê
entreprise itself | public or community-based agency

ê
ê
auto-regulation | co-regulation




qui paye?
 what could be done?
examples of
clauses
examples of
documentations

uniformization of practices

sharing
experience
etc.
 Liste de références utilisées
•  DÉCLARATION DE MONTRÉAL IA RESPONSABLE, Les délibérations en un coup
d’oeil, Extraits du bilan sur les résultats des délibérations citoyennes de la
Déclaration de Montréal IA responsable, juin 2018.
•  DÉCLARATION DE MONTRÉAL, Bilan des délibérations, juin 2018.
•  Vincent GAUTRAIS, Neutralité technologique: rédaction et interprétation des lois
face aux technologies, Thémis, Montréal, mai 2012.
•  Frank PASQUALE, The Black Box Society : The Secret Algorithms that Control
Money and Information, Cambridge, Harvard University Press, 2015.
•  Ryan CALO et Alex ROSENBLAT, « The Taking Economy : Uber, Information and
Power », (2017) 117 Columbia Law Review
•  Joshua A. KROLL, Joanna HUEY, Solon BAROCAS, Edward W. FELTEN, Joel R.
REIDENBERG, David G. ROBINSON et Harlan YU, « Accountable Algorithms »,
(2017) 165 University of Pennsylvania Law Review 363.
•  Danielle K. CITRON, « Technological Due Process », (2008) 85 Washington
University Law Review 1249.
•  Loi française n° 2016-1321 du 7 octobre 2016 pour une République numérique,
section 3.
•  Paul SCHWARTZ, Data Processing and Government Administration: The Failure of
the American Legal Response to the Computer, 43 HASTINGS L.J. 1321.
•  Bruce SCHNEIER, Secret and Lies: Digital Security in a Networked World, 2000.
•  Florencia MAROTTA-WUGLER, « Will Increased Disclosure Help ? Evaluating the
Recommendations of the ALI’s – Principles of the Law of Software Contracts »,
(2011) 78-1University of Chicago Law Review 165.
•  AI NOW, Algorithmic Impact Assessments, avril 2018.
 densification
de responsabilité
en IA professeur titulaire
directeur du CRDP
faculté de droit
université de montréal
chaire LR Wilson
www.gautrais.com
@gautrais