responsabilité en analyse de neutralité et transparence · techniques disponibles : fouille de...

Responsabilitéenanalysededonnéesmassives:équité,neutralitéettransparenceSergeAbiteboul

InriaetENSCachan

AveclaparticipationdeJuliaStoyanovich

6/8/16 1SergeAbiteboul

Undélugededonnées

26/8/16 SergeAbiteboul

DataResponsibly,SergeAbiteboul

Etmêmeuneexplosiondedonnées

Donnéespersonnellesquenousproduisonsnous-mêmesQued’autreshumainsproduisentsurnousProduitespardescapteursdiversetpardesprogrammes

LesdonnéesWeb:4V:Volume,véracité,vitesse,variétéLesindividusetlasociétéperdentlecontrôlesurcesdonnées

36/8/16

Promessesetrisquesdesdonnéesmassives

Améliorerlaviedesgens:recommandationsAccélérerladécouvertescientifique:médecineNourrirl’innovation:voituresautonomesTransformerlasociété:gouvernementouvert(opengovernment)Optimiserlebusiness(publicitésciblées)

Unressentimentcroissantcontre:• Lescomportementsdéviants:

racisme,terrorisme,pédophilie,vold’identité,cyber-harcèlement,cybercrime.

• Lesentreprises:marketingagressif,personnalisationcryptique,décisionscommerciales…

• Lesgouvernements:NSAetsesanalogueseuropéens

• Uneprisedeconsciencecroissantedel’asymétrieentrecequelessystèmesconnaissentdenousetcequenousconnaissons.


Motivation

• Beaucoupdeproblèmessociauxsontliésàl’acquisitionetautraitementdedonnées• Cequ’ondevraitfaire

–Changerlamanièredontnoustraitonslesdonnéespersonnelles?–Changerleweb?


Références

Dataresponsibly,withJuliaStoyanovich(Drexel)&GeromeMiklau(U.Mass),EDBTTutorial2016Dataresponsibly,withJuliaStoyanovich(Drexel),SigmodBlog

(inFrench,LeMonde),2016ManagingyourdigitallifewithaPersonalinformationmanagementsystem,withBenjaminAndré(CozyCloud)&DanielKaplan(Fing),CACM2015Personalinformationmanagementsystems,withAmélieMarian(Rutgers),EDBTTutorial2015PlatformNeutrality,CNNumReport,2015


Organisation

MotivationVieprivéeAnalysededonnéesEvaluationdelaqualitédesdonnéesDisséminationdesdonnéesMémoiredesdonnées


VIEPRIVÉE

1. Vieprivéeetdonnées2. Lessystèmesdegestion

d’informationpersonnelle,(PIMS–personalinformationmanagementsystems)


Sécuritédesdonnéesetviepersonnelle

• Deplusenplusdesoucisaveclavieprivée(privacy)• Deslimitessurcequelescompagniesdegestiondedonnéespeuventfaire• Desloisforcentlescompagniesàdemanderuneautorisationpourconstruiredesbasesdedonnéesavecdesinformationspersonnelles(France)• Desrèglessurcequelesutilisateursdevraientpouvoirfaire• Desloisobligentlescompagnies(banques,sociétésdecréditàlaisserlesusagersvoiretcorrigerlesinformationsquilesconcernent(USA)• Cesloisdépendentdespaysetilestdifficiledelesfairerespecter

Déconnecter?


Confidentialitédesdonnées:est-cequ’ilyaquelquechoseàfaire?

Existencedemoyenspourgarantirlaconfidentialitédesdonnées:inutilisés-tropcompliquésàutiliserouàcomprendre

OutilsdecryptographieDroitsd’accèsContratsd’utilisationillisiblesDifficultéàtransférerlesdonnéesd’unlogicielàl’autre:

«enfermementpropriétaire»(Vendorlockin)


Protectiondesdonnées:lesPIMS

Unserviceduweb

s’exécute

• Surunemachineinconnue• avecnosdonnées• traitéesparunlogiciel

inconnu

Perspective

• Unemachinepersonnelle,

connue

• Avecnosdonnées

– répliquantdessystèmesquenousapprécions

• Avecnotrelogicieloupermettantl’utilisationdeservicesexternes

Unsystèmed’informationspersonnelles(PIM)estunsystèmeennuagequigèretoutel’informationd’unepersonne



L’idéeprincipale:l’intégrationdedonnées

6/8/16 12

m

i

m

i

lu

lu

za

za

localization

webSearch

calendar

mail

contacts

facebook

tripadvisor

banks

whatsap

Facebook Intégrationdesdonnéesdenombreux utilisateurspourunservice

Intégrationdesservicespourunutilisateur

ALICEX

X

X

X

X

X

X

X

X

SergeAbiteboul

Desproblèmesderechercheetdéveloppement

Desproblèmesanciens,revisitésIntégrationdesinformationspersonnellesConnaissancedescontextesAnalysedesdonnéespersonnellesSynchronisation/sauvegardeetséquencementdestâchesContrôledesaccèsetdel’échanged’informationsContrôledesaccèsconnectés

136/8/16

ANALYSEDEDONNÉES

1. Equité2. Transparence3. Diversité4. Vieprivée(Privacy)


Créerdusavoiràpartirdesdonnées

TrouverdescorrélationsstatistiquesPublierdesstatistiquesagrégéesDétecter

Lespoints«aberrants»Lestendances

Techniquesdisponibles:fouillededonnées,donnéesmassives,apprentissagemachine



Analysededonnées:équitéOriginedesbiais

Collectedesdonnéesp.ex,donnéesnonreprésentatives

Analysedesdonnéesp.exmoteurderecherchequifavorisecertainssitespourdesraisonscommerciales

CebiaispeutêtreillégalFairedesoffresfinancièresmoinsavantageusesauxmembresdecertaines

minorités(«sterling»).Exemple:analysedesdonnéesscientifiques

DevraitexpliquercommentlesdonnéesontétéobtenuesQuellesanalysesontétémenéesaveccesdonnéesLesexpérimentationsdoiventêtrereproductibles

Domainetrèsexploré;beaucoupdeproblèmesderecherche



Effetssurdessouspopulations

17

Admissionsdanslesécolesvisées

Admis Refusés

F 1512 2809

M 3715 4727Genre

résultats

positifs

35% de femmes

44% d’hommes

UC Berkeley 1973: les femmes candidatent à des départements plus sélectifs, avec de faibles taux d’admission.

ParadoxedeSimpson

Uneinégalitéauniveaudelapopulationdisparaîtous’inversequandonconsidèredessouspopulations



Equitédegroupeouindividuelle

18

Auniveaudugroupe:l’allocation«moyenne»auxindividusne

dépendpasdelasouspopulation

Score

Bon Mauvais

noirs

blancs

⊕⊖⊖

⊖⊕⊕ ⊖

⊖

⊖⊕

résultats

positifs

40% de noirs

40% de blancs

race

Auniveauindividuel

Deux personnes similaires à l’égard d‘un facteur particulier devraient avoir des évaluations semblables

crédit

obtenu



Analysededonnée:diversitéPertinenceduclassement(pourdesrecommandations) sebasegénéralementsurlapopularité

Lesinformationsmoinspopulairesdeviennentdemoinsenmoinspopulairesunmanquedediversitépeutengendrerunrisquedediscriminationet

d’exclusionExemples

sitederencontresenligne(match.com)marchédefinancementcollaboratifcommeAmazonMechanicalTurkouuneplate-formedefinancementcommeKickstarter

Le riche s’enrichit alors que le pauvre s’appauvrit …



Analysededonnée:Transparence

Exemple:manquedetransparencedansletraitementdesdonnéesparFacebook

Engénéral,contratdelicenced’utilisationillisibleLesutilisateursveulentcontrôlercequiestenregistrélesconcernantetcommentcesinformationssontutilisées

Latransparenceaideàvérifierqueleservicefonctionnecommeildevraitlefaire,commec’estannoncéPermetaussiaufournisseurdedonnéesdevérifierquesesdonnéessontutiliséescommecelaaétéspécifié



Vieprivéeetanalysededonnées

Publicationdestatistiques: protégerlespersonnesAnonymisation«intimitédifférentielles»->Differentialprivacy

DéjàtrèsétudiéSujetnonclos


Problèmes:vérifiercespropriétés

instrumentspourcollecterdesdonnéesetlesanalyserdemanièreresponsableinstrumentspourvérifierqu’uneanalyseaétéréaliséedemanièreresponsableplusfacilesilaresponsabilitéestpriseencomptetrèstôt,

conceptiondesinstrumentsenrapportavecdesutilisationsresponsables>responsibilitybydesignPourvérifierlecomportementd’unprogramme,onpeut:

enanalyserlecode≈preuveparlesthéorèmesmathématiquesanalyserseseffets≈étudesdephénomènes(telsleclimatoulecoeur

humain)


Vérification:analysedeseffets

AnalysestatistiqueDétecterlesbiaisDétecterlesutilisationsillégalesd’attributsprotégés

VérifierlatransparenceVérifierla“loyauté”

Lesystèmesecomportecommeill’adéclaré

Exemple:GoogleAdsSettings&AdFisher


GoogleAdsSettings

6/8/16 24

Anonymisé

SergeAbiteboul

Transparenceetresponsabilité

AnalyseparAdFisherNesecomportepascommeilestdéclaré

Choixdespublicitésbaséssurdavantagededonnées,parexemple

attributprotégésleshommesreçoiventdemanièresignificativedavantagede

publicitéspourdespostesàhautsalairequelesfemmes

PeudecontrôlesurlespublicitésEnleverunintérêtdiminuelenombredepublicitésrelativesà

cetintérêtparexemple,leschats


ÉVALUATIONDELAQUALITÉDES

DONNÉES


Cequ’onneveutpasvoirsurleweb

SitesNaziSitesterroristesContenupédophileFaussesinformationssurlasantéThéorieducomplotCybercrimeHarcèlementenligne…


Problèmes:quepeut-onfaire?

DétecterlescontenusillégauxsurleWebÉvaluationautomatique

delaqualitédescontenusdelalégalitédescontenusbasésurlatransparenceduclassement

Analyseetclassementcollaboratifdespagesweb

Nombreuxsujetsderecherche


DISSÉMINATIONDESDONNÉES

1. Protectiondesdonnées2. Accèsouvertsauxdonnées3. Neutralité


Protectiondesdonnées

Pourchacunedenosdonnéesenligne,nousaimerionscontrôler:

QuipeutleslireCommentellessonttransmisesCommentsont-ellesmodifiéesCommentsont/seront-ellesutilisées?

Nousaimerionsgarderunpeudecontrôlesurlesparamètresdediffusion

Contrôledel’accèssurlewebBeaucoupdeproblèmesouverts


Neutralité

Neutralitédunetetdesplate-formes(rapportCNNum)Leréseautransportedesdonnéessansbiaisparrapportauxsources,destinations,contenus…Plateformesenligne:discriminationenfaveurdeleursservices?Liensaveclesproblématiquesdel’équitéetdeladiversité

Le riche s’enrichit alors que le pauvre s’appauvrit …



Problèmes

Tests de neutralité Surveillance de la neutralité


MÉMOIREDESDONNÉES

1. Donnéespersonnelles2. Archiver3. Archivesduweb


Archivagedesdonnées

Problèmes:déciderCequ’ilfautarchiverCequ’ilfautoublier

OublierestunmoyendeproduiredesabstractionsClasser,résumer…

Parexemple,projeteuropéenForgetIT


Conclusion

Denombreuxconflitspolitiquesetsociauxsontaujourd’huiliésauxdonnéesLesproblèmessonttrèsclairementpasuniquementtechniques

Ilseraittempsdechangerlafaçondontonutiliselesdonnéespersonnelles?Dechangerleweb?

Desorganismesytravaillent• CNNum• différentsgouvernements

(USA,UE…)Parexemple,pourleweb• InternetGovernmentForum

(UN)• GlobalInternetPolicy

Observatory(UE?)• W3CTechnologyPolicy

InternetGroup


http://abiteboul.com http://binaire.blog.lemonde.fr

http://abiteboul.com

http://binaire.blog.lemonde.fr

responsabilité en analyse de neutralité et transparence · techniques disponibles : fouille de...

Documents