Privacy and Freedom.

How Users Matter: The Co-Construction of Users and Technology:

Algorithms and decision making based on Big Data have become pervasive in all aspects of our daily lives lives (offline and online), as they have become essential tools in personal finance, health care, hiring, housing, education, and policies. It is therefore of societal and ethical importance to ask whether these algorithms can be discriminative on grounds such as gender, ethnicity, or health status. It turns out that the answer is positive: for instance, recent studies in the context of online advertising show that ads for high-income jobs are presented to men much more often than to women [Datta et al., 2015]; and ads for arrest records are significantly more likely to show up on searches for distinctively black names [Sweeney, 2013]. This algorithmic bias exists even when there is no discrimination intention in the developer of the algorithm. Sometimes it may be inherent to the data sources used (software making decisions based on data can reflect, or even amplify, the results of historical discrimination), but even when the sensitive attributes have been suppressed from the input, a well trained machine learning algorithm may still discriminate on the basis of such sensitive attributes because of correlations existing in the data. These considerations call for the development of data mining systems which are discrimination-conscious by-design. This is a novel and challenging research area for the data mining community. The aim of this tutorial is to survey algorithmic bias, presenting its most common variants, with an emphasis on the algorithmic techniques and key ideas developed to derive efficient solutions. The tutorial covers two main complementary approaches: algorithms for discrimination discovery and discrimination prevention by means of fairness-aware data mining. We conclude by summarizing promising paths for future research.

Algorithmic Bias: From Discrimination Discovery to Fairness-aware Data Mining

The collection and analysis of observational and experimental data represent the main tools for assessing the presence, the extent, the nature, and the trend of discrimination phenomena. Data analysis techniques have been proposed in the last 50 years in the economic, legal, statistical, and, recently, in the data mining literature. This is not surprising, since discrimination analysis is a multidisciplinary problem, involving sociological causes, legal argumentations, economic models, statistical techniques, and computational issues. The objective of this survey is to provide a guidance and a glue for researchers and anti-discrimination data analysts on concepts, problems, application areas, datasets, methods, and approaches from a multidisciplinary perspective. We organize the approaches according to their method of data collection as observational, quasi-experimental, and experimental studies. A fourth line of recently blooming research on knowledge discovery based methods is also covered. Observational methods are further categorized on the basis of their application context: labor economics, social profiling, consumer markets, and others.

/pdf/a-multidisciplinary-survey-on-discrimination-analysis-4bfzpiipme.pdf

A multidisciplinary survey on discrimination analysis

The aim of this study is to provide a discussion on the definitions and conceptual dimensions of Responsible Research and Innovation based on findings from the literature. In the study, the outcomes of a literature review of 235 RRI-related articles were presented. The articles were selected from the EBSCO and Google Scholar databases regarding the definitions and dimensions of RRI. The results of the study indicated that while administrative definitions were widely quoted in the reviewed literature, they were not substantially further elaborated. Academic definitions were mostly derived from the institutional definitions; however, more empirical studies should be conducted in order to give a broader empirical basis to the development of the concept. In the current study, four distinct conceptual dimensions of RRI that appeared in the reviewed literature were brought out: inclusion, anticipation, responsiveness and reflexivity. Two emerging conceptual dimensions were also added: sustainability and care.

Definitions and Conceptual Dimensions of Responsible Research and Innovation: A Literature Review

Le présent document émet des recommandations permettant à l’Union européenne (UE) de compléter l’obligation d’effectuer une analyse d’impact relative à la protection des données (AIPD), telle que définie dans le Règlement Général sur la Protection des Données (RGPD), dans le but d’arriver à une protection plus solide des données à caractère personnel. En avril 2016, l’UE a mis la dernière main à la partie essentielle de la réforme du cadre juridique visant la protection des données personnelles. L’Union prépare actuellement les mesures de mise en œuvre et les lignes directrices donnant pleinement effet aux nouvelles dispositions juridiques avant leur mise en application à partir de mai 2018. Parmi d’autres « nouveautés », cette réforme introduit l’obligation juridique de réaliser une AIPD. Or, cette obligation comporte quelques faiblesses. La présente note cherche à y remédier en apportant des informations supplémentaires à l’actuel processus d’élaboration de politiques, notamment en proposant de « meilleures pratiques » permettant d’arriver à un type d’analyse d’impact générique, qui pourrait être préconisé pour plusieurs domaines (section II). La section III présente une première évaluation de la manière dont ces meilleurs pratiques se rapportent à l’obligation spécifique de procéder à une analyse d’impact, c’est-à-dire, l’AIPD, déterminée par le RGPD. Ces deux sections sont précédées de quelques informations générales sur les analyses d’impact en tant que telles. La section I présente en ce sens une définition et un aperçu historique, ainsi que les avantages et inconvénients des analyses d’impact en général. Enfin, la section IV fournit des recommandations en vue de compléter l’obligation de procéder à une AIPD telle que requise par le RGPD. Ces recommandations proposent notamment : (1) d’élargir la portée de l’obligation de mener une AIPD dans le cadre du RGPD ; (2) de développer des méthodes pour réaliser une telle analyse ; (3) d’établir auprès des autorités de protection des données (APD) des « centres de références » entièrement axés sur la réalisation des AIPD. La présente note de politique s’adresse surtout aux décideurs politiques actifs au niveau de l’UE et des Etats Membres, nonobstant l’intérêt potentiel qu’il pourrait soulever auprès de leurs homologues dans d’autres parties du monde.

Analyse d’impact relative à la protection des données dans l’Union européenne : une protection des personnes plus solide en complétant le nouveau cadre juridique

https://edpl.lexxion.eu/data/article/11393/pdf/edpl_2017_02-008.pdf

On risk, balancing, and data protection : A response to van der Sloot

Information is a central concept in data protection law. Yet, there is no clear definition of the concept in law – in legal text or jurisprudence. Nor has there been extensive scholarly consideration of the concept. This lack of attention belies a concept which is complex, multifaceted and functionally problematic in the GDPR. This paper takes an in-depth look at the concept of information in the GDPR and offers up three theses: (i) the concept of information plays two different roles in the GPDR – as an applicability criterion and as an object of regulation; (ii) the substantive boundaries of the concepts populating these two roles differ; and (iii) these differences are significant for the efficacy of the GDPR as an instrument of law.

https://biblio.vub.ac.be/vubirfiles/53168246/hallinan_gellert.pdf

The Concept of ‘Information’. An Invisible Problem in the GDPR

Spionageproducten zoals miniatuurcamera's, afluisterapparatuur en locatietrackers stellen burgers in staat om elkaar te bespioneren, oftewel elkaar heimelijk te observeren. Heimelijk observeren kun je echter ook doen met middelen die niet direct ontworpen zijn voor spionage, maar daar wel heel geschikt voor zijn, zoals hobbydrones met sensoren. Het is in dat licht zinvol onderscheid te maken tussen spionageproducten in enge zin (dat wil zeggen apparaten die in de eerste plaats zijn ontworpen of aangepast voor het heimelijk verzamelen van informatie over personen) en spionageproducten in brede zin (dat wil zeggen apparaten die kunnen worden gebruikt om heimelijk informatie over een persoon te verzamelen, maar waarvan een dergelijke heimelijke verzameling van informatie niet het hoofddoel is van ontwerp of gebruik). Voorbeelden van de eerste categorie zijn minicamera’s, een pen met ingebouwde afluisterapparatuur, en locatietrackers (zowel fysieke apparaten als spyware). Smartphones en hobbydrones met camera’s zijn voorbeelden van de tweede categorie.

De brede beschikbaarheid van beide typen producten op de markt, zowel in fysieke winkels als in webwinkels, en het feit dat ze steeds goedkoper worden, heeft geleid tot een toename van mogelijkheden tot spionage in onze samenleving.

De vraag die centraal staat in dit rapport is: Hoe zou het gebruik van hobbydrones en spionageproducten in enge zin door burgers beter kunnen worden gereguleerd, opdat de privacy van de burger beter wordt beschermd?

https://repository.tudelft.nl/assets/uuid:df13af00-c1ff-4829-b1cc-38b83bc086d8/3063_samenvatting_tcm28-452780.pdf

Raphael Gellert

Papers

Analyse d’impact relative à la protection des données dans l’Union européenne : une protection des personnes plus solide en complétant le nouveau cadre juridique

On risk, balancing, and data protection : A response to van der Sloot

The Concept of ‘Information’. An Invisible Problem in the GDPR

Spioneren met hobbydrones en andere technologieën door burgers