BBC Click onderzoekt wat er gebeurt met de data die worden verzameld van ons online gedrag. Een recapitulatie van de effecten van de GDPR. Een film van 25 minuten.
Who has my Data?
Leave a reply
Category Archives: Privacy
Amazon Empire: The Rise and Reign of Jeff Bezos
Een nieuwe documentaire van Frontline.
Een video over hoe Jeff Bezos een van de grootste en invloedrijkste economische krachten in de wereld opbouwde – en de maatschappelijke kosten daarvan.
Jeff Bezos is niet alleen de rijkste man ter wereld, hij heeft een bedrijf opgebouwd dat zonder precedent is in de wereld van het Amerikaanse kapitalisme. Terwijl politici wereldwijd nadenken hoe de wereldwijde impact van Amazon in te perken, wordt in deze documentaire onderzocht hoe hij Amazon maakte tot wat het nu is.
Zeer de moeite waard, als je ongeveer twee uur ter beschikking hebt!
Social Credit: China’s Digital Dystopia In The Making
In China zorgen de technologische ontwikkelingen er voor dat surveillance-technologie steeds geavanceerder wordt. De meest triviale acties van een burger (of zelfs, etniciteit) kunnen grote gevolgen hebben voor hun vrijheid.
Gezichtsherkenning, beveiligingscamera’s en mobiele apps houden iedere actie van een burger in de gaten en gebruiken deze acties om een sociale ‘score’ te berekenen gebaseerd op reeds vastgelegde data over hun gedrag. Criminele, academische en medische dossiers, maar ook aankopen in een supermarkt, worden meegenomen in de bepaling van je status. Het kopen van alcohol brengt je score naar beneden, het kopen van luiers verhoogt die score juist.
“Yet injustices appear prevalent. Investigative journalist Liu Hu has found himself labelled ‘dishonest’ and his rights restricted for no apparent legitimate reason. It began after he exposed a corrupt politician. “There are a lot of people who are on the blacklist wrongly”, he says, “but they can’t get off it”.
Wat zijn de motivaties achter deze sociale score? Los van op ras of etniciteit gebaseerde profielen en los van onterechte en onrechtmatige ‘blacklisting’? Het is zonder twijfel de voortzetting van de strikte totalitaire politiek waarin de Chinese staat altijd uitgeblonken heeft, in een nieuw, nog moeilijker te vermijden jasje dan voorheen.
Een verontrustende film. Het gebeurt in China. Maar wie zegt dat eenzelfde surveillance niet plaatsvindt in Europa? Nederland?
Paradox. A Digital Analytics Documentary
Opgenomen in januari 2019, tijdens de Superweek, een bijeenkomst van digitaal analisten, wetenschappers, denkers en marketeers.
Een inspirerende maar ook verontrustende video over Big Data analyse en de verschillende paradoxen die hierdoor ontstaan. Zoals het feit dat staten volledige surveillance willen reageren op basis van dat zonder enige transparantie (denk aan China), maar dat ICT-bedrijven die analyses uitvoeren (terecht, overigens) aan allerlei beperkingen worden onderworpen.
Maar ook de paradox dat meer data niet betekent dat de uitkomsten beter worden. ‘It can be. If all that data is leading to Analysis Paralysis … or if it leads to falling in love with data analysis itself and forgetting real business outcomes (the reason why you got money for funding the collection of all that data). If no one is using this mountain of data for solving problems, then it’s better that the data not be collected at all’.
Moeten we steeds doorgaan met het verzamelen van data?
Datakwaliteit wordt steeds belangrijker. En hoewel in business analytics de kwaliteit van data over het algemeen redelijk is (niet optimaal, dat is het nooit geweest), is het in web analytics uitermate slecht.
En uiteindelijk is data net zo goed als degene die de data interpreteert. Datakwaliteit alleen zegt niet zo heel veel als de interpretatie hapert, bij de mens of bij het algoritme.
Wat absoluut nodig is, is een nieuw digitaal sociaal contract gebaseerd op wederzijdse transparantie tussen staten en hun burgers.
Genoeg voer om over na te denken en verplichte kost voor ieder data scientist.
AI is not good or bad, nor is it neutral, TEDx van Lokke Moerel
In een TEDx in Amsterdam ging prof.dr. Lokke Moerel, hoogleraar Global ICT Law aan de Universiteit van Tilburg, in op de positieve en negatieve aspecten van kunstmatige intelligentie. Ze gaat uitgebreid in op de grote impact die kunstmatige intelligentie heeft op de ontwikkeling van (en het bewustzijn aangaande) menselijke vooronderstellingen. Want kuntmatige intelligentie kan die vooroordelen ten goed en ten kwade tot uitdrukking brengen. Het is immers niet neutraal. De kwaliteit van de data die door de algoritmes wordt geanalyseerd is sterk bepalend voor wat die ‘intelligentie’ kan doen. Lokke Moerel behoort tot de belangrijkste privacy advocaten ter wereld. Ze is onderdeel van het privacy en cybersecurity team van het Amerikaanse advocatenkantoor Morrison & Foerster. De Ted-talk hieronder schetst in tien minuten de essenties van het feit dat AI niet neutraal is.
The Science of Surveillance
Surveillance is het monitoren van gedrag, activiteiten, of andere veranderende informatie, meestal van mensen, met het doel hen te beïnvloeden, managen, sturen en beschermen. Het kan obeservatie op afstand betreffen met behulp van camera’s, maar ook het onderscheppen van electronisch gecommuniceerde informatie. Het kan ook betrekking hebben op menselijke ‘achtervolgers’, het afluisteren van telefoongesprekken of onderscheppen van de traditionele post.
Dit programma (van ongeveer drie kwartier) introduceert het concept van de ‘surveillance society’ en laat zien hoe technologie wordt ontwikkeld om mensen en objecten te identificeren, monitoren en volgen.
De kijker komt tot de conclusie dat surveillance technologie wijst op een paradox, namelijk dat het voordelen brengt van veiligheid en gemak, maar wel ten koste van verlies aan privacy en individuele vrijheden.
Een ‘must see’!
Privacy, Data, Democracy
‘We need to move beyond the Silicon Valley model’.
Aral Balkan is oprichter en beangrijkste ontwikkelaar van Ind.ie, een bedrijf dat onafhankelijke alternatieven maakt voor ‘spyware 2.0’. Aral benadrukt dat wij als individuen het eigendom en de controle over onze ‘digitale identiteiten’ moeten hebben. We zijn produkten geworden die bedrijven verkopen aan hun klanten. Dat is het business model van Silicon Valley, wat door wetgevers onvoldoende wordt bestreden. Hij wil met zijn werk fundamentele vrijheden, mensenrechten, en democratie beschermen door onafhankelijke technologie te ontwerpen die niet spioneren op hun gebruikers. Aral heeft het Ind.ie Manifesto geschreven.
Op dit moment werkt hij aan de core van het Ind.ie platform, een gedistribueerd social network: Heartbeat.
In deze video vertelt hij over Heartbeat, en allerlei aspecten inzake privacy, data en democratie. Duidelijk wordt waarom het model van Silicon Valley dient te veranderen.
Hij vertelde dit verhaal op The Conference 2015 in Malmö.
Embedding Privacy in ICT Architectures
Van 23 – 26 oktober 2015 vond in Amsterdam de Amsterdam Privacy Conference plaats, georganiseerd door het Amsterdam Platform for Privacy Research (APPR). Dit is een samenwerkingsverband van privacy onderzoekers binnen de Universiteit van Amsterdam vanuit verschillende achtergronden en disciplines. De conferentie werd uitzonderlijk druk bezocht door rechtswetenschappers, privacy-juristen, informatici, politicologen, cryptologen, e.d. ‘from all around the world’. Samen met John van der Pas (Saxion Hogeschool) presenteerde ik daar een paper waarin we de stelling verkondigen dat de privacy van een burger (en zeker in het Big Data tijdvak!) alleen beschermd kan worden wanneer zijn belang op privacy en de bescherming van zijn persoonsgegevens meegenomen wordt in de ontwikkeling van soft- en hardware-architecturen. We beginnen deze paper als volgt:
“According to Johnson & Grandison (2007), failure to safeguard privacy of users of services provided by private and governmental organisations, leaves individuals with the risk of exposure to a number of undesirable effects of information processing. Loss of control over information about a person may lead to fraud, identity theft, reputation damage, and may cause psychosocial consequences ranging from mild irritation, unease, social exclusion, physical harm or even, in extreme cases, death. Although pooh-poohed upon by some opinion leaders from search engine and ICT industries for over a decade (Sprenger, 1999; Esguerra, 2009), the debate in the wake of events like the tragic case of Amanda Todd could be interpreted as supporting a case for proper attention to citizens’ privacy. Truth be told, for a balanced discussion on privacy in the age of Facebook one should not turn towards the social media environment that seems to hail any new development in big data analysis and profiling-based marketing as a breathtaking innovation. If the myopic view of technology pundits is put aside, a remarkably lively debate on privacy and related issues may be discerned in both media and scientific communities alike. A quick keyword search on ‘privacy’, limited to the years 2000-2015, yields huge numbers of publications: Worldcat lists 19,240; Sciencedirect 52,566, IEEE explore 71,684 and Google scholar a staggering 1,880,000. This makes clear that privacy is still a concept considered relevant by both the general public and academic and professional audiences. Quite impressive for a subject area that has been declared ‘dead’”.
Citatie: J. van de Pas, G.J. van Bussel, ‘Embedding Privacy in ICT Architectures. The citizen as public stakeholder in architecture development’, B. van der Sloot (red.), Proceedings of the Amsterdam Privacy Conference (21-26 October 2015), Amsterdam (Amsterdam: APPR, 2015), 14 pages, incl. references (only available on USB). PDF
Publicaties in Electronic Journal of Information Systems Evaluation
In Electronic Journal of Information Systems Evaluation, Vol. 18 (2015), nr. 2, pp. 187-198 en 199-209 (let op: afwijkende paginanummering in bijgevoegde PDFs!) verschenen twee papers van mijn (gedeelde) hand. Deze papers zijn bewerkingen van twee conferentiepapers uit 2014, gepresenteerd bij de European Conference on Information Systems Management Evaluation (Gent). Deze beide conferentiepapers zijn ook op deze site gepubliceerd. In EJISE zijn aanzienlijk uitgebreide en gewijzigde versies van deze papers gepubliceerd. De papers zijn door de redacteuren geselecteerd uit alle bijdragen voor de ECIME conferentie en zijn in hun gewijzigde vorm opnieuw door een double-blind peer review gegaan, net als de conferentiepapers eerder. Voor de papers en hun citatie zie:
J. van de Pas, G.J. van Bussel, ‘Privacy lost – and found? The information value chain as a model to meet citizens’ concerns’, Electronic Journal of Information Systems Evaluation, vol. 18 (2015), nr. 2, pp. 199-209 (PDF).
G.J. van Bussel, N. Smit, J. van de Pas, ‘Digital Archiving, Green IT and Environment. Deleting data to manage critical effects of the Data Deluge’, Electronic Journal of Information Systems Evaluation, vol 18 (2015), nr. 2, pp. 187-198 (PDF)
Het volledige nummer van EJISE is hier te raadplegen.
Infographic: Increasing online trust
De Online Trust Alliance voert jaarlijks een audit uit naar de bescherming van burgers en hun gegevens. Voor 2015 werden bijna 1000 websites van grote banken, retailers, sociale media bedrijven, kranten, tv-bedrijven, uitgevers, muziekmaatschappijen, nieuwssites, regeringsinstellingen en Internet of Things-sites ge-audit. 44% van deze websites voldeed aan de criteria van klantbescherming en privacy. 45% van de bedrijven faalde hierin echter, wat zorgwekkend is. En let wel: dat de websites voldoen aan de criteria van klantbescherming en privacy betekent niet dat de privacy van klanten daadwerkelijk gewaarborgd is!
Evgeny Morozov: The End of Cyber Utopia
Euforie over de revolutionaire effecten van Internet is de afgelopen twee jaar met de steeds toenemende berichten over surveillance en verdwijnen van privacy door overheden en bedrijven wat afgenomen. Desalniettemin verschijnen er nog steeds een enorme hoeveelheid publicaties over de enorme potentie van internet in het oplossen an sociale en maatschappelijke problemen. Evgeny Morozov is een van de criticasters van deze euforie en heeft daarover veel geschreven.
Deze VPRO documentaire van Tegenlicht laat Morozov zien in zijn strijd tegen het cyber utopisme. Omringd door grote videoschermen wordt Morozov gebombardeerd met allerlei fragmenten, gedachten en situaties waarop hij vervolgens zijn kritieken, gedachten en dilemma’s loslaat. Een documentaire uit 2012 in een Engelse versie met een fraai Nederlands Engels sprekende commentator van VPRO’s ‘Backlight’!
Deze video op YouTube is verdwenen. De Engelstalige versie waarnaar werd verwezen in bovenstaande tekst is niet meer toegankelijk in Nederland. Ik verwijs hier naar de site van de VPRO waarop deze documentaire nog te zien is. Deze video staat wat verder op de pagina, dus scroll even door. Er is op deze pagina ook een video te vinden over de TED talk van Morozov uit 2009, waarin hij zijn internetkritiek ook toelicht.
Video Het einde van het Cyber Utopia
Ik heb tevens een video van Morozov opgenomen van Tegenlicht Talks, waarbij hij zijn standpunten wat verder uitwerkt op basis van de Snowden-onthullingen (2014).
Ik heb tevens een video opgenomen van een speech van Morozow als Yahoo fellow op Georgetown University, waar hij verder ingaat op de wijze waarop het internet niet alleen burgers kan stimuleren om bij te dragen aan de maatschappij maar hun participatie ook kan beperken. Het gaat over de mogelijkheden van het internet om gebruiktt worden ter bevordering als voor belemmering.
The Dark Side of Technology
Een video niet over de positieve en enthousiasmerende ontwikkelingen, maar over de duistere kanten van onze technologie, zoals de ongebreidelde surveillance mogelijkheden, die George Orwell’s 1984 dichtbij brengen.
BBC Horizon: Inside the Dark Web
Een recente documentaire van BBC Horizon over de ‘mass surveillance’ die moderne technologie verbonden met het Internet mogelijk maakt. De BBC introduceert de aflevering als volgt: ‘Twenty-five years after the world wide web was created, it is now caught in the greatest controversy of its existence – surveillance. With many concerned that governments and corporations can monitor our every move, Horizon meets the hackers and scientists whose technology is fighting back. It is a controversial technology, and some law enforcement officers believe it is leading to risk-free crime on the dark web – a place where almost anything can be bought, from guns and drugs to credit card details’.
Het is altijd de afweging tussen de bescherming van persoonlijke gegevens en de bescherming van het algemeen belang. Het vinden van de balans daartussen is de grootste uitdaging van deze tijd. Wat zijn de grenzen van privacy? Wat zijn de grenzen van wat de overheid mag doen? Wanneer is ‘surveillance’ in het algemene belang en wanneer niet? Vragen waar nog steeds geen antwoord op mogelijk is.
Een schot voor de boeg: aan het grenzeloos verzamelen van persoonlijke data zou onmiddellijk paal en perk gesteld moeten worden, zeker als dat door het private bedrijfsleven gebeurt. Voor overheidsorganen zou het ook moeten worden verboden, maar er zou in het kader van het algemeen belang wel moeten worden bepaald welke data verzameld mogen worden en hoe lang die ter beschikking zouden mogen zijn. De vernietiging van die data zou radicaal moeten zijn.
De documentaire heeft interviews met Tim Berners-Lee en Julian Assange.
Deze video is niet langer beschikbaar, wel fragmenten. Een aantal daarvan staan hieronder.
The Internet’s Own Boy: The Story of Aaron Swartz
Dit is een Amerikaanse documentaire uit 2014, geschreven, geregisseerd en geproduceerd door Brian Knappenberger. ‘The film follows the story of programming prodigy and information activist Aaron Swartz. From Swartz’s help in the development of the basic internet protocol RSS to his co-founding of Reddit, his fingerprints are all over the internet. But it was Swartz’s groundbreaking work in social justice and political organizing combined with his aggressive approach to information access that ensnared him in a two-year legal nightmare. It was a battle that ended with the taking of his own life at the age of 26. Aaron’s story touched a nerve with people far beyond the online communities in which he was a celebrity. This film is a personal story about what we lose when we are tone deaf about technology and its relationship to our civil liberties’.
Watch Dogs We Are Data: the interconnectivity of public data
Watch Dogs is een action-adventure van Ubisoft. ‘Set in alternate reality Chicago, Illinois, the player controls Aidan Pearce (voiced by Noam Jenkins) who can hack into electronic devices linked to the city’s central operating system (CtOS). In the game universe, the Northeast blackout of 2003 was caused by a hacker, which prompted the development of CtOS. This system illustrates the concept of the inter-connectivity of data and the world’s increasing reliance on technology by controlling almost every piece of technology in the city and containing information on all citizens. Summarily, that system can be accessed by people like you so that bank numbers and personal funds can be stolen, traffic lights can be switched at random, and information can be used and abused’. Om aan te geven dat het spel veel realistischer is dan we wellicht zouden denken, lanceerde Ubisoft de website Watch Dog’s We are Data, waarin precies wordt aangegeven hoe zeer het Watch Dog universum lijkt op het onze.
De website staat je toe te kijken naar data (‘CCTV networks, traffic lights, real-time running trains, as well as localized shared social media on Twitter, Facebook, email, Instagram, Flickr, etc’. Dit pops-up in real-time in drie verschillende steden: Londen, Parijs en Berlijn.
De website wil aangeven dat ‘society’s hyper reliance on technology and interconnected reality already exists… and all that information can be shared, traded, and monitored in real-time by anyone’.
Door iedereen! Dus ook door jou!
Hieronder een video met uitleg over de site en de werking ervan. In het Frans! Goed om je talenkennis te testen!
De website waarop je zelf kunt grasduinen (in het Engels!) kun je hier vinden.
Inside The NSA. Americas Cyber Secrets
De NSA heeft het nieuws vele malen gehaald de afgelopen jaren, veelal negatief, door de enorme hoeveelheden data die worden vastgelegd (afgetapt is beter). Maar wat doet die organisatie nu echt? In mei 2012 maakte National Geographic een film over de werking van de NSA. Voor de eerste keer sinds 1952 mocht een filmploeg de NSA-gebouwen in. Ik weet niet hoe betrouwbaar of waarheidsgetrouw de film is en wat de achterliggende gedachte ervan is. Het heeft een nogal nationalistische sfeer, maar desalniettemin: het geeft een enorme hoeveelheid informatie over deze geheime dienst en de interne werking ewrvan. Interessant genoeg dus om te bekijken….
For the record: The Surveillance State
‘For The Record’ is een magazine voor onderzoeksjournalistiek, zonder politieke agenda en zonder iets te verliezen te hebben. Deze eerste aflevering laat zien: ‘how the NSA turned America into a surveillance state. Hear from former NSA employees who left the agency after discovering the government was spying on her people. Plus, join us as we investigate a facility being built in Utah slated to become the largest information-gathering center in the country’. Een film uit maart 2013, een schokkend betoog dat stelt dat: ‘with every call, every email … the government is watching’. Let wel: het gaat puur om het in de gaten houden van Amerikaanse burgers door de Amerikaanse regering. Maar laten we eerlijk zijn: de Nederlandse regering doet precies hetzelfde…..
Panopticum
De controle op ons dagelijks leven neemt alleen maar toe. Privacy verdwijnt. Hoe gebeurt dit en hoe beinvloedt dat ons leven ? Een film over de opkomst van de surveillancestaat in het dagelijkse leven. Een interessante film van Peter Vlemmix. Zeker een interessant vervolg op de video van Cukier en Mayer-Schoenberger.
Big Data and its Dark Side
Op 6 maart 2013 hielden Viktor Mayer-Schoenberger en Neil Cukier een voordracht over Big Data en vooral over de ‘donkere kant’ van deze Big Data op een door het Berkman Center van de Harvard University georganiseerd seminar hierover. De voordracht werd als volgt aangekondigd: ‘The power of big data—analyzing huge swaths of information to uncover insights and make predictions that were largely impossible in the past—is poised to transform business and society. Yet there is a dark side. Privacy is eroded like never before. And a new harm emerges: predictions about human behavior that may result in penalties prior to actual the infraction being committed. In this talk Viktor Mayer-Schönberger—Professor of Internet Governance and Regulation at Oxford—and Kenneth Neil Cukier—Data Editor of The Economist—take a look at big data’s power, the dangers it poses and how to address them’. Nog in ‘the mood’ van de KVAN Dagen 2014 in Assen over ‘Big Archives’ is deze voordracht wel heel interessant voor iedere informatieprofessional.
How the NSA betrayed the world’s trust….
Het is geen geheim meer dat de USA een gedetailleerde en alomvattende surveillance uitvoert op iedere niet-Amerikaan wiens data door een Amerikaanse organisatie worden verwerkt. Of ze verdacht worden of niet, speelt daarbij geen enkele rol. Dat betekent dat iedere internationale gebruiker van het internet in de gaten wordt gehouden. Denk aan het bericht enkele dagen geleden dat ook alle gezichtsfoto’s op het internet door de NSA worden opgeslagen en gebruikt. Mikko Hypponen, een van de belangrijkste internationale security-experts en een belanmgrijk voorvechter van de rechten de internetgebruiker, hield deze TEDx Talk in Brussel in oktober 2013. Belangrijk genoeg om hier op te nemen. Zijn voordracht geeft voer tot nadenken en vraagt om actie: het vinden van alternatieve oplossingen voor het gebruiken van Amerikaanse bedrijven voor het stillen van de internationale informatiebehoefte….
