Categoriearchief: Organisatiegedrag

Why Mathematical Rationalists make Irrational Decisions

Book Review of: B. Recht (2026). The Irrational Decision. How we gave Computers the Power to Choose for Us, Princeton University Press, Princeton & Oxford, x + 270 pp.

Voor een Nederlandse vertaling klik hier.

Dr G.J. van Bussel

The author

Benjamin Recht is Professor in the Department of Electrical Engineering and Computer Sciences at the University of California, Berkeley. He has received several prizes and awards recognizing the quality and impact of his research and has served on the editorial boards of the Journal of Machine Learning Research and Mathematical Programming. He is co‑founder of the Conference on Learning for Decision and Control. Recht’s research group investigates how to design machine learning systems that remain robust when interacting with dynamic and uncertain environments. He develops reliable benchmarks and baselines for the assessment of performance of machine learning technology. He has demonstrated, for example, that standard machine learning theory often mischaracterizes the behaviour of deep neural networks and that a number of results in personalized medicine overstate their practical utility. His research is strengthened by close collaborations with scholars in applied domains such as computational imaging and robotics. 1

The key thesis

The key thesis is introduced and presented in the first chapter. Recht prefers the term ‘mathematical rationality’ to describe the narrow, statistical conception of reason that inspired the desire to build computers, shaped how they would eventually operate, and constrained the kinds of problems they would be considered well suited to solve. The Irrational Decision traces how, in the 1940s, mathematicians converged on a distinctive definition of rationality in which every decision is cast as a statistical problem of risk. This notion of rationality is heavily mathematical, and it has proved attractive to hyper‑online rationalists, public intellectuals, and billionaire technologists who (quite irrational) take their own success as evidence of uniquely clear thinking rather than luck or structural advantage.

Lees verder

Share This:

The Unaccountability Machine

Book review of: D. Davies (2024). The Unaccountability Machine. Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind, Profile Books, 304 pp.

A passenger is refused permission to board an aircraft and makes a plea to a sympathetic flight attendant. Regrettably, the passenger’s grievance pertains to a company policy, and the flight attendant is unable to assist. This scenario exemplifies a scenario in which the onus of decision-making is entrusted not to an individual, but rather to a set of predetermined guidelines.

‘The unsettling thing about this conversation is that you progressively realise that the human being you are speaking to is only allowed to follow a set of processes and rules that pass on decisions made at a higher level of the corporate hierarchy. It’s often a frustrating experience; you want to get angry, but you can’t really blame the person you’re talking to. Somehow, the airline has constructed a state of affairs where it can speak to you with the anonymous voice of an amorphous corporation, but you have to talk back to it as if it were a person like yourself.’ (p. 16)

Davies poses the question of why errors and crises never appear to be attributable to any specific individual or entity. The blame is often attributed to ’the system’, ’the computer’, ’the algorithm’, ’the AI’, or similar entities. Davies terms this phenomenon an ‘accountability sink’, a structural element that absorbs or obscures the consequences of a decision, thereby preventing direct accountability.

The phenomenon of accountability sinks, as postulated by Davies, serves to impede individuals from both willing and unwillingly making or changing decisions and, consequently, being held directly accountable for them.

Lees verder

Share This:

In de bureaulade

Erna Havinga publiceerde onlangs een blogpost waarin ze ingaat op het verschijnsel dat bestuurders compliance issues negeren, zelfs als er auditrapporten liggen die wijzen op misstanden. Ze richt zich vooral op ‘informatiebeveiliging en privacy’.

Het verschijnsel is mij niet vreemd: ik weet dat vele advies- en auditrapporten over problemen met de informatiehuishouding in bureaulades gelegd worden en dat de aanbevelingen slechts marginaal worden opgevolgd. Redenen daarvoor zijn divers, maar een ervan is dat de noodzaak niet zo gevoeld wordt en dat het in ieder geval geen prioriteit heeft.

Die onachtzaamheid speelt al veel langer als het gaat om informatie, informatiemanagement en informatiebeveiliging. Er is genoeg wetenschappelijke literatuur beschikbaar waaruit blijkt dat door organisatie- en medewerkersgedrag vele mooie informatie(beleids)plannen onderuit worden gehaald. En daar doen managers en bestuurders aan mee. Ze hebben de mond vol over ‘informatie op orde’, maar ze kijken het liefst weg als het aan ‘de orde’ komt. Of, ook vaak toegepast, gaan weer een nieuw systeem implementeren dat ‘alle problemen oplost’. Het nemen van ingrijpende beslissingen kan daardoor weer worden uitgesteld en er hoeven ook geen ingrijpende maatregelen genomen te worden om voor ‘gewenst gedrag’ te zorgen.

Wat me wel van het hart moet: ‘hoezo privacy’? Daar gaat het toch helemaal niet over? De AVG spreekt over de ‘inbreuk op de vertrouwelijkheid, integriteit of beschikbaarheid van persoonsgegevens’. Het woord privacy komt helemaal niet voor in de AVG, en dat is niet zo vreemd omdat privacy niet iets is wat beschermd kan worden door een wet.

Privacy by design en Privacy Impact Analyses bestaan niet. Het zijn volgens de AVG ‘gegevensbescherming door ontwerp’ en ‘effectbeoordeling inzake gegevensbescherming’. Dat is iets heel anders en veel concreter dan ‘privacy’. Het gaat dus eigenlijk om informatiebeheer, -management en -beveiliging.

Informatie is iets waar menselijk gedrag en organisatiecultuur moeite mee hebben. Er wordt veel geroepen, maar weinig geregeld en ingegrepen. Hard roepen dat informatie belangrijk is, is makkelijker dan dat echt goed organiseren in een complexe omgeving.

Het is niet zo vreemd dat negatieve auditresultaten niet leiden tot actie. Ingrijpen om ‘gewenst gedrag’ te stimuleren is immers ‘moeilijk’, zeker in de informele organisatieculturen waar vele organisaties prat op gaan.

Voor gedrag in organisaties:

G.J. van Bussel, A Sound of Silence. Organizational Behaviour and Enterprise Information Management, Van Bussel Document Services, Helmond 2020.
Online bron: hier en hier.

E, Havinga (2024), ‘Rapporteren zonder resultaat; de frustratie van elke FG en CISO’. IB&P Blog. Online bron: hier.

Share This: