Recensie: Als iemand dit bouwt gaat iedereen dood

AI is tegenwoordig overal. Van zoekmachines en klantenservices tot schoolopdrachten en fotobewerking: kunstmatige intelligentie sluipt ongemerkt ons dagelijks leven binnen. Vaak handig, soms indrukwekkend en af en toe zelfs een beetje grappig. Toch merk ik dat er steeds vaker discussies ontstaan over waar dit allemaal naartoe gaat. Toen Als iemand dit bouwt, gaat iedereen dood (EAN: 9789493434332) op de mat viel, was mijn nieuwsgierigheid dan ook direct gewekt. De titel klinkt als pure sciencefiction, maar al na de eerste hoofdstukken merk je dat de auteurs juist willen laten zien hoe serieus de ontwikkelingen rondom AI eigenlijk zijn.

Waar ik vooraf dacht een ingewikkeld technisch boek in handen te hebben, bleek het verrassend toegankelijk geschreven. Het deed me qua impact denken aan boeken zoals Schokbestendig, waarin ook wordt stilgestaan bij grote maatschappelijke veranderingen en de kwetsbaarheid van onze moderne wereld. Alleen richt dit boek zich volledig op kunstmatige intelligentie — en dat maakt het soms behoorlijk ongemakkelijk om te lezen.

Als iemand dit bouwt, gaat iedereen dood

In dit non-fictieboek leggen Eliezer Yudkowsky en Nate Soares uit waarom zij geloven dat de ontwikkeling van superintelligente AI een serieus risico vormt voor de mensheid. Volgens hen bouwen we tegenwoordig geen AI-systemen meer die volledig door mensen worden gecontroleerd, maar trainen we systemen die zichzelf ontwikkelen via miljarden parameters. Zelfs de makers begrijpen vaak niet volledig hoe die systemen tot bepaalde keuzes komen.

Het boek leest opvallend vlot. De auteurs gebruiken voorbeelden, vergelijkingen en scenario’s waardoor ingewikkelde concepten begrijpelijk blijven, zelfs als je geen technische achtergrond hebt. Tegelijkertijd schuwen ze stevige uitspraken niet. Ze beschrijven hoe een superintelligente AI mogelijk eigen doelen ontwikkelt en de mens uiteindelijk als obstakel kan gaan zien. Niet uit kwaadaardigheid, maar puur vanuit logica en efficiëntie.

Wat het boek sterk maakt, is dat het niet blijft hangen in losse doemscenario’s. De auteurs bouwen hun verhaal stap voor stap op. Eerst leggen ze uit hoe AI-systemen werken, daarna waarom controle moeilijker wordt naarmate systemen slimmer worden, en uiteindelijk welke risico’s daaruit kunnen ontstaan. Daardoor voelt het minder als sensatie en meer als een serieuze waarschuwing.

Wat vinden wij ervan?

Dit is absoluut geen luchtig boek voor tussendoor. Regelmatig legde ik het even weg om over bepaalde stukken na te denken. Vooral omdat veel voorbeelden helemaal niet zo vergezocht voelen als je dagelijks ziet hoe snel AI zich ontwikkelt. Denk aan zelflerende systemen, AI die teksten schrijft, beelden maakt of zelfstandig problemen oplost. Een paar jaar geleden leek dat nog futuristisch, inmiddels gebruiken miljoenen mensen het dagelijks.

Toch vond ik het boek niet alleen maar negatief. Juist in de latere hoofdstukken proberen de auteurs ook ruimte te geven aan nuance en verantwoordelijkheid. Ze benadrukken dat technologische vooruitgang niet per definitie slecht is, maar dat snelheid en gebrek aan controle gevaarlijk kunnen worden. Dat maakt het boek sterker dan wanneer het enkel uit rampscenario’s had bestaan.

Wat ik daarnaast prettig vond, is dat het boek filosofische vragen oproept zonder zwaar academisch te worden. Hoeveel controle willen we eigenlijk uit handen geven? Wanneer wordt gemak gevaarlijk? En begrijpen we wel echt wat we bouwen? Die vragen blijven nog lang hangen nadat je het boek dichtklapt.

Qua sfeer deed het me soms denken aan boeken over grote maatschappelijke veranderingen en menselijke kwetsbaarheid, zoals over antieke wegen, waarin persoonlijke reflectie en de impact van de wereld om ons heen ook centraal staan. Alleen ligt hier de focus volledig op technologie en de toekomst van de mensheid.

Het meest indrukwekkende vond ik misschien nog wel dat het boek leest als een thriller, terwijl de auteurs blijven benadrukken dat alles gebaseerd is op bestaande ontwikkelingen binnen AI-onderzoek. Dat maakt het soms behoorlijk beklemmend.

Informatie

Titel: Als iemand dit bouwt, gaat iedereen dood
Auteur: Eliezer Yudkowsky & Nate Soares
Vertaling: Jan Willem Reitsma
Uitgever: Maven Publishing
EAN: 9789493434332
Aantal pagina’s: 240
Genre: Non-fictie / Technologie / AI
Beschikbaar als: Paperback en e-book
Taal: Nederlands

Zouden jullie dit boek durven lezen?