Algemeen Jacques Ellul Günther Anders Lewis Mumford Herbert Marcuse Andrew Feenberg Wiebe Bijker Algemeen Luddieten Wapentuig als voorbeeld Transport Radio en televisie Internet Artificiële intelligentie Algemeen Hypermedia en hypertext Informatieovervloed Privacy Spionage, inlichtingendiensten Cyberoorlog Hackers Algemeen Het schrift Boeken en tijdschriftenIncididunt nisi non nisi incididunt velit cillum magna commodo proident officia enim.
Bennie MOLS[Benny Mols is afgestudeerd als natuurkundige en filosoof en sinds 1999 werkzaam als wetenschapsjournalist en auteur. Dit is een in toegankelijke taal geschreven boek over de mogelijkheden van mensen tegenover de mogelijkheden van computers. Het boek is kritisch tegenover een aantal vanzelfsprekendheden over echte en kunstmatige intelligentie, de Turingtest, en zo verder. En ook heel apart: eindelijk eens geen boek dat alleen maar Amerikanen aan het woord laat, integendeel: de opvattingen van Nederlandse onderzoekers komen uitgebreid aan bod. Heerlijk.]
"Het menselijk brein is een informatieverwerkend, levend orgaan. Het is in honderden miljoenen jaren geëvolueerd om het lichaam te laten overleven in een onzekere en veranderende buitenwereld en om het lichaam zich te laten voortplanten. Het brein vraagt zich voortdurend af hoe het lichaam moet reageren op de omgeving. Kijken, luisteren, ruiken, voelen en proeven zijn daarbij essentieel. Dat kunnen hedendaagse computers in het geheel niet en zelfs de beste robots zijn er onbeholpen in. Het brein is goed in het leren van nieuwe kennis en vaardigheden. Het is ijzersterk in het hekennen van patronen: het gezicht van je moeder, het geluid van een politiesirene.
Het computerbrein is een niet-levende, op logica gebaseerde machine vol siliciumtransistoren. Het rekent extreem snel vergeleken met het menselijk brein. Het kan enorme hoeveelheden gegevens in zijn geheugen houden en wordt nooit moe. Maar qua leervermogen en patroonherkenning kan de computer nog lang niet tippen aan de mens. Eigenlijk vullen het menselijk brein en de computer elkaar aan: waarin de een goed is, is de ander slecht en omgekeerd."(10)
[Waarmee de kern van het betoog in dit boek gegeven is. Ik houd niet zo van de term 'brein' voor mensen. Ik vind het wel aardig om al in het taalgebruik onderscheid te maken: menselijke hersens tegenover het computerbrein. Brein heeft voor mij de connotatie van 'kunstmatige intelligentie'.]
"Anno 2012 is Turings droom van een denkende machine echter nog steeds niet uitgekomen. De machine die kan denken zoals een mens, is zelfs na meer dan een halve eeuw onderzoek nog luchtfietserij. Kunstmatige intelligentie heeft menselijke intelligentie niet vervangen, maar menselijke intelligentie is utigebreid met kunstmatige intelligentie."(11)
Over Turing. De Turingmachine die Turing in 1936 bedacht is een model voor hoe de menselijke geest rekent. Die machine laat meteen principieel zien dat er altijd problemen zijn die een machine die logische regels volgt niet kan oplossen. De Turingtest is een test waarmee vastgesteld zou moeten kunnen worden of computers kunnen denken. Turing gelooft in dat idee. Als je niet binnen vijf minuten kunt onderscheiden of de reacties in een bepaalde context van een mens of van een machine komen, is de machine geslaagd voor de Turingtest. Is er al een computer die voor de Turingtest geslaagd is?
Erg leuk citaat aan het begin van het hoofdstuk:
"De vraag of een computer kan denken is niet interessanter dan de vraag of een onderzeeër kan zwemmen." (Edsger W. Dijkstra gec. op p.31)
Een dialoog met chatbot Ramona - een creatie van de Amerikaan Ray Kurzweil - laat zien dat computerprogramma's niet in staat zijn natuurlijke taal en communicatie te begrijpen. Je kijgt nonsense-reacties of flauwe trucjes. Sinds ELIZA - het 'therapeutische' programma van Weizenbaum - is er dus weinig veranderd en geen van dit soort programma's slaagt voor de Turingtest.
"Laten we eens kijken tegen welke problemen chatbots bij de Turing Test aan lopen. Zoals we kunnen zien aan Ramona, ELIZA en Do-Much-More gebruiken chatbots vooral trucjes, zoals geforceerd praten over wat ze wel weten of het uit de weg gaan van de conversatie door zelf vragen te stellen. Zodra je het gesprek een beetje persoonlijk maakt raken ze in verwarring. Ze hebben geen contact met de wereld. Ze hebben geen persoonlijkheid. Ze hebben geen consistent verhaal, geen mening, geen smaak, geen emoties en geen belangen. Dat betekent dat we eigenlijk van de machine vragen om een consistent verhaal bij elkaar te liegen. Maar iedereen weet uit ervaring dat liegen ingewikkelder is dan de waarheid spreken. Hoe verder het gelogen verhaal vordert, hoe moeilijker het wordt om het verhaal consistent te houden. Daarom lijken de teksten van chatbots meer op een allegaartje aan puzzelstukjes die bij totaal verschillende puzzels behoren.
Uit hoeveel teksten afkomstig uit boeken, artiekelen en websites Ramona ook kan putten, de kennis die mensen normaliter niet in woorden vatten, blijft buiten haar bereik. Mensen hebben veel meer impliciete kennis dan we beseffen."(41)
[Ik vind dit geweldig helder op een rij gezet. Mols is werkelijk heel goed in het in simpele bewoordingen neerzetten van waar het om gaat.]
Wat moeten dus heden ten dage met die Turingtest? Mols laat wat mensen aan het woord.
"'De Turing Test is gedateerd,' vindt Frank van Harmelen. 'Toen Turing zijn test in 1950 voorstelde, waren de ideeën over wat computers konden nog heel naïef. Het was revolutionair dat Turing al durfde na te denken over computers die niet te onderscheiden zouden zijn van mensen. Maar nu zijn we zestig jaar verder en begrijpen we veel beter wat computers wel en niet goed kunnen en wat intelligentie is. Er zijn allerlei andere vormen van intelligentie dan de vormen die mensen gebruiken.'
Mensen gebruiken patroonherkenning. Computers zoeken razendsnel door enorme hoeveelheden gegevens. Het een is niet per definitie beter dan het ander. De twee strategieën kunnen elkaar ook aanvullen. De menselijke hardware heeft cognitieve beperkingen ingebouwd: zo kan ons brein maar tussen de vijf en negen items in het kortetermijngeheugen opslaan. Van Harmelen: 'Maar waarom zouden we zo'n zelfde beperking inbouwen in een computer alleen maar om menselijke intelligentie te simuleren? Veel dingen die moeilijk zijn voor mensen, zijn heel goed op computers te realiseren zoals schaken, het uitrekenen van ingewikkelde formules of het doen van simulaties. Paradoxaal genoeg zijn de dingen die elke driejarige kleuter al kan juist heel erg moeilijk voor een computer: natuurlijke taal begrijpen of gezichten herkennen.'
Juist omdat de Turing Test gericht is op het simuleren van menselijke intelligentie is de test gedateerd. Vergelijk het met vliegen. Iedereen vindt dat vogels vliegen. Maar iedereen vindt ook dat Boeing 747's vliegen, terwijl ze dat op een heel andere manier doen. (...) Eeuwenlang probeerden mensen te vliegen door vogels na te doen. Dat leverde behalve tragikomische scènes niets op. De mens leerde pas vliegen toen hij ophield de natuur te imiteren, de wetten van de aerodynamica ging begrijpen en vliegtuigen met stijve vleugels ging bouwen. (...)
Van Harmelens argumenten tegen de Turing Test worden door de meerderheid van de internationale collega's gedeeld."(43-44)
[Ook ik ben het helemaal met hem eens.]
"Van Benthem: 'Eigenlijk vind ik het daarom een extreem oninteressante test. Veel interessanter is het verschijnsel dat machine-intelligentie in de afgelopen zestig jaar helemaal geen concurrent is geworden van menselijke intelligentie, maar dat menselijke intelligentie is utigebreid met machine-intelligentie. De samenwerking tussen mens en machine heeft tot nieuwe gedragsvormen geleid, zoals het gebruik van internet en smartphones. Wat mij betreft is de interessante vraag welke uitbreidingen wel en niet werken en waarom; niet of we menselijke intelligentie kunnen simuleren.'"(46)
Weg dus met de Turingtest. Het volgende hoofdstuk gaat over dingen waarin computers goed zijn.
Weer een prachtig begincitaat:
"Een computer die een grootmeester met schaken verslaat, is net zo interessant als een bulldozer die het gewichtheffen op de Olympische Spelen wint."(Noam Chomsky gec. op p.48)
Over computers die schaken, Jeopardy, checkers spelen, en dergelijke.
"Met de winst van Watson in Jeopardy heeft IBM aangetoond dat een computer in staat is correcte antwoorden te geven op gecompliceerde vragen, geformuleerd in natuurlijke taal. En dat is een veel grotere prestatie dan het verslaan van Garry Kasparov in een schaakmatch."(60)
"De computer heeft checkers al volledig gekraakt. Hij schaakt beter dan de mens, wordt steeds sterker in go en is zelfs gekroond tot beste quizspeler in de moeilijkste kennisquiz ter wereld. Maar de manier waarop de computer schaakt of Jeopardy speelt, is heel anders dan de manier waarop de mens dat doet en ook heel anders dan de grondleggers van de kunstmatige intelligentie in de jaren vijftig van de vorige eeuw hadden gedroomd."(64)
"Veel details over hoe mensen een antwoord vinden, zijn nog onbekend. Wel is duidelijk dat het essentiële verschil tussen de mens en de computer ligt in het unieke karakter van netwerken van hersencellen om patronen te herkennen, gecombineerd met het verrmogen van die netwerken om tegelijkertijd actief te zijn."(65)
Er is nog geen schaakcomputer die schaakt als een mens. Alle schaakprogramma's zijn brutekrachtprogramma's die steeds beter worden door snellere hardware en algoritmes. Dat laatste idee wordt eindeloos doorgetrokken en is niet erg innovatief. Kasparov heeft opgemerkt dat het beter zou zijn het onderzoek te richten op het eerste idee.
"In dit hoofdstuk hebben we gezien waarin de 'denkende' machines van nu goed zijn: razendsnel en foutloos rekenen, goed in exacte feiten, goed onder tijdsdruk, goed in het doorzoeken van een enorme databerg, onvermoeibaar en met een enorm en perfect geheugen. In plaats van de sciencefictioncomputer HAL 9000 hebben we superschaker Deep Blue, superquizzer Watson en niet te vergeten superzoekmachine Google gekregen. We zijn ook al gestuit op enkele grote verschillen tussen menselijke intelligentie en kunstmatige of machine-intelligentie. In het volgende hoofdstuk gaan we verder in op die aspecten van intelligentie waarin huidige 'denkende' machines niet goed zijn. Veel van die aspecten hangen samen met het feit dat de computer als denkende machine geen lichaam heeft waarmee het samen is geëvolueerd en waarvoor het moet zorgen."(67)
[Ik zou willen dat het woord 'denken' nooit gebruikt wordt in combinatie met machines resp. computers. Dat roept heel verkeerde beelden op.]
"'Onze hersenen zijn geëvolueerd voor een effectieve interactie met de omgeving,' zegt de Nederlandse cognitiewetenschapper Harold Bekkering. 'Communicatie is daarvan maar een onderdeel, en het maakt niet eens uit of die communicatie in woorden, gebaren of via de lichaamshouding gebeurt. De rol van de taal is overschat. Het brein is geen symbolische machine die taal verwerkt, maar een onderdeel van het lichaam en een in zijn omgeving geïntegreerd systeem. Het brein vraagt zich voortdurend af welke actie er in respons op de omgeving moet volgen. De grote vraag is dan hoe cognitie is gebaseerd op de primaire taken van het brein: waarnemen en het lichaam in beweging zetten. Cognitie is essentieel gekoppeld aan het lichaam en kun je niet los van het lichaam bestuderen.'"(76)
[Geweldige uitspraak, leve Bekkering.]
"Brooks meende dat ook de hogere vormen van intelligentie waarover de mens beschikt niet zozeer ontstaan uit abstract, logisch redeneren waarvan de traditionele robotica was uitgegaan, maar door te leren uit de omgang met de fysieke omgeving. De mens als een opgevoerde Genghis, zeg maar. 'Intelligentie zit in het hele lichaam,' zei Brooks."(77)
"Vergelijken we COG [een robot van het MIT door Brooks] met Vera [een klein kind dat gepresenteerd werd aan het begin van het hoofdstuk], dan blijkt hoe diep de menselijke intelligentie verankerd ligt in het feit dat wij een lichaam hebben. Onze hersenen vragen zich voortdurend af hoe het lichaam in respons op de omgeving moet reageren. Waarnemen en handelen zijn daarbij essentieel. Zelfs wanneer we praten, speelt de niet-verbale communicatie, de uitdrukkingen van het gezicht, de toon van de stem en de houding van de rest van het lichaam, een belangrijke rol."(79)
"COG bleek een geslaagde promotiestunt, maar een mislukt wetenschappelijk experiment: gezien de overspannen beloften misschien wel een van de grootste mislukkingen uit de geschiedenis van de kunstmatige intelligentie."(80)
"Simon en Minsky hadden in 1956 nog het naïeve optimisme dat bij pionierswerk hoort, maar Brooks had in de jaren negentig beter moeten weten. Het was nota bene Minsky zelf die zijn kritiek op COG niet onder stoelen of banken stak: 'COG is geen project. Het is een persbericht.' Brooks gaf echter een positieve draai aan de mislukking van COG en zei dat het project had aangetoond hoe ongelofelijk complex de bouw van een humanoïde robot is."(81)
[Wat een flauwekul. Dat hadden we hem tevoren ook al kunnen vertellen, gewoon gebaseerd op gezond verstand - denken.]
"In dit hoofdstuk hebben we gezien waar de 'denkende' machines van nu niet goed in zijn. In de eerste plaats is dat 'leren' in brede zin: het vergaren van nieuwe kennis en vaardigheden, zoals motorische vaardigheden, taal- en rekenvaardigheden en sociaal-emotionele vaardigheden. Weliswaar bestaan er softwareprogramma's die kunnen leren, maar de prestaties daarvan, zoals handschriftherkenning, gezichtsherkenning, spraakherkenning en voorwerpherkenning, steken mager af bij die van het menselijk brein.
In de tweede plaats zijn machines niet goed in patroonherkenning: patronen in beelden, geluiden, teksten, getallen. (...) Hoewel machines goed zijn in tellen en rekenen, is er geen enkel lerend computeralgoritme dat de patronen in zulke [hiervoor door Mols gepresenteerde] getallenreeksen herkent en kan afmaken zoals de mens dat doet. De computer weet niet waar hij het moet zoeken.
Het ontbreken van een lichaam dat kan waarnemen en handelen blijkt een derde groot nadeel voor de computer bij de ontwikkeling van zijn cognitieve vaardigheden; een veel groter nadeel dan onderzoekers van kunstmatige intelligentie decennialang dachten. (...)
Door het ontbreken van een lichaam heeft de machine ook niet of nauwelijks sociaal-emotionele intelligentie - een vierde groot nadeel voor computers om een kunstmatige mensachtige intelligentie te krijgen.(...)
Zonder een lichaam dat een belang heeft in de wereld, blijft de machine emotieloos. Voor veel dingen waarin computers of robots goed zijn, is dat juist een groot voordeel, maar als het gaat om de vraag of kunstmatige intelligentie de menselijke intelligentie evenaart is het een groot en misschien wel onoverkomelijk nadeel.(...)
Ten vijfde blijken machines slecht om te kunnen gaan met onzekerheden en vaagheden ... () Maar veel concepten zijn in essentie vaag. Wanneer werkt een hart goed en wanneer vinden we dat het niet meer goed werkt? Wanneer noemen we lijden ondraaglijk?(...)
Alle vaardigheden waarin machines wel goed zijn, zijn specialistisch. In zoverre machines wel patronen herkennen, gaat het om een beperkte vaardigheid: bijvoorbeeld alleen nummerborden of postcodes. In die beperktheid ligt het zesde zwakke punt van computers. Software die handschriften herkent, kan geen gezichten herkennen en omgekeerd.(...)
Ten slotte, en dat is een gevolg van alle voorgaande nadelen, zijn machines slecht in creativiteit: het scheppen van nieuwe inzichten, het doen van nieuwe uitvindingen, het maken van nieuwe kunstwerken, enzovoort.(...)
In theorie mag er dan geen reden zijn waarom computers niet ooit creatief kunnen worden, in de praktijk is daar in ruim een halve eeuw niets van terechtgekomen. 'Computers zijn nutteloos,' zei Pablo Picasso. 'Ze geven je alleen antwoorden."(85-90)
De vraag is gezien het voorafgaande of we niet moeten zoeken
"naar manieren waarop we de sterke punten van computers kunnen combineren met de sterke punten van de mens."(91)
Het 'human computing' - onderzoek van Luis von Ahn wordt besproken
"Waar de Turing Test draaide om de vraag wanneer we kunnen zeggen dat computers denken, draait de Turing Tango om de vraag op welke manier mens en computer het beste kunnen samenwerken."(95)
[Wel grappig maar een beetje flauw, die benaming 'Turing Tango'. Ik denk niet dat hij door anderen zal worden overgenomen.]
"Voor Alan Turing was intelligentie gebaseerd op logisch redeneren. Hij dacht dat menselijk gedrag geheel terug te brengen zou zijn tot logica. Maar dat vereist dat we precies weten hoe de wereld in elkaar zit en wat waar of onwaar is. Het probleem is dat de echte wereld vol vaagheden, ambiguïteiten en onzekerheden zit. Gemakshalve liet Turing de rol van het lichaam achterwege. Maar juist dat lichaam is cruciaal gebleken voor de menselijke intelligentie, in het bijzonder die in de vorm van sociale en emotionele intelligentie. De stille revolutie heeft het paradigma dat alleen gebaseerd is op de logica verlaten en vervangen door een paradigma dat het redeneren met onzekerheden en het nemen van beslissingen op basis van waarschijnlijkheden combineert met klassieke logica."(102-103)
"Dan zijn er nog de ethische dilemma's. Stel, een voorliggende auto slipt weg waardoor jij moet uitwijken. Je hebt twee mogelijkheden. Je stuurt naar links tegen een stilstaande vrachtwagen aan, of je stuurt naar rechts tegen een groep kinderen aan. Intuïtief zullen de meesten van ons voor het eerste kiezen. Maar de robotauto berekent alleen maar razendsnel de weg van de minste weerstand. Hij weet niet wat kinderen zijn en wat een vrachtwagen is. Het groepje kinderen is een kleiner obstakel dan die grote vrachtwagen, dus de gevolgen laten zich raden."(105)
De Turing Tango is goed te verdedigen, maar er zijn nog steeds onderzoekers als Ray Kurzweil die menen dat machines mensachtige intelligentie kunnen bereiken door simulatie van mensen.
[Merkwaardig. Kurzweil begrijpt blijkbaar niet dat wat hij wil principieel onmogelijk is.]
"Kan zo'n gesimuleerd brein zich vervolgens bewust worden van zichzelf en intelligenter worden dan alle denkende machines die tot nu toe zijn ontwikkeld?"(108)
[Dat is geen vraag. Nee, dus, dat is principieel onmogelijk, omdat computerbreinen niet 'embodied' zijn.]
Weer een mooi begincitaat:
"Niemand veronderstelt dat [...] een computersimulatie van een vuur ook een huis afbrandt. Waarom in hemelsnaam zou iemand bij zijn volle verstand durven beweren dat een computersimulatie van mentale processen ook zelf mentale processen heeft? "(John Searle gec. op p.109)
Over Henry Markram en het Human Brain Project, een Europees project waaraan dertien universiteiten meedoen uit negen landen. Reacties op diens pretentie dat hij binnen tien jaar een werkende simulatie van de menselijke hersenen zal leveren. Terry Sejnowski, Christoph Koch, en Daniel Dennett worden genoemd.
"Een nog eenvoudiger organisme dan de fruitvlieg is het rondwormpje C. elegans, dat slechts 302 zenuwcellen heeft. In 1986 brachten wetenschappers met een elektronenmicroscoop alle verbindingen tussen deze zenuwcellen in kaart, samen met de ruim zesduizend zenuwuiteinden. Ruim een kwart eeuw later hebben wetenschappers nog steeds geen werkend model van het zenuwstelsel van de rondworm, terwijl het toch vele ordes van grootte eenvoudiger is dan het zenuwstelsel van de fruitvlieg, laat staan dat van de mens. Een les in bescheidenheid."(116)
"Dan is er nog een fundamenteel probleem. Voor de wiskunde en de informatica is het een open vraag of alle grootschalige rekenproblemen uiteindelijk wel zijn op te lossen met brute rekenkracht. Wiskundigen vermoeden dat talloze complexe rekenproblemen de macht van de computer fundamenteel te boven gaan."(119)
Het handelsreizigersprobleem wordt gepresenteerd: over het bepalen van de kortste route om langs N steden te reizen. Het aantal mogelijke wegen is bij N=50 al zo groot dat het onberekenbaar wordt.
De complexiteit van de hersenen is groot. Niet alleen dat over de werking ervan veel nog niet bekend is, ook allerlei chemische stofjes zoals hormonen en neurotransmitters spelen een belangrijke rol en het uiteindelijk dus weer het menselijk lichaam.
"Op grond daarvan vermoedt de Engelse hersenwetenschapper Steven Rose zelfs dat de rekenkracht van het brein niet alleen berust op wat de hersencellen doen, maar ook op de genetische, hormonale en andere chemische processen waarvan de hersencellen direct of indirect afhankelijk zijn. Rose zegt eigenlijk dat we, om het brein te begrijpen, ook het lichaam erbij moeten betrekken."(121)
Volgt een beschrijving van de verschillen tussen digitale computers en menselijke hersenen:
"Hoe meer we in de afgelopen decennia hebben geleerd over de hersenen, hoe meer de hersenen blijken af te wijken van een computer. De computermetafoor werkt daarom eerder vertroebelend dan verhelderend. Zo is het altijd gegaan met metaforen voor het brein. Elke periode in de geschiedenis gebruikte zijn eigen metafoor, die altijd de technologische stand van dei tijd weerspiegelde: een klok, een hydraulische machine, een fabriek, een telegraafnetwerk, een telefooncentrale, een elektronische computer, een massaal parallelle elektronische computer en het meest recent nog het internet. Al deze metaforen zijn ontoereikend gebleken om de werking van het brein te begrijpen."(130)
"In het volgende hoofdstuk kijken we nog verder in de toekomst. Er komt een moment waarop kunstmatige intelligentie slimmer wordt dan menselijke intelligentie, voorspellen sommigen. Dat moment heet de Singulariteit en het is de natte droom van de nerds. Eindelijk zullen machines ons overvleugelen."(133)
[Ik begrijp niet dat Mols hier nu nog meekomt. Na alles wat hij besproken heeft in de voorafgaande hoofdstukken is immers al duidelijk dat dat moment er nooit komt. Waarom zo veel aandacht voor mensen als Kurzweil? Onbegrijpelijk.]
Kurzweil wordt besproken, inclusief diens opvattingen over de Singulariteit en onsterfelijkheid. Er zijn natuurlijk wel meer grote namen die daar in geloofden.
"De Belgische hoorleraar informatica Patti Maes, verbonden aan MIT, heeft opgemerkt dat het idee van de Singulariteit, en vooral het aspect van het onsterfelijkheidsstreven, typisch een mannenfantasie is."(147)
[Ik ben het volkomen met haar eens. Ik zou het wel nog willen wijzigen in 'Amerikaanse mannenfantasie', maar dat kon zij natuurlijk niet zeggen want ze werkt daar.]
Er zijn een heleboel anderen die kritiek hebben op Kurzweils ideeën. Genoemd worden Daniel Dennett, Nicholas Roy, Noel Sharkey, Wolfgang Singer, Steven Rose. Het vervelende is dat de media met zo iemand weglopen en geen tegengeluiden laten horen van die critici.
"Philip Tetlock analyseerde in het boek Expert Political Judgment toekomstvoorspellingen op politiek terrein. Hij concludeert dat de voorspellers die met grote visioenen kwamen, er het meeste naast zaten. Juist de mensen die de nuance zochten, zij die zeiden dat er onder deze omstandigheden dit kan gebeuren, en onder die omstandigheden dat, hadden het het vaakst bij het rechte eind. Hij concludeerde ook dat hoe beroemder de voorspeller, hoe slechter de voorspelling. Kortom: wanneer wij ons goed op de hoogte stellen van de wetenschappelijke en technische ontwikkelingen, hebben we een grotere kans om de technologische toekomst correct te voorspellen dan Ray Kurzweil."(149)
[Een open deur, vind ik.]
"Kurzweils toekomstvisie van de Singulariteit, waarin machines slimmer zijn geworden dan mensen en waarin biologische met niet-biologische intelligentie is versmolten, heeft alle trekken van technoreligie. Technoreligie met de Singulariteit als hemel. Een Hollywoodverlossingsboodschap in een technowetenschappelijke verpakking. Broddelredeneringen opgepompt tot iets wat eruitziet als wetenschap, maar niets meer is dan pseudowetenschap."(151)
[Zo is het maar net.]
Over de rest van Turings leven en over robots in de zorg als de iCat. Het boek eindigt in veel herhaling van principiële punten die al lang gescoord zijn.
[Ik vind het geen vraag "of dit is wat we willen in de zorg."(165) Het is niet iets wat ik wil en het is iets wat we zouden moeten verafschuwen. Alsof een robot je de aandacht zou kunnen geven die je als ouder of ziek iemand nodig hebt. Dat soort ideeën zijn typisch kapitalistisch en gebaseerd op wat het bedrijfsleven zo graag zou willen: verkopen verkopen verkopen. Waarschijnlijk tegen een prijs waarvoor je drie verpleegkundigen / bejaardenverzorgers zou kunnen aanstellen. Maar, hé, dat zijn mensen, en die zijn lastig en kun je niet zo maar ontslaan en zo. Bah.]