Algemeen Jacques Ellul Günther Anders Lewis Mumford Herbert Marcuse Andrew Feenberg Wiebe Bijker Algemeen Luddieten Wapentuig als voorbeeld Transport Radio en televisie Internet Artificiële intelligentie Algemeen Hypermedia en hypertext Informatieovervloed Privacy Spionage, inlichtingendiensten Cyberoorlog Hackers Algemeen Het schrift Boeken en tijdschriftenDe bundels artikelen van De Mul en Moor-Bynum zijn in 2002 gepubliceerd.
Deze bundel artikelen van Floridi is van 2010. Verschillende auteurs kennen we al uit de eerdere bundels. Eens zien wat er in de tussentijd veranderd is.
Mijn uitgebreide commentaar staat in de hoofdtekst.
Luciano FLORIDI (ed.)Computertechnieken hebben het leven aanzienlijk veranderd. Ze hebben daarmee ook geleid tot allerlei nieuwe morele kwesties en ethische debatten.
"They are the subject of information and computer ethics (ICE), a new branch of applied ethics that investigates the transformations brought about by ICTs and their implications for the future of human life and society, for the evolution of moral values and rights, and for the evaluation of agents' behaviours."(ix)
De praktijk is hier ver vooruit op begrips- en theorievorming ('conceptual understanding'). Dit boek wil daar iets aan doen. Volgt een inhoudsoverzicht.
Vertelt eerst in iets andere bewoordingen wat in de 'Preface' staat. Vervolgens wil Floridi proberen "to capture the silent Weltanschauung that might be dawning on us."(6) Hij noemt dat 'conceptual engineering'.
Twee begrippen zijn in die analyse belangrijk: 'infosphere' (infosfeer = het totaal van alle informatie, waaronder 'cyberspace') [door Floridi zelf in de wereld gezet in 1999, zegt hij; ik heb daar mijn twijfels bij] en 're-ontologizing' (herontologisering [?] = een fundamentele transformatie van de essenties van iets, als in ICT reontologiseert de infosfeer, maakt dus het totaal van informatie wezenlijk anders). Verder heeft hij het over 'ontologische frictie' (belemmeringen in de stroom van informatie).
[Floridi houdt me wat te veel van neologismen en nieuwe stromingen - viel me eerder ook al op. Ik vind het eerder verwarren dan iets goeds toevoegen. De analyses kunnen ook zonder deze begrippen gedaan worden. De stelling die ik nu citeer, kan uitstekend zonder bijvoorbeeld en is heel interessant:]
"As I shall argue towards the end of this chapter, ICTs are making humanity increasingly responsible, morally speaking, for the way the world is, will and should be."(7)
De digitale infosfeer zal op een gegeven moment overal aanwezig zijn ('ubiquitous') en in alles doordringen wat we kennen ('pervasive'). De infosfeer zal niet meer bestaan op basis van een materiële wereld,
"rather, it will be the world itself that will be increasingly interpreted and understood informationally, as part of the infosphere. At the end of this shift, the infosphere will have moved from being a way to refer to the space of information to being synonymous with Being."(9)
[Dit zijn van die zinloze voorspellingen zoals veel Amerikanen die doen en die immuun zijn voor kritiek omdat zo'n voorspelling niet erg controleerbaar is op waarheid en dus minstens onderbouwd moet worden met een argumentatie die hier ontbreekt. Ik denk dat de materiële wereld heel hardnekkig zal blijken en dat virtuele werelden maar een beperkte aantrekkingdskracht zullen blijken te hebben. En mensen zullen echt heel goed door blijven hebben wanneer ze ofline of online zijn, die grens zal niet vervagen zoals Floridi beweert. Zelfs een beschrijving van de echte werkelijkheid in informationele termen zal vermoedelijk snel op grenzen stuiten. Ook zo'n voorspelling en ook voor mij geldt dat ik die moet onderbouwen.]
"Once our window-shopping becomes Windows-shopping and no longer means walking down the street but browsing through the Web, the problem caused by the dephysicalization and typification of individuals as unique and irreplaceable entities starts eroding our sense of personal identity as well. We become mass-produced, anonymous entities among other anonymous entities, exposed to billions of other similar inforgs online. So we construct, self-brand and re-appropriate ourselves in the infosphere by blogs and FaceBook entries, homepages, YouTube videos, flickr albums, fashionable clothes and choices of places we visit, types of holidays we take and cars we drive and so forth. We use and expose information about ourselves to become less informationally indiscernible."(10)
[Dat woord 'inforg' is ook weer zo'n neologisme. Floridi bedoelt er - gezien zijn kritiek daar op op p. 12 - zeker geen transhumane cyborg mee, maar het volgende:]
"Today, we are slowly accepting the idea that we are not standalone and unique entities, but rather informationally embodied organisms (inforgs), mutually connected and embedded in an informational environment, the infosphere, which we share with both natural and artificial agents similar to us in many respects."(11)
"As a result, humans will be inforgs among other (possibly artificial) inforgs and agents operating in an environment that is friendlier to informational creatures. As digital immigrants like us are replaced by digital natives like our children, the latter will come to appreciate that there is no ontological difference between infosphere and Umwelt, only a difference of levels of abstraction. Moreover, when the migration is complete, we shall increasingly feel deprived, excluded, handicapped or poor to the point of paralysis and psychological trauma whenever we are disconnected from the infosphere, like fish out of water. One day, being an inforg will be so natural that any disruption in our normal flow of information will make us sick."(13)
[Ja, daar is een woord voor: verslaving / afkickverschijnselen. Zoals gezegd: dit zijn van die voorspellingen waarmee ik niets kan. Ze zitten vol met positieve waarderingen van computer- en netwerktechniek en met negatieve waarderingen van de normale fysieke en sociale wereld. En Floridi vindt dan toch dat er een balans moet komen tussen physis (natuur) en technè (techniek) waarbij hij weer met andere nieuwe termen komt als 'ecopoiesis' voor verantwoordelijkheid voor de omgeving en 'e-nvironmentalism' als de balans tussen natuur en techniek.]
"The task is to formulate an ethical framework that can treat the infosphere as a new environment worth the moral attention and care of the human inforgs inhabiting it. Such an ethical framework must be able to address and solve the unprecedented challenges arising in the new environment. It must be an e-nvironmental ethics for the infosphere."(19)
"Today, the information revolution, including its associated scientific and philosophical developments, has begun to yield a radically different view of human nature and the world. In physics, for example, recent discoveries indicate that the Universe is made of information, and human beings are exquisitely complex 'informational objects'."(20)
[Ik houd niet zo van dat idee. Het enige dat ik zie is dat mensen een andere taal - de 'informatie-taal' - gebruiken om over dezelfde zaken te praten als altijd. Het is een perceptie waarin andere zaken benadrukt worden met een andere taal. Maar dat verandert niet de menselijke natuur en de wereld.]
Zo wordt Aristoteles' filosofie door Bynum beschreven in termen van informatie - dieren en mensen zijn informatieverwerkende wezens -, terwijl Aristoteles dat begrip zeker niet gebruikt heeft. Daarmee trekt hij Aristoteles in de richting van Norbert Wiener's metafysische opvattingen die hij vervolgens bespreekt. Voor Wiener is informatie iets fysieks, meetbaar en onderworpen aan natuurwetten (Shannon informatie). Die informatie is 'encoded in matter-energy', maar het IS geen 'matter-energy'. Ondanks dat die laatste in het menselijk lichaam verandert, blijft de Shannon informatie hetzelfde, blijven we dezelfde persoon. Mensen en dieren zijn cybernetische entiteiten.
"By viewing animals and cybernetic machines in the same way - namely, as dynamic systems with internal communications and feedback loops, exchanging information with the outside world, and thereby adjusting to changes in the world - Wiener began to view traditional distinctions between mechanism and vitalism, living and non-living, human and machine as pragmatic choices, rather than unbreachable metaphysical 'walls' between kinds of beings."(27)
[Shannon informatie is dus in feite NIET iets fysieks? Is het de ziel van de mens? Krijgen we weer religieuze oplossingen? Wetenschap zou Wiener ondersteunen: John Wheeler, Charles Seife. Maar het is steeds weer taalgebruik: wat zeggen we wanneer we zeggen dat genen Shannon informatie opslaan en gebruiken om DNA en RNA te genereren?]
Wiener hield zich ook met ethische vragen bezig. Bijvoorbeeld over machines en mensen: wat als mensen machines maken die hen kunnen overvleugelen of die zelf kunnen leren of zelf beslissingen kunnen nemen? Hij liep daarin ver vooruit. Pas in de tweede helft van de 70-er jaren kreeg je een echte computerethiek (bv. Walter Maner die de term uitvond, Deborah Johnson, James Moor, Luciano Floridi).
"A common thread that runs through much of the history of computer ethics, from Norbert Wiener onwards, is concern for the protection and advancement of major human values like life, health, security, freedom, knowledge, happiness, resources, power and opportunity."(34)
Floridi - met zijn filosofie van de informatie en informatie-ethiek - probeert duidelijk te maken dat in de infosfeer antropocentrische ethische theorieën niet voldoende zijn omdat er in de infosfeer ook andere 'agents' zijn die geen mens zijn.
[Maar geen enkele kritische vraag daarbij? Kunnen robots dan ethisch handelen? En zo verder. Geen geweldig overzicht van de computerethiek. Te Amerikaans ook.]
Brey stelt eerst zijn basisvraag en legt daarna met voorbeelden uit wat hij bedoelt met waarden en normen die ingebed zijn in computertechniek en met (sociale en technische) vooringenomenheden ('bias') in die systemen die (bewust of onbewust) al ontstaan bij het ontwerpen ervan.
"Is it possible to do an ethical study of computer systems themselves independently of their use by human beings? The theories and approaches in this chapter answer this question affirmatively and hold that such studies should have an important role in computer and information ethics. In doing so, they undermine conventional wisdom that computer ethics, and ethics generally, is concerned solely with human conduct, and they open up new directions for computer ethics, as well as for the design of computer systems."(41)
Het gaat dan niet om het gebruik van de techniek door mensen maar om de waarden in computersystemen zelf ('embedded or embodied or built-in values' die laten zien dat computersystemen niet moreel neutraal zijn).
"By claiming that computer systems may incorporate and manifest values, the embedded values apporach is not claiming that computer systems engage in moral actions, that they are morally praiseworthy or blameworthy, or that they bear moral responsibility. It is claiming, however, that the design and operation of computer systems has moral consequences and therefore should be subjected to ethical analysis."(42)
"The idea of embedded values is best understood as a claim that technological artefacts (and in particular computer systems and software) have built-in tendencies to promote or demote the realization of particular values. Defined in this way, a built-in value is a special sort of built-in consequence."(43)
Brey ziet de zogenoemde 'disclosive computer ethics' als een aanvulling op de bestaande 'mainstream' computerethiek. Deze laatste richt zich op gebruik van computertechniek en op transparante ethische problemen eraan. 'Disclosive computer ethics' richt zich meer op de verborgen ('opaque') ethische problemen aan computertechniek zoals daar waar computersystemen een 'bias' hebben op basis van ingesloten waarden en normen.
"The importance of disclosive computer ethics is that it makes transparent moral features of practices and technologies that would otherwise remain hidden, thus making them available for ethical analysis and moral decisionmaking. In this way, it supplements mainstream computer ethics, which runs the risk of limiting itself to the more obvious ethical dilemmas in computing. An additional benefit is that it can point to novel solutions to moral dilemmas in mainstream computer ethics. Mainstream approaches tend to seek solutions for moral dilemmas through norms and policies that regulate usage. But some of these moral dilemmas can also be solved by redesigning, replacing or removing the technology that is used, or by modifying problematic background practices that condition usage."(53)
Dat zou kunnen gebeuren in het kader van 'value-sensitive design' (VSD).
"It aims to offer a set of methods, tools and procedures for designers by which they can systematically account for values in the design process."(54)
[Dit is een helder artikel, het geeft heel goed inzicht in waar het om gaat. Toch ervaar ik het allemaal een beetje als open deuren. Waarschijnlijk omdat ik zelf al zo lang vind dat techniek nooit waardenneutraal kan zijn, dat waarden en normen in het ontwerpen en gebruiken ervan voortdurend een rol spelen, dat een aantal ervan simpel te constateren is maar dat andere via analyse ontsloten moeten worden, en dat het al sinds Socrates tot de taak van de ethiek hoort om verborgen waarden en normen boven tafel te krijgen of het nu is in het gedrag van mensen of in de technische middelen die mensen maken en gebruiken. Dit artikel zegt eigenlijk hetzelfde.]
[Begint met pagina's lang op te sommen wat we allemaal al lang weten over ICT en ethiek. Je weet wel: dat ICT zo belangrijk is geworden en zo veel ethische kwesties met zich mee brengt, en zo verder. Zo nutteloos. Daarna wordt gezegd dat er in de ethische analyse van computertechniek "een iets andere benadering" nodig is, namelijk op basis van een waardenpluralisme zonder relativisme, op basis van de werkelijkheid - nee maar - en al in de ontwerpfase van technieken. En, nee, we hebben dan nu niet zo veel aan Aristoteles of Kant of het utilitarisme - waarom die dan toch besproken worden is mij een raadsel. 'Mid-level theories' als die van Rawls, Sen, Nussbaum en Floridi zijn nuttiger.]
[Van den Hoven blijft desondanks in academische abstracties hangen op een manier waaraan niemand iets heeft. Hij zegt immers eingelijk niets. Geen wonder dat zo veel deskundigen op het terrein van de computertechniek en waarden niets zien in ethiek. Is er nu geen editor die dit soort taalgebruik en verhalen tegenwerkt? Vreselijk.]
Floridi wil de verwarring rondom 'information ethics' (IE) aanpakken door middel van een 'unified approach'. Daartoe richt hij zich op een denkbeeldige 'moral agent A' die informatie gebruikt als bron, zelf informatie produceert en daarmee haar informatieomgeving beïnvloedt. In alle drie aspecten van het RPT-model kunnen morele kwesties spelen. En dat is waarmee IE zich bezig houdt.
Wat betreft de informatie als bron: morele verantwoordelijkheid hangt samen met geïnformeerd-zijn ('informed consent' bv. als thema). Hier gaat het om "'the triple A': availibility, accessibility and accuracy of infromational resources"(79). Ethische kwesties op dit terrein: de digitale kloof, informatieovervloed, betrouwbaarheid van informatie.
Daarnaast is er dus informatie als product van A's morele oordelen en handelingen. Hier spelen ook allerlei ethische kwesties als aansprakelijkheid, misinformatie, leugens, en zo verder.
Ook aan de invloed van A's 'informatie als product' op de informatieomgeving zitten bepaalde ethische kwesties vast, als privacy, veiligheid, toegang tot systemen, intellectueel eigendom, vrijheid van meningsuiting, en zo verder.
Maar het model is wel te simpel en we moeten niet vervallen in een microethiek die zich concentreert op een ethisch probleem en de samenhang met andere problemen uit het oog verliest. We moeten toe naar een macroethiek waarbij we van een epistomologische naar een ontologische of ecologische benadering van IE moeten.
[Daarvoor is het allemaal helder. Maar hier begint Floridi met vage begrippen uit de metafysische hoek te gooien. Ik vind dat soort theorievorming volkomen overbodig. Bovendien komt hier terug wat al eerder in Hf 1 door Floridi is beweerd: dat er 'artificial moral agents' zijn en ik vind dat een overschatting van AI en robotica. Geen enkele robot handelt autonoom, want is voorgeprogrammeerd om zeer bepaalde dingen te doen in duidelijk omschreven omgevingen. Robots kunnen niet iets beslissen los van wat mensen er in stoppen. Hij zegt het zelf al - na een hoop vaag gezeur:]
"IE is not immediately useful to solve specific ethical problems (including computer ethics problems), but it provides the conceptual grounds that then guide problem-solving procedures."(94)
[Nou, als dat zo is, 'let's commit it to the flames' om met Hume te spreken. Ik krijg tot nu tot nu toe niet de indruk dat Floridi's gescherm met theorie en begrippen ook maar enige bijdrage levert in de aanpak van ethische problemen rondom computertechniek. Het lijkt er zwaar op dat dat alles er alleen maar op gericht is om een academische status te bereiken met dit soort werk. Nou, dat interesseert me niets. Er zijn praktische problemen die opgelost moeten worden en 'academische status' is daarvoor volkomen onbelangrijk.]
Het gaat hier over drie onderwerpen: intellectueel eigendom, de digitale kloof, en werk / werkeloosheid.
"All three topics developed in this chapter have in common that they are strongly influenced by economic or commercial considerations. They are, as a consequence, characterized by ethical issues arising from property, ownership, distribution and power, which will point the way to possible approaches to understand and address them. "(101)
[Waarom heeft de auteur niet gekozen voor één onderwerp en dat diepgaander uitgewerkt? Elke editor zou hem dat aangeraden hebben, waarom is dat hier niet gebeurd? Nu wordt het een tamelijk oppervlakkig en algemeen verhaal. Zo jammer.]
Het eerste onderwerp dat behandeld wordt is dat van intellectueel eigendom. Vragen: kan iemand eigenaar zijn van inhoud of programmatuur? zo ja, kunnen ze beschermd worden? en hoe kan dat afgedwongen worden? en zo verder. 'Eigendom' wordt hier meestal gezien als een reeks rechten als : het recht iets te gebruiken, te beheren, aan anderen te ontzeggen, het recht er inkomen aan te ontlenen, en zo meer. Die rechten werden lang gezien als 'van god gegeven' natuurrechten (Stahl wijst dat af, omdat het religie vooronderstelt en dat is niet meer van deze tijd). Tegenwoordig worden ze meer verdedigd met utilitaire argumenten:
"Utility arguments, on the other hand, are based on considerations of overall utility and the main argument is that the institution of property rights is beneficial for society, as it will act as a motivator for creation, an incentive for taking responsibility and be conducive for overall efficiency (Donaldson and Dunfee 1999)"(102)
[Daar liggen dus bepaalde waarden en normen aan ten grondslag, namelijk die van de bezittende klasse die gelooft in neoliberalisme en kapitalisme omdat hen dat natuurlijk goed uitkomt.]
Dus zou ook intellectueel eigendom goed zijn voor de samenleving, mensen creëren hun werken gemakkelijker wanneer ze daarvoor beloond worden in de vorm van inkomen. Stahl wijst er op dat veel mensen afwijzen dat elke vorm van eigendom voor het gemak gelijkgeschakeld wordt: een programma, boek of liedje wordt op dezelfde manier als bezit benaderd als een huis of een auto. Maar er zijn wezenlijke verschillen.
"Similarities between physical entities and electronic embodiments of intellectual creations are limitid."(103)
Zo kun je digitale producten zonder veel kosten eindeloos reproduceren / kopiëren, wat niet kan met fysieke producten als huizen. Bovendien kunnen mensen een digitaal product tegelijkertijd bezitten: wanneer ik een programma van iemand 'steel' door het te kopiëren, heeft de ander het nog; wanneer ik een auto van iemand 'steel', heeft die ander hem niet meer.
"The consumption of IP [= Intellectual Property] is what economists call 'non-rivalrous', which means that the consumption by one individual does not lessen the consumption by another one."(104)
Verder worden er juist veel zaken gecreëerd zonder dat er commerciële beloningen tegenover staan, de utilitaire argumenten op dat punt kloppen niet zoals moge blijken uit Open Source Software en andere vrij ter beschikking gestelde producten.
Desondanks zijn er allerlei wettelijke en technische maatregelen (copyright, patenten, licenties, DRM = Digital Rights Management) om IP te beschermen tegen kopiëren en dergelijke. Vaak hebben de grote bedrijven van de media-industrie een heel duidelijke invloed op politieke besluiten hieromtrent.
Het tweede onderwerp gaat over de digitale kloof ('digital divide'), tegewoordig liever aangeduid met digitale uitsluiting ('digital exclusion'), tussen / van groepen mensen in de samenleving. Uiteraard heeft dat met hebben / niet-hebben, dus met armoede en rijkdom te maken. Er wordt veel te simpel gedacht over de oplossing hier, zoals met het 'one laptop per child' - project. ALs je het goed wilt doen moete je werken aan alfabetisme en opleiding, aan werk en politieke rust.
[Dat OLPC-project is inderdaad een typische fantasieloze vorm van Amerikaanse liefdadigheid. Uiteraard is dat project helemaal niet zonder eigenbelang, zoals is gebleken. Het gaat erom dat al die arme kinderen verslaafd raken aan zaken uit het rijke Westen, al zal niemand dat hardop zeggen.]
Wat betreft werk: ICT kan banen laten verdwijnen (vooral lager geschoold werk dat geautomatiseerd kan worden) en nieuw werk maken (informatiewerk). Verder heeft het natuurlijk invloed op arbeidsomstandigheden (minder vuil werk; flexibiliteit die verwacht wordt; mogelijkheid van thuiswerk)
"The observation that commercial interests are dominant is thus not to be misundersood as a claim that profit-oriented organizations are morally bad, but as a sign that in capitalist societies commercial interests are a main cause of social disagreement. Social issues of computer ethics can thus to a large extent be understood as struggles over distribution."(114)
[Hè, hè, is dat nu zo moeilijk te zien? Ik begrijp al die voorzichtigheid niet.]
"There are, of course broader ethical theories available in computer ethics such as Floridi's (1999b) information ethics, Bynum's (2006a) flourishing ethics or Introna's (2007) disclosive ethics. However, none of these are particularly sensitive to the social nature of issues described here."(115)
[Tjonge, weer zo voorzichtig geformuleerd. Zoals ik hierboven al aangaf: we hebben helemaal niets aan dat soort ethisch getheoretiseer met een hoop neologismen en zo verder, we moeten ons bezig houden met de ethische en morele praktijk van alledag rondom genoemde problemen.]
[Ik mopper wel, maar Stahl zit in ieder geval op het goede spoor. Zo lang ethiek geen maatschappijkritiek wordt, hebben we er niet zo veel aan.]
Dit hoofdstuk gaat over de rechten van het individu als gebruiker van ICT tegenover de legitieme zorgen van de maatschappij waarin die individuen leven. Als voorbeeld wordt de arrestatie van iemand (Shi Tao) in China gegeven, uitgeleverd door zijn ISP Yahoo [die niet weigerde in te gaan op verzoeken van de Chinese autoriteiten om de identiteit van de man te onthullen, omdat ze natuurlijk bang waren dat ze het land uitgegooid zouden worden, iets wat ze natuurlijk probeerden te verbergen achter mooie woorden], en tot tien jaar gevangenisstraf veroordeeld vanwege onthulling van staatsgeheimen.
Iedereen laat door het gebruik van ICT en met name Internet een spoor van informatie na vandaag de dag ('digital footprint'). Dat is door de commerciële uitbating ervan een steeds groter probleem voor de privacy en zo verder. Het roept allerlei vragen op.
"While this may result in better shopping, will it also protect us from unwanted intrusion into our lives? How will we determine who gets to collect, share and profit from all of this personal information? Who is going to ensure the accuracy of all this information and the proper interpretation of the collected data?"(118)
"The wrong information in the wrong hands can critically alter your ability to operate in the social world. Because information so deeply constitutes our identity we even call such an offence identity theft. Acts of inappropriate use, disclosure, or manipulation of our personal information can rightly be seen as acts of aggression against our very personality."(118)
"We will now look at the philosophical justifications for free speech and privacy, as these play out in the use of ICTs where anonymous speech can exacerbate the conflicts regarding pornography, hate speech, privacy and political dissent."(119)
Meer liberale samenlevingen zijn voor. Maar John Stuart Mill's ideeën hierover zijn niet helemaal eenvoudig vanwege 'the harm principle': 'vrijheid van meningsuiting zolang het mensen niet schaadt' hangt natuurlijk op de invulling van wanneer je spreekt van schade. En dat is aan waarden en normen gebonden. Stanley Fish wijst er dan ook op dat er altijd regels gesteld moeten worden aan vrijheid van meningsuiting omdat een samenleving anders niet kan bestaan. En dat geldt dus ook voor communicatie over Internet etc. met zijn 'flamewars', 'hate speech', pornografie, en noem maar op.
[Beide standpunten zeggen iets belangrijks. In de praktijk zal daarom steeds weer bekeken moeten worden waar regulatie (en censuur bijvoorbeeld) terecht is en waar niet. Dat vraagt in alle gevallen in eider geval een open discussie.]
"A perennial problem for free speech philosophy is to distinguish objectionable speech from speech worth protecting. There is a vast array of cultural opinions on what is or is not objectionable speech."(125)
Verschillen tussen landen en culturen zijn groot, zelfs tussen de VS (tegen porno, gemakkelijk met 'hate speech') en Europa (gemakkelijk met porno, reguleert 'hate speech').
Dit hoofdstuk gaat over de ethische aspecten aan 'cyber warfare' en zo verder.
[Arquilla is zo iemand die over ethiek en oorlog schrijft alsof oorlog een noodzakelijk fenomeen is, niet eens een noodzakelijk kwaad als je naar het taalgebruik kijkt. Alsof oorlog er gewoon bij hoort. En nu uiteraard met gebruik van ICT. 'As if that's a step up'. Nee, niet echt. Hij concentreert zich dus op de ethische aspecten van de ICT-middelen en laat het doel waarvoor ze ingezet worden in feite buiten de discussie. En, ja hoor, Arquilla is een Amerikaans "Professor of Defense Analysis at the United States Naval Postgraduate School"(vii). Geen wonder.]
Gaat over het gelijkheidsbeginsel in de wetgeving (discriminatie dus op basis van sekse, ras, seksuele voorkeur, handicap, leeftijd, religie) in zoverre het van invloed is op de identiteit van mensen.
[Wat doet dat laatste kenmerk daar nu weer? Je kunt niets doen aan je sekse, huidskleur, leeftijd of handicap, maar religie is je eigen keuze.]
Computertechniek speelt een steeds groter rol in de registratie van die kenmerken en dus in het vastleggen van iemands identiteit. Dit hoofdstuk gaat met name over de ethische problemen daaraan (vooral sekse, handicap en leeftijd staan centraal). Uitgangspunt: er liggen allerlei impliciete politieke en andere keuzes aan technologie ten grondslag, er is geen sprake van technologisch determinisme.
"Technology has a central role in understanding how inequalities are maintained. As argued below, hopes that new technology would bring more equal ways of living and working have been widespread. (...[Maar ...]) Technologies have histories. They are made in societies and designers design in conceptions of those who are expected to use the technology. Technologies can be designed in such a way as to reinforce inequality."(151)
Mensen geloofden een tijdje in virtuele gemeenschappen. Maar er is veel kritiek gekomen op utopische ideeën daarover.
"Notably, Winner (1997) argued that virtual communities, far from being more inclusive, egalitarian and open than real communitites, may achieve the opposite. In real communities, all sorts of people with quite different beliefs and values have to rub along together. Virtual communities can be exclusive, only accepting as members people with very similar beliefs, and can be used to reinforce and magnify prejudices rather than reducing them."(153)
Winner gelooft er niet in dat virtuele gemeenschappen als vanzelf sociale structuren zullen opleveren met meer gelijkheid en democratie. Hij heeft het over 'cyberlibertarianism' of 'technolibertarianism' gelijk aan de 'hacker ethics' waar Himanen het over heeft, en beoordeelt die als rechts en gevaarlijk omdat ze gebaseerd zijn op het geloof in technologisch determinisme.
"Such a view looks to a society free from regulation, social ties and community obligations. However appealing such a view might seem on the surface, the interests of vulnerable groups may not be taken into account and the supposed freedoms that are offerred may not be equally available to all."(154)
"A level of self-interest, and rights to self-determination without considering other groups, a trust in free market capitalism and a distrust of government intervention are the characteristics of this position. However, cyberlibertarian communities still adhere to a rethoric that virtual communities will give rise to democracy, spontaneously."(154)
[Goed gezegd. Het is naïef en oppervlakkig denken. Dat cyberlibertarianisme en die hackerethiek zijn niet meer dan een weergave van het egocentrisme van een stel pubers.]
Een ander probleem - met name in de sociale netwerken van vandaag de dag - is de privacy die aangetast wordt doordat het zo moeilijk is / gemaakt wordt door bv. sociale netwerkwebsites om de informatie die je ooit hebt achtergelaten te verwijderen. Jongeren hebben nog weinig oog voor peivacy en worden daar later op die manier voor gestraft.
Vrouwen spelen nog steeds een kleine rol in de wereld van de ICT. Technologie die als prestigieus wordt gezien, wordt in deze smanelving gekoppeld aan masculine uitstraling en uitgevoerd door mannen: thuis koken de vrouwen en soms bijzonder inventief, maar de chef in kookprogramma's op TV is een man. Dat heeft met andere woorden niets met (het niveau van) vaardigheden te maken.
[Waarmee wel? Dat wordt hier toch niet erg uitgewerkt. De sfeer in de werkplek, discriminatie qua inkomen?]
De mythe dat ICT automatisch zou leiden tot gelijkheid / cyberfeminisme wordt ook op het vlak van sekse en 'gender' niet waargemaakt.
"Once again, such views focus on the idea that new technology is free from old prejudices and that old patterns need not be played out in new technologies. The democratizing potential of new technologies has been an extraordinarily tenacious myth, but it is a myth based on technological determinism because it ignores the ways that social relations are already designed into technologies."(157)
"The definition of disability, and how this relates to technology, is an important element in any theory that argues that disability is socially constructed and that society puts barriers in place that make some people diabled."(158)
"More specifically, research into web accessibility suggests that much of the World Wide Web remains inaccessible to people across a wide range of disabilities. This situation prevails, despite disability legislation, in many countries including the UK, USA and Australia. Such legislation clearly mandates that websites must be accessible."(159)
[Volgt een conclusie die de belangrijkste punten samenvat. Jammer, weer, dat dit artikel op zo veel verschillende onderwerpen wil ingaan. Het is een snel overzicht. Als zodanig is het prima, maar ik heb toch liever een iets diepgaander behandeling van onderwerpen.]
De globalisering van ICT maakt dat er vanuit verschillende culturen gekeken wordt naar ethische problemen rondom privacy, intellectueel eigendom, pornografie, en zo verder. Ethiek wordt daarmee van 'Westers' 'globaal'. Maar is een dergelijke globaal gedeelde ethiek wel mogelijk?
Eerste onderwerp dat bekeken wordt is de 'digitale kloof', want globalisering leidt er tot nu toe alleen maar toe dat de rijken rijker en de armen armer worden. Ook op het terrein van de ICT. Hoe moeten de 'informatierijken' de 'informatiearmen' helpen? Het alleen maar aanleggen van netwerken door Westerse bedrijven is geen oplossing. Vaak is dat in feite een nieuwe vorm van kolonialisme. 'Literacy' en opleiding wel.
Een tweede punt is dat er inmiddels sprake is van crossculturele communicaties via Internet en dat levert de bekende problemen op die altijd opduiken in de ontmoeting van culturen. Het gevaar van ethnocentrisme of cultureel imperialisme is niet denkbeeldig, temeer omdat technieken niet cultureel neutraal zijn zoals het constructivisme laat zien (SCOT = de Social COnstruction of Technology).
Het derde onderwerp gaat over de toenemende mogelijkheden voor afwegingsprocessen in democratisch overleg en de publieke sfeer. De benadering is die van het pluralisme, niet die van het relativisme of het fundamentalisme. ICT kan helpen om beter te informeren over de verschillende meningen van deelnemers aan het maatschappelijk debat en over de stand van zaken van het debat zelf.
Volgt tot slot een uitwerking van dat idee pluralisme: eenheid in veelheid.
[De laatste uitwerking is het meest interessant. Maar toch ook wel veel 'open deur' in dit artikel. Daarom kan ik er niet zo veel mee.]
Technologie - in de zin van de middelen die we elke dag gebruiken - moet ons leven gemakkelijker en prettiger maken, ons leven verbeteren. Geldt dat voor ICT? Er wordt gekeken naar verschillende praktische terreinen waar ICT een rol speelt: mediaethiek (de regulatie van inhoud op Internet en vrijheid van meningsuiting; de manipulatie vsan beeld); bedrijfsethiek (het in de gaten houden van werknemers, hun privacy op het werk; biometrie voor identificatie en authenticatie); rechtsethiek (forensisch onderzoek); medische ethiek ('pharmacogenomics'); bioethiek ('genomics'); milieuethiek (energieverbruik).
[Ook hier komt weer veel te veel aan de orde. Zelfs zo veel dat de beginvraag - of ICT het leven van mensen verbetert - niet besproken wordt. De kwestie wordt nog een paar keer genoemd, maar er wordt niet diepgaand geschreven over of de aangekaarte kwesties het leven van mensen nu werkelijk verbeteren. Te veel onderwerpen, te weinig diepgang. Jammer.]
Over de morele status van IT-dingen. Kan van IT-dingen (een computer, een robot) gezegd worden dat ze moreel redeneren of handelen? Anders gezegd: Is er sprake van 'artifical morality'? En zo ja, wat vinden we daar dan van?
[Ik kan me werkelijk niets voorstellen bij wat een 'morele status' van een ding is. Zeker niet: los van het gebruik door mensen. Een ding kan moreel iets gaan betekenen voor mensen vanwege eigenschappen van het ding zelf of vanwege de context waarin die eigenschappen ineens anders uitwerken. Maar een ding los van mensen betekent niets. Dingen zijn niet autonoom en intentioneel los van de mensen die ze maken. ]
"An artificial agent might act as if it had beliefs, and there might be outward similarities in its 'behaviour', or rather functioning, but it is different. Outward or functional similarities do not provide a basis to award artefacts the moral status that we assign to human or other living beings. Even more to the point, it is humans that interpret the things an artefact does, and give it meaning. The objection concludes that artefacts can never have value or meaning independently of humans. Any agency or value is derived from human agency or value."(204)
[Dit standpunt tot slot in een bespreking van opvattingen van Moor over 'ethical agents'. En dat komt dus overeen met wat ik net schreef. Merkwaardig is, vind ik, dat ik niet voel dat de auteur dit standpunt deelt. Het wordt gegeven als één standpunt temidden van andere.]
Volgt een bespreking van verschillende opvattingen in STS (= Science and Technology Studies) over technische artefacten, waarbij het meest wezenlijk de vraag is of ze een 'agent' zijn en of ze intentionaliteit hebben. Die STS-theorieën zijn: de opvatting dat artefacten ethisch neutraal zijn, de opvatting dat ze intrinsieke waarden vertegenwoordigen maar geen agent zijn, de opvatting van de Actor-Network Theory (ANT) waarin dingen en mensen op gelijk niveau behandeld worden en artifacten dus morele agenten zijn, en de opvatting dat artefacten morele betekenis krijgen door de intentionaliteit van mensen.
Een conclusie is toch wel dat je hooguit van 'afgeleide intentionaliteit' kunt spreken.
"Even if IT-artefacts have a meta-level reasoning capability, and even if we can best explain their behaviour by attributing intentionality to them, they are the product of human designers (directly or indirectly). They can decide only what the design allows them to decide; they can only believe what they are allowed to believe. This objection assigns a priviliged position to human intentionality. To this objection the counter argument states that humans are as much restricted by their design as specified in their genes."(208)
[Dat is wel een heel vreemd tegenargument. Ik ben als mens niet ontworpen zoals een robot door mensen is ontworpen. Dus die vergelijking alleen al gaat mank. Bovendien gaat het niet om de beperkingen: mensen zijn natuurlijk beperkt, robots zijn kunstmatig beperkt, maar wat zegt dat over intentionaliteit? Desondanks concludeert de auteur dat er pragmatisch gezien enige intentionaliteit toegewezen kan worden aan grote, complexe IT-artefacts - p.209.]
[Waarom blijft onduidelijk. De redenering loopt volgens mij ongeveer als: IT-artefacts kunnen zo complex zijn dat we niet meer precies kunnen inschatten wat ze doen en kunnen, dus kunnen we intentionaliteit niet uitsluiten, dus kunnen we er maar het beste van uitgaan dat die in complexe IT-artifacts bestaat. Dat is slechte argumentatie.]
"By accepting the pragmatic approach towards intentionality and with the complex state of affairs in IT, the asciption of agency to IT-artefacts is a logical conclusion. This does not give IT-artefacts necessarily a special moral status. Being an agent in the above sense includes many life forms. Still, we treat them differently from a moral point of view. Further exploration is needed to indicate the moral status of the most challenging IT-artefacts."(209)
[Tja, als je met een verkeerde vooronderstelling begint, zijn daarvan afgeleide stellingen ook onzin natuurlijk. Wat is dan de 'moral impact' van een IT-artefact - p.209? Er is immers geen bewuste handeling door het IT-artefact, het had niet anders kunnen doen dan het deed, er was geen sprake van moreel handelen. Dat wij als mensen IT-artefacten ontwerpen en er allerlei waarden in uitdrukken waardoor IT-artefacten bepaalde gevolgen te weeg brengen, maakt een IT-artefact natuurlijk niet tot een 'moral agent' met intentionaliteit.]
[Bij IT-artefacten en ook bij dieren is principieel geen sprake van intentionaliteit of handelen omdat beide niet anders kunnen doen dan waarvoor ze 'geprogrammeerd zijn'. Ze zijn niet en nooit autonoom. Mensen zijn niet op die manier afhankelijk van programmering of instinct. Mensen kennen zelfbesef, bewustzijn van eigen handelen, hebben taal, hebben het vermogen gevoelens te communiceren, te reflecteren, af te wegen, en andere keuzes te maken. In feite zegt de auteur op p.210 weer hetzelfde: alleen de ANT-opvatting zou iets kunnen met het idee dat een IT-artefact handelt en moreel verantwoordelijk gesteld kan worden. Weer heb ik het gevoel dat de auteur geen keuze maakt of alles open wil laten.]
"Full ethical agents are artefacts that function at an equivalent human level of complexity. This includes notions of introspection, emotions, and what it means to live a full moral live. Whatever it is we mean exactly by full ethical agent, no IT artefact can lay a claim to this status. (...) Key is that the functioning of the artefact is not subject to consideration by the artefact itself. Explicit ethical agents are artefacts that 'decide' about what they do. And they take ethical considerations into account when making their decision. Their intentionality might be of a second or even third order, e.g. have beliefs about beliefs. This is something that can not be said of the traditional technical artefacts as accounted for by the STS theories. As argued in the precious section, these theories might have difficulty accomodating this type of IT-artefact."(211)
[Zo is het. En nee, er is geen verschil tussen technische artefacten in het algemeen en IT-artefacten. Maar dat laatste is blijkbaar niet wat deze auteur vindt. Want er volgt weer een voorbeeld van een complex IT-systeem waarvan gezegd wordt dat het morele afwegingen kan maken op p.211-212. Herhaling van zetten. Er zit bij deze auteur en bij vele anderen iets van een ontzag voor de complexe IT-artefacten waardoor ze de neiging hebben over die dingen anders te denken dan over andere dingen. Waarom zou je dat doen?]
Volgt een stuk over 'artificial morality' waarin de vragen zijn:
"
(1) Do IT-artefacts require complex behaviour to merit moral consideration of some sort?
(2) Do IT-artefacts need some sort of mental states in order to be able to display behaviour that merits moral consideration?
(3) Can we ascribe mental states to IT-artefacts?
(4) If we can creagte IT-artefacts that display some sort of moral behaviour, should we?
"(213)
Wallach en Allen wijzen het idee dat voor moraliteit vrije wil, bewustzijn, afweging, emoties enz. af als wetenschappelijk niet bewezen. We kunnen IT-artefacten maken die zich exact als mensen gedragen.
"According to Wallach and Allen so far no fundamental barriers to IT-artefacts becoming moral agents have been proven. In hte meantime, they favour a pragmatic approach that is advocated by Floridi and Sanders. They argue for a mindless morality. Mental states or intentions are not required for moral agency. (...) What the above researchers in fact argue is that the class of moral agents must be extended to include non-human agents."(214-215)
[Herhaling van zetten. Is het dan wel 'bewezen' dat moraliteit zonder bewustzijn of intentionaliteit mogelijk is? Je kunt uiteraard niet wetenschappelijk bewijzen dat een gedicht mooi is of een handeling moreel verantwoord. So what? De critici van dit soort standpunten zoals Johnson en Miller, Grodzinsky hebben dan ook volledig gelijk: artefacten hebben geen autonomie, hoe complex ook. Het is maatschappelijk gevaarlijk om zo te denken. En - inderdaad - de auteur van dit artikel blijft vaag over zijn positie en neemt geen expliciet standpunt in. Maar volgens mij zit hij in de hoek van de ANT-theorie en van Wallach / Allen en Floridi. Jammer.]
[Dit is dus de Allen van Wallach & Allen :-), zie vorige hoofdstuk. De titel geeft zijn standpunt al weer. Hij heeft het over artificiële artefacten als autonome agents. 'Autonoom' in een heel beperkte betekenis.]
Het gaat over technieken als 'Wet ALife' (hier verder niet besproken), 'Dry ALife', 'embodied artificial agents', 'virtual artificial agents', 'machine-centred virtual realities' en 'anthropomorphic virtual realities'. Die hebben een potentie voor autonoon handelen ('autonomous agency').
"In contrast to the Kantian conception, there are deflationary accounts of autonomous agency which entail only that a reasonable selection is made among different behavioural options that take some account of the environmental challenges and contingencies but is not entirely determined by the environmental factors."(221)
"In this chapter, the phrase 'autonomous agent' is to be understood as something close to the latter 'deflationary' notion. If the Kantian insists, he or she can have the words. The important point is that our five emerging technologies represent something relatively new in the history of technology, namely artefacts which are not merely static, like bridges or buildings, and not mere vehicles for direct human agency, such as automobiles or can openers. These new technologies possess within them mechanisms that allow them to operate flexibly and without direct human supervision in a variety of conditions."(222)
[We nemen dus een woord en herdefiniëren het zo dat het past binnen onze eigen opvattingen? Waarom ben ik niet onder de indruk? Over reductionisme gesproken!! En wat heeft Kant daar verder mee te maken? En even verder nemen netwerken ineens 'ethically significant decisions' - p.222, 228. Ik vind het al een misleidend taalgebruik wanneer we zeggen dat 'switches' en 'routers' beslissingen nemen, laat staan ethisch relevante beslissingen. Domweg regels volgen is niet hetzelfde als beslissingen nemen. En wat is een ethisch relevante beslissing door een apparaat? Ik heb de indruk dat deze auteur niet eens weet wat ethische beslissingen zijn.]
Gaat over ethische kwesties - privacy, individuele autonomie, veiligheid - rond pas geïntroduceerde technieken en rond technieken die in de toekomst geïntroduceerd zouden kunnen worden. Opsomming va vele voorbeelden, maar vrijwel altijd Amerikaanse. Nauwelijks analyse.
[De twee laatste hoofdstukken gaan over meta-ethiek en zijn bijzonder academisch en weinig praktisch.]
Tavani gaat op nasis van een model van Floridi/Sanders in op een aantal meta-ethische vragen. De eerste is of het terecht is dat computerethiek als een afzonderlijke discipline gezien wordt op het terrein van toegepast ethiek. Gotterbarn wijst er fijntjes op dat we ook geen 'printing press ethics', automobile ethics'en dergelijke hebben, terwijl het ook hier gaat om technieken met enorm grote gevolgen. Tavani houdt echter de deur open.
Sommige auteurs zeggen dan dat computerethiek wel nodig is omdat computers unieke vragen oproepen die alleen met een eigen discipline aangepakt kunnen worden. Tavani wijst de computer ethics is unique (CEIU)-these af als onderbouwing voor het bestaan van een afzonderlijke computerethiek.
Als antwoorden op zijn tweede vraag zegt Tavani dat ICT geen nieuwe morele problemen heeft opgeleverd en dat ICT geen nieuwe morele objecten kent behalve misschien wat Floridi daarover zegt in zijn opvattingen over Information Ethics.
Tavani's derde vraag gaat over de noodzaak van een nieuw ethisch kader. Veel auteurs wijzen ook dat af: zo'n ethisch kader om problemen in relatie met ICT te analyseren is overbodig en degenen die daar anders over denken zijn gemakkelijk te bekritiseren. Behalve dus misschien weer Floridi met zijn IE. Hoewel Tavani er fijntjes op wijst dat er veel kritiek is op Floridi's IE.
[Nou, ik heb het idee dat Tavani iets 'too close for comfort' is met Floridi en dat hij niet helemaal open kan zijn over zijn kritiek op de Information Ethics. Veel andere auteurs zijn daar veel duidelijker over.]
Floridi beschrijft eerst de kenmerken van die globalisering. Hij gebruikt er weer veel woorden voor die vaag zijn:
"In a reality that is more and more physically contracted, virtually expanded, porous, hybridized, synchronized and correlated, the very nature of moral interactions, and hence of their ethical analysis, is significantly altered. (...) What sort of ethical reflection can help us to cope succesfully with a world that is undergoing such dramatic changes?"(275)
[Dat is dus erg kenmerkend voor Floridi: hij idealiseert de betekenis van ICT voor de samenleving. Het is zo iemand die het zou kunnen hebben over 'revoluties' en zo. Maar op een dieper niveau is er misschien wel helemaal niet zo veel anders gaande. Gewoon weer een nieuw technisch middel dat invloed heeft op hoe mensen samenleven en zo verder en dat de bekende ethische en morele problemen oplevert waarover we vervolgens in relatie tot dat middel kunnen nadenken.]
Floridi komt vervolgens weer uit op zijn Information Ethics en werkt dat nog weer eens uit.
[Er is nogal wat kritiek op het abstracte karakter van die meta-ethiek. Ook is er wel kritiek op die agent-opvattingen zoals ik hierboven ook had. Ik ben niet zo blij met meta-ethiek en zeker niet met die van Floridi. Ik vind het echt academisch geleuter. Het levert niks op voor de morele problemen van alledag.]