James H. Moor

James H. Moor on Ameerika Ühendriikide filosoof, kelle uurimisalad on muu hulgas tehisintellektifilosoofia, vaimufilosoofia, teadusfilosoofia ja loogika. Ta kirjutas ühe esimestest töödest arvutieetika alal "What is Computer Ethics?" (1985). Samuti on ta kirjutanud Turingi testist.

Ta sai doktorikraadi 1972. aastal Indiana Ülikoolist. Ta on Dartmouth College'is Daniel P. Stone'i intellektuaalse ja moraalifilosoofia professor. Kuni 2010. aastani oli ta ajakirja Minds and Machines peatoimetaja.

Looming

Mis on arvutieetika?

Artiklis "What is Computer Ethics" arutab ta arvutite erinevust muust tehnoloogiast ja määratleb arvutieetikat.

Arvutieetika on arvutitehnoloogia (arvutid ja nendega seotud tehnoloogia) loomuse ja ühiskondliku mõju analüüs ning selle eetilise kasutamise poliitikate sõnastamine ja õigustamine. Arvutid annavad uusi võimeid ja valikuid, kuid sageli pole vastavaid üksikisiku ja ühiskonna käitumise poliitikaid või need on ebapiisavad. Tavaliselt pole olemasolev eetikateooria mehaaniliselt rakendatav mõistelise segaduse tõttu. Sidus mõisteline raamistik tuleb alles luua. Seda on arvutieetika teinud. Olgu näiteks tarvis sõnastada arvutiprogrammide kaitse poliitika. Tekib küsimus, kas programm on intellektuaalne omand või on see pigem idee, algoritm, mida keegi ei oma. Kui programm on intellektuaalne omand, kas see on idee väljendus, mida traditsiooniliselt kaitstakse autoriõigusega, või protseduur, mida traditsiooniliselt kaitstakse patendiga? Kas masinloetav programm on inimloetava programmi eksemplar? Programmi mõiste, mille arvutieetika välja töötab, mõjutab nii poliitika rakendamist kui ka fakte, näiteks millal on tegu sama programmi eksemplaridega. '

Poliitikat on raske sõnastada ka sellepärast, et uued tegutsemisvõimalused toovad kaasa uued väärtused (näiteks tarkvara loomine) ning paneb vanu väärtusi revideerima. Näiteks kui pidada tarkvara intellektuaalseks omandiks, miks peaks seda kaitsma. Alternatiivsete poliitikate kaakumine sunnib avastama ja eksplitseerima väärtuseelistusi.

Arvutieetika fundamentaalsed probleemid on need, kus arvutitehnoloogia on oluline ning pole selge, mida teha ja kuidas üldse olukorrast aru saada. Näiteks riistvara vargus ei kuulu siia. Kuigi rakenduseetika ei ole eetika rakendamine, peab see rakendama eetikateooriat ja teaduse tulemusi. Arvutieetika on dünaamiline ja kompleksne valdkond, mis vaatleb faktide, mõistestuste, poliitikate ja väärtuste suhteid seoses pidevalt muutuva arvutitehnoloogiata. See ei ole fikseeritud reeglistik ega eetikaprintsiipide pimesi rakendamine väärtusvabale tehnoloogiale, vaid sunnib arvutitehnoloogia loomust ja oma väärtusi ümber mõtestama.

Sageli öeldakse, et toimub arvutirevolutsioon, aga mis on arvutites erilist? Milles seisneb arvutitehnoloogia oluline erinevus muust tehnoloogiast? Kas on alust võrrelda arvutirevolutsiooni tööstusliku pöördega? Arvutid on kättesaadavad ja neid on külluses; aga sellest ei piisa, sest sama kehtib ka pliiatsite kohta. Võib-olla uudsus teeb need revolutsiooniliseks. Elektronarvuteid on olnud 40 aastat, aga kui ka abakust pidada arvutiks, siis on arvutitehnoloogia üks vanemaid. Siis viimased tehnika edusammud arvutite alal on teinud need revolutsiooniliseks. Arvutite kiirus ja mälu on dramaatiliselt kasvanud ja suurus dramaatiliselt kahanenud. Riistvara ja tarkvara on muudetud kasutajasõbralikumaks. Ent tundub, et ka see pole arvutirevolutsiooni tuum, sest analoogne lugu on purgiavajatega. Küllus, odavus, väiksus, kiirus, võimsus ja kasutajasõbralikkus on arvutirevolutsiooni levikut võimaldavad tingimused. Arvutirevolutsiooni olemus on arvuti loomuses. Arvutid teeb revolutsiooniliseks loogiline sepistatavus. Arvuteid saab kujundada mis tahes tegevuseks, mida saab kirjeldada sisendite, väljundite ja siduvate loogiliste tehete kaudu. Arvutite loogikat saab lõpututel viisidel kujundada. Nii nagu aurumasin oli tööstusliku pöörde toorressurss, on arvuti loogika arvutirevolutsiooni toorressurss. Et loogika kehtib igal pool, on arvutitehnoloogia rakendusala piiritu. Arvuti on lähi asi universaalsele tööriistale. Arvutite piirid on suuresti meie enda loovuse piirid. Arvutirevolutsiooni juhtküsimus on: kuidas kujundada arvutite loogikat nii, et see teeniks paremini meie eesmärke.

Loogiline sepistatavus seletab arvutite laialdast kasutamist ja vihjab tohutule mõjule, mis arvutitel tulevikus on. Sellest arusaamine on vajalik käimasoleva tehnoloogiarevolutsiooni mõistmiseks. Teised arvutikäsitused ei ole nii hea alus poliitikate sõnastamiseks ja õigustamiseks. Alternatiivse käsituse järgi on arvutid suured arvutusmasinad. Selle põhjal võidakse väita, et arvuteid hakatakse kasutama põhiliselt arvutamiseks. Loogilisel sepistatavusel on aga nii süntaktiline kui ka semantiline mõõde. Süntaktilises mõõtmes võib öelda, et arvutite loogika võimaldab mitmekesiseid olekuid ja tehteid. Semantilises mõõtmes võib öelda, et arvuti olekuid võib võtta ükskõik mida representeerivatena. Arvutid ei hooli, mida sümbolid representeerivad. Järelikult ei ole ontoloogilist alust eelistada numbrilisi rakendusi mittenumbrilistele. See, et arvuteid saab kirjeldada matemaatiliselt, ei tee neid olemuslikult numbrilisteks. Viga on reifitseerida matemaatilist tähistusviisi arvuti olemuseba ning teha selle põhjal otsustusi arvutite kohase kasutamise kohta. Üldse, arusaamad arvutitehnoloogiast mõjutavad selle kasutamise poliitikaid. Õige arusaamine muutub järjest tähtsamaks.

Tööstuslik pööre Inglismaal läbis kaks staadiumi. Tehnika ja tehnoloogia kasutuselevõtt, testimine ja täiustamine toimus 18. sajandi teisel poolel. Industrialiseerimine toimus siis mõnes majandusharus, eriti põllumajanduses ja tekstiilitööstuses. 19. sajandil toimus tehnoloogia üldine levik, mis teisendas ühiskonda dramaatiliselt. Võib oletada, et arvutirevolutsioon teeb samamoodi läbi kaks staadiumi. Viimased 40 aastat on käinud 40 aastat ja algamas on staadium, kus arvutitehnoloogia saab kogu ühiskonna institutsioonide lahutamatuks osaks. Nähtavasti muudab see paljusid inimtegevusi ja institutsioone ning see tõstatab mitmesuguseid arvutieetika probleeme. See muutmine tähendab tegevuse või institutsiooni põhiloomust või põhieesmärki. Seda näitab see, milliseid küsimusi küsitakse. Kasutuselevõtustaadiumis mõistetakse arvuteid vahenditena standardülesannete täitmiseks ning küsitakse, kui hästi teeb arvuti seda ja seda. Teises staadiumis saavad arvutid tegevuse lahutamatuks osaks ning küsitakse, mis on selle-ja-selle tegevuse loomus ja väärtus. Seda muutust on ühiskonnas juba näha. Aastaid on arvuteid kasutatud häälte lugemiseks, nüüd muutuvad valimised väga arvutiseerituks; arvuteid saab kasutada ka tulemuse ekstrapoleerivaks ennustamiseks. Küsimus ei ole enam mitte see, kui tõhusalt arvutid ausatel valimistel hääli loevad, vaid mis on ausad valimised. Kas on kohane, et mõned inimesed teavad tulemust enne hääletamist? Arvutid mõjutavad tõenäoliselt häälte arvu ja jaotust. Mõistlik on arvata, et 50 aasta pärast on igapäevane töö mitmes suhtes muutub. Kui personaalarvutid levivad ning võimaldavad kodus töötamist ning robotid teevad üha suurema osa vabrikutööst, siis ei küsita mitte ainult, kui hästi arvutid aitavad tööd teha, vaid ka mis on selle töö loomus. Traditsioonilist tööd ei saa enam määratleda sellena, mis mingil ajal või mingis kohas tavaliselt toimub. Võib-olla töö hakkab olema mitte niivõrd tegemine kui arvuti instrueerimine. Kui töö mõiste hakkab muutuma, siis vana mõistega seotud väärtused tuleb üle vaadata. Kodutöötajad kaotavad midagi spontaansest interaktsioonist kolleegidega. Vabrikutöötajad, kes nuppudele vajutavad, ei ole võib-olla toote üle enam nii uhked jne. Lendurid, kes vaatavad pealt, kuidas arvutid lendavad, leiavad võib-olla, et nende töö on teistsugune, kui nad arvasid. Kui raha ülekandmine ja hoidmine aina rohkem arvutiseeritakse, siis ei küsita mitte ainult, kui hästi arvutid raha loevad, vaid ka, mis on raha. Kas raha on asendunud arvutiarvepidamisega või elektroonilistest impulssidest on saanudki raha? Milliseid võimalusi ja väärtusi see kaotab või lisab, kui sularaha kaob? Praegu on vähe arvuti haridusprojekte ning on kohane küsida, kui hästi arvutid harivad. Aga kui õpetamine toimub üha enam arvuti vahendusel ja arvutid võtavad rutiinsema õpetamise üle, siis küsitakse hoopis, mis on õpetamine. Traditsioonilise õpetamisviisiga seotud väärtused satuvad kahtluse alla. Kui palju inimlikku kokkupuudet on õpetamiseks vajalik või soovitav. Mis on õpetamine, kui seda teevad arvutid? Sellepärast on arvutieetikal suur praktiline tähtsus.

Enamasti on arvutioperatsioonid nähtamatud. See nähtamatusfaktor tekitab sageli poliitikavaakumeid. Nähtamatu kuritarvitamine on arvuti nähtamatute operatsioonide tahtlik kasutamine ebaeetiliseks käitumiseks. Näiteks saab programmeerija pangast intressevarastada, kasutades ära täissendiks ümardamist. Vargus võib jääda märkamatuks, kui ei nähta intressiprogrammi või ei kasutata keerulist raamatupidamisprogrammi. Võidakse ka sekkuda teise omandisse, eemaldades või muutes salaja konfidentsiaalset infot. Võidakse ka salaja seirata teiste arvutite tööd, telefonikõnesid ja elektronposti. Üks peenem ja huvitavam nähtamatusfaktori avaldus on nähtamatud programmeerimisväärtused. Programmeerijal tuleb teha väärtusotsustusi selle kohta, mis on tellimuse täitmisel oluline. Need väärtused on lõpptootes sees ega pruugi olla kasutajale nähtavad. Näiteks võib lennupiletite reserveerimise programm anda eelise ühele lennukompaniile. Kuigi kallutatud programmi üldine kasutamine on eetiliselt kahtlane, ei pruugi programmeerija olla kuritarvituse osaline. Programmeerija ei pruugi olla ette näinud programmi kasutamist viisil, kuidas seda tegelikult kasutatakse. Ja isegi kui mingit kallutatust ei kavandata, võib teatud valikute tõttu siiski sugeneda peidetud väärtushinnanguid, näiteks selle tõttu, kas lennukompaniisid loetletakse tähestiku järjekorras, kas näidatakse korraga mitut kompaniid, kas arvestatakse veidi varasemaid lende ja kui pika ajavahemiku lende näidatakse. Need otsused tuleb programmeerijal tahes-tahtmata teha. Aga mõnikord on nähtamatud programmeerimisväärtused nii nähtamatud, et isegi programmeerijad ei ole neist teadlikud. Programmides võib olla vigu ja programmid võivad põhineda implitsiitsetel eeldustel, mis saavad ilmseks alles kriisi puhul. Võib-olla kõige häirivam nähtamatusfaktor on nähtamatud keerulised arvutused. Isegi kui programm on arusaadav, ei ole sellepärast veel arvutused arusaadavad ega jälgitavad. Üks näide on neljavärviprobleemi lahendamine arvuti abil 1976. Probleem on selles, kui palju arvuti nähtamatuid arvutusi usaldada. Mida tähtsamad on tagajärjed, seda suurem on eetiline probleem. Näiteks kasutavad sõjaväelased arvuteid, kui nad teevad otsuseid tuumarelva kasutamise kohta. Arvutid on ekslikud ja võib-olla pole aega nende olukorrahinnangu kinnitamiseks. Aga otsustamine ilma arvutiteta on võib-olla veel ekslikum ja ohtlikum.

Osaline lahendus võib peituda arvutites enestes. Üks arvutite tugevus on võime leida varjatud infot ja seda näidata. Ent me ei tea alati, millal, kus ja kuidas arvuti tähelepanu suunata. Ühelt poolt me oleme rahul, et arvuti tegevus on nähtamatu ja me ei pea seda jälgima. Teiselt poolt teeb see meid haavatavaks. Arvutieetika väljakutse on sõnastada poliitikad, mis aitavad selle dilemmaga toime tulla. Me peame otsustama, millal arvuteid usaldada, millal mitte. Ka sellepärast on arvutieetika nii tähtis.

Nelja liiki eetilised robotid

Artiklis "Four Kinds of Ethical Robots" määratleb Moor viisid, kuidas masinad saavad moraalsed olla.

Kas roboteid saab õpetada õiget ja väära eristama? Kas me saame endale lubada seda mitte proovida? Moor kaitseb mõtet, et robotieerika on legitiimne, huvitav ja tähtis valdkond. On võimalik, et robotitest saavad (vähemalt mõnedes olukordades) head eetiliste otsuste tegijad, mis toimivad eetiliselt, saades moraalist aru, st mitte kooskõlas eetikaprintsiipidega, vaid nende järgi.

On vähemalt nelja liiki eetilisi toimijaid. Eetilise mõjuga toimijad on need, mille tegudel on eetilised tagajärjed. Robot saab olla eetilise mõjuga toimija, kui tema teod saavad inimestele kahju või kasu tuua. Isegi elektroonilist kella saab pidada eetilise mõjuga toimijaks, kui ta julgustab omanikku kohtumistele õigeks ajaks jõudma. On ka ebaeetilised eetilise mõjuga toimijad. Ja mõned toimijad on mõnikord eetilised, mõnikord ebaeetilised. Näiteks Goodmani toimija (Goodman Nelsoni järgi) võrdleb kuupäevi, kuid arvestab aastaarvus ainult kahte viimast numbrit, nii et enne 2000. aastat on ta eetilise mõjuga toimija, seejärel ebaeetilise mõjuga toimija. Edasi, implitsiitsetel eetilistel toimijatel on eetilised kaalutlused sisse ehitatud. Tavaliselt on need turvalisuse kaalutlused.

Tunnustus

• 2006 Barwise'i auhind

Publikatsioone

• What is Computer Ethics? – Metaphilosophy, 1985, 16(4), lk 266–275. Veebiversioon
• koos Terrell Ward Bynumiga. The Digital Phoenix: How Computers Are Changing Philosophy, ümbertöötatud trükk, Oxford: Basil Blackwell Publishers 2000.
• koos Terrell Ward Bynumiga. Cyberphilosophy: The Intersection of Philosophy and Computing, Oxford: Basil Blackwell Publishers 2002.
• The Turing Test: The Elusive Standard of Artificial Intelligence, Dordrecht: Kluwer Academic Publishers 2003.
• koos Fritz Allhoffi, Patrick Lini ja John Weckertiga. Nanoethics: The Ethical and Social Implications of Nanotechnology John Wiley & Sons, Inc. 2007.
• koos Merrie Bergmanni ja Jack Nelsoniga. The Logic Book, 5. trükk, New York: McGraw-Hill Publishing Company 2009.
• Four Kinds of Ethical Robots. – Philosophy Now, 2009. Veebiversioon
• koos Kevin Warwicki ja Huma Shahiga. Some Implications of a Sample of Practical Turing Tests. – Minds and Machines, 2013, kd 23, lk 163–177.

Välislingid

• Sissekanne Dartmouth College'i saidil