Claude Shannon

Allikas: Vikipeedia
Claude Shannon

Claude Elwood Shannon (30. aprill 1916 Petoskey, Michigan24. veebruar 2001) oli ameerika matemaatik, elektroonik ja kodeerija, keda tuntakse kui informatsiooniteooria isa.[1][2]

Shannon on kuulus 1948. aastal avaldatud artikliga infoteooriale aluse panemise poolest. Samuti on ta tuntud digitaalarvuti ja -skeemide disainiteooria rajamise poolest. Nimelt kirjutas ta 1937. aastal 21-aastase Massachusettsi Tehnoloogiainstituudi (MIT) magistrandina artikli, mis näitas, et elektroonikaseadmed suudavad kahendmuutujate abiga sooritada mistahes loogika- või arvulise tehte.[3] Tööga koodimurdmise ja turvalise telekommunikatsiooni vallas andis Shannon panuse riigikaitse krüptoanalüüsi teise maailmasõja ajal.

Elulugu[muuda | muuda lähteteksti]

Shannon sündis Michiganis Petoskey linnas ja kasvas üles Michiganis Gaylordi linnas.[4] Tema isa Claude seenior (1862–1934), varajaste New Jersey asunike järeltulija, oli ärimees ja testamendikohtunik. Shannoni ema Mabel Wolf Shannon (1890–1945) oli keeleõpetaja ja mitu aastat Gaylordi Keskkooli direktor. Suurema osa oma esimesest 16 eluaastast veetis poiss Gaylordis, kus ta 1932. aastal lõpetas keskkooli. Shannon tundis huvi mehaanika- ja elektriseadmete vastu. Talle sobisid kõige paremini loodusteadused ja matemaatika ning kodus ehitas ta mitmesuguseid seadmeid, näiteks mudellennukeid, raadio teel juhitava paadi ja oma 800 meetri kaugusel elava sõbra koduga ühendatud juhtmevaba telegraafisüsteemi. Hiljem töötas ta Western Unioni jooksupoisina.

Tema lapsepõlvekangelane oli Thomas Alva Edison. Hiljem selgus, et Edison ja Shannon on kauged sugulased. Nad mõlemad olid John Ogdeni (1609–1682) järeltulijad. Ogden on paljude silmapaistvate inimeste esivanem.[5][6]

Shannon oli apoliitiline ateist.[7]

Boole'i teooria rakendused[muuda | muuda lähteteksti]

Shannon astus 1932. aastal Michigani Ülikooli, kus ta võttis kursusi, mis tutvustasid George Boole'i elutööd. 1936. aastal lõpetas ta ülikooli bakalaureusekraadiga kahel alal: elektroonikas ja matemaatikas. Ta läks edasi Massachusettsi Tehnoloogiainstituuti (MIT) elektroonika erialale, kus ta aitas ehitada Vannevar Bushi diferentsiaalanalüsaatorit, varajast analoogarvutit.[8]

Diferentsiaalanalüsaatori keerulisi konkreetseks otstarbeks mõeldud vooluskeeme uurides sai Shannon aru, et Boole'i ideed olid suurel määral rakendatavad. Tema 1937. aasta magistritööl „Sümboolne relee- ja lülitusskeemide analüüs“ (“A Symbolic Analysis of Relay and Switching Circuits“)[9] põhinev artikkel avaldati ajakirja „Transactions of the American Institute of Electrical Engineers1938. aasta väljaandes.[10] Shannon sai tänu sellele 1939. aastal ameerika inseneride Alfred Noble'i preemia (mitte segi ajada Nobeli preemiaga). Howard Gardner nimetas Shannoni magistritööd arvatavasti sajandi tähtsaimaks ja kuulsaimaks magistritööks.[11]

Lomonossovi-nimelises Moskva Riiklikus Ülikoolis õppinud Viktor Šestakov mõtles välja Boole'i loogikal põhineva elektrilülitite süsteemi juba 1935. aastal, kuid see avaldati Shannonist hiljem, 1941. aastal.

Shannon tõestas, et kahendsüsteemi aritmeetikat saab kasutada selleks, et lihtsustada tol hetkel telefoniühendustes kasutatud elektromehaaniliste releede järjestust. Viimast mõtet laiendas ta sellele, et releede järjestusi saab kasutada ka kahendalgebra tehete lahendamiseks, mille ta samuti ära tõestas.

Digitaalarvutite tööpõhimõte seisnebki elektrilülitite võimel sooritada loogikatehteid. Shannoni töö sai teise maailmasõja ajal ja hiljem elektroonikute seas laialdaselt tuntuks ja sellest sai digitaalskeemide disaini alus. Tugev teooria Shannoni loomingu taga tõrjus varasemad mittepaindlikud meetodid välja.

Vannevar Bush pakkus edust julgustust saanud Shannonile välja, et ta võiks Cold Spring Harbori laboratooriumis aidata välja töötada sarnaseid matemaatilisi seoseid Gregor Mendeli geneetika väljendamiseks. Uuring viis selleni, et Shannon kirjutas 1940. aastal MIT-s filosoofia alal doktoritöö „Algebra teoreetilise geneetika jaoks“ (An Algebra for Theoretical Genetics).[12]

Kui Shannon sai 1940. aastal New Jerseys Princetonis oleva teadusinstituudi liikmeks, oli tal hea võimalus ideid vahetada mõjukate teadlaste ja matemaatikutega, näiteks Hermann Weyli ja John von Neumannga. Ta puutus aeg-ajalt kokku ka Albert Einsteini ja Kurt Gödeliga. Shannon töötas vabalt mitmel alal, mis arvatavasti aitas tal hiljem infoteooriat arendada.[13]

Sõjaaegsed uuringud[muuda | muuda lähteteksti]

Shannon liitus teise maailmasõja ajal Belli laboratooriumiga, et arendada tulejuhtimissüsteeme ja krüptograafiat.

Seal tutvus ta oma tulevase naise Bettyga ja nad abiellusid 1949. aastal.[14]

Shannonile omistatakse signaaligraafi leiutamine aastal 1942.[15]

Shannon puutus 1943. aasta alguses kaks kuud kokku Briti krüptoanalüüsija Alan Turinguga. Turing oli saadetud Washingtoni, et jagada USA mereväega krüptoanalüüsi meetodeid, mida tema kodumaal kasutati.[16] Ta huvitus ka kõne krüpteerimisest, mille tõttu viibis Belli laboratooriumis. Shannon ja Turing kohtusid sööklas teejoomise ajal.[16] Turing tutvustas Shannonile 1936. aasta artiklis kirjeldatud universaalset Turingi masinat.[17][18] Shannon oli vaimustuses, kuna paljud neist ideedest täiendasid ja toetasid tema enda omi.

Kui sõda lõppemas oli, tahtis varsti laiali minev riigikaitseuuringute komitee saada kokkuvõtet tehnikaaruannetest. Köites tulejuhtimisest oli essee „Andmete silumine ja ennustamine tulejuhtimissüsteemides“ (Data Smoothing and Prediction in Fire-Control Systems), mille kaasautorid olid Shannon, Ralph Beebe Blackman ja Hendrik Wade Bode.[19] Selles essees käsitleti probleeme andmete ja signaalide töötlemise seisukohast ning see kuulutas ette infoajastu tulekut.

Shannoni tööd krüptograafia kohta olid veelgi enam seotud tema hilisemate väljaannetega kommunikatsiooniteooriast. 1945. aasta septembris, sõja lõppedes, kirjutas ta Belli laboratooriumi jaoks salastatud memorandumi „Krüptograafia matemaatiline teooria“ (A Mathematical Theory of Cryptography). Avalik versioon pealkirjaga „Kommunikatsiooniteooria salastussüsteemides“ (Communication Theory of Secrecy Systems) anti välja aastal 1949. Artikkel võttis paljud 1948. aasta artiklis „Matemaatiline kommunikatsiooniteooria“ (A Mathematical Theory of Communication) esinenud ideed ja matemaatilised sõnastused kokku. Shannon mainis, et sõjaaegsed uuringud kommunikatsiooniteooria ja krüptograafia kohta arenesid samaaegselt ning et nad olevat nii tihedalt seotud, et kahte teineteisest lahutada ei saa.[20] Eelmainitud salastatud raporti alguses olevas allmärkuses ütles Shannon, et kavatseb neid mõtteid arendada veel tulevases memorandumis infoedastuse kohta.[13]

Belli laboratooriumis tõestas Shannon, et ühe korra kasutatava võtmega (inglise keeles one-time pad) krüpteerimine on murdmatu. See uuring tehti avalikuks 1949. aasta oktoobris. Ta tõestas sedagi, et ükskõik milline murdmatu krüpteerimissüsteem peab olema nende omadustega, mis on ühekordse võtmega süsteemilgi: võti on täielikult juhuslik, sama suur kui lihttekst, mitte iialgi eelnevalt kasutatud ei osaliselt ega täielikult ja peab olema salastatud.[21]

Hiljem murdis riiklik julgeolekuagentuur (NSA) osaliselt Nõukogude Liidu koodi, mis oletatavalt kasutas ühekordse võtmega süsteemi. Hiljem selgus aga, et põhjus oli süsteemi vales kasutamises. NSV Liidu tehnikud kasutasid mõnikord ühesugust võtit mitu korda, mida ameerika krüptoanalüütikud märkasid.

Sõjajärgne panus[muuda | muuda lähteteksti]

1948. aastal ilmus lubatud memorandum pealkirjaga „Matemaatiline kommunikatsiooniteooria“ (A Mathematical Theory of Communication). See avaldati kahe artiklina: üks juulis ja teine oktoobris. Artiklid kirjeldasid peamiselt seda, kuidas kõige paremini saatja edastatavat infot kodeerida. Selles fundamentaalses teoses kasutas ta elemente Norbert Wieneri väljatöötatud tõenäosusteooriast, mis tol ajal ei olnud veel kommunikatsiooniteoorias laialdaselt kasutusel. Shannon töötas välja informatsioonientroopia, sõnumi määramatuse kirjeldamise mõõdu, algatades sellega informatsiooniteooria ala.

Warren Weaveriga kahasse kirjutatud raamat „Matemaatiline kommunikatsiooniteooria“ (The Mathematical Theory of Communication) sisaldab endas Shannoni 1948. aasta artiklit ja selle Weaveri-poolset populariseeringut, mis sobib ka mittespetsialistile. Weaver tõi välja, et kommunikatsiooniteoorias ei kirjelda sõna „informatsioon“ seda, mida keegi ütleb, vaid seda, mida ta öelda saaks. See tähendab, et sõnumit valides on informatsioon isiku valikuvabaduse näitaja. Shannoni mõtted on temapoolse ülelugemisega populariseeritud ka John Robinson Pierce'i teoses „Sümbolid, signaalid ja müra“ (Symbols, Signals, and Noise).

1951. aastal sai informatsiooniteooria panus loomuliku keele töötlemisse ja arvutuslingvistikasse veelgi selgemaks tänu tema artiklile „Kirjaliku inglise keele ennustamine ja entroopia“ (Prediction and Entropy of Printed English), mis tõi välja inglise keele statistika alumise ja ülemise entroopiapiiri ning pani aluse statistikal põhinevale keeleanalüüsile. Lisaks tõestas ta, et kui tühikut lugeda tähestiku täiendavaks täheks, siis keele ettemääramatus väheneb. See idee loob kultuurilise tava ja tõenäosusliku tunnetuse vahele seose.

Teine märkimisväärne artikkel, mis oli kirjutatud sõja ajal ja oli seni salastatud, avaldati 1949. aastal pealkirjaga „Salastussüsteemide kommunikatsiooniteooria“ (Communication Theory of Secrecy Systems). Shannon tõestas selles artiklis, et kõik murdmatud kodeeringud peavad olema samude tunnustega kui ühekordselt kasutatava võtmega krüpteerimisviisil. Talle omistatakse ka valimi moodustamise teooria loomine, mis oli vajalik 1960ndatel ja hiljem telekommunikatsioonis analoogülekandesüsteemidelt digitaalülekandesüsteemidele üleminekuks.

Shannon sai 1956. aastal Massachusettsi Tehnoloogiainstituudi professoriks.

Hobid ja leiutised[muuda | muuda lähteteksti]

Akadeemilise töö kõrvalt huvitus Shannon žongleerimisest, üherattalise jalgrattaga sõitmisest ja malest. Ta leiutas palju seadmeid, näiteks rakettidega lendavad kettad, motoriseeritud hüppepulk või teadusnäituse jaoks mõeldud tuldsülgav trompet. Üks ta humoorikamatest leiutistest oli tema laual olev karp, mis kandis nime „ülim masin“ (inglise keeles ultimate machine) ja põhines Marvin Minsky ideel. Sellel seadmel oli külje peal vaid üks lüliti. Seda lülitades avanes karbil kaas ja sealt tulnud mehaaniline käsi lükkas lüliti tagasi ja läks karpi. YouTube'is ja Thingverse'is on inimestel ülima masina vastu uus huvi tekkinud. Lisaks sellele ehitas ta seadme, mis suutis lahendada Rubiku kuubiku.[5]

Shannon kavandas digitaalarvuti Minivac 601, mis pidi ärimeestele õpetama, kuidas arvutid töötavad. Seda müüdi alates aastast 1961.

Teda peetakse koos Edward Thorpiga esimese kantava arvuti leiutajaks.[22] Seda arvutit sai kasutada ruletis võiduvõimaluse väljaarvutamiseks.

Pärand[muuda | muuda lähteteksti]

Shannon läks aastal 1956 Massachusettsi Tehnoloogiainstituuti, et töötada sealses elektroonikalaboratooriumis. Ta oli seal 1978. aastani. Aastal 2001 tähistati tema saavutusi ja seoses sellega püstitati Shannoni auks kuus Eugene Daubi skulptuuri: Michigani Ülikooli, Massachusettsi Tehnoloogiainstituuti, Gaylordi linna Michiganis, California Ülikooli San Diegos, Belli laboratooriumisse ja AT&T Shannoni laboratooriumisse.[23] Üks osa jagunenud Belli süsteemist nimetati tema auks Shannoni Laboriks.

Neil Sloane, suure osa Shannoni artiklikollektsiooni redigeerija 1993. aastal, väitis, et kommunikatsiooniteooria (tänapäeval tuntud kui informatsiooniteooria) perspektiiv on digitaalrevolutsiooni alus ja et iga mikroprotsessorit sisaldav seade on idee poolest Shannoni 1948. aasta väljaande tulemus.[24] Ühtlasi nimetas ta Shannonit sajandi vägevaimaks meheks ja digitaalrevolutsiooni algatajaks ning ütles, et ilma temata oleksid paljud tänapäeval tuntud asjad olematud.[25] Ühik šännon on nimetatud Claude Shannoni järgi.

Shannonil oli kolm last: Robert James, Andrew Moore ja Margarita Shannon. Vanem poeg Robert suri 1998. aastal 45 aasta vanuselt. Elu lõpupoole arenes Claude Shannonil Alzheimeri tõbi ja ta suri aastal 2001. Oma viimased aastad veetis ta Massachusettsis hooldekodus, mäletamata oma seniseid saavutusi.[14][26] Shannoni nekroloogis väitis tema naine Mary, et kui tal poleks olnud Alzheimeri tõbe, oleksid tema saavutused teda ennastki hämmastanud.[25]

Muu töö[muuda | muuda lähteteksti]

Shannoni hiir labürindis

Shannoni hiir[muuda | muuda lähteteksti]

Theseus oli 1950. aastal loodud magnetiline hiir, mis suutis releeahela abil liikuda 25 ruudust koosnevas labürindis, ja sellel olid pärishiire mõõtmed.[2] Labürinti sai ümber seada.[2] Hiire eesmärk oli käigud läbi otsida, et leida teatud ese. Kui hiir oli juba labürindiga tuttav, võis teda teise kohta tõsta ja tänu eelnevale kogemusele oskas ta minna otse eseme juurde. Hiir oli programmeeritud nii, et võõrasse punkti paigutatuna hakkas ta käike läbi otsima, kuni leidis tuttava koha, minnes seejärel kohe sihtmärgi juurde ja talletades uut kogemust.[2] Näib, et Shannoni hiir oli esimene selletaoline tehislik õppevõimeline mehhanism.[2]

Shannoni maleprogramm[muuda | muuda lähteteksti]

Shannon avaldas aastal 1950 artikli „Arvuti malet mängima programmeerimine“ (“Programming a Computer for Playing Chess“), milles ta selgitas, kuidas saab arvutit arvestataval tasemel malet mängima panna. Tema väljamõeldud algoritm on minimaksiprotseduur, mis põhineb malendite paigutuse hindamisel. Shannon tõi näiteks hindamisfunktsiooni, kus mustade malendite positsiooni väärtusest lahutati valgete oma. Eri malendite tugevust hinnati levinud punktisuhte järgi (1 punkt etturi eest, 3 ratsu või oda eest, 5 vankri eest ja 9 lipu eest).[27] Tema hindamisviis võttis arvesse ka malendite positsiooni, näiteks iga ettur, mis oli teise etturiga samas rivis, ei olnud kõnealuse etturi ohtupanekuta liigutatav või oli isoleeritud, andis pool punkti. Teine positsiooniga seotud tegur funktsioonis oli liikuvus, mis andis igale malendile 0,1 lisapunkti iga käigu kohta, mida sellega teha sai. Lisaks andis ta kuningale väärtuse 200, kuna kuninga kaotus tähendaks matti.

Shannoni sõnul on see hindamisfunktsioon vaid näidis. Näiteks ei oleks ühes rivis olevatel või isoleeritud etturitel väärtust, mis on ebareaalne.

Infoteooria ja selle rakendamine mänguteoorias[muuda | muuda lähteteksti]

Shannon ja tema naine Betty käisid koos Edward Thorpiga aeg-ajalt Las Vegases nädalavahetust veetmas. Füüsiku John L. Kelly juunioriga väljatöötatud infoteoorial põhinevate meetodite abil mängisid nad seal väga edukalt blackjacki.[28] Suurim-vähim meetodina tuntud mänguviis töötab nii, et ilmunud kaartide põhjal liidetakse kas 1, 0 või −1.[29][30] Shannon ja Thorp leiutasid ka väikese peidetava arvuti, mis aitas neil hasartmänge mängides võiduvõimalust välja arvutada.[31] William Poundstone kirjutab ühes oma raamatus, et Shannon ja Thorp teenisid mängurlusega väga palju raha, väide, mida toetab oma kirjutistes ka Elwyn Borlekamp, Kelly assistent aastatel 19601962. Sama teooria abil teenisid Shannon ja Thorp aktsiaturul veel rohkem raha.[32] Claude Shannoni kaardilugemisviis seletati lahti 2003. aasta bestselleris „Bringing Down the House“, mille autoriks on Ben Mezrich ja mis räägib MIT-i blackjackimeeskonnast. Raamatu põhjal tehti aastal 2008 ka film pealkirjaga „21“.

Viited[muuda | muuda lähteteksti]

  1. James, Ioan. "Claude Elwood Shannon 30 April 1916 — 24 February 2001". (lk 257–265). Biographical Memoirs of Fellows of the Royal Society 55, 2009. Inglise keeles.
  2. 2,0 2,1 2,2 2,3 2,4 "Bell Labs Advances Intelligent Networks". 1. november, 2006. Inglise keeles.
  3. Poundstone, William (2005), Fortune's Formula: The Untold Story of the Scientific Betting System That Beat the Casinos and Wall Street, Hill & Wang, ISBN 978-0-8090-4599-0 
  4. "Claude Shannon". Kasutatud 10.09.2014. Inglise keeles.
  5. 5,0 5,1 MIT Professor Claude Shannon dies; was founder of digital communications, MIT — News office, Cambridge, Massachusetts, 27.02.2001
  6. Sloane, N.J.A.; Wyner, Aaron D. (1993), Claude E. Shannon: Collected Papers, IEEE Publications, ISBN 0-7803-0434-9 
  7. Poundstone, William (2010). Fortune's Formula: The Untold Story of the Scientific Betting System. Macmillan. p. 18. ISBN 9780374707088. 
  8. Price, Robert. Claude E. Shannon, an oral history. IEEE Global History Network. Vaadatud 14. juuli 2011.
  9. Shannon, Claude E.. "A Symbolic Analysis of Relay and Switching Circuits". 10.08.1937. Failitüüp: PDF. Inglise keeles.
  10. Shannon, C. E. (1938). "A Symbolic Analysis of Relay and Switching Circuits". Trans. AIEE 57 (12): 713–723. doi:10.1109/T-AIEE.1938.5057767. 
  11. Gardner, Howard (1987). The Mind's New Science: A History of the Cognitive Revolution. Basic Books. p. 144. ISBN 0-465-04635-5. 
  12. Shannon, Claude E.. Online text at MIT"An algebra for theoretical genetics". 1940.
  13. 13,0 13,1 Guizzo, Erico Marui. "The Essential Message: Claude Shannon and the Making of Information Theory". 2003. Failitüüp: PDF. Inglise keeles.
  14. 14,0 14,1 "Shannon, Claude Elwood (1916–2001)". Inglise keeles.
  15. Okrent, Howard; McNamee, Lawrence P. (1970). "3. 3 Flowgraph Theory". NASAP-70 User's and Programmer's manual. Los Angeles, California. pp. 3–9. 
  16. 16,0 16,1 Hodges, Andrew (1992). Alan Turing: The Enigma. London: Vintage. pp. 243–252. ISBN 978-0-09-911641-7. 
  17. Turing, A.M. (1936). "On Computable Numbers, with an Application to the Entscheidungsproblem". Proceedings of the London Mathematical Society. 2 (1937) 42: 230–65. doi:10.1112/plms/s2-42.1.230. 
  18. Turing, A.M. (1938). "On Computable Numbers, with an Application to the Entscheidungsproblem: A correction". Proceedings of the London Mathematical Society. 2 (1937) 43 (6): 544–6. doi:10.1112/plms/s2-43.6.544. 
  19. Mindell, David A. (2004). Between Human and Machine: Feedback, Control, and Computing Before Cybernetics. Johns Hopkins University Press. pp. 319–320. ISBN 0-8018-8057-2. 
  20. Kahn, David (1996). The Codebreakers. Simon and Schuster. pp. 743–751. ISBN 0-684-83130-9. 
  21. Shannon, Claude (1949). "Communication Theory of Secrecy Systems". Bell System Technical Journal 28 (4): 656–715. 
  22. Thorp, Edward O.. "The Invention of the First Wearable Computer". Inglise keeles.
  23. "Claude E. Shannon Statue Dedications". Inglise keeles.
  24. Shannon, C.E. (1948). "A mathematical theory of communication". Bell System Technical Journal 27: 379–423, 623–656. 
  25. 25,0 25,1 Coughlin, Kevin (veebruar 2001). "Bell Labs digital guru dead at 84 — Pioneer scientist led high-tech revolution". The Star-Ledger. 
  26. "Claude Elwood Shannon". Inglise keeles.
  27. Ekbia, Hamid Reza (2008). Artificial dreams: the quest for non-biological intelligence. Cambridge University Press. p. 46. ISBN 978-0-521-87867-8. 
  28. Poundstone, William. "John Kelly".
  29. Bennett, William. "The Odds of Gambling". Kasutatud 21.04.2014. Inglise keeles.
  30. Vancura, Olaf (1998). Knock-Out Blackjack: The Easiest Card-Counting System Ever Devised. Huntington Press Inc. p. 18. ISBN 9780929712314. 
  31. "Edward Thorp – Inventor of Card Counting". lolblackjack.com. Kasutatud 21.04.2014. Inglise keeles.
  32. William Poundstone'i veebisait

Välislingid[muuda | muuda lähteteksti]