RAZUMEVANJE IN REPREZENTACIJA ZNANJA Текст научной статьи по специальности «Компьютерные и информационные науки»

RAZUMEVANJE IN REPREZENTACIJA ZNANJA

Mojca Vizjak Pavsic

Ljubljana, Slovenija

Long-term memory is the depository for our relatively stable knowledge and skills, including knowledge of language, spatial models of the world, knowledge of the properties of objects and people, events in our own lives, sensorimotor skills, etc. There exist numerous formalisations for representing knowledge, but associative (or semantic) networks and production rule systems are the most commonly used. In associative (or semantic) networks, the basic elements of memory are concepts (knots, symbols), and relations between concepts (propositions, symbolic structure). A concept may be perception-based, action-based, a basic logical or semantic relation or a higher-level concept built on relations between such elements. Concepts may be general terms or individual constants. The meaning of a concept is determined in part by the configuration of its relations to other concepts, and in part the referential conditions that are essential for the correct use and application of a term. Production is a rule in the form «if-then», which states what kind of operation must be executed when certain conditions apply. The conditions may be any pattern of activity represented in the long-term memory as a complex proposition; actions may be external or internal moves such as searching for a memory location, seeking a referent in the memory, or activating other long-term memory concepts.

Na vecino sodobnih teorij razumevanja jezika je vplivala posredno ali neposredno racunalniska metafora dusevnosti. Razumevanje jezika, ki je ena od najbolj zapletenih kognitivnih zmoznosti, poteka tako avtomaticno in s tako malo zavestnega napora, da je tezko dostopno znanstvenemu opazovanju in introspektivni analizi. Zato ni presenetljivo, da se vedno ni povsem pojasnjeno, kako bralec ali poslusalec razume in asimilira konceptualna razmerja, ki jih izraza govorjeni ali pisani jezik. Splosen pristop k proucevanju fenomena, ki je tako zapleten kot je razumevanje jezika, je najti nek nacin dekompozicije le-tega v manj zapletena, laze obvladljiva podpodrocja, ki se jih proucuje neodvisno eno od drugega, nato pa se proucuje interakcije med njimi. Med najbolj odmevne pristope v tem okviru sodi Johnson-Lairdova (Johnson-Laird 1983, 1988, 2001) teorija mentalnih modelov (Goodwin, Johnson-Laird 2005), ki je tesno povezana z razvojem na sorodnih podrocjih, kot so umetna inteligenca, lingvistika in formalna semantika.

Vendar ideja, da organizem pri delovanju v svojem okolju uporablja internalni model sveta, ni nova. Ze pred nastopom digitalnih racunalnikov je namrec K. Craik (Craik 1943) v svojem delu The Nature of Explanation

© M. Vizjak Pavsic, 2006

zapisal: »Ce ima organizem v svoji glavi model eksternalnega sveta v majhnem merilu in moznih akcij v okviru tega modela, je zmozen preizkusati razlicne alternative, zakljucevati, katera od njih je najboljsa, reagirati na prihodnje situacije se preden se pojavijo, uporabiti znanje preteklih dogodkov pri urejanju sedanjosti in prihodnosti ter tako v vsakem primeru reagirati na veliko popolnejsi, varnejsi in bolj kompetenten nacin na okoliscine (nevarnosti in nujnosti), s katerimi se sooca.«

Osnovna ideja sodobne teorije mentalnih modelov je, da zahtevata misljenje in procesiranje jezika konstrukcijo mentalnih analogij delov realnega ali imaginarnega sveta ter manipuliranje z njimi. Natancneje, teorija mentalnih modelov - podobno kot Bransford (Bransford, Barclay, Franks 1972; Bransford, Johnson 1973) in drugi psiholingvisti, ki so v zgodnjih sedemdesetih letih zavrgli pojmovanje, da mentalna reprezentacija vsebine besedila ustreza njeni lingvisticni reprezentaciji - predpostavlja, da je reprezentacija po obliki podobna reprezentacijam kot se konstruirajo na podlagi percepcijskih vhodnih drazljajev. Medtem ko je mogel Bransford le malo povedati o procesih, ki povezujejo informacije iz razlicnih stavkov, pa teorija mentalnih modelov precej natancno razlozi, kako se informacija iz razlicnih delov besedila integrira v koherentno mentalno reprezentacijo.

Po tej teoriji je vsak diskurz ali tekst predstavljen v svojem lastnem mentalnem modelu, ki ustreza delom realnega ali imaginarnega sveta, na katerega se nanasa. Mentalni modeli se gradijo postopno. Vsak nov stavek dograjuje model in tako se gradi tudi kontekst za interpretacijo naslednjega stavka. Clovek laze konstruira modele, ce je tekst koherenten, eden glavnih pogojev koherentnosti teksta pa je referencna kontinuiteta. Znacilen primer takega besedila je besedilo, v katerem se sedanji stavek ali trditev vselej nanasa na nekaj, kar je bilo omenjeno v predhodnem stavku ali delu govora. Referencno kontinuirani teksti so laze razumljivi, ker nalagajo delovnemu spominu manjse obremenitve (van Dijk, Kintsch 1978; 1983; Kintsch 1988; 2004), vendar niso nujno tudi verjetni. Opisujejo lahko bizarna sosledja dogodkov. Verjetnost prav tako kot tudi referencna kontinuiteta prispeva k lahkosti razumevanja teksta. Mentalni modeli se podrejajo nacelu ekonomicnosti, po katerem se model konstruira tudi, ce je deskripcija nepopolna ali nejasna.

Pojem razumljivosti se v okviru psiholoskih raziskav najpogosteje uporablja na podrocju psiholingvistike ter na podrocju ucenja in izobrazevanja. Ceprav gre za precej razlicni podrocji, se v obeh kontekstih uporablja s podobno konotacijo. Slovar psihologije (Reber 1986) opredeljuje razumevanje kot proces, ki ga sestavljata dve razlicni, toda tesno povezani komponenti: proces konstrukcije, na podlagi katerega nastaja interpretacija gradiva; in proces uporabe, na podlagi katerega se to

interpretacijo poveze z drugim znanjem (informacijo se lahko uporabi za odgovore na razlicna vprasanja, v novih okoliscinah, pri izvajanju navodil ipd.).

Razumljivosti soroden je pojem interpretacije, ki se pogosto opisuje kot »tolmacenje snovi na pomenljiv nacin.« Ceprav ta opredelitev ni napacna, zakrije pomembno in kompleksno implikacijo, namrec dejstvo, da v procesu interpretacije razlagalec uporablja konceptualno shemo ali model, pri cemer se predpostavlja, da to kar je bilo opazovano ali interpretirano, logicno ustreza dejstvom in razlagam, ki jih obsega shema oziroma model. Obstajata torej dva obsezna razreda uporabe pojma interpretacije.

(A) Znanstvena interpretacija je proces, v katerem se uporablja teoreticne modele in se z njihovo pomocjo opisuje realnost. Torej proces interpretacije npr. reakcije laboratorijske podgane, delovanja nevronov, vedenja skupine ljudi ali sanj vkljucuje induktivno sklepanje in generalizacijo na podlagi dolocene znanstvene sheme. Pri tem posamezna dejstva niso izolirana, temvec se jih vedno obravnava glede na druga dejstva in modele teh dejstev. Zbirka podatkov in znanstvena interpretacija teh podatkov sta, ipso facto, del istega procesa.

(B) Kognitivna interpretacija pa je proces, v katerem je uporabljeni model mentalna shema, v okviru katere clovek zaznane drazljaje identificira, klasificira in nanje reagira. Proces interpretacije je v tem primeru enako bistven, glede na to da so vsi stimulusi za opazovalca zgolj podatki in so brezpomenski (nekateri teoretiki bi rekli fenomenolosko neobstojeci) brez kognitivne interpretacije.

V kontekstu teorij pomnjenja, ucenja, misljenja in resevanja problemov V. Pecjak (1975) opredeljuje ucenje z razumevanjem kot proces, na podlagi katerega ucenec uvideva odnose v gradivu in smisel simbolov, npr. vzrocne odnose, logicne operacije, zakonitosti itd. Za tovrstno ucenje je v primerjavi z drugimi oblikami ucenja, kot je npr. ucenje s poskusi in napakami ali ucenje s posnemanjem, znacilen vecji obseg in bolj tocno pomnjenje, bistveno manj napak pri resevanju problemov in velik transfer izkusnje.

A. Trstenjak (1980, 1981) prav tako poudarja, da le hkratno, sinhrono dojetje dveh ali vec clenov cloveku omogoca razvidnost povedne (stavkovne) identifikacije, distinkcije, negacije, konjunkcije in disjunkcije ter implikacije raznih vrst. To velja na vseh ravneh od najpreprostejsih vsakdanjih trditev pa do najbolj nenavadnih izsledkov, ki odkrivajo nove, dotlej nepoznane in nerabljene zveze. Hkratnost je bistvena lastnost vsakega pravega spoznavnega procesa. Preprost primer za tako povezavo informacij je silogizem ali miselni sklep iz dveh premis. Razumeti konsekvenco

sklepa, to je tretjega stavka (sodbe) iz prvih dveh, pomeni hkratno oziroma sinhrono dojetje vseh treh sodb. Kjer ni te hkratnosti, ni razumevanja.

Tudi J. Musek (1990) opredeljuje sposobnost odkrivanja in vzpostavljanja odnosov, odkrivanja in konstruiranja zvez in relacij med pojavi, odkrivanja podobnosti in razlik med njimi, kot temelj pomenskih procesov, procesov razumevanja, interpretacije, nastajanja, razvijanja in spreminjanja pojmov. Na procesu odkrivanja odnosov temelji cela vrsta psihicnih procesov, zato imajo vsi skupno noto. Ze Aristotel je ugotavljal, da je nacelo podobnosti eno izmed temeljnih nacel povezovanja miselnih vsebin oziroma asociiranja; asociiranje je ze v osnovi, ko poteka takorekoc avtomaticno, pogojeno s sposobnostjo podobnostnega razvrscanja izkustvenih vsebin. Ta sposobnost nadalje omogoca tudi vse oblike in nacine posplosevanja, od najpreprostejse generalizacije drazljajev do abstrahiranja najbolj nenazornih pojmov. Generalizacija in diferenciacija drazljajev sta mogoci le ob sposobnosti psihicnega aparata, da razvrsti drazljajske vtise po podobnosti in razlicnosti.

M. Wertheimer, eden od ustanoviteljev gestalt psihologije, je v prvi polovici preteklega stoletja mocno usmeril pozornost psihologije na problem razumevanja. Wertheimer je razumevanje opisal kot percepcijo »p relacij«, vendar ni povsem jasno opredelil, kaj so te relacije razen, da predstavljajo »notranjo strukturo« problema. G. Katona, Wertheimerjev naslednik, je kot bistveno za ucenje opredelil »organizacijo gradiva.« Stotine spominskih eksperimentov so od Katonovega casa dalje pokazale, da se je organiziranega gradiva sicer laze nauciti kot neorganiziranega, vendar ne kaze, da je organizacija materiala tisto, kar je za razumevanje najbolj pomembno. Mozno je namrec organizirati gradivo, ki se ga je potrebno nauciti, brez razumevanja, kot ce si npr. ucenci zapomnijo periodni sistem elementov z grupiranjem le-teh v brezpomenske besede.

K. Duncker, Katonov sodobnik, je opisal resevanje problema kot iskanje delnih resitev ali mediacijskih faz. Duncker poudarja, da je »znanje o funkcionalni vrednosti resitve nujno potrebno za razumevanje, da je to resitev«. Ce uporabimo sodobnejso terminologijo, kot sta jo predlagala Newell in Simon (Newell, Simon 1972), lahko znani Dunckerjev radiacijski problem razclenimo na cilj: uniciti tumor; na vmesni cilj oziroma podcilj: oslabiti zarke, da ne bi unicili tudi zdravega tkiva; ter na sredstvo za doseganje tega cilja, ki ga mora odkriti resevalec problema. V skladu s tem pojmovanjem pomeni Wertheimerjeva opredelitev »p relacij« odnos med ciljem in njegovimi podcilji, razmerje, v katerem podcilj sluzi namenu doseganja cilja.

Perkins (1986) v tej zvezi poudarja, da razumevanje zahteva vec kot zgolj poznavanje namena oziroma funkcionalne vrednosti dolocene resitve.

Razumevanje po Perkinsu vkljucuje poznavanje treh stvari: (1) strukturo problema oziroma pojava, ki naj bi ga razumeli; (2) namen te strukture; in (3) argumente, zakaj ta struktura sluzi namenu. Razumevanje vkljucuje tudi znanje o tem, kaj je dober (oziroma slab) argument. Perkinsova analiza razumevanja v pojmih namenov, struktur (modelov, designa) in argumentov je pomembna, ker usmeri pozornost na razmerje med razumevanjem in uporabo dokazov.

Teorije clovekovega informacijskega procesa izhajajo iz predpostavke, da lahko zaznavanje in ucenje (od lingvisticnih vhodnih drazljajev, slik pa do cesarkoli drugega) konceptualno analiziramo kot zaporedje stanj, v okviru katerih doloceni mehanizmi izvajajo nekatere elementarne operacije (Bower, Cirilo 1985). Ce se pojavi doloceni drazljaj na vhodu v informacijsko-predelovalni sistem, potem so mozne npr. naslednje operacije: lociti figuralni stimulus od ozadja, dolociti pomembne znacilnosti in jih opisati v pojmih percepcijskih osnov, klasificirati ta drazljaj kot pripadnika dolocene vrste ter povezati pomen z vzorcem. To, kar prehaja od stopnje do stopnje, je internalna reprezentacija eksternalnega stimulusa in konteksta, v katerem se pojavlja.

Dolgorocni spomin je skladisce nasega bolj obstojnega znanja in spretnosti, vkljucuje znanje jezika, prostorske modele sveta, znanje o lastnostih objektov in ljudi, o dogodkih v nasem zivljenju, zaznavno-motoricne spretnosti itd. Cilj kognitivne psihologije je opisati in pojasniti procese, na podlagi katerih ljudje pridobivajo in reprezentirajo znanje o sebi in svojem okolju ter kako organizirajo in uporabljajo to znanje. (Vizjak Pavsic 1993; Vizjak Pavsic, Musek, Rajkovic 1995, 1996) Obstaja vec formalizmov za predstavitev znanja, vendar so asociacijske (ali semanticne) mreze in sistemi produkcijskih pravil reprezentacijska formalizma, ki sta se najbolj splosno uveljavila. (Michie, Bratko 1986; Bratko, Lavrac 1987; Rajkovic, Bohanec 1991; Lavrac 2001)

Produkcija je pravilo oblike »ce - potem«, ki pove, kaksne operacije moramo izvesti, ko nastopijo doloceni pogoji. Pogoji so lahko katerikoli vzorec aktivnosti, ki je predstavljen v dolgorocnem spominu kot kompleksna propozicija; akcije pa so lahko bodisi eksternalni bodisi internalni vzgibi, kot je iskanje lokacije po spominu, iskanje referentov po spominu ali aktiviranje drugih konceptov v dolgorocnem spominu. Na tem temelji sposobnost modeliranja toka misli, resevanja problemov in izvajanja nacrtov. Za produkcijska pravila lahko recemo, da predstavljajo operacijsko komponento v modelih kognitivnih sistemov: predstavljajo »motor«, ki premika »stroj znanja« po ustaljenih korakih. Produkcijska pravila so vecinoma naucena (podobno kot navade stimulus - odgovor), pogosta uporaba jih ojacuje, neojacevanje pa oslabi. Produkcije so uskladiscene v

dolgorocnem spominu; neka produkcija je izbrana in se aktivira, ko se njeni pogoji ujemajo z aktivnimi vsebinami v kratkorocnem spominu. Ce je izbranih vec produkcij istocasno, je potrebna dolocena razresitev oziroma ustrezna akcija (npr. izberi najmocnejso).

Shiffrin in Schneider (1977) v okviru svoje teorije clovekovega predelovanja informacij razlikujeta kontrolirane od avtomatskih procesov. Avtomatske procese predelovanja informacij opredeljujeta kot aktivacijo zaporedja spominskih vozlov. Ta sekvenca se aktivira kot odgovor na doloceno stimulusno konfiguracijo, ki je lahko posledica internalnih ali eksternalnih pogojev. Ti spominski vozli se aktivirajo avtomaticno in ne nujno nadzorovano oz. ne da bi bil posameznik nanje pozoren. Avtomatsko procesiranje poteka, v kolikor je naloga (strategija, zaporedje operacij) habitualna in dobro naucena. Nasprotno pa predstavljajo kontrolirani procesi predelovanja informacij zacasno zaporedje spominskih vozlov, ki se aktivirajo v pogojih zavestnega nadzora in so v srediscu posameznikove pozornosti. Kontrolirani procesi potekajo v kratkorocnem spominu in jih torej, vsaj deloma, determinira omejena zmogljivost kratkorocnega spomina.

J.R. Anderson (1983, 1989) je razvil teorijo spomina in ucenja, ki temelji na sistemu produkcijskih pravil. Na osnovi te teorije, ki jo je imenoval ACT (Adaptive Control of Thinking), je razvil serijo racunalniskih simulacij kognitivnih procesov. V okviru dolgorocnega spomina razlikuje dva tipa znanja.

(A) Deklarativno znanje: to je znanje o dejstvih in izkusnjah; nanasa se na »vedeti kaj«; in obsega podatke o tem, kaksen je svet, kako se imenuje doloceno drevo, mesto itd.

(B) Proceduralno znanje: to je znanje o spretnostih, procedurah, postopkih; nanasa se na »vedeti kako«; npr. kako je potrebno izvesti doloceno akcijo, bodisi motoricno bodisi konceptualno, da bi dosegli dolocen cilj.

V okviru deklarativnega spomina razlikuje E. Tulving (1972) epizodicni spomin od semanticnega. Epizodicni spomini so zaviti v avtobiografski kontekst preteklih dogodkov; npr. kaj smo delali vceraj, kaj smo imeli danes za kosilo, kako smo se naucili voziti kolo. Pojem semanticni spomin pa se nanasa na znanje, ki je zapomnjeno brez konteksta, v katerem je bilo prvotno nauceno; vemo npr., da je kvadratni koren stevila 2 = 1.414, vendar se ne spomnimo, kje smo se tega naucili. Ceprav stevilni psihologi to nadaljnjo delitev spomina v svojih modelih upostevajo, obsega Andersonov model samo tri komponente: delovni spomin, katerega kapaciteta variira od trenutka do trenutka, dolgorocni spomin za spretnosti

(produkcijski spomin) in dolgorocni spomin za propozicije, predstave in reprezentacije vrstnega reda dogodkov (deklarativni spomin).

Asociacijske (ali semanticne) mreze se najpogosteje uporabljajo za predstavitev informacije v spominu, pri cemer so osnovni elementi spomina koncepti (vozli, simboli) in odnosi med koncepti (propozicije, simbolne strukture). Koncept je lahko percepcijska osnova, akcijska osnova, osnovna logicna ali semanticna relacija ali visjenivojski koncept, ki je zgrajen na podlagi relacij med temi deli. Koncepti so lahko splosni pojmi, kakor tudi individualne konstante. Pomen koncepta doloca deloma konfiguracija njegovih relacij do drugih konceptov, deloma pa referencni pogoji, ki so nujni za pravilno uporabo in aplikacijo pojma.

V taki asociacijski mrezi poteka ucenje novega dejstva ali novega koncepta na podlagi vnosa dela njegove reprezentacije v spomin, zaradi cesar se konfiguracija relacij med ze znanimi koncepti spremeni. Nek dogodek npr. je v mrezi predstavljen s skupino propozicij, ki opisujejo njegove znacilnosti; le-te so vnesene v spomin tako, da se vzpostavijo nove asociacijske povezave med novimi primeri pojmov, ki so bili uporabljeni pri opisovanju dogodka.

V tej zvezi je pomemben koncept sheme, ki je eden od osrednjih konceptov v teorijah razumljivosti. Ljudje se v kaoticni in nepregledni mnozici izkustvenih pojavov znajdemo predvsem tako, da jih dojemamo skozi optiko nasih kognitivnih struktur. Kognitivni modeli, sheme in kalupi predstavljajo nekaksno »reseto«, »mrezo« osnovnih kognitivnih koordinat, ki jo apliciramo na mnozico podatkov. Kognitivne strukturacije nam sluzijo za urejanje in razlago stvarnosti; seveda pa nam po drugi strani tudi izkustveni podatki sluzijo za to, da izpopolnjujemo in preurejamo kognitivne sheme in modele. Z izkustvenimi podatki neprestano testiramo svoje modele in jih po potrebi tudi korigiramo.

Koncept sheme v sodobni kognitivni psihologiji natancneje opredeljuje dolgotrajno pojmovanje o organiziranju zaznav in znanja v posamezne celote, ki sega vse do Kantove Kritike cistega razuma (Kant 1781), v preteklem stoletju pa je predstavljeno v razpravah F.C. Bartletta, ki velja za zacetnika teorije shem (1932). Bower in Cirilo (Bower, Cirilo 1985) opredeljujeta shemo kot koncept s stevilnimi strukturnimi deli in vec spremenljivkami, ki lahko zavzamejo doloceno stevilo vrednosti. Shema je torej strukturirana enota splosnega znanja o nekem dogodku ali predmetu, ki doloca prototipicno informacijo in korelacije med znacilnostmi, znanje pa je lahko reprezentirano na razlicnih ravneh abstrakcije.

Kot kazejo raziskave v kognitivni psihologiji, se tekom procesa razumevanja aktivirajo razlicne sheme, ki bralcu oz. poslusalcu omogocajo, da uposteva in interpretira informacijo, ki je eksplicitno omenjena v

besedilu ter sklepanje o informacijah, ki so zgolj implicitne, hkrati pa zagotavljajo bralcu oz. poslusalcu tudi perspektivo, s katere naj bi bilo besedilo razumljeno. Proces razumevanja se sestoji iz selekcije shem v skladu z besedilom, ki naj bi bilo razumljeno in preverjanja ustreznosti teh shem glede na vsebino besedila, in je torej tako produkt bralcevih struktur znanja kot tudi produkt besedila samega.

Literatura

Anderson J.R. A theory of the origins of human knowledge / J.R. Anderson //

Artificial Intelligence. 1989. Vol. 40. P. 313-351. Anderson J.R. The Architecture of Cognition / J.R. Anderson. Cambridge, MA:

Harvard University Press, 1983. BartlettF. Remembering / F. Bartlett. Cambridge: Cambridge University Press, 1932.

Bower G.H. et. al. Cognitive psychology and text processing / G.H. Bower, R.K. Cirilo // Handbook of Discourse Analysis. T.A. van Dijk (ed.). New York: Academic Press, 1985. Vol. 1. Bransford J.D. et. al. Considerations of some problems of comprehension / J.D. Bransford, M.K. Johnson // W.G. Chase (ed.). Visual Information Processing. New York: Academic Press, 1973. Bransford J.D. et. al. Sentence memory: a constructive versus interpretive approach / J.D. Bransford, J.R. Barclay, J.J. Franks // Cognitive psychology. 1972. Vol. 3. P. 193-209. Bratko I. Progress in Machine Learnin / I. Bratko, N. Lavrac (eds.). Wilmslow: Sigma Press, 1987.

Craik K. The Nature of Explanation / K. Craik. Cambridge: Cambridge University Press, 1943.

Dijk van T.A. et. al. Strategies of Discourse Comprehension / T.A. van Dijk,

W. Kintsch. New York: Academic Press, 1983. Goodwin G. et. al. Reasoning about relations / G. Goodwin, P.N. Johnson-Laird //

Psychological Review. 2005. Vol. 112. P. 468-493. Johnson-Laird P.N. Mental models and deduction / P.N. Johnson-Laird // Trends in

Cognitive Science. 2001. Vol. 5. P. 434-442. Johnson-Laird P.N. Mental Models: Towards a Cognitive Science of Language, Inference, and Consciousness / P.N. Johnson-Laird. Cambridge: Cambridge University Press, 1983. Johnson-Laird P.N. The Computer and the Mind: An Introduction to Cognitive Science / P.N. Johnson-Laird. Cambridge. MA: Harvard University Press, 1988.

Kintsch W. The Construction-Integration model of text comprehension and its implications for instruction / W. Kintsch // R. Ruddell, N. Unrau (eds.). Theoretical Models and Processes of Reading. International Reading Association. 2004. 5th edition.

Kintsch W. The role of knowledge in discourse comprehension: a construction-integration model / W. Kintsch // Psychological Review. 1988. Vol. 95. P. 163-182.

Kintsch W. Toward a model of text comprehension and production / W. Kintsch,

T.A. van Dijk // Psychological Review. 1978. Vol. 85. P. 363-394. Lavrac N. Computational logic and machine learning: a roadmap for inductive logic programming / N. Lavrac // Computational logic. May 2001. Spec. issue. P. 47-73.

Michie D. et. al. Expert Systems: Automatic Knowledge Acquisition / D. Michie,

I. Bratko.Wokingham: Addison-Wesley, 1986. MusekJ. Simboli, kultura, ljudje / J. Musek. Ljubljana: Znanstveni institut

Filozofske fakultete Univerze v Ljubljani, 1990. Newell A. et. al. A Human Problem Solving / A. Newell, H. Simon. Englewood

Cliffs. NJ: Prentice-Hall, 1972. Pecjak V. Psihologija spoznavanja / V. Pecjak. Ljubljana: Drzavna zalozba Slovenije, 1975.

Perkins D.N. Knowledge as Design / D.N. Perkins. Hillsdale, NJ: Lawrence Erlbaum, 1986.

Rajkovic V. Decision support by knowledge explanation / V. Rajkovic, M.Bohanec // H.G. Sol, J. Vecsenyi (eds.). Environments for Supporting Decision Processes. Amsterdam: Elsevier (North-Holland), 1991. Reber A.S. The Penguin Dictionary of Psychology / A.S. Reber. Harmondsworth:

Penguin Books, 1986. TrstenjakA. Psihologija ustvarjalnosti / A. Trstenjak. Ljubljana: Slovenska matica, 1981.

Trstenjak A. Vertikalnost in lateralnost misljenja v dilemah ustvarjalnosti /

A. Trstenjak // Anthropos. 1980. Vol. 1-2. S. 157-194. TulvingE. et. al. Episodic and semantic memory / E. Tulving, W. Donaldson (eds.).

Organization of Memory. New York: Academic Press, 1972. VizjakPavsicM. et. al. Oko duha: znacilnosti in procesiranje mentalnih predstav / M. Vizjak Pavsic, J. Musek, V. Rajkovic. Anthropos, 1996. Vol. 3-4. S. 183-194.

Vizjak Pavsic M. et. al. Razumljivost baz znanja kot dejavnik ucinkovitosti ekspertnih sistemov za podporo odlocanju / M. Vizjak Pavsic, J. Musek, V. Rajkovic. Anthropos, 1995. Vol. 5-6. S. 47-67. Vizjak Pavsic M. The Comprehension of Knowledge Bases as a Factor of Effectiveness of Expert Systems for Decision Support / M. Vizjak Pavsic. III Alps-Adria Symposium of Psychology. 2-5 June 1993. Ljubljana, 1993.