Sissejuhatus. Keelte formaalne esitamine - Cs.ioc.ee

ITT0010
Teoreetiline informaatika
(Theoretical foundations of computer science)
Jaan Penjam
tel: 620 4150, 5147798
faks: 620 4151
email: jaan@cs.ioc.ee
http://www.cs.ioc.ee/~jaan/teorinf

Ülesanded
Tõenäoliselt
lahendatavad,
aga algoritm pole
teada
Pole arvutil lahendatavad
Praktikas arvutil
lahendatavad
Algoritm
teada

Keelte ja mudelite adekvaatsus

Informaatika
valdkond, mis hõlmab informatsiooni töötlemist ning selle tarvis meetodite ja
tehniliste vahendite loomist, ka vastav teadusharu (ENE, 3. kd.)
Kasutatakse ka termineid:
– arvutiõpetus (computer science) - kitsam
– infotehnoloogia (information technology) -laiem
valdkonna vanuseks võib lugeda ligikaudu 50 aastat, seni puudub aga
informaatika ammendav ning kõigi poolt aktsepteeritav definitsioon,
näiteks raamatus
Heinz Zemanek. Das geistige Umfeld der Informationstechnik. Springer,
Berlin , 1992.
on toodud 15 erinevat informaatika ja 7 arvuti mõiste määratlust.

Informaatika kui teadus- ja insenerivaldkond
Informaatika ↔ Matemaatika
lõplikkus ( ; matemaatikas on n! defineeritud
iga naturaalarvu n jaoks, arvutid suudavad leida vaid
mõneteistkümne arvu faktoriaali)
diskreetsus ( )
efektiivsus (ainult tõestusest ei piisa, programm peab
olema ka kiire)
arvestada tuleb ka vigadega algandmetes (näiteks: nulliga
jagamine, faktoriaali leidmine suurest arvust)

Informaatika kui teadus- ja insenerivaldkond (2)
Informaatika ↔ Inseneriasjandus
lõplike konstruktsioonielementide suur keerukus
(programmi komponentide arv on suur ning nende vahel
on palju seoseid)
tarkvaraprojekt = produkt
puuduvad lekkimise ja materjali omadustega seotud
efektid
sarnasus inimajuga

Teoreetilise informaatika kursuse eesmärgiks
on tutvustada
– abstraktsiooni olemust ja rolli informaatikas
– arvutamise mudeleid
– formaalset aparatuuri ja meetodeid analüüsimaks
arvutusprotsesside kulgu, programmide korrektsust ja efektiivsust
– programmide konstrueerimise üldisi aluseid
Leida vastus küsimustele:
•Millised ülesanded on arvutil lahendatavad?
•Kui kiiresti (kui efektiivselt) saab üleandeid lahendada?
Küsimuste tüüp on pigem Miks? kui Kuidas?

Teoreetilise informaatika kursuse eesmärgiks
on tutvustada
– abstraktsiooni olemust ja rolli informaatikas
– arvutamise peamisi mudeleid
– formaalset aparatuuri ja meetodeid analüüsimaks
arvutusprotsesside kulgu, programmide korrektsust ja efektiivsust
– programmide konstrueerimise üldisi aluseid
Klassikalise teoreetilise informaatika kursuse peatükkideks on:
– hulgateooria ja konstruktiivne loogika
– formaalsete keelte teooria
– rekursiooniteooria ja algoritmianalüüs
– klassikaliste andmetöötlusülesannete algoritmid ja keerukushinnangud.

TUNNIPLAAN: ITT0010 | Teoreetiline informaatika
Rühmad: IASBxx Arvuti- ja süsteemitehnika, 2008/09 sügissemester
Loengud IT-137A (IASB 31, 32, 37):
Kolmapäev (paaritu), 14.00–15.30
Kolmapäev (paaris), 14.00–17.30
Harjutustund :
Kolmapäev (paaritu), 16.00–17.30
NB! a) Võrreldes tunniplaaniga on paaris- ja paaritud nädalad vahetatud.
b) Esimene harjutustund toimub 17. septembril)
Konsultatsioonid :
Teisipäeviti kell 15.30–17.00 : Akadeemia tee 21, B237
(soovitav eelkokkulepe aadresil jaan@cs.ioc.ee)

Mängureeglid
Kursuse teoreetiline materjal esitatakse loengutes ja õppematerjalis
Kursus lõpeb eksamiga (2 teooriaküsimust (suuline) ning 3-4 ülesannet
(kirjalik)). (VAJALIKUD ON MÕLEMAD KOMPONENDID!)
Eksamile J.Penjam. pääsemise “Teoreetiline eelduseks on, et informaatika. semestri jooksul I osa” oleks ülesannete
lahendamise eest - kogutud mahalaaditav vähemalt kursuse 60 % kodulehelt maksimaalselt võimalikust punktide
arvust, kusjuures esitamata ei ole üle 3 ülesande
Eksamile pääs kehtib 2009/10 õ/a sügissemestri punase jooneni
Loengutes/emailiga antakse koduseks lahendamiseks harjutusülesanded, mille
lahendused tuleb esitada ülesannete juurde märgitud tähtajaks (tavaliselt 2 päeva enne
vastavat harjutustundi).
Harjutustunnis toimub lahenduste arutelu ning vajadusel täiendavate ülesannete
lahendamine.
Originaalse lahenduse ning silmapaistva vormistuse eest (mõeldud on eelkõige head
esitusstiili, mitte niivõrd “trükkimist kallil printeril”) võib saada lahenduse eest 1-2
lisapunkti.

Vastavalt vajadusele võidakse reegleid
semestri jooksul muuta.
Muudatused kuulutatakse avalikult välja
loengutes ja kursuse mailinglistis.

Loengute kalenderplaan
1. Keelte formaalne esitamine (17.09).
2. Regulaarsed keeled ja lõplikud automaadid (15.10).
3. Kontekstivabad keeled ja magasinmäluga automaadid.
Atribuutsemantika (05.11).
4. Turingi masinad ja arvutatavus, algoritmiliselt mittelahenduvad
ülesanded (19.11).
5. Rekursiooniteooria (03.12).
6. Ülesannete ja algoritmide keerukus (18.12).

Eelteadmisi matemaatikast:
A = { a, b, c, K }
{
A A = ( a,a),
( a,b),
( a,c),
K,
( b,a),
( b,b),
( b,c),
K,
( c,a),
( c,b),
( c,c),
K,
K }
Relatsioon hulgal A
Relatsioon : R A A ( a,b)R
Refleksiivne seos:
Sümmeetriline seos:
Transitiivne seos:
a
A korral
aRa
a, b A korral aRb bRa
a, b,
c A korral aRb bRc aRc
Ekvivalentsiseos on refleksiivne, sümmeetriline ja transitiivne seos.
def
aRb

Eelteadmisi matemaatikast:
A = { a, b, c, K }
A A = ( a,a),
( a,b),
( a,c),
K,
( b,a),
( b,b),
( b,c),
K,
( c,a),
( c,b),
( c,c),
K,
K }
Refleksiivne seos:
Sümmeetriline seos:
{
aRa
aRb
bRa
Relatsioon hulgal A
Relatsioon : R A A ( a,b)R
Transitiivne seos: aRb bRc
aRc
Ekvivalentsiseos on refleksiivne, sümmeetriline ja transitiivne seos.
def
aRb

Eelteadmisi matemaatikast:
Definitsioon.
Ekvivalentsiseos
Olgu R ekvivalentsiseos hulgal A. Elemendi a A ekvivalentsiklass on temaga
ekvivalentsete elementide (ala)hulk , .
[]
[] a = { x aRx x A}
xa aRx
ja
aRx x
a
[]

Eelteadmisi matemaatikast:
Definitsioon.
Teoreem.
Tõestus.
Ekvivalentsiseos
Olgu R ekvivalentsiseos hulgal A. Elemendi a A ekvivalentsiklass on temaga
ekvivalentsete elementide (ala)hulk , .
[] a = { x aRx x A}
Olgu R ekvivalentsiseos hulgal A.
Siis iga elemendi
aA ja b A korral kehtib kas a = b või a b = .
1.
[] [] [] []

Eelteadmisi matemaatikast:
Definitsioon.
Teoreem.
Tõestus.
Ekvivalentsiseos
Olgu R ekvivalentsiseos hulgal A. Elemendi a A ekvivalentsiklass on temaga
ekvivalentsete elementide (ala)hulk , .
[] a = { x aRx x A}
Olgu R ekvivalentsiseos hulgal A.
Siis iga elemendi
aA ja b A korral kehtib kas a = b või a b = .
1.
[] [] [] []

Eelteadmisi matemaatikast:
Teoreem.
Ekvivalentsiseos
Definitsioon. Olgu R ekvivalentsiseos hulgal A. Elemendi a∈A ekvivalentsiklass on temaga
Tõestus.
1.
ekvivalentsete elementide (alam)hulk [a] = { x | aRx, x∈A }
Olgu R ekvivalentsiseos hulgal A.
Siis iga elemendi
aA ja b A korral kehtib kas a = b või a b = .
ehk
[] [] [] []

Eelteadmisi matemaatikast:
Teoreem.
Tõestus jätkub …
3.
2.
Ekvivalentsiseos (2)
Olgu R ekvivalentsiseos hulgal A.
Siis iga elemendi
aA ja b A korral kehtib kas a = b või a b = .
aRb aRb
[] a [] b [] b []
a
[] a =
[] b
[] [] [] []
ehk
ehk

Eelteadmisi matemaatikast:
Teoreem.
Tõestus jätkub …
5.
4.
Ekvivalentsiseos (3)
Olgu R ekvivalentsiseos hulgal A.
Siis iga elemendi
aA ja b A korral kehtib kas a = b või a b = .
[] [] [] []
m.o.t.t.

Eelteadmisi matemaatikast:
Relatsioonide korrutis:
Relatsioonide astmed:
Relatsioonide sulundid:
Relatsiooni astmed
Q R = { ( a,b)
z A, aQz, zRb }
R 0 = { ( a,a),
( b,b),
( c,c),
K }= E
R
R
R 2 = R R
R m = R m1 R
+
*
=
=
U
i1
U
i0
R
R
i
i

Eelteadmisi matemaatikast:
Matemaatiline induktsioon
Induktsiooni reegel erijuhul:
A(
0)
…ja üldisemal kujul:
z
( A()
x A(
x + )
xA()
x
x 1
( y(
y < z (
A()
y A()
z )
xA()
x

Näide matemaatilise induktsiooni kasutamisest
Teoreem. Kui joonestada tasandile n sirget, millest ükski kaks pole paralleelsed,
siis läbivad need sirged kõik ühte punkti.
Tõestus. Väide kehtib, kui sirgeid on üks. Samuti kehtib ta kahe sirge puhul, sest eelduse järgi pole
nad paralleelsed. Oletame nüüd, et väide kehtib n-1 sirge korral. Tõestame induktsiooniga, et siis
kehtib väide ka n sirge korral.
Olgu meil n sirget a, b, c, d, .... Jätame sellest hulgast välja sirge c. Saame hulga, mis koosneb n-1
sirgest. Induktsiooni eelduse põhjal läbivad need sirged kõik ühte punkti P. Teiste hulgas läbivad
punkti P ka sirged a ja b ning seetõttu on P sirgete a ja b lõikepunkt.
Paneme nüüd sirge c tagasi ja jätame välja sirge d. Jällegi saame n-1 sirget, millel induktsiooni
eelduse põhjal on ühine punkt Q. Teiste hulgas läbivad punkti Q ka sirged a ja b ning seetõttu on Q
samuti sirgete a ja b lõikepunkt. Järelikult Q = P. Seda ühist punkti läbivad kõik sirged, kaasa
arvatud sirged c ja d, mida oligi tarvis tõestada.
Milles on viga?

Näide matemaatilise induktsiooni kasutamisest (2)
«Tõestus» kasutab eeldust, et sirgeid on vähemalt 4.
Me kontrollisime ainult juhte n = 1 ja n = 2. Juhul
n = 3 on väide väär ja on väär ka kõigi järgnevate
väärtuste korral.

Rekurrentsete seoste lahendamine
Recurrent – tagasipöörduv -
Näide (faktoriaal):
Fn ( ) = n! = 12Kn Rekurrentne seos faktoriaali arvutamiseks:
F( n) = nF( n 1)
Lahend – analüütiline kuju e. kinnine kuju:
n
n 1 1 139 1
Fn ( ) = 2n 1 4
e
+ + + + O
12n 228n 5184n
n

Rekurrentsete seoste lahendamise näide (summa)
Näide (summa):
Sn ( ) = 1+ 2+
K + n
Rekurrentne seos summa arvutamiseks:
Lahendus (Gaussi meetod):
Sn ( ) = Sn ( 1) + 1
Sn ( ) = 1 + 2 + 3 + L + ( n 1) + n
+ Sn ( ) = n + ( n 1) + ( n
2) + L + 2 + 1
2 Sn ( ) = ( n+ 1) + ( n+ 1) + ( n+ 1) + L + ( n+ 1) + ( n+
1)
2 Sn ( ) = nn ( + 1)
nn ( + 1)
Sn ( ) =
2

Rekurrentsete seoste lahendamine astmerea abil
Olgu arvude jada gn
esitatud rekurrentse seose abil
1. Täiendame jada elementidega
g g
1 = 2
= K = 0
n
2. Korrutame rekurrentse võrrandi mõlemaid pooli suurusega z ning
summeerime üle kõigi n väärtuste. Võrduse vaskaul poolel olevat
summat
nimetame jada genereerivaks funktsiooniks. Teisendame võrrandi paremat poolt
nii, et sinna tekiks avaldis funktsioonist Gz ( ) .
3. Lahendame võrrandi Gz ( ) suhtes, s.t. avaldame Gz ( ) .
n
z n
4. Arendame astmeritta. Elemendi kordaja on jada üldliikme valem
analüütilisel kujul.
g
Gz
( )

Rekurrentsete seoste lahendamine astmerea abil (2)
Näide (Fibonacci arvud):
1.
g
n
0,
kui n 0;
= 1, kui n=1;
gn1+
gn2, kui n>
1.
ehk
2. ( ) [ 1]
Gz = gz = g z + g z + n= z =
n n n n
n n1 n2
n n n n
= gz + gz + z=
n+ 1 n+
2
n n
n n
= z g z + z g z + z =
n 2 n
n n
n n
= zG z + z G z + z
2
( ) ( )

Rekurrentsete seoste lahendamine astmerea abil (3)
3.
z
Gz ( ) =
1zz
4. Arendame selle funktsiooni astmeritta …
Seega
Näiteks
2
n ˆ n
n
1+ 5 ˆ 15 Gz ( ) = z , kus = ja =
5
2 2
Fn F
3
n
ˆ
=
5
n n
3 3
1+ 5 15
2
2
16 5
=
= = 2
5 8 5
Järgmine loeng ...

Keeltega seotud mõisteid
Keel on märgisüsteem; kommunikatsiooni või arutluse vahend, mis kasutab
märke ja nende kombineerimise reegleid.
Keeled jagunevad loomulikeks keelteks ja tehiskeelteks
Keele aspektid:
– Süntaks (kr.k.- 'ühendus, liit, kokkupanek') ehk lauseõpetus kirjeldab
lause ehitust ja käsitleb sõnade ühendamist fraasideks ja fraaside ühendamist
lauseks.
– Semantika (kr.k.- μ ‘~ märgi mõte') on ka keeleüksuse (morfeemi, sõna,
fraasi, lause) tähendus või tähendused.
– Pragmaatika e kontekst, mis seob süntaksi ja semantikat.

Lause
keeles L 1
Transleerimisprotsess
Tr : L L
Lause
süntaktiline
struktuur
keeles L 1
1
2
Lause
süntaktiline
struktuur
keeles L 2
- süntaksanalüüs
- semantiline analüüs ja töötlus
- teksti genereerimine
Lause
keeles L 2

Päkapiku
Lause süntaktiline struktuur
N
M
liiga
NF
OMF
OM
N
napp
S
kasv
T
tingib
N
tema
TF
NF
NF
N
N
sobimatuse
jõuluvanaks

Kompileerimise põhietapid Comp : L1 L2
Sisendkood (lähteteksti märgijada)
Lekseemide jada
Tuletuspuu
Abstraktne süntaksipuu
Optimeeritud
abstraktne süntaksipuu
Assembleri- või masinkood
Väljundkood
Skanner (leksiline analüüs)
Parser (süntaksanalüüs)
Vahekoodi genereerimine
Vahekoodi optimeerimine
Objektkoodi genereerimine
Objektoodi optimeerimine

Programmi struktuur puuna
if a = b then x := 2*(a - b) else x := | a - b | * | a - b | ;

Programmi puu interpreteerimine

Keele (pool)formaalne esitamine
Süntaks. Wirthi skeemid:
Tsükkel:
tingimus:
lause:
üksliige:
. . . . . .
. . . . . .
WHILE tingimus DO
lause
üksliige
= < > = IN
üksliige

Keele (pool)formaalne esitamine (2)
Süntaks. Backus-Nauri valemid:
Tsükkel ::= ‘WHILE’ tingimus ‘DO’ lause
tingimus ::= üksliige | üksliige tehe üksliige
tehe ::= ‘=‘ | ‘’ | ‘’ | ‘=’ | ’IN’
üksliige ::= . . .
lause ::= . . .
. . . . . . . . . . . . .

Semantika.
Keele (pool)formaalne esitamine (3)
-
WHILE b DO s ;
+
b s

Transleerimisprotsess praktikas

Keelte formaalne defineerimine

Tähestik ja stringid
*
- tähestik
- stringide hulk tähestikus
Definitsioon. String tähestikus on tähtede järjend, mis rahuldab tingimusi:
•
•
*
a *
a *
Definitsioon. Konkatenatsioon on tehe
def
x y
xy
Konkatenatsioon on assotsiatiivne ühikelemendiga tehe stringide hulgal *:
*
x
, y,
z korral ( xy)
z = x(
yz)
x * korral x = x = x
Stringide hulk * koos konkatenatsiooni operaatoriga moodustab Thue poolrühma

Keel kui matemaatiline objekt
*
Definitsioon. Keel on alamhulk L .
Näited.
n n { }
L1= 01 n0
L2 = x R x x { a,b}
*
{ } L2 L1 = { , 01, 0011, 000111, K}
( I )
= { , aa, bb, aaaa, abba, baab, bbbb,K}

konkatenatsioon:
Tehted keeltega
astendamine:
iteratsioon:
L1L2 = { xy x L1, y L2} *
L
L
L 0 = { }
L 2 = LL
L m = L m1 L (m > 0)
+
=
=
L
0
U
i > 0
L
i
L
1
L
2
L
3
K
=
U
i 0
i
L

Teisendussüsteemid
( II )

Avaldise x*(x+y) tuletamine:
)
(
*
)
(
*
)
(
*
)
(
*
)
(
*
)
(
*
)
(
*
)
(
*
*
*
y
x
x
y
x
F
y
F
F
y
T
F
F
T
F
T
T
F
S
T
F
S
F
F
F
T
F
T
S
+
+
+
+
+
+
+
Terminaalid ja mitteterminaalid

x
Avaldise x*(x+y) tuletuspuu
S
T
F T
*
x
F
F
( S )
T + S
T
F
y

Definitsioon.
Fraasistruktuuri grammatika
( III )
Grammatikaks nimetatakse nelikut G = (,N,P,S 0 ), kus
- on terminaalide tähestik,
- N on mitteterminaalide tähestik ( N = ),
- P V * NV * V * on produktsioonide hulk ( V = N),
- S0 N on grammatika lähtesümbol.

Kasutatavaid tähistusi

Definitsioon.
Definitsioon.
*
Definitsioon.
Grammatikaga genereeritav keel
=
=
P
def
0 ,1 ,K, k( = 0 0 1 K k k =)
L(G) = x S0 * x, x *
Grammatikaga G genereeritav keel on stringide hulk
{ }

Grammatikaga genereeritav keel (2)
Näide
Tuletus:
S
aSBC
aaabCBCBC
aaabbCBCC
aaabbbcCC
aaSBCBC
aaabBCCBC
aaabbBCCC
aaabbbccC
aaaBCBCBC
L(G) = a n b n c n { n > 0 }
aaabbCCBC
aaabbbCCC
aaabbbccc

Chomsky grammatikate hierarhia
Omadus.

Paremlineaarsete grammatikate omadus

Paremlineaarsete grammatikate omadus
Produktsioonid kujul A abcdB on asendatav
produktsioonidega
A
A
A
A
1
2
3
aA
bA
cA
dB
kus A 1 , A 2 , … on uued mitteterminaalid.
1
2
3

Millise keele genereerib grammatika?
(Kuidas lahendada ülesannet)
Antud on grammatika G:
Näitame, et
L S (G)={x∈ {0,1} + | z(x)=o(x)}
L A (G)={x∈ {0,1} + | z(x)-1=o(x)}, kus o(x) on ühtede arve sõnas x
L B (G)={x∈ {0,1} + | z(x)=o(x)-1} ja z(x) on nullide arve sõnas x
Induktsiooni baas: |x|=1 või |x|=2.
S 0B 01
S 1A10 A 0
B 1
z( 01) = 1, o(
01) = 1
z( 0) = 1, o(
0) = 0
z() 1 = 0, o()
1 = 1

Millise keele genereerib grammatika? (2)
(Kuidas lahendada ülesannet)
Induktsiooni samm:
S B v x
*
0 0
*
S 1A 1u
x
*
A0S 0t
x
*
A1AA 1uu
x
*
B 1S 1t
x
*
B 0BB 0vv
x
Eeldame, et iga |x|