Algoritmų sudėtingumas

Sudėtingumo teorija yra informatikos šaka, nagrinėjanti įvairias algoritmų savybes, dažnai jų įvykdymo greitį. Teorija atsako į klausimą kaip palyginti skirtingus algoritmus sprendžiančius tą pačią užduotį (dažniausiai svarbu yra algoritmo veikimo laikas, bet taip pat nagrinėjama kiek algoritmas sunaudoja atminties, ar jis apskritai baigia darbą, ar galima jį vykdyti lygiagrečiai su keliais kompiuteriais), bei kurie algoritmai yra geriausi.

Algoritmų sudėtingumą galima tirti šiais būdais:

• Invariantų tyrimas;
• Asimptotinės išraiškos;

Algoritmų laiko sudėtingumas

Laiko sudėtingumo skaičiavimas vertina, kiek laiko reiktų tam tikrai problemai su tam tikru duomenų dydžiu spręsti efektyviausiu algoritmu. Tarkime, kad turint n bitų duomenų kiekį, problema išsprendžiama per n² žingsnių; tokia problema yra n² sudėtingumo. Iš tiesų, kiekvienas algoritmo įgyvendinimas spręstų problemą skirtingu žingsnių skaičiumi, todėl sąlyginis žingsnių skaičius (eilė) žymima O(n²).

Asimptotinis žymėjimas

$O$ žymėjimas

Asimptotiškai „viršutinė“ riba.

• Apibrėžtis:$f(n)=O(g(n))$ jei egzistuoja konstantos $c$ ir $n_{0}$ tokios, kad $cg(n)\geq f(n)$ visiems $n\geq n_{0}$.

$O$ dažniausia naudojamas algoritmo blogiausiam atvejui apibūdinti.

$\Omega$ žymėjimas

Asimptotiškai „apatinė“ riba.

• Apibrėžtis:$f(n)=\Omega (g(n))$ jei egzistuoja konstantos $c$ ir $n_{0}$ tokios, kad $cg(n)\leq f(n)$ visiems $n\geq n_{0}$.

$\Omega$ dažniausia apibūdina algoritmo geriausią atvejį arba apatinę ribą.

$\Theta$ žymėjimas

Asimptotiškai „ankšta“ riba.

• Apibrėžtis:$f(n)=\Theta (g(n))$ jei egzistuoja konstantos $c_{1},c_{2}$ ir $n_{0}$, tokios, kad $c_{1}g(n)\leq f(n)\leq c_{2}g(n)$ visiems $n\geq n_{0}$.

Asimptotiškai „ankštai“ ribai taip pat galioja savybė, $f(n)=\Theta (g(n))\iff f(n)=O(g(n))\wedge f(n)=\Omega (g(n))$. Asimtotiškai „viršutinė“ riba $O(g(n))$ dažnai yra neteisingai naudojama ankštai ribai $\Theta (g(n))$ apibrėžti, kuri nepadengia $\Omega (g(n))$ atvejo.

$o$ žymėjimas

Asimptotiškai „negriežta viršutinė“ riba.

• Apibrėžtis:$f(n)=o(g(n))$ jei egzistuoja konstantos $c>0$ ir $n_{0}>0$, tokios, kad $cg(n)>f(n)$ visiems $n\geq n_{0}$.

$\omega$ žymėjimas

Asimptotiškai „negriežta apatinė“ riba.

• Apibrėžtis:$f(n)=\omega (g(n))$ jei egzistuoja konstantos $c>0$ ir $n_{0}>0$, tokios, kad $cg(n)<f(n)$ visiems $n\geq n_{0}$.

Žymėjimo ypatumai

Žymėjimas $f(n)=O(g(n))$, kai vietoj $O$ gali būti $O,o,\Theta ,\Omega ,\omega$ yra konceptualiai klaidingas, tačiau yra plačiai naudojamas analizuojant algorithmų sudėtingumą. Korektiškumo dėlei reikėtų vartoti $f(n)\in O(g(n))$

O žymėjimai

Dažniausi algoritmų sudėtingumo žymėjimai ir jų pavadinimai:

Žymėjimas	Sudėtingumas	Klasė
O(1)	konstantinis	Polinominė (P)
O(log n)	logaritminis
O([log n]c)	polilogaritminis
O(n)	tiesinis
O(n · log n)	supratiesinis
O(n²)	kvadratinis
O(nc)	polinominis, kartais geometrinis
O(cn)	eksponentinis	Eksponentinė (NP)
O(n!)	faktorialas
O(nn)	?

Pavyzdžiai

Paprasčiausių algoritmų sudėtingumo pavyzdžiai:

• Paieškos algoritmas tiesinėje nesurikiuotų duomenų struktūroje – O(n)
• Paieškos algoritmas tiesinėje surikiuotų duomenų struktūroje – O(log n)
• Rikiavimo algoritmas tiesinėje duomenų struktūroje – O(n · log n)