Катедра за рачунарску технику и информатику. Анализа сложености. Програмирање 1

Transcription

1 Катедра за рачунарску технику и информатику Анализа сложености Програмирање 1 ЕТФ - Београд Катедра за рачунарску технику и информатику 1/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 2/36 САДРЖАЈ Увод УВОД СЛОЖЕНОСТ AЛГОРИТАМА РЕД ФУНКЦИЈЕ СЛОЖЕНОСТИ КЛАСЕ АЛГОРИТАМА ПРИМЕРИ Мера ефикасности Потрошња рачунарских ресурса Зависност од димензије проблема Време извршавања Т(n) временска сложеност Меморијски простор M(n) просторна сложеност ЕТФ - Београд Катедра за рачунарску технику и информатику 3/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 4/36

2 Време извршавања Време извршавања Време извршавања зависи од: Скупа машинских инструкција Програмског преводиоца Улазних података Инхерентне временске сложености Игнорисати стварно време извршавања појединих наредби Свести време на апстрактне јединице Узети у разматрање доминантне операције Секвенцијално извршавање инструкција ЕТФ - Београд Катедра за рачунарску технику и информатику 5/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 6/36 Функција временске сложености Математички апарат Димензија проблема n - параметар који највише утиче на извршавање Одређивање Т(n) Егзактно O(f(n)) o(g(n)) Комбинаторика Рачун вероватноће Алгебарске трансформације Теорија редова чекања Идентификација најзначајнијих чланова ЕТФ - Београд Катедра за рачунарску технику и информатику 7/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 8/36

3 Математички апарат О - нотација n i= 1 i 2 n n( n + 1) i = i= 1 2 n i= 1 n( n + 1)(2n + 1) = 6 a i n+ 1 a 1 = a 1 ЕТФ - Београд Катедра за рачунарску технику и информатику 9/36 За функцију T(n) се каже да је O(f(n)) ако постоје константе c и n 0 тако да је: T(n) < cf(n) за свако n > n 0 Тада је lim T(n) f (n) = n ЕТФ - Београд Катедра за рачунарску технику и информатику 10/36 c o-нотација О - нотација За функцију T(n) се каже да је o(g(n)) ако је lim n T(n) g(n) = 0 За функцију T(n) се каже да је O(f(n)) ако постоје константе c и n0 тако да је: T(n) < cf(n) за свако n > n0 Тада је lim T(n) f (n) = n c ЕТФ - Београд Катедра за рачунарску технику и информатику 11/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 12/36

4 О - нотација О нотација Полиномијални ред функције сложености је коначни полином T(n)=O(n k ) Експоненцијални - T(n) k (a n a ) lim n k 0 = + Уколико два програмска сегмента P1 и P2 имају сложеност f1(n) и f2(n), онда је укупна сложеност секвенце O(MAX(f1(n), f2(n))) ЕТФ - Београд Катедра за рачунарску технику и информатику 13/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 14/36 О нотација О нотација Уколико се програмски сегмент P2 комбинује са сегментом P1 тако да чини секвенцу са делом сегмента P1 који доминантно одређује сложеност, онда је укупна сложеност секвенце O(f1(n)f2(n)) Tранзитивност - Уколико је f(n) реда O(g(n)), а g(n) реда O(h(n)) онда је иf(n), такође реда O(h(n)) ЕТФ - Београд Катедра за рачунарску технику и информатику 15/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 16/36

5 О нотација Класе алгоритама Занемаривање константних чланова Даје горњу границу сложености Апроксимације f(n) const log 2 n n n*log 2 n n 2 n k (k>2) k n (k>1) n! Тип алгоритма Константни Логаритамски Линеарни Линеарни-логаритамски Квадратни Степени Експоненцијални Факторијелни ЕТФ - Београд Катедра за рачунарску технику и информатику 17/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 18/36 Константни алгоритми Логаритамски алгоритми О(1) - Сложеност не зависи од димензије проблема Нпр. Уметање искидање са стека О(log n) Општи принцип: Дељење проблема до партиције јединичне величине ЕТФ - Београд Катедра за рачунарску технику и информатику 19/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 20/36

6 Логаритамски алгоритми - Пример Линеарни алгоритми Бинарно претраживање found := false; low := 1; high := n; while(low <= high) and (not found) do mid := (low+high) div 2; if a[mid] = k then found := true else if k < a[mid] then high := mid+1 else low := mid+1; end; if found then pos := mid else pos := 0; ЕТФ - Београд Катедра за рачунарску технику и информатику 21/36 О(n) Нпр. секвенцијална обрада података (претраживање несортираних вектора илиста) Општа форма for i:= 1 to n do {Obrada koja traje vreme t} end; ЕТФ - Београд Катедра за рачунарску технику и информатику 22/36 Линеарни алгоритми Линеарни алгоритми - Пример Средњи број инструкција I(n) T(n) = t i I(n) t i време извршавања просечне инструкције Ред функције сложености се одређује из I(n) Тражење максималног елемента неуређеног низа Vmax := V[1] for i := 2 to n do if V[i] > Vmax then Vmax := V[i]; ЕТФ - Београд Катедра за рачунарску технику и информатику 23/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 24/36

7 Линеарни алгоритми - Пример Линеарно-логаритамски алгоритми Секвенцијално претраживање found := false; pos:= 0; i := 1; while(i <= n) and (not found) do if k = a[i] then pos := i; found := true end else i := i+1; end; О(n log n) Пример опште формe: Појединачна обрада којом се проблем подели на партиције Секвенцијална обрада уоквиру сваке партиције Наставља се обрада док се не дође до јединичне величине партиције ЕТФ - Београд Катедра за рачунарску технику и информатику 25/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 26/36 Квадратни алгоритми Квадратни алгоритми - Пример О(n 2 ) Обично имају форму две угнеждене петље Пример: s:=0; for i:=1 to n do for j:=1 to n do s:=s+m[i, j]; Bubble sort For i:=1 to n-1 do for j:=n-1 downto 1 do if A[j]>A[j+1] then B:=A[j]; A[j]:=A[j+1]; A[j+1]:=B; end ЕТФ - Београд Катедра за рачунарску технику и информатику 27/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 28/36

8 Степени алгоритми Експоненцијални алгоритми O(n k ) Генерализација квадратних алгоритама Значајан пораст сложености за велико n Општа форма k угнеждених петљи Сложеност O(k n ) Употребљиви за мање димензије Врсте: димензија проблема је одређена бројем угнеждених петљи Промена димензије захтева промену програма ЕТФ - Београд Катедра за рачунарску технику и информатику 29/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 30/36 Експоненцијални алгоритми - Пример Факторијелни алгоритми for i:= 0 to n do c[i] := 0; repeat i := -1; repeat i := i +1; c[i] := c[i] +1; if (c[i] = k) then c[i] :=0; until c[i]<>0 until i = n c[n]... c[0] Сложеност O(n!) Врсте: Проблем трговачког путника Генерисање свих пермутација ЕТФ - Београд Катедра за рачунарску технику и информатику 31/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 32/36

9 Факторијелни алгоритми - Пример Имплицитна димензија проблема for i:= 0 to n do c[i] := 0; repeat i := -1; repeat i := i +1; c[i] := c[i] +1; if (c[i] = n -i) then c[i] :=0; until c[i]<>0 until i = n c[n]... c[0] ЕТФ - Београд Катедра за рачунарску технику и информатику 33/36 Просечно време извршавања: if => T IF = p*t t + (1-p)*t f repeat => T R = t/p while => T W = t*(1-p)/p p Вероватноћа проласка одређеним путем ЕТФ - Београд Катедра за рачунарску технику и информатику 34/36 Пример 1 Пример 2 k := 1; for j := 1 to n do m := 0; repeat k := k + 1; m := m + 2; until k = m end; a) 2 n b) n! c) n 2 j := 0; k := 0; for i := 1 to n do j := j + n; while j > 0 do j := j div 2; k := k + 1 end; a) n 2 b) log n c) n ЕТФ - Београд Катедра за рачунарску технику и информатику 35/36 ЕТФ - Београд Катедра за рачунарску технику и информатику 36/36

10 Пример 3 Који од следећих алгоритама има исти ред функције сложености као приложени програм? (Све променљиве су целобројне) m := 1; for i := 1 to n do m := m * 2; j := m; while j > 0 do j := j div k; a[i] := m + j k; end end a) Бинарно претраживање сортираног вектора b) Линеарно претраживање сортираног вектора c) Налажење суме елемената испод главне дијагонале квадратне матрице ЕТФ - Београд Катедра за рачунарску технику и информатику 37/36