Algoritma Divide and Conquer Bahan Kuliah IF3051 Strategi Algoritma

Algoritma Divide and Conquer Bahan Kuliah IF3051 Strategi Algoritma Oleh: Rinaldi Munir Program Studi Teknik Informatika Sekolah Teknik Elektro dan Informatika ITB 1 2 3 • Divide and Conquer dulunya adalah strategi militer yang dikenal dengan nama divide ut imperes. • Sekarang strategi tersebut menjadi strategi fundamental di dalam ilmu komputer dengan nama Divide and Conquer. 4 5 6 Definisi • Divide: membagi persoalan menjadi beberapa upa-masalah yang memiliki kemiripan dengan persoalan semula namun berukuran lebih kecil (idealnya berukuran hampir sama), • Conquer (solve): memecahkan (menyelesaikan) masing-masing upa-masalah secara rekursif. • Combine: mengabungkan solusi masing-masing upa-masalah sehingga membentuk solusi persoalan semula. 7 8 • Obyek persoalan yang dibagi : masukan (input) atau instances persoalan yang berukuran n seperti: - tabel (larik), - matriks, - eksponen, - dll, bergantung persoalannya. • Tiap-tiap upa-masalah mempunyai karakteristik yang sama (the same type) dengan karakteristik masalah asal • sehingga metode Divide and Conquer lebih natural diungkapkan dengan skema rekursif. 9 Skema Umum Algoritma Divide and Conquer procedure DIVIDE_and_CONQUER(input n : integer) { Menyelesaikan masalah dengan algoritma D-and-C. Masukan: masukan yang berukuran n Keluaran: solusi dari masalah semula } Deklarasi r, k : integer Algoritma if n  n0 then {ukuran masalah sudah cukup kecil } SOLVE upa-masalah yang berukuran n ini else Bagi menjadi r upa-masalah, masing-masing berukuran n/k for masing-masing dari r upa-masalah do DIVIDE_and_CONQUER(n/k) endfor COMBINE solusi dari r upa-masalah menjadi solusi masalah semula } endif 10 Jika pembagian selalu menghasilkan dua upa-masalah yang berukuran sama: procedure DIVIDE_and_CONQUER(input n : integer) { Menyelesaikan masalah dengan algoritma D-and-C. Masukan: masukan yang berukuran n Keluaran: solusi dari masalah semula } Deklarasi r, k : integer Algoritma if n  n0 then {ukuran masalah sudah cukup kecil } SOLVE upa-masalah yang berukuran n ini else Bagi menjadi 2 upa-masalah, masing-masing berukuran n/2 DIVIDE_and_CONQUER(upa-masalah pertama yang berukuran n/2) DIVIDE_and_CONQUER(upa-masalah kedua yang berukuran n/2) COMBINE solusi dari 2 upa-masalah endif g (n) , n  n0  T (n)   2T ( n / 2)  f ( n ) , n  n0 11 Mencari Nilai Minimum dan Maksimum (MinMaks) Persoalan: Misalkan diberikan tabel A yang berukuran n elemen dan sudah berisi nilai integer. Carilah nilai minimum dan nilai maksimum sekaligus di dalam tabel tersebut. 12 Penyelesaian dengan Algoritma Brute Force procedure MinMaks1(input A : TabelInt, n : integer, output min, maks : integer) { Mencari nilai minimum dan maksimum di dalam tabel A yang berukuran n elemen, secara brute force. Masukan: tabel A yang sudah terdefinisi elemen-elemennya Keluaran: nilai maksimum dan nilai minimum tabel } Deklarasi i : integer Algoritma: min A1 { inisialisasi nilai minimum} maksA1 { inisialisasi nilai maksimum } for i2 to n do if Ai < min then minAi endif if Ai > maks then maksAi endif endfor T(n) = (n – 1) + (n – 1) = 2n – 2 = O(n) 13 Ide penyelesaian dengan Divide and Conquer Contoh 4.1. Misalkan tabel A berisi elemen-elemen sebagai berikut: 4 12 23 9 21 1 35 2 24 Ide dasar algoritma secara Divide and Conquer: 4 12 23 9 21 1 35 2 24 1 35 2 24 2 24 2 24 DIVIDE 4 12 23 9 21 SOLVE: tentukan min & maks pada tiap bagian 4 12 23 min = 4 maks = 23 9 21 1 35 min = 1 maks = 35 COMBINE 4 12 23 min = 1 maks = 35 9 21 1 35 14 • Ukuran tabel hasil pembagian dapat dibuat cukup kecil sehingga mencari minimum dan maksimum dapat diselesaikan (SOLVE) secara trivial. • Dalam hal ini, ukuran “kecil” вang dipilih adalah 1 elemen atau 2 elemen. 15 MinMaks(A, n, min, maks) Algoritma: 1. Untuk kasus n = 1 atau n = 2, SOLVE: Jika n = 1, maka min = maks = A[n] Jika n = 2, maka bandingkan kedua elemen untuk menentukan min dan maks. 2. Untuk kasus n > 2, (a) DIVIDE: Bagi dua tabel A menjadi dua bagian yang sama, A1 dan A2 (b) CONQUER: MinMaks(A1, n/2, min1, maks1) MInMaks(A2, n/2, min2, maks2) (c) COMBINE: if min1 <min2 then min <- min1 else min <- min2 if maks1 <maks2 then maks <- maks2 else maks <- maks1 16 Contoh 4.2. Tinjau kembali Contoh 4.1 di atas. DIVIDE dan CONQUER: 4 12 23 9 21 1 35 2 24 4 12 23 9 21 1 35 2 24 4 12 23 9 21 1 35 2 24 1 35 2 SOLVE dan COMBINE: 4 12 23 9 21 24 min = 4 maks = 12 min = 9 maks = 23 min = 1 maks = 21 min = 35 maks =35 min = 2 maks = 24 4 23 21 35 24 12 9 min = 4 maks = 23 4 12 23 9 min = 4 maks = 23 4 12 min = 1 maks = 35 1 2 min = 1 maks = 21 min = 2 maks = 35 21 35 2 24 5 2 24 1 min = 1 maks = 35 23 9 21 1 17 procedure MinMaks2(input A : TabelInt, i, j : integer, output min, maks : integer) { Mencari nilai maksimum dan minimum di dalam tabel A yang berukuran n elemen secara Divide and Conquer. Masukan: tabel A yang sudah terdefinisi elemen-elemennya Keluaran: nilai maksimum dan nilai minimum tabel } Deklarasi min1, min2, maks1, maks2 : integer Algoritma: { 1 elemen } if i=j then minAi maksAi else if (i = j-1) then { 2 elemen } if Ai < Aj then maksAj minAi else maksAi minAj endif { lebih dari 2 elemen } else k(i+j) div 2 { bagidua tabel pada posisi k } MinMaks2(A, i, k, min1, maks1) MinMaks2(A, k+1, j, min2, maks2) if min1 < min2 then minmin1 else minmin2 endif if maks1<maks2 then maksmaks2 else maksmaks2 endif 18 Kompleksitas waktu asimptotik: 0 ,n 1   T (n)   1 ,n  2 2T ( n / 2)  2 , n  2  Penyelesaian: Asumsi: n = 2k, dengan k bilangan bulat positif, maka T(n) = 2T(n/2) + 2 = 2(2T(n/4) + 2) + 2 = 4T(n/4) + 4 + 2 = 4T(2T(n/8) + 2) + 4 + 2 = 8T(n/8) + 8 + 4 + 2 = ... k–1 =2 T(2) +  2 i k 1 i 1 = 2k – 1  1 + 2k – 2 = n/2 + n – 2 = 3n/2 – 2 = O(n) 19 Bandingkan: • MinMaks1 secara brute force : T(n) = 2n – 2 • MinMaks2 secara divide and conquer: T(n) = 3n/2 – 2 • Perhatikan: 3n/2 – 2 < 2n – 2 , n  2. • Kesimpulan: algoritma MinMaks lebih mangkus dengan algoritma Divide and Conquer. • Algoritma divide and conquer dapat membantu kita menemukan algoritma yang mangkus. 20 Algoritma Pengurutan Secara Divide and Conquer procedure Sort(input/output A : TabelInt, input n : integer) { Mengurutkan tabel A dengan metode Divide and Conquer Masukan: Tabel A dengan n elemen Keluaran: Tabel A yang terurut } Algoritma: if Ukuran(A) > 1 then Bagi A menjadi dua bagian, A1 dan A2, masing-masing berukuran n1 dan n2 (n = n1 + n2) Sort(A1, n1) Sort(A2, n2) { urut bagian kiri yang berukuran n1 elemen } { urut bagian kanan yang berukuran n2 elemen } Combine(A1, A2, A) { gabung hasil pengurutan bagian kiri dan bagian kanan } end 21 Contoh: A 4 12 3 9 1 21 5 2 Dua pendekatan (approach) pengurutan: 1. Mudah membagi, sulit menggabung (easy split/hard join) Tabel A dibagidua berdasarkan posisi elemen: Divide: A1 4 12 3 9 A2 1 21 5 2 Sort: A1 3 4 9 12 A2 1 2 21 Combine: A1 1 2 3 4 5 9 5 12 21 Algoritma pengurutan yang termasuk jenis ini: a. urut-gabung (Merge Sort) b. urut-sisip (Insertion Sort) 22 2. Sulit membagi, mudah menggabung (hard split/easy join) Tabel A dibagidua berdasarkan nilai elemennya. Misalkan elemen-elemen A1  elemen-elemen A2. Divide: A1 4 2 3 1 A2 9 21 5 Sort: A1 1 2 3 4 A2 5 9 A 1 2 3 4 Combine: 5 9 12 12 21 12 21 Algoritma pengurutan yang termasuk jenis ini: a. urut-cepat (Quick Sort) b. urut-seleksi (Selection Sort) 23 (a) Merge Sort • Ide merge sort: 24 Merge Sort Algoritma: 1. Untuk kasus n = 1, maka tabel A sudah terurut dengan sendirinya (langkah SOLVE). 2. Untuk kasus n > 1, maka (a) DIVIDE: bagi tabel A menjadi dua bagian, bagian kiri dan bagian kanan, masing-masing bagian berukuran n/2 elemen. (b) CONQUER: Secara rekursif, terapkan algoritma D-and-C pada masing-masing bagian. (c) MERGE: gabung hasil pengurutan kedua bagian sehingga diperoleh tabel A yang terurut. 25 Contoh Merge: A2 15 27 1 < 2  1 A1 1 13 24 2 1 13 24 2 15 27 2 <13  2 1 2 1 13 24 2 15 27 13<1513 1 2 13 1 13 24 2 15 27 15<2415 1 2 13 15 1 13 24 2 15 27 24<2724 1 2 13 15 24 1 13 24 2 15 27 2 13 15 24 27 27  B 1 1 26 Proses merge: 27 Contoh 4.3. Misalkan tabel A berisi elemen-elemen berikut: 4 12 23 9 21 1 5 2 DIVIDE, CONQUER, dan SOLVE: 4 12 23 9 21 1 5 2 4 12 23 9 21 1 5 2 4 12 23 9 21 1 5 2 4 12 23 9 21 1 5 2 MERGE: 4 12 9 23 1 21 2 5 4 9 12 23 1 2 5 21 1 2 4 5 9 12 21 23 28 29 procedure MergeSort(input/output A : TabelInt, input i, j : integer) { Mengurutkan tabel A[i..j] dengan algoritma Merge Sort Masukan: Tabel A dengan n elemen Keluaran: Tabel A yang terurut } Deklarasi: k : integer Algoritma: if i < j then { Ukuran(A)> 1} k(i+j) div 2 MergeSort(A, i, k) MergeSort(A, k+1, j) Merge(A, i, k, j) endif 30 Prosedur Merge: procedure Merge(input/output A : TabelInt, input kiri,tengah,kanan : integer) { Menggabung tabel A[kiri..tengah] dan tabel A[tengah+1..kanan] menjadi tabel A[kiri..kanan] yang terurut menaik. Masukan: A[kiri..tengah] dan tabel A[tengah+1..kanan] yang sudah terurut menaik. Keluaran: A[kiri..kanan] yang terurut menaik. } Deklarasi B : TabelInt i, kidal1, kidal2 : integer Algoritma: kidal1kiri { A[kiri .. tengah] } kidal2tengah + 1 { A[tengah+1 .. kanan] } ikiri while (kidal1  tengah) and (kidal2  kanan) do if Akidal1  Akidal2 then BiAkidal1 kidal1kidal1 + 1 else BiAkidal2 kidal2kidal2 + 1 endif ii + 1 endwhile { kidal1 > tengah or kidal2 > kanan } { salin sisa A bagian kiri ke B, jika ada } while (kidal1  tengah) do BiAkidal1 kidal1kidal1 + 1 ii + 1 endwhile { kidal1 > tengah } { salin sisa A bagian kanan ke B, jika ada } while (kidal2  kanan) do BiAkidal2 kidal2kidal2 + 1 ii + 1 endwhile { kidal2 > kanan } { salin kembali elemen-elemen tabel B ke A } for ikiri to kanan do AiBi endfor { diperoleh tabel A yang terurut membesar } 31  Kompleksitas waktu: Asumsi: n = 2k T(n) = jumlah perbandingan pada pengurutan dua buah upatabel + jumlah perbandingan pada prosedur Merge a ,n 1  T (n)   2T (n / 2)  cn , n  1 32 Penyelesaian: T(n) = 2T(n/2) + cn = 2(2T(n/4) + cn/2) + cn = 4T(n/4) + 2cn = 4(2T(n/8) + cn/4) + 2cn = 8T(n/8) + 3cn = ... = 2k T(n/2k) +kcn Berhenti jika ukuran tabel terkecil, n = 1: n/2k = 1  k = 2log n sehingga T(n) = nT(1) + cn 2log n = na + cn 2log n = O(n 2log n) 33 (b) Insertion Sort procedure InsertionSort(input/output A : TabelInt, input i, j : integer) { Mengurutkan tabel A[i..j] dengan algoritma Insertion Sort. Masukan: Tabel A dengan n elemen Keluaran: Tabel A yang terurut } Deklarasi: k : integer Algoritma: if i < j then { Ukuran(A)> 1} ki InsertionSort(A, i, k) InsertionSort(A, k+1, j) Merge(A, i, k, j) endif 34 Perbaikan: procedure InsertionSort(input/output A : TabelInt, input i, j : integer) { Mengurutkan tabel A[i..j] dengan algoritma Insertion Sort. Masukan: Tabel A dengan n elemen Keluaran: Tabel A yang terurut } Deklarasi: k : integer Algoritma: if i < j then { Ukuran(A)> 1} ki Insertion(A, k+1, j) Merge(A, i, k, j) endif Prosedur Merge dapat diganti dengan prosedur penyisipan sebuah elemen pada tabel yang sudah terurut (lihat algoritma Insertion Sort versi iteratif). 35 Contoh 4.4. Misalkan tabel A berisi elemen-elemen berikut: 4 12 23 9 21 1 5 2 DIVIDE, CONQUER, dan SOLVE:: 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 4 12 3 9 1 21 5 2 36 MERGE: 4 12 3 9 1 21 5 2 3 4 12 9 1 21 5 2 3 4 9 12 1 21 5 2 1 3 4 9 12 21 5 2 1 3 4 9 12 21 5 2 1 3 4 5 9 12 21 2 1 2 3 4 5 9 12 21 37 Kompleksitas waktu algoritma Insertion Sort: a ,n 1  T (n)   T (n  1)  cn , n  1 Penyelesaian: T(n) = cn + T(n – 1) = cn + { c  (n – 1) + T(n – 2) } = cn + c(n – 1) + { c  (n – 2) + T(n – 3) } = cn + c  (n – 1) + c  (n – 2) + {c(n – 3) + T(n – 4) } = ... = cn + c  (n – 1) + c(n – 2) + c(n – 3) + ... + c2 + T(1) = c{ n + (n – 1) + (n – 2) + (n – 3) + ... + 2 } + a = c{ (n – 1)(n + 2)/2 } + a = cn2/2 + cn/2 + (a – c ) = O(n2) 38 (c) Quick Sort • Termasuk pada pendekatan sulit membagi, mudah menggabung (hard split/easy join) • Tabel A dibagi (istilahnya: dipartisi) menjadi A1 dan A2 sedemikian sehingga elemenelemen A1  elemen-elemen A2. 39 Partisi: A1 4 2 3 1 A2 9 21 5 Sort: A1 1 2 3 4 A2 5 9 1 2 3 4 Combine: A 5 9 12 12 21 12 21 40 Teknik mem-partisi tabel: (i) pilih x  { A[1], A[2], ..., A[n] } sebagai pivot, (ii) pindai tabel dari kiri sampai ditemukan A[p]  x (iii) pindai tabel dari kanan sampai ditemukan A[q]  x (iv) pertukarkan A[p]  A[q] (v) ulangi (ii), dari posisi p + 1, dan (iii), dari posisi q – 1 , sampai kedua pemindaian bertemu di tengah tabel 41 Contoh 4.6. Misalkan tabel A berisi elemen-elemen berikut: 8 1 4 6 9 3 5 7 4 6 9 pivot 3 5 7 Langkah-langkah partisi: (i): 8  (ii) & (iii): 8 p (iv): 5 1 1 4 6 9 3 5 q 1 4 6 9 3 8  7 7 42 (ii) & (iii): 5 (iv): 5 (ii) & (iii): 5  1 4 6 p 9 1 4 3 9 1 4  3 q 6 8 7 8 7  3 9 6 8 7 q p (q < p, berhenti) Hasil partisi pertama: kiri: kanan: 5 9 1 6 4 8 3 7 ( < 6) (  6) 43 5 p 1 q 4 3 9 p 6 q 8 7 1 5 4 3 6 9 8 7 1 q 5 p 4 3 6 q 9 p 8 7 1 5 p 4 6 9 p 8 (q > p , berhenti) (q > p , berhenti) 3 q 7 q 44 1 3 1 1 1 4 5 6 7 3 4 5 q p p>q, berhenti 6 7 8 9 q p p>q, berhenti 3 4 5 q p p>q 6 7 8 9 q p p>q 3 4 6 7 8 5 8 9 9 (terurut) 45 Pseudo-code Quick Sort: procedure QuickSort(input/output A : TabelInt, input i,j: integer) { Mengurutkan tabel A[i..j] dengan algoritma Quick Sort. Masukan: Tabel A[i..j] yang sudah terdefinisi elemen-elemennya. Keluaran: Tabel A[i..j] yang terurut menaik. } Deklarasi k : integer Algoritma: if i < j then Partisi(A, i, j, k) QuickSort(A, i, k) QuickSort(A, k+1, j) endif { { { { Ukuran(A) > 1 } Dipartisi pada indeks k } Urut A[i..k] dengan Quick Sort } Urut A[k+1..j] dengan Quick Sort } 46 procedure Partisi(input/output A : TabelInt, input i, j : integer, output q : integer) { Membagi tabel A[i..j] menjadi upatabel A[i..q] dan A[ q+1..j] Masukan: Tabel A[i..j]yang sudah terdefinisi harganya. Keluaran upatabel A[i..q] dan upatabel A[q+1..j] sedemikian sehingga elemen tabel A[i..q] lebih kecil dari elemen tabel A[q+1..j] } Deklarasi pivot, temp : integer Algoritma: pivotA[(i + j) div 2] p  i q  j repeat while A[p] < pivot do p  p + 1 endwhile { A[p] >= pivot} { pivot = elemen tengah} while A[q] > pivot do q  q – 1 endwhile { A[q] <= pivot} if p  q then {pertukarkan A[p] dengan A[q] } temp  A[p] A[p]  A[q] A[q]  temp {tentukan awal pemindaian berikutnya } p  p + 1 q  q - 1 endif until p > q 47 Cara pemilihan pivot: 1. Pivot = elemen pertama/elemen terakhir/elemen tengah tabel 2. Pivot dipilih secara acak dari salah satu elemen tabel. 3. Pivot = elemen median tabel 48 Kompleksitas Algoritma Quicksort: 1. Kasus terbaik (best case) • Kasus terbaik terjadi bila pivot adalah elemen median sedemikian sehingga kedua upatabel berukuran relatif sama setiap kali pempartisian. 49 n n/2 n/4 n/8 ... 1 n/2 n/4 n/4 n/4 n/8 n/8 n/8 n/8 n/8 n/8 n/8 ... ... ... ... ... ... .... 1 1 ...................1...1....1......................... 1 1 1 50 a ,n 1  T (n)   2T (n / 2)  cn , n  1 Penyelesaian (seperti pada Merge Sort): T(n) = 2T(n/2) + cn = na + cn 2log n = O(n 2log n). 51 2. Kasus terburuk (worst case) • Kasus ini terjadi bila pada setiap partisi pivot selalu elemen maksimum (atau elemen minimum) tabel. • Kasus jika tabel sudah terurut menaik/menurun 52 n n–1 1 n–2 1 1 n–3 ... 2 1 1 53 Kompleksitas waktu pengurutan: a ,n  1  T (n)   T (n  1)  cn , n  1 Penyelesaian (seperti pada Insertion Sort): T(n) = T(n – 1) + cn = O(n2). 54 3. Kasus rata-rata (average case) • Kasus ini terjadi jika pivot dipilih secara acak dari elemen tabel, dan peluang setiap elemen dipilih menjadi pivot adalah sama. • Tavg(n) = O(n 2log n). 55 (d) Selection Sort procedure SelectionSort(input/output A : TabelInt, input i,j: integer) { Mengurutkan tabel A[i..j] dengan algoritma Selection Sort. Masukan: Tabel A[i..j] yang sudah terdefinisi elemen-elemennya. Keluaran: Tabel A[i..j] yang terurut menaik. } Algoritma: if i < j then { Ukuran(A) > 1 } Bagi(A, i, j) SelectionSort(A, i+1, j) endif 56 procedure Bagi(input/output A : TabInt, input i,j: integer) { Mencari elemen terkecil di dalam tabel A[i..j], dan menempatkan elemen terkecil sebagai elemen pertama tabel. Masukan: A[i..j] Keluaran: A[i..j] dengan Ai adalah elemen terkecil. } Deklarasi idxmin, k, temp : integer Algoritma: idxmini for ki+1 to jdo if Ak < Aidxmin then idxmink endif endfor { pertukarkan A i dengan A idxmin } tempAi AiAidxmin Aidxmintemp 57 Contoh 4.5. Misalkan tabel A berisi elemen-elemen berikut: 4 12 3 9 1 21 5 2 Langkah-langkah pengurutan dengan Selection Sort: 4 12 3 9 1 21 5 2 1 12 3 9 4 21 5 2 1 2 3 9 4 21 5 12 1 2 3 9 4 21 5 12 1 2 3 4 9 21 5 12 1 2 3 4 5 21 9 12 1 2 3 4 5 9 12 21 1 2 3 4 5 9 12 21 1 2 3 4 5 9 12 21 58 Kompleksitas waktu algoritma: ,n  1 a  T (n)   T (n  1)  cn , n  1 Penyelesaian (seperti pada Insertion Sort): 2 T(n) = O(n ). 59 Teorema Master Misalkan T(n) adalah fungsi menaik yang memenuhi relasi rekurens: T(n) = aT(n/b) + cnd yang dalam hal ini n = bk , k = 1, 2, …, a  1, b  2, dan c dan d adalah bilangan riil  0, maka  O(n d )  T(n) adalah O(n d log n)  O(n logb a )  jika a  b d jika a  b d jika a  b d 60 Contoh: Pada algoritma Mergesort/Quick Sort, a ,n 1  T (n)   2T (n / 2)  cn , n  1 Menurut Teorema Master, a = 2, b = 2, d = 1, dan a = bd, maka relasi rekurens: T(n) = 2T(n/2) + cn = O(n log n) 61 Persoalan Pemasangan Ubin Persoalan: Diberikan sebuah papan yang berukuran 2k × 2k. Tersedia sebuah ubin dan 22k – 1 buah ubin yang terdiri dari kelompok 3-ubin berbentuk huruf L. Pasanglah semua ubin pada papan tersebut. 62 Algoritma D & C: • Bagi papan menjadi 4 bagian • Ubin tunggal dapat ditaruh di mana saja. • Tempatkan kelompok 3-ubin berbentuk L pada bagian tengah yang tidak ada ubin tunggal 63 64 Latihan • (Soal UTS 2011) Misalkan anda mempunyai array A[1..n] yang telah berisi n elemen integer. Elemen mayoritas di dalam A adalah elemen yang terdapat pada lebih dari n/2 posisi (jadi, jika n = 6 atau n = 7, elemen mayoritas terdapat pada paling sedikit 4 posisi). Rancanglah algoritma divide and conquer (tidak dalam bentuk pseudo-code, tapi dalam bentuk uraian deskriptif) untuk menemukan elemen mayoritas di dalam A (atau menentukan tidak terdapat elemen mayoritas). Jelaskan algoritma anda dengan contoh sebuah array berukuran 8 elemen. Selanjutnya, perkirakan kompleksitas algoritmanya dalam hubungan rekursif (misalnya T(n) = bT(n/p) + h(n)), lalu selesaikan T(n) tersebut. 65 Solusi: 1. Jika n = 1, maka elemen tunggal tersebut adalah mayoritasnya sendiri. 2. Jika n > 1, maka bagi array menjadi dua bagian (kiri dan kanan) yang masing-masing berukuran sama (n/2). 3. Tahap combine. Ada empat kemungkinan kasus: Kasus 1: tidak ada mayoritas pada setiap bagian, sehingga array gabungan keduanya tidak memiliki mayoritas. Return: “no majoritв” Contoh: 4 3 4 2 7 5 2 1 4 Ingat definisi mayoritas! 3 4 2 no majority 4 3 4 7 5 2 1 no majority 2 7 “no majoritв” 5 2 1 66 Kasus 2: bagian kanan memiliki mayoritas, bagian kiri tidak. Pada array gabungan, hitung jumlah elemen yang sama dengan elemen mayoritas bagian kanan tersebut; Jika elemen tersebut mayoritas, return elemen tersebut, kalau tidak return “no majoritв” Contoh: Ingat definisi mayoritas! 4 3 4 2 7 4 4 4 4 3 4 2 7 4 4 4 no majority majority = 4 4 3 4 2 7 4 4 4 Jumlah elemen 4 = 5 buah  mayoritas “majoritв = 4” Ingat definisi mayoritas! 67 Contoh lain (tidak ada mayoritas): 4 3 5 2 7 4 4 3 5 no majority 2 7 4 4 4 4 4 majority = 4 4 3 5 2 7 4 4 4 Jumlah elemen 4 = 4 buah  bukan mayoritas “no majoritв” 68 Kasus 3: bagian kiri memiliki mayoritas, bagian kanan tidak. Pada array gabungan, hitung jumlah elemen yang sama dengan elemen mayoritas bagian kiri tersebut. Jika elemen tersebut mayoritas, return elemen tersebut, kalau tidak return “no majoritв” Contoh: 3 3 4 3 7 3 3 4 3 3 4 3 7 3 3 4 majority = 3 no majority 3 3 4 3 7 3 3 4 Jumlah elemen 3 = 5 buah  mayoritas “majoritв = 3” 69 Kasus 4: bagian kiri dan bagian kanan memiliki mayoritas, Pada array gabungan, hitung jumlah elemen yang sama dengan kedua elemen kandidat mayoritas tersebut. Jika salah satu kandidat adalah elemen mayoritas, return elemen tersebut, kalau tidak return “no majoritв” Contoh: 3 3 4 3 4 4 4 4 3 3 4 3 4 4 4 4 majority = 3 3 3 4 majority = 4 3 4 4 4 4 Jumlah elemen 3 = 3 buah Jumlah elemen 4 = 5 buah  mayoritas “majoritв = 4” 70 Contoh keseluruhan: 4 3 4 4 4 5 4 3 4 3 4 4 4 5 4 3 4 3 4 4 4 5 4 3 4 3 4 4 4 5 4 3 4 3 4 4 4 5 4 3 m=4 m=3 m=4 m=4 m=4 m=5 m=4 m=3     divide       solve  71 4 3 4 4 4 5 4 3 m=4 m=3 m=4 m=4 m=4 m=5 m=4 m=3  nm m =4 nm nm    4 3 4 4 4 5 4 3  combine m=4 nm   4 3 4 4 4 5 4 3   m=4 4 3 4 4 4 5 4 3 72 Kompleksitas waktu algoritma mayoritas: T(n) adalah jumlah operasi perbandingan yang terjadi (pada saat menghitung jumlah elemen yang sama dengan kandidat mayoritas) Pada setiap level terdapat dua pemanggilan rekursif, masing-masing untuk n/2 elemen array. Jumlah perbandingan yang terjadi paling banyak 2n (upper bound) yaitu pada kasus 4, untuk array berukuran n. Secara umum jumlah perbandingan = cn. Untuk n = 1, jumlah perbandingan = 0, secara umum = a. 73 Jadi, a ,n 1  T ( n)   2T (n / 2)  cn , n  1 Menurut Teorema Master, T(n) = 2T(n/2) + cn = O(n log n) 74 Mencari Pasangan Titik yang Jaraknya Terdekat (Closest Pair) Persoalan: Diberikan himpunan titik, P, yang terdiri dari n buah titik, (xi, yi), pada bidang 2-D. Tentukan sepasang titik di dalam P yang jaraknya terdekat satu sama lain. 75 p5 p2 p4 p3 p6 p8 p1 p7 Jarak dua buah titik p1 = (x1, y1) dan p2 = (x2, y2): d  ( x1  x2 )  ( y1  y2 ) 2 2 76 Penyelesaian secara Brute Force • Hitung jarak setiap pasang titik. Ada sebanyak C(n, 2) = n(n – 1)/2 pasangan titik • Pilih pasangan titik yang mempunyai jarak terkecil. • Kompleksitas algoritma adalah O(n2). 77 Penyelesaian secara Divide and Conquer • Asumsi: n = 2k dan titik-titik sudah diurut berdasarkan absis (x). • Algoritma Closest Pair: 1. SOLVE: jika n = 2, maka jarak kedua titik dihitung langsung dengan rumus Euclidean. 78 2. DIVIDE: Bagi himpunan titik ke dalam dua bagian, S1 dan S2, setiap bagian mempunyai jumlah titik yang sama. L adalah garis maya yang membagi dua himpunan titik ke dalam dua sub-himpunan, masing-masin n/2 titik. y p5 p2 p4 p6 p3 p8 p1 p7 S2 S1 L x 79 3. CONQUER: Secara rekursif, terapkan algoritma Dand-C pada masing-masing bagian. 4. COMBINE: Pasangan titik yang jaraknya terdekat ada tiga kemungkinan letaknya: (a) Pasangan titik terdekat terdapat di bagian S1. (b) Pasangan titik terdekat terdapat di bagian S2. (c) Pasangan titik terdekat dipisahkan oleh garis batas L, yaitu satu titik di S1 dan satu titik di S2. Jika kasusnya adalah (c), maka lakukan tahap ketiga untuk mendapatkan jarak dua titik terdekat sebagai solusi persoalan semula. 80 procedure FindClosestPair2(input P: SetOfPoint, n : integer, output d : real) { Mencari jarak terdekat sepasang titik di dalam himpunan P. } Deklarasi: d1, d2 : real Algoritma: if n = 2 then d  jarak kedua titik dengan rumus Euclidean else S1  {p1, p2 ,..., pn/2 } S2  {pn/2+1, pn/2+2 ,..., pn } FindClosestPair2(S1, n/2, d1) FindClosestPair2(S2, n/2, d2) d  MIN(d1,d2) {--***********************************************--} Tentukan apakah terdapat titik pl di S1 dan pr di S2 dengan jarak(pl, pr) < d. Jika ada, set d dengan jarak terkecil tersebut. {--***********************************************--} endif 81 • Jika terdapat pasangan titik pl and pr yang jaraknya lebih kecil dari d, maka kasusnya adalah: (i) Absis x dari pl dan pr berbeda paling banyak sebesar d. (ii) Ordinat y dari pl dan pr berbeda paling banyak sebesar d. 82 • Ini berarti pl and pr adalah sepasang titik yang berada di daerah sekitar garis vertikal L:      L • Berapa lebar strip abu-abu tersebut? 83 • Kita membatasi titik-titik di dalam strip selebar 2d Sstrip • Oleh karena itu, implementasi tahap ketiga adalah sbb: (i) Temukan semua titik di S1t yang memiliki absis x minimal xn/2 – d. (ii ) Temukan semua titik di S2 yang memiliki absis x maksimal x n/2 + d. Sebut semua titik-titik yang ditemukan pada langkah (i) dan (ii) tersebut sebagai himpunan Sstrip yang berisi s buah titik. d d L Urutkan titik-titik tersebut dalam urutan absis y yang menaik. Misalkan q1, q2 , ..., qs menyatakan hasil pengurutan. 84 85 for i1 to s do for ji+1 to s do if (|qi.x–qj.x |>d or |qi.y–qj.y|> d then tidak diproses else d3  EUCLIDEAN(qi, qj) if d3 < d then d  d3 endif endif endfor endfor 86 • Pengurutan titik-titik dalam absis x dan ordinat y dilakukan sebelum menerapkan algoritma Divide and Conquer. • Pemrosesan titik-titk di dalam Sstrip memerlukan waktu t(n) = cn = O(n). • Kompleksitas algoritma: 2T ( n / 2)  cn T (n)   a  ,n  2 ,n  2 Solusi dari persamaan di atas adalah T(n) = O(n log n), sesuai dengan Teorema Master 87 Perpangkatan n a Misalkan a  R dan n adalah bilangan bulat tidak negatif: an = a × a × … × a (n kali), jika n > 0 =1 , jika n = 0 88 Penyelesaian dengan Algoritma Brute Force function Exp1(input a, n : integer)integer { Menghitung an, a > 0 dan n bilangan bulat tak-negatif Masukan: a, n Keluaran: nilai perpangkatan. } Deklarasi k, hasil : integer Algoritma: hasil1 for k1 to n do hasilhasil * a endfor return hasil Kompleksitas waktu algoritma: T(n) = n = O(n) 89 Penyelesaian dengan Divide and Conquer Algoritma menghitung an: 1. Untuk kasus n = 0, maka an = 1. 2. Untuk kasus n > 0, bedakan menjadi dua kasus lagi: (i) jika n genap, maka an = an/2  an/2 (ii) jika n ganjil, maka an = an/2  an/2  a 90 Contoh 4.6. Menghitung 316 dengan metode Divide and Conquer: 316 = 38  38 = (38)2 = ((34)2)2 = (((32)2)2)2 = ((((31)2))2)2)2 = ((((30)2  3)2)2)2)2 = ((((1)2  3)2)2)2)2 = ((((3)2))2)2)2 = (((9)2)2)2 = (81) 2)2 = (6561)2 = 43046721 91 function Exp2(input a :real, n : integer)  real { mengembalikan nilai a^n, dihitung dengan metode Divide and Conquer } Algoritma: if n = 0 then return 1 else if odd(n) then { fungsi ganjil } return Exp2(a, n div 2)* Exp2(a, n div 2) * a else return Exp2(a, n div 2)* Exp2(a, n div 2) endif endif Tidak mangkus, karena ada dua kali pemanggilan rekursif untuk nialai parameter yang sama  Exp2(a, n div 2) 92 Perbaikan: function Exp3(input a :real, n : integer)  real { mengembalikan nilai a^n, dihitung dengan metode Divide and Conquer } Algoritma: if n = 0 then return 1 else xExp3(a, n div 2) if odd(n) then { fungsi n ganjil } return x * x * a else return x * x endif endif 93 Kompleksitas algoritma: 0 ,n  0  T (n)   1  T ( n / 2) , n  0 Penyelesaian: T(n) = 1 + T( n/2 ) = 1 + (1 + T( n/4 ) = 2 + T( n/4 ) = 2 + (1 + T( n/8 ) = 3 + T( n/8 ) = ... = k + T(n/2k ) 94 Persamaan terakhir diselesaikan dengan membuat n/2k =1, (n/2k) = 1  log (n/2k) = log 1 log n – log 2k = 0 log n – k log 2 = 0 log n = k log 2 k = log n / log 2 = 2log n sehingga T(n) = 2log n + T(1) = 2log n + 1 + T(0) = 2log n + 1 + 0 = 2log n + 1 = O (2log n) 95 Perkalian Matriks • Misalkan A dan B dua buah matrik berukuran n  n. • Perkalian matriks: C = A × B Elemen-elemen hasilnya: cij  ai1b1 j  ai 2 b2 j    ain bnj   aik bkj n k 1 96 Penyelesaian dengan Algoritma Brute Force function KaliMatriks1(input A,B: Matriks, input n : integer) Matriks { Memberikan hasil kali matriks A dan B yang berukuran n × n. Masukan: matriks integer A dan B, ukuran matriks (n) Keluaran: matriks C = A  B. } Deklarasi i, j, k : integer C : Matriks for i1 to n do Algoritma: for j1 to n do { inisialisasi penjumlah } C i,j0 for k  1 to n do C i,j  C i,j + A i,k * Bk,j endfor endfor endfor return C Kompleksitas algoritma: T(n) = n3 + n2(n – 1) = O(n3). 97 Penyelesaian dengan Algoritma Divide and Conquer Matriks A dan B dibagi menjadi 4 buah matriks bujur sangkar. Masing-masing matriks bujur sangkar berukuran n/2  n/2:  A11 A12   B11 B12   C11 C12   A21 A22   B 21 B 22 = C 21 C 22       A B C Elemen-elemen matriks C adalah: C11 = A11  B11 + A12  B21 C12 = A11  B12 + A12  B22 C21 = A21  B11 + A22  B21 C22 = A21  B12 + A22  B22 98 Contoh 4.7. Misalkan matriks A adalah sebagai berikut: 3  21 A=  5 45  4 8 16  5 12 10   1 2 3 9 0 1 Matriks A dibagi menjadi 4 upa-matriks 2 x 2:  3 4 A12 = A11 =   21 5  8 16 12 10 A21 =    5 1 45 9 A22 =   2 3  0  1   99 function KaliMatriks2(input A,B: Matriks, input n : integer)  Matriks { Memberikan hasil kali matriks A dan B yang berukuran n × n. Masukan: matriks integer A dan B, ukuran matriks (n) Keluaran: matriks C = A  B. } Deklarasi i, j, k : A11, A12, B11, B12, C11, C12, integer A21, A22, B21, B22, C21, C22 : Matriks Algoritma: if n = 1 then { perkalian biasa } return A  B else Bagi A menjadi A11, A12, A21, dan A22 yang masing-masing berukuran n/2  n/2 Bagi B menjadi B11, B12, B21, dan B22 yang masing-masing berukuran n/2  n/2 C11  KaliMatriks2(A11, B11, n/2) + KaliMatriks2(A12, B21, n/2) C12  KaliMatriks2(A11, B12, n/2) + KaliMatriks2(A12, B22, n/2) C21  KaliMatriks2(A21, B11, n/2) + KaliMatriks2(A22, B21, n/2) C22  KaliMatriks2(A21, B12, n/2) + KaliMatriks2(A22, B22, n/2) return C { C adalah gabungan C11, C12, C13, C14 } endif 100 Pseudo-code algoritma penjumlahan (+), C = A + B: function Tambah(input A, B : Matriks, input n : integer)  Matriks { Memberikan hasil penjumlahkan dua buah matriks, A dan B, yang berukuran n × n. Masukan: matriks integer A dan B, ukuran matriks (n) Keluaran: matriks C = A + B } Deklarasi i, j, k : integer Algoritma: for i1 to n do for j1 to n do C i,j  A i,j + B i,j endfor endfor return C 101 Kompleksitas waktu perkalian matriks seluruhnya adalah: a  T (n)   2 8 T ( n / 2 ) cn   ,n  1 ,n  1 yang bila diselesaikan, hasilnya adalah: T(n) = O(n3) Hasil ini tidak memberi perbaikan kompleksitas dibandingkan dengan algoritma brute force. Dapatkah kita membuat algoritma perkalian matriks yang lebih baik? 102 Algoritma Perkalian Matriks Strassen Hitung matriks antara: M1 = (A12 – A22)(B21 + B22) M2 = (A11 + A22)(B11 + B22) M3 = (A11 – A21)(B11 + B12) M4 = (A11 + A12)B22 M5 = A11 (B12 – B22) M6 = A22 (B21 – B11) M7 = (A21 + A22)B11 maka, C11 = M1 + M2 – M4 + M6 C12 = M4 + M5 C21 = M6 + M7 C22 = M2 – M3 + M5 – M7 103 • Volker Strassen (born April 29, 1936) is a German mathematician, a professor emeritus in the department of mathematics and statistics at the University of Konstanz. • In 2008 he was awarded the Knuth Prize for "seminal and influential contributions to the design and analysis of efficient algorithms."[5] 104 Kompleksitas waktu algoritma perkalian matriks Strassen: a ,n  1  T (n)   2 T n cn 7 ( / 2 )  ,n  1  yang bila diselesaikan, hasilnya adalah T(n) = O(n log 7 2.81 ) = O(n ) 105 Perkalian Dua Buah Bilangan Bulat yang Besar Persoalan: Misalkan bilangan bulat X dan Y yang panjangnya n angka X = x1x2x3 … xn Y = y1y2y3… yn Hitunglah hasil kali X dengan Y. 106 Contoh 4.8. Misalkan, X = 1234 (n = 4) Y = 5678 (n = 4) Cara klasik mengalikan X dan Y: X  Y = 1234 5678  9872 8368 7404 6170 + 7006652 ( 7 angka) 107 Pseudo-code algoritma perkalian matriks: function Kali1(input X, Y : LongInteger, n : integer)  LongInteger { Mengalikan X dan Y, masing-masing panjangnya n digit dengan algoritma brute force. Masukan: X dan Y yang panjangnya n angka Keluaran: hasil perkalian } Deklarasi temp, AngkaSatuan, AngkaPuluhan : integer Algoritma: for setiap angka yi dari yn, yn-1, …, y1 do AngkaPuluhan  0 for setiap angka xj dari xn, xn-1, …, x1 do temp  xj * yi temp  temp + AngkaPuluhan AngkaSatuan  temp mod 10 AngkaPuluhan  temp div 10 tuliskan AngkaSatuan endfor endfor Z  Jumlahkan semua hasil perkalian dari atas ke bawah return Z Kompleksitas algoritma: O(n2). 108 Penyelesaian dengan Algoritma Divide and Conquer n X a b Y c d n/2 n/2 s = n div 2 a = X div 10s b = X mod 10s c = Y div 10s d = Y mod 10s X dan Y dapat dinyatakan dalam a, b, c, d, dan s sebagai X = a  10s + b Y = c  10s + d 109 Contoh, X = 346769 = 346  10 + 769 Y = 279431 = 279  103 + 431 3 Perkalian X dengan Y dinyatakan sebagai X  Y = (a  10s + b)  (c  10s + d) = ac  102s + ad  10s + bc  10s + bd = ac  102s + (ad + bc)  10s + bd 110 Pseudo-code perkalian X dan Y: function Kali2(input X, Y : LongInteger, n : integer)  LongInteger { Mengalikan X dan Y, masing-masing panjangnya n digit dengan algoritma Divide and Conquer. Masukan: X dan Y Keluaran: hasil perkalian X dan Y } Deklarasi a, b, c, d : LongInteger s : integer Algoritma: if n = 1 then return X * Y else sn div 2 aX div 10s bX mod 10s c Y div 10s d Y mod 10s return Kali2(a, Kali2(a, endif { perkalian biasa } { bagidua pada posisi s } c, s)*102s + Kali2(b, c, s)*10s + d, s)*10s + Kali2(b, d, s) Kompleksitas waktu algoritma: a ,n  1  T (n)   4T (n / 2)  cn , n  1 111 • Penyelesaian: T(n) = O(n2). • Ternyata, perkalian dengan algoritma Divide and Conquer seperti di atas belum memperbaiki kompleksitas waktu algoritma perkalian secara brute force. • Adakah algoritma perkalian yang lebih baik? 112 Perbaikan (A.A Karatsuba, 1962): Misalkan r = (a + b)(c + d) = ac + (ad + bc) + bd maka, (ad + bc) = r – ac – bd = (a + b)(c + d) – ac – bd Dengan demikian, perkalian X dan Y dimanipulasi menjadi X  Y = ac  102s + (ad + bc)  10s + bd s 2s  ac  10  { ( a  b )( c  d )  ac  bd }  10  bd            p q q p r 113 Anatolii Alexevich Karatsuba Anatolii Alexeevitch Karatsuba (Russian: А ́ А е е́е К ́ ; Grozny, January 31, 1937 — Moscow, September 28, 2008) was a Russian mathematician, who authored the first fast multiplication method: the Karatsuba algorithm, a fast procedure for multiplying large numbers. 114 (Sumber: Wikipedia) function Kali3(input X, Y : LongInteger, n : integer)  LongInteger { Mengalikan X dan Y, masing-masing panjangnya n digit dengan algoritma Divide and Conquer. Masukan: X dan Y Keluaran: hasil perkalian X dan Y } Deklarasi a, b, c, d : LongInteger s : integer Algoritma: if n = 1 then { perkalian biasa } return X * Y else sn div 2 { bagidua pada posisi s } aX div 10s bX mod 10s c Y div 10s d Y mod 10s pKali3(a, c, s) qKali3(b, d, s) rKali3(a + b, c + d, s) return p*102s + (r – p – q)*10s + q endif 115 Kompleksitas waktu algoritmanya: T(n) = waktu perkalian integer yang berukuran n/2 + waktu untuk perkalian dengan 10s dan 102s dan waktu untuk penjumlahan a ,n  1  T (n)   3T (n / 2)  cn , n  1 Bila relasi rekurens diselesaikan, diperoleh T(n) = O(nlog 3) = O(n1.59), lebih baik daripada kompleksitas waktu dua algoritma perkalian sebelumnya. 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132