\input ../sgr.tex

\prednaska{12}{Pravděpodobnostní algoritmus na řezy}{}

Nahlédněme alespoň jednou kapitolou do~světa pravděpodobnostních algoritmů.
Není totiž výjimkou, že s~pomocí generátoru náhodných čísel vyřešíme některé
grafové problémy daleko snáze a často také efektivněji, než to dovedeme deterministicky.
Pravděpodobnostní přístup si předvedeme na~Kargerově-Steinově algoritmu \cite{karger:mincut}
pro hledání minimálního řezu v~neohodnoceném neorientovaném grafu. Připomeňme,
že s~deterministickými algoritmy jsme zatím dosáhli časové složitosti $\O(n^{5/3}m)$
pomocí toků nebo $\O(nm)$ Nagamochiho-Ibarakiho algoritmem.

\h{Náhodné kontrakce}

Uvažujme nejdříve následující algoritmus, který náhodně vybírá
hrany a kontrahuje je, dokud počet vrcholů neklesne na~danou hodnotu~$\ell$.

\s{Algoritmus} $\hbox{\sc Contract}(G_0,\ell)$:
\algo
\:$G \leftarrow G_0$.
\:Dokud $n>\ell$:
\::Vybereme hranu $e\in E$ rovnoměrně náhodně.
\::$G \leftarrow G/e$ (kontrahujeme hranu~$e$, smyčky odstraňujeme,
  paralelní hrany ponecháme).
\:Vrátíme jako výsledek graf~$G$.
\endalgo

Jaká je pravděpodobnost, že výsledný graf~$G$ má stejně velký minimální řez
jako zadaný graf~$G_0$? Všimněme si nejprve, že každý řez v~grafu $G/e$ je i řezem
v~grafu~$G$ (až na přeznačení hran při kontrakci, ale předpokládejme, že hrany
mají nějaké identifikátory, které kontrakce zachovává). Podobně je-li v~grafu~$G$
řez neobsahující hranu~$e$, odpovídá mu stejně velký řez v~$G/e$. Velikost
minimálního řezu tedy kontrakcí nikdy neklesne -- může pouze stoupnout, pokud
skontrahujeme hranu ležící ve~všech minimálních řezech,

Zvolíme nyní pevně jeden z~minimálních řezů~$C$ v~zadaném grafu~$G_0$ a označíme~$k$ jeho
velikost. Pokud algoritmus ani jednou nevybere hranu ležící v~tomto řezu, velikost
minimálního řezu v~grafu~$G$ bude rovněž rovna~$k$. Jaká je pravděpodobnost, že
se tak stane?

Označme $G_i$ stav grafu~$G$ před $i$-tým průchodem cyklem a $n_i$ a $m_i$ počet jeho
vrcholů a hran. Zřejmě $n_i=n-i+1$ (každou kontrakcí přijdeme o~jeden vrchol).
Navíc každý vrchol má stupeň alespoň~$k$, jelikož jinak by triviální řez okolo
tohoto vrcholu byl menší než minimální řez. Proto platí $m_i \ge kn_i/2$. Hranu
ležící v~řezu~$C$ tedy vybereme s~pravděpodobností nejvýše $k/m_i \le k/(kn_i/2) = 2/n_i
= 2/(n-i+1)$. Všechny hrany z~řezu~$C$ proto postoupí do výsledného grafu~$G$
s~pravděpodobností
$$\eqalign{
p     &\ge \prod_{i=1}^{n-\ell} \left( 1 - {2\over n-i+1} \right)
       = \prod_{i=1}^{n-\ell} {n-i-1 \over n-i+1} = \cr
      &= {n-2\over n} \cdot {n-3\over n-1} \cdot {n-4\over n-2} \cdot \cdots \cdot {\ell+1\over \ell+3} \cdot {\ell\over \ell+2} \cdot {\ell-1 \over \ell+1}
       = {\ell\cdot(\ell-1) \over n\cdot(n-1)}. \cr
}$$

Můžeme tedy zvolit pevně~$\ell$, spustit na~zadaný graf proceduru {\sc Contract}
a ve~vzniklém konstantně velkém grafu pak nalézt minimální řez hrubou silou
(to je obzvláště snadné pro $\ell=2$ -- tehdy stačí vzít všechny zbylé hrany).
Takový algoritmus nalezne minimální řez s~pravděpodobností alespoň $c/n^2$,
kde~$c$ je konstanta závislá na~$\ell$.

Nabízí se otázka, k~čemu je dobrý algoritmus, který vydá správný výsledek
s~pravděpodobností na~řádu $1/n^2$. To opravdu není mnoho, ale stejně jako
mnoho jiných randomizovaných algoritmů i tento můžeme iterovat: výpočet
zopakujeme $K$-krát a použijeme nejmenší z~nalezených řezů. Ten už bude
minimální s~pravděpodobností
$$
P_K \ge 1 - (1-c/n^2)^K \ge 1 - e^{-cK/n^2}.
$$
(Druhá nerovnost platí díky tomu, že $e^{-x} \ge 1-x$ pro všechna $x\ge 0$.)
Pokud tedy nastavíme počet opakování~$K$ na $\Omega(n^2)$, můžeme tím pravděpodobnost
chyby stlačit pod libovolnou konstantu, pro $K=\Omega(n^2\log n)$ pod převrácenou
hodnotu libovolného polynomu v~$n$ a pro $K=\Omega(n^3)$ už bude dokonce exponenciálně malá.

\h{Implementace}

Odbočme na chvíli k~implementačním záležitostem. Jak reprezentovat graf, abychom
stihli rychle provádět kontrakce? Bude nám stačit obyčejná matice sousednosti,
v~níž pro každou dvojici vrcholů budeme udržovat, kolik paralelních hran mezi těmito vrcholy
vede. Pokud chceme kontrahovat hranu~$uv$, stačí projít všechny hrany vedoucí
(řekněme) z~vrcholu~$u$ a zařadit je k~vrcholu~$v$. To zvládneme v~čase $\O(n)$
na jednu kontrakci.

Pro náhodný výběr hrany budeme udržovat pole stupňů vrcholů, vybereme náhodně
vrchol~$v$ s~pravděpodobností úměrnou stupni a poté projitím příslušného řádku
matice sousednosti druhý vrchol~$v$ s~pravděpodobností úměrnou počtu hran
mezi $u$ a~$v$. To opět trvá čas $\O(n)$.

Procedura {\sc Contract} tedy pracuje v~čase $\O((n-\ell)\cdot n)$ a celý
$K$-krát ziterovaný algoritmus v~$\O(Kn^2)$. Pokud se spokojíme s~převráceně
polynomiální pravděpodobností chyby, nalezneme minimální řez v~čase $\O(n^4\log n)$.

\h{Kargerův-Steinův algoritmus}

Předchozí prostinký algoritmus můžeme ještě podstatně vylepšit.
Všimněme si, že během kontrahování hran pravděpodobnost toho, že vybereme \uv{špatnou}
hranu ležící v~minimálním řezu, postupně rostla z~počátečních $2/n$ až po obrovské
$2/3$ v~poslední iteraci (pro $\ell=2$). Pomůže tedy zastavit kontrahování dříve
a~přejít na~spolehlivější způsob hledání řezu.

Pokud zvolíme $\ell=\lceil n/\sqrt2 +1\rceil$, pak řez~$C$ přežije kontrahování
s~pravděpodobností alespoň
$$
{\ell\cdot (\ell-1) \over n\cdot (n-1)}
\ge {(n/\sqrt2+1)\cdot n/\sqrt2 \over n\cdot (n-1)}
= {n/\sqrt2+1 \over \sqrt2 \cdot (n-1)}
= {n+\sqrt 2 \over 2\cdot (n-1)}
\ge {1\over 2}.
$$

Jako onen spolehlivější způsob hledání řezu následně zavoláme stejný algoritmus
rekurzivně, přičemž jak kontrakci, tak rekurzi provedeme dvakrát a z~obou
nalezených řezů vybereme ten menší, čímž pravděpodobnost chyby snížíme.

Hotový algoritmus bude vypadat následovně:

\s{Algoritmus} $\hbox{\sc MinCut}(G)$:
\algo
\:Pokud $n<7$, najdeme minimální řez hrubou silou.
\:$\ell\leftarrow \lceil n/\sqrt 2 + 1 \rceil$.\foot{To je méně než~$n$, kdykoliv $n\ge 7$.}
\:$C_1 \leftarrow \hbox{\sc MinCut}(\hbox{\sc Contract}(G,\ell))$.
\:$C_2 \leftarrow \hbox{\sc MinCut}(\hbox{\sc Contract}(G,\ell))$.
\:Vrátíme menší z~řezů $C_1$, $C_2$.
\endalgo

Jakou bude mít tento algoritmus časovou složitost? Nejprve odhadněme hloubku
rekurze: v~každém kroku se velikost vstupu zmenší přibližně $\sqrt 2$-krát, takže strom
rekurze bude mít hloubku $\O(\log n)$. Na~$i$-té hladině zpracováváme $2^i$
podproblémů velikosti $n/2^{i/2}$. Při výpočtu každého podproblému voláme
dvakrát proceduru {\sc Contract}, která spotřebuje čas $\O((n/2^{i/2})^2)
= \O(n^2/2^i)$. Součet přes celou hladinu tedy činí $\O(n^2)$ a přes všechny
hladiny $\O(n^2\log n)$. Oproti původnímu kontrakčnímu algoritmu jsme si tedy
moc nepohoršili.

Zbývá spočítat, s~jakou pravděpodobností algoritmus skutečně nalezne minimální řez.
Označme $p_i$ pravděpodobnost, že algoritmus na~$i$-té hladině stromu
rekurze (počítáno od~nejhlubší, nulté hladiny) vydá správný výsledek
příslušného podproblému. Jistě je $p_0=1$ a platí rekurence
$p_i \ge 1 - (1 - 1/2 \cdot p_{i-1})^2$. Uvažujme posloupnost $g_i$, pro kterou
jsou tyto nerovnosti splněny jako rovnosti, a~všimněme si, že $p_i\ge g_i$.
Víme tedy, že $g_0=1$ a $g_i = 1-(1-1/2\cdot g_{i-1})^2 = g_{i-1} - g_{i-1}^2/4$.

Nyní zavedeme substituci $z_i = 4/g_i - 1$, čili $g_i=4/(z_i+1)$, a~tak získáme
novou rekurenci pro~$z_i$:
$$
{4 \over z_i+1} = {4\over z_{i-1}+1} - {4\over (z_{i-1}+1)^2},
$$
kterou už můžeme snadno upravovat:
$$\eqalign{
{1\over z_i+1} &= {z_{i-1} \over (z_{i-1}+1)^2}, \cr
z_i+1 &= {z_{i-1}^2 + 2z_{i-1} + 1 \over z_{i-1}}, \cr
z_i+1 &= z_{i-1} + 2 + {1\over z_{i-1}}. \cr
}$$
Jelikož $z_0=3$, a~tím pádem $z_i\ge 3$ pro všechna~$i$, získáme z~poslední
rovnosti vztah $z_i \le z_{i-1} + 2$, a~tudíž $z_i \le 2i+3$.
Zpětnou substitucí obdržíme $g_i \ge 4/(2i+4)$, tedy $p_i \ge g_i = \Omega(1/i)$.

Nyní si stačí vzpomenout, že hloubka rekurze činí $\O(\log n)$, a ihned získáme
odhad pro pravděpodobnost správného výsledku $\Omega(1/\log n)$. Náš algoritmus
tedy stačí ziterovat $\O(\log^2 n)$-krát, abychom pravděpodobnost chyby stlačili
pod převrácenou hodnotu polynomu. Dokázali jsme následující větu:

\s{Věta:} Iterováním algoritmu {\sc MinCut} nalezneme minimální řez v~neohodnoceném
neorientovaném grafu v~čase $\O(n^2\log^3 n)$ s~pravděpodobností chyby $\O(1/n^c)$
pro libovolnou konstantu $c>0$.

\h{Cvičení}

\numlist\ndotted
\:Zvolte lepší reprezentaci grafu, abyste prostorovou složitost snížili z~$\Theta(n^2)$ na~$\O(m)$.
  Může se tím zmenšit časová složitost?
\:Dokažte, že z~našeho rozboru pravděpodobnosti chyby plyne, že v~každém grafu je nejvýše $\O(n^2)$
  minimálních řezů.
\:Ukažte, jak algoritmus upravit pro grafy s~ohodnocenými hranami.
\endlist

\references
\bye
