Раздел по основам теории графов слегка подредактирован после вынесения частей в линейную алгебру.

Author: gsvgit

tex/GraphTheoryIntro.tex

@@ -212,26 +212,25 @@ \section{Задачи поиска путей}
 \item Наличие пути, удовлетворяющего ограничениям, между некоторыми вершинами: задача достижимости.
       При данной постановке задачи, нас интересует ответ на вопрос достижимости вершина $v_1$ из вершины $v_2$ по пути, удовлетворяющему ограничениям.
       Такая постановка требует лишь проверить существование пути, но не обязательно его предоставлять в явном виде.
-\item Поиск одного пути, удовлетворяющего ограничениям: необходимо не только установить факт наличия пути, но и  предъявить его.
+\item Поиск одного пути, удовлетворяющего ограничениям: необходимо не только установить факт наличия пути, но и  предъявить его. При этом часто подразумевается, что возвращается любой путь, являющийся решением, без каких-либо дополнительных ограничений. Хотя, например, в некоторых задачах дополнительное требование простоты или наименьшей длинны выглядит достаточно естественным.
 \item Поиск всех путей: необходимо предоставить все пути, удовлетворяющеие заданным ограничениям.
 \end{itemize}
 
 С другой стороны, задачи различаются ещё и по тому, как фиксируются множества стартовых и конечных вершин.
 Здесь возможны следующие варианты:
 \begin{itemize}
-\item из одной вершины до всех,
+\item от одной вершины до всех,
 \item между всеми парами вершин,
 \item межу фиксированной парой вершин,
 \item между двумя множествами вершин.
 \end{itemize}
 
 Стоит отметить, что последний вариант является самым общим и сотальные --- лишь его частные случаи. 
-Однако этот вариант часто выделяют отдельно, подразумевая, что остальные, выделенные, варианты в него не включаются. В итоге мы можем сформулировать прямое произведение различных постановок задач о поиске путей, перебирая возможные варианты желаемого результата и фиксируя разные стартоыве и финальные множетсва.
+Однако этот вариант часто выделяют отдельно, подразумевая, что остальные, выделенные, варианты в него не включаются. В итоге мы можем сформулировать прямое произведение различных постановок задач о поиске путей, перебирая возможные варианты желаемого результата и фиксируя стартоыве и финальные множетсва разными способами.
 
 Часто при поиске путей на них накладывают дополнительные ограничения. Например, можно потребовать, чтобы пути были простыми или не проходили через определённые вершины.
 Ограничение, имеющее важное прикладное значение, --- минимальность длины искомого пути.
-Одна из важных задач, имеющих как прикладное, так и теоретическое значение --- \textit{поиск кратчайших путей в графе между всеми парами вершин(англ. APSP --- all-pairs shortest paths)}.
-
+Одна из важных задач, имеющих как прикладное, так и теоретическое значение --- \textit{поиск кратчайших путей в графе между всеми парами вершин(англ. APSP --- all-pairs shortest paths)}. Рассмотрим её более подробно. Тем более, что данная задача в определённом смысле близка к задаче, которая будет основной в данной работе, и из алгоритмов для APSP можно почерпнуть идеи для алгоритмов решения задачи поиска путей с ограничениями в терминах формальных языков.
 
 
 \section{APSP и транзитивное замыкание графа}
@@ -245,8 +244,8 @@ \section{APSP и транзитивное замыкание графа}
 
 Как несложно заметить, транзитивное замыкание графа --- это тоже граф.
 Более того, если решить задачу поиска кратчайших путей между всеми парами вершин, то мы построим транзитивное замыкание.
-Поэтому сразу рассмотрим алгоритм Флойда-Уоршелла~\cite{Floyd1962, Bernard1959, Warshall1962}, который является общим алгоритмом поиска кратчайших путей (умеет обрабатывать рёбра с отрицательными весами, чего не может, например, алгоритм Дейкстры). Его сложность: $O(n^3)$, где $n$ --- количество вершин в графе.
-При этом, данный алгоритм легко упростить до алгоритма построения транзитивного замыкания.
+
+Поэтому сразу рассмотрим алгоритм Флойда-Уоршелла~\cite{Floyd1962, Bernard1959, Warshall1962}, который является общим алгоритмом поиска кратчайших путей. Данный алгоритм умеет обрабатывать рёбра с отрицательными весами, чего не может, например, алгоритм Дейкстры. Его сложность: $O(n^3)$, где $n$ --- количество вершин в графе. При этом, данный алгоритм легко упростить до алгоритма построения транзитивного замыкания. Псевдокод алгоритма представлен на листинге~\ref{lst:algoFloydWarxhall}.
 
 \begin{algorithm}
   \floatname{algorithm}{Listing}
@@ -259,7 +258,7 @@ \section{APSP и транзитивное замыкание графа}
     \For{k = 0; k < n; k++}
       \For{i = 0; i < n; i++}
         \For{j = 0; j < n; j++}
-          \State{$M[i,j] \gets$ min$(M[i,j], M[i,k] + M[k,j])$}
+          \State{$M[i,j] \gets M[i,j] \oplus (M[i,k] \otimes M[k,j])$}
         \EndFor
       \EndFor
     \EndFor
@@ -268,8 +267,9 @@ \section{APSP и транзитивное замыкание графа}
 \end{algorithmic}
 \end{algorithm}
 
+В зависимости от того, над каким полукольцом построена матрица смежности (какого рода веса на рёбрах графа) данный алгоритм может решать несколько разные задачи. Например, если возьмём трописеское полукольцо $(\mathbb{R}_{+\infty}, \min, +)$, то получим алгоритм для поимка кратчайших путей. Если же возьмём булево полукольцо, то получим алгоритм для построения транзитивного замыкания графа.
 
-\begin{example}
+\begin{example}[Транзитивное замыкание графа]
   Пусть дан следующий граф:
   \begin{center}
   \begin{tikzpicture}[shorten >=1pt,on grid,auto]
@@ -286,18 +286,42 @@ \section{APSP и транзитивное замыкание графа}
   \end{tikzpicture}
   \end{center}
 
-  Построим его транзитивное замыкание:
+  Его матрица смежности:
+  $$ M = 
+  \begin{pmatrix}
+    1 & 1 & 0 & 0 \\
+    0 & 1 & 1 & 0 \\
+    1 & 0 & 1 & 1 \\
+    0 & 0 & 1 & 1
+  \end{pmatrix}
+  $$
+
+  Здесь мы считаем, что отношение достижимости рефлексивно: все диагональные элементы матрицы $M$ равны 1, хотя петель у вершин нету. 
+
+  Воспользовавшись алгоритмом из листинга~\ref{lst:algoFloydWarxhall}, специализированного на случай булева полукольца, можно получить следующую матрицу смежности.
+
+  $$ M' = 
+  \begin{pmatrix}
+    1 & 1 & 1 & 1 \\
+    1 & 1 & 1 & 1 \\
+    1 & 1 & 1 & 1 \\
+    1 & 1 & 1 & 1
+  \end{pmatrix}
+  $$
+
+  А значит, транзитивным замыканием исходного графа является полный граф и он выглядит следующим образом.
+  
   \begin{center}
   \begin{tikzpicture}[shorten >=1pt,on grid,auto]
      \node[state] (q_0)   {$0$};
      \node[state] (q_1) [above right = 1.4cm and 1cm of q_0] {$1$};
      \node[state] (q_2) [right = 2cm of q_0] {$2$};
      \node[state] (q_3) [right = 2cm of q_2] {$3$};
       \path[->]
-      (q_0) edge[loop below] node {} ()
+      (q_0) edge[loop left] node {} ()
       (q_1) edge[loop above] node {} ()
       (q_2) edge[loop below] node {} ()
-      (q_3) edge[loop below] node {} ()
+      (q_3) edge[loop right] node {} ()
 
       (q_0) edge  node {} (q_1)
       (q_1) edge[bend right] node {} (q_0)
@@ -307,75 +331,71 @@ \section{APSP и транзитивное замыкание графа}
       (q_0) edge[bend right] node {} (q_2)
       (q_2) edge[bend left, above]  node {} (q_3)
       (q_3) edge[bend left, below]  node {} (q_2)
-      (q_0) edge[bend right = 60]  node {} (q_3)
+      (q_0) edge[bend right = 55]  node {} (q_3)
+      (q_3) edge[bend left = 75]  node {} (q_0)
       (q_1) edge[bend left, above]  node {} (q_3);
   \end{tikzpicture}
   \end{center}
-  \begin{remark}
-    На самом деле, петли у вершины 3 может и не быть, т.к. это зависит от определения.
-  \end{remark}
+
 \end{example}
 
-\begin{remark}
-Приведем список интересных работ по APSP для ориентированных графов с вещественными весами (здесь $n$ --- количество вершин в графе):
-\begin{itemize}
-    \item M.L. Fredman (1976) --- $O(n^3(\log \log n / \log n)^\frac{1}{3})$ --- использование дерева решений~\cite{FredmanAPSP1976}
-    \item W. Dobosiewicz (1990) --- $O(n^3 / \sqrt{\log n})$ --- использование операций на Word Random Access Machine~\cite{Dobosiewicz1990}
-    \item T. Takaoka (1992) --- $O(n^3 \sqrt{\log \log n / \log n})$ --- использование таблицы поиска~\cite{Takaoka1992}
-    \item Y. Han (2004) --- $O(n^3 (\log \log n / \log n)^\frac{5}{7})$~\cite{Han2004}
-    \item T. Takoaka (2004) --- $O(n^3 (\log \log n)^2 / \log n)$~\cite{Takaoka2004}
-    \item T. Takoaka (2005) --- $O(n^3 \log \log n / \log n)$~\cite{Takaoka2005}
-    \item U. Zwick (2004) --- $O(n^3 \sqrt{\log \log n} / \log n)$~\cite{Zwick2004}
-    \item T.M. Chan (2006) --- $O(n^3 / \log n)$ --- многомерный принцип ``разделяй и властвуй''~\cite{Chan2008}
-    \item и др.
-\end{itemize}
-\end{remark}
+Заметим, что рефлексивность отношения (значения элементов на главной диагонали матрицы смежности) непосредственно связана с особенностями решаемой задачи. Например, если говорить о кратчайших расстояних, то кажется естественным считать расстояние от вершины до самой себя равной нулю. Однако для задачи транзитивного замыкания это уже не столь естественное предположение и часто отдельно говорят от рефлексивно-транзитивном замыкании, которое отдельно явным образом привносит рефлексивность (петли, диагональные элементы матрицы смежности).
 
-\section{APSP и произведение матриц}
-Алгоритм Флойда-Уоршелла можно переформулировать в терминах перемножения матриц. Для этого введём обозначение.
 
 
-\begin{definition}
-Пусть даны матрицы $A$ и $B$ размера $n \times n$. Определим операцию $\star$, которую называют \textit{Min-plus matrix multiplication}:
+\section{APSP и произведение матриц}
 
-    $A \star B = C$ --- матрица размера $n \times n$, т.ч.
-    $C[i,j] = \min_{k = 1 \dots n} \{ A[i,k] + B[k,j] \}$
-\end{definition}
+Алгоритм Флойда-Уоршелла можно переформулировать в терминах перемножения матриц над тропическим полукольцом.
+
+Пусть $D_k$ --- матрица кратчайших путей, состоящих не более чем из $k$ рёбер. То есть $D_k[i,j]$ --- это длина кратчайшего пути из вершины $i$ в вершину $j$, такого, что он состоит не более чем из $k$ ребер. Если такого пути нет, то $D_k[i,j] = \infty$.
 
-Также, обозначим за $D[i,j](k)$ минимальную длину пути из вершины $i$ в $j$, содержащий максимум $k$ рёбер.
-Таким образом, $D(1) = M$, где $M$ --- это матрица смежности, а решением APSP является $D(n-1)$, т.к. чтобы соединить $n$ вершин требуется не больше $n-1$ рёбер.
+Таким образом, $D_1 = M$, где $M$ --- это матрица смежности исходного графа, а решением APSP является $D_{n-1}$.
 
 \begin{center}
     $D(1) = M$ \\
-    $D(2) = D(1) \star M = M^2$ \\
-    $D(3) = D(2) \star M = M^3$ \\
+    $D(2) = D(1) \cdot M = M^2$ \\
+    $D(3) = D(2) \cdot M = M^3$ \\
     $\dots$ \\
-    $D(n-1) = D(n-2) \star M = M^{n-1}$ \\
+    $D(n-1) = D(n-2) \cdot M = M^{n-1}$ \\
 \end{center}
 
 Итак, мы можем решить APSP за $O(n K(n))$, где $K(n)$ --- сложность алгоритма умножения матриц.
-Сразу заметим, что, например, $D(3)$ считать не обязательно, т.к. можем посчитать $D(4)$ как $D(2) \star D(2)$.
+
+Сразу заметим, что, например, $D_3$ считать не обязательно, т.к. можем посчитать $D_4$ как $D_2 \cdot D_2$.
 Поэтому:
 
 \begin{center}
-    $D(1) = M$ \\
-    $D(2) = M^2 = M \star M$ \\
-    $D(4) = M^4 = M^2 \star M^2$ \\
-    $D(8) = M^8 = M^4 \star M^4$ \\
+    $D_1 = M$ \\
+    $D_2 = M^2 = M \cdot M$ \\
+    $D_4 = M^4 = M^2 \cdot M^2$ \\
+    $D_8 = M^8 = M^4 \cdot M^4$ \\
     $\dots$ \\
-    $D(2^{\log(n-1)}) = M^{2^{\log(n-1)}} = M^{2^{\log(n-1)} - 1} \star M^{2^{\log(n-1)} - 1}$ \\
-    $D(n-1) = D(2^{\log(n-1)})$ \\
+    $D_{2^{\log(n-1)}} = M^{2^{\log(n-1)}} = M^{2^{\log(n-1)} - 1} \cdot M^{2^{\log(n-1)} - 1}$ \\
+    $D_{n-1} = D_{2^{\log(n-1)}}$ \\
 \end{center}
 
 Теперь вместо $n$ итераций нам нужно $\log{n}$. В итоге, сложность --- $O(\log{n} K(n))$.
 Данный алгоритм называется \textit{repeated squaring}\footnote{Пример решения APSP с помощью repeated squaring: \url{http://users.cecs.anu.edu.au/~Alistair.Rendell/Teaching/apac_comp3600/module4/all_pairs_shortest_paths.xhtml}}.
 
-\section{Умножение матриц с субкубической сложностью}
-В предыдущем подразделе мы свели проблему APSP к проблеме min-plus matrix multiplication, поэтому взглянем на эффективные алгоритмы матричного умножения.
+
+Таким образом, APSP сводится к умножению матриц над полукольцом, что, к сожалению, не позволяет этим путём получить истинно субкубический алгоритм для задачи. тем неменее, позволяет получить слегка субкубический. Приведем некоторые работы по APSP для ориентированных графов с вещественными весами (здесь $n$ --- количество вершин в графе):
+\begin{itemize}
+    \item M.L. Fredman (1976) --- $O(n^3(\log \log n / \log n)^\frac{1}{3})$ --- использование дерева решений~\cite{FredmanAPSP1976}
+    \item W. Dobosiewicz (1990) --- $O(n^3 / \sqrt{\log n})$ --- использование операций на Word Random Access Machine~\cite{Dobosiewicz1990}
+    \item T. Takaoka (1992) --- $O(n^3 \sqrt{\log \log n / \log n})$ --- использование таблицы поиска~\cite{Takaoka1992}
+    \item Y. Han (2004) --- $O(n^3 (\log \log n / \log n)^\frac{5}{7})$~\cite{Han2004}
+    \item T. Takoaka (2004) --- $O(n^3 (\log \log n)^2 / \log n)$~\cite{Takaoka2004}
+    \item T. Takoaka (2005) --- $O(n^3 \log \log n / \log n)$~\cite{Takaoka2005}
+    \item U. Zwick (2004) --- $O(n^3 \sqrt{\log \log n} / \log n)$~\cite{Zwick2004}
+    \item T.M. Chan (2006) --- $O(n^3 / \log n)$ --- многомерный принцип ``разделяй и властвуй''~\cite{Chan2008}
+    \item и др.
+\end{itemize}
 
 Таким образом, вопрос о субкубических алгоритмах решения APSP всё ещё открыт~\cite{Chan2010}.
 
 
+
+
 %\section{Вопросы и задачи}
 %\begin{enumerate}
 %  \item Реализуйте абстракцию полукльца, позволяющую конструировать полукольца с произвольными операциями.