\documentclass[12pt,a4paper]{article}
\usepackage{german}
\usepackage{graphicx}
\graphicspath{{eps/}{pdf/}}
\pagestyle{empty}
\oddsidemargin 2.1mm
\textwidth     155mm
\topmargin     -15mm
\textheight    240mm

\def\IR{\mbox{I\kern-0.2em R}}
\def\IQ{\mbox{$\;$\raise0.1ex\hbox{\rule{0.5pt}{1.4ex}}\kern-0.26em Q}}

\begin{document}

%-----------------------------------------------------------------------

\noindent
{\bf K"unstliche Neuronale Netze und Deep Learning}
\hfill Sommer 2018 \\
Christian Borgelt und Christoph Doell \hfill ab 2018.05.15

%-----------------------------------------------------------------------

\vskip3ex
\centerline{\bf 3.~"Ubungsblatt}

%-----------------------------------------------------------------------

\subsubsection*{Aufgabe 11 \quad\rm Netze von Schwellenwertelementen}

\hangafter-8\hangindent-60mm\noindent
\hbox to0pt{\vbox to1.5ex{\noindent\hbox to\textwidth{\hss
\includegraphics{nnex-01}}\vss}\hss}\noindent
Bestimmen Sie die Parameter $w_{ji}$ und $\theta_j$ des in
der nebenstehenden Skizze gezeigten neuronalen Netzes aus
Schwellenwertelementen so, da\3 dieses Netz das Exklusive Oder
der Booleschen Variablen $x_1$ und $x_2$ berechnet
(d.h.\ $y = x_1 ~\dot{\vee}~ x_2$ bzw.\ $y = x_1 \oplus x_2$)! \\[1ex]
(Hinweis: Gehen Sie von einer geometrischen Interpretation der
Berechnung im Eingaberaum des rechten Neurons aus und "uberlegen
Sie, wie Sie die Ausgabe des linken Neurons verwenden k"onnen, um
die Punkte~$(x_1,x_2)$, f"ur die 1 bzw.~0 geliefert werden soll,
so anzuordnen, da\3 sie durch eine Ebene trennbar werden.)

%-----------------------------------------------------------------------

\subsubsection*{Aufgabe 12 \quad\rm Schwellenwertelemente:
                Darstellung Boolescher Funktionen}

In der Vorlesung wurde ein Algorithmus besprochen, mit dem man zu einer
beliebigen Booleschen Funktion $y = f(x_1,\ldots,x_n)$ ein Netz aus
Schwellenwertelementen konstruieren kann, das diese Funktion berechnet.
Dieser Algorithmus basierte auf der Darstellung der Booleschen Funktion
in disjunktiver Normalform. Geben Sie einen dualen Algorithmus an, der
auf der Darstellung der Booleschen Funktion in {\em konjunktiver\/}
Normalform beruht!

%-----------------------------------------------------------------------

\subsubsection*{Aufgabe 13 \quad\rm
                Trainieren von Schwellenwertelementen}

Geben Sie den Ablauf des Lernvorgangs (Delta-Regel) eines
Schwellenwertelementes f"ur die Boolesche Funktion $x_1 \to x_2$ an!
(Am besten mit Hilfe einer Tabelle, die Spalten f"ur die Werte von
$x_1$, $x_2$, $o = x_1 \to x_2$, $\vec{x}\cdot\vec{w}$, $y$, $e$,
$\Delta\theta$, $\Delta w_1$, $\Delta w_2$, $\theta$, $w_1$ und
$w_2$ enth"alt.) Verwenden Sie als Anfangsbelegung des (erweiterten)
Gewichtsvektors $\vec{w} = (0,0,0)$ und als Lernrate~1. Geben Sie
eine geometrische Interpretation des Lernergebnisses an!

%-----------------------------------------------------------------------

\subsubsection*{Aufgabe 14 \quad\rm Aktualisierungsreihenfolge}

Gegeben sei das folgende Netz aus Schwellenwertelementen:
\begin{center}
\iftrue
\includegraphics{nnex-02}
\else
\unitlength1.2mm
\begin{picture}(54,28)
%\multiput(0,0)(54,0){2}{\line(0,1){28}}
%\multiput(0,0)(0,28){2}{\line(1,0){54}}
\put( 3,22){\makebox(0,0){$x_1$}\arwto{e}}
\put( 3, 6){\makebox(0,0){$x_2$}\arwto{e}}
\put(19,22){\neuron{1}\arwto{s}\bowto{ne}}
\put(19, 6){\neuron{1}\bowto{ne}}
\put(35,22){\neuron{1}\bowto{sw}\arwto{e}}
\put(35, 6){\neuron{1}\bowto{sw}\arwto{e}\arwto{nw}}
\put(51,22){\makebox(0,0){$y_1$}}
\put(51, 6){\makebox(0,0){$y_2$}}
\put(27,25.5){\makebox(0,0)[b]{\footnotesize 1}}
\put(30,19.5){\makebox(0,0)[t]{\footnotesize $-1$}}
\put(18,14){\makebox(0,0)[r]{\footnotesize 1}}
\put(24, 9){\makebox(0,0)[b]{\footnotesize 1}}
\put(27, 2.5){\makebox(0,0)[t]{\footnotesize $-1$}}
\put(30,14){\makebox(0,0)[t]{\footnotesize 1}}
\put(19,26){\makebox(0,0)[b]{$u_1$}}
\put(19, 2){\makebox(0,0)[t]{$u_2$}}
\put(35,26){\makebox(0,0)[b]{$u_3$}}
\put(35, 2){\makebox(0,0)[t]{$u_4$}}
\end{picture}
\fi
\end{center}
Zeigen Sie, da\3 es von der Aktivierungsreihenfolge der
Schwellenwertelemente abh"angt, ob das Netz in einen stabilen
Zustand gelangt, wenn die Eingaben $x_1 = 0$ und $x_2 = 1$ angelegt
werden!

%-----------------------------------------------------------------------

\end{document}
