スキップしてメイン コンテンツに移動

definition of continuity by Topology

Introduction


Today, I will write definition of continuity of function by definition of an open set.
I wrote this post about the definition of Topology space, open set, and a thing that open set satisfy the axiom of Topology, but I did not write about continuity of function by definition of an open set. Actually, It is very important.

Overview

  •  Open set
  • $\epsilon-\delta$ reasoning
  • definition of continuity of function by an open set
  • Equivalence


Open set

Let (X,d) is distance space.
$A \subset X$ is open set
$$\iff$$
$$\forall x \in A,~~\exists \epsilon > 0, ~~s.t.~~ B(x,\epsilon) \subset A$$

here,$$B(x,\epsilon):= \{y\in A| d(x,y) < \epsilon\}$$

This definition of open set satisfies Axim of Topology. It written the last time post.

$\epsilon-\delta$ reasoning

I will explain the $\epsilon-\delta$ reasoning. This reasoning is learned in bachelor third student at Univ.

Let f:X-> Y: map
f is countinous where $x=x_0$
$$\iff$$
$$\lim_{x \rightarrow x_0} f(x) = f(x_0)$$
$$\iff$$
$$\forall \epsilon > 0,~~\exists \delta >0 ~~s.t~~ d(x,x_0) < \delta \implies d(f(x),f(x_0)) < \epsilon $$

definition of continuity of function by an open set

Define1.0

Let $(X,\mathbb{O}_X),(Y,\mathbb{O}_Y)$ is Topology space, and
$f:X \rightarrow Y$ is countinous where $x=x_0$
$$\iff$$
$$f(x_0) \in \forall V:\textrm{open set} \subset Y~~,f^{-1} (V) \subset X ~~\textrm{is open set}$$
here,$\mathbb{O_X}$ and $\mathbb{O_Y}$ is open set family in X,Y, and  $f^{-1} (V) := \{a \in X| f(a) \in V \}$.
This definition is equivalence with $\epsilon-\delta$ reasoning.

Equivalence

- Define 1.0 $\implies$ $\epsilon-\delta$ reasoning
$\forall V, f(x_0) \in V$. Thus, $x_0 \in f^{-1}(V)$.
Because $f^{-1}(V)$ is open set, $\exists \delta > 0 ~~s.t.~~ B(x_0,\delta) \subset f^{-1}(V)$.
Therefore, $\forall x \in X ,~~x \in B(x_0,\delta) \implies x \in f^{-1}(V)$.
$x \in B(x_0,\delta) \iff d(x,x_0) < \delta$
$x \in f^{-1}(V) \iff f(x) \in V$.
here, let radius of V is $\frac{\epsilon}{2}$.
Then, because $f(x) \in V$, $~~d(f(x),f(x_0)) < \epsilon$.

At result, because V is arbitrary,
$$\forall \epsilon ~~\exists \delta ~~s.t.~~ d(x,x_0) < \delta \implies d(f(x),f(x_0)) < \epsilon$$

- $\epsilon-\delta$ reasoning. $\implies$ Define 1.0
$\forall x \in f^{-1}(V)$, because $f(x) \in V$ and $f(x_0) \in V$, $d(f(x),f(x_0)) < \epsilon$. here, let $\frac{\epsilon}{2}$ is redius of V.
by $\epsilon-\delta$  reasoning, $\exists \delta > 0 ~~s.t.~~ d(x,x_0) < \delta$.

Let $B(x,\delta):= \{y \in X|d(x,y) < \delta \}$.
$\forall y \in B(x,\delta),$ because $d(x,y) < \delta$, $d(f(x),f(y)) < \epsilon$. Thus, $f(y) \in B(f(x),\epsilon) \subset V$ because $V$ is open set.
Because $f(y) \in V$, $y \in f^{-1}(V)$.
Thus, $y \in B(x,\delta) \implies y \in f^{-1}(V)$.
At result, $B(x,\delta) \subset  f^{-1}(V)$.
Therefore $f^{-1}(V)$ is open set.

Q.E.D

コメント

このブログの人気の投稿

MAP推定

Introduction English ver 今日はMAP推定(事後確率最大化法)について書きました。MAP推定ではベイズの定理を使います。データが少ないとき、最尤推定の結果をあまり信用できない話は、最尤推定の時に書きました。この時、MAP推定では自分の事前に持っている情報を取り入れることができます。 概要 ベイズの定理 MAP推定 共役分布 MAP推定の例 ベイズの定理 ベイズの定理は $$P(A|B) = \frac{P(B|A)P(A)}{P(B)}$$ です。 ただし、 $P(A|B)$ はBが起こった時のAの起こる確率です。 詳しくは  http://takutori.blogspot.com/2018/04/bayes-theorem.html  を見てください。 Map推定 MAP推定ではベイズの定理を使います。MAP推定は事後確率が最大になるようなパラメータを選びます。 いま、$x_1,x_2,...,x_n$というデータを$\theta$というパラメータを持つ分布から得られたとする。この時$P(\theta|x_1,x_2,...,x_n)$を求めたい。 ここで、ベイズの定理を使う。 $$P(\theta|x_1,x_2,...,x_n) = \frac{P(x_1,x_2,...,x_n | \theta ) P(\theta)}{P(x_1,x_2,...,x_n)}$$ ここで、$P(\theta)$は$\theta$の事前分布である。 $x_1,x_2,...,x_n$はそれぞれ独立であるので、 $$P(x_1,x_2,...,x_n | \theta ) = \Pi_{i=1}^n P(x_i|\theta)$$. よって、マップ推定は $$\theta^{\star} = \arg \max_{\theta} \frac{\Pi_{i=1}^n P(x_i|\theta) P(\theta)}{P(x_1,x_2,...,x_n)}$$ となる。 $P(x_1,x_2,...,x_n)$という値は$\theta$には依存しない。よって、定数であり、最適化に定数は関係ないので、排除すると、MAP推定は次のようになる。 $$\th...

カーネルK-means 理論編

Introduction English ver 今日は、カーネルK-meansの理論について書きます。カーネルK-meansは通常のK-meansの欠点を補うことができます。通常のK-meansの欠点とカーネルK-meansの強みも説明します。もし、まだ御覧になられていなければ、通常の K-means 理論編 の記事を見ていただけるとよいのではないかと思います。 カーネルK-meansの実装編 も併せてご覧ください。 概要 K-meansの弱点 カーネルトリック カーネルK-means アルゴリズム K-meansの弱点 例えば、次のようなデータを用意します。 このデータはK-meansによってうまく分類することはできません。なぜなら通常のK-meansでは、データとプロトタイプのユークリッド距離に依存しているからです。そのため、このような円状に分布しているデータはうまく分類することができません。 プロトタイプとはそれぞれのクラスにあり、そのクラスを代表するようなもののことです。K-meansでは各クラスの平均ベクトルとなります。それゆえ、以下のような分類になってしまいます。 このようなデータではK-meansはうまくいきません。 K-meansで分類できるデータセットは次のように各クラスで固まっている必要があります。 カーネルK-meansはK-meansの弱点を補います。 カーネルトリック 初めに、カーネルトリックを説明します。 線形分離できないようなデータ$X$を例えば次のように線形分離できるように$\phi(x)$に送る写像$\phi$を考えます。 カーネルは次のように定義されます。 $$K(x,y) = \phi(x)^T \phi(y)$$ $\phi$を具体的に計算することは難しいですが、$K(x,y)$を計算することなら簡単です。 この手法をカーネルトリックと呼ばれます。 カーネルK means K-meansの目的関数を復習しておきます。 $$J = \sum_{n=1}^{N} \sum_{k=1}^{K} r_{nk} ||x_n-\mu_k||^2$$ ここで、 プロトタイプは$\mu_i ~\forall k \in K$としま...

K-means 理論編

Introduction English ver 今日はK-meansアルゴリズムの理論について書きます。 K-meansアルゴリズムはクラスタリングのためのアルゴリズムです。 K-meansの実装の記事は カーネルK-meansの実装 を御覧ください。 この記事はカーネルK-menasの実装についての記事ですが、通常のK-meansの実装も行っています。カーネルK-meansについてはまた、今度別の記事で紹介したいと思います。 概要 1 of K 符号化法 プロトタイプ 歪み尺度 最適化 1 of K 符号化法 K-meansはK個のクラスについて分類することを考えます。 K-meansでは $x_n$がkのクラスに属していることを次のように表します。 ベクトル$r_n:1 \times K$ を $$r_n := (0,0,..,1,..,0)$$ このベクトルはk番目にのみ1を持ち、それ以外は0を要素に持つようなベクトルです。 こののような表現の仕方を1 of K符号化法と呼びます。 プロトタイプ K-meansではプロトタイプと呼ばれるベクトルを選びます。このベクトルは各クラスに一つあり、そのクラスの代表のようなベクトルです。 K-means ではそのようなベクトルは各クラスの平均ベクトルとなります。これは目的関数から自然と導かれます。 歪み尺度 プロトタイプベクトルを $\mu_i ~\forall k \in K$とします。 この時、k-meansの目的関数は次のようになります。 $$J = \sum_{n=1}^{N} \sum_{k=1}^{K} r_{nk} ||x_n-\mu_k||^2$$ ここで、 $r_{nk}$ は$r_n$のk番目の要素です。 この目的関数について少し説明をします。$r_{n}$は$x_n$が属しているクラスのラベルの場所だけ1で他は0であるので、 $$J = \sum_{n=1}^{N} ||x_n - \mu_{x_n}||$$ ここで、$\mu_{k_n}$は$x_n$が属しているクラスのプロトタイプです。 よって、 $$J = ||x_1 - \mu_{x_1}|| + ||x_2 -\mu_{x_2}|| + ...