함수의 벡터화
함수공간
= 함수를 원소로 가지는 집합
= 두 고정된 집합 사이의 함수들의 집합
= 함수를 벡터로 봄
함수를 벡터로 보면, 함수도 벡터처럼 연산 가능
(1) 덧셈: (f + g)(x) = f(x) + g(x)
(2) 스칼라곱: (c·f)(x) = c·f(x)
(3) 내적: ⟨f, g⟩ = ∫ f(x)g(x) dx
함수공간의 예시:
(1) 다항식 공간 : {a₀ + a₁x + a₂x² + ... + aₙxⁿ}
(2) 르베그 공간 : 측도 공간에서 절댓값의 p제곱이 르베그 적분 가능한 함수공간.
(3) 바나흐 공간 : 완비성을 갖춘 노름 공간. 힐베르트 공간의 일반화된 형태.
(4) 힐베르트 공간 : 완비내적공간. 내적을 사용해 길이와 각도를 정의 가능.
함수 연산 예시
(1) 덧셈
f(x) = x², g(x) = 2x 라면
(f + g)(x) = x² + 2x
(2) 스칼라곱
f(x) = sin(x), c = 3 라면
(3·f)(x) = 3sin(x)
(3) 내적
* 내적은 다양하게 정의 가능
⟨f, g⟩ = ∫ f(x)g(x) dx (L² 내적)
⟨f, g⟩ = ∑ f(xᵢ)g(xᵢ) (이산적 내적)
⟨f, g⟩ = f(x₀)g(x₀) (점별 내적)
코시수열
코시수열
= 서로 가까워지는 수열
= 수렴하는 수열
= ∀ε > 0, ∃N such that m,n > N ⇒ |aₙ - aₘ| < ε
= 충분히 큰 m,n에 대해 aₙ과 aₘ이 아주 비슷한 수열
함수공간에서 코시수열
= 함수들의 수열 {fₙ}이 코시수열
함수들의 코시 수열 예시:
fₙ(x) = (1 + x/n)ⁿ
→ 이 수열은 eˣ로 수렴
→ limₙ→∞ fₙ(x) = eˣ
→ 충분히 큰 n, m에 대해 fₙ과 fₘ이 아주 비슷하다면 그 함수열이 코시 수열
평가함수 & 힐베르트 공간 & 재생적 힐베르트 공간
평가함수
= 어떤 함수 f를 입력으로 받아 그 함수에서의 f(x)값을 출력하는 함수
= Eₓ(f) = f(x)로 정의되는 함수
평가함수 Eₓ(f)가 연속
= f로 수렴하는 함수들의 수열 {fₙ}이 있을 때, 각 점 x에서의 평가값도 f(x)로 수렴
= "limₙ→∞ fₙ(x) = f(x)" ⇒ "limₙ→∞ Eₓ(fₙ) = limₙ→∞ fₙ(x) = f(x)"
= 함수열 {fₙ}이 f로 수렴할 때, 수열 {Eₓ(fₙ)}이 Eₓ(f)로 수렴
어떤 함수공간 H가 힐베르트 공간
= 그 함수공간 H가 완비성이 있음
= 그 함수공간 H가 코시수열이 수렴하는 공간
평가함수들이 연속인 힐베르트 공간
= 재생적 힐베르트 공간(RKHS)
= 재생커널이 존재하는 공간
재생커널
재생커널이 존재
= 커널함수가 존재하고, 그 커널함수가 재생적
= 커널함수 K: X⋅X → ℝ이 다음을 만족
(1) k(·, x) ∈ H for all x ∈ X
(2) f(x) = ⟨f, k(·, x)⟩ for all f ∈ H, x ∈ X