Sunny Archive ☀️
본문 바로가기

전체 글121

Steepest descent Method 총정리 목차1. Steepest descent algorithm이란?2. Steepest descent algorithm의 Stability3. (Example) 2nd order real-valued AR process   수식 전개는 계산 용이성을 위해, complex가 아닌 real을 가정하였습니다. 1. Steepest descent algorithm이란?  Steepest descent algorithm은 기울기(gradient)를 따라 함수 값을 최소화하는 최적화 알고리즘입니다. 주어진 함수에서 현재 위치의 기울기 반대 방향으로 이동하며 함수 값이 가장 빠르게 감소하게 됩니다. 각 단계에서 step size에 따라 이동하며, 기울기가 0에 가까워질수록 최적점(optimal point)에 수렴합니다. .. 2024. 10. 22.
선택과 집중 2024. 10. 22.
Linear Prediction 바로 알기 목차1. Forward linear prediction2. Backward linear prediction3. Levinson-Durbin algorithm4. Lattice predictors 수식 전개는 계산 용이성을 위해, complex가 아닌 real을 가정하였습니다.1. Forward linear prediction  위 filter의 output은 과거의 $(N-1)$개의 input을 가지고 현재를 추정한 값 $\hat{u}(n|\mathcal{U}_{n-1})$입니다. $f_M(n)$은 desired signal인 $u(n)$에서 output인 $\hat{u}(n|\mathcal{U}_{n-1})$을 뺀 값으로, filter의 Forward prediction error를 의미합니다. 여기서.. 2024. 10. 21.
Wiener filter 총정리 목차1. Wiener filter2. MMSE criterion을 만족하는 최적의 FIR filter3. Orthogonality principle4. Minimum mean-square error5. Wiener-Hopf equation6. Error-performance surface 수식 전개는 계산 용이성을 위해, complex가 아닌 real을 가정하였습니다.1. Wiener filter MMSE (minimum mean square error) 최소화하도록 설계된 최적의 linear discrete-time filter를 wiener 필터라고 합니다. 다시 말해, 필터 출력 $y(n)$이 원하는 신호 $d(n)$에 근사하도록 추정 오차 $e(n)=y(n)-d(n)$을 최소화하는 방향으로 wie.. 2024. 10. 19.
NLMS filter의 Stability normalized LMS filter의 stability에 대해 알아봅시다. 앞으로 나올 수식 전개는 모두 complex가 아닌 real을 가정하였습니다. 먼저, desired response $d(n)$에 additive disturbance가 존재한다고 가정해봅시다.   weight error vector는 desired output을 출력하는 target weight 값에서 추정한 weight 를 뺀 것으로 아래와 같이 정의해주었습니다.  mean-square deviation은 weight error vector의 energy로 정의됩니다.  $\mathfrak{D}(n)$이 이차식이기 때문에, 최솟값 $\tilde{\mu}_{\mathrm{opt}}$은  $ \mathfrak{D}(n +1) .. 2024. 10. 18.
ZOH (Zero-order hold):Mamba의 discretization rule 아래 논문으로 Mamba architecture를 처음으로 공부하면서 맞닥뜨렸던 생소한 개념, ZOH에 대해 정리해보려고 합니다. State space model (SSM)과 마찬가지로, ZOH (Zero-order hold)도 제어 이론에 기반하여 적용된 기법입니다. ※ notation이 다소 정확하지 않을 수 있습니다.. 잘못된 부분이 있다면 언제든 댓글 남겨주세요.  [논문 정리] RawBMamba: End-to-End Bidirectional State Space Model for Audio Deepfake Detection목차0. Summary1. Background2. Proposed method    2-1. Short-range feature representation    2-2. Bid.. 2024. 10. 17.