ISTA1 Deep dive into Optimization : Proximal gradient descent (2) "모바일 앱 환경에서는 latex 수식이 깨져 나타나므로, 가급적 웹 환경에서 봐주시길 바랍니다." 오늘은 Proximal operator를 사용한 Proximal gradient descent 중 가장 대표적인 알고리즘인 ISTA에 대해 이야기하고자 한다. 우선 Proximal gradient descent는 다음과 같은 상황을 풀 때 적용되는 gradient descent의 일반화된 알고리즘이라 할 수 있다. $\min F(x) = f(x) + g(x)$ 여기서 $f(x)$는 convex하고 differentiable한 함수이며 L-smooth하다. $g(x)$는 convex하지만 non-differentiable하다. 위 objective function인 $F(x)$를 minimize할 때, 우리.. 2023. 6. 14. 이전 1 다음