AI with River AI with River

변분 추론(variational inference)은 복잡한 확률 분포를 근사화하는 기법 중 하나입니다. 주로 베이지안 통계에서 사용되며, 매개변수의 사후 분포를 직접 계산하는 것이 어려울 때, 더 간단한 형태로 근사화하여 추론을 용이하게 하는 데 사용됩니다. 1. 변분 추론과 관련된 용어: - 변분 매개변수 (Variational Parameters, $\varphi$): 근사적 분포를 정의하는 데 사용되는 매개변수입니다. 변분 추론에서는 이 매개변수들을 최적화하여 원래의 복잡한 사후 분포를 가장 잘 근사하는 분포를 찾습니다. - 변분 분포 (Variational Distribution): 원래의 사후 분포를 근사하기 위해 선택한 간단한 확률 분포입니다. 이 분포는 일반적으로 실제 사후 분포보다 계산..

3. Results 3.1. The SBI-VEP against source-level epileptic patterns 제공된 그림에는 베이지안 추론을 이용한 간질성 뇌 활동에 대한 공간적 분포 맵의 추정과 관련된 네 가지 주요 부분이 나타나 있습니다. A)Observed source activity (관찰된 소스 활동): 뇌의 다양한 영역에서 관찰된 신경 활동의 시간에 따른 변화를 보여줍니다. 여기서 각 선은 뇌의 특정 영역에서의 실제 전기적 활동을 나타내며, 색상은 간질성 영역(EZ: epileptogenic zone)을 나타내는 빨간색과 전파 영역(PZ: propagation zone)을 나타내는 노란색으로 구분되어 있습니다. B) Predicted source activity (예측된 소스 활동..

2.6. Amortized Bayesian inference (이어서) Amortized Inference: Amortized 추론은 모델의 매개변수를 추정하기 위해 사용됩니다. 특히, 개별 데이터 포인트나 관측마다 복잡한 계산을 반복하는 대신, 하나의 모델을 훈련하여 여러 데이터 포인트에 대한 사후 분포를 신속하게 추정하는 데 사용합니다. 이는 각각의 데이터 포인트에 대한 복잡한 최적화 과정을 피하기 위한 것으로, 효율성과 계산 속도를 크게 향상시키는 방법입니다. Amortized 추론을 사용하면 한 번의 계산으로 모델을 '평균화'하여 여러 데이터에 적용할 수 있으므로, 계산 비용이 적은 경우에 유용합니다. Normalizing Flows (NFs): NFs는 복잡한 확률 분포를 정확하게 모델링하기 위..

Abstract 이 논문에서는 간질에 대한 전체 뇌 모델링을 통해 개인화된 해부학적 데이터와 동적 모델을 결합하여 뇌 영상 데이터에서 관찰된 시공간적 발작 패턴을 생성하는 방법에 대해 다룹니다. 특히, 전체 뇌 규모에서 가능성 함수의 계산이 어려운 문제를 해결하기 위해 심층 신경 밀도 추정기를 사용한 Amortized Bayesian 추론을 소개합니다. 이 방법은 조건부 밀도 추정을 위한 최신 심층 학습 알고리즘을 사용하여, 매개변수와 관찰 사이의 통계적 관계를 쉽게 찾아낼 수 있도록 합니다. 연구의 목적은 지역적 및 전역적 뇌 동작에 대한 추론과 예측을 향상시키는 것입니다. 1. Introduction 간질은 전 세계적으로 5천만 명의 사람들에게 영향을 미치는 신경학적 장애입니다. 특히, 집중성 간질의..

Jacobian matrix는 다변수 벡터 함수의 모든 첫 번째 순도 편미분을 포함하는 행렬입니다. 이는 함수의 입력이 벡터이고 출력도 벡터인 경우에 사용됩니다. 즉, 여러 입력 변수에 대한 여러 출력 변수의 변화율을 나타냅니다. Jacobian 행렬은 다변수 함수의 국소적인 선형 근사를 제공하고, 함수의 변화율을 분석하는 데 중요한 도구입니다. Jacobian 행렬을 수학적으로 정의해 보자면, 다음과 같습니다: 다변수 벡터 함수 $\mathbf{F}:{\mathbb{R}}^n\to {\mathbb{R}}^m$가 있을 때, 즉 \( \mathbf{F}(\mathbf{x}) = \mathbf{F}(x_1, x_2, \ldots, x_n) = (f_1(\mathbf{x}), f_2(\ma..

이 이미지에 있는 알고리즘은 GAN(Generative Adversarial Networks)의 훈련 절차를 나타내는 의사코드(pseudocode)입니다. 이 과정은 미니배치(minibatch) 확률적 경사 하강법(stochastic gradient descent, SGD)을 사용하여 감별자(Discriminator)와 생성자(Generator)를 번갈아 가며 업데이트하는 방식을 기술하고 있습니다. 여기서 각 단계를 설명드리면 다음과 같습니다: 1. 감별자 업데이트(훈련) - 감별자를 훈련시키기 위해, 먼저 노이즈 분포 $p_g(z)$로부터 $m$개의 노이즈 샘플 $z^{(1)},...,z^{(m)}$을 뽑습니다. 이 노이즈는 생성자가 새로운 데이터를 생성하는 데 사용됩니다. -..

1. 개념 GAN(Generative Adversarial Network, 생성적 적대 신경망)은 이름에서도 알 수 있듯이, 생성적 모델과 적대적 모델이 함께 경쟁하며 학습하는 기법입니다. GAN을 이해하기 쉽게 설명하기 위해, "위조화가와 경찰"의 비유를 사용할 수 있습니다. 위조화가(Generator) 위조화가는 진짜와 똑같은 그림을 그리려고 노력합니다. 즉, GAN에서 생성자(Generator)는 진짜 데이터와 구분할 수 없는 가짜 데이터를 생성하려고 합니다. 처음에는 그림 실력이 부족해서 만든 작품이 진짜와 많이 다를 수 있지만, 시간이 지나면서 점점 진짜 같은 작품을 만들어냅니다. 경찰(Discriminator) 경찰은 위조된 그림과 진짜 그림을 구분하려고 합니다. GAN에서 감별자(Discri..

미분가능하다"는 말은, 어떤 함수가 주어진 어떤 점에서도 그 기울기(변화율)를 계산할 수 있다는 뜻입니다. 직관적으로 생각해보면, 당신이 산을 오를 때, 각 위치에서 발을 디딜 다음 방향(기울기)를 알 수 있다면, 그 산은 '미분가능한' 산이라고 볼 수 있습니다. 이 기울기는 당신이 가장 높은 정상에 도달하기 위해 어느 방향으로 나아가야 할지를 알려줍니다. 함수가 미분가능하다는 것은, 우리가 이 함수의 최소값이나 최대값을 찾기 위한 방향(경사도)을 계산할 수 있다는 것을 의미합니다. 즉, 어떤 지점에서 함수의 기울기를 바탕으로 다음에 나아갈 방향을 결정할 수 있다는 뜻입니다. 미분 가능하다는 건 정상에 도달하기 위한 방향을 안다는 것인지 아니면 방향을 세세하게 조절할 수 있다는 것인지? 사실 두 가지 의..