1. 일시: 2024년 7월 4일(목), 14:00-16:00

2. 장소: 판교 테크노밸리 산업수학혁신센터 세미나실

   • 경기 성남시 수정구 대왕판교로 815, 기업지원허브 231호 국가수리과학연구소
   • 무료주차는 2시간 지원됩니다.

3. 발표자: 이재용 교수 (중앙대학교)

4. 주요내용: Two approaches using Deep Learning to solve partial differential equations

Many differential equations and partial differential equations (PDEs) are being studied to model physical phenomena in nature with mathematical expressions. Recently, new numerical approaches using machine learning and deep learning have been actively studied. There are two mainstream deep learning approaches to approximate solutions to the PDEs, i.e., using neural networks directly to parametrize the solution to the PDE and learning operators from the parameters of the PDEs to their solutions. As the first direction, Physics-Informed Neural Network was introduced in (Raissi, Perdikaris, and Karniadakis 2019), which learns the neural network parameters to minimize the PDE residuals in the least-squares sense. On the other side, operator learning using neural networks has been studied to approximate a PDE solution operator, which is nonlinear and complex in general. In this talk, I will introduce these two ways to approximate the solution of PDE and my research related to them.

유튜브 스트리밍 예정입니다.

1. 일시: 2024년 7월 3일(수), 10:30-12:30

2. 장소: 판교 테크노밸리 산업수학혁신센터 세미나실

   • 경기 성남시 수정구 대왕판교로 815, 기업지원허브 231호 국가수리과학연구소
   • 무료주차는 2시간 지원됩니다.

3. 발표자: 이성윤 교수(한양대학교)

4. 주요내용: How Large Models Learn?

For years, large models (trained with deep learning algorithms) have been able to “survive” in the competitive and wild “nature”. But how? How could large models have been “selected” by practitioners? Is it because of the architecture of the neural networks or the gradient-based optimization? In this talk, we try to answer these questions.

유튜브 스트리밍 예정입니다.

Geometric deep learning has recently gained increasing attention, sparked by advances in graph neural networks. In the first part of this talk, I will explain the basic mechanism behind message passing propagation neural networks (MPNN) and discuss their expressivity in terms of the graph isomorphism test. In the second part of this talk, I will briefly introduce other aspects of geometric deep learning related to different geometric structures, such as non-Euclidean manifolds and point clouds. I will discuss how these structures can be effectively utilized in deep learning frameworks and highlight the unique challenges and opportunities they present.

*유튜브 스트리밍 예정입니다.

We present a maximum entropy inverse reinforcement learning (IRL) approach for improving the sample quality of diffusion generative models, especially when the number of generation time steps is small. As IRL trains a policy using the reward function learned from expert demonstrations, we train (or fine-tune) a diffusion model using the log probability density estimated from training data. Since we employ an energy-based model (EBM) to represent the log density, our approach boils down to the joint training of a diffusion model and an EBM. Our IRL formulation, named Generalized Contrastive Divergence (GCD), is a minimax problem that reaches equilibrium when both models converge to the data distribution. The entropy maximization plays a key role in GCD, facilitating the exploration of the diffusion model and ensuring the convergence of the EBM. We also propose Diffusion by Dynamic Programming (DiDP), a novel RL approach for diffusion models, as a subroutine in GCD. DiDP makes the diffusion model update in GCD efficient by transforming the original problem into an optimal control formulation where value functions replace back-propagation in time. Our empirical studies show that diffusion models fine-tuned using GCD and DiDP can generate high-quality samples with fewer steps. Additionally, GCD-DiDP enables the training of an EBM without MCMC, stabilizing EBM training dynamics and enhancing outlier detection performance.

유튜브 스트리밍 예정입니다.

정보 이론의 주요 관심사 중 하나는 통신 과정에서 오류가 발생할 확률을 최소화하는 것이다. 예를 들어 PCR 검사 결과 음성일 경우 0으로 코드화하고 양성일 경우 1로 코드화한다고 하였을 때, 이 중요한 정보가 통신 상황에서 오류가 발생하여 0이 1로 잘못 전달되거나 1이 0으로 잘못 전달되는 경우가 발생할 수 있다. 만약 오류 발생 확률이 10%라면 적절한 방법을 동원하여 오류 발생 확률을 3% 혹은 1% 등으로 줄이기 위해 노력하는 것이 자연스럽다. 강연 전반부의 목표는 주어진 자원의 어느 정도를 오류 정정에 사용하는 것이 가장 효율적일지를 다루는 샤논 채널 코딩 정리의 의미를 이해하는 것이다. 그리고 강연 후반부의 목표는 최근 큰 주목을 받고 있는 양자 정보 이론 분야에서 2000년대 초반 확립된 코딩 정리의 의미를 파악하고, 이와 관련한 수학적 난제를 소개하는 것이다.

유튜브 스트리밍 예정입니다.

1. 1. 시간: 14:00~16:00

   2. 경기 성남시 수정구 대왕판교로 815, 기업지원허브 231호 국가수리과학연구소

   3. 무료주차는 2시간 지원됩니다.

2. 
   

Due to unprecedented technological advances in recent decades, scientists across diverse fields have been increasingly confronted with a deluge of complex and high-dimensional data. Consequently, identifying and exploiting the underlying structure of such data has emerged as a fundamental challenge in data analysis and machine learning. Topological Data Analysis (TDA) has emerged as a field providing a suite of tools for studying the structure of complex data through the application of topological and geometric principles. Among others, persistent homology is a central concept in TDA. This talk provides an introductory overview of persistent homology, including its modern generalization.

*유튜브 스트리밍 예정입니다.

변수 선택 기법은 대상 변수(혹은 종속 변수)를 예측하는 데 주요한 입력 변수를 선택하는 기술로써, 데이터로부터 입력 변수와 대상 변수 간의 관계를 설명할 수 있는 인공지능 기술의 하나로 활용되고 있다. 변수 선택 기법은 특히 의료 분야와 같이 입력 변수의 기여도 및 내재된 관계에 대한 이해가 필요한 분야에서 많이 활용되고 있다. 예를 들어, 변수 선택 기법은 데이터로부터 환자의 어떤 위험 요소가 질병 예후에 영향을 미쳤는지, 환자 혹은 암의 어떤 유전적인 특징들이 약물 민감도에 영향을 미쳤는지 등을 파악하여, 질병에 대한 이해와 임상적 결정에 중요한 근거를 제시할 수 있다. 최근 전통적인 통계학 및 머신러닝 모델에 비해 비약적으로 향상된 성능을 제공하는 딥러닝 모델은 블랙박스 특성으로 인해 주요 변수를 파악하는 것이 어려우며, 기존의 통계 기반의 변수 주요도 및 선택 기법을 적용하기 어렵다. 본 발표에서는 변수 선택 기법 문제를 딥러닝 모델을 활용한 학습 가능한 형태로 정의하고, 최근 딥러닝 기반의 변수 선택 기법 연구가 어떻게 발전하고 있는 지 소개한다.

유튜브 스트리밍 예정입니다.

1. 일시/장소: 2024년 4월 18일(목), 14:00-16:00

               /대전 국가수리과학연구소 CAMP 대형강의장 (현장 강연만 진행)

2. 연사: 장진우 교수 (포항공과대학교)

3. 주제: Exploring the Invisible: Unraveling Gas Behavior in Extreme Conditions with the Boltzmann Equation

4. 초록: 이번 강연에서는 기체 및 플라즈마 등의 유체의 운동역학을 묘사하기 위한 한가지 방법인 기체분자 운동론 (Kinetic theory of gases) 그리고 볼츠만 방정식을 소개하는 시간을 갖습니다. 멕스웰과 볼츠만의 통계물리적 접근을 통한 볼츠만 방정식의 소개, 그리고 볼츠만 방정식을 통하여 유체의 거시적 물리량을 복구하고 고온 및 저압 상황에서의 기체분자 운동에 대한 특성을 소개하겠습니다. 또한 연속 유체와 희박 기체의 온도 분포의 차이를 소개하고 볼츠만 방정식의 여러가지 대안적 수치 방법들을 소개하도록 하겠습니다. 

Optimal Transport (OT) problem investigates a transport map that bridges two distributions while minimizing a specified cost function. OT theory has been widely utilized in generative modeling. Initially, the OT-based Wasserstein metric served as a measure for assessing the distance between data and generated distributions. More recently, the OT transport map, connecting data and prior distributions, has emerged as a new approach for generative models. In this talk, we will introduce generative models based on Optimal Transport. Specifically, we will present our work on a generative model utilizing Unbalanced Optimal Transport. We will also discuss our subsequent efforts to address the challenges associated with this approach.

1. 일시: 2024.3.28.(목), 14:00~16:00

2. 장소: 판교 테크노밸리 산업수학혁신센터 세미나실

   • 경기 성남시 수정구 대왕판교로 815, 기업지원허브 231호 국가수리과학연구소
   • 무료주차는 2시간 지원됩니다.

3. 발표자: 신원용 교수(연세대학교)

4. 주요내용: Graph Learning vs. Graph Filtering

In the graph signal processing perspective, a series of graph filtering is shown to exhibit state-of-the-art performance with a substantially low computational complexity. This talk aims to bridge between graph filtering and graph learning. In the first part of this talk, I explain how the basic mechanism of the well-known graph convolutional network (GCN) is interpreted as graph filters. In the second part of this talk, I introduce graph filtering methods using a low-pass filter without a costly model training process. More specifically, I present graph filtering-based collaborative filtering approaches that do not require training for recommender systems. Finally, I discuss how such methodology is applicable to a broad spectrum of real-world recommendation domains.

*유튜브 스트리밍 예정입니다.