type
status
date
slug
summary
tags
category
icon
password
Property
Feb 28, 2024 01:32 PM
Introduction
本文简单介绍了energy-based model~~
Inference process
1)What?
给定observed variables，找到使最小的unobserved variable configuration，即：
然而，在大多数情况下，在中找到解并不是一个容易的事，可能集合无穷或者过大，如face recognition、image segmentation等。因此我们只能找approximate results，它可能是局部最优解。inference procedure（即找局部最优解的过程）依赖于具体模型结构：连续的可以用梯度下降，离散可以使用图算法（factor graph）。
2)Why normalization?
在很多组合问题中，一个系统的输出会作为另一个系统的输入，为了可以combination different models，我们需要统一系统的输出。于是采用了normalization的方式。
but 分母需要收敛，且partition function is probably intractable.所以我们尽量避免normalization的情况。