A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms

(2019) Thought experiment 느낌으로 흥미롭게 읽었다. 

 

< Robust Agents Learn Causal World Models > paper와 유사한 논의를, 다른 관점에서 이야기한다.


Agent가 shifted distribution에서도 optimal behavior를 하기 위해서는 underlying causal mechanism을 알아야 한다.
그래야 변화된 distribution에 대해서 추론을 하고, 그에 따른 행동을 할 수가 있다.

만약 data generating process (mechanism)을 모른다면, training data와 동일한 distribution을 벗어나는 경우에 대해 generalize할 수 없다. 


그렇다면, 역으로, shifted distribution (interventional distribution)에서 agent가 빠르게 adapt (transfer) 하는 model이 true causal model임을 암시하는 것이다. 
이른 meta-learning objective로 사용해서 true causal structure를 찾는다. 

궁극적으로 기저에 흐르는 핵심 idea는 < Robust Agents Learn Causal World Models >과 동일하다. 

그리고,
1) bayesian network structure learning의 필요성, 
2) observation data 뿐만 아니라, intervention data를 활용한 active learning의 필요성,
3) raw data에서 invariant한 causal representation (disentangled causal variables)을 뽑아내어서 이 latent variable들에 대해 learning 할 것의 필요성

을 모두 말하고 있다.

---

---

---

---

---

---