복잡한 DAG-structure로 in-context learning 하면..?

induction head가 meta-learning을 가능하게 한다는 걸 보고 나니까, 급 든 생각인데,

 

Do-PFN을 보면서, scaling up하면 어떻게 될까 궁금했거덩.

 

복잡한 DAG-structure를 추론하도록 in-context learning을 시키면 어떻게 될까?

 

기본적인 DAG structure를 generate하는 건, PFN series에 잘 나와있는데,

 

얼마전에 본, COCONUT paper에서는 아주 복잡한 DAG-structure로도 추론을 시키더라구. 그거처럼 복잡한 DAG strucuture를 추론하는 것도 in-context learning으로 가능할까?

 

흠 궁금해지네.