Paper Writing 1
-
-
-
-
-
-
-
vision prompting 결과에 대한 고찰Paper Writing 1/Experiments 2024. 11. 10. 02:13
처음 의도했던 것은 univariate만을 고려하는 foundation model의 한계를 극복하고, variate 간의 complex correlation을 고려할 수 있도록 vision prompting을 넣어주는 것이었는데, 이는 input dimension이 엄청 증가한다는 것을 의미하고, 결국 구현 상의 한계를 뛰어넘지 못했다. 대신 static한 covariate 정보를 넣어주었는데, 기존에 의도한 바를 구현하는 과정에서 하도 삽질을 하고 고통을 겪어서인지, 상당히 쉽게 느껴졌다. 그러고도 결과를 크게 기대하지 않았었는데, 오히려 무거운 vision encoder와 vision projector가 붙어서, (물론 pretrained된 siglip parameter를 가져왔지만 - specif..
-
Experimental results # 5Paper Writing 1/Experiments 2024. 11. 10. 00:46
* The effect of injecting auxiliary information via vision prompting In this section, we assess whether incorporating exogenous information via vision prompts as a prefix helps guide the large language model (LLM) to improve forecasting accuracy. To investigate the effect of vision prompting, we evaluate the forecasting performance of our pretrained model both with and without vision prompts on ..