Tree of Thoughts
Contents
Tree of Thoughtsยถ
Summaryยถ
Tree of Thoughts (ToT)๋ ๋ํ ์ธ์ด ๋ชจ๋ธ(Large Language Model, LLM)์ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ์ ํฅ์์ํค๋ ํ๋ ์์ํฌ์ ๋๋ค. ์ด ์ ๊ทผ ๋ฐฉ์์ ์ธ๊ฐ์ ์ฌ๊ณ ์ ๋ต์ ๋ชจ๋ฐฉํ์ฌ LLM์ด ์ฌ๋ฌ ๊ฐ์ง ์ ์ฌ์ ์๋ฃจ์ ์ ์ฒด๊ณ์ ์ผ๋ก ํ์ํ ์ ์๋๋ก ํฉ๋๋ค. ToT๋ ์ฌ๊ณ ๋ฅผ ํธ๋ฆฌ ๊ตฌ์กฐ๋ก ํํํ์ฌ, ๊ฐ ๋ ธ๋๊ฐ ์ค๊ฐ ๋จ๊ณ์ ์ฌ๊ณ ๋ฅผ ๋ํ๋ด๊ณ , ์ด ์ฌ๊ณ ๋ฅผ ํ๊ฐํ๊ณ ์์ ํ๋ ๊ณผ์ ์ ํตํด ์ต์ข ์๋ฃจ์ ์ ๋๋ฌํฉ๋๋ค. ์ด ํ๋ ์์ํฌ๋ LLM์ด ๋ณต์กํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ ๋, ํนํ ์ํ์ , ์์ง์ , ์์์ , ์ง์์ ์ถ๋ก ์ด ํ์ํ ๊ฒฝ์ฐ์ ์ ์ฉํฉ๋๋ค.
Key Conceptsยถ
Tree of Thoughts (ToT) : LLM์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ ๋, ์ฌ๋ฌ ๊ฐ์ง ์ ์ฌ์ ์๋ฃจ์ ์ ์ฒด๊ณ์ ์ผ๋ก ํ์ํ๋ ํ๋ ์์ํฌ์ ๋๋ค.
Thought Decomposer : ํฐ ๋ฌธ์ ๋ฅผ ์์ ๋จ๊ณ๋ก ๋๋๋ ๋ชจ๋์ ๋๋ค.
Thought Generator : ํ์ฌ ์ฌ๊ณ ์์ ๋ค์ ๋จ๊ณ์ ํ๋ณด๋ฅผ ์์ฑํ๋ ๋ชจ๋์ ๋๋ค.
State Evaluator : ํ๋ณด ์ฌ๊ณ ์ ๊ฐ์น๋ฅผ ํ๊ฐํ๋ ๋ชจ๋์ ๋๋ค.
Search Algorithm : ํธ๋ฆฌ ๊ตฌ์กฐ๋ฅผ ํ์ํ๋ ์๊ณ ๋ฆฌ์ฆ์ผ๋ก, Breadth-First Search (BFS)์ Depth-First Search (DFS)๊ฐ ํฌํจ๋ฉ๋๋ค.
Referencesยถ
URL Name |
URL |
---|---|
Deepgram - Tree of Thoughts |
|
IBM - Tree of Thoughts |
|
Prompting Guide - Tree of Thoughts |
|
LinkedIn - Tree of Thoughts |
https://www.linkedin.com/pulse/unlocking-llms-potential-tree-of-thought-prompting-albert-mao-abp2e |
Reddit - Tree of Thoughts Prompt |
https://www.reddit.com/r/LocalLLaMA/comments/1ak83am/tree_of_thoughts_tot_v1_prompt/ |