2. Vector DB in LLM

Contents

2. Vector DB in LLM¶

Summary¶

Vector DB는 LLM(대형 언어 모델)에서 중요한 역할을 합니다. 전통적인 관계형 데이터베이스는 구조화된 데이터를 잘 처리하지만, 비구조화된 데이터(텍스트, 이미지, 음성 등)에는 한계가 있습니다. 이때 벡터 데이터베이스가 등장하여 이러한 데이터를 효율적으로 처리합니다. 벡터 데이터베이스는 고차원 벡터 데이터를 저장하고 유사성 기반 검색을 지원하여 LLM이 자연어를 이해하고 처리할 수 있도록 도와줍니다.

Key Concepts¶

Vector Database : 고차원 벡터 데이터를 저장하고 유사성 기반 검색을 지원하는 데이터베이스로, LLM이 자연어를 이해하고 처리할 수 있도록 도와줍니다.
Embeddings : 텍스트를 벡터로 변환하여 의미를 캡처하는 방식으로, LLM이 텍스트의 의미를 이해하고 처리할 수 있도록 도와줍니다.
Similarity Search : 벡터 데이터베이스에서 유사한 벡터를 찾는 기능으로, LLM이 관련된 정보를 빠르게 검색할 수 있도록 도와줍니다.

References¶

URL Name	URL
CrateDB	https://cratedb.com/blog/llm-vector-database-what-is-a-vector-databases-for-llm
Reddit Discussion	https://www.reddit.com/r/vectordatabase/comments/1cm7xcn/generating_useful_context_for_llm/
Qwak Guide	https://www.qwak.com/post/utilizing-llms-with-embedding-stores
Reddit Discussion 2	https://www.reddit.com/r/LocalLLaMA/comments/1avayel/is_llm_necessary_for_rag_if_we_can_retreive/
Stack Overflow	https://stackoverflow.com/questions/78023750/use-embeddings-stored-in-vector-db-to-reduce-work-for-llm-generating-response

previous

Template example

next

Embedding Models