git : https://github.com/psmon/memorizer-v1
위 오픈소스를 Pull한후
로컬 인프라 구동
docker compose up -d
- 로컬구동
- - Start PostgreSQL with pgvector (port 5432)
- Start PgAdmin (port 5050)
- Start Ollama (port 11434)
- Start Memorizer API (port 5000) - LLM,Embedding
- ollama가 작동되며 , 외부 LLM이용시 아래 파일 조정
- - Start PostgreSQL with pgvector (port 5432)
LLM 모델변경
appsettings.json
{
"Logging": {
"LogLevel": {
"Default": "Information",
"Microsoft.AspNetCore": "Warning"
}
},
"AllowedHosts": "*",
"ConnectionStrings": {
"Storage": "Host=localhost;Port=5432;Database=postgmem;Username=postgres;Password=postgres"
},
"Embeddings": {
"ApiUrl": "http://localhost:11434",
"Model": "all-minilm:33m-l12-v2-fp16"
},
"LLM": {
"ApiUrl": "http://localhost:11434",
"Model": "qwen2:0.5b",
"Timeout": "00:02:00"
},
"Server": {
"CanonicalUrl": "http://memorizer-test.local:5012"
}
}
관련 영상