초기버전

이 프로젝트는 dotnet 9.0을 사용하며 풀스택(API,UI) 으로 구성되어 있습니다. PostgreSQL를 이용한 검색및 벡터검색이 가능하고 Neo4j를 활용 그래프검색도 가능합니다.

ASKBot 기능을 탑재해 대화 반응형으로 메모리를 검색하는 챗봇을 스텝별로 만들고자하며 다음 요구사항을 참고 새로운 기능을 추가해주세요

01단계 - 액터모델 설계및 구현

지침

• 사용자 세션별로 생성되는 ChatBotActor 액터모델을 생성합니다.
• ChatBotActor 액터는 추구 SSE와 연결되어 사용자의 대화요청을 처리받아 응답을 SSE로 스트리밍예정입니다. SSE는 당장 구현하지 않고 액터모델에서 스트림형태로 응답을 주는 형태로 구현합니다.
  • ChatbotActor 액터는 사용자 세션별로 하나가 대응됩니다. 동일세션이 있을시 동일액터를 재 사용합니다.
  • ChatbotActor 액터는 3일동안 세션당 대화가 없으면 스스로 종료합니다. 챗봇세션대응 메모리를 정리하기위한 시스템절약 용도입니다. -액터내 타이머를 이용
  • 아래에 설명되는 SearchMemoryActor,DecisionActor는 미리생성되며 ChatbotActor 는 생성된 참조액터를 이용합니다. ChatBotActor생성시 생성된 참조 액터가 전달됩니다.
• SearchMemoryActor는 메모리 검색을 담당합니다. LLM을 이용할수 있으며 요청에대해 검색이 필요한지 판단하며 요청내용과 관련된 내용이 잘 검색할수 있도록 검색에 용이한 자연어 문장으로 변환후 시도합니다. IT관련 용어는 영어단어로 변환합니다.
  • src/Memorizer/Services/Memory.cs 을 이용해 메모리를 검색할수 있습니다.
  • 메모리 검색기능이 필요없는 요청일시에는 검색을 시도하지 않고 검색 결과 없음으로 응답합니다.
  • 메모리 검색기능 에는 문장으로 유사도 검색을 할수 있으며 유사 0.3 이상인것중 최대 5개를 이용합니다.
    • 검색결과 자체가 없을시 시도되는 문장에서 키워드를 추출해 영문,한글로 시도해 최대 3번까지 재검색을 시도합니다.
  • 이 액터의 목적을 달성하기 위해 LLM을 이용할수 있으며 이용할 프롬프트를 액터모델내 작성합니다.
• DecisionActor 는 요청내용과 검색된 결과가 관련성이 있는지 판단합니다.
  • 관련성이 있다고 판단되면 검색된 결과를 이용해 연관문서로 응답을 생성합니다.
  • 관련성이 없다고 판단되면 연관문서 없음으로 응답합니다.
  • 이 액터의 목적을 달성하기 위해 LLM을 이용할수 있으며 이용할 프롬프트를 액터모델내 작성합니다.
• ChatBotActor가 사용자의 대화요청에 다양한 대응을위해 SearchMemoryActor는, DecisionActor를 이용해 응답을 생성합니다.
  • DecisionActor 가 요청에대한 관련 자료를 찾지 못한경우 일반 LLM응답을 생성합니다.
  • ChatBotActor는 LLM을 이용해 일반응답을 생성할수 있습니다.
  • ChatBotActor는 응답에 대한 내용이 출처 메모리인지? 또는 일반인지 판단해 응답을 생성합니다. 참조된 위치를 추가로 표현할수 있습니다.
  • ChatBotActor는 최종응답을 받기까지의 추론하는 과정을 다른액터로부터 수신받을수 있습니다. 이 과정을 추후 SSE스트리밍을 통해서도 표현할수 있어야합니다. SSE스트리밍은 당장 구현하지 않습니다.

프로젝트 위치및 설명

• src/Memorizer/ 하위디렉토리에 있습니다.
• src/Memorizer/Controllers - API컨트롤러가 있습니다.
• src/Memorizer/Services - 검색로직을 토함 서비스로직이 있습니다.
• src/Memorizer/Services/ILlmService.cs - LLM및 임베딩을 이용할수 있습니다.
  • https://mcp.webnori.com/ui/view/14e7d5a6-3f47-42b8-ac8c-464cfb3abfb0 - LLM 추가 기능 스펙이 필요할시 Lamma,OpenAI,LocalAI를 지원하며 이 문서를 추가 참고합니다.
• src/Memorizer/Views - UI관련 뷰파일이 있습니다.
• src/Memorizer/Actors - 액터모델이 있으며, 액터모델이 필요시 참고합니다.
  • https://mcp.webnori.com/ui/view/ba8556b9-7a0a-4fb5-afae-585c0058b46c - 액터모델 이용법중 타이머 액터관련 내용을 참고할수 있습니다.
• src/Memorizer.IntegrationTests - 통합테스트 프로젝트가 있습니다.
• PageUrl : 다음과 같은 페이지 url을 가지고 있습니다.
  • ui/blog
    • ViewMore : 팝업버튼을 통해 컨텐츠보기
  • ui/view/2b61629b-d5b4-41c2-8163-6670893df238 : id별로 컨텐츠보기

로컬 테스트방법

• docker-compose.local-psmon.yml 를 통해 로컬에서 테스트 가능합니다. 도커구동 문제시 이파일을 사용할것..
• 이 어플리케이션은 momorizer 를 통해 빌드및 작동됩니다. 재빌드/재구동이 필요할시 도커로만 이용해주세요
• 테스트가 개선되는동안 db스키마 변경은 허용하지 않으며, READ만 허용하며 postgres,neo4j는 도커기반 잘작동하며 이것을 중단하거나 내리지 않습니다.
• 액터모델 유닛테스트 방법은 다음을 참고, 액터모델을 생성하면 해당액터에대한 유닛테스트를 작성또는 업데이트합니다.
  • 엑터모델 유닛테스트 방법 : https://mcp.webnori.com/ui/view/7a525e7f-dfed-4b38-bb4c-2de6e77d1cea
  • src/Memorizer.IntegrationTests/Actors 위치에 액터모델 테스트를 작성합니다.
• API 테스트는 닷넷에서 이용할수 있는 Client를 이용해 테스트합니다. SSE가 필요하거나 웹소켓이 필요한경우 적절한 클라이언트 모듈을 이용합니다.

테스트시 API인증방법

• src/Memorizer/Controllers/AuthController.cs 코드확인후.. api인증을 통과한후 등록 API를 통해 진행..
• 참고로 뷰는 미인증, 메모리등록은 인증된 API로만 가능 로긴시 admin/admin123 로 성공한후 반환된 쿠키값을 사용
• src/Memorizer/Controllers/MemoryController.cs 메모리 등록은 CreateMemory 사용 ... db를 조작하지 말고 제공되는 API를 파악해 활용할것

추가지침 - Mock 테스트가 아닌 실제장치를 이용한 통합테스트

• src/Memorizer.IntegrationTests/appsettings.json 설정을 이용해... Mock 테스트가 아닌 실제장치를 이용한 테스트... LLM의 응답은 예측할수 없음으로 Assert보다 응답 포맺이 올바른지만 조사... 테스트수행을 위한 probe 를 tell을 한후 셋팅가능 .. probe는 있을때만 테스트검증을 위해 수신여부 검사때 이용할수 있습니다. ChatBotActor에 다양한 요청시나리오를
  시도해 응답결과가 품질이 좋은지 실제 확인하기 위한 용도이며 최정결과에대한 평가는 assert가 아닌 유닛테스트 결과 콘솔을 통해 확인할수 있으면 됩니다. 시도되는 프롬프트 는 "안녕 너는누구야" , "Reactive Steam 에대해 알려줘" , "AI 개발방법론은 뭐가 일을까?" 등임

초기버전후 기능 확장하기

이 프로젝트는 dotnet 9.0을 사용하며 풀스택(API,UI) 으로 구성되어 있습니다. PostgreSQL를 이용한 검색및 벡터검색이 가능하고 Neo4j를 활용 그래프 탐색도 가능합니다.

ASKBot 기능을 개선하기위해 다음 ASIS의 문제를 개선지침을 참고해 개선수행해주세요 개선에 필요한 부가정보도 포함되었으니 필요한 부분을 참고해 충분히 이해한후 수행

ASIS

• Postgres를 이용 장기기억 메모리는 가지고 있어 이것을 검색하는 기능은 있습니다.
• 현재 ASKBot은 이전대화와 다음대화를 고려하지 않고 단발성 응답만 가능합니다.
• 동일세션에서 대화를 이어가는 기능이 없어~ 세션내 대화의 맥락을 이해하지 못합니다.

개선지침

• ChatBotActor는 사용자 세션별로 생성되어, 세션당 대화를 임시저장할수 있습니다.
• 세션당 유저의 대화는 최대 10개까지 저장할수 있으며, 10개가 넘으면 가장 오래된 대화를 삭제합니다.
  • 삭제하기전 대화내용중 중요하다고 판단되는것은 , 단기메모리를 분석해 가지고 있습니다.
  • 단기메모리의 최대크기는 500자 이내로 유지하며, 새로운 유저의 대화의 정보와 비교해 업데이트합니다.
• ChatBotActor는 대화요청에 대해, 단기메모리와 장기메모리를 모두 활용해 응답을 생성합니다.
  • 단기메모리는 대화의 맥락을 이해하는데 활용합니다.
    • 안녕, 너는 누구야? -> 나는 ASKBot이야. 너는 누구니? -> 나는 개발자야 -> 아 개발자구나 반가워
      • 이런식으로 대화의 맥락을 이해하는데 활용합니다.
    • 궁금한게 있어 -> 뭐가 궁금한데? -> AI 개발방법론이 궁금해 -> 나의 메모리에서 찾아볼게
      • 이런식으로 대화의 맥락을 이해하면서 메모리 검색을 합니다.
  • 장기메모리는 사용자의 요청에대해 관련된 메모리를 검색하는데 활용합니다. 이것은 이미 구현되어 활용하면 됩니다.

프로젝트 위치및 설명

• src/Memorizer/ 하위디렉토리에 있습니다.
• src/Memorizer/Controllers - API컨트롤러가 있습니다.
• src/Memorizer/Services - 검색로직을 포함 서비스로직이 있습니다.
• src/Memorizer/Services/ILlmService.cs - LLM및 임베딩을 이용할수 있습니다.
• src/Memorizer/Views - UI관련 뷰파일이 있습니다.
• src/Memorizer/Actors - 액터모델이 있으며, 액터모델이 필요시 참고합니다.
  • ChatBotActor.cs - SSE를 엣지로 사용자와 연결해 대화요청을 처리하는 액터모델입니다. 검색,판단 액터를 이용해 응답을 생성합니다.
  • SearchMemoryActor.cs - 메모리 검색을 담당하는 액터모델입니다.
  • DecisionActor.cs - 검색된 메모리와 요청내용이 관련성이 있는지 판단하는 액터모델입니다.
  • MetadataEmbeddingActor.cs - 메타데이터 임베딩을 담당하는 액터모델입니다. 메모리 등록시 메타데이터 임베딩을 비동기로 처리합니다. 이 과정에서 임베딩을 이용 벡터화합니다.
  • GraphsyncActor.cs - Neo4j를 이용해 ,Postgres데이터를 그래프로 모델로 싱크하는 액터모델입니다.
• src/Memorizer.IntegrationTests - 통합테스트 프로젝트가 있습니다.
• PageUrl : 다음과 같은 페이지 url을 가지고 있습니다.
  • ui/blog
    • ViewMore : 팝업버튼을 통해 컨텐츠보기
  • ui/view/2b61629b-d5b4-41c2-8163-6670893df238 : id별로 컨텐츠보기
  • ui/askbot - 챗봇 페이지

로컬 테스트방법

• docker-compose.local-psmon.yml 를 통해 로컬에서 테스트 가능합니다. 도커구동 문제시 이파일을 사용할것..
• 기본구성이 구동되어 있을수 있으며~ down 명령으로 전체를 내리지말고 memorizer-app 만 재빌드후 재구동할것
• 이 어플리케이션은 memorizer-app 를 통해 빌드및 작동됩니다. 재빌드/재구동이 필요할시, dotnet cli없이 도커로만 이용해주세요
• 테스트가 개선되는동안 db스키마 변경은 허용하지 않으며, READ만 허용하며 postgres,neo4j는 도커기반 잘작동하며 이것을 중단하거나 내리지 않습니다.
• 액터모델 유닛테스트 방법은 다음을 참고, 액터모델을 생성하면 해당액터에대한 유닛테스트를 작성또는 업데이트합니다.
  • src/Memorizer.IntegrationTests/Actors 위치에 액터모델 테스트를 작성합니다.
• API 테스트가 필요할시 닷넷에서 이용할수 있는 Client를 이용해 테스트합니다. SSE가 필요하거나 웹소켓이 필요한경우 적절한 클라이언트 모듈을 이용합니다.

테스트시 API인증방법

• src/Memorizer/Controllers/AuthController.cs 코드확인후.. api인증을 통과한후 등록 API를 통해 진행..
• 참고로 뷰는 미인증, 메모리등록은 인증된 API로만 가능 로긴시 admin/admin123 로 성공한후 반환된 쿠키값을 사용
• src/Memorizer/Controllers/MemoryController.cs 메모리 등록은 CreateMemory 사용 ... db를 조작하지 말고 제공되는 API를 파악해 활용할것

추가지침 - Mock 테스트가 아닌 실제장치를 이용한 통합테스트

• src/Memorizer.IntegrationTests/appsettings.json 설정을 이용해... Mock 테스트가 아닌 실제장치를 이용한 테스트...
• LLM의 응답은 예측할수 없음으로 Assert보다 응답 포맺이 올바른지만 조사... 테스트수행을 위한 probe 를 tell을 한후 셋팅가능 ..
• probe는 있을때만 테스트검증을 위해 수신여부 검사때 이용할수 있습니다.
• ChatBotActor에 다양한 요청시나리오를 시도해 응답결과가 품질이 좋은지 실제 확인하기 위한 용도이며
  • 최적결과에대한 평가는 assert가 아닌 유닛테스트 결과 콘솔을 통해 확인할수 있으면 됩니다.
    • 시도되는 프롬프트 는 "안녕 너는누구야" , "Reactive Steam 에대해 알려줘" , "AI 개발방법론은 뭐가 일을까?" 등임
    • 테스트 시나리오를 위해 데이터가 필요할시, Mock이 아닌 API를 이용해 메모리 데이터를 추가할수 있습니다.
      • 메모리 추가는 인증이 필요하므로, 인증 API를 이용해 쿠키를 얻은후 메모리 등록 API를 이용해 데이터를 추가합니다. store 엔드포인트를 이용해 저장할수 있습니다.