IT 기술 따라잡기

오늘은 LLMCompiler 두번째 시간입니다.
제가 그동안 정리했던 AI Application Flow 에 대한 Insight를 공유합니다.
AI 어플리케이션이 기존의 Traditional Application 과 다른 점을 설명합니다.
그리고 그 둘을 어떻게 연결하는지도 보여 드리구요.

처음 AI Application Flow 를 설명하는 부분은 개발자가 아닌 분들도 보시면 AI Application을 이해하는데 도움이 될 겁니다.

그리고 LLMCompiler Tutorial 에서 제공하는 소스코드를 분석하면서 그 Flow 가 소스코드로 어떻게 구현되는지 자세히 설명합니다.

이 부분은 AI Application 개발에 관심이 있으신 분들에게 도움이 될 겁니다.


또한 이 소스코드를 실행하고 LangSmith 의 Tracing 기능을 통해 실제로 그 Flow 가 진행되는 과정을 직접 보여 드립니다.

이 부분은 개발자와 비개발자 모두에게 AI Application Flow 가 실제로 어떻게 실행되는지 직접 눈으로 보실 수 있어서 이해에 도움이 될 겁니다.



여기서 제공되는 AI Application Flow 는 제가 고민했던 내용을 정리한 것입니다.
다른 곳에서는 보실 수 없을 겁니다.

일부에서 AI 시대에는 코딩을 배울 필요가 없다라고 말하는 사람들도 있습니다.
하지만 저는 생각이 다릅니다.

AI 시대에 왜 코딩을 배워야 하는지 그리고 어떤식으로 배워야 하는지 직접 확인해 보세요.


그리고 여러분들의 의견 환영합니다.

https://youtu.be/lBPidxUL8zg

오늘은 AI Multi-Agent 의 Supervisor Architecture 에 대해 공부 합니다.

Network Architecture는 Agent 들 끼리 직접 Communication 하는 반면에 Supervisor Architecture 의 Agent 들은 작업 결과를 Supervisor Agent 에게 보고 합니다.

Supervisor Agent 는 인간의 질문과 다른 Agent 들의 작업 결과를 받으면 그 다음 일을 어느 Agent 에게 시킬지 아니면 모든 일을 종료 하고 결과를 사용자에게  전달할지 여부를 판단하게 됩니다.

이 예제에는 두 개의 질문 예제가 있는데 간단한 질문에는 답을 하지만 조금 복잡한 질문은 처리하다가 Recursion Error 가 발생합니다.

이 부분이 현재 AI Multi Agent 어플리케이션이 퍼져 나가지 못하는 한계를 잘 보여 줍니다.

그 이유를 자세히 설명 드립니다.

놓치지 마시고 꼭 보세요.

그리고 그 해결 방법을 같이 고민해 보자구요.

https://youtu.be/fyh7nZEPpys?si=BQ9BQkdfQJT0WFaC

오늘은 LangGraph의 Checkpointers에 대해 배워 봅니다.

지난 시간까지는 사용자와 AI와의 대화를 Streamlit의 Session_state 를 사용해서 저장을 했고 그 데이터를 사용해서 Chatbot 기능을 구현했습니다.

LangGraph에서도 그와 비슷한 기능을 하는 개념이 있습니다.

Checkpointers인데요. 

LangGraph에서 Checkpointers를 구현하는 방법은 MemorySaver, SqliteSaver, PostgresSaver 등이 있습니다.

사실 이 Checkpointers는 Chatbot 기능만을 위한 것은 아니고 다음 단원에서 배울 Human-in-the-loop, Time Travel 등의 고급 기능을 구현할 수 있게 해 주는 주요한 개념입니다.

오늘부터 이 LangGraph의 Checkpointers를 배워 보겠습니다.

https://youtu.be/TwQzTw0A51s?si=You1IAeaLRLsAP6 

이 유투브 클립에서 설명하는 AI Web application의 소스코드는 아래 웹 사이트로 가시면 보실 수 있습니다.

https://catchuplanggraph.streamlit.app/

지난 시간에  LangGraph 의 Tool을 사용할 때 발생한 Chatbot 기능의 에러가 있었습니다.
제가 과제로 냈었는데요.
오늘 그 에러를 해결하는 과정을 단계별로 보여드릴께요.

ChatBot 기능에서 질문과 대답 사이에 Tool 을 사용했던 기록들이 나오는게 문제 였는데요.
에러가 난 부분으로 가서 log를 찍어보고 필요 없는데 print 되는 부분들의 패턴을 파악한 후 Session message에 append 하는 것을 막아 버리면 됩니다.

이 과정을 직접 확인해 보세요.

https://youtu.be/jPK7i7YVg68?si=QIUGOGFbwk2qqSxo

LangChain - RAG - create_history_aware_retriever

지난 시간까지 RAG의 기본 기능을 배웠습니다.

AI Web Application에서 기본적으로 제공되어야 하는 것은 ChatBot 기능입니다.

이를 위해서는 Chat History를 관리해주는 기능이 추가 되어야 합니다.

AI는 이전 대화 내용을 기억하지 못하기 때문입니다.

이런 AI의 부족한 부분을 채워 주는 LangChain의 Retriever 가 바로 create_history_aware_retriever 입니다.

AI 하고 말이 통하게 만들어 주는 바로 그 Retriever.

오늘은 create_history_awere_retriever에 대해 배웁니다.

https://youtu.be/EQ6c9309T8c

오늘 매울 AI Web Application link는 아래에 있습니다. https://catchuplangchain.streamlit.app/LC_Quickstart_03_ConversationRetrievalChain

이번 비디오의 내용은 지난 비디오의 보충수업입니다.

지난 강좌에서 LangChain에서 Retrieval 함수를 사용해서 RAG의 가장 기본적인 기능을 구현 했습니다.

그것을 통해서 데이터 수집 - 데이터 split - 임베딩 처리 - 벡터스토어에 저장 - Retrieval - LLM 과 communication 이런 RAG의 기본적인 프로세스를 이해 했습니다.

이번에는 그 기능에 더해 데이터를 vector store에 저장하고 그 저장한 데이터를 Retrieval 하는 과정에서 어떻게 데이터를 가공하는지를 자세하게 알아 봅니다.

데이터를 어떻게 가공하느냐에 따라 성능과 속도 그리고 비용에까지 영향을 미칠 수 있습니다.

장문의 입력 데이터를 임베딩 처리 하기 전에 Chunk로 split 할 때 개발자는 어떤 것을 어떻게 control 해서 최적화를 시킬 수 있는지…

그리고 Vector store 에서 Retrieval 할 때 어떤 옵션들이 있고 그것을 어떻게 사용하는지를 설명했습니다.

실력있는 개발자는 단순히 기능만 구현하는 것 이외에 성능, 속도, 비용까지 고려 합니다.

한번 배울 때 확실하게 배워서 진짜 실력있는 개발자가 됩시다.

https://youtu.be/qC1GGZDyB14

이번 영상은 제가 평상시에 궁금해 했던 LangChain과 BlockChain과 어떤 관계일까?에 대한 이야기 입니다.
제가 그것을 궁금하게 여긴 이유와 그 둘의 관계를 밝히기 위해 했던 조사 과정을 다루었습니다.

둘의 관계를 확실하게 밝혀 내지는 못했지만 그 조사 과정에서 LangChain에 BlockChain 관련한 API 가 있다는 것을 발견 했습니다.

그게 왜 있을까요?

뭐든지 알고 싶어서 조사하다 보면 뜻하지 않은 정보들이 얻어 걸려서 공부에 도움이 됩니다.

LangChain과 BlockChain 과의 관계에 대해 더 아시는 분 계시면 알려 주세요.

https://youtu.be/dfcGYS8IHmE?si=Dk5eysw0X0nFF7VZ

LangChain Quick Start

Retrieval Chain 을 배웁니다.

지난 시간에 코딩으로 구현하기 위해 필요한 사전 지식들을 배웠다면
오늘은 본격적으로 소스코드를 분석하면서 RAG를 이해해 보도록 하겠습니다.

LangChain (랭체인)의 Retrieval Chain을 사용해서 구현한 저의 AI Web App 소스코드를 같이 분석하면서 공부해 봅시다.

제 소스코드를 복사해 가셔서 나름대로 입맛에 맞게 이것 저것 고치시면 RAG의 프로세스에 대해서 확실하게 아실 수 있으실 거예요.

https://youtu.be/WZ3050T-CVg?si=o_szhRIFsycIvSN2

AI로 이미지를 생성했는데 아주 잘 그리네요.

이번에는 ChatGPT 4o 보다 Copilot이 더 잘 그려서 그걸 썼어요.