IT 기술 따라잡기

오늘은 AI Multi-Agent 의 Supervisor Architecture 에 대해 공부 합니다.

Network Architecture는 Agent 들 끼리 직접 Communication 하는 반면에 Supervisor Architecture 의 Agent 들은 작업 결과를 Supervisor Agent 에게 보고 합니다.

Supervisor Agent 는 인간의 질문과 다른 Agent 들의 작업 결과를 받으면 그 다음 일을 어느 Agent 에게 시킬지 아니면 모든 일을 종료 하고 결과를 사용자에게  전달할지 여부를 판단하게 됩니다.

이 예제에는 두 개의 질문 예제가 있는데 간단한 질문에는 답을 하지만 조금 복잡한 질문은 처리하다가 Recursion Error 가 발생합니다.

이 부분이 현재 AI Multi Agent 어플리케이션이 퍼져 나가지 못하는 한계를 잘 보여 줍니다.

그 이유를 자세히 설명 드립니다.

놓치지 마시고 꼭 보세요.

그리고 그 해결 방법을 같이 고민해 보자구요.

https://youtu.be/fyh7nZEPpys?si=BQ9BQkdfQJT0WFaC

이번 한국의 비상 계엄령 사태 때 순간의 선택을 잘 못 해서 내란범이 될 처지에 놓인 사람이 많이 생겼습니다.

이 때 판단을 도와주는 도구로서 AI Agent 가 사용되고 있었다면 어떻게 됐을까요?

AI 는 수많은 데이터와 그 관계 정보를 바탕으로 경계가 모호한 문제에 대해 빨리 판단하는 기능이 있습니다.

미래에는 이 AI 기능을 여러곳에서 사용하게 될 것입니다.

AI Engineer 로서 이런 AI Product 를 개발 할 때 그 AI Agent 성능에 대한 테스트와 평가의 과정을 거쳐야 됩니다.

AI Engineer는 어떤 기준으로 어떻게 평가 해야 할까요?

저는 AI 의 이러한 판단 기능 때문에 AI Engineer 들은 인문학에 대한 교양을 많이 쌓아야 한다고 생각합니다.

같이 생각해 봅시다.

https://youtu.be/yMlG88KQ7jk?si=12SukZLo2hNiVXbA

오늘은 LangGraph Quick Start Tutorial 마지막 단원인 Part 7 : Time Travel 입니다.

이름에서 알 수 있듯이 과거로 돌아가서 당시 State를 바꾸는 겁니다. 

그러면 현재의 결과 값을 바꿀 수 있습니다.

바로 State 의 History 가 Checkpoint 단위로 Step 별로 다 관리가 되고 있기 때문에 가능한 겁니다.

이 기능을 사용하면 Agent 의 Process 중 오류가 발생하거나 아니면 디버깅을 하거나 혹은 다른 Business Requirements 중에 이 기능이 필요한 경우 적용해서 보다 고객의 요구 조건을 풍부하게 충족 시켜 주는 어플리케이션을 개발 할 수 있을 겁니다.

https://youtu.be/JgR5BJ7CLEw

오늘은 LangGraph Quick Start Tutorial Part 5 : Manually updating the State 를 다룹니다.

핵심 개념은 update_state 입니다.

Tool이나 AI 메세지를 임의로 만들어서 처리할 수 있구요.

이 때 Tool 이나 AI 를 Call 하지 않고 중간에 처리한 것 처럼 만드는 겁니다.

Message ID 를 사용하면 Tool 이나 AI 로부터 받은 기존의 메세지를 바꿀 수도 있습니다.

Graph 가 처리하는 과정에서 수정이 필요하거나 Agent의 궤적을 제어할 필요가 있을 때 유용한 기능입니다.

https://youtu.be/KitVTQivgHU

오늘은 Lang Graph 의 주요 기능 중 하나인 Human In The Loop 이라는 기능을 배웁니다.

AI Agent 가 일 하다가 어떤 결정을 해야 할 떄, 선택의 순간이 왔을 때 인간의 의견을 물어보도록 만들 수 있습니다.

Interrupt_before , Interrupt_after 가 AI Agent 가 그렇게 인간의 선택을 물어보도록 만들 수 있습니다.

이 HIL (Human In The Loop) 기능은 LangGraph 에서 Checkpointer 라는 개념을 기반으로 제공이 됩니다.

이 외에 지나간 과거의 State 를 변경할 수도 있고 그 기능을 이용해서 Time Travel 이라는 기능도 제공하고 있습니다.

오늘은 LangGraph Quick Start 의 Part 4 Human in the loop 를 공부하고 이어서 다른 다양한 기능을 계속 공부 하겠습니다.

그 개념들에 대한 공부가 마쳐지면 LangGraph 의 이러한 Checkpointer 를 이용한 advanced 한 기능들을 응용해서 다양한 Web Application을 만들어 보겠습니다.

https://youtu.be/eWe3dFHshgA

지난 시간에 이어서 LangGraph Chatbot with Tool 에 대해 알려 드립니다.

지난 시간에 LangGraph로 구현하는 로직을 모두 완료 했었습니다.
이번 비디오에서는 그 로직에 Streamlit 의 session_state와 chatbot 기능을 더 해 완성된 AI Application을 만들어 봅니다.

LangGraph의 Tool을 사용해 최신 정보까지 제공하는 대화형 AI Application 개발하는 과정을 보실 수 있습니다.

https://youtu.be/M4ejvxxLF_w?si=6gUX8C5hZ-gfNNE-

그리고 아래 웹사이트로 가면 완성된 AI Application과 전체 Source Code도 받아 보실 수 있습니다.

https://catchuplanggraph.streamlit.app/

지난 시간에  LangGraph 의 Tool을 사용할 때 발생한 Chatbot 기능의 에러가 있었습니다.
제가 과제로 냈었는데요.
오늘 그 에러를 해결하는 과정을 단계별로 보여드릴께요.

ChatBot 기능에서 질문과 대답 사이에 Tool 을 사용했던 기록들이 나오는게 문제 였는데요.
에러가 난 부분으로 가서 log를 찍어보고 필요 없는데 print 되는 부분들의 패턴을 파악한 후 Session message에 append 하는 것을 막아 버리면 됩니다.

이 과정을 직접 확인해 보세요.

https://youtu.be/jPK7i7YVg68?si=QIUGOGFbwk2qqSxo

드디어 LangGraph를 시작합니다.

StateGraph, Nodes, Edges, Compile, Stream

LangGraph의 가장 기본 개념을 활용해서 AI 어플리케이션을 만듭니다.
게다가 Streamlit 의 Session State를 사용해서 챗봇 기능을 구현했습니다.

LLM 은 Anthropic 사의 Claude를 사용합니다.

소스코드 공개합니다.

가져가셔서 맘껏 활용 하세요.

처음 배울 때 확실하게 배워서 AI 어플리케이션 개발에선 제대로 된 개발자가 됩시다.

오늘 배우는 내용은 이곳으로 가시면 어플리케이션과 소스코드를 보실 수 있습니다.


https://youtu.be/Ri3Nrpac3nI?si=gagZU75-rNr9uz19

Catchup LangGraph Tutorial · Streamlit

https://youtu.be/QEf5FR0DiHk?si=TECvJ_RslHzm9fVl