IT 기술 따라잡기

오늘은 with_structured_output() 에 대해 알아 봅니다.

이 비디오는 LangGraph 에서 제공하는 Youtube Tutorial 입니다.

LangGraph 의 Multi Agent Architecture 중 Supervisor Architecture 를 공부하던 중 이 메소드가 나와서 Research를 좀 했습니다.

Supervisor Architecture 소스코드를 분석하기 전에 이 메소드를 먼저 공부하고 들어가면 훨씬 이해하기 쉬울 겁니다.

https://youtu.be/7hm3_DV1lz4

원본 비디오는 여기에 있습니다. 

: https://youtu.be/0i9NzY_b3pg?si=ISieTuJSOGVqcX0a

그리고 Web Document 는 아래에 있습니다.

: https://langchain-ai.github.io/langgraph/how-tos/react-agent-structured-output/

오늘은 LangGraph Tutorial 중 Network Agent Architecture 소스코드를 집중 분석합니다.

이 Tutorial 의 소스코드가 얼마전 바뀌었는데요.
Old version New Version을 비교 분석하면서 이 소스코드가 Update된 이유를 알아 봅니다.

이를 통해 Network Architecture에 대해 좀 더 깊은 이해를 할 수 있을 겁니다.

그리고 create_react_agent() 메소드에 대해 자세히 설명 드리겠습니다.
이 메소드는 앞으로 Supervisor Architecture를 배울 때 중요하게 다뤄질 메소드 입니다.

비디오 마지막에는 한국의 혼란스러운 정치 상황을 외국에서 보면서 걱정이 되면서도 한국 젊은 이들의 모습을 보면서 안심 하게 되는 제 심정을 표현한 간단한 마무리 영상을 추가 했습니다.

멀리 외국에서도 민주주의를 지키기 위해 노력하는 한국 국민들과 함께 합니다.

https://youtu.be/yaJR0FkYkYU?si=XDfXEb8vD20edui-

오늘은 첫번째 Multi Agent Architecture인 Network Architecture 소스 분석을 시작합니다.

이쪽 분야는 아주 변화 무쌍한 곳이라 LangGraph Tutorial 을 보니까 1주일 전에 공부한 소스코드가 어느새 바뀌어 있네요.

오늘은 Old Source Code 를 중심으로 공부하면서 처음 만들어 보는 Agent 에 대해 자세히 살펴 보겠습니다.

오늘 비디오에서는 Agent 가 어떻게 생겼는지 보는 것 만으로 의미가 있는 것 같습니다.

제가 정의하는 Agent 모양은 Prompt로 역할을 부여하고 tool이 필요한 경우 사용할 tool을 장착 시켜 준 object 입니다.

여러분도 보시고 나름대로 Agent 는 어떻게 설명할 수 있는지 생각해 보세요.

https://youtu.be/TNAXWwMu5Ew?si=GWR_BhjPdAT9_8Wl

오늘 부터 LangGraph의 AI Multi-Agent Architectures 에 대해 공부를 시작합니다.

AI Agent Application을 개발 하려면 코딩도 중요하지만 어떻게 Arthitecture를 할 것인지 설계하는 단계도 매우 중요합니다.

이 Agent Architectures는 Traditional Programming Architecture 와는 많이 다른 것 같습니다.

저는 AI Agent Application 으로 무언 가를 만드는 Startup 을 시작했습니다.

그래서 무엇보다 이 AI Multi-Agent Architectures 에 관심이 많습니다. 

그리고 조만간 AI Agent Application이 실제 Business에서 Needs 가 많이 생길 때 이 AI Multi-Agent Architect 의 수요도 더 많아 질 것으로 보고 있습니다.

앞으로 미래 직업을 준비하시는 분들에게도 이 부분을 잘 생각해 보시길 권장 드립니다.

오늘은 AI Multi-Agent Architectures 의 기본 개념들에 대해 자세히 알아 보고 다음 시간 부터 이것을 바탕으로 각 Architecture 별로 실제 코딩을 해서 실행하는 방법을 배워 보도록 하겠습니다.

https://youtu.be/apgY5Po0fR8?si=L6wvz6Lg_1elDpmz

오늘은 LangGraph Quick Start Tutorial 마지막 단원인 Part 7 : Time Travel 입니다.

이름에서 알 수 있듯이 과거로 돌아가서 당시 State를 바꾸는 겁니다. 

그러면 현재의 결과 값을 바꿀 수 있습니다.

바로 State 의 History 가 Checkpoint 단위로 Step 별로 다 관리가 되고 있기 때문에 가능한 겁니다.

이 기능을 사용하면 Agent 의 Process 중 오류가 발생하거나 아니면 디버깅을 하거나 혹은 다른 Business Requirements 중에 이 기능이 필요한 경우 적용해서 보다 고객의 요구 조건을 풍부하게 충족 시켜 주는 어플리케이션을 개발 할 수 있을 겁니다.

https://youtu.be/JgR5BJ7CLEw

오늘은 Part 6 Customizing State를 배웁니다.

이전 단원까지는 interrupt_before를 사용해서 Tools 를 사용하기 전에 작업을 무조건 Stop 을 시킨 후 Human 의 개입을 허용했는데요.

이번장에서는 Human 의 개입이 필요 하다는 판단을 AI 가 판단하게 만드는 구조를 구현합니다.

그러기 위해서는 State를 Customizing 해야 합니다.

그러면 Agent 가 시키는 일을 하다가 자신이 결정 내릴 만한 일이 아니라고 판단되면 인간에게 허락을 받으러 오게 만들 수 있습니다.

이것을 어떻게 구현하는지 배워 봅니다.

오늘 비디오에서 다루는 소스코드는 아래 CoLab에 있습니다.

https://youtu.be/2r961w7y4-Y

오늘은 LangGraph Quick Start Tutorial Part 5 : Manually updating the State 를 다룹니다.

핵심 개념은 update_state 입니다.

Tool이나 AI 메세지를 임의로 만들어서 처리할 수 있구요.

이 때 Tool 이나 AI 를 Call 하지 않고 중간에 처리한 것 처럼 만드는 겁니다.

Message ID 를 사용하면 Tool 이나 AI 로부터 받은 기존의 메세지를 바꿀 수도 있습니다.

Graph 가 처리하는 과정에서 수정이 필요하거나 Agent의 궤적을 제어할 필요가 있을 때 유용한 기능입니다.

https://youtu.be/KitVTQivgHU

오늘은 Lang Graph 의 주요 기능 중 하나인 Human In The Loop 이라는 기능을 배웁니다.

AI Agent 가 일 하다가 어떤 결정을 해야 할 떄, 선택의 순간이 왔을 때 인간의 의견을 물어보도록 만들 수 있습니다.

Interrupt_before , Interrupt_after 가 AI Agent 가 그렇게 인간의 선택을 물어보도록 만들 수 있습니다.

이 HIL (Human In The Loop) 기능은 LangGraph 에서 Checkpointer 라는 개념을 기반으로 제공이 됩니다.

이 외에 지나간 과거의 State 를 변경할 수도 있고 그 기능을 이용해서 Time Travel 이라는 기능도 제공하고 있습니다.

오늘은 LangGraph Quick Start 의 Part 4 Human in the loop 를 공부하고 이어서 다른 다양한 기능을 계속 공부 하겠습니다.

그 개념들에 대한 공부가 마쳐지면 LangGraph 의 이러한 Checkpointer 를 이용한 advanced 한 기능들을 응용해서 다양한 Web Application을 만들어 보겠습니다.

https://youtu.be/eWe3dFHshgA

매일 매일 쏟아지는 AI 신기술들...

6개월 전에 Olympia 라는 워싱턴주의 시골 (그래도 워싱턴 주의 Capital City 임) 에서 AI 를 공부하려고 시애틀 옆에 있고 Microsoft 본사 등 IT 기업들이 많이 있는 Redmond 로 이사 왔습니다.

그동안 networking 을 하면서 이런 저런 AI 관련 일들을 벌이다 보니 직장일 이외에 하는 일이 한 손에 있는 손가락 수를 넘어 버렸네요.

다시 Burn out 이 올 기미가 보여서 지금 하는 일들을 쭉 나열하고 어떤 것을 접어야 하나 고민 했습니다.

결론은...

그나마 생활비라도 나오는 직장을 그만 두는 것을 선택하게 되더라구요.

아직 한푼도 수익이 없는 AI 관련 일들을 하기 위해서요.

그 동안 좀 복잡해서 AI 강좌는 못 올리고 다른 내용들의 Contents 들만 올렸었는데요.

오늘은 그동안 공부했던 LangGraph 의 Quick Start Tutorial 의 Part 1 ~ Part 3 부분을 복습하고 내일부터 쭉쭉 진도 빼겠습니다.

LangGraph 에서도 해당 Tutorial 의 소스코드들을 조금 변경 했더라구요.

그 변경된 내용도 왜 변경했는지 그리고 그렇게 Refactoring 하면 어떤게 좋아 지길래 update를 했는지 설명 드립니다.

https://youtu.be/ykBpEUteeqY?si=R75CbDtQfH0Ix3II

비디오에서 사용한 CoLab page Link 는 아래에 있습니다.

New Version

https://colab.research.google.com/drive/1fhjPuBnQJOwFT-1_JLXpXN9k58MBgXfZ?usp=sharing

Old Version

https://colab.research.google.com/drive/1SARxtUTLUpLi4tX0v4E1oIC_xe1nhQa_?usp=sharing