IT 기술 따라잡기

오늘은 LangGraph Quick Start Tutorial 마지막 단원인 Part 7 : Time Travel 입니다.

이름에서 알 수 있듯이 과거로 돌아가서 당시 State를 바꾸는 겁니다. 

그러면 현재의 결과 값을 바꿀 수 있습니다.

바로 State 의 History 가 Checkpoint 단위로 Step 별로 다 관리가 되고 있기 때문에 가능한 겁니다.

이 기능을 사용하면 Agent 의 Process 중 오류가 발생하거나 아니면 디버깅을 하거나 혹은 다른 Business Requirements 중에 이 기능이 필요한 경우 적용해서 보다 고객의 요구 조건을 풍부하게 충족 시켜 주는 어플리케이션을 개발 할 수 있을 겁니다.

https://youtu.be/JgR5BJ7CLEw

오늘은 LangGraph Quick Start Tutorial Part 5 : Manually updating the State 를 다룹니다.

핵심 개념은 update_state 입니다.

Tool이나 AI 메세지를 임의로 만들어서 처리할 수 있구요.

이 때 Tool 이나 AI 를 Call 하지 않고 중간에 처리한 것 처럼 만드는 겁니다.

Message ID 를 사용하면 Tool 이나 AI 로부터 받은 기존의 메세지를 바꿀 수도 있습니다.

Graph 가 처리하는 과정에서 수정이 필요하거나 Agent의 궤적을 제어할 필요가 있을 때 유용한 기능입니다.

https://youtu.be/KitVTQivgHU

오늘은 Lang Graph 의 주요 기능 중 하나인 Human In The Loop 이라는 기능을 배웁니다.

AI Agent 가 일 하다가 어떤 결정을 해야 할 떄, 선택의 순간이 왔을 때 인간의 의견을 물어보도록 만들 수 있습니다.

Interrupt_before , Interrupt_after 가 AI Agent 가 그렇게 인간의 선택을 물어보도록 만들 수 있습니다.

이 HIL (Human In The Loop) 기능은 LangGraph 에서 Checkpointer 라는 개념을 기반으로 제공이 됩니다.

이 외에 지나간 과거의 State 를 변경할 수도 있고 그 기능을 이용해서 Time Travel 이라는 기능도 제공하고 있습니다.

오늘은 LangGraph Quick Start 의 Part 4 Human in the loop 를 공부하고 이어서 다른 다양한 기능을 계속 공부 하겠습니다.

그 개념들에 대한 공부가 마쳐지면 LangGraph 의 이러한 Checkpointer 를 이용한 advanced 한 기능들을 응용해서 다양한 Web Application을 만들어 보겠습니다.

https://youtu.be/eWe3dFHshgA

매일 매일 쏟아지는 AI 신기술들...

6개월 전에 Olympia 라는 워싱턴주의 시골 (그래도 워싱턴 주의 Capital City 임) 에서 AI 를 공부하려고 시애틀 옆에 있고 Microsoft 본사 등 IT 기업들이 많이 있는 Redmond 로 이사 왔습니다.

그동안 networking 을 하면서 이런 저런 AI 관련 일들을 벌이다 보니 직장일 이외에 하는 일이 한 손에 있는 손가락 수를 넘어 버렸네요.

다시 Burn out 이 올 기미가 보여서 지금 하는 일들을 쭉 나열하고 어떤 것을 접어야 하나 고민 했습니다.

결론은...

그나마 생활비라도 나오는 직장을 그만 두는 것을 선택하게 되더라구요.

아직 한푼도 수익이 없는 AI 관련 일들을 하기 위해서요.

그 동안 좀 복잡해서 AI 강좌는 못 올리고 다른 내용들의 Contents 들만 올렸었는데요.

오늘은 그동안 공부했던 LangGraph 의 Quick Start Tutorial 의 Part 1 ~ Part 3 부분을 복습하고 내일부터 쭉쭉 진도 빼겠습니다.

LangGraph 에서도 해당 Tutorial 의 소스코드들을 조금 변경 했더라구요.

그 변경된 내용도 왜 변경했는지 그리고 그렇게 Refactoring 하면 어떤게 좋아 지길래 update를 했는지 설명 드립니다.

https://youtu.be/ykBpEUteeqY?si=R75CbDtQfH0Ix3II

비디오에서 사용한 CoLab page Link 는 아래에 있습니다.

New Version

https://colab.research.google.com/drive/1fhjPuBnQJOwFT-1_JLXpXN9k58MBgXfZ?usp=sharing

Old Version

https://colab.research.google.com/drive/1SARxtUTLUpLi4tX0v4E1oIC_xe1nhQa_?usp=sharing

This article was written in response to a publication request, where I share my perspective on how we should approach the emerging technology of AI.

When we view AI merely as an extension of digital technology to enhance digital-based services, we limit its true potential. Such a narrow approach confines us to only a fraction of AI's capabilities. Instead, I believe we must approach AI with the sensibilities of an analog world—embracing the depth and nuance beyond the digital realm. This perspective allows us to harness AI in a more meaningful way.

This article encapsulates my thoughts on this unique approach to AI.

이 글은 어느곳에 요청을 받고 제가 기고한 글입니다.

AI 라는 신기술을 어떻게 바라볼 것인가에 대한 저의 생각을 정리했습니다.

AI 를 Digital 의 연장으로 생각해서 좀 더 나은 Digital 기반의 서비스를 제공하겠다고 생각하면 안됩니다.

그러면 AI의 아주 제한적인 기능만 사용하게 됩니다.

Digital 이전의 세상인 Analog 적인 감성으로 AI를 대해야 제대로 AI를 활용할 수 있습니다.

이런 저의 생각을 정리했습니다.

https://youtu.be/H9ooiz89les

GenAI 가 까발린 Human Creativity이 하찮음 이라는 도발적인 Topic 으로 시애틀 지역 한인 IT 종사자 모임인 Changbal 에서 주최한 Relay Speach에 참가했습니다.

이때 나눈 내용으로 이번 비디오를 만들었습니다.

Human Creativity 는 어디에서 오는가? AI 는 어디에서부터 오는가?

예술이란 무엇인가?

인간의 예술과 AI 의 예술 지적 자산은 어떻게 봐야 하나?

관계 AI로 인해 벌어들이는 소득은 어떻게 해야 하나?

샘알트먼 빌 게이츠 강호동 서장훈 이 Youtube Clip 에서는 한가지를 얘기하기 위해 많은 것들을 이야기 합니다.

바로 우리들의 밝은 미래 입니다. 저의 생각이고 같이 생각해 보고 싶은 주제입니다.

https://youtu.be/ou89Ug7sjck

이 발표의 자료는 여기에 가시면 보실 수 있습니다.

https://docs.google.com/presentation/d/1j6qBTwcrFoRsQXLIFVeFdC21GrlRPnHgt5E6KLowyzI/edit?usp=sharing

그리고 중간에 나오는 AI vs Human: The Creativity Experiment 라는 독일의 다큐먼터리는 여기에서 보실 수 있습니다.

https://iview.abc.net.au/show/ai-vs-human-the-creativity-experiment?utm_content=link&utm_medium=content_shared

오늘은 이번 강좌에서 배운 LangGraph에서의 Memory 관리를 응용해서 AI Web Application을 개발해 보겠습니다.

LangGraph 와 Streamlit 을 이용해서 만듭니다. 

둘 다 Python을 기반으로 작동하고 LangGraph는 MultiAgent AI 앱 개발을 위한 프레임워크이고 Streamlit은 Web 어플리케이션 개발을 위한 파이썬 모듈입니다.

이 예제에서는 MemorySaver를 이용해서 어떻게 checkpointers 를 사용하는지 그리고 thread_id 를 사용해서 2명 이상의 사용자의 대화를 어떻게 관리하는지를 공부해 봅니다.

그런데 도대체 아수라 백작을 아는 사람들은 연령대가……..?

제가 어렸을 때 봤던 마징가 Z 에 나오는 빌런이었는데...

https://youtu.be/fED_jtEXTQ4

이 예제의 소스 코드는 아래 웹사이트에 가시면 보실 수 있습니다.

https://catchuplanggraph.streamlit.app/

오늘은 LangGraph의 Checkpointers에 대해 배워 봅니다.

지난 시간까지는 사용자와 AI와의 대화를 Streamlit의 Session_state 를 사용해서 저장을 했고 그 데이터를 사용해서 Chatbot 기능을 구현했습니다.

LangGraph에서도 그와 비슷한 기능을 하는 개념이 있습니다.

Checkpointers인데요. 

LangGraph에서 Checkpointers를 구현하는 방법은 MemorySaver, SqliteSaver, PostgresSaver 등이 있습니다.

사실 이 Checkpointers는 Chatbot 기능만을 위한 것은 아니고 다음 단원에서 배울 Human-in-the-loop, Time Travel 등의 고급 기능을 구현할 수 있게 해 주는 주요한 개념입니다.

오늘부터 이 LangGraph의 Checkpointers를 배워 보겠습니다.

https://youtu.be/TwQzTw0A51s?si=You1IAeaLRLsAP6 

이 유투브 클립에서 설명하는 AI Web application의 소스코드는 아래 웹 사이트로 가시면 보실 수 있습니다.

https://catchuplanggraph.streamlit.app/

오늘은 LangGraph 이름이 왜 그렇게 지어 졌는지를 찾다가 발견한 내용을 공유 합니다.

바로 이산 수학 (Discrete mathematics) 중 하나인 그래프 이론 (Graph Theory) 에서 그 이름이 유래한 건데요.

그래프 이론 어렵지 않습니다. 

점 들과 그 점들을 연결하는 선. 유치원때 배운 선긋기 수준의 이야기 입니다.

그리고 그 이론 설명을 들으면 LangGraph 도 정말 쉽게 시작하실 수 있습니다.

개발자는 그냥 점 찍고 선 긋는 것만 구현 하면 됩니다.

자 그럼 AI 어플리케이션 개발의 트랜드인 Multi-Agent와 Agentic Workflow를 사용할 수 있도록 하는 기능을 제공하는 어려운 LangGraph를 정말 쉽게 이해해 보세요.

처음 공부하시는 분들의 진입 장벽을 완전히 낮춰 줄 겁니다.

LangGraph - 점찍고 선만 그으면 됩니다. 정말 쉽게 설명 드립니다. Graph Theory 만 생각하세요.

https://youtu.be/mvGp8Wz3KdI

지난 시간에  LangGraph 의 Tool을 사용할 때 발생한 Chatbot 기능의 에러가 있었습니다.
제가 과제로 냈었는데요.
오늘 그 에러를 해결하는 과정을 단계별로 보여드릴께요.

ChatBot 기능에서 질문과 대답 사이에 Tool 을 사용했던 기록들이 나오는게 문제 였는데요.
에러가 난 부분으로 가서 log를 찍어보고 필요 없는데 print 되는 부분들의 패턴을 파악한 후 Session message에 append 하는 것을 막아 버리면 됩니다.

이 과정을 직접 확인해 보세요.

https://youtu.be/jPK7i7YVg68?si=QIUGOGFbwk2qqSxo