IT 기술 따라잡기

DeepSeek R1, OpenAI o3

요즘 뉴스를 장식하는 hot AI trend 를 보면 추론이라는 말이 많이 나옵니다.

이 추론이 무엇이길래 AI 의 성능을 크게 향상시켰을까요?

한국어로는 추론이라는 한 단어로 번역되는데 실제로 영어에서는 두가지 종류가 있습니다.

Inference 와 Reasoning 입니다.

DeepSeek R1 과 OpenAI o3 등 추론 기능을 강화한 AI 모델들은 Inference 부분을 강화 한 모델들입니다.

AI 모델에서 뿐만 아니라 LangGraph 와 같은 AI  어플리케이션을 만드는 Tool 에서도 이 추론기능을 사용하여 성능을 높이거나 더 user friendly 한 서비스를 제공하는 방법론이 있습니다.

거기서 말하는 추론은 Reasoning 에 더 가깝습니다. 

오늘은 이 AI 의 추론 기능을 다루는 LangGraph의 Planning Agents tutorial 들을 공부하기에 앞서 추론이란 무엇인지, Inference 와 Reasoning 의 차이는 무엇인지 그리고 이 기능을 개발할 수 있도록 만든 이론적인 성과물들은 무엇인지 등에 대해 설명드립니다.

https://youtu.be/KpBnknONb48?si=nZU6cHeXTzLNCbyn

요즘 외국에서 생활하면서 듣는 고국으로부터 들려오는 뉴스들은 많이 우울하네요.

가슴이 아프기도 하고 이대로 무너지지 말고 다시 예전 처럼 경제적으로나 정치적으로나 모범적인 나라로 되돌아가기를 바랍니다.

한편으로는 모국이 잘 되기를 바라는 마음에 국뽕 장착이 되기도 하네요.

저는 AI Agent 를 공부하면서 이 기술이 미래를 바꿀 것이라고 더더욱 확신하게 되었고 그 미래를 주도하는 사람들 중에 Korean이 포함 되기를 바랍니다.

오늘은 LangGraph의 Multi-Agent Systems 공부 한 것을 응용해서 만든 저의 AI Web Application을 소개 합니다.

공부하면서 생각했던 AI Agent Platform Application 아이디어도 함께 공유합니다.

이번 어플리케이션은 공부하면서 구상했던 이 AI Agent Platform 들 중 하나에 대한 POC를 만든다는 생각으로 개발했습니다.

AI Agent 시대에는 일자리를 구하거나 사업을 하는 모습들이 완전히 달라 질 겁니다.

돈 버는 방법이 지금과는 완전히 달라진다는 얘기 입니다.

AI Agent를 공부하면서 이것으로 개발할 수 있는 어플리케이션을 생각하다 보니 자연스럽게 미래의 일하는 방법과 사업을 하는 방법이 그려지게 됐습니다.

그렇게 미래의 변화된 돈 버는 모습을 그려 보게 됐습니다.

오늘은 Study를 위해 개발한 이 어플리케이션 소개와 더불어 AI Agent 시대에 달라질 Business 모습에 대한 저의 Idea도 공유하겠습니다.

AI Modeling 분야에서는 한국이 뒤쳐졌지만, 이제 시작하는 AI Agent 시대는 한국이 선도하도록 여러 분야에서 힘 써 주셨으면 좋겠습니다.

저도 작은 힘이나마 보태고 싶구요.

마이크로소프트, 구글 은  인도 이민자가 이끌고 있고,

테슬라는 남아공 출신인 머스크가 만들었고

NVIDIA 도 대만 출신 이민자가 창업하고 경영을 하고 있습니다.

다가오는 AI Agent 시대는 Korean에서 이와 같은 Top  Level 기업을 만들고 운영하는 인재가 나오기를 바랍니다.

여러분들의 생각도 share 해 주세요.

제가 공부를 위해서 만든 Application의 소스코드들은 모두 공개 됩니다.

오늘 비디오에서 사용된 어플리케이션의 소스코드도 공개 됩니다.

https://youtu.be/CLuBhQKAdzo?si=f-Ciip9WZrVquCyT

오늘은 Hierarchical Agent Architecture 마지막 시간 입니다.

지금까지 만들어 놓은 도구들과 Agent들, 함수들 그리고 LangGraph 에서 제공하는 모듈들로 레고 블럭 처럼 조립해서 만듭니다.

먼저 Document Team 을 만들고 지난 시간에 만들었던 Researching Team 과 합쳐서 더 큰 Supervisor Architecture 를 손쉽게 만듭니다.

전문성을 갖춘 Agent Team 을 많이 만들어 놓으면 각 프로젝트의 목적에 맞게 적당한 Agent Team 들을 Import 해서 프로젝트를 수행하도록 할 수도 있습니다.

1인 기업도 가능하시만 제 생각에는 현재 기업을 구성하고 있는 각 팀에서 일하는 사람들을 Support 하는 역할이 더 먼저 진행될 거라고 생각합니다.

그러면 팀의 인원을 많이 줄일 수 있을 겁니다.

인간의 역할은 Agent 팀이 일하는 과정과 결과를 감독하고 Confirm 하는 일이 주된 일이 되지 않을까 싶습니다.

오늘 영상 보시고 각자 AI 시대 일하는 환경 변화를 고민해 보시는 것도 좋을 것 같습니다.

https://youtu.be/9sH2HWVTZkg?si=5wINQ3iKwaIX1A9B

오늘은 Research Team 을 완료 합니다.

지금까지 만든 Tool들과 함수들 그리고 LangGraph 에서 제공하는 모듈들을 사용해서 레고 블럭처럼 간단하게 Agent들을 만들고 Supervisor Architecture 로 구성된 Team 을 만들 수 있습니다.

Sub Supervisor Architecture 도 하나의 완성된 Supervisor Architecture 입니다.

그렇기 때문에 이 Sub Supervisor Architecture 인 Research Team 도 독립적으로 User 를 응대 할 수 있습니다.

미래의 구직은 사람이 하지 않을 겁니다.

내가 특정 Task 에 경쟁력 있는 AI Agent를 만들고 그 Agent를 취직 시키면 앉아서 돈을 버는 시대가 올겁니다.

이번 비디오에서 그 가능성을 확인해 보세요.

https://youtu.be/TC18Iqvaf8s?si=ELasdsPRho3NJ28b

자 이제 Agent 생성하기 위한 마지막 준비 단계입니다.

Hierarchical Architecture  는 Supervisor Architecture 를 여러개 모아 놓은 구조 입니다.

즉 Supervisor Architecture 를 여러개 만들어야 한다는 겁니다.

Factory Design Pattern을 사용해서 쉽게 Supervisor Architecture를 구현하도록 하는 함수를 만듭니다.

그러면 나중에 다른 팀을 추가하는 작업도 간편하게 할 수 있습니다.

코드의 유지 보수도 쉽게 해 주고 확장성도 높여 줍니다.

오늘은 이 Factory Design Pattern을 사용해서 Supervisor Architecture를 쉽게 생성하도록 만드는 함수를 공부해 보겠습니다.

그리고 Python 3.11 이상에서만 지원되는 * unpacking 을 3.10 이하 버전에서 unpacking 할 인자들이 가변적일 때 어떻게 처리해야 하는지도 살펴 봅니다.

https://youtu.be/Ft8lK2G5IFs?si=UnmG7BsBrR-aMkqI

오늘은 Agent들이 사용할 Tool들을 구현하는 마지막 시간입니다.

Document Authoring Team 이 사용할 Tool을 구현합니다.

문서 작업팀이니까 파일을 읽고 쓰고 수정하는 도구들을 만듭니다.

그리고 Chart Generator Agent를 위해 Python 코드를 실행할 도구도 만듭니다.

전체 그림을 그리고 처음 하는 일이 이런 Tool들을 구현하는 작업입니다.

그 다음은 특정 Agent와 필요한 Tool들을 짝지어서 Agent Node를 만드는 일입니다.

그리고 나서 Agent들을 Grouping 해서 Team을 구성합니다. 

이 때 Supervisor Architecture가 사용 됩니다.

이 팀들을 관리하는 Supervisor 를 구현하는 것이 그 다음 단계입니다.

이것도 Supervisor Architecture 입니다.

이렇게 Supervisor Architecture를 Multiple 하게 사용하는 곳아  Hierarchical Architecture 입니다.

오늘 가장 기본이 되는 Tool들을 구현하는 작업을 끝마치고 다음 시간부터 Agent들을 구현하겠습니다.

https://youtu.be/JTdh8pNY1PE?si=wrESnWDNexO2B7lz

오늘은 LangGraph의 Hierarchical Agent Teams Architecture 두번째 시간입니다.

지난 시간에 이 Tutorial 에서 제공되는 소스코드의 Agent Architecture 전체 그림을 분석했습니다.

필요한 Team과 각 팀마다 필요한 Agent들을 정했구요.

일을 시키려면 그 일에 맞는 적당한 도구를 주어 줘야 합니다.

오늘은 각 Agent의 역할에 맞는 도구를 구현하는 방법을 배워 보겠습니다.

먼저 Research Team 에 있는 Searcher Agent와 Web Scraper Agent 에게 각각 어떤 Tool들을 제공할지 그리고 그 Tool들은 어떻게 구현하는지 자세히 공부하겠습니다.

https://youtu.be/I4SID3VPUi0?si=QcmZvwe7mFa990_J

오늘은 LangGraph의 Hierarchical Agent Teams Architecture 첫 시간입니다.

이 Tutorial 에서 다룰 소스코드의 전체 그림을 살펴 봅니다.

그리고 지금까지 공부한 것을 토대로 Agent Architecture를 구성하기 위한 절차들에 대해서도 정리 합니다.

오늘 디자인한 것을 토대로 다음 시간 부터는 코딩에 들어갑니다.

코딩을 시작하기 전 어떤 것들을 어떻게 설계해야 하는지 잘 배워 봅시다.

https://youtu.be/J5zl376A9qo?si=bTHY5JEkOCXVM5XF

오늘은 AI Multi-Agent 의 Supervisor Architecture 에 대해 공부 합니다.

Network Architecture는 Agent 들 끼리 직접 Communication 하는 반면에 Supervisor Architecture 의 Agent 들은 작업 결과를 Supervisor Agent 에게 보고 합니다.

Supervisor Agent 는 인간의 질문과 다른 Agent 들의 작업 결과를 받으면 그 다음 일을 어느 Agent 에게 시킬지 아니면 모든 일을 종료 하고 결과를 사용자에게  전달할지 여부를 판단하게 됩니다.

이 예제에는 두 개의 질문 예제가 있는데 간단한 질문에는 답을 하지만 조금 복잡한 질문은 처리하다가 Recursion Error 가 발생합니다.

이 부분이 현재 AI Multi Agent 어플리케이션이 퍼져 나가지 못하는 한계를 잘 보여 줍니다.

그 이유를 자세히 설명 드립니다.

놓치지 마시고 꼭 보세요.

그리고 그 해결 방법을 같이 고민해 보자구요.

https://youtu.be/fyh7nZEPpys?si=BQ9BQkdfQJT0WFaC

오늘은 with_structured_output() 에 대해 알아 봅니다.

이 비디오는 LangGraph 에서 제공하는 Youtube Tutorial 입니다.

LangGraph 의 Multi Agent Architecture 중 Supervisor Architecture 를 공부하던 중 이 메소드가 나와서 Research를 좀 했습니다.

Supervisor Architecture 소스코드를 분석하기 전에 이 메소드를 먼저 공부하고 들어가면 훨씬 이해하기 쉬울 겁니다.

https://youtu.be/7hm3_DV1lz4

원본 비디오는 여기에 있습니다. 

: https://youtu.be/0i9NzY_b3pg?si=ISieTuJSOGVqcX0a

그리고 Web Document 는 아래에 있습니다.

: https://langchain-ai.github.io/langgraph/how-tos/react-agent-structured-output/