IT 기술 따라잡기

이번 시간은 ReWOO (Reasoning without Observation) 추론 방법론을 구현한 소스코드를 분석하는 시간입니다.

먼저 처음 시작할 때 AI 시대 IT 직종에 직업을 구하시거나 계속 유지하고 싶으신 분들께 도움이 될 내용을 다뤘습니다.

제가 25년간 한국과 미국에서 IT Engineer로 근무했던 경험과 계속 AI App 개발을 공부하면서 생각해 왔던 것을 공유합니다.

Every app will be reinvented with AI.

지금 존재하는 모든 앱은 AI로 다시 태어날 것입니다.

그렇다면 AI 를 기존 앱에 접목 시키거나 새로운 AI 앱을 개발할 때 어떤 능력을 가진 인재가 필요할까요?

당연히 AI 앱 개발과 관련된 지식이 있는 인재가 필요할 것입니다.

그 AI 앱 개발 관련 지식이 어떤 것들인지 그리고 곧 닥칠 수 많은 AI 앱 개발 프로젝트들에서는 어떤 팀 구성원이 새로 필요하게 될지 고민한 내용을 공유합니다.

 AI 시대, 여러분의 커리어와 비즈니스 경쟁력을 높이는 데 도움이 되길 바랍니다!

https://youtu.be/_MnR4K59fVg?si=jg5n4o2xQoetXli2

그동안 Application 개발은 프로그래밍 언어를 배운 사람들만의 전유물이었다면,

AI Application 개발은 그렇지 않은 사람들에게도 어플리케이션 개발의 기회를 줍니다.

AI 는 인간의 언어를 이해하고 인간의 언어를 통해서 작동되는 툴이라서 그렇습니다.

이 추론은 AI 로 부터 좀 더 Quality 높은 답변을 받도록 하는 기술 입니다.

이 부분이 바로 인간의 언어로 프로그래밍 할 수 있는 부분입니다.

이 기술을 배우면 굳이 AI 어플리케이션 개발 뿐만 아니라 일상 생활에서도 AI 를 좀 더 잘 활용하는데 도움이 됩니다.

이 비디오는 AI Agent Application 개발에 관심이 있는 분들을 대상으로 만들어 졌지만
IT 전문가가 아니더라도 알아두면 도움이 될 만한 추론 관련 정보를 얻으 실 수 있을 겁니다.

-------------------------------------------------------------------

오늘은 본격적으로 REWOO 추론 방법론 LangGraph Tutorial 을 공부를 시작합니다.

AI Agent Application을 개발 하다 보면 도구 사용 관련해서 빈번하게 LLM API call 이 이뤄지게 됩니다.
이 추론 방법론은 추론과 도구사용을 분리함으로서 API call을 줄여 비용 절감을 할 수 있게 해 줍니다.
게다가 성능 향상까지 이루어 줍니다.

이 REWOO 추론 방법론이 비용절감과 성능향상을 동시에 이룰 수 있었던 비밀을 제대로 파헤쳐 보겠습니다.

https://youtu.be/qtob6xrZLwM?si=CctYX3di5F2XjoNi

이번 영상에서는 LangGraph의 Plan & Execute 추론을 다룬 소스코드 분석 마지막 편입니다.

소스코드 분석이지만 개발자가 아닌 분들도 보시면 재미 있으실 겁니다.

AI 분야에서 추론은 어떻게 진행되는지 한번 확인해 보세요.

사용자의 질문을 작은 Task들로 나누고, 이를 하나하나 단계적으로 실행하면서 **Re-plan(재계획)**하는 과정을 구현했습니다.

이러한 접근 방식 덕분에, 더 높은 수준의 정보를 사용자에게 제공할 수 있는 AI Agent를 만들 수 있습니다.

🎯 과연 이 방식이 ChatGPT, Claude, DeepSeek, Perplexity 같은 최신 AI 모델들과 비교했을 때 어떤 차이를 보일까요?

실험을 위해 **"가장 유명한 K-Pop 걸그룹의 각 멤버 생일을 알려줘"**라는 질문을  AI 모델들에게 던졌습니다:

비디오에서 이 소스코드가 답한 내용과 현재 가장 성능이 좋은 AI 모델들이 답한 내용을 비교해 보세요.

특히 DeepSeek R1 의 추론과 답은 놀랍더라구요.

https://youtu.be/dtyjji0Mgxo?si=1_SFwLZDKvTs5Htk

이제 본격적으로 Plan & Execute 의 소스코드를 분석하고 실행해 봅니다.

AI 어플리케이션 개발자가 되시고 싶거나 어떻게 개발하는지 대략이라도 알고 싶으신 분들에게 도움이 될 겁니다.

이 AI 어플리케이션은 User의 질문을 받으면 그 질문에 답하지 않습니다.

더 좋은 답을 만들기 위해서 정답을 찾을 계획을 세웁니다.

바로 Plan 단계를 구현한 소스코드를 분석하고 직접 실행해 보겠습니다.

State Management, create Tool, create_react_agent, 

AI Agent 어플리케이션을 개발하기 위한 핵심 개념들을 배웁니다.

그리고 그 기술들을 사용해서 Planning Agent를 만드는 방법을 배웁니다.

"가장 유명한 K-Pop Girl group 멤버들의 생일은?"

이 질문에 과연 이 AI Agent 는 어떻게 답했을까요?

이 영상에서 확인해 보세요.

https://youtu.be/-FHz4VQh8qE?si=-G_egrCsjd7Q_mqC

AI 시대를 어떻게 맞이 해야 할지 궁금하시죠?

어플리케이션을 개발하는 사람들도 어떻게 AI 를 사용해서 프로그래밍을 할지 무지 열심히 연구하고 있습니다.

개발자 분들이 공부하면서 깨달아 가는 것이..... 결국은 소통입니다.

AI를 잘 이용하려면 AI와 잘 소통하는 방법을 개발해야 하는 것이라는 겁니다.

그래서 나온 얘기가 Prompting 입니다. 

이는 단지 프로그래머에게만 요구 되는 것은 아닙니다.

AI를 잘 사용하고 싶은 사람 누구에게나 필요합니다.

컴퓨터를 잘 알아서 앱을 개발하는 사람들은 AI와  잘 소통하는 방법을 어떻게 찾았는지 보면 힌트를 좀 얻을 수 있지 않을까요?

이 비디오를 보시면 분명 도움이 되실 겁니다. (프로그래밍에 대해 얘기 하지만 코딩은 하나도 없습니다.)

===========================================


기존 Traditional Programming 에서는 로직이 있었습니다.
로직만으로는 부족합니다.


AI Agent Programming에서는 거기에 더해서 Prompt들과 이 이 Prompt들을 다루는 로직이 중요합니다.


새로운 코딩의 요구 조건.
AI와 소통하는 법을 프로그래밍으로 어떻게 구현할것인가가 핵심입니다.


이 Prompt를 지배하는 길이 AI Agent 프로그래밍 마스터로 가는 길 입니다.


이번 시간에는 Plan & Execute 튜토리얼에서 관리되는 Prompt 들과 그 흐름을 자세히 살펴 보겠습니다.


이 흐름을 이해하고 난 후 LangGraph 에서 제공하는 Plan & Execute 소스코드를 보면 이 Prompting을 다루는 로직을 이해하는데 많은 도움이 될 겁니다.

https://youtu.be/sbC64Cx5flQ?si=2yv0eAzZnQuUw9rn

DeepSeek R1, OpenAI o3

요즘 뉴스를 장식하는 hot AI trend 를 보면 추론이라는 말이 많이 나옵니다.

이 추론이 무엇이길래 AI 의 성능을 크게 향상시켰을까요?

한국어로는 추론이라는 한 단어로 번역되는데 실제로 영어에서는 두가지 종류가 있습니다.

Inference 와 Reasoning 입니다.

DeepSeek R1 과 OpenAI o3 등 추론 기능을 강화한 AI 모델들은 Inference 부분을 강화 한 모델들입니다.

AI 모델에서 뿐만 아니라 LangGraph 와 같은 AI  어플리케이션을 만드는 Tool 에서도 이 추론기능을 사용하여 성능을 높이거나 더 user friendly 한 서비스를 제공하는 방법론이 있습니다.

거기서 말하는 추론은 Reasoning 에 더 가깝습니다. 

오늘은 이 AI 의 추론 기능을 다루는 LangGraph의 Planning Agents tutorial 들을 공부하기에 앞서 추론이란 무엇인지, Inference 와 Reasoning 의 차이는 무엇인지 그리고 이 기능을 개발할 수 있도록 만든 이론적인 성과물들은 무엇인지 등에 대해 설명드립니다.

https://youtu.be/KpBnknONb48?si=nZU6cHeXTzLNCbyn

오늘은 지난 시간에 설명했던 어플리케이션의 UI 쪽 소스코드를 심층 분석합니다.

이 어플리케이션은 Frontend tool 로 Streamlit 을 사용합니다.

이 Streamlit 으로 Web Application의 UI 를 어떻게 구성하고 여러 condition들에 따라 처리하는 로직은 어떻게 만드는지 알아봅니다.

그리고 함수끼리 데이터를 주고 받을 때 Session State 을 사용하는 방법과 Function Call 할 때 Parameter 로 전달하는 방법을 비교 분석합니다.

두 방법의 장점과 단점을 알아보고 각각 어떤 경우 사용하는게 더 좋을지 공부해 봅니다.

https://youtu.be/RFmJLUONv2g?si=aX53j3PHN8-Z9WtY

요즘 외국에서 생활하면서 듣는 고국으로부터 들려오는 뉴스들은 많이 우울하네요.

가슴이 아프기도 하고 이대로 무너지지 말고 다시 예전 처럼 경제적으로나 정치적으로나 모범적인 나라로 되돌아가기를 바랍니다.

한편으로는 모국이 잘 되기를 바라는 마음에 국뽕 장착이 되기도 하네요.

저는 AI Agent 를 공부하면서 이 기술이 미래를 바꿀 것이라고 더더욱 확신하게 되었고 그 미래를 주도하는 사람들 중에 Korean이 포함 되기를 바랍니다.

오늘은 LangGraph의 Multi-Agent Systems 공부 한 것을 응용해서 만든 저의 AI Web Application을 소개 합니다.

공부하면서 생각했던 AI Agent Platform Application 아이디어도 함께 공유합니다.

이번 어플리케이션은 공부하면서 구상했던 이 AI Agent Platform 들 중 하나에 대한 POC를 만든다는 생각으로 개발했습니다.

AI Agent 시대에는 일자리를 구하거나 사업을 하는 모습들이 완전히 달라 질 겁니다.

돈 버는 방법이 지금과는 완전히 달라진다는 얘기 입니다.

AI Agent를 공부하면서 이것으로 개발할 수 있는 어플리케이션을 생각하다 보니 자연스럽게 미래의 일하는 방법과 사업을 하는 방법이 그려지게 됐습니다.

그렇게 미래의 변화된 돈 버는 모습을 그려 보게 됐습니다.

오늘은 Study를 위해 개발한 이 어플리케이션 소개와 더불어 AI Agent 시대에 달라질 Business 모습에 대한 저의 Idea도 공유하겠습니다.

AI Modeling 분야에서는 한국이 뒤쳐졌지만, 이제 시작하는 AI Agent 시대는 한국이 선도하도록 여러 분야에서 힘 써 주셨으면 좋겠습니다.

저도 작은 힘이나마 보태고 싶구요.

마이크로소프트, 구글 은  인도 이민자가 이끌고 있고,

테슬라는 남아공 출신인 머스크가 만들었고

NVIDIA 도 대만 출신 이민자가 창업하고 경영을 하고 있습니다.

다가오는 AI Agent 시대는 Korean에서 이와 같은 Top  Level 기업을 만들고 운영하는 인재가 나오기를 바랍니다.

여러분들의 생각도 share 해 주세요.

제가 공부를 위해서 만든 Application의 소스코드들은 모두 공개 됩니다.

오늘 비디오에서 사용된 어플리케이션의 소스코드도 공개 됩니다.

https://youtu.be/CLuBhQKAdzo?si=f-Ciip9WZrVquCyT

오늘은 Hierarchical Agent Architecture 마지막 시간 입니다.

지금까지 만들어 놓은 도구들과 Agent들, 함수들 그리고 LangGraph 에서 제공하는 모듈들로 레고 블럭 처럼 조립해서 만듭니다.

먼저 Document Team 을 만들고 지난 시간에 만들었던 Researching Team 과 합쳐서 더 큰 Supervisor Architecture 를 손쉽게 만듭니다.

전문성을 갖춘 Agent Team 을 많이 만들어 놓으면 각 프로젝트의 목적에 맞게 적당한 Agent Team 들을 Import 해서 프로젝트를 수행하도록 할 수도 있습니다.

1인 기업도 가능하시만 제 생각에는 현재 기업을 구성하고 있는 각 팀에서 일하는 사람들을 Support 하는 역할이 더 먼저 진행될 거라고 생각합니다.

그러면 팀의 인원을 많이 줄일 수 있을 겁니다.

인간의 역할은 Agent 팀이 일하는 과정과 결과를 감독하고 Confirm 하는 일이 주된 일이 되지 않을까 싶습니다.

오늘 영상 보시고 각자 AI 시대 일하는 환경 변화를 고민해 보시는 것도 좋을 것 같습니다.

https://youtu.be/9sH2HWVTZkg?si=5wINQ3iKwaIX1A9B

오늘은 Research Team 을 완료 합니다.

지금까지 만든 Tool들과 함수들 그리고 LangGraph 에서 제공하는 모듈들을 사용해서 레고 블럭처럼 간단하게 Agent들을 만들고 Supervisor Architecture 로 구성된 Team 을 만들 수 있습니다.

Sub Supervisor Architecture 도 하나의 완성된 Supervisor Architecture 입니다.

그렇기 때문에 이 Sub Supervisor Architecture 인 Research Team 도 독립적으로 User 를 응대 할 수 있습니다.

미래의 구직은 사람이 하지 않을 겁니다.

내가 특정 Task 에 경쟁력 있는 AI Agent를 만들고 그 Agent를 취직 시키면 앉아서 돈을 버는 시대가 올겁니다.

이번 비디오에서 그 가능성을 확인해 보세요.

https://youtu.be/TC18Iqvaf8s?si=ELasdsPRho3NJ28b