IT 기술 따라잡기

드디어 한국인이 만든 추론 방법론을 배웁니다!

LLMCompiler

한국스럽게 '빠르고, 정확한' AI Agent 만들기

오늘은 LangGraph Tutorial에서 제공하는 추론 방법론의 마지막 시간입니다.

드디어 한국인이 주축이 되어 만든 추론 방법론, LLMCompiler를 배워 봅시다!
역시 한국스럽게, 이 추론 방법론을 사용하면 '싸게, 빨리빨리, 그리고 정확한' AI Agent를 만들 수 있습니다.

기존처럼 하나씩 순차적으로 처리하는 방식이 아니라, 병렬적으로 여러 작업을 동시에 해결하여
효율성은 물론, 비용 절감과 정확도 향상까지 노리는 방법을 살펴봅니다.

특히 AI 에이전트(Application) 개발에 관심 있는 분들께 큰 도움이 되며,
IT 전문 지식이 많지 않은 일반 시청자도 AI 시대 교양 차원에서 재미있게 볼 수 있을 거예요.

LLMCompiler로 차세대 AI Agent를 를 한층 쉽게 만드는 방법을 알려드립니다!

https://youtu.be/PSTsSCvuoMk

이번 시간은 ReWOO (Reasoning without Observation) 추론 방법론을 구현한 소스코드를 분석하는 시간입니다.

먼저 처음 시작할 때 AI 시대 IT 직종에 직업을 구하시거나 계속 유지하고 싶으신 분들께 도움이 될 내용을 다뤘습니다.

제가 25년간 한국과 미국에서 IT Engineer로 근무했던 경험과 계속 AI App 개발을 공부하면서 생각해 왔던 것을 공유합니다.

Every app will be reinvented with AI.

지금 존재하는 모든 앱은 AI로 다시 태어날 것입니다.

그렇다면 AI 를 기존 앱에 접목 시키거나 새로운 AI 앱을 개발할 때 어떤 능력을 가진 인재가 필요할까요?

당연히 AI 앱 개발과 관련된 지식이 있는 인재가 필요할 것입니다.

그 AI 앱 개발 관련 지식이 어떤 것들인지 그리고 곧 닥칠 수 많은 AI 앱 개발 프로젝트들에서는 어떤 팀 구성원이 새로 필요하게 될지 고민한 내용을 공유합니다.

 AI 시대, 여러분의 커리어와 비즈니스 경쟁력을 높이는 데 도움이 되길 바랍니다!

https://youtu.be/_MnR4K59fVg?si=jg5n4o2xQoetXli2

그동안 Application 개발은 프로그래밍 언어를 배운 사람들만의 전유물이었다면,

AI Application 개발은 그렇지 않은 사람들에게도 어플리케이션 개발의 기회를 줍니다.

AI 는 인간의 언어를 이해하고 인간의 언어를 통해서 작동되는 툴이라서 그렇습니다.

이 추론은 AI 로 부터 좀 더 Quality 높은 답변을 받도록 하는 기술 입니다.

이 부분이 바로 인간의 언어로 프로그래밍 할 수 있는 부분입니다.

이 기술을 배우면 굳이 AI 어플리케이션 개발 뿐만 아니라 일상 생활에서도 AI 를 좀 더 잘 활용하는데 도움이 됩니다.

이 비디오는 AI Agent Application 개발에 관심이 있는 분들을 대상으로 만들어 졌지만
IT 전문가가 아니더라도 알아두면 도움이 될 만한 추론 관련 정보를 얻으 실 수 있을 겁니다.

-------------------------------------------------------------------

오늘은 본격적으로 REWOO 추론 방법론 LangGraph Tutorial 을 공부를 시작합니다.

AI Agent Application을 개발 하다 보면 도구 사용 관련해서 빈번하게 LLM API call 이 이뤄지게 됩니다.
이 추론 방법론은 추론과 도구사용을 분리함으로서 API call을 줄여 비용 절감을 할 수 있게 해 줍니다.
게다가 성능 향상까지 이루어 줍니다.

이 REWOO 추론 방법론이 비용절감과 성능향상을 동시에 이룰 수 있었던 비밀을 제대로 파헤쳐 보겠습니다.

https://youtu.be/qtob6xrZLwM?si=CctYX3di5F2XjoNi

이 추론 방법론 비교 마지막회 작업을 하다가 AI 모델 순위를 바꿔 버렸습니다.

작업 하던 중 일론 머스크가 Grok 3 를 발표 했거든요.
써 보고 그냥 그런가 보다 했었는데, 추론 모델인 DeepSearch 모델을 사용해 보고 나서는 ㄷㄷㄷ.

일론 머스크 너는 도대체......

지난 시간에 다뤘던 일반 AI 모델들 보다 역시 AI 추론 모델들의 답변이 훨씬 Quality 가 높습니다.

공부를 할 때는 이 AI 추론 모델을 사용해야 할 것 같습니다.

ChatGPT o1, DeepSeek R1 그리고 Grok 3 DeepSearch 모델들이 답한 CoT (Chain of Thought), ReAct (Reasoning & Acting), PS (Plan and Solve) 그리고 ReWOO (Reasoning without Observation) Research 자료로 공부 합니다.

그리고 각 AI 추론 모델들의 특징과 강점을 직접 느껴 보세요.

이 비디오에서 정한 순위는 특정 질문에 대한 각 모델들의 답변에 대한 저의 주관적인 평가 입니다.

https://youtu.be/z4bnY7lEOP0?si=YCAls0U6CVMDdAqY

지난 시간의 서론에 이어 오늘은 본격적으로 각 AI 들의 답변을 분석해 봅니다.

질문은 '아래 추론 방법론들을 분석하고 비교하라' 였습니다.

1.  COT (Chain of Thought)
2. ReAct ( Reasoning and Acting)
3. PS (Plan and Solve)
4. ReWOO (Reasoning without Observation)


오늘은 이에 대해 Gemini, Perplexity, Grok, Copilot 그리고 Claude AI 들의 답변을 갖고 공부합니다.

그리고 각 AI 의 특성과 장단점도 알아 봅니다.

비디오에서 정한 순위는 해당 질문에 대한 답변을 보고 저의 주관적인 판단을 기반으로 정한 겁니다.

AI 들의 답변들을 보다 보면 4가지 추론 방법론들의 핵심 내용을 반복해서 공부하게 되서 훨씬 더 효과가 있는 것 같습니다.

게다가 AI 모델들간의 특성도 파악할 수 있구요.

이 추론 방법론들은 AI와 더 잘 소통하는 법을 연구한 논문들을 근거로 만들어 졌습니다.

AI 로부터 더 좋은 답을 얻어내는 기술을 가진 사람들이 AI 시대에 경쟁력이 있을 거라는 것은 당연합니다.

연구자들과 개발자들은 어떻게 AI 로 부터 더 좋은 답을 얻어내려고 할까요?
이 비디오에서 그 단면을 보여드립니다.

https://youtu.be/XkSgND7w-XY?si=kmaSz8Unxm5yYODd

이번 비디오는 IT 개발자가 아니더라도 아주 도움이 많이 될거라고 확신합니다.

AI 쪽으로 계속 공부하다 보니까 AI 시대를 어떻게 준비해야 될지 하나 하나 윤곽이 잡혀 가는 것 같습니다.

지금까지의 모든 어플리케이션은 AI 로 새로 태어날 것입니다.

그리고 AI 는 자연어 (일상 언어)로 프로그래밍 하는 겁니다.

질문이 좋으면 답이 좋습니다. 남들 보다 더 좋은 답을 얻어내면 경쟁에서 앞서 나갈 수 있습니다.

AI 로부터 좋은 답을 얻기 위한 연구분야가 추론 입니다.

ChatGPT O1, O3 그리고 DeepSeek R1 같은 추론 모델에서 더 좋은 답이 나오는 것을 우리는 쉽게 확인할 수 있습니다.

그래서 

지금까지 배운 추론 방법론들을 총 정리해 보기로 했습니다.
AI를 계속 공부를 하다 보니까 점차 AI 시대를 어떻게 준비해야 될지 감이 잡히는 것 같습니다.

인터넷 시대가 시작할 때 인터넷과 일찍 친해진 사람들은 경쟁 사회에서 유리한 위치를 차지했고 크게 성공한 사람들도 많았습니다.

AI 시대가 시작되는 지금 AI 와 친해지는 방법을 알아야 합니다.
AI 와 커뮤니케이션을 잘 해야 합니다.

AI와의 커뮤니케이션은 자연어를 사용합니다.
그렇다고 말만 잘 하면 AI와 친해 질 수 있는 것은 아닙니다.

AI 와의 커뮤니케이션 방법론들을 연구하는 분야가 바로 추론 분야 입니다.
지금까지 배웠던 추론 방법론들을 좀 더 깊게 분석하고 비교해 보려고 합니다.

CoT (Chain of Thought), ReAce (Reasoning and Acting), PS (Plan and Solve) 그리고 REWOO (Reasoning without Observation) 추론 방법론을 알아 볼 겁니다.

그리고 ChatGPT, DeepSeek, Gemini, Copilot, Perplexity, Grok 그리고 Claude 등 주요 AI 모델들에게 같은 질문을 하고 그 답변을 비교 분석해 보겠습니다.

이 첫번째 비디오는 IT 개발자가 아니더라도 AI 와 친해지는 방법이 궁금하신 분들 그리고 AI 시대를 어떻게 준비해야 될지 궁금하신 분들 모두에게 도움이 될 겁니다.

https://youtu.be/gE4NZ2H98NM?si=8N62mhmDEDv8s46w

이번 영상에서는 LangGraph의 Plan & Execute 추론을 다룬 소스코드 분석 마지막 편입니다.

소스코드 분석이지만 개발자가 아닌 분들도 보시면 재미 있으실 겁니다.

AI 분야에서 추론은 어떻게 진행되는지 한번 확인해 보세요.

사용자의 질문을 작은 Task들로 나누고, 이를 하나하나 단계적으로 실행하면서 **Re-plan(재계획)**하는 과정을 구현했습니다.

이러한 접근 방식 덕분에, 더 높은 수준의 정보를 사용자에게 제공할 수 있는 AI Agent를 만들 수 있습니다.

🎯 과연 이 방식이 ChatGPT, Claude, DeepSeek, Perplexity 같은 최신 AI 모델들과 비교했을 때 어떤 차이를 보일까요?

실험을 위해 **"가장 유명한 K-Pop 걸그룹의 각 멤버 생일을 알려줘"**라는 질문을  AI 모델들에게 던졌습니다:

비디오에서 이 소스코드가 답한 내용과 현재 가장 성능이 좋은 AI 모델들이 답한 내용을 비교해 보세요.

특히 DeepSeek R1 의 추론과 답은 놀랍더라구요.

https://youtu.be/dtyjji0Mgxo?si=1_SFwLZDKvTs5Htk

이제 본격적으로 Plan & Execute 의 소스코드를 분석하고 실행해 봅니다.

AI 어플리케이션 개발자가 되시고 싶거나 어떻게 개발하는지 대략이라도 알고 싶으신 분들에게 도움이 될 겁니다.

이 AI 어플리케이션은 User의 질문을 받으면 그 질문에 답하지 않습니다.

더 좋은 답을 만들기 위해서 정답을 찾을 계획을 세웁니다.

바로 Plan 단계를 구현한 소스코드를 분석하고 직접 실행해 보겠습니다.

State Management, create Tool, create_react_agent, 

AI Agent 어플리케이션을 개발하기 위한 핵심 개념들을 배웁니다.

그리고 그 기술들을 사용해서 Planning Agent를 만드는 방법을 배웁니다.

"가장 유명한 K-Pop Girl group 멤버들의 생일은?"

이 질문에 과연 이 AI Agent 는 어떻게 답했을까요?

이 영상에서 확인해 보세요.

https://youtu.be/-FHz4VQh8qE?si=-G_egrCsjd7Q_mqC