IT 기술 따라잡기

오늘은 AI Agentic Workflow 가 아직 실제 Business 에서 활발하게 활용되지 못하는 이유를 분석해 붑니다.

현재 하드웨어와 소프트웨어 적인 한계가 분명히 있습니다.

그 한계들은 무엇들인지 하나 하나 분석해 보겠습니다.

그리고 그것들은 언제 어떻게 극복될 수 있을지 알아보겠습니다.

이 기술이 실제 Business 에서 필요로 하는 때를 대비해서 나는 어떤 기술들을 배워야 할지에 대해서도 제가 생각하는 부분을 공유해 드리겠습니다.

저는 이런 분석과 전망을 가지고 이 AI Multi-Agentic Workflow 를 적용하는 기술들을 배우고 있습니다.

여러분들의 생각은 어떤지요?

같이 고민해 보면 좋겠습니다.

https://youtu.be/hRPariJe350?si=bKBu72eipPnwXXEI

오늘은 AI Multi-Agent 의 Supervisor Architecture 에 대해 공부 합니다.

Network Architecture는 Agent 들 끼리 직접 Communication 하는 반면에 Supervisor Architecture 의 Agent 들은 작업 결과를 Supervisor Agent 에게 보고 합니다.

Supervisor Agent 는 인간의 질문과 다른 Agent 들의 작업 결과를 받으면 그 다음 일을 어느 Agent 에게 시킬지 아니면 모든 일을 종료 하고 결과를 사용자에게  전달할지 여부를 판단하게 됩니다.

이 예제에는 두 개의 질문 예제가 있는데 간단한 질문에는 답을 하지만 조금 복잡한 질문은 처리하다가 Recursion Error 가 발생합니다.

이 부분이 현재 AI Multi Agent 어플리케이션이 퍼져 나가지 못하는 한계를 잘 보여 줍니다.

그 이유를 자세히 설명 드립니다.

놓치지 마시고 꼭 보세요.

그리고 그 해결 방법을 같이 고민해 보자구요.

https://youtu.be/fyh7nZEPpys?si=BQ9BQkdfQJT0WFaC

이번 한국의 비상 계엄령 사태 때 순간의 선택을 잘 못 해서 내란범이 될 처지에 놓인 사람이 많이 생겼습니다.

이 때 판단을 도와주는 도구로서 AI Agent 가 사용되고 있었다면 어떻게 됐을까요?

AI 는 수많은 데이터와 그 관계 정보를 바탕으로 경계가 모호한 문제에 대해 빨리 판단하는 기능이 있습니다.

미래에는 이 AI 기능을 여러곳에서 사용하게 될 것입니다.

AI Engineer 로서 이런 AI Product 를 개발 할 때 그 AI Agent 성능에 대한 테스트와 평가의 과정을 거쳐야 됩니다.

AI Engineer는 어떤 기준으로 어떻게 평가 해야 할까요?

저는 AI 의 이러한 판단 기능 때문에 AI Engineer 들은 인문학에 대한 교양을 많이 쌓아야 한다고 생각합니다.

같이 생각해 봅시다.

https://youtu.be/yMlG88KQ7jk?si=12SukZLo2hNiVXbA

오늘은 첫번째 Multi Agent Architecture인 Network Architecture 소스 분석을 시작합니다.

이쪽 분야는 아주 변화 무쌍한 곳이라 LangGraph Tutorial 을 보니까 1주일 전에 공부한 소스코드가 어느새 바뀌어 있네요.

오늘은 Old Source Code 를 중심으로 공부하면서 처음 만들어 보는 Agent 에 대해 자세히 살펴 보겠습니다.

오늘 비디오에서는 Agent 가 어떻게 생겼는지 보는 것 만으로 의미가 있는 것 같습니다.

제가 정의하는 Agent 모양은 Prompt로 역할을 부여하고 tool이 필요한 경우 사용할 tool을 장착 시켜 준 object 입니다.

여러분도 보시고 나름대로 Agent 는 어떻게 설명할 수 있는지 생각해 보세요.

https://youtu.be/TNAXWwMu5Ew?si=GWR_BhjPdAT9_8Wl

지난 시간에 LLC 등록을 완료 했구요. 오늘은 IRS 에 EIN 을 신청해서 받는 과정까지 해 보겠습니다.

항상 ChatGPT를 활용하세요.

EIN 신청 과정에서 모르는 용어나 헷갈리는 부분이 있으면 ChatGPT에게 물어보면 아주 자세히 가르쳐 드립니다.

거기에다가 당신의 경우에는 이렇게 처리하는게 좋겠다 라고 추천까지 해 줍니다.

여러분의 비지니스에 근거해서 각 선택 항목의 장단점까지 알려 주고요.

그렇게 할 수 있는 것은 ChatGPT에게 계속 질문을 하고 답변을 받아내면 이 ChatGPT가 그 질문과 답변을 다 기억하고 있기 때문입니다.

그래서 여러분의 LLC 성격은 어떤 것이고 사업내용은 무엇인지 다 알고 있습니다.

그리고 거기에 근거해서 EIN 신청시 선택항목이 나올 때 어떤 항목이 적당한지 까지 알려 줍니다.

이제 AI 만 있으면 다른 사람들의 도움 필요 없이 여러분 혼자 처리 하실 수 있습니다.

https://youtu.be/VM1hDo7CYl0

EIN(Employer Identification Number)을 IRS 웹사이트에서 신청하는 과정을 단계별로 안내드립니다:

1. 필요한 정보 준비

먼저 EIN 신청 전에 아래 정보를 준비하세요:

1. LLC 정보:
2. 소유자 정보:
3. 비즈니스 세부사항:

2. IRS 웹사이트 접속

1. IRS EIN 신청 페이지에 접속합니다.
2. 페이지에서 "Apply Online Now" 버튼을 클릭합니다.

3. EIN 신청 절차 시작

1. "Begin Application" 버튼을 클릭하여 신청을 시작합니다.
2. Entity Type 선택:
3. LLC 상세 정보 입력:

4. 책임자 정보 입력

1. LLC의 책임자를 선택합니다:
2. 소유자의 이름, SSN/ITIN, 주소 등을 입력합니다.

5. LLC 비즈니스 세부정보 입력

1. 비즈니스 목적:
2. 고용 계획:
3. LLC 설립 날짜:

6. 통지 방법 선택

1. EIN 확인서 수령 방법 선택:
2. 추천: 빠른 처리를 위해 온라인 수령을 선택하세요.

7. 정보 검토 및 제출

1. 입력한 정보를 검토합니다.
2. 확인 후 "Submit" 버튼을 클릭합니다.

8. EIN 확인서 다운로드

1. 신청이 완료되면 EIN 번호가 즉시 발급됩니다.
2. 확인서를 PDF로 다운로드하고 안전한 장소에 보관하세요.

9. 후속 작업

1. 은행 계좌 개설:
2. 세금 관련 보고 준비:

참고 및 주의사항

• EIN 신청은 무료이며, IRS 공식 웹사이트를 통해서만 가능합니다.
• 신청 시간: 미국 동부 시간 기준 월금 오전 7시오후 10시.

위 단계를 따라가시면 EIN 신청을 문제없이 완료하실 수 있습니다. 추가 질문이 있으면 언제든지 문의하세요!

오늘은 LangGraph Quick Start Tutorial 마지막 단원인 Part 7 : Time Travel 입니다.

이름에서 알 수 있듯이 과거로 돌아가서 당시 State를 바꾸는 겁니다. 

그러면 현재의 결과 값을 바꿀 수 있습니다.

바로 State 의 History 가 Checkpoint 단위로 Step 별로 다 관리가 되고 있기 때문에 가능한 겁니다.

이 기능을 사용하면 Agent 의 Process 중 오류가 발생하거나 아니면 디버깅을 하거나 혹은 다른 Business Requirements 중에 이 기능이 필요한 경우 적용해서 보다 고객의 요구 조건을 풍부하게 충족 시켜 주는 어플리케이션을 개발 할 수 있을 겁니다.

https://youtu.be/JgR5BJ7CLEw

오늘은 Part 6 Customizing State를 배웁니다.

이전 단원까지는 interrupt_before를 사용해서 Tools 를 사용하기 전에 작업을 무조건 Stop 을 시킨 후 Human 의 개입을 허용했는데요.

이번장에서는 Human 의 개입이 필요 하다는 판단을 AI 가 판단하게 만드는 구조를 구현합니다.

그러기 위해서는 State를 Customizing 해야 합니다.

그러면 Agent 가 시키는 일을 하다가 자신이 결정 내릴 만한 일이 아니라고 판단되면 인간에게 허락을 받으러 오게 만들 수 있습니다.

이것을 어떻게 구현하는지 배워 봅니다.

오늘 비디오에서 다루는 소스코드는 아래 CoLab에 있습니다.

https://youtu.be/2r961w7y4-Y

오늘은 LangGraph Quick Start Tutorial Part 5 : Manually updating the State 를 다룹니다.

핵심 개념은 update_state 입니다.

Tool이나 AI 메세지를 임의로 만들어서 처리할 수 있구요.

이 때 Tool 이나 AI 를 Call 하지 않고 중간에 처리한 것 처럼 만드는 겁니다.

Message ID 를 사용하면 Tool 이나 AI 로부터 받은 기존의 메세지를 바꿀 수도 있습니다.

Graph 가 처리하는 과정에서 수정이 필요하거나 Agent의 궤적을 제어할 필요가 있을 때 유용한 기능입니다.

https://youtu.be/KitVTQivgHU

오늘은 Lang Graph 의 주요 기능 중 하나인 Human In The Loop 이라는 기능을 배웁니다.

AI Agent 가 일 하다가 어떤 결정을 해야 할 떄, 선택의 순간이 왔을 때 인간의 의견을 물어보도록 만들 수 있습니다.

Interrupt_before , Interrupt_after 가 AI Agent 가 그렇게 인간의 선택을 물어보도록 만들 수 있습니다.

이 HIL (Human In The Loop) 기능은 LangGraph 에서 Checkpointer 라는 개념을 기반으로 제공이 됩니다.

이 외에 지나간 과거의 State 를 변경할 수도 있고 그 기능을 이용해서 Time Travel 이라는 기능도 제공하고 있습니다.

오늘은 LangGraph Quick Start 의 Part 4 Human in the loop 를 공부하고 이어서 다른 다양한 기능을 계속 공부 하겠습니다.

그 개념들에 대한 공부가 마쳐지면 LangGraph 의 이러한 Checkpointer 를 이용한 advanced 한 기능들을 응용해서 다양한 Web Application을 만들어 보겠습니다.

https://youtu.be/eWe3dFHshgA

매일 매일 쏟아지는 AI 신기술들...

6개월 전에 Olympia 라는 워싱턴주의 시골 (그래도 워싱턴 주의 Capital City 임) 에서 AI 를 공부하려고 시애틀 옆에 있고 Microsoft 본사 등 IT 기업들이 많이 있는 Redmond 로 이사 왔습니다.

그동안 networking 을 하면서 이런 저런 AI 관련 일들을 벌이다 보니 직장일 이외에 하는 일이 한 손에 있는 손가락 수를 넘어 버렸네요.

다시 Burn out 이 올 기미가 보여서 지금 하는 일들을 쭉 나열하고 어떤 것을 접어야 하나 고민 했습니다.

결론은...

그나마 생활비라도 나오는 직장을 그만 두는 것을 선택하게 되더라구요.

아직 한푼도 수익이 없는 AI 관련 일들을 하기 위해서요.

그 동안 좀 복잡해서 AI 강좌는 못 올리고 다른 내용들의 Contents 들만 올렸었는데요.

오늘은 그동안 공부했던 LangGraph 의 Quick Start Tutorial 의 Part 1 ~ Part 3 부분을 복습하고 내일부터 쭉쭉 진도 빼겠습니다.

LangGraph 에서도 해당 Tutorial 의 소스코드들을 조금 변경 했더라구요.

그 변경된 내용도 왜 변경했는지 그리고 그렇게 Refactoring 하면 어떤게 좋아 지길래 update를 했는지 설명 드립니다.

https://youtu.be/ykBpEUteeqY?si=R75CbDtQfH0Ix3II

비디오에서 사용한 CoLab page Link 는 아래에 있습니다.

New Version

https://colab.research.google.com/drive/1fhjPuBnQJOwFT-1_JLXpXN9k58MBgXfZ?usp=sharing

Old Version

https://colab.research.google.com/drive/1SARxtUTLUpLi4tX0v4E1oIC_xe1nhQa_?usp=sharing