IT 기술 따라잡기

오늘은 첫번째 Multi Agent Architecture인 Network Architecture 소스 분석을 시작합니다.

이쪽 분야는 아주 변화 무쌍한 곳이라 LangGraph Tutorial 을 보니까 1주일 전에 공부한 소스코드가 어느새 바뀌어 있네요.

오늘은 Old Source Code 를 중심으로 공부하면서 처음 만들어 보는 Agent 에 대해 자세히 살펴 보겠습니다.

오늘 비디오에서는 Agent 가 어떻게 생겼는지 보는 것 만으로 의미가 있는 것 같습니다.

제가 정의하는 Agent 모양은 Prompt로 역할을 부여하고 tool이 필요한 경우 사용할 tool을 장착 시켜 준 object 입니다.

여러분도 보시고 나름대로 Agent 는 어떻게 설명할 수 있는지 생각해 보세요.

https://youtu.be/TNAXWwMu5Ew?si=GWR_BhjPdAT9_8Wl

지난 시간에 LLC 등록을 완료 했구요. 오늘은 IRS 에 EIN 을 신청해서 받는 과정까지 해 보겠습니다.

항상 ChatGPT를 활용하세요.

EIN 신청 과정에서 모르는 용어나 헷갈리는 부분이 있으면 ChatGPT에게 물어보면 아주 자세히 가르쳐 드립니다.

거기에다가 당신의 경우에는 이렇게 처리하는게 좋겠다 라고 추천까지 해 줍니다.

여러분의 비지니스에 근거해서 각 선택 항목의 장단점까지 알려 주고요.

그렇게 할 수 있는 것은 ChatGPT에게 계속 질문을 하고 답변을 받아내면 이 ChatGPT가 그 질문과 답변을 다 기억하고 있기 때문입니다.

그래서 여러분의 LLC 성격은 어떤 것이고 사업내용은 무엇인지 다 알고 있습니다.

그리고 거기에 근거해서 EIN 신청시 선택항목이 나올 때 어떤 항목이 적당한지 까지 알려 줍니다.

이제 AI 만 있으면 다른 사람들의 도움 필요 없이 여러분 혼자 처리 하실 수 있습니다.

https://youtu.be/VM1hDo7CYl0

EIN(Employer Identification Number)을 IRS 웹사이트에서 신청하는 과정을 단계별로 안내드립니다:

1. 필요한 정보 준비

먼저 EIN 신청 전에 아래 정보를 준비하세요:

1. LLC 정보:
2. 소유자 정보:
3. 비즈니스 세부사항:

2. IRS 웹사이트 접속

1. IRS EIN 신청 페이지에 접속합니다.
2. 페이지에서 "Apply Online Now" 버튼을 클릭합니다.

3. EIN 신청 절차 시작

1. "Begin Application" 버튼을 클릭하여 신청을 시작합니다.
2. Entity Type 선택:
3. LLC 상세 정보 입력:

4. 책임자 정보 입력

1. LLC의 책임자를 선택합니다:
2. 소유자의 이름, SSN/ITIN, 주소 등을 입력합니다.

5. LLC 비즈니스 세부정보 입력

1. 비즈니스 목적:
2. 고용 계획:
3. LLC 설립 날짜:

6. 통지 방법 선택

1. EIN 확인서 수령 방법 선택:
2. 추천: 빠른 처리를 위해 온라인 수령을 선택하세요.

7. 정보 검토 및 제출

1. 입력한 정보를 검토합니다.
2. 확인 후 "Submit" 버튼을 클릭합니다.

8. EIN 확인서 다운로드

1. 신청이 완료되면 EIN 번호가 즉시 발급됩니다.
2. 확인서를 PDF로 다운로드하고 안전한 장소에 보관하세요.

9. 후속 작업

1. 은행 계좌 개설:
2. 세금 관련 보고 준비:

참고 및 주의사항

• EIN 신청은 무료이며, IRS 공식 웹사이트를 통해서만 가능합니다.
• 신청 시간: 미국 동부 시간 기준 월금 오전 7시오후 10시.

위 단계를 따라가시면 EIN 신청을 문제없이 완료하실 수 있습니다. 추가 질문이 있으면 언제든지 문의하세요!

오늘은 LangGraph Quick Start Tutorial 마지막 단원인 Part 7 : Time Travel 입니다.

이름에서 알 수 있듯이 과거로 돌아가서 당시 State를 바꾸는 겁니다. 

그러면 현재의 결과 값을 바꿀 수 있습니다.

바로 State 의 History 가 Checkpoint 단위로 Step 별로 다 관리가 되고 있기 때문에 가능한 겁니다.

이 기능을 사용하면 Agent 의 Process 중 오류가 발생하거나 아니면 디버깅을 하거나 혹은 다른 Business Requirements 중에 이 기능이 필요한 경우 적용해서 보다 고객의 요구 조건을 풍부하게 충족 시켜 주는 어플리케이션을 개발 할 수 있을 겁니다.

https://youtu.be/JgR5BJ7CLEw

오늘은 Part 6 Customizing State를 배웁니다.

이전 단원까지는 interrupt_before를 사용해서 Tools 를 사용하기 전에 작업을 무조건 Stop 을 시킨 후 Human 의 개입을 허용했는데요.

이번장에서는 Human 의 개입이 필요 하다는 판단을 AI 가 판단하게 만드는 구조를 구현합니다.

그러기 위해서는 State를 Customizing 해야 합니다.

그러면 Agent 가 시키는 일을 하다가 자신이 결정 내릴 만한 일이 아니라고 판단되면 인간에게 허락을 받으러 오게 만들 수 있습니다.

이것을 어떻게 구현하는지 배워 봅니다.

오늘 비디오에서 다루는 소스코드는 아래 CoLab에 있습니다.

https://youtu.be/2r961w7y4-Y

오늘은 LangGraph Quick Start Tutorial Part 5 : Manually updating the State 를 다룹니다.

핵심 개념은 update_state 입니다.

Tool이나 AI 메세지를 임의로 만들어서 처리할 수 있구요.

이 때 Tool 이나 AI 를 Call 하지 않고 중간에 처리한 것 처럼 만드는 겁니다.

Message ID 를 사용하면 Tool 이나 AI 로부터 받은 기존의 메세지를 바꿀 수도 있습니다.

Graph 가 처리하는 과정에서 수정이 필요하거나 Agent의 궤적을 제어할 필요가 있을 때 유용한 기능입니다.

https://youtu.be/KitVTQivgHU

오늘은 Lang Graph 의 주요 기능 중 하나인 Human In The Loop 이라는 기능을 배웁니다.

AI Agent 가 일 하다가 어떤 결정을 해야 할 떄, 선택의 순간이 왔을 때 인간의 의견을 물어보도록 만들 수 있습니다.

Interrupt_before , Interrupt_after 가 AI Agent 가 그렇게 인간의 선택을 물어보도록 만들 수 있습니다.

이 HIL (Human In The Loop) 기능은 LangGraph 에서 Checkpointer 라는 개념을 기반으로 제공이 됩니다.

이 외에 지나간 과거의 State 를 변경할 수도 있고 그 기능을 이용해서 Time Travel 이라는 기능도 제공하고 있습니다.

오늘은 LangGraph Quick Start 의 Part 4 Human in the loop 를 공부하고 이어서 다른 다양한 기능을 계속 공부 하겠습니다.

그 개념들에 대한 공부가 마쳐지면 LangGraph 의 이러한 Checkpointer 를 이용한 advanced 한 기능들을 응용해서 다양한 Web Application을 만들어 보겠습니다.

https://youtu.be/eWe3dFHshgA

매일 매일 쏟아지는 AI 신기술들...

6개월 전에 Olympia 라는 워싱턴주의 시골 (그래도 워싱턴 주의 Capital City 임) 에서 AI 를 공부하려고 시애틀 옆에 있고 Microsoft 본사 등 IT 기업들이 많이 있는 Redmond 로 이사 왔습니다.

그동안 networking 을 하면서 이런 저런 AI 관련 일들을 벌이다 보니 직장일 이외에 하는 일이 한 손에 있는 손가락 수를 넘어 버렸네요.

다시 Burn out 이 올 기미가 보여서 지금 하는 일들을 쭉 나열하고 어떤 것을 접어야 하나 고민 했습니다.

결론은...

그나마 생활비라도 나오는 직장을 그만 두는 것을 선택하게 되더라구요.

아직 한푼도 수익이 없는 AI 관련 일들을 하기 위해서요.

그 동안 좀 복잡해서 AI 강좌는 못 올리고 다른 내용들의 Contents 들만 올렸었는데요.

오늘은 그동안 공부했던 LangGraph 의 Quick Start Tutorial 의 Part 1 ~ Part 3 부분을 복습하고 내일부터 쭉쭉 진도 빼겠습니다.

LangGraph 에서도 해당 Tutorial 의 소스코드들을 조금 변경 했더라구요.

그 변경된 내용도 왜 변경했는지 그리고 그렇게 Refactoring 하면 어떤게 좋아 지길래 update를 했는지 설명 드립니다.

https://youtu.be/ykBpEUteeqY?si=R75CbDtQfH0Ix3II

비디오에서 사용한 CoLab page Link 는 아래에 있습니다.

New Version

https://colab.research.google.com/drive/1fhjPuBnQJOwFT-1_JLXpXN9k58MBgXfZ?usp=sharing

Old Version

https://colab.research.google.com/drive/1SARxtUTLUpLi4tX0v4E1oIC_xe1nhQa_?usp=sharing

This article was written in response to a publication request, where I share my perspective on how we should approach the emerging technology of AI.

When we view AI merely as an extension of digital technology to enhance digital-based services, we limit its true potential. Such a narrow approach confines us to only a fraction of AI's capabilities. Instead, I believe we must approach AI with the sensibilities of an analog world—embracing the depth and nuance beyond the digital realm. This perspective allows us to harness AI in a more meaningful way.

This article encapsulates my thoughts on this unique approach to AI.

이 글은 어느곳에 요청을 받고 제가 기고한 글입니다.

AI 라는 신기술을 어떻게 바라볼 것인가에 대한 저의 생각을 정리했습니다.

AI 를 Digital 의 연장으로 생각해서 좀 더 나은 Digital 기반의 서비스를 제공하겠다고 생각하면 안됩니다.

그러면 AI의 아주 제한적인 기능만 사용하게 됩니다.

Digital 이전의 세상인 Analog 적인 감성으로 AI를 대해야 제대로 AI를 활용할 수 있습니다.

이런 저의 생각을 정리했습니다.

https://youtu.be/H9ooiz89les

시애틀 근처 Bothell 이란 곳에 IONQ 라는 회사가 양자 컴퓨터 제조 공장을 건설했습니다.

작년 일인데요.

이곳에 한국 투자자 그룹이 방문한다는 이야기를 듣고 같이 동행을 부탁했었습니다.

인솔자분인 가을바람월드님이 흔쾌히 수락해 주셔서 얼마전 IONQ 제조 현장에 갔습니다.

직접 양자 컴퓨터 제조 현장도 구경하고 임원분들하고 면담할 기회도 가졌습니다.

한국에서 온 투자자 분들 뿐만 아니라 시애틀지역에 있는 양자 전문가 분들도 참가하셔서 아주 좋은 정보들도 많이 얻을 수 있었습니다.

이날 방문 중에 IONQ 주식이 10% 넘게 폭등해서 참가자들 모두 현장에서 기쁨을 만끽 할 수 있었습니다.

저는 AI 를 공부하고 있는 사람으로서 양자 AI 에도 관심이 많이 있습니다.

나중에 실력이 되면 기술적인 협업을 할 수 있기를 바라면서 IONQ의 기술 담당 전무인 Dean 과 특히 얘기를 많이 나누고 사진도 찍었습니다.

준비를 많이 해서 조만간 다시 IONQ를 방문해서 기술적인 Discussion을 할 수 있기를 기원해 봅니다.

https://youtu.be/LUVKTjM4ukU