반응형
블로그 이미지
개발자로서 현장에서 일하면서 새로 접하는 기술들이나 알게된 정보 등을 정리하기 위한 블로그입니다. 운 좋게 미국에서 큰 회사들의 프로젝트에서 컬설턴트로 일하고 있어서 새로운 기술들을 접할 기회가 많이 있습니다. 미국의 IT 프로젝트에서 사용되는 툴들에 대해 많은 분들과 정보를 공유하고 싶습니다.
솔웅

최근에 올라온 글

최근에 달린 댓글

최근에 받은 트랙백

글 보관함

카테고리


반응형

개발자로 20여년 훌쩍 넘게 생활하다가 다시 AI 를 새롭게 공부하고 있습니다.
그동안 주위에서 비지니스 아이디어는 많은데 그것을 어플리케이션으로 개발할 수 없어서 아쉬워 하는 분들을 많이 보았습니다.

이번 비디오를 만들면서 그런 분들이 생각이 났었습니다. 그리고 AI 시대에는 그런 분들에게 좀 더 많은 기회가 생길 거라고 확신합니다.

코딩을 못해도, 이젠 AI와 함께 앱을 만들 수 있는 시대입니다.
이번 영상에서는 LangGraph의 Basic Reflection 구현 소스코드를 분석하며,
AI와 인간이 함께하는 앱 개발 방식, 그리고 AI시대에서 우리가 준비해야 할 역량에 대해 이야기합니다.

"아이디어는 많은데, 코딩을 몰라서 앱 개발 꿈도 못 꾸셨나요?"
이제 AI가 도와줍니다.
이번 영상에서는 AI가 스스로 개선하는 'Reflection' 기법과 함께,
어떻게 누구나 AI시대의 앱 개발에 뛰어들 수 있는지 함께 살펴봅니다.

처음에 개발자 시각에서 AI App Development를 공부하기 시작했는데…
계속 하다 보니까 AI 연관된 부분은 기존의 개발 역량과는 또 다른 역량이 필요하더라구요.
AI 는 좀 더 인간의 사고와 비슷하게 흘러갑니다.

그래서 요즘은 추론방법론과 Vibe coding 위주로 공부하고 있습니다.

오늘은 추론 방법론 중 하나인 Reflection 의 기초를 배웁니다.
여러분이 이미 어렸을 때 어른들로 부터 배웠던 겁니다.
AI 를 잘 사용하려면 어떻게 다루어야 하는지 감이 잡히실 겁니다.

👉 개발자든 아니든, 지금이 시작할 타이밍입니다!

https://youtu.be/fm66HVDpt7Y?si=JEdi5k_UBdviiYp1

 

 

 

반응형


반응형

한국인이 만든 추론 방법론 LLMCompiler 마지막 시간입니다.

이 추론 방법론을 소스코드로 어떻게 구현할 수 있는지 LangGraph Tutorial 을 보면서 자세하게 분석합니다.

LangSmith 를 활용하면 복잡한 로직과 Flow를 좀 더 쉽게 파악할 수 있습니다.
AI App 개발자가 되고 싶으신 분들은 꼭 사용하실 것을 권해 드립니다.

그리고 AI 에게 일을 잘 시키는 프롬프트는 어떻게 만들어야 할까 궁금하신 분들...
모범 프롬프트들이 쌓여 있는 곳이 많이 있습니다.
이 비디오에서는 LangChain hub라는 곳을 소개합니다.

개발자는 아니지만 AI 를 잘 활용하고 싶으신 분들에게 좋은 정보가 될 겁니다.

LangSmith로 디버깅·트레이싱까지 단숨에 배우고, LangChain Hub의 풍부한 프롬프트 템플릿을 활용해 보세요.

AI의 미래가 궁금한 일반인부터, 실제로 추론 로직을 코드로 구현하고 싶은 개발자까지
누구나 한 편만 보면 감이 잡히는 LLMCompiler 강의 마지막 시간!

지금 클릭하고, AI 시대의 핵심 역량을 선점하세요.

https://youtu.be/obIAf97IsjU

 

 

 

 

반응형


반응형

오늘은 LLMCompiler 두번째 시간입니다.
제가 그동안 정리했던 AI Application Flow 에 대한 Insight를 공유합니다.
AI 어플리케이션이 기존의 Traditional Application 과 다른 점을 설명합니다.
그리고 그 둘을 어떻게 연결하는지도 보여 드리구요.

처음 AI Application Flow 를 설명하는 부분은 개발자가 아닌 분들도 보시면 AI Application을 이해하는데 도움이 될 겁니다.

그리고 LLMCompiler Tutorial 에서 제공하는 소스코드를 분석하면서 그 Flow 가 소스코드로 어떻게 구현되는지 자세히 설명합니다.

이 부분은 AI Application 개발에 관심이 있으신 분들에게 도움이 될 겁니다.


또한 이 소스코드를 실행하고 LangSmith 의 Tracing 기능을 통해 실제로 그 Flow 가 진행되는 과정을 직접 보여 드립니다.

이 부분은 개발자와 비개발자 모두에게 AI Application Flow 가 실제로 어떻게 실행되는지 직접 눈으로 보실 수 있어서 이해에 도움이 될 겁니다.



여기서 제공되는 AI Application Flow 는 제가 고민했던 내용을 정리한 것입니다.
다른 곳에서는 보실 수 없을 겁니다.

일부에서 AI 시대에는 코딩을 배울 필요가 없다라고 말하는 사람들도 있습니다.
하지만 저는 생각이 다릅니다.

AI 시대에 왜 코딩을 배워야 하는지 그리고 어떤식으로 배워야 하는지 직접 확인해 보세요.


그리고 여러분들의 의견 환영합니다.

https://youtu.be/lBPidxUL8zg

 

 

반응형


반응형

오늘은 AI Multi-Agent 의 Supervisor Architecture 에 대해 공부 합니다.

 

Network Architecture는 Agent 들 끼리 직접 Communication 하는 반면에 Supervisor Architecture 의 Agent 들은 작업 결과를 Supervisor Agent 에게 보고 합니다.

Supervisor Agent 는 인간의 질문과 다른 Agent 들의 작업 결과를 받으면 그 다음 일을 어느 Agent 에게 시킬지 아니면 모든 일을 종료 하고 결과를 사용자에게  전달할지 여부를 판단하게 됩니다.

 

이 예제에는 두 개의 질문 예제가 있는데 간단한 질문에는 답을 하지만 조금 복잡한 질문은 처리하다가 Recursion Error 가 발생합니다.

 

이 부분이 현재 AI Multi Agent 어플리케이션이 퍼져 나가지 못하는 한계를 잘 보여 줍니다.

 

그 이유를 자세히 설명 드립니다.

 

놓치지 마시고 꼭 보세요.

 

그리고 그 해결 방법을 같이 고민해 보자구요.

 

https://youtu.be/fyh7nZEPpys?si=BQ9BQkdfQJT0WFaC

 



반응형

보호되어 있는 글입니다.
내용을 보시려면 비밀번호를 입력하세요.


반응형
오늘 비디오는 구독자님이 Streamlit ,LangChain 그리고 LangGraph 에서 Chatbot 기능을 지원하기 위한 Memory 기능의 차이점을 문의 하셔서 거기에 대한 답변을 드리기 위해 만들었습니다.
답변을 준비하다 보니까 그냥 댓글로 몇마디 할 만한 사항이 아니더라구요.
AI 가 처음 나왔을 때 LangChain 에서는 Input Context 의 Length limit 에 대한 고민을 많이 했었던 것 같습니다.
그래서 대화 히스토리 관리하는데 있어서 input context를 줄이는 방법에 집중을 했었습니다. (Conversational Memory)
하지만 이 기능은 AI Model 들이 input context의 크기를 대폭 늘리면서 더 이상 필요성이 대두 되지는 않은 것 같습니다.
곧이어 나온 RAG 기능을 제대로 지원할 수 있는 대화 history 관리 툴을 LangChain에서는 제공 했습니다. (Conversation Retrieval Chain)
그런데 AI 세계는 멈추지 않았습니다.
좀 더 복잡한 문제를 해결하는 AI 서비스를 제공하기 위해 AI Agent 개념이 나왔습니다. (CheckPointer)
이것을 설명하기 위해서 AI , RAG , AI Agent 이런 AI App 개발의 트렌드 변화까지 다 말하게 됐네요.
반응형


반응형

오늘은 LangGraph의 Checkpointers에 대해 배워 봅니다.

 

지난 시간까지는 사용자와 AI와의 대화를 Streamlit의 Session_state 를 사용해서 저장을 했고 그 데이터를 사용해서 Chatbot 기능을 구현했습니다.

 

LangGraph에서도 그와 비슷한 기능을 하는 개념이 있습니다.

Checkpointers인데요. 

 

LangGraph에서 Checkpointers를 구현하는 방법은 MemorySaver, SqliteSaver, PostgresSaver 등이 있습니다.

 

사실 이 Checkpointers는 Chatbot 기능만을 위한 것은 아니고 다음 단원에서 배울 Human-in-the-loop, Time Travel 등의 고급 기능을 구현할 수 있게 해 주는 주요한 개념입니다.

 

오늘부터 이 LangGraph의 Checkpointers를 배워 보겠습니다.

 

https://youtu.be/TwQzTw0A51s?si=You1IAeaLRLsAP6 

 

 

이 유투브 클립에서 설명하는 AI Web application의 소스코드는 아래 웹 사이트로 가시면 보실 수 있습니다.

https://catchuplanggraph.streamlit.app/

 

Catchup LangGraph Tutorial

This app was built in Streamlit! Check it out and visit https://streamlit.io for more awesome community apps. 🎈

catchuplanggraph.streamlit.app

 



반응형


반응형

지난 시간에  LangGraph 의 Tool을 사용할 때 발생한 Chatbot 기능의 에러가 있었습니다.
제가 과제로 냈었는데요.
오늘 그 에러를 해결하는 과정을 단계별로 보여드릴께요.

ChatBot 기능에서 질문과 대답 사이에 Tool 을 사용했던 기록들이 나오는게 문제 였는데요.
에러가 난 부분으로 가서 log를 찍어보고 필요 없는데 print 되는 부분들의 패턴을 파악한 후 Session message에 append 하는 것을 막아 버리면 됩니다.

이 과정을 직접 확인해 보세요.

 

https://youtu.be/jPK7i7YVg68?si=QIUGOGFbwk2qqSxo

 

 

반응형


반응형

LangChain - RAG - create_history_aware_retriever

 

지난 시간까지 RAG의 기본 기능을 배웠습니다.

AI Web Application에서 기본적으로 제공되어야 하는 것은 ChatBot 기능입니다.

 

이를 위해서는 Chat History를 관리해주는 기능이 추가 되어야 합니다.

AI는 이전 대화 내용을 기억하지 못하기 때문입니다.

 

이런 AI의 부족한 부분을 채워 주는 LangChain의 Retriever 가 바로 create_history_aware_retriever 입니다.

 

AI 하고 말이 통하게 만들어 주는 바로 그 Retriever.

 

오늘은 create_history_awere_retriever에 대해 배웁니다.

 

https://youtu.be/EQ6c9309T8c

 

오늘 매울 AI Web Application link는 아래에 있습니다. https://catchuplangchain.streamlit.app/LC_Quickstart_03_ConversationRetrievalChain

 

 

 

반응형

'Catchup AI' 카테고리의 다른 글

요즘 AI 앱 개발 트렌드 입니다. 이제부터 좀 더 복잡한 AI 앱 개발 기술로 들어갑니다. 우선 Agent란 무엇인지 이해하시면 많은 도움이 됩니다. (IBM 자료)  (0) 2024.07.28
챗지피티에게 코딩 시키기 2 - 개발자로서 이런것들을 준비 하세요. 다 길이 있네요. ;)  (1) 2024.07.24
챗지피티에게 코딩 시키기 1 - 앱 하나 뚝딱 이더라구요. 근데 저는 씩 웃었습니다. (쿠키 영상: 아코디언 연주)  (1) 2024.07.20
2024 AWS Summit 에서 발표된 AWS App Studio - Prompt 만으로 어플리케이션을 만들 수 있습니다  (4) 2024.07.15
LangChain + Streamlit = RAG + ChatBot : Streamlit 의 session_state를 사용해 RAG에 대화 기능을 구현합니다  (0) 2024.07.08
LangChain Quick Start - Chunk : 실력있는 개발자는 성능, 속도, 비용까지 고려 합니다. RAG에서의 데이터 처리  (0) 2024.06.24
[Tech Snippets] 랭체인! 너 블록체인과 무슨 관계야? 조사하면 다 나온다.  (0) 2024.06.21
BIGHUG - AI 들도 각각 개성이 있네. 사람처럼. AI 개성 파악은 더 나은 협업을 위한 열쇠예요. 사람처럼.  (1) 2024.06.04
RAG 직접 코딩으로 구현하면 확실하게 배웁니다. 제 소스코드 가져가서 맘껏 활용하세요.  (1) 2024.05.31
LangChain Quick Start - Retrieval Chain 요즘 AI Web App 개발에서 가장 중요한 방법론 중 하나인 RAG를 배웁니다. 단디 배웁시다  (0) 2024.05.29


반응형

 

 

이번 비디오의 내용은 지난 비디오의 보충수업입니다.

 

지난 강좌에서 LangChain에서 Retrieval 함수를 사용해서 RAG의 가장 기본적인 기능을 구현 했습니다.

그것을 통해서 데이터 수집 - 데이터 split - 임베딩 처리 - 벡터스토어에 저장 - Retrieval - LLM 과 communication 이런 RAG의 기본적인 프로세스를 이해 했습니다.

 

이번에는 그 기능에 더해 데이터를 vector store에 저장하고 그 저장한 데이터를 Retrieval 하는 과정에서 어떻게 데이터를 가공하는지를 자세하게 알아 봅니다.

 

데이터를 어떻게 가공하느냐에 따라 성능과 속도 그리고 비용에까지 영향을 미칠 수 있습니다.

장문의 입력 데이터를 임베딩 처리 하기 전에 Chunk로 split 할 때 개발자는 어떤 것을 어떻게 control 해서 최적화를 시킬 수 있는지…

 

그리고 Vector store 에서 Retrieval 할 때 어떤 옵션들이 있고 그것을 어떻게 사용하는지를 설명했습니다.

실력있는 개발자는 단순히 기능만 구현하는 것 이외에 성능, 속도, 비용까지 고려 합니다.

한번 배울 때 확실하게 배워서 진짜 실력있는 개발자가 됩시다.

 

https://youtu.be/qC1GGZDyB14

 

 

 

반응형
이전 1 2 다음