지난 시간에 LangGraph 의 Tool을 사용할 때 발생한 Chatbot 기능의 에러가 있었습니다.
제가 과제로 냈었는데요.
오늘 그 에러를 해결하는 과정을 단계별로 보여드릴께요.
ChatBot 기능에서 질문과 대답 사이에 Tool 을 사용했던 기록들이 나오는게 문제 였는데요.
에러가 난 부분으로 가서 log를 찍어보고 필요 없는데 print 되는 부분들의 패턴을 파악한 후 Session message에 append 하는 것을 막아 버리면 됩니다.
이 과정을 직접 확인해 보세요.
https://youtu.be/jPK7i7YVg68?si=QIUGOGFbwk2qqSxo
https://youtu.be/QEf5FR0DiHk?si=TECvJ_RslHzm9fVl
오늘은 챗지피티에게 코딩 시키기 두번째 시간입니다.
실무에서 AI 를 Scripting 에 이용하면서 느낀 점들 그리고 미래를 어떻게 준비 해야 되겠다라고 생각한 부분들도 정리해서 올렸습니다.
AI 시대를 준비하시는 여러분들에게 조금이라도 도움이 되길 바랍니다.
아래는 AI 에게 Scripting을 시켜서 앱을 개발하면서 느낀 점들을 정리 한 내용들 입니다.
- 아직 AI는 한번에 에러 없이 완벽한 코딩을 하지 못한다.
: 인간이 질문한 내용에만 focus 를 두어서 코딩을 하기 때문에 전체 소스코드가 에러 없이 실행되지 않을 때가 많다.
- 하지만 AI는 해당 에러의 원인을 파악하고 수정하는 작업은 인간보다 훨씬 빠르게 진행한다.
: Scripting에 천재적이지만 아직 말귀를 잘 못 알아 듣고 실무 경험이 부족한 사회 초년생을 조수로 둔 느낌
- AI에게 코딩을 시킬 때 백지상태에서 시작하는 것 보다 간단한 예제 코드를 제공하면서 시작하면 훨씬 진행이 빠르다.
- 아직 인간의 역할이 많이 필요 하다
: 인간은 뚜렷한 최종 목표 앱에 대한 그림(청사진)이 있어야 한다.
: Scripting 천재인 사회 초년생을 잘 Lead 하기 위한 앱 개발의 기본 지식은 있어야 한다.
: 더 좋은 대답을 얻으려면 더 좋은 질문을 해야 한다. (Requirement를 구체적이고 빠뜨림 없이 AI에게 제공해야 일의 진행을 더 빨리 할 수 있다.)
: Production에 Publish 하기 전 Testing 과정을 강화해야 함
: 필요한 경우 사용할 Languages, Tools, Modules 그리고 특정 API 등 아주 자세한 내용까지 제공해야 하는 경우도 있음
- 현재 AI의 코딩 실력은 기존의 개발자의 개발 시간을 크게 줄여 주는 역할은 충분히 할 수 있음
https://youtu.be/48k_H1cwsfM?si=TEKnvy0u01d2BRfZ
https://youtu.be/HThDRdksrL8?si=ScJbsbJNO4y35zsZ
유투브 비디오 썸네일로 사용하려고 AI에게 이미지를 그려 달라고 했는데 이렇게 그려 주더라구요.
예쁜 여자 프로그래머를 그려 달라고 했는데 너무너무 예쁘게 그려 주네요.
이 그림은 마이크로소프트의 코파일럿 (Copilot) 이 그려 준 겁니다.
실제 썸네일에는 GPT 4o 가 그려 준 아래 이미지를 사용했는데요.
코파일럿과 GPT 4o 각각 자신만의 화풍이 있는 것 같아요.
다음 비디오로는 GPT 4o 에게 코딩 시키기를 해 볼 계획입니다.
얼마전 회사에서 필요로 하는 샘플 RAG 웹앱을 만들어야 했는데요.
이 때 오늘 설명한 기능에서 사용한 소스코드를 base 로 해서 샘플 RAG 웹 앱을 만들었는데요.
저 혼자 하면 며칠은 해야 됐을 것 같은 일을 챗지피티랑 같이 하니까 단 몇시간만에 만들 수 있더라구요.
챗지피티가 초보 개발자 한두명 역할은 충분히 하는 것 같습니다.
챗지피티에게 코딩을 시키면서 여러가지 생각들이 들더라구요.
그 능력에 놀란 부분도 있었고 또 인공지능에게 코딩을 시키기 위해 인간이 가지고 있어야 할 능력이 무엇인지도 생각 해 볼 기회가 있었구요.
또 개발자의 미래 그리고 회사의 management 의 변화 뭐 이런 것들도 생각 해 봤구요.
하여간 다음 시간에는 챗지피티에게 코딩을 시켜서 웹 어플리케이션 하나 완성해 보는 과정을 다룰 거구요 또 실제 업무 현장에서 챗지피티와 함께 코딩을 하면서 느낀 점들을 같이 나누고자 합니다.
회사에서 주 업무는 클라우드 를 사용한 서버 관리 그 중에 요즘엔 쿠버네티스를 사용한 서버 관리 부분을 하고 있는데요.
AI 웹 앱도 컨테이너 기반으로 쿠버네티스를 이용한 서버 환경에서 관리하는 법도 제 블로그와 유투브 채널에 정리해서 올릴 계획입니다.
계속 관심 가져 주시고 구독과 좋아요를 눌러 주시면 미국 현장에서 배우는 IT 기술을 나누는 일에 큰 힘이 될 겁니다.
많은 협조 부탁드립니다.
https://www.youtube.com/@catchupai
Catch Up AI
AI Web Developer 를 준비하면서 공부한 내용을 공유하는 채널 입니다. AI Engineer 가 되고 싶거나 AI 를 실무에서 응용하길 원하는 분들에게 정보를 제공하는 내용으로 채워질 예정입니다. Catch Up AI 는
www.youtube.com
LangChain - RAG - create_history_aware_retriever
지난 시간까지 RAG의 기본 기능을 배웠습니다.
AI Web Application에서 기본적으로 제공되어야 하는 것은 ChatBot 기능입니다.
이를 위해서는 Chat History를 관리해주는 기능이 추가 되어야 합니다.
AI는 이전 대화 내용을 기억하지 못하기 때문입니다.
이런 AI의 부족한 부분을 채워 주는 LangChain의 Retriever 가 바로 create_history_aware_retriever 입니다.
AI 하고 말이 통하게 만들어 주는 바로 그 Retriever.
오늘은 create_history_awere_retriever에 대해 배웁니다.
오늘 매울 AI Web Application link는 아래에 있습니다. https://catchuplangchain.streamlit.app/LC_Quickstart_03_ConversationRetrievalChain
이번 비디오의 내용은 지난 비디오의 보충수업입니다.
지난 강좌에서 LangChain에서 Retrieval 함수를 사용해서 RAG의 가장 기본적인 기능을 구현 했습니다.
그것을 통해서 데이터 수집 - 데이터 split - 임베딩 처리 - 벡터스토어에 저장 - Retrieval - LLM 과 communication 이런 RAG의 기본적인 프로세스를 이해 했습니다.
이번에는 그 기능에 더해 데이터를 vector store에 저장하고 그 저장한 데이터를 Retrieval 하는 과정에서 어떻게 데이터를 가공하는지를 자세하게 알아 봅니다.
데이터를 어떻게 가공하느냐에 따라 성능과 속도 그리고 비용에까지 영향을 미칠 수 있습니다.
장문의 입력 데이터를 임베딩 처리 하기 전에 Chunk로 split 할 때 개발자는 어떤 것을 어떻게 control 해서 최적화를 시킬 수 있는지…
그리고 Vector store 에서 Retrieval 할 때 어떤 옵션들이 있고 그것을 어떻게 사용하는지를 설명했습니다.
실력있는 개발자는 단순히 기능만 구현하는 것 이외에 성능, 속도, 비용까지 고려 합니다.
한번 배울 때 확실하게 배워서 진짜 실력있는 개발자가 됩시다.
그리고 아래로 가면 세미나에서 사용했던 presentation 내용을 보실 수 있습니다.
https://catchupai4sb.streamlit.app/
소상공인을 위한 AI
This app was built in Streamlit! Check it out and visit https://streamlit.io for more awesome community apps. 🎈
catchupai4sb.streamlit.app
ChatGPT에게 김치찌개 한식당 이벤트에 사용할 그림을 만들어 달라 그랬더니.....
아주 이쁜 분이 김치찌개를 들고 소개하는 그림을 그려 주네요.
거기다 한복까지 입히고... 김치찌개도 너무 먹음직 스럽게 잘 그렸구요.
원근감을 살려서 너무 가깝거나 먼 곳은 흐리게 표현하고 핵심 부분은 찐하게 표현했습니다.
정말 그림을 잘 그리네요.
이번 편에서는 ChatGPT 승입니다. Gemini와 Copilot 보다 여러모로 ChatGPT가 더 우수했습니다.
LangChain - Retrieval Chain
이번에 제 유투브 비디오에서 다룬 내용은 랭체인 기능 중 Retrieval Chain 기능 입니다.
LangChain Quick Start를 보면 소단원 4개 중 3개가 Retrieval 관련된 Topic 입니다.
AI Web App 개발 field 에서 가장 중요한 개념 중 하나가 RAG (Retrieval Augmented Generation) 입니다.
생성형 AI 의 한계를 보완하기 위해 나온 기술이 RAG 입니다.
이번 시간엔 이 RAG에 대해 이해할 수 있도록 도움이 되는 내용이 있습니다.
그 외에 LangChain의 Retrieval Chain을 활용한 AI Web App 구현을 이해하기 위해 미리 공부해 두어야 할 도구들과 API 들에 대해서도 설명합니다.
처음 배울 때 단디 해서 나의 AI Web App 개발 능력의 기초를 탄탄하게 다집시다.
이번 시간에 Retrieval Chain을 사용해서 직접 AI Web App 개발을 할 수 있는 사전 지식을 꼼꼼히 배우고 다음 비디오에서 이 기능을 사용해서 제가 개발한 AI Web App의 소스 코드 분석을 하겠습니다.
이 두 비디오만 다 보면 RAG의 개념과 프로세스를 확실히 아실 수 있을 겁니다.
https://youtu.be/M9QfY_-Plsc?si=Cm_sbm89xWvfhoKR
시애틀 지역을 기반으로 활동하고 있는 한인 NGO 단체인 BIGHUG에서 이 지역 소상공인들을 위한 AI 세미나를 마련했습니다.
BIGHUG에서 저에게 강의를 해 달라고 해서 나름대로 이곳에서 소상공업에 종사하시는 한인 분들이 어떻게 하면 좀 더 효율적으로 AI를 활용할 수 있을까 많이 고민을 해서 세미나를 준비 했습니다.
5월 19일 마이크로소프트 본사가 있는 레드몬드라는 곳에서 세미나가 진행 됐는데요.
그 행사 기사가 이 지역 신문에 났네요.
아래 기사 링크 입니다.
https://www.seattlekdaily.com/news/articleView.html?idxno=9517
빅허그 - 소상공인을 위한 인공지능 활용법 세미나 성황리에 열려 - 시애틀코리안데일리
빅허그가 지난 19일(일요일) 레드몬드의 오렌지 스투디오에서 개최한 ‘챗지피티로 내 가게 스마트하게 운영하기’ 설명회가 성황리에 마무리 됐다.시애틀지역 한인 소상공인들을 대상으로 인
www.seattlekdaily.com
관심이 많은 분야라서 그런지 참가자 분들이 질문도 많이 하시고 실습에도 적극적으로 참여하셔서 아주 좋은 시간이 됐습니다.
이날 세미나에 활용했던 자료로 제 유투브 채널에 강의 비디오를 만들어서 올리고 있습니다.
https://youtu.be/60jpzEGnPGw?si=0ya6lzEqU7qmHoNN
앞으로도 계속 보완을 해서 이곳에 사시는 한인 분들에게 AI 로 도움을 드릴 수 있는 일을 계속 하고 싶네요.
