'스타트업' 태그의 글 목록

'스타트업'에 해당되는 글 6건

2025.03.29 Seattle 지역 AI Startup 다 모였다 - Seattle Startup Summit 2025 1
2025.01.20 Korea, AI Modeling 에서는 뒤쳐졌지만 AI Agent 시대는 선도할 수 있습니다. - AI Agent 공부하면서 생각한 Platform 사업 아이디어 공유합니다.
2024.12.07 미스창 - 주정부에 Business License Application 등록하기 : ChatGPT를 이렇게 활용하면 편리합니다.
2024.12.05 미스창 - File a Beneficial Ownership Information Report. LLC 등록 후 30일 이내에 해야 ...
2024.11.28 미스창 - 미국에서 내 회사를 만들자, 이렇게 쉽게 할 수 있다고? 1
2024.08.19 What's next for AI agentic workflows ft. Andrew Ng of AI Fund : 이거 꼭 보세요.

Catchup AI

Seattle 지역 AI Startup 다 모였다 - Seattle Startup Summit 2025

2025. 3. 29. 23:13 | Posted by 솔웅

지난 3월 28일 시애틀의 The Westin Seattle 에서 Seattle Startup Summit 2025 행사가 열렸습니다.

이날 Seattle 지역을 중심으로 한 AI Startup 들이 한자리에 모이는 날이라서 저도 기운을 받을 겸 갔습니다.

이날 참여한 AI Statup 들을 정리해 보겠습니다.

일단 Showcase 시간에는 각 업체들이 자신들의 제품에 대한 Demo 를 진행했습니다.

1개 회사당 3분의 시간을 주고 제품 홍보를 하는 시간이었는데요.

저는 이 장면을 제 Youtube Channel (https://www.youtube.com/@catchupai) 에서 Live 방송을 했습니다.

가장 큰 목적은 일단 라방으로 유투브에 올려 놓으면 집에가서 Transcript 를 볼 수 있어서 나중에 좀 더 자세히 그 Startup들에 대해 알아보려고 그랬습니다.

라방때 한두분 , 많을 때는 세네분 정도 들어 오셨는데.. 화질도 안 좋고 음질도 안 좋은 모습 보여드려서 죄송스럽네요.

여기 집에와서 각 Startup들에 대해 조사한 내용들 정리하겠습니다.

Startup 이나 AI Application 개발에 관심 있으신 분들 조금이라도 도움이 되시길 바라겠습니다.

그 때 라방에 오셨던 분들도 이 정보가 도움이 되시면 좋겠네요.

아래 그 내용입니다.

Grok 3 와 ChatGPT o1 을 사용했습니다.

Note : 각 Startup 별로 정리를 다 한 후 ChatGPT o1 에게 참가한 업체들을 Category 별로 나눠달라고 했습니다.
그랬더니 아래와 같이 나누어 주더라구요.
각 업체별 Research 내용 보시기 전이 이 Category 별로 정리한 내용 먼저 보셔도 좋을 것 같습니다.

Seattle Startup Summit 2025에 참가했던 여러 스타트업들은 AI·데이터·개발 등 다양한 영역을 아우르고 있습니다. 각 회사의 핵심 제품/솔루션을 종합해 보면, 대략 다음과 같은 카테고리로 구분할 수 있습니다:

1. AI 인프라 / 데이터 관리

Pinecone
- Vector DB를 제공하여 텍스트·이미지 등의 임베딩을 대규모로 저장하고, 초고속 유사도 검색을 지원.
ApertureData
- 이미지·비디오·오디오 등 비정형 멀티미디어와 해당 임베딩·메타데이터를 통합 관리하는 플랫폼(ApertureDB).
MotherDuck
- DuckDB를 클라우드 환경에서 확장해 대규모 데이터 분석(OLAP)을 빠르게 처리할 수 있도록 하는 서버리스 데이터 웨어하우스.
GensX
- 머신러닝 모델 서빙·배포·모니터링 등 MLOps 플랫폼으로, 대규모 모델 운영 및 확장성·자동화 기능 제공.
Hyperparam
- 머신러닝 실험/하이퍼파라미터를 체계적으로 추적하고 최적화하는 실험 관리 및 자동 튜닝 솔루션.
Temperstack
- 에피메랄(임시) 스테이징 환경을 빠르게 생성·삭제하여 DevOps 효율을 높이고, 클라우드 인프라 사용 비용을 절감.
PocketFlow
- 모델 경량화/압축(quantization, pruning 등)으로 대형 딥러닝 모델을 엣지나 모바일 기기에서 효율적으로 실행하도록 지원.
Variata
- 다차원·다변수 데이터를 분석·예측하는 솔루션으로, 복잡한 데이터 환경에서 최적의 의사결정을 돕는 AI 분석 플랫폼으로 추정.

2. 개발 툴 / 코드 품질·자동화

Tambo AI
- React 기반 생성형 UI(Generative UI) 라이브러리로, 최소한의 코드로 AI와 상호작용하는 UI 컴포넌트를 쉽게 구성.
Ear/y AI
- AI가 자동으로 유닛 테스트(테스트 코드)를 생성·관리하는 솔루션으로, 개발자의 테스트 작성 부담을 줄임.
CodeIntegrity AI
- 코드 보안·품질을 자동으로 점검해주는 플랫폼. 잠재적 버그, 보안 취약점, 코드 컨벤션 위반 등을 조기에 발견·관리.
CopilotKit AI
- 개발 워크플로에서 AI 코파일럿을 쉽게 통합·확장할 수 있도록 해주는 솔루션(코드 자동생성, 리팩토링 지원 등).

3. 엔터프라이즈 AI / 업무 자동화

Statsig
- Feature Flag, A/B 테스트, 실험 등 제품 퍼포먼스를 분석하고 실험할 수 있는 엔터프라이즈용 플랫폼.
Boundary AI
- AI 데이터 사용 시 발생하는 프라이버시·보안·컴플라이언스 문제를 자동화하고, 민감 정보 노출을 방지.
Humanlayer
- 이메일·메신저 등 업무 커뮤니케이션을 AI로 자동 분류·응답·요약하여, 반복 작업을 줄이는 플랫폼.
Hal9
- 노코드 방식으로 데이터 시각화·분석 및 웹 앱을 빠르게 구축·배포하는 툴(데이터 앱 빌더).
Clearly AI
- AutoML 기반으로, 비개발자도 머신러닝 예측 모델을 쉽게 만들고 분석할 수 있는 예측 분석 플랫폼.
OpenPipe
- LLM을 프로젝트 상황에 맞춰 파인튜닝하고, 기존 애플리케이션에 생성형 AI 기능을 추가하기 위한 플랫폼.

4. AI 콘텐츠 생성 / 크리에이티브

Moondream
- AI를 활용해 스토리, 동화, 명상/수면용 이야기 등 창의적 글 콘텐츠를 자동 생성하는 서비스.

이렇게 구분해 볼 수 있습니다

AI 인프라 / 데이터 관리
- Pinecone, ApertureData, MotherDuck, GensX, Hyperparam, Temperstack, PocketFlow, Variata
개발 툴 / 코드 품질·자동화
- Tambo AI, Ear/y AI, CodeIntegrity AI, CopilotKit AI
엔터프라이즈 AI / 업무 자동화
- Statsig, Boundary AI, Humanlayer, Hal9, Clearly AI, OpenPipe
AI 콘텐츠 생성 / 크리에이티브
- Moondream

분류 기준은 각 솔루션의 주요 기능 및 타겟 사용자/도메인을 토대로 묶은 것이며, 일부 스타트업은 여러 범주와 겹칠 수도 있으므로 참고 차원에서 확인하시면 좋습니다.

제가 조사하는 과정을 유투브로도 만들었습니다. 참고하세요.
https://youtu.be/SyysTjld4ms?si=gx39YrHK2oCqbUqA

- Daytona AI (Booth Interview)

Daytona (https://www.daytona.io/)는 AI가 생성한 코드를 격리된 환경에서 안전하게 실행할 수 있는 인프라/툴링 플랫폼으로, 로컬 시스템을 위험에 노출시키지 않고도 코드를 테스트할 수 있게 해줍니다. 아래는 대화를 바탕으로 정리한 핵심 요약입니다.
1. 개요 및 핵심 기능
1. 격리된 ‘샌드박스’ 생성
  - Daytona는 안전하고 필요할 때마다 생성되는 샌드박스(가상머신 혹은 VM)를 제공하여, 특히 AI가 생성한 코드를 안전하게 실행할 수 있도록 합니다.
  - 이를 통해 로컬 머신에서 직접 코드를 돌리며 발생할 수 있는 보안 및 환경적 문제를 방지할 수 있습니다.
2. 코드 실행 및 다양한 툴링 지원
  - 샌드박스 내부에서 파일 업로드, Git 리포지토리 복제(clone), 명령어 실행, 파일시스템 관리 등을 수행할 수 있습니다.
  - 예를 들어 AI 에이전트가 생성한 코드를 샌드박스에 업로드해 바로 빌드·실행할 수 있습니다.
3. 커스텀 이미지 & 설정
  - 사용자는 Docker 이미지를 등록하여 Daytona에서 이를 불러와 샌드박스를 생성할 때 사용할 수 있습니다.
  - 즉, 필요한 라이브러리나 의존성을 미리 포함한 이미지를 준비해 두고, 샌드박스를 생성할 때 지정만 하면 원하는 환경이 자동으로 구성됩니다.
4. 손쉬운 연동 & API 제공
  - Daytona는 Python/TypeScript SDK, OpenAPI 사양, CLI를 제공합니다.
  - 이를 통해 샌드박스 생성, 파일 업로드, 명령 실행 등 일련의 과정을 자동화하거나, 다른 애플리케이션과 연동할 수 있습니다.
5. 모니터링 & 대시보드
  - Daytona의 대시보드에서 활성화된 샌드박스 목록, 상태, 로그를 확인할 수 있으며, 웹 링크(Preview Link)를 통해 샌드박스에서 구동 중인 웹 앱에 접속할 수도 있습니다.
2. 일반적인 활용 사례
- AI 에이전트 개발: AI가 생성한 코드를 실시간으로 받아 샌드박스에서 안전하게 빌드·테스트.
- 보안 테스트: 신뢰도 낮은 코드를 로컬 환경이 아닌 샌드박스에서 돌려보며, 잠재 위험 없이 결과를 검증.
- CI/CD 및 DevOps: 새로 커밋된 코드나 AI로 생성된 스크립트를 샌드박스에서 자동으로 빌드·실행·테스트한 뒤 결과를 공유.
3. 시작하기
- 공식 문서:
  - https://www.daytona.io/에서 빠른 시작(Quick Start) 가이드와 Python/TypeScript 사용 예시를 확인할 수 있습니다.
- CLI:
  - 명령줄 도구(CLI)로 샌드박스 생성·종료, 파일 업로드, 명령 실행 등을 관리.
- 지원:
  - 문서에 기재된 연락처나 지원 채널을 통해 궁금한 점이나 문제점을 해결할 수 있습니다.
4. 예시 워크플로
1. 샌드박스 생성

import daytona

sandbox = daytona.create_sandbox(image="my-custom-image:latest")

2. 파일 업로드

sandbox.upload_file("app.py", file_content)

3. 명령어 실행

sandbox.run_command("pip install flask")
sandbox.run_command("python app.py")

4. 미리보기 링크(Preview Link)

샌드박스 내에서 웹 서버가 구동 중이라면, Daytona가 공용 링크를 생성하여 브라우저로 직접 접근 가능하게 합니다.

5. 요약

Daytona는 온디맨드로 안전한 샌드박스를 생성해 AI가 생성한 코드를 실행할 수 있는 플랫폼입니다. 로컬 머신 오염을 걱정할 필요 없이, 격리된 환경에서 코드를 빌드·실행하고 테스트할 수 있습니다. 또한 잘 정리된 SDK와 CLI를 통해 손쉽게 연동이 가능하므로, AI 개발이나 DevOps 환경에 최적화된 인프라를 구축할 수 있습니다.

자세한 튜토리얼이나 참고 자료는 https://www.daytona.io/에서 확인할 수 있습니다.

https://www.youtube.com/live/O56aeIAQeBk?si=_iiy_pyQdymkKgXa

- Galileo AI

요약 및 주요 포인트

스크립트는 2025년 시애틀 스타트업 서밋에서 Galileo AI의 발표 내용으로, AI 애플리케이션 개발의 도전 과제를 다룹니다.
발표자는 AI가 완벽하지 않으며 결함이 있을 수 있다고 강조하며, 이를 관리하기 위한 Galileo AI의 도구를 소개했습니다.
Galileo AI는 생성 AI 애플리케이션을 평가, 개선, 모니터링, 보호하는 플랫폼을 제공하며, 기업 규모에서 신뢰를 구축하는 데 도움을 줍니다.

상세 설명

배경 및 발표 내용

2025년 3월 28일, 시애틀 스타트업 서밋에서 Galileo AI의 발표가 진행되었습니다. 발표자는 선임 개발자 경험 엔지니어로, "de 팀"에서 활동 중입니다. 발표 내용은 AI를 활용한 애플리케이션 개발의 어려움을 다루며, AI가 항상 완벽하지 않고 결함이 있을 수 있음을 강조했습니다. 특히, "AI로 빌드할 때 우리는 종종 플래그(flag)와 함께 작업한다"고 언급하며, AI의 불완전성을 관리하기 위한 접근 방식을 논의했습니다. 이는 AI 출력의 오류를 처리하거나 다양한 시나리오를 관리하기 위한 소프트웨어 개발에서의 플래그 사용과 관련이 있을 가능성이 높습니다.

Galileo AI의 역할 및 기능

Galileo AI는 생성 AI 애플리케이션을 평가, 반복 개선, 모니터링, 보호하는 데 초점을 맞춘 회사입니다. 그들의 주요 제품인 **평가 인텔리전스 플랫폼(Evaluation Intelligence Platform)**은 Luna 평가 스위트를 기반으로 하며, 비용, 지연 시간, 정확도를 최적화한 연구 기반 메트릭을 제공합니다. 이 플랫폼은 다음과 같은 기능을 포함합니다:

실험 및 반복(Galileo Evaluate): 모델 및 프롬프트 플레이그라운드, A/B 테스트, 비교 및 리더보드, 추적 및 시각화, 프롬프트 저장소 및 버전 관리 등 오프라인 실험 및 테스트를 지원합니다.
모니터링 및 디버깅: AI 애플리케이션의 실시간 모니터링 및 문제 해결을 가능하게 합니다.
보호 및 보안: 기업 규모에서 AI 시스템의 보안을 강화합니다.

이러한 도구들은 AI 팀이 신뢰할 수 있는 생성 AI 애플리케이션을 구축하도록 돕습니다. 예를 들어, 사용자는 AI의 환각(hallucination) 문제를 빠르게 해결하거나, 정확도를 70%에서 100%로 향상시키는 데 이 플랫폼을 활용할 수 있습니다 (The Generative AI Evaluation Company - Galileo AI).

예상치 못한 세부 사항

흥미로운 점은 Galileo AI가 단순히 UI 디자인 생성에 국한되지 않고, AI 개발의 더 넓은 영역, 특히 기업 환경에서의 AI 운영(MLOps)에 초점을 맞추고 있다는 점입니다. 이는 일반적으로 AI 도구가 디자인 중심으로 여겨지는 것과는 다른 접근 방식입니다.

보고서: Galileo AI에 대한 상세 분석

이 보고서는 2025년 3월 28일 시애틀 스타트업 서밋에서 발표된 Galileo AI 스크립트를 요약하고, Galileo AI에 대한 상세한 설명을 제공합니다. 발표 내용과 웹 검색을 통해 수집된 정보를 바탕으로, 회사의 역할, 제품, 서비스, 그리고 AI 결함 관리 방식을 분석했습니다.

발표 스크립트 분석

스크립트는 Galileo AI의 선임 개발자 경험 엔지니어가 발표한 내용으로, AI 개발의 도전 과제를 다룹니다. 발표자는 AI가 완벽하지 않으며 결함이 있을 수 있다고 언급하며, "AI로 빌드할 때 우리는 종종 플래그와 함께 작업한다"고 설명했습니다. 이는 AI 출력의 오류를 관리하거나 다양한 시나리오를 처리하기 위한 소프트웨어 개발에서의 플래그 사용을 암시합니다. 발표는 AI의 불완전성을 인정하고, 이를 해결하기 위한 Galileo AI의 도구를 소개하는 데 초점을 맞췄습니다.

Galileo AI의 회사 개요

Galileo AI는 생성 AI 애플리케이션의 평가, 반복 개선, 모니터링, 보호에 특화된 회사입니다. 그들의 플랫폼은 기업 규모에서 AI 팀이 신뢰할 수 있는 애플리케이션을 구축하도록 지원하며, 특히 MLOps(머신 러닝 운영)와 관련된 도구를 제공합니다. 회사는 2022년에 설립되었으며, 샌프란시스코에 본사를 두고 있습니다 (Galileo AI - Crunchbase Company Profile & Funding).

주요 제품 및 서비스

Galileo AI의 주요 제품은 **평가 인텔리전스 플랫폼(Evaluation Intelligence Platform)**으로, Luna 평가 스위트를 기반으로 합니다. 이 플랫폼은 다음과 같은 기능을 제공합니다:

기능	설명
플랫폼 이름	Galileo Evaluation Intelligence Platform
목적	기업 규모에서 AI 애플리케이션 평가, 반복 개선, 모니터링, 보호
동력	Luna Evaluation Suite
혜택	- 생산 시간 4배 빠름<br>- 환각 문제 해결 10배 빠름<br>- 복합 AI 시스템 100% 가시성
플랫폼 모듈	- 실험 및 반복<br>- 모니터링 및 디버깅<br>- 보호 및 보안
Luna 평가 스위트	비용, 지연 시간, 정확도를 최적화한 연구 기반 메트릭
Galileo Wizard	생산 스루풋을 위한 추론 최적화
메트릭 기능	- 사용 및 피드백에 따라 자동 개선되는 스마트 메트릭<br>- 정확도, 지연 시간, 비용 효율성 최적화(LLM 또는 SLM 기반)<br>- 수백만 행까지 확장 가능

특히, Galileo Evaluate는 오프라인 실험 및 테스트를 지원하며, 모델 및 프롬프트 플레이그라운드, A/B 테스트, 비교 및 리더보드, 추적 및 시각화, 프롬프트 저장소 및 버전 관리를 포함합니다. 이는 AI 결함을 빠르게 식별하고 개선하는 데 유용합니다 (The Generative AI Evaluation Company - Galileo AI).

AI 결함 관리 방식

Galileo AI는 AI 결함을 관리하기 위해 평가 및 모니터링 도구를 제공합니다. 예를 들어, 사용자는 플랫폼을 통해 AI의 환각(hallucination) 문제를 빠르게 해결하거나, 정확도를 향상시킬 수 있습니다. TechCrunch 기사에 따르면, Galileo AI는 AI 모델 개발 및 배포를 간소화하여, 특히 MLOps 환경에서 AI 오류를 발견하고 수정하는 데 도움을 줍니다 (Galileo emerges from stealth to streamline AI development). 이는 발표자가 언급한 "플래그와 함께 작업"이라는 개념과 연결될 수 있으며, AI 출력의 불완전성을 관리하기 위한 플래그나 메트릭을 설정하는 데 플랫폼이 사용될 수 있습니다.

시장 위치 및 경쟁

Galileo AI는 MLOps 시장에서 Databricks, DataRobot, Algorithmia와 같은 경쟁사와 비교될 수 있습니다. 이 시장은 2025년까지 40억 달러에 이를 것으로 예상되며, AI 워크플로우의 일반적인 문제를 해결하는 데 초점을 맞추고 있습니다. Galileo AI의 강점은 특히 생성 AI 애플리케이션의 평가 및 모니터링에 특화되어 있다는 점입니다.

예상치 못한 세부 사항

흥미로운 점은 Galileo AI가 UI 디자인 생성에 국한되지 않고, AI 개발의 더 넓은 영역, 특히 기업 환경에서의 AI 운영에 초점을 맞추고 있다는 것입니다. 이는 일반적으로 AI 도구가 디자인 중심으로 여겨지는 것과는 다른 접근 방식으로, 발표 내용이 AI 개발의 기술적 도전에 초점을 맞춘 이유를 설명합니다.

결론

스크립트는 Galileo AI의 발표 내용으로, AI 개발의 도전 과제를 다루며, 회사의 평가 및 모니터링 도구를 소개했습니다. Galileo AI는 생성 AI 애플리케이션의 신뢰를 구축하기 위한 강력한 플랫폼을 제공하며, 특히 AI 결함을 관리하는 데 유용합니다. 이 정보는 AI 팀이 더 나은 애플리케이션을 구축하는 데 도움을 줄 수 있습니다.

주요 인용

https://www.youtube.com/live/26GiHjw64K0?si=Kfv-iuPU__VZ1rAC

- Instillux AI

주요 요약

Instillux.AI는 여행 및 이민 신청 관리에 특화된 AI 기반 플랫폼을 제공하며, 문서 처리, 워크플로우 자동화, 오류 감지, 고객 지원 등을 지원합니다.
이 플랫폼은 학생, 가족, 여행 에이전트가 비자 신청 과정을 더 쉽게 관리할 수 있도록 돕습니다.
AI, 클라우드, 사이버 보안 기술을 활용하여 효율성과 정확도를 높이고, 데이터 보안을 강화합니다.
예상치 못한 점: 발표자가 마이크로소프트에서 보안 및 AI 분야의 경험을 바탕으로 개인 이민 경험에서 문제를 해결하려 했다는 점입니다.

발표 내용 요약

2025년 3월 28일 시애틀 스타트업 서밋에서 Instillux.AI의 데모 스크립트는 비자 신청 과정의 어려움을 다루었습니다. 발표자는 비자 문서 작업이 고통스럽고 오류가 기회를 잃게 할 수 있다고 언급하며, 특히 학생과 가족, 여행 에이전트가 겪는 어려움을 강조했습니다. 발표자는 마이크로소프트에서 보안 및 AI 분야의 선임 소프트웨어 엔지니어로 활동했으며, 개인 이민 경험에서 문제를 발견하고 이를 해결하기 위해 전문성을 사용했다고 설명했습니다. 청중 중 이민 변호사나 변호사는 부스에서 더 자세한 데모를 볼 수 있다고 초대받았습니다.

Instillux.AI에 대한 상세 분석

회사 개요

Instillux.AI는 2025년 현재, 여행 및 이민 신청 관리에 특화된 AI 기반 솔루션을 제공하는 회사로, 단순성과 최첨단 AI, 클라우드, 사이버 보안 기술을 결합하여 효율성을 높이고 오류를 줄이는 데 초점을 맞추고 있습니다. 이 회사는 개인과 기업이 더 많은 고객을 효율적으로 서비스할 수 있도록 지원하며, 특히 비자 신청과 같은 복잡한 프로세스를 간소화합니다.

주요 제품 및 기능

Instillux.AI의 플랫폼은 다음과 같은 주요 기능을 포함합니다:

AI 기반 문서 인텔리전스: AI를 사용하여 문서를 분류하고 데이터를 정확하게 추출하며, 접근 제어를 통해 문서를 조직하고 공유할 수 있습니다.
워크플로우 강화: 기존 워크플로우를 개선하여 오류를 줄이고 효율성을 높이며, 기존 시스템에 방해 없이 통합됩니다.
사용자 경험 개선: 복잡한 여행 및 이민 신청 워크플로우를 쉽게 탐색할 수 있는 환경을 제공합니다.
신청 워크플로우 자동화: 반복적이고 오류가 발생하기 쉬운 작업을 자동화하여 생산성을 높이고 더 많은 고객을 처리할 수 있습니다.
오류 감지 및 수정: 신청서에서 오류를 식별하고 수정하여 거부 가능성을 최소화합니다.
AI 지원 고객 커뮤니케이션: 고객 상담 중 중요한 신청 정보를 제공하여 전문성을 강화합니다.
지원 문서 형식: PDF, 이미지, 스캔 파일 등 다양한 형식을 지원합니다.
데이터 보안: 산업 표준 암호화 및 개인정보 보호 프로토콜을 통해 데이터를 안전하게 보호합니다.
정밀도 및 신뢰성: 다양한 데이터셋으로 훈련된 고급 AI 모델과 사용자 입력을 통해 정확도를 유지합니다.

이러한 기능들은 특히 비자 신청과 같은 복잡한 문서 작업에서 유용하며, 학생, 가족, 여행 에이전트가 신청서를 효율적으로 관리하고 오류를 줄이는 데 도움을 줍니다.

기술 스택

Instillux.AI는 AI, 클라우드, 사이버 보안 기술을 활용하여 플랫폼을 운영합니다. 구체적인 기술 스택은 공개되지 않았으나, 문서 인텔리전스와 워크플로우 자동화에 AI가 핵심적으로 사용되며, 데이터 보호를 위해 산업 표준 암호화 및 개인정보 보호 프로토콜이 적용됩니다.

시장 위치 및 경쟁

Instillux.AI는 여행 및 이민 신청 관리 시장에서 AI 기반 솔루션을 제공하는 기업으로, 특히 비구조화 데이터를 처리하는 데 강점을 보입니다. 경쟁사로는 Databricks, DataRobot와 같은 MLOps 플랫폼이 있을 수 있으며, 이 시장은 2025년까지 40억 달러에 이를 것으로 예상됩니다. Instillux.AI의 강점은 개인 및 소규모 기업을 위한 접근성과 비자 신청에 특화된 기능입니다.

예상치 못한 세부 사항

흥미로운 점은 발표자가 개인 이민 경험을 바탕으로 이 도구를 비자 신청에 적용하려 했다는 점입니다. 이는 일반적으로 비구조화 데이터 처리 도구가 조직적 데이터 관리에 초점을 맞추는 것과는 다른, 개인적이고 실질적인 문제 해결 접근 방식을 보여줍니다.

상세 비교 표

항목	설명
회사 이름	Instillux.AI
주요 제품	AI 기반 여행 및 이민 신청 관리 플랫폼
주요 기능	문서 분류, 데이터 추출, 워크플로우 자동화, 오류 감지, 고객 지원
대상 사용자	학생, 가족, 여행 에이전트, 이민 변호사
특별 적용 사례	비자 신청 문서 관리 및 오류 감소
보안	산업 표준 암호화 및 개인정보 보호 프로토콜 적용

이 표는 발표 내용과 웹사이트 정보를 기반으로 Instillux.AI의 주요 특징을 요약한 것입니다.

결론

Instillux.AI는 여행 및 이민 신청 관리에 특화된 AI 기반 플랫폼으로, 문서 처리, 워크플로우 자동화, 오류 감지, 고객 지원 기능을 제공하여 효율성과 정확도를 높입니다. 특히 비자 신청과 같은 복잡한 프로세스를 간소화하여 학생, 가족, 여행 에이전트에게 유용하며, 데이터 보안을 강화하여 신뢰를 구축합니다. 이 회사는 AI, 클라우드, 사이버 보안 기술을 활용하여 시장에서 경쟁력을 갖추고 있습니다.

핵심 인용:

Instillux.AI 웹사이트

https://www.youtube.com/live/OdTn8eVkb4A?si=ysujSXVv7Taw_l-H

- IDENTITIES.AI

주요 요약

Identities AI는 기업 커뮤니케이션에서 AI 기반 사칭을 실시간으로 탐지하는 플랫폼을 제공합니다.
주요 제품인 **AI Companion™**는 Zoom, Google Meet, Slack, Webex, 전화 통화 등에서 신원을 지속적으로 검증하며, 사칭 시 알림을 보냅니다.
플랫폼은 독점 데이터와 SQL 인텔리전스를 활용하여 사칭을 탐지하며, 금융, 의료, 정부 등 다양한 산업에 적용됩니다.
2024년 기준, AI 음성 사칭 시도가 300% 증가했으며, 사칭 사기로 인해 53억 달러 이상의 손실이 발생했습니다.
발표자는 개인적인 사례(모친이 AI 사칭으로 사기를 당함)를 언급하며, 이 문제의 심각성을 강조했습니다.
예상치 못한 점: 발표자가 개인 경험을 바탕으로 이 문제를 해결하려 한 점이 흥미롭습니다.

발표 내용 요약

Identities AI의 데모 스크립트는 2025년 3월 28일 시애틀 스타트업 서밋에서 발표된 것으로, 기업 워크플로우에 통합되어 실시간으로 AI 사칭을 탐지하는 플랫폼을 소개합니다. 발표자는 플랫폼이 Zoom 통화에서 누군가가 발표자를 사칭하려 할 때 이를 탐지하고 관리자에게 알림을 보내는 데모를 보여주었습니다. 모델은 독점 데이터와 SQL 인텔리전스를 기반으로 훈련되었으며, 오디오와 비디오를 지원하며 여러 사용 사례를 다룹니다. 발표자는 개인적인 동기(모친이 AI 사칭으로 은행 사기를 당함)를 공유하며, AI 사칭 사기가 악화될 것이라고 경고했지만, 그들의 솔루션이 이를 해결할 수 있다고 강조했습니다.

Identities AI에 대한 상세 설명

회사 개요

Identities AI는 AI 시대의 신뢰를 구축하기 위해 디지털 상호작용의 진정성을 보장하는 것을 목표로 하는 회사입니다. 그들의 비전은 혁신을 가능하게 하면서 보안을 강화하는 디지털 상호작용의 신뢰 기반 세계를 만드는 것입니다. 핵심 가치는 신뢰, 무결성, 혁신, 보안, 회복력, 권한 부여, 협력, 전문성, 투명성, 헌신입니다. 현재 1,000개의 글로벌 기업 고객을 보유하고 있으며, AI 기반 사칭 사기로 인한 위협에 대응하고 있습니다.

주요 제품: AI Companion™

AI Companion™는 Identities AI의 주요 제품으로, 기업 커뮤니케이션에서 실시간 신원 검증을 제공합니다. 주요 기능은 다음과 같습니다:

실시간 탐지: 통화 중 AI 사칭 시도를 즉시 식별합니다.
지속적 검증: 비디오 회의, 전화 통화 등에서 신원을 지속적으로 확인합니다.
다중 플랫폼 지원: Zoom, Google Meet, Slack, Webex, 전화 통화 등 다양한 플랫폼과 통합됩니다.
데이터 기반 모델: 독점 데이터와 SQL 인텔리전스를 활용하여 정확한 탐지를 보장합니다.
알림 및 조치: 사칭이 감지되면 관리자에게 알림을 보내고, 필요 시 사칭자를 통화에서 퇴출할 수 있습니다.

이 제품은 금융, 의료, 정부 등 민감한 데이터와 상호작용이 중요한 산업에 특화되어 있습니다. 예를 들어, 금융에서는 실시간 통화 중 사기를 방지하고, 의료에서는 환자 데이터 보호를 강화합니다.

시장 통계 및 중요성

Identities AI는 AI 사칭 사기의 심각성을 강조하며, 2024년 기준으로 다음과 같은 통계를 제시합니다:

정부 관료를 대상으로 한 AI 음성 사칭 시도가 300% 증가.
AI 기반 사칭 사기로 인해 전 세계적으로 53억 달러 이상의 손실 발생.
84%의 보안 리더가 AI 기반 사칭을 2024년 최고의 사이버 보안 우려 사항으로 인식.

이러한 통계는 AI 사칭 사기가 빠르게 증가하는 위협임을 보여주며, Identities AI의 솔루션이 중요한 역할을 한다는 점을 뒷받침합니다.

개인적 동기와 사용 사례

발표자는 개인적인 경험을 공유하며, 몇 달 전 모친(75세)이 AI 사칭으로 은행 사기를 당한 사례를 언급했습니다. 이는 플랫폼 개발의 동기가 되었으며, 많은 사람들이 비슷한 피해를 겪고 있음을 강조했습니다. 이 플랫폼은 Zoom 통화, 전화 통화 등 다양한 커뮤니케이션 워크플로우에 적용될 수 있으며, 고객 사례를 통해 여러 사용 사례를 지원하고 있습니다.

예상치 못한 세부 사항

흥미로운 점은 발표자가 개인적인 사례(모친의 사기 경험)를 바탕으로 이 문제를 해결하려 했다는 점입니다. 이는 일반적으로 기업 솔루션이 기술적 필요에 의해 개발되는 것과 달리, 개인적 동기가 강하게 반영된 접근임을 보여줍니다.

보고서: Identities AI에 대한 상세 분석

이 보고서는 2025년 3월 28일 시애틀 스타트업 서밋에서 발표된 Identities AI의 데모 스크립트를 요약하고, 회사와 제품에 대한 상세한 분석을 제공합니다. 발표 내용과 웹 검색을 통해 수집된 정보를 바탕으로, 회사의 역할, 제품, 서비스, 그리고 AI 사칭 탐지 방식을 분석했습니다.

발표 스크립트 분석

스크립트는 Identities AI의 플랫폼이 기업 워크플로우에 통합되어 실시간으로 AI 사칭을 탐지하는 내용을 다룹니다. 발표자는 Zoom 통화에서 사칭 시도를 탐지하고 관리자에게 알림을 보내는 데모를 보여주었으며, 모델은 독점 데이터와 SQL 인텔리전스를 기반으로 훈련되었습니다. 오디오와 비디오를 지원하며, 여러 사용 사례를 다루고 있습니다. 발표자는 개인적인 동기(모친의 사기 경험)를 공유하며, AI 사칭 사기의 심각성을 강조했습니다.

Identities AI의 회사 개요

Identities AI는 AI 시대의 신뢰를 구축하기 위해 디지털 상호작용의 진정성을 보장하는 회사입니다. 그들의 비전은 혁신을 가능하게 하면서 보안을 강화하는 디지털 상호작용의 신뢰 기반 세계를 만드는 것입니다. 현재 1,000개의 글로벌 기업 고객을 보유하고 있으며, AI 기반 사칭 사기로 인한 위협에 대응하고 있습니다.

주요 제품 및 서비스

Identities AI의 주요 제품은 AI Companion™으로, 실시간 신원 검증을 제공합니다. 플랫폼의 주요 기능은 다음과 같습니다:

기능	설명
실시간 탐지	통화 중 AI 사칭 시도를 즉시 식별하고 알림 제공.
지속적 검증	비디오 회의, 전화 통화 등에서 신원을 지속적으로 확인.
다중 플랫폼 지원	Zoom, Google Meet, Slack, Webex, 전화 통화 등과 통합.
데이터 기반 모델	독점 데이터와 SQL 인텔리전스를 활용하여 정확한 탐지.
조치 가능성	사칭이 감지되면 관리자가 사칭자를 통화에서 퇴출하거나 조치 가능.

이 플랫폼은 금융, 의료, 정부 등 민감한 데이터와 상호작용이 중요한 산업에 특화되어 있습니다.

시장 통계 및 중요성

Identities AI는 AI 사칭 사기의 심각성을 강조하며, 2024년 기준으로 다음과 같은 통계를 제시합니다:

정부 관료를 대상으로 한 AI 음성 사칭 시도가 300% 증가.
AI 기반 사칭 사기로 인해 전 세계적으로 53억 달러 이상의 손실 발생.
84%의 보안 리더가 AI 기반 사칭을 2024년 최고의 사이버 보안 우려 사항으로 인식.

이러한 통계는 AI 사칭 사기가 빠르게 증가하는 위협임을 보여주며, Identities AI의 솔루션이 중요한 역할을 한다는 점을 뒷받침합니다.

개인적 동기와 사용 사례

시장 위치 및 경쟁

Identities AI는 AI 기반 사칭 탐지 시장에서 경쟁사와 비교될 수 있으며, 특히 실시간 통신 보안에 특화되어 있습니다. 경쟁사로는 Ping Identity, Radiant Logic와 같은 IAM(Identity and Access Management) 솔루션이 있을 수 있습니다. 이 시장은 2025년까지 빠르게 성장할 것으로 예상되며, AI 사칭 사기의 증가로 인해 수요가 증가하고 있습니다.

예상치 못한 세부 사항

결론

Identities AI는 AI 기반 사칭 사기를 실시간으로 탐지하는 플랫폼을 제공하며, 주요 제품인 AI Companion™는 기업 커뮤니케이션에서 신뢰를 보장합니다. 발표 내용과 웹 검색을 통해, 이 회사가 AI 사칭 사기의 심각성을 해결하려는 중요한 역할을 하고 있음을 알 수 있습니다. 특히 개인적인 동기가 포함된 접근은 사용자의 공감을 얻을 가능성이 높습니다.

핵심 인용:

Identities AI 회사 개요 및 제품 설명

https://www.youtube.com/live/lfEZ9b9zCNM?si=AtH0yPjukOQNLvty

- Emissary AI

주요 요약

Emissary는 AI 모델 개발 플랫폼으로, 사용자 맞춤형 손실 함수와 출력 헤드를 제공하여 특정 작업에 최적화된 모델을 만들 수 있습니다.
플랫폼은 직관적인 인터페이스를 통해 프로젝트 생성, 데이터 업로드, 훈련 작업 설정, 모델 평가, 배포, 생산 환경 모니터링 및 재훈련까지 전 과정을 지원합니다.
자동화된 GPU 관리와 모델 체크포인트 저장 기능을 통해 인프라 복잡성을 줄이고, 개발자가 모델 개발에 집중할 수 있도록 돕습니다.
예상치 못한 점: 발표자가 모델 개발의 직관적 측면을 강조하며, 창의적 접근의 중요성을 언급한 점이 흥미롭습니다.

플랫폼 개요

Emissary는 AI 모델의 빌드, 훈련, 배포를 단순화하는 플랫폼으로, 사용자 맞춤형 최적화를 통해 특정 작업에 최적화된 모델을 구축할 수 있습니다. 발표 내용에 따르면, 플랫폼은 프로젝트 생성, 데이터 업로드, 훈련 작업 커스터마이징, 모델 평가, 배포, 그리고 생산 환경에서의 모니터링 및 재훈련을 지원합니다.

주요 기능

사용자 맞춤형 최적화: 사용자 맞춤형 손실 함수와 출력 헤드를 통해 특정 작업에 최적화된 모델을 만들 수 있습니다.
직관적인 인터페이스: 데이터 업로드 가이드라인과 쉬운 훈련 작업 설정을 제공하여 초보자도 쉽게 사용할 수 있습니다.
자동화된 관리: GPU 인스턴스 생성, 모델 체크포인트 저장, 테스트 실행 등을 자동으로 처리하여 인프라 복잡성을 줄입니다.
생산 환경 지원: 트래픽 모니터링과 재훈련 기능을 통해 모델을 지속적으로 개선할 수 있습니다.

보고서: Emissary에 대한 상세 분석

이 보고서는 2025년 3월 28일 시애틀 스타트업 서밋에서 발표된 Emissary의 데모 스크립트를 요약하고, 플랫폼에 대한 상세한 분석을 제공합니다. 발표 내용과 웹사이트 정보를 기반으로, Emissary의 기능, 사용 사례, 시장 위치 등을 다룹니다.

발표 스크립트 요약

스크립트는 Emissary의 데모 발표 내용으로, 플랫폼이 AI 모델 개발의 전 과정을 지원한다고 설명합니다. 발표자는 단순히 구조적 요소뿐 아니라 직관적 측면도 중요하다고 강조하며, 사용자 맞춤형 손실 함수와 출력 헤드를 통해 특정 작업에 최적화된 모델을 만들 수 있다고 언급했습니다. 데모에서는 프로젝트 생성, 데이터 업로드, 훈련 작업 설정, 모델 평가, 배포, 그리고 생산 환경에서의 모니터링 및 재훈련 과정을 보여주었습니다. 플랫폼은 GPU 인스턴스 관리, 모델 체크포인트 저장, 테스트 실행 등을 자동화하여 사용자가 모델 개발에 집중할 수 있도록 설계되었습니다.

Emissary 플랫폼의 상세 기능

Emissary는 AI 모델의 전 생애 주기를 관리하는 플랫폼으로, 다음과 같은 주요 기능을 제공합니다:

프로젝트 관리: 사용자는 "서비스"라는 개념으로 프로젝트를 생성할 수 있으며, 이는 AI 시스템을 위한 모든 작업을 포함합니다.
데이터 업로드 및 가이드라인: 플랫폼은 최대 1GB까지 UI에서 데이터를 업로드할 수 있으며, API를 통해 더 많은 데이터를 처리할 수 있습니다. 데이터 형식 가이드라인을 제공하여 잘못된 형식 업로드를 방지합니다.
훈련 작업 커스터마이징: 사용자는 기본 모델, 훈련 데이터셋, 작업 유형, 하이퍼파라미터를 지정할 수 있습니다. 또한, 훈련 스크립트를 수정하거나 Python 스크립트를 통해 평가 함수를 설정할 수 있습니다.
자동화된 인프라 관리: 훈련 시작 시 GPU 인스턴스를 자동으로 생성하고, 훈련 스크립트와 데이터셋을 로드하며, 모델 체크포인트를 저장하고 테스트를 실행합니다.
모델 평가 및 배포: 훈련 완료 후 로그와 테스트 메트릭을 확인할 수 있으며, 모델을 다운로드하거나 직접 배포할 수 있습니다. 배포를 위해 여러 언어(4개 이상)로 코드 스니펫을 제공하며, 지속적으로 언어를 확장하고 있습니다.
생산 환경 모니터링 및 재훈련: 생산 환경에서 트래픽을 모니터링하고, 이 데이터를 기반으로 새로운 데이터셋을 생성하여 모델을 재훈련할 수 있습니다. 이는 모델이 최신 상태를 유지하고 성능을 개선하는 데 도움을 줍니다.

사용 사례

Emissary는 연구 및 개발 팀, 기업, 개인 개발자 등 다양한 사용자에게 적합합니다. 예를 들어:

연구 팀은 새로운 아이디어를 실험하고 빠르게 프로토타입을 만들 수 있습니다.
기업은 특정 비즈니스 요구사항에 맞춘 맞춤형 AI 솔루션을 구축할 수 있습니다.
개인 개발자는 복잡한 인프라 관리 없이 개인화된 AI 애플리케이션을 개발할 수 있습니다.

시장 위치 및 경쟁

Emissary는 AI 모델 훈련 및 배포 시장에서 경쟁사와 비교될 수 있습니다. 경쟁사로는 Hugging Face, Weights & Biases, MLflow 등이 있으며, 이 시장은 2025년까지 빠르게 성장할 것으로 예상됩니다. Emissary의 강점은 사용자 맞춤형 손실 함수와 출력 헤드 제공, 직관적인 인터페이스, 그리고 생산 환경에서의 지속적인 유지보수 지원입니다.

예상치 못한 세부 사항

발표자는 모델 개발의 직관적 측면을 강조하며, 단순히 구조적 요소뿐 아니라 창의적 접근도 중요하다고 언급했습니다. 이는 일반적으로 기술 중심으로 설명되는 AI 플랫폼에서 드문 접근으로, 사용자의 창의성을 자극할 수 있는 점이 흥미롭습니다.

상세 비교 표

항목	설명
회사 이름	Emissary
주요 제품	AI 모델 빌드, 훈련, 배포 플랫폼
주요 기능	사용자 맞춤형 손실 함수, 출력 헤드, 직관적 인터페이스, 자동화 관리
대상 사용자	연구 팀, 기업, 개인 개발자
특별 적용 사례	특정 작업에 최적화된 모델 개발, 생산 환경 모니터링
배포 옵션	오프프레미스 또는 클라우드 서비스를 통한 유연성

이 표는 발표 내용과 웹사이트 정보를 기반으로 Emissary의 주요 특징을 요약한 것입니다.

결론

Emissary는 AI 모델 개발을 단순화하고, 사용자 맞춤형 최적화를 통해 특정 작업에 최적화된 모델을 구축할 수 있는 플랫폼입니다. 직관적인 인터페이스와 자동화된 관리 기능을 통해 개발자가 모델 개발에 집중할 수 있으며, 생산 환경에서의 모니터링과 재훈련 기능을 통해 지속적인 성능 개선을 지원합니다.

핵심 인용:

https://www.youtube.com/live/Vhc03w0CEjA?si=rXt1ShLVwg24A6rj

- PixelTable AI

주요 요약

Pixeltable AI는 2025년 3월 28일 시애틀 스타트업 서밋에서 Pixelagent라는 AI 에이전트 프레임워크를 소개했습니다.
Pixelagent는 Pixeltable의 AI 데이터 인프라를 기반으로 하여 데이터 오케스트레이션, 지속성, 멀티모달 지원을 자동으로 처리하며, 사용자가 비즈니스와 혁신에 집중할 수 있도록 돕습니다.
사용자는 AI 클래스를 정의하고 비디오, 오디오, 텍스트 등 다양한 데이터 유형을 처리하며, 내장된 메모리 관리를 통해 데이터 검색 및 저장 방식을 선택할 수 있습니다.
예상치 못한 점: 발표자가 데이터 관리의 기술적 세부 사항보다는 사용자가 창의적 접근에 집중할 수 있도록 강조한 점이 흥미롭습니다.

Pixeltable과 Pixelagent 개요

Pixeltable은 멀티모달 데이터(텍스트, 이미지, 비디오, 오디오 등)를 관리하는 선언적, 점진적 접근 방식을 제공하는 AI 데이터 인프라입니다. Pixelagent는 이 기반 위에 구축된 AI 에이전트 프레임워크로, 데이터 관리의 복잡성을 줄이고 에이전트 로직 개발에 집중할 수 있도록 설계되었습니다.

주요 기능

Pixeltable: 데이터 저장, 버전 관리, 변환, 인덱싱, 오케스트레이션을 통합적으로 처리하며, 개발자가 데이터 관리에 신경 쓰지 않고 AI 애플리케이션 개발에 집중할 수 있습니다.
Pixelagent: 데이터 우선 접근 방식을 채택하여 에이전트가 텍스트, 이미지, 비디오 등을 자연스럽게 처리할 수 있도록 지원하며, LLM(대규모 언어 모델) 프로토콜과 도구 통합을 쉽게 만듭니다.

사용 사례

Pixeltable은 RAG 시스템, 컴퓨터 비전 파이프라인, 멀티모달 AI 애플리케이션, 생산 LLM 서비스 등 다양한 용도로 사용됩니다. Pixelagent는 고객 서비스 봇, 개인 비서, 복잡한 작업 수행 에이전트 등에 적합합니다.

보고서: Pixeltable AI 및 Pixelagent에 대한 상세 분석

이 보고서는 2025년 3월 28일 시애틀 스타트업 서밋에서 발표된 Pixeltable AI의 데모 스크립트를 요약하고, Pixeltable과 Pixelagent 제품에 대한 상세한 분석을 제공합니다. 발표 내용과 웹 검색을 통해 수집된 정보를 바탕으로, 회사의 역할, 제품 기능, 사용 사례, 시장 위치 등을 다룹니다.

발표 스크립트 요약

스크립트는 Pixeltable AI의 데모 발표 내용으로, Pixelagent라는 데이터 우선 AI 에이전트 프레임워크를 소개합니다. Pixelagent는 Pixeltable의 AI 데이터 인프라를 기반으로 하여 데이터 오케스트레이션, 지속성, 멀티모달 지원을 자동으로 처리하며, 사용자가 비즈니스와 혁신에 집중할 수 있도록 돕습니다. 발표자는 사용자가 AI 클래스를 정의하고 비디오, 오디오, 텍스트 등 다양한 데이터 유형을 처리하며, 내장된 메모리 관리를 통해 데이터 검색 및 저장 방식을 선택할 수 있다고 설명했습니다. 또한, 데이터와 오케스트레이션을 통합하여 관리의 복잡성을 줄인다고 강조했습니다. 데모 중 팀원의 음성으로 Pixelagent를 "데이터 우선 프레임워크"로 소개하며, Pixeltable이 데이터 오케스트레이션과 저장을 자동으로 처리한다고 언급했습니다.

Pixeltable의 상세 설명

Pixeltable은 오픈소스 AI 데이터 인프라로, 멀티모달 워크로드를 위한 선언적, 점진적 접근 방식을 제공합니다. 이는 데이터 저장, 버전 관리, 변환, 인덱싱, 오케스트레이션을 통합적으로 처리하여 개발자가 데이터 관리에 신경 쓰지 않고 AI 애플리케이션 개발에 집중할 수 있도록 설계되었습니다.

핵심 기능:
사용 사례: RAG 시스템, 컴퓨터 비전 파이프라인, 멀티모달 AI 애플리케이션, 생산 LLM 서비스 등에 적합합니다.
기술적 세부 사항: Pixeltable은 Python 라이브러리로, 테이블 생성, 쿼리, 계산된 열(computed columns)을 지원합니다. 예를 들어, 영화 테이블을 생성하여 이름, 수익, 예산 열을 정의하고, 수익에서 예산을 뺀 이익을 계산된 열로 설정할 수 있습니다. 이미지 열에 대해 CLIP 모델을 사용하여 임베딩을 추출하고 유사성 검색을 수행할 수 있습니다.

Pixelagent의 상세 설명

Pixelagent는 Pixeltable 위에 구축된 AI 에이전트 프레임워크로, 데이터 관리의 복잡성을 줄이고 에이전트 로직 개발에 집중할 수 있도록 설계되었습니다. 이는 데이터 우선 접근 방식을 채택하여 에이전트가 텍스트, 이미지, 비디오 등을 자연스럽게 처리할 수 있도록 지원하며, LLM 프로토콜과 도구 통합을 쉽게 만듭니다.

핵심 기능:
작동 방식:
사용 사례: 고객 서비스 봇, 개인 비서, 복잡한 작업 수행 에이전트 등에 적합하며, 특히 대규모 데이터 처리와 멀티모달 상호작용이 필요한 경우 유용합니다.

시장 위치 및 경쟁

Pixeltable과 Pixelagent는 AI 데이터 관리 및 에이전트 개발 시장에서 경쟁사와 비교될 수 있습니다. 경쟁사로는 Hugging Face, Weights & Biases, MLflow 등이 있으며, 이 시장은 2025년까지 빠르게 성장할 것으로 예상됩니다. Pixeltable의 강점은 멀티모달 데이터 처리와 점진적 업데이트 지원, Pixelagent의 강점은 데이터 우선 접근과 에이전트 개발의 단순화입니다.

예상치 못한 세부 사항

발표자는 데이터 관리의 기술적 세부 사항보다는 사용자가 창의적 접근에 집중할 수 있도록 강조했습니다. 이는 일반적으로 기술 중심으로 설명되는 AI 플랫폼에서 드문 접근으로, 사용자의 혁신을 자극할 가능성이 높습니다.

상세 비교 표

항목	Pixeltable	Pixelagent
주요 역할	AI 데이터 인프라, 멀티모달 데이터 관리	AI 에이전트 프레임워크, 데이터 우선 접근
핵심 기능	선언적 인터페이스, 점진적 업데이트, 버전 관리	멀티모달 지원, LLM 프로토콜, 도구 통합, 메모리 관리
대상 사용자	데이터 과학자, ML 엔지니어	AI 에이전트 개발자, 고객 서비스 팀
사용 사례	RAG 시스템, 컴퓨터 비전, 멀티모달 AI 애플리케이션	고객 서비스 봇, 개인 비서, 복잡한 작업 에이전트
통합	OpenAI, Hugging Face, YOLOX 등 AI 모델과 통합	Pixeltable 기반, LLM 및 도구와 통합

이 표는 Pixeltable과 Pixelagent의 주요 특징을 비교한 것으로, 발표 내용과 웹사이트 정보를 기반으로 작성되었습니다.

결론

Pixeltable AI는 Pixeltable과 Pixelagent를 통해 AI 데이터 관리와 에이전트 개발을 단순화하는 종합 솔루션을 제공합니다. Pixeltable은 멀티모달 데이터 처리와 효율적인 관리로, Pixelagent는 에이전트 로직 개발에 집중할 수 있는 프레임워크로, 함께 AI 애플리케이션 개발의 복잡성을 줄이고 혁신을 촉진합니다.

핵심 인용:

https://www.youtube.com/live/10dqwNYMVz8?si=ZocD-uI90CCA-bg1

- Tambo AI

Tambo(https://tambo.co/)는 **리액트(React)**를 기반으로 생성형 UI(Generative UI) 경험을 빠르고 쉽게 구현할 수 있도록 돕는 라이브러리입니다. 다음은 발표 스크립트를 바탕으로 정리한 내용입니다:

1. 배경

발표자는 “사용자 경험(UX)이 AI 서비스의 성패를 좌우할 것”이라 강조합니다.
B2B SaaS 제품들은 여전히 복잡하고 직관적이지 않은 UI를 제공하는 경우가 많아, 사용자 입장에서는 마치 “퀀텀 물리학” 또는 “어디 숨었는지 모르는 월리를 찾는 기분”이라는 비유를 함.
Tambo는 이러한 복잡한 UX를 간단하고 매력적으로 구성하기 위한 React 패키지임.

2. 핵심 기능

빠른 AI 채팅 인터페이스 생성
- Tambo CLI를 통해 프로젝트에 라이브러리를 설치한 후, 몇 줄의 코드만으로 AI 챗 UI를 구현 가능.
- 예: 버튼 클릭으로 AI가 대화하고 필요한 React 컴포넌트를 생성·조작.
컴포넌트 등록 & 관리
- 기존 애플리케이션에 있는 React 컴포넌트를 등록하면, Tambo가 AI가 해당 컴포넌트를 어떻게 쓸지를 인식하게 됨.
- 컴포넌트의 데이터 구조(예: props 형태)를 정의해두면, AI가 그 컴포넌트를 올바르게 활용하는 식.
스레드 및 메시지 상태 관리
- 대화형 애플리케이션에서 메시지 스레드를 자동으로 관리.
- 사용자가 “이 메시지가 유용했나요?” 같은 후속 질의나 액션(버튼) 등을 자연스럽게 이어갈 수 있도록 지원.
컴포넌트 상태 공유
- Tambo가 생성한 UI 컴포넌트와 사용자 입력 정보를 AI 컨텍스트에 전달해, 후속 대화에서도 맥락을 유지.
- 즉, 단순 텍스트 응답만이 아니라, “실제로 버튼이나 폼을 만들어 사용자가 입력한 데이터”까지 AI가 인지하여 후속 동작에 반영.
React 생태계와 광범위한 호환
- Next.js, Create React App 등 대부분의 React 기반 프레임워크에서 사용 가능.
- Context Provider 형태로 쉽게 앱 전체에 적용 가능.

3. 사용 시나리오

B2B SaaS에서 흔히 복잡한 설정 UI를 간단한 AI 대화·단추로 대체해, 사용자 피로도 낮추고 튜토리얼 문서 필요성도 감소.
CRM(고객 관계 관리): 리드(Lead) 생성·편집, 메시지 전송, 미팅 일정 잡기 등을 AI 챗 UI로 자연스럽게 처리.
온보딩: 사용자 질문에 응답하며 필요한 페이지나 설정 컴포넌트를 동적으로 생성.

4. 장점 및 기대 효과

개발 생산성: 최소한의 코드로 복잡한 AI 기반 UI를 구현할 수 있음.
유연성: 기존 React 컴포넌트 재활용, 다양한 프레임워크와 호환.
사용자 만족도: 직관적인 챗 인터페이스 및 자동 생성형 UI로 제품 학습 곡선을 줄이고, 지원 티켓 감소.

5. 데모 요약

발표에서는 실제 예시로 기존 애플리케이션(예: 리드 추가, 메시지 전송, 미팅 설정 등)을 Tambo에 등록하고, AI 챗을 통해 컴포넌트를 동적으로 생성·제어하는 모습을 시연.
불과 몇 줄의 코드로 “AI가 UI를 생성·조작”하여 사용자에게 필요한 버튼이나 폼을 제공함.
이 과정을 통해, **“사용자가 UX를 직접 탐색하기보다 AI가 필요한 UI를 즉시 제공”**함으로써 UX를 혁신할 수 있다고 강조.

6. 정리

Tambo는 React 환경에서 AI를 활용한 UI 경험(Generative UI)을 쉽게 구현할 수 있는 패키지입니다.
설치: npm install @tambo/... (추정) + Tambo CLI 사용.
적용: Context Provider 형태로 앱 전체에 Tambo 기능을 주입 → 컴포넌트 등록 → AI가 UI를 관리.
효과: 더 적은 문서, 더 직관적인 사용 흐름, AI가 안내·생성하는 인터페이스를 통해 개발과 사용자 양측 모두 편의 향상.

자세한 내용과 데모 영상, 문서는 공식 사이트에서 확인 가능합니다.

https://www.youtube.com/live/SjdGUBd163o?si=NYfLKpxWzpTLx-SY

- Statsig AI

아래는 Seattle Startup Summit 2025 행사에서 발표된 Statsig AI 데모 스크립트의 핵심 요약과, 해당 제품에 대한 상세 설명입니다.

1. 발표 스크립트 요약

발표 분위기 및 컨셉
- 발표자는 옛날 Steve Ballmer의 Windows 1.0 홍보 영상을 패러디한 유머러스한 영상을 먼저 보여주며, Statsig AI 플랫폼의 주요 기능을 설명함.
- “이 강력한 실험 플랫폼에 들어있는 다양한 기능이 얼마나 가치를 지닐 것 같냐”고 물은 뒤, 여러 고급 기능들을 빠르게 나열하고 “지금 바로 시작은 무료이며 사용량(event) 기반 과금”이라는 메시지를 전달함.
- “Dark Mode 지원”, “Nebraska에서도 동일한 혜택” 등의 농담을 포함해, 가볍고 경쾌한 스포핑 형식으로 제품의 특징을 소개.
핵심 기능 나열
- Feature Flag(기능 토글) 통합
- AB 테스트 및 실험(Experimentation)
- 실시간(Real-time) 지표 분석
- 자동화된 Holdout 그룹
- 전체 데이터 웨어하우스(Data Warehouse) 연동
- Product Analytics, 사용자 행동 분석 및 지표 알림(Metric Alerts)
- 진단 패널(Diagnostics Panel) 및 팀 협업(Team Collaboration)
- 어두운 테마(Dark Mode) 지원
가격 정책
- “무료로 시작 가능, 실제 사용한 이벤트 수에 대해서만 지불” 방식으로, 초기 스타트업도 부담 없이 접근할 수 있다고 강조.
추가 설명
- Statsig를 통해 “단일 플랫폼에서 페이즈 롤아웃, 실험, 사용자 세션 리플레이 등 전 과정”을 관리할 수 있다고 함.
- 스타트업 지원 프로그램으로 “5만 달러($50,000) 상당의 크레딧”을 제공(실질적으로는 이메일만 등록하면 누구나 해당 크레딧을 받을 수 있다고 언급).
- QR 코드를 통해 신청하거나, 데모를 예약하면 간단히 Statsig AI를 체험해볼 수 있다고 발표.

2. Statsig AI 제품 상세 설명

Statsig AI는 제품 실험(Experimentation)과 기능 제어(Feature Flag)부터 분석(Product Analytics), 사용자 행동 추적, 세션 리플레이(Session Replay)까지 다양한 기능을 한데 모은 통합 플랫폼입니다. 기존에 여러 도구로 분산 처리하던 작업을 하나로 묶어, 개발팀이 신속하게 데이터를 기반으로 의사결정을 내릴 수 있도록 돕습니다. 주요 특징은 다음과 같습니다.

2.1 통합 Feature Flag & Experimentation

Feature Flag(기능 토글) 관리
- 운영 중인 애플리케이션에서 특정 기능을 특정 사용자 그룹이나 트래픽 일부에게만 배포할 수 있음.
- 실시간으로 롤아웃(rollout) 비율 조정, 긴급 롤백, 사용자 조건 설정 등을 빠르게 적용 가능.
- 각 플래그가 앱의 KPI에 미치는 영향을 곧바로 확인(실험/분석 기능 연동).
AB 테스트 및 실험
- 코드 수정 없이도 다양한 실험 그룹(예: 통제 그룹 vs. 실험 그룹)을 설정해 신기능이나 UI 변화를 테스트.
- Statsig AI는 실험 결과를 자동으로 분석해 **특정 지표(전환율, 클릭률, 잔존율 등)**에 유의미한 변화가 있는지 알려줌.
- Holdout 그룹(테스트 기간 내내 기능을 받지 않는 그룹)도 자동 생성해, 정확한 실험 데이터 확보 가능.

2.2 실시간 분석 & 자동화된 모니터링

Real-time Metrics
- 사용자 이벤트(클릭, 페이지뷰, 구매 등)를 실시간으로 수집·분석하여, 론칭 직후 발생할 수 있는 문제를 즉각 파악 가능.
- 새 기능을 배포한 뒤 트래픽 급증이나 오류율 상승이 감지되면, 대시보드나 알림(Alerts)을 통해 신속히 대응.
자동화된 Holdouts / Guardrails
- Statsig AI는 특정 사용자 그룹을 “Holdout”으로 설정해, 실험 대상에서 제외하거나 기초 데이터를 계속 수집하는 역할만 하도록 자동 관리.
- Guardrails 기능을 통해 성과 지표가 심각하게 악화되는 경우, 베타 기능의 자동 롤백 등 보호장치를 설정할 수도 있음.

2.3 Product Analytics 및 풀 데이터 웨어하우스 연동

Product Analytics
- 실험 결과뿐 아니라, 일상적인 사용자 행동 패턴도 대시보드에서 시각화.
- 사용자 세그먼트별 전환 분석, 유저 라이프사이클 파악 등을 지원해, 제품 성장 전략 수립에 활용 가능.
Data Warehouse Integration
- Statsig AI에 쌓인 이벤트 데이터 및 실험 결과를 Snowflake, BigQuery 등 기존 데이터 웨어하우스와 쉽게 연동해 단일 분석 뷰 구축이 용이.
- 사내 BI 도구나 기타 머신러닝 파이프라인에도 활용 가능하도록 ETL(Extract-Transform-Load) 과정을 간소화.

2.4 Session Replay & Diagnostics

Session Replay
- 실제 사용자가 앱을 어떻게 이용하는지, 마치 동영상처럼 재생하여 확인할 수 있는 기능.
- A/B 테스트 중인 기능을 접한 사용자가 어디서 이탈했는지, 어떤 UI에서 혼동을 겪었는지 세밀하게 분석 가능.
Diagnostics Panel
- 실험 운영 중 발생하는 오류나, 예기치 않은 사용자 행동(버그 리포트, 비정상적 이탈률 등)을 실시간 진단.
- Product Analytics나 세션 리플레이와 연동해, 문제 해결 시간을 대폭 단축.

2.5 사용 및 가격 정책

무료 시작 & 사용량 기반 과금
- Statsig AI는 초기 스타트업이 부담 없이 시작할 수 있도록 무료 플랜을 제공.
- 이벤트(사용자 행동) 발생 건수 또는 트래픽 양에 따라 과금되는 구조이므로, 규모가 커지기 전까지는 거의 무료로 이용 가능.
- 대규모 사용자 기반을 가진 기업도, 이벤트 지표를 기반으로 한 “유연한 요금제”를 통해 필요 리소스만큼만 지불하게 됨.
스타트업 지원 프로그램
- 발표 내용에 따르면, 스타트업이라면 별도 심사 과정 없이 5만 달러($50,000) 크레딧을 제공받을 수 있다고 함.
- QR 코드를 스캔하거나 웹사이트(https://www.statsig.com/)를 통해 이메일만 등록하면 쉽게 지원 가능.

2.6 간단히 비교해본 경쟁 우위

Statsig AI는 기존에 개별 도구로 운영되던 Feature Flagging, A/B Testing, Product Analytics, Session Replay 등을 단일 플랫폼에서 제공한다는 점이 가장 큰 이점입니다. 예컨대 LaunchDarkly나 Optimizely 같은 솔루션이 부분적으로 실험 또는 플래그 관리에 집중한다면, Statsig는 종합형 제품 분석·실험 플랫폼으로서 모든 단계를 한 번에 처리해줍니다.

또한 무료 시작과 유연한 과금 체계 덕분에, 대규모로 확장하기 전부터 Statsig AI를 시도해볼 수 있다는 것이 스타트업 관점에서 큰 장점입니다. 개발팀은 간단히 SDK를 설치하고 이벤트 트래킹만 연결해두면, 실험 환경 구축부터 대시보드 분석까지 한 번에 해결할 수 있습니다.

요약

Statsig AI는 다음과 같은 핵심 가치를 제공합니다:

One-Stop Experimentation & Analytics: 기능 토글, 실험(A/B 테스트), 세션 리플레이, 사용자 행동 분석 등 제품 관리에 필요한 모든 기능을 한곳에 모음.
실시간 모니터링 및 자동 롤백: 실시간 지표 분석과 자동 보호장치(Guardrails)로, 새 기능 배포 시 품질을 안정적으로 유지.
전체 데이터 웨어하우스 연동: 사내 BI·데이터 분석 도구와 손쉽게 통합해, 단일 소스로 제품 지표를 파악 가능.
합리적인 사용량 기반 과금: 초기에는 무료로 시작할 수 있고, 규모가 커진 후에 필요한 만큼만 비용 지불.
풍부한 스타트업 지원: 신청만 하면 5만 달러 상당 크레딧 제공 등, 빠른 실험과 반복(Iteration)을 원하는 성장 단계 스타트업에게 매력적인 옵션.

Seattle Startup Summit 2025 발표에서 강조된 바와 같이, Statsig AI를 이용하면 “한 눈에 보이는 대시보드, 즉각적인 기능 배포 및 조정, 세션 레코딩을 통한 사용자 이해”가 가능해집니다. 새로운 기능 또는 제품 아이디어를 데이터 기반으로 빠르게 검증하고, 배포 후 결과를 실시간 추적함으로써, 제품 성공 가능성을 높이고 사용자 경험도 향상시킬 수 있습니다.

필요하다면 공식 사이트에서 데모를 예약하거나 바로 가입해 체험해 보시고, 스타트업 크레딧 프로그램도 놓치지 마시길 추천드립니다.

https://www.statsig.com/

https://www.youtube.com/live/9FPWs2wzJc8?si=6xPY9dGIBoDu_0hI

- MotherDuck AI

아래는 MotherDuck 데모 스크립트 내용 요약과, 해당 제품(https://motherduck.com/)에 대한 상세 설명입니다.

1. 스크립트 요약

MotherDuck이란?
- DuckDB를 기반으로 한 클라우드 데이터 웨어하우스.
- 로컬 DuckDB처럼 가볍게 사용할 수 있으면서도 클라우드 상에서 대용량 데이터를 처리할 수 있도록 설계.
- “멀티플레이어”를 표방해, 여러 사용자가 협업 가능하도록 만들어진 서비스.
데모 시연
1. DuckDB 설치 & MotherDuck 연결:
  - 사용자(발표자)는 로컬에 DuckDB를 설치하고, 명령줄에서 md: 프로토콜을 통해 MotherDuck에 접속한다.
  - 추가 복잡한 설정 없이 바로 MotherDuck 클라우드 인스턴스에 연결 가능.
2. Postgres vs. MotherDuck 성능 비교:
  - 약 1,500만(15 million) 행 정도의 해커 뉴스(Hacker News) 데이터셋을 두고, Postgres에서 쿼리 시 2분 이상 걸리던 작업이 MotherDuck에서는 데이터 한번 적재(약 1분) 후 거의 즉시(Instant) 결과를 반환.
  - COUNT(*) 같은 단순 연산조차 Postgres에선 90초 걸리지만, MotherDuck에서는 즉시 처리됨.
  - 인덱스, 확장(Extension) 세팅 없이도 고성능 쿼리 수행이 가능함을 강조.
3. 벤치마크(ClickBench) 결과:
  - 최적화된 Postgres 대비, 동일 환경에서 30배(30x) 이상 빠른 성능을 보여줌.
  - DuckDB가 제공하는 빠른 컬럼 기반 처리와 MotherDuck의 클라우드 인프라가 결합해, 대규모 데이터에서도 강력한 속도를 낸다는 점을 시연.
핵심 요점
- MotherDuck을 사용하면 Postgres에서 속도 문제가 발생하던 분석 쿼리를 훨씬 더 빠르고 효율적으로 처리할 수 있음.
- 로컬 DuckDB와 매우 유사한 사용 방식(간단한 CLI 명령)으로도 클라우드 데이터 웨어하우스 기능을 활용 가능.
- 필요 시 여러 사람이 동시에 같은 데이터에 접근하고, 분석 결과를 공유하거나 협업하기 용이.

2. MotherDuck 제품 상세 설명

MotherDuck은 DuckDB의 장점을 클라우드 환경에 확장한, 새로운 형태의 ‘서버리스’ 데이터 웨어하우스입니다. 개발팀이나 데이터 팀이 기존에 Postgres나 다른 전통적 DB/웨어하우스에서 겪던 성능 병목을 해소하고, 손쉽게 대규모 데이터 분석·처리를 구현하도록 돕습니다.

2.1 DuckDB를 기반으로 한 클라우드 데이터 웨어하우스

DuckDB란?
- 오픈소스 컬럼 지향 DB로, “SQLite for Analytics”라 불릴 정도로 경량·고속성을 자랑.
- 별도 서버 구축이 필요 없는 임베디드(embedded) DB 방식이지만, 대화형 분석 쿼리에 뛰어난 성능을 제공.
- MotherDuck은 이 DuckDB 엔진을 원격 클라우드 환경에서 확장 운용하도록 구성.
로컬 + 클라우드 하이브리드 모델
- DuckDB 로컬 인스턴스와 MotherDuck 클라우드를 동시에 연결해 쓸 수 있음.
- 로컬에서 쿼리를 작성하거나, 클라우드에 데이터를 올려 공동 분석하는 등 유연한 배포 구조를 지원.
- 대용량 쿼리는 클라우드에서 빠르게 실행하고, 필요 시 오프라인 환경에서도 동일한 DuckDB 인터페이스 사용 가능.

2.2 성능 특징

빠른 쿼리 속도
- 스크립트 시연에서처럼, 몇 백만~천만 건 이상의 데이터셋을 거의 실시간에 가깝게 쿼리.
- 컬럼 지향성, 벡터화 엔진 등을 기반으로 연산 속도를 크게 높여, 전통적 RDBMS(Postgres 등) 대비 수십 배 빠른 결과.
- 초기 적재(Load) 과정 후에는 반복 쿼리에 대한 응답이 매우 빠름.
Serverless & Auto Scaling
- 내부 클라우드 인프라가 탄력적으로 확장되므로, 사용자는 서버 설정·튜닝 없이 높은 성능을 확보.
- 따라서 DBA(데이터베이스 관리자)나 인프라 엔지니어의 부담이 줄어들고, 애플리케이션 측면에 집중 가능.

2.3 사용 편의성

간단한 CLI 연결
- 로컬 DuckDB 설치 후, 명령줄에서 md:... 형식으로 MotherDuck 인스턴스에 접속하면, 로컬 DB 다루듯 SQL 쿼리 수행 가능.
- 별도 복잡한 인증·프로비저닝 없이도 직관적으로 클라우드 웨어하우스를 활용할 수 있음.
멀티플레이어 협업
- 여러 사용자가 동시에 동일 MotherDuck 인스턴스에 접속해, 동일한 데이터셋을 공유/편집/분석.
- SQL 에디터 공유나 결과 공유 등, 협업 기반으로 대화형 데이터 분석을 수행하기 쉽도록 디자인.

2.4 주요 활용 사례

대화형 분석 쿼리:
- 로그, 이벤트, 사용자 행동 데이터 등 중간 규모 이상(수백만 행~수억 행)의 분석을 실시간 응답으로 확인해야 할 때.
- BI 대시보드, 임시 탐색(Ad-hoc Query) 시에 빠른 응답이 필요한 경우.
Postgres 대체 또는 보완:
- 애플리케이션 운영 DB(Postgres 등)의 READ 성능이나 복잡한 조인(Join)이 병목이 될 때, MotherDuck을 OLAP(분석) 전용으로 분리하여 부하를 줄임.
- 데이터를 MotherDuck으로 정기적으로 적재(ETL/ELT)한 뒤, 분석 작업을 전담하게 함으로써 기존 DB의 부담 최소화.
데이터 과학/머신러닝 사전 처리:
- 모델 학습에 필요한 대규모 데이터 전처리(집계, 조인 등) 시, 로컬 환경+DuckDB만으로 부족할 때 클라우드 확장으로 빠른 연산.
- 이후 결과를 파일 혹은 Python/R 환경으로 가져와 모델에 투입 가능.

2.5 가격 정책 및 장점

초기부터 클라우드 네이티브
- 서버 세팅이나 스케일링 정책을 직접 관리할 필요가 없으므로, 데이터 팀이 빠르게 시작하기 좋음.
- 사용량(쿼리 건수, 데이터 크기, 저장소 용량)에 따라 과금하는 형태가 대부분이며, 자세한 플랜은 홈페이지(https://motherduck.com/) 참조.
추가 인프라 절감
- 별도의 쿼리 엔진, 데이터 웨어하우스, ETL 파이프라인 등을 각각 운영하던 부담을 줄이고, 하나의 솔루션으로 통합 가능.
- 용도에 따라 DuckDB 로컬과 연계해 비용 효율적인 분석 환경 구현.

정리

MotherDuck은 DuckDB의 고성능 분석 엔진을 그대로 클라우드로 확장한 “Serverless 데이터 웨어하우스” 솔루션입니다.

Postgres 같은 전통적 DB에서 대규모 데이터 쿼리 시 발생하는 성능 병목을 해결하려는 경우에 큰 이점.
간편한 CLI 연결과 멀티플레이어 협업을 통해, 개발자와 데이터 팀이 대화형 쿼리와 실시간 분석을 손쉽게 수행.
스크립트 데모에서도 확인했듯, 수천만 건 이상의 데이터를 거의 즉시 처리하는 능력과, 간소한 운영 방식을 결합해 제품 개발 단계부터 부담 없이 활용할 수 있음.

DuckDB가 로컬 분석에 편리했다면, MotherDuck은 클라우드 환경에서 더 큰 스케일과 협업성을 확보하도록 고안되었기에, “최소한의 관리로 대용량 분석”을 원하는 기업이나 팀에게 매력적인 선택이 될 것입니다. 자세한 요금 체계와 기술 문서는 공식 웹사이트(https://motherduck.com/)에서 확인 가능합니다.

https://www.youtube.com/live/GuGf3yCGa4Y?si=frNHnp5qPiLBLQTS

- OUMI AI

아래는 OUMI AI의 데모 스크립트 요약과, 해당 제품(https://oumi.ai/)에 대한 상세 설명입니다.

1. Demo Script 요약

핵심 배경

OUMI AI는 “대규모 언어 모델(LLM)을 포함해, 모든 머신러닝 워크플로를 오픈소스 형태로 간단히 수행할 수 있는 종합 ML 플랫폼”이라고 소개됨.
연구기관·대학 교수 등 다양한 파트너십과 1,000명 이상이 참여하는 커뮤니티를 통해, 개방적(Open)이고 재현 가능한(Reproducible) AI 생태계를 구축하려는 목표.

데모 주요 시연 내용

엔드 투 엔드(end-to-end) ML 파이프라인
- 데이터 큐레이션, 모델 튜닝(훈련), 모델 평가, 배포(Deployment), 추론(Inference) 과정을 한 번에 진행 가능.
- **완전 오픈소스(Apache 2.0 라이선스)**로, 기업(Enterprise) 및 연구(Research) 환경 모두에서 재현 가능한 실험·개발을 지원.
데이터 및 모델 선택
- OUMI에서 여러 유형·크기의 모델(예: 135M 파라미터의 “Small” 모델, 수십억~수백억 파라미터의 “Frontier” 모델)을 선택해 트레이닝 가능.
- 데이터셋 역시 공개 데이터셋(예: Alpaca)뿐 아니라 사용자가 보유한 임의의 데이터도 연결해 훈련할 수 있음.
훈련(Training) & 설정(Configurability)
- 예시로 25 스텝만 빠르게 학습을 진행해, 모델이 어떻게 동작하는지 시연.
- 훈련에 쓰이는 모든 설정값(하이퍼파라미터, 데이터셋, 모델 버전 등)이 자동으로 기록되어, 재현 가능성을 극대화.
- 훈련이 끝나면 모델 체크포인트와 설정 파일을 로컬에 저장 → 동일한 설정을 기반으로 어디서든 다시 실행 가능.
평가(Evaluation)
- 한 줄 코드로 최신 벤치마크(예: MMLU 등)에 모델 성능을 측정 가능.
- 스크립트에서는 MMLU 벤치마크를 예시로 평가 결과가 약 20%로 나타났음을 보여줌(소형 모델이므로 낮은 점수가 당연하다는 코멘트).
확장성(Scaling) & 클라우드 연동
- OUMI는 로컬 노트북 환경뿐 아니라, 클라우드 상에서 “수백~수천 GPU”로 분산 학습(Enterprise 규모)까지 지원.
- 예시로 GCP(Google Cloud Platform)에 A100 GPU 네 장을 가진 노드를 즉시 스케일링하여 훈련 작업을 빠르게 완료하는 과정을 시연.
- 리소스 스케줄러가 클라우드 자원을 할당해주며, 필요한 설정이 자동으로 이루어져 빠른 확장 가능.

마무리

OUMI AI는 “오픈소스 기반 LLM 플랫폼”으로, 개발/연구자들이 자유롭고 확장성 있는 AI 워크플로를 구현하게 해 준다고 강조.
현장에서 부스를 방문해 자세한 이야기를 나누길 권유하며 데모를 마침.

2. OUMI AI 제품 상세 설명

2.1 개념 및 특징

End-to-End 오픈소스 ML 플랫폼
- OUMI는 데이터 수집/전처리 → 모델 학습 → 평가/배포/추론에 이르는 전 과정을 통합적으로 지원하는 AI 개발 환경.
- Apache 2.0 라이선스로 배포되므로, 연구나 상업 프로젝트에 자유롭게 활용 가능.
대규모 언어 모델(LLM) 특화
- GPT나 BERT류처럼 대형 파라미터를 갖춘 모델을 쉽게 훈련·튜닝할 수 있도록 최적화된 아키텍처와 툴셋을 제공.
- 또한 다양한 규모(수백만~수십억 파라미터)의 모델을 선택하거나, 사용자가 원하는 모형을 가져와서 학습 가능.
연구 및 기업 환경 모두 고려
- 논문 연구자는 실험 재현성(Reproducibility) 확보와 벤치마크 시험을 간단히 처리할 수 있음.
- 기업에서는 로컬 또는 클라우드 인프라로 **유연하게 확장(Scaling)**하고, 대규모 배포 시 리소스 스케줄링, 추론 파이프라인 등을 자동화해 운영 비용 절감.

2.2 구성 요소

데이터 관리 & 큐레이션
- OUMI는 로컬 데이터, 공개 데이터, 혹은 사내 전용 데이터 레이크/웨어하우스 등 어디서든 데이터를 불러와 전처리 가능.
- 관리되는 데이터셋은 메타정보(어떤 데이터인지, 크기, 포맷 등)를 함께 기록해, 모델 학습 시 매번 상세 설정을 재입력할 필요 없이 쉽게 재활용 가능.
모델 라이브러리
- 플랫폼 내에 다양한 사전 학습 모델이 준비되어 있어(스크립트 예시: 135M, 45B 등), 초소형~초대형 모델을 선택해 훈련.
- 원하는 모델이 없다면, 사용자가 직접 업로드하거나 외부 저장소(GitHub, Hugging Face 등)에서 불러올 수도 있음.
학습(Training) 및 파이프라인
- GUI/CLI/코드 등 여러 인터페이스를 통해 모델 학습을 실행.
- 하이퍼파라미터, 체크포인트 경로, 스케줄러 정책 등을 설정 파일에 자동 기록해, 추후 동일 세팅으로 재학습할 수 있음(실험 재현성).
- 멀티-GPU/멀티 노드 분산 학습이 기본 지원되며, 로컬 노트북에서 시작해 클라우드로 확장 가능.
평가(Evaluation)
- MMLU, GLUE, 혹은 사용자 정의 벤치마크까지, 원클릭 또는 한 줄 코드로 실행.
- 평가 결과가 GUI 대시보드(또는 CLI 로그)에 기록되며, 모델의 정확도(Accuracy), F1 점수, 혹은 기타 지표를 간단히 확인.
- 사내 전용 벤치마크나 커스텀 테스트 세트도 등록해, 모델 성능을 일관성 있게 모니터링 가능.
배포(Deployment) & 추론(Inference)
- 학습된 모델은 OUMI가 제공하는 추론 서버로 곧바로 배포하거나, Docker 컨테이너/쿠버네티스 환경 등에 배포 가능.
- 엔터프라이즈 규모에서 API를 통해 실시간 요청을 처리하거나, 연구용으로 샌드박스 추론 환경을 만들 수도 있음.
확장성(Scaling) 및 클라우드 연동
- AWS, GCP, Azure 등 주요 클라우드 서비스와 연동해, 사용량에 맞추어 GPU 노드를 자동으로 스케일 업/다운.
- 수백~수천 GPU가 필요한 대규모 훈련도 간단한 설정만으로 실행할 수 있으며, OUMI의 리소스 스케줄러가 분산 처리를 조율.

2.3 강점 및 차별화 포인트

완전 오픈소스
- Apache 2.0 라이선스이므로, 소스코드와 내부 구조를 자유롭게 커스터마이징 가능.
- 상용 솔루션 대비 **종속성(vendor lock-in)**이 줄어들고, 연구 목적으로도 활용이 용이.
Reproducibility(재현성)
- ML 실험 수행 시, 하이퍼파라미터/환경 설정 자동 기록 등 과학적 연구에 필요한 재현성 보장을 중요하게 다룸.
- 팀 단위 연구에서 동일 설정으로 다시 돌리거나, 다른 실험과 비교할 때 편리함.
다양한 규모의 모델 옵션
- 소형(수백만 파라미터)부터 초대형(수십억 파라미터)까지 폭넓은 LLM을 하나의 플랫폼에서 통합 관리.
- 필요에 따라 모델 크기를 즉시 바꿔 가며 실험하고, 결과를 벤치마크로 비교할 수 있음.
클라우드, 온프레미스, 로컬 지원
- 로컬 노트북으로 시작해 테스트하고, 데이터 센터(온프레미스)나 클라우드로 확장하는 등 하이브리드 아키텍처에 유연함.
- GPU가 없는 환경에서도 베타 테스트(소형 모델) 가능 → 성장 단계의 스타트업이나 연구기관이 부담 없이 접근.
커뮤니티 & 파트너십
- 수많은 연구자, 자원봉사자, 기관 파트너십(13개 연구기관 이상)과 협력하여 최신 LLM 연구 및 개발 생태계를 구축.
- 활발한 Discord 커뮤니티를 통해 노하우 공유, 버그 리포트, 피드백 반영 속도가 빠름.

2.4 대표 사용 사례

AI 연구 및 논문 작성:
- 모델 구조 실험, 데이터셋 비교, 하이퍼파라미터 튜닝 등 연구 과정에서 필요로 하는 전 과정을 투명하게 관리.
- 예: GPT-계열 모델에 새로운 어휘 임베딩 방식을 추가하고, GLUE 벤치마크 성능을 여러 설정 하에서 반복 테스트.
스타트업/기업용 프로토타이핑:
- 아이디어 검증(Proof of Concept)에 빠르게 대형 모델을 적용해보고, 성공 시 클라우드로 확장.
- 예: 고객 챗봇 솔루션에 LLM을 도입하려 할 때, 바로 OUMI 플랫폼에서 소형 모델 → 중형 모델 순차 테스트 후, 프로덕션 배포.
교육 분야:
- 대학 혹은 교육기관에서 학생들에게 대규모 언어 모델 훈련 과정을 실습하게 할 때, 로컬 + 클라우드 혼합 방식으로 효율적 교육.
- 강의나 학습자료로서, “이러한 설정으로 모델을 돌렸더니 성능이 어떻게 변하는지”를 직관적으로 보여주기 용이.

2.5 요금·배포 정책

오픈소스 라이선스
- 핵심 플랫폼은 Apache 2.0이므로, 특정 부분(예: 엔터프라이즈급 지원·모니터링 기능)을 제외하면 무료로 사용 가능.
- 상용 지원(예: 클라우드 매니지드 서비스, 팀 협업 기능, SLA 지원 등)은 별도 유료 플랜이 있을 수 있음. 세부 내용은 OUMI AI 공식 웹사이트 확인 필요.
클라우드 비용
- OUMI 자체는 오픈소스지만, 사용자가 클라우드(GCP, AWS 등)에 GPU 자원을 스케일링할 때는 해당 클라우드 비용이 발생.
- 자사 데이터센터(온프레미스) 환경에서도 구동 가능하므로, GPU 리소스를 직접 보유한 기업은 추가 클라우드 비용 없이 운영할 수 있음.

3. 종합 정리

OUMI AI는 “대규모 언어 모델 시대에 걸맞은 오픈소스 ML 플랫폼”으로, 연구·스타트업·대기업 등 폭넓은 사용자층이 데이터 전처리부터 모델 학습·평가·배포까지 전 과정을 한 번에 해결할 수 있도록 설계되었습니다.

재현성과 개방성을 핵심 가치로 삼아, 대학·연구기관과의 파트너십을 통해 최신 AI 기술 발전에 기여하고 있음.
클라우드 자동 스케일링으로 수백~수천 GPU까지 지원하며, 로컬·온프레미스 환경에 맞춰 유연하게 쓸 수 있음.
예시 스크립트에서 소개된 바와 같이, GUI/CLI를 통한 간단한 모델 선택 → 훈련 → 벤치마크 평가 → 추론 단계가 일관되게 관리되고, 모든 설정값이 자동 저장되어 재현 연구 및 협업에 유리함.

결론적으로, OUMI AI는 “오픈소스 기반의 대규모 ML 개발·운영 파이프라인을 구축하고자 하는 기업 또는 연구자”에게 매우 적합한 선택지입니다. 자세한 내용은 공식 홈페이지나 Discord 커뮤니티를 통해 확인할 수 있습니다.

https://www.youtube.com/live/oyRjltkQPFg?si=yPB49Yim_r5lTP7w

- Maestro AI

아래는 Maestro(https://www.getmaestro.ai/) 데모 스크립트 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

문제 인식
- 여러 CTO·엔지니어링 리더들과 대화를 나눠보니, “개발팀 상태를 정확히 파악하기 어렵다”는 공통된 어려움이 존재함.
  - “누가 최고의 퍼포머인가?”
  - “누가 도움이 필요한가?”
  - “프로젝트는 일정대로 진행 중인가?”
- Maestro는 이런 엔지니어링 팀의 가시성(Visibility) 부족 문제를 해결한다고 소개.
Maestro의 접근
- Git, Jira 등 엔지니어들이 실제 작업하는 툴과 깊이 연동(integration)하여, 정량적/정성적 지표를 자동으로 수집.
- 단순한 “라인 수” 혹은 “PR(Pull Request) 개수” 같은 표면적 메트릭이 아닌, 코드 변경의 실제 영향도(impact)와 리뷰 기여도를 정밀하게 측정.
주요 기능
- Code Impact Score & Review Impact Score
  - Code Impact: 변경 규모, 변경된 기능·모듈의 중요도, 실제 비즈니스 가치 등에 기반해 측정.
  - Review Impact: 코드 리뷰에서 주고받은 코멘트의 질, 팀 동료의 작업을 개선하는 기여도 등을 평가.
- 종합 Dashboard
  - 한눈에 엔지니어별 혹은 팀 단위로, 평균 이상의 성과를 내는 사람은 누구인지, 과부하가 걸린 사람은 누구인지 파악 가능.
  - 특정 엔지니어를 클릭해 “활동 트렌드(시간 경과에 따른 영향도 변화)”를 살펴볼 수 있음.
- Daily/Weekly Digest
  - “VP of Engineering” 등 팀 리더가 매일/매주 확인해야 할 핵심 이슈나 잠재적 리스크를 자동 요약해주는 리포트 제공.
사례 예시
- 스크립트에서 예시로 든 개발자(Yuri)는 지난주에 3건의 PR을 작성: 2건은 단순 문서 변경 또는 변수명 변경(Code Impact 1), 1건은 신규 기능 개발(Code Impact 3).
- 간단한 수치가 아닌, 변경의 실제 의미와 영향을 파악할 수 있어 조직 전체적으로 누가 어떤 기여를 하고 있는지 투명하게 확인 가능.
결론
- Maestro는 객관적 지표와 실제 코드를 기반으로 팀 리더가 엔지니어링 조직을 더 잘 이해하고, 올바른 의사결정을 내릴 수 있도록 돕는다.
- 전화·1:1 미팅 등 정성적 정보와도 결합하여, 더욱 풍부한 맥락을 제공.

2. Maestro 제품 상세 설명

2.1 개념 및 목적

Maestro는 엔지니어링 팀(개발조직)이 프로젝트 진행 상황, 개발자 생산성, 팀 건강상태를 한눈에 파악하도록 돕는 데브옵스(DevOps) 인텔리전스 플랫폼입니다.

Git, Jira, CI/CD 등 개발 과정에서 생성되는 데이터를 자동 수집하고, 실제 “가치 있는 변경”의 정도를 점수화하여 보여줍니다.
코드 리뷰, 코멘트, 피처 기여 등 개발자들이 팀에 기여하는 다양한 측면을 수치화하여, “누가 실질적인 공헌을 많이 하는지”를 공정하게 평가할 수 있음.

2.2 주요 기능

Code Impact Score
- 단순 코드 라인 수가 아닌, 코드 변경의 중요도를 평가.
- 예: 핵심 비즈니스 로직을 개선했거나, 복잡한 모듈을 리팩토링했다면 높은 Impact Score가 산출.
- 문서/주석 수정이나 변수명 변경처럼 영향이 적은 변경은 낮은 점수 배정.
Review Impact Score
- 엔지니어가 팀 동료들의 코드를 얼마나 질 높게 리뷰했는지 측정.
- 단순 승인(approve) 횟수 대신, 리뷰 코멘트가 실제로 이슈 해결이나 코드 품질 개선에 얼마나 기여했는지 반영.
- 시니어 개발자가 신규 팀원을 멘토링하거나, 복잡한 PR에 날카로운 피드백을 주었다면 높은 점수로 계산.
팀 대시보드 & 분석
- 조직 전체 또는 특정 스쿼드(소규모 팀)를 대상으로 “지난주/지난달 영향도 상위 기여자”, “소멸 위험(과부하) 상태” 등을 시각적으로 확인.
- 필터링: 업무 유형, 특정 레포지토리, 특정 스프린트/프로젝트에 대한 기여도만 추려서 보기도 가능.
- 트렌드 분석: 개발자별 “코드 영향도 변화 추이”나 “코드 리뷰 주도성”을 시계열 그래프로 파악.
알림 & Digest 리포트
- 매일/매주 “무엇이 변화되었는지”, “누가 과도하게 업무를 떠안고 있는지”, “기한 내에 끝내야 하는 이슈가 있는지” 등을 자동 리포트로 전달.
- 관리자나 팀 리더는 이 요약본을 통해 신속하게 리소스를 재배치하거나, 문제가 발생하기 전에 선제 대응 가능.
개발자별 상세 프로필
- 특정 인물을 클릭하면, 최근 PR/리뷰 목록과 함께 각 작업의 영향도, 리뷰 히스토리, 참여 프로젝트 등이 요약됨.
- “왜 이 사람의 점수가 높거나 낮은지”를 구체적인 코드 변경 내용을 보면서 이해할 수 있음.

2.3 기술적 통합

Git & GitHub/GitLab/Bitbucket 연동
- Maestro는 리포지토리에 직접 접근해 PR 내용, 변경 파일, 리뷰 의견 등을 자동으로 파싱.
- 개발자 개개인의 작업 기여도를 일일이 추적할 필요 없이, Maestro가 백그라운드에서 메트릭을 산출.
Issue 트래킹 시스템 연동
- Jira, Asana, Trello 등과 연동 가능하여, “어떤 이슈(티켓)를 해결하는 PR인지”를 매핑.
- 이슈의 스토리 포인트, 우선순위, 완료 기한 등을 참조해, 더욱 의미 있는 임팩트 분석 수행.
CI/CD 파이프라인 & 브랜치 정책 고려
- 빌드·테스트·배포 과정에서 발생하는 정보(예: 테스트 커버리지, CI 실패 횟수 등)를 임팩트 점수에 반영.
- 브랜치 정책(예: main 브랜치로의 병합)과 리뷰 승인 규칙도 참고해, 정확한 기여도 측정.

2.4 장점 및 차별화

정량 + 정성 메트릭의 균형
- 라인 수 같은 피상적 지표만 보여주는 것이 아니라, 실제 코드 변경의 의미를 파악해 점수화한다는 점이 핵심 차별점.
- 시니어 개발자는 PR 개수가 적어도 리뷰나 기술 방향 설정에 큰 역할을 할 수 있는데, Maestro는 이를 높은 Review Impact Score로 반영.
엔지니어링 조직에 특화
- 사람들이 협업하는 개발팀의 실제 워크플로(코드 작성, 리뷰, 피처 배포, 버그 수정 등)를 상세히 모델링.
- 일반적인 생산성 툴이 포착하기 어려운, **소프트 기여(멘토링, 코드 리뷰 퀄리티 등)**까지 반영해 객관적 인사이트를 제공.
초기 설정/사용이 간편
- Git 리포지토리(또는 GitHub 조직)를 연결하면 Maestro가 자동으로 히스토리를 분석해 대시보드를 생성.
- 이후 날마다/주마다 최신 데이터가 반영되므로, 관리자가 꾸준히 보고서를 작성하지 않아도 됨.
조직 리더에게 즉시 가치 제공
- 리더십/매니저는 “누가 도움을 필요로 하는지, 어떤 리소스가 부족한지”를 알아야 하는데, Maestro가 이런 정보를 자동 수집·가공해 전달.
- 결과적으로, 팀 효율을 높이고 번아웃 위험을 사전에 감지할 수 있음.

2.5 활용 시나리오

팀 리더/매니저: 매주 팀 회의 때, 각 엔지니어의 코드/리뷰 임팩트와 현재 진행 중인 주요 이슈를 대시보드로 확인.
엔터프라이즈 대규모 조직: 부서별로 PR이 엄청난 양이 발생하지만, 간단한 문서 변경 vs. 핵심 신규 기능 개발을 한눈에 구분하기 어려움. Maestro의 임팩트 점수가 투명성을 높임.
스타트업 CTO: 작은 팀이라도, 누가 어떤 작업을 많이 하고 있는지, 어느 지점에서 병목이 일어나는지 파악 가능.

2.6 가격/도입

SaaS 형태: https://www.getmaestro.ai/에서 회원가입 후, GitHub/GitLab/Bitbucket 등 연결.
커스텀 엔터프라이즈 계약: 대규모 조직의 경우 보안 정책이나 온프레미스 환경 요구사항이 있을 수 있으므로, 별도 상담 필요.
구체적인 가격은 공식 웹사이트나 세일즈 문의를 통해 확인 가능.

3. 종합 요약

Maestro는 엔지니어링 팀의 생산성과 건강 상태를 ‘실제 코드와 리뷰의 영향도’ 중심으로 정량화·시각화해주는 DevOps 인텔리전스 플랫폼입니다.

깊은 툴 통합으로 Pull Request, 코드 리뷰, 이슈 트래킹 데이터 등을 자동 분석해, 조직 리더들이 누가 어떤 중요한 기여를 하고 있는지, 어디에서 병목이 발생하는지 파악할 수 있도록 돕습니다.
Code Impact, Review Impact 등 정교한 점수 체계와 대시보드/데일리 다이제스트 리포트를 통해 팀 운영 상황을 명확히 보여줍니다.
궁극적으로는 ‘개발자들이 실제 창의적이고 중요한 작업에 집중할 수 있는 환경’을 만들고, 관리자는 ‘객관적 근거’로 의사결정을 내리도록 지원합니다.

더 자세한 도입 사례나 가격 정보는 공식 웹사이트에서 확인 가능하며, 팀 규모와 요구사항에 따라 맞춤형 설정도 제공됩니다.

https://www.youtube.com/live/BNWlst9vdmk?si=I3lyMhCJ3JrDjGgx

- Ear/y AI

아래는 Ear/y AI(https://www.startearly.ai/) 데모 스크립트의 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

배경 문제
- 많은 개발자들이 유닛 테스트(Unit Testing)를 번거롭고 귀찮은 작업으로 느낀다는 점을 지적.
- Ear/y AI는 이 테스트 작성 과정을 대폭 자동화해, 개발자는 핵심 로직 코딩에 집중하고 “AI 에이전트(Agent)”가 테스트 작성을 담당하도록 도와줌.
주요 기능 시연
- VS Code, Cursor, VSCodium 등의 에디터에서 확장(Extension) 형태로 간단히 설치 가능.
- 설치 후, 프로젝트의 “테스트 커버리지가 낮은 코드”를 자동 검색 및 표시해 줌 (예: 특정 클래스, 메서드가 몇 %만큼 커버되어 있는지 시각화).
- “테스트 생성” 버튼(매직원드 아이콘)을 클릭하면, AI가 해당 코드에 대한 유닛 테스트를 자동으로 생성.
  - 예시: 문서화(Documentation)·주석, Mock 객체 생성, Happy Path(정상 상황), Edge Cases(극단 상황) 테스트 등이 포함되어 커버리지를 크게 높임.
- 생성된 테스트 코드를 확인 가능하며, 필요 시 세부 내용을 수정·확장.
- **Red Test(실패 테스트)**도 생성하여, 기존 코드의 잠재적 버그를 미리 찾는 기능 시연.
- 100% 커버리지가 달성된 상태에서도 특정 시나리오에 대한 추가 테스트를 AI에게 요구 가능(대화형 에이전트).
- “코드 품질 개선”을 목표로 문서 자동 생성, 코드 개선 제안 등 추가 기능도 제공.
결론
- Ear/y AI는 단순히 테스트를 생성해주는 것을 넘어, 테스트 커버리지 향상과 함께 버그를 사전에 탐지하고, 코드 품질을 높이는 솔루션임.
- 개발자가 직접 모든 케이스를 고민할 필요 없이 AI가 제안/생성하므로, 개발 생산성을 높이고 유닛 테스트 작성에 소요되는 시간을 줄여 줌.

2. Ear/y AI 제품 상세 설명

2.1 개념 및 목표

AI 기반 테스팅 에이전트
- Ear/y AI는 VS Code 등 개발 환경에 설치되는 확장 프로그램(Extension) 형태로, 단 몇 번의 클릭으로 유닛 테스트를 자동 생성.
- 이를 통해 테스트 작성의 부담을 크게 줄이고, 개발자가 비즈니스 로직에 집중할 수 있도록 지원.
테스트 커버리지 & 코드 품질 향상
- Ear/y AI는 프로젝트 내에서 **테스트가 부족한 부분(커버리지 낮은 메서드/클래스 등)**을 시각화하여 알려줌.
- 자동 생성된 테스트 코드가 Happy Path와 Edge Cases를 모두 포함해 종합적인 커버리지를 달성할 수 있도록 설계됨.
- 커버리지 100% 달성뿐 아니라, “의도하지 않은 결과”를 점검하는 Red Test 생성 기능으로 잠재 버그도 조기에 발견 가능.

2.2 주요 기능

자동 테스트 생성 (1-Click)
- 에디터 내 특정 메서드/클래스 옆에 있는 “마법 지팡이(Magic Wand)” 아이콘을 클릭하면, Ear/y AI가 해당 코드를 분석해 유닛 테스트 파일을 자동 작성.
- Mocking, 다양한 입력값 시나리오, 예외 상황 테스트 등을 포함해 다양한 케이스를 생성.
코드 커버리지 시각화
- 각 메서드별 현재 테스트 커버리지(%)를 보여주며, 미커버된 부분을 쉽게 찾도록 도와줌.
- 테스트 생성 이후, 커버리지 수치가 즉각적으로 업데이트 되어, 개발자가 변화된 커버리지를 확인 가능.
버그 탐지 & Red Tests
- 단순히 통과하는 테스트(Happy Path)만 만드는 것이 아니라, “코드 의도”를 바탕으로 **실패하는 테스트(Red Test)**를 자동 생성.
- 만약 코드가 예상과 다른 동작을 한다면, Red Test가 실패를 표시하므로 버그를 조기에 포착할 수 있음.
협업형 에이전트 (Collaborative Agent)
- 100% 커버리지를 달성했어도, 특정한 예외 케이스나 복잡한 입력 데이터가 필요하다면 추가로 지시 가능.
- 예: “이 부분에 대해 더 많은 랜덤 입력 테스트를 작성해줘”, “이 특정 예외 상황에 대한 테스트 케이스를 더 만들어줘” 등 세부 요청이 가능.
문서화 및 코드 이해 보조
- 테스트 생성 과정에서, 문서(주석) 생성이나 개선사항 제안, 메소드 의도 파악 등에 대한 AI 지원도 제공.
- 개발자가 코드 이해도를 높이고, 더 나은 구조로 개선하도록 유도.

2.3 기술 동작 방식

AI 모델이 코드 분석
- Ear/y AI는 코드 AST(Abstract Syntax Tree) 분석, 주석/문서 내용, 함수 시그니처 등을 기반으로 테스트에 필요한 맥락을 파악.
- 프로젝트 설정(패키지 관리자, 테스트 프레임워크 등)을 확인해, 사용 중인 테스트 환경에 맞춰 코드를 생성.
IDE 플러그인/CLI
- 주로 VS Code 등 IDE 확장을 통해 작동하며, 필요한 경우 CLI나 웹 기반으로도 접근 가능(공식 문서 참고).
- 원격 서버 또는 로컬 호스팅된 AI 모델을 통해 생성 요청 → 코드 반환 흐름으로 유닛 테스트를 제공.
지속적 업데이트
- 코드가 변경되거나 새로운 메서드가 추가되면, Ear/y AI가 이를 감지해 “테스트 필요” 상태로 표시해줌.
- 커밋/PR 단계에서 자동으로 실행되어, PR에 대한 테스트 생성을 지원할 수도 있음(개발 파이프라인 자동화).

2.4 장점 및 차별화

현존하는 테스트 자동화 툴들과 달리
- 일반적으로는 코드 스캐폴딩 수준(함수 껍데기만 생성)에 그치거나, 제한된 범위의 테스트만 제공.
- Ear/y AI는 “Mock 객체 생성, 다양한 입력 케이스, Red Test” 등 고차원적인 테스트 시나리오를 광범위하게 커버.
테스트 커버리지 & 품질 동시 추구
- 단순 라인 커버리지가 아니라, “의도한 결과를 얻지 못하는 경우”도 찾아내는 질적 측면을 강조.
- 코드 변경 후 발생할 수 있는 사이드 이펙트나 숨겨진 버그를 빠르게 노출.
개발자 생산성 향상
- 자주 반복되는 테스트 작성 작업을 최소화해, 개발자가 비즈니스 로직·핵심 기능 구현에 더 많은 시간을 투입 가능.
- “큰 규모의 리팩토링”이나 “기존 레거시 코드”에도 쉽게 테스트를 적용할 수 있어, 기술 부채를 줄이는 데 도움.
커스터마이즈 가능한 에이전트
- AI에게 특정 테스트 패턴(예: TDD, BDD 스타일)이나, 프로젝트 룰(예: ESLint 규칙 등)에 맞는 테스트 생성을 지시할 수 있음.
- “AI와의 대화”를 통해 추가 시나리오, 특정 라이브러리 사용 지침 등을 반영할 수 있어 유연함.

2.5 활용 사례

기존 레거시 코드베이스: 수년 동안 테스트가 없는 방대한 레거시 코드에 AI 주도로 유닛 테스트를 도입. 빠르게 커버리지를 끌어올려 품질 안정성을 확보.
스타트업의 빠른 프로토타입 개발: MVP 단계에서 자칫 놓치기 쉬운 유닛 테스트를 Ear/y AI가 자동 생성해, 출시 후 품질 이슈나 버그 발생률을 낮춤.
엔터프라이즈 CI/CD 파이프라인: Pull Request가 생성될 때마다, AI가 새로 추가된 메서드에 대한 테스트를 자동으로 생성·추가 → 개발자 리뷰 시점에 바로 반영.

2.6 가격/도입 방식

SaaS 형태
- Ear/y AI 공식 사이트에서 회원가입 후, VS Code 등 IDE 확장을 통해 즉시 사용 가능.
- 무료 트라이얼 / 일정 범위 내 무료 플랜이 있을 수 있으며, 대규모 기업 사용에 대해서는 별도 요금 또는 협의가 필요할 수도 있음(공식 안내 참조).
개발 파이프라인 통합
- CI/CD 환경(GitHub Actions, GitLab CI, Jenkins 등)에 Ear/y AI를 연동해 “자동 테스트 생성 및 실행”을 전 과정 자동화 가능.
- API/CLI 제공 여부는 문서에서 확인.

3. 종합 정리

Ear/y AI는 “개발자들을 테스트 작성의 번거로움에서 해방”시키기 위해, AI 에이전트가 자동으로 유닛 테스트를 생성해주는 혁신적인 솔루션입니다.

VS Code 등의 IDE 확장으로 쉽게 설치 가능하며, 코드 커버리지를 분석해 부족한 부분을 빠르게 채워 넣을 수 있습니다.
“Happy Path + Edge Cases + Red Tests”를 포함한 고품질 테스트 세트를 자동 제공하므로, 단순히 100% 커버리지를 달성할 뿐만 아니라 숨겨진 버그도 찾아냅니다.
개발자는 AI에게 추가 요구사항이나 특정 테스트 시나리오를 지시해 세분화된 테스트 작성을 할 수 있고, 이에 따라 코드 품질과 안정성이 크게 향상됩니다.
스타트업, 엔터프라이즈, 레거시 코드베이스 등 어느 규모/환경에서도 적용 가능하여, 개발 생산성을 높이고 잠재적 결함을 빠르게 줄이는 데 기여합니다.

자세한 사용 방법과 가격 정책은 공식 웹사이트에서 확인할 수 있으며, 데모 영상이나 VS Code Marketplace를 통해 직접 체험해볼 수 있습니다.

https://www.youtube.com/live/vQP-sJFWK8o?si=we_YsQI9b5EXu-8q

- Union AI

아래는 Union.ai(https://union.ai/) 데모 스크립트의 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

전체 개요
- Union.ai는 **플라이트(Flyte)**라는 오픈소스 기반 워크플로(Workflow) 및 추론(Inference) 플랫폼을 중심으로, 데이터 및 AI 파이프라인을 쉽게 구축·운영하도록 지원하는 솔루션을 제공.
- 플라이트를 이용하면 쿠버네티스(Kubernetes) 환경에서 컨테이너 자원 할당, 작업 간 데이터 교환(Artifact Management), 버전 관리 등을 자동화할 수 있음.
- Union.ai는 이러한 오픈소스에 Enterprise 기능(예: 비용 모니터링, 모델 서빙, 워크스페이스 등)을 추가해, 완전한 상용 플랫폼을 형성.
데모 시연(플랫폼 주요 화면)
- 플라이트 UI: 사용자가 정의한 파이썬 함수(→ 컨테이너 태스크)와 워크플로를 시각적으로 표시.
  - 각 태스크별로 필요한 리소스(GPU, CPU, 메모리 등)를 할당할 수 있고, 빌트인 아티팩트 스토리지를 통해 컨테이너 간 데이터 교환 가능.
- 각 워크플로의 버전 관리: 모델 훈련 시 생성된 아티팩트(예: 모델 체크포인트), 파이프라인 실행 이력(Execution history) 등이 자동 기록·추적됨.
- 비용(스팟) 관측 대시보드: 누가 어느 워크플로에서 얼마만큼 리소스를 사용하고 있는지, 어떤 모델 훈련에 예산이 투입되고 있는지를 확인 가능.
- 파이썬 SDK 예시: 개발자는 보통 파이썬 함수에 Decorator를 붙여 원하는 컴퓨팅 자원, 캐싱, 이미지 스펙 등을 지정할 수 있음. 쿠버네티스 설정을 직접 다룰 필요가 줄어듦.
- 모델/앱 서빙(Model Serving): 새롭게 출시된 기능으로, 파이썬 코드 상에서 모델 서빙 인프라(오토스케일, 메모리/CPU/GPU 스펙 등)를 쉽게 정의 가능.
- 워크스페이스(Workspaces): VS Code나 Jupyter Notebook 등 IDE를 클라우드 인프라 위에서 곧바로 실행하여, 개발 환경을 확장.
결론
- 사용자는 union.ai의 서버리스(Serverless) 버전으로 간단히 체험 가능하며, 신용카드 등록 없이도 일정 크레딧을 활용해 기능을 시험해 볼 수 있음.
- 오픈소스 Flyte로 시작해 사내 쿠버네티스 운영에 적용한 뒤, 엔터프라이즈 니즈(모델 서빙, 비용 분석, 협업 등)에 맞춰 Union.ai 플랫폼을 선택할 수 있다고 강조.

2. Union.ai 제품 상세 설명

2.1 개념 및 특징

플라이트(Flyte) 기반 멀티클라우드 워크플로 플랫폼
- Flyte는 쿠버네티스 위에서 실행되는 오픈소스 파이프라인 오케스트레이션 엔진.
- Union.ai는 Flyte와 깊은 통합을 바탕으로, 데이터 파이프라인(ETL), 머신러닝 모델 학습/추론, 대규모 분산 워크플로를 쉽게 구성하는 엔터프라이즈급 플랫폼을 제공.
Python 중심의 개발 경험
- 엔지니어는 일반적인 파이썬 함수에 Decorator를 붙여 컨테이너, 실행 리소스, 아티팩트 스토리지 등을 선언적으로 지정할 수 있음.
- 클라이언트 코드에서 쿠버네티스 네이티브 설정(예: PodSpec) 등을 직접 다루지 않아도 되므로, 데이터 과학자와 ML 엔지니어가 개발에 집중 가능.

2.2 주요 기능

Workflow Orchestration
- 태스크(Task): 파이썬 함수나 임의의 컨테이너로 정의. CPU/GPU/메모리 할당 등을 태스크별로 설정 가능.
- 워크플로(Workflow): 태스크 간의 데이터 흐름(입출력)을 정의하고, 종속 관계(DAG)를 시각적으로 표현.
- 아티팩트 관리(Artifact Management): 각 태스크의 출력 결과(예: 모델, CSV 파일 등)를 자동 저장·추적해 다른 태스크가 재사용할 수 있게 함.
버전 관리 & 재현성(Reproducibility)
- 모든 실행(Execution) 이력과 종속된 코드/환경이 자동 버전으로 기록됨.
- “이 아티팩트를 생성한 워크플로는 무엇이었는가?”를 거슬러 올라가 확인 가능(데이터 라인에이지).
- 모델 훈련 파이프라인의 버전별 성능을 비교하거나, 특정 시점의 환경을 복원하기 용이.
Observability & Cost Monitoring
- 실행 모니터링: 각 태스크의 상태(진행 중, 성공, 실패), 리소스 소모, 로그 등을 실시간 확인.
- 비용 대시보드: 팀/사용자/프로젝트별 클라우드 지출을 추적해, 예산 초과나 비효율적 지출을 파악 가능.
- 엔터프라이즈 수준에서, “어떤 팀이 GPU를 얼마나 썼고 그 비용은 얼마인지” 투명하게 관리할 수 있음.
Model Serving & App Deployments
- 학습이 끝난 모델을 쉽게 프로덕션 서빙으로 전환.
- 파이썬 코드 상에서 “서빙 스펙”(오토스케일 설정, 요청 처리 방식 등)을 정의하면, Union.ai 플랫폼이 필요한 쿠버네티스 자원 생성·관리.
- CI/CD 파이프라인에 자동 통합 가능.
Workspaces (개발 환경 통합)
- VS Code / Jupyter Notebook 등 익숙한 IDE를 클라우드 인프라 위에서 구동해, 대규모 데이터나 GPU 리소스를 손쉽게 사용 가능.
- 워크플로 실행과 동일한 쿠버네티스 클러스터를 이용하므로, 로컬 환경과의 버전 차이, 데이터 크기 제한 등을 최소화.
유연한 확장성과 라이브러리 호환
- scikit-learn, PyTorch, TensorFlow 등 일반적인 ML 라이브러리와 호환.
- Apache Spark, Pandas, SQL DB 등 데이터 처리 툴과도 함께 사용할 수 있어, 데이터 엔지니어링부터 모델 추론까지 엔드 투 엔드 파이프라인 구축 가능.

2.3 장점 및 차별화

오픈소스 Flyte 기반
- 기업은 오픈소스 채택을 통해 종속성(Vendor Lock-in)을 줄이면서, 필요 시 Union.ai의 엔터프라이즈 기능을 추가 구독하는 형태로 선택 가능.
- 많은 커뮤니티 사용자와 서드파티 기여로, 기능 확장과 생태계가 활발히 발전 중.
간편한 쿠버네티스 추상화
- 사용자 입장에서는 **“파이썬 함수 + Decorator”**로 구성해도, 실제 내부에서는 컨테이너화, 리소스 할당, 영구 스토리지 연결을 자동 처리.
- DevOps 지식이 없거나 쿠버네티스 관리가 복잡한 팀에게도 저장성을 제공.
엔드 투 엔드 파이프라인
- 데이터 파이프라인(ETL)부터 모델 서빙까지 한 플랫폼에서 처리 가능.
- 모델 버전, 데이터셋 버전을 통합 관리해 재현성·협업 효율 극대화.
비용 가시성
- 대규모 AI/데이터 워크로드를 운영하는 기업이라면, GPU 등 고가의 리소스 사용을 투명하게 모니터링해 비용 최적화가 용이.
하이브리드/멀티 클라우드 지원
- 쿠버네티스가 지원되는 어떤 클라우드(또는 온프레미스)에서도 구동 가능.
- 온프레+AWS, GCP, Azure 등을 혼용하는 복잡한 환경에서도 엔드 투 엔드 파이프라인을 구축 가능.

2.4 사용 사례

스타트업: ML 모델 프로토타이핑부터 서버리스 파이프라인 운영까지 간소화하여, 신속한 제품 출시와 비용 제어.
엔터프라이즈 조직: 수백 개 이상의 ML 워크플로(모델 학습, 대규모 데이터 전처리 등)를 중앙에서 관리·관측. 비용 거버넌스와 보안 강화.
연구기관/대학: 대규모 실험을 쿠버네티스 클러스터에서 효율적으로 실행하고, 실험 reproducibility(재현성)를 유지.

2.5 가격 및 도입 방식

SaaS(Serverless) 버전
- Union.ai에서 제공하는 호스티드 버전을 이용해 간단히 가입 → 바우처 크레딧(예: 30달러)으로 무료 체험 가능.
- 추가 사용량이 늘어나면 유료 과금(클라우드 리소스 기반).
엔터프라이즈 설치 버전
- 대규모 조직은 자체 쿠버네티스 클러스터에 Union.ai를 설치하여, 사내 정책과 보안 요건을 충족하면서 워크플로 관리를 수행.
오픈소스 Flyte
- Community Edition 형태로 원하는 기능만 골라 무료로 사용 가능하지만, 비용 대시보드, 모델 서빙 UI 등 일부 엔터프라이즈 기능은 Union.ai를 통해 이용.

3. 종합 정리

Union.ai는 오픈소스 Flyte 기반의 워크플로/추론(ML) 오케스트레이션 플랫폼으로, 파이썬 중심의 선언적 방식으로 쿠버네티스 환경을 간편히 관리하도록 도와줍니다.

데이터 엔지니어링부터 ML 모델 개발과 모델 서빙에 이르는 엔드 투 엔드 파이프라인을 한 곳에서 처리 가능.
파이썬 개발자가 작은 데코레이터 추가만으로 컨테이너 자원, 버전 관리, 데이터 아티팩트 흐름을 제어할 수 있어 개발 생산성이 높음.
비용 가시화, 워크플로 버전 관리, 모델 서빙, Workspaces(IDE 통합) 등의 엔터프라이즈 기능을 제공하여, 대규모 조직에서도 고성능·고확장성 운영이 용이.
SaaS 형태로 손쉽게 시작하거나, On-Prem 배포 등 다양한 방식으로 도입할 수 있음.

자세한 내용은 공식 웹사이트를 통해 확인 가능하며, 서버리스 무료 크레딧으로 체험판을 시작해볼 수 있습니다.

https://www.youtube.com/live/uIiIxC9ZbiQ?si=9wh2T0_-czt2xXBC

- OpenPipe AI

아래는 OpenPipe(https://openpipe.ai/) 데모 스크립트의 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

배경 & 핵심 컨셉
- OpenPipe는 개발자를 위한 모델 파인튜닝 플랫폼으로, 가능한 단순하고 직관적으로 모델을 미세조정(Fine-tune)할 수 있도록 돕는다.
- 시연 예시: PII(개인정보) 제거를 위한 모델을 직접 파인튜닝하여, 모델이 프롬프트 결과로 민감정보를 노출하지 않도록 관리.
시나리오: PII Redaction Model
- 엔지니어 Andy Jones가 로컬 환경(최대 ~1B 파라미터 모델)을 사용해 PII 제거 작업을 수행하려고 함.
- 입력 텍스트 중에 PII(개인정보)에 해당하는 부분만 추출·제거하여, 최종 모델에 해당 민감정보가 섞이지 않도록 만드는 과정이 필요.
데이터셋 생성 & 관리
- OpenPipe 대시보드에서 새 데이터셋을 생성(예: “PII Redaction”).
- 여러 소스(로그, JSONL 파일 등)로부터 데이터를 업로드 → Data Table 뷰에서 항목을 확인·수정·삭제 가능.
파인튜닝(Fine-tune) 프로세스
- 준비된 데이터셋을 사용해, 지원되는 다양한 모델(OpenAI, Llama, Gemma 모델 등)을 선택 후 원클릭 파인튜닝 가능.
- 하이퍼파라미터, 학습 스텝 등 세부 설정도 간단히 조정 가능.
- 파인튜닝 완료 후, 기존 모델들과의 성능 비교(출력 결과 확인)나 모델 버전 관리가 용이.
생성된 모델 사용(호스팅 & 쿼리)
- Fine-tuned 모델은 OpenPipe 플랫폼에서 자동 호스팅(or OpenAI 등 베이스 모델 제공처에서 호스팅), 또는 로컬로 내보낼 수 있음.
- 기존 GPT-4 혹은 다른 LLM API를 호출하듯 동일한 API 방식(prompt/response)으로 호출 가능 → 애플리케이션 코드 변경 최소화.
- 실제 사례: Andy가 만든 PII Redaction 모델을 파이썬 패키지로 배포하여, 로컬에서 가장 정확한 PII 제거를 지원.
결론
- OpenPipe는 데이터 준비 → 파인튜닝 → 모델 배포 과정을 간소화하고, 개발자가 최소한의 설정만으로 맞춤형 모델을 구축할 수 있게 해줌.
- PII Redaction 외에도, 다양한 도메인(챗봇, 요약, 문서 분석 등)에서 간단히 커스텀 모델을 생성 가능.

2. OpenPipe 제품 상세 설명

2.1 개념 및 목표

개발자 친화적인 파인튜닝 플랫폼
- OpenPipe는 파인튜닝에 대한 복잡한 인프라 설정을 숨기고, 데이터셋 업로드와 모델 선택만으로 손쉽게 미세조정할 수 있도록 설계.
- 코드 최소 수정, 직관적인 UI, 간단한 API 호출 방식을 지향.
다양한 모델 지원
- OpenAI 시리즈(GPT, 등), Llama/Llama2, Gemma 등 여러 기반 모델을 동일한 플로우로 파인튜닝 가능.
- 로컬 GPU 또는 클라우드 인프라에서도 작동해, 보안·성능·비용 요구사항에 맞춰 환경을 선택 가능.

2.2 핵심 기능

데이터셋 관리
- 간편 생성: 대시보드에서 새 데이터셋을 만들고, 이름·설명·필드 등을 정의.
- 다중 업로드: JSONL, 로그 파일 등 여러 소스에서 데이터를 일괄 업로드하고, 테이블 형태로 미리보기 가능.
- 수정/재레이블: GUI로 데이터 항목을 편집하거나, 필요 없는 항목을 삭제할 수 있어, 라벨링 오류를 쉽게 바로잡을 수 있음.
원클릭 파인튜닝
- 지원 모델을 선택하고, 준비된 데이터셋을 매핑하면 버튼 클릭 한 번으로 학습 작업이 시작.
- 하이퍼파라미터(learning rate, epoch, batch size 등)나 학습 목표(분류, 요약, 인퍼런스 스타일 등)를 지정할 수 있음.
- 학습 진행 상황 및 로그를 실시간 모니터링 가능.
버전 관리 & 모델 비교
- 각 파인튜닝 실행은 자동으로 버전 관리되어, 언제든지 이전 모델과 출력 결과를 비교.
- 여러 베이스 모델(예: GPT-3.5, Llama2, Gemma)에 대해 동시에 파인튜닝 후, 성능과 결과를 나란히 확인할 수 있음.
API & 호스팅
- 파인튜닝이 끝난 모델은 OpenPipe 플랫폼에서 자동으로 호스팅.
- 기존 GPT API 호출 방식과 유사한 엔드포인트를 제공해, 애플리케이션 변경 없이 쉽게 교체할 수 있음.
- 로컬 추론(온프레미스)도 지원 → 원하는 경우 모델 파일(체크포인트)을 내려받아 자체 인프라에서 실행.
특화 기능: PII Redaction 시나리오
- 본 데모에서는 개인정보(PII) 제거용 모델을 예시로 시연.
- 실제로도 Andy Jones가 만든 파이썬 라이브러리(Pii Reda)는 로컬에서 가장 정확한 PII 제거를 수행하는 솔루션으로 공개.
- OpenPipe를 통해 손쉽게 데이터셋을 만들고, 모델을 파인튜닝하여 배포한 사례.

2.3 장점 및 차별화 포인트

직관적 워크플로
- 데이터셋 → 모델 선택 → 학습 시작을 한 UI 안에서 처리.
- ML 전문 지식이 없는 일반 개발자도 빠르게 커스텀 모델을 생성 가능.
다양한 모델 & 인프라 호환
- OpenAI 기반 모델뿐 아니라, 오픈소스 모델(Llama 등)도 파인튜닝 가능.
- 클라우드(관리형)와 로컬(자체 호스팅) 환경 모두 지원 → 보안·비용·성능 요건에 맞춰 선택 유연성.
무중단 API 전환
- 기존 애플리케이션이 GPT-4 API를 쓰고 있더라도, OpenPipe 엔드포인트로 간단히 교체해 맞춤형 모델로 업그레이드.
- 큰 코드 수정 없이, 비교 테스트나 A/B 테스트를 진행하기 쉬움.
데이터 보안
- 민감정보(PII)를 파인튜닝 데이터에 포함할 필요 없이, OpenPipe의 시나리오(예: PII Redaction)처럼 전처리 모델로 필터링하여 안전 관리.
- 기본적으로 데이터셋 업로드 시에도 암호화·접근 권한 설정 등 보안 기능이 제공됨.
실제 사용자 사례
- 데모에서 소개된 PII Redaction 솔루션은 실제 OpenPipe의 엔지니어(Andy)가 만든 오픈소스 툴로, “로컬에서 최고 수준”의 개인정보 제거 성능을 입증.
- 다른 도메인(챗봇, 지식그래프, 텍스트 요약 등)에도 유사한 방식으로 파인튜닝 적용 가능.

2.4 활용 사례

데이터 프라이버시 및 컴플라이언스: GDPR·CCPA 등 개인 정보 보호 규정을 준수하기 위해, 민감한 텍스트를 제거 또는 마스킹하는 커스텀 모델 구축.
커스텀 챗봇/QA 시스템: 기업 고유의 데이터셋(문서, FAQ 등)에 대해, 파인튜닝을 거쳐 성능 높은 언어 모델을 내부 지식용 챗봇으로 활용.
문서 분류/라벨링: 대량의 텍스트/이메일을 도메인 특화된 레이블로 분류하는 모델을 신속히 파인튜닝.
번역, 요약 등 고유한 스타일이나 사내 용어를 반영한 텍스트 변환 모델 개발.

2.5 가격 및 도입 모델

SaaS 플랫폼
- OpenPipe가 제공하는 웹서비스에 가입해, UI를 통해 모델 파인튜닝과 호스팅을 이용.
- 사용량(모델 크기, 학습량, 요청 횟수 등)에 따른 과금 체계(예: 구독형, pay-per-use 등)가 있을 수 있음.
- 세부 가격 정책은 공식 웹사이트에서 확인 가능.
온프레미스/자체 호스팅
- 민감 정보가 많은 기업은 로컬 GPU 클러스터에 모델을 배포해, 외부 전송 없이 안전하게 파인튜닝하고 추론 가능.
- 오픈소스 구현체가 일부 공개되어 있을 수 있으며, 기업맞춤 기능은 별도 라이선싱.

3. 종합 요약

OpenPipe는 개발자 중심의 모델 파인튜닝 플랫폼으로, 데이터셋 준비부터 파인튜닝, 배포, 및 API 연동까지 매우 간단한 UI/UX로 제공하는 것이 특징입니다.

원클릭으로 다양한 모델(OpenAI, Llama 계열, Gemma 등)을 파인튜닝할 수 있으며, 학습 완료된 모델을 변경 없이 기존 애플리케이션에서 호출 가능.
데이터셋 관리 도구를 통해 라벨링·편집이 용이하고, 파인튜닝 결과는 버전 관리되어 다른 모델과 결과 비교가 쉬움.
PII 제거(민감정보 필터링)와 같은 실제 사례에서 좋은 성능을 보인 모델이 이미 출시된 상태로, 개인정보 보호 요구사항을 가진 기업에서 특히 유용할 수 있음.

보다 자세한 내용과 사용법, 가격 정보는 OpenPipe 공식 웹사이트에서 확인 가능하며, UI 데모 영상 등을 통해 직접 체험해 볼 수 있습니다.

https://www.youtube.com/live/W5ukxB7_064?si=mrLVX7DHxdkz9Vx6

- Daytona AI (Demo)

아래는 Daytona(https://www.daytona.io/) 데모 스크립트의 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

Daytona 소개
- Daytona는 AI 에이전트가 코드를 실행하거나, **독립된 작업 환경(sandbox)**을 즉시 스핀업(spin up)하여 안전하게 테스트할 수 있도록 하는 인프라 플랫폼.
- “서버리스처럼 빠른 속도”로 VM 또는 컨테이너 같은 격리 환경을 초단위 이하(약 100ms)에 준비하여, AI 에이전트가 다양한 개발·실행 작업을 즉시 처리 가능.
Open Hands / Claude 예시
- Open Hands: 오픈소스 버전의 ‘코딩 에이전트’(예: ChatGPT Code Interpreter 유사)로, Daytona가 제공하는 인프라에 코드를 배포·실행 가능.
- Claude: 일반적으로는 코드를 생성만 하고, 사용자가 직접 실행해야 하는데, Daytona의 mCP 서버(Multi-Container Playground Server)와 연동하면 Claude가 스스로 코드를 실행하고 결과를 확인해, 사용자에게 그대로 알려줄 수 있음.
Daytona 데모 핵심 포인트
- 데모 화면에서 Claude에 “코드를 작성하고 결과를 보여줘”라고 지시하면, Claude가 Daytona에 샌드박스를 스핀업하여, 코드 실행을 실제로 수행하고 결과까지 반환.
- 샌드박스 생성 속도: 실제로는 100ms 이내로 매우 빠르며, 사용 환경(네트워크 등)에 따라 약간의 지연이 있을 수 있음.
- 이후 Claude(에이전트)가 샌드박스에 패키지 설치, 실행, 파일 생성/수정 등 모든 작업을 자동화해 종합적인 개발·테스트 시나리오를 구현.
기능 요약
- 상태 저장(archiving) & 스냅샷: 스핀업된 머신(샌드박스)은 필요 시 상태를 저장/복원하거나, 여러 버전을 병렬로 생성해 비교 가능.
- Daytona SDK: 파이썬 코드나 CLI(명령줄)로 샌드박스 작업을 자동화하기 위한 API 제공.
- 파일 시스템, 세션, 터미널 등: AI 에이전트가 직접 명령어를 전송하거나, 생성/수정/삭제할 파일을 지정해, 시나리오 전반을 프로그래밍적으로 제어 가능.
결론
- Daytona는 AI 코딩 에이전트가 “실제 코드 실행이 가능한 격리 환경”을 초고속으로 제공하는 인프라 솔루션.
- 현장에서 시연된 데모에는 Claude, Open Hands 등 코딩 에이전트가 Daytona를 통해 코드를 작성·설치·실행·테스트 전 과정을 자동화하는 모습을 보여줌.
- 누구나 부스에서 무료 크레딧을 받아 체험 가능.

2. Daytona 제품 상세 설명

2.1 개념 및 목표

AI 에이전트 특화 인프라
- Daytona는 코드 실행이 필요한 AI/LLM 에이전트에게 **격리된 환경(sandbox)**을 즉시 생성·할당하고, 결과를 관리해주는 클라우드 인프라.
- 기존 DevOps/VM 환경 대비 수십~수백 배 빠른 스핀업 시간을 추구해, 실시간 AI “코드 해석” 시나리오도 지연 없이 처리.
보안 & 격리
- 샌드박스는 각각 독립된 환경으로, 보안과 안정성이 보장되며, 에이전트가 설치·실행하는 패키지나 코드를 다른 사용자의 워크로드와 분리.
- 개인정보, 비즈니스 민감 데이터 등을 안전하게 테스트할 수 있도록 설계.

2.2 핵심 기능

초고속 샌드박스 스핀업
- 평균 100ms 내로 가상화된 컨테이너 혹은 경량 VM을 생성.
- AI 에이전트가 “코드를 실행하겠다”고 요청하면, Daytona가 즉시 해당 환경을 준비하여 즉각적인 실행이 가능.
상태 관리 (Archiving & Snapshots)
- 샌드박스 실행 중 일정 상태를 스냅샷으로 저장해, 재시작 시 해당 시점부터 이어갈 수 있음.
- 여러 변형(Branch)을 병렬로 생성해, 코드 변화를 시험하거나 다양한 실험을 동시 진행 가능.
Daytona SDK & API
- Python SDK: 개발자가 코드에서 직접 Daytona 인프라와 상호 작용하며, 샌드박스 생성/삭제, 파일 읽기/쓰기, 명령 실행 등을 API 호출로 처리.
- REST/CLI 인터페이스: 원하는 언어나 스크립트 환경에서 Daytona 기능을 제어 가능.
에이전트 친화적 툴링
- Session/Terminal API: 명령어를 문자열로 전달하면, 샌드박스 내부에서 실행 후 결과를 JSON 형태로 반환받을 수 있음(에이전트가 파싱하기 쉽게).
- 파일시스템 API: 파일 작성/삭제/수정 등 작업을 간단한 HTTP 요청으로 수행 → 에이전트가 로컬 파일처럼 다룰 수 있음.
Cost & Resource 효율성
- 필요할 때만 샌드박스(환경)를 생성하고, 작업 완료 후 자동으로 종료 → 클라우드 자원 낭비를 최소화.
- 사용량 기반 과금 또는 일정 구독 모델로 운영될 수 있음.

2.3 장점 및 차별화

Real-time 코드 실행
- GitHub CoPilot, ChatGPT Code Interpreter, Claude 코딩 모드 등 “코드를 즉시 실행”해 결과를 확인하는 시나리오에 특화.
- 자체 인프라를 구축하면 복잡하고 느린 VM 관리가 필요하지만, Daytona는 이를 고성능으로 추상화.
AI 에이전트에게 최적화된 API
- 일반 Cloud/VM 관리 툴은 사람이 직접 SSH 접속해 명령어 실행 등을 가정.
- Daytona는 HTTP/SDK 기반으로 파일·세션을 조작하도록 설계해, 에이전트가 파싱하기 편리함.
Sandbox 스냅샷 및 병렬 분기
- 실험 중간에 상태를 저장하고, 여러 가지 시나리오를 동시에 시도해 본 후 결과를 비교.
- AI가 “이전 상태에서 다시 시도”하는 작업을 쉽게 구현.
보안/격리 환경
- 각 샌드박스가 독립적으로 실행되며, 접근 권한과 네트워크를 제한할 수 있어 안전한 코드 실행이 가능.
- 악성 코드나 해킹 공격을 방지하고, 클라우드 전체 안정성을 유지.
빠른 프로비저닝
- 100ms대의 스핀업 속도는 일반 VM 대비 매우 빠르며, 성능을 유지하면서도 즉각 응답을 필요로 하는 AI 에이전트 워크플로에 이상적.

2.4 활용 사례

AI 코딩 에이전트: ChatGPT Code Interpreter나 Claude처럼, AI가 사용자 요청에 따라 코드를 작성·실행·테스트·결과제공하는 상황에서 Daytona가 인프라를 제공.
CI/CD 파이프라인: 빌드/테스트 작업을 샌드박스로 분리해 병렬 수행. 빠른 스냅샷과 병렬화를 통해 개발 효율을 높임.
보안 테스트: 샌드박스 환경에서 안전하게 취약점 분석, 모의 해킹 등을 수행해, 메인 시스템을 보호.
교육/워크샵: 즉시 생성되는 실습 환경으로, 대규모 참가자가 코드 실습을 해도 충돌이나 리소스 부족 없이 안정적으로 진행.

2.5 도입 및 가격

SaaS 형태
- Daytona.io 웹사이트에서 가입해, SDK/API 키를 발급받아 사용.
- 이용량(샌드박스 생성 횟수, CPU/GPU 시간 등)에 따라 과금될 가능성이 높음.
- 시연에서 언급된 “무료 크레딧”을 통해 초기에 테스트·체험 가능.
사내/온프레 구성
- 민감 데이터나 사내 규제 요구사항으로 인해 자체 인프라에 Daytona를 배포해야 할 경우, 별도 컨설팅이나 엔터프라이즈 라이선스가 있을 수 있음.
- 자세한 내용은 공식 문서나 영업 문의로 확인.

3. 종합 요약

Daytona는 AI 에이전트가 안전하고 빠르게 코드를 실행할 수 있는 초고속 격리 환경(sandbox) 인프라 플랫폼입니다.

평균 100ms 이하의 스핀업 시간으로, 코딩 AI가 생성한 코드를 실시간 테스트·디버그·결과 확인이 가능.
파일/세션/터미널을 REST/API로 제어 가능해, 에이전트가 직접 “코드 입력→실행→출력”을 수행할 수 있도록 지원.
스냅샷, 병렬 분기, 상태 보존 등 기능을 통해 여러 실험 시나리오를 손쉽게 전환할 수 있으며, 필요 시 재현성도 확보.
빠른 프로비저닝과 격리 보안을 모두 갖춰, AI 코딩 에이전트, DevOps(빌드·테스트 자동화), 보안 테스트 등 광범위한 활용이 예상됨.

자세한 내용과 무료 크레딧은 공식 웹사이트에서 확인할 수 있으며, 부스에서 직접 데모 시연과 상담을 받을 수 있습니다.

https://www.youtube.com/live/0fs__5d4aaY?si=OA4TRNiy9ZGEqmOi

- LAMINI AI

아래는 Lamini(https://www.lamini.ai/) 데모 스크립트의 요약과, 해당 제품에 대한 상세 설명입니다.

1. Demo Script 요약

배경 및 맥락
- Lamini는 고품질 파인튜닝과 데이터 파이프라인을 통해, 오픈소스 LLM(Language Model)을 맞춤형으로 조정할 수 있도록 하는 플랫폼.
- 데모에서는 특히 “문서(예: PDF)나 DB 스키마”를 입력받아 자동으로 훈련 데이터(Question-Answer 쌍 등)를 생성하고 검증하는 노드 기반 파이프라인을 소개.
파이프라인 구성
- 여러 **단계(Chunking, Q&A 생성, 검증 등)**로 구성된 파이프라인을 정의해, 입력 문서를 세분화(Chunking)하고, 각 단계에서 LLM API를 호출해 질문(question) 및 **답변(answer)**를 생성.
- 마지막에 검증(validator) 노드를 통해 부적절하거나 불완전한 Q&A 쌍을 걸러내어 최종 훈련 데이터를 확보.
데모 구조
- Chunking: Lamini의 SDK를 통해 문서를 원하는 크기/방식으로 나누고, 키워드를 지정해 특정 영역에 집중.
- 노드 정의:
  - Question Generator 노드: 지정한 모델(LLM)로부터 질문을 생성.
  - Answer Generator 노드: 이전 노드에서 생성된 질문을 바탕으로 답변 생성.
  - Validator 노드: Q&A 쌍이 유효한지(적절히 맞는지) 검증 후, 불필요한 결과를 제외.
- 결과 출력: 생성된 Q&A 쌍은 최종적으로 훈련 데이터로 활용 가능(→ Lamini 파인튜닝 서비스).
최종 목적
- 이렇게 자동화된 Q&A 세트를 이용해 Lamini 파인튜닝 레시피를 수행하면, 사실에 근거한(custom, factual) 모델을 얻게 되어 환각(hallucination)을 줄이고 정확성을 높일 수 있음.
- 결과적으로 기업용(Enterprise) 또는 특정 도메인(예: 데이터베이스 스키마, PDF 기술 문서 등)에서 맞춤형 LLM을 효율적으로 구축할 수 있음.

2. Lamini 제품 상세 설명

2.1 개념 및 특징

LLM 파인튜닝 플랫폼
- Lamini는 **오픈소스 언어 모델(예: LLaMA, GPT 등)**을 효과적으로 Fine-tune할 수 있는 엔드 투 엔드(End-to-End) 솔루션을 제공.
- 기업 및 연구 조직이 안전하고 신뢰도 높은 언어 모델을 빠르게 확보하도록 지원.
강력한 데이터 파이프라인 구성
- 문서(문자열·PDF·DB 스키마 등)로부터 자동으로 Q&A 형태의 훈련 데이터를 생성하는 파이프라인을 지원.
- 노드(node) 기반 SDK로, Chunking → Q&A 생성 → 검증 과정을 단계적으로 제어 가능.
환각(가짜 정보) 방지 및 품질 강화
- Lamini의 파인튜닝 레시피는 **사실 정보(Factual Data)**를 중시하는 훈련 방식을 채택.
- LLM이 사용자의 도메인 지식을 “정확하게” 반영하도록, 생성 데이터(질문·답변)를 세밀히 검증하고 필터링.

2.2 주요 기능

자동 Chunking & 키워드 초점
- 단순하게 일정 길이로 텍스트를 자르는 것이 아닌, 메타데이터나 키워드 기반으로 문서의 중요한 부분을 식별하여 나눌 수 있음.
- 대용량 문서(수천~수만 페이지)도 문제없이 처리할 수 있도록 확장 가능.
Q&A 생성 노드
- 각 청크(Chunk)에 대해 “핵심 질문”을 LLM이 스스로 만들어내고, 그 질문에 대한 답변을 다시 다른 노드가 생성.
- 이후에 검증 단계를 추가로 수행해, 일관성이나 정확도를 체크.
검증(Validation) 노드
- Q&A 결과가 유효한지, 문맥에서 벗어나지 않는지를 2차로 점검.
- 사용 사례에 맞춰 “어떤 답변을 ‘유효’로 볼 것인가”를 프롬프트 형태로 정의 가능.
- 이 과정을 통해, 거짓 정보나 문맥 무관한 Q&A를 제거해 고품질 데이터셋만 남김.
훈련 데이터 출력
- 최종적으로 엄선된 Q&A 쌍을 Fine-tuning Input으로 구성하여, Lamini의 파인튜닝 엔드포인트에서 손쉽게 활용.
- 다양한 오픈소스 모델에 적용 가능(사용자가 특정 모델 지정).
추가 기능
- Lamini의 분산 파이프라인: 대규모 문서나 거대한 DB 스키마를 병렬 처리 가능.
- Prompt 관리 및 버전 관리: 각 노드의 시스템 프롬프트, 역할(Role), 출력 형식 등을 명시적으로 관리.

2.3 장점 및 차별화

문서 중심의 자동 파인튜닝 데이터 생성
- 단순 텍스트 분할이 아닌, 기업 내 문서/DB 구조를 문맥 기반 Q&A로 변환.
- 초기 라벨링 부담을 크게 줄이고, 분야 특화된 고품질 훈련 데이터를 신속히 확보.
환각 방지 & 정확성 개선
- 파이프라인 단계에서 검증을 거쳐, LLM이 신뢰할 수 없는 답을 내놓지 않도록 사전에 필터링.
- 파인튜닝 후 결과 모델이 도메인 지식을 더 정확히 반영하게 되어, 엔터프라이즈용 QA 시스템 등에서 안정적.
유연한 파이프라인 노드 구조
- 원하는 LLM이나 프롬프트 전략을 노드별로 달리 지정 가능 → 복잡한 데이터 처리 시나리오도 맞춤 구성.
- 오픈소스 모델을 선택할 수도 있고, 필요 시 상용 모델(OpenAI GPT 등)도 활용 가능.
엔터프라이즈 지원
- 보안/프라이버시 요구가 높은 환경에서, 사내 자료(PDF, DB 스키마 등)를 안전하게 파이프라인화 가능.
- 필요한 경우 온프레미스 또는 VPC 등에서도 Lamini의 기술 스택을 배포할 수 있음(엔터프라이즈 옵션).

2.4 활용 사례

사내 문서 자동 QA
- 회사의 방대한 매뉴얼, 규정, 기술 문서 등을 Q&A 훈련 데이터로 변환해, 커스텀 챗봇이나 정보 검색 모델을 만듦.
DB 스키마 문서화
- 대규모 DB 구조를 문서화하고, 각 테이블/칼럼에 대한 Q&A를 자동 생성 → 신규 입사자나 분석가를 위한 도움말로 사용.
기술 매뉴얼·논문 정리
- R&D 문서를 분할하고, 핵심 질문·답변을 생성 → 전문 분야 모델을 파인튜닝하여, 환각률을 낮추고 답변 정확도 높임.

2.5 도입 및 가격

SaaS / 클라우드 형태
- Lamini가 제공하는 호스티드 플랫폼을 이용해, 파이프라인 실행·파인튜닝 등을 할 수 있음.
- 사용량(문서 크기, LLM 호출 횟수, 파인튜닝 작업 크기 등)에 따라 과금 정책이 달라질 수 있음.
엔터프라이즈 맞춤형
- 대규모 프로젝트나 보안 요건이 있는 기관은 사내 설치(On-Prem), 전용 클라우드(VPC) 옵션 등을 상담 가능.

3. 종합 요약

Lamini는 오픈소스 LLM에 대한 고품질 파인튜닝을 손쉽게 해주는 플랫폼으로, 자동화된 데이터 파이프라인(SDK)과 환각 방지를 위한 검증 단계를 제공하는 것이 핵심입니다.

문서(chunking) → Q&A 생성 → 검증의 일련 과정을 노드별로 설정해, 방대한 텍스트나 스키마를 맞춤 훈련 데이터로 전환 가능.
이렇게 마련된 Q&A 세트를 Lamini의 파인튜닝 서비스에 투입해 도메인 특화 모델을 만들면, 정확도와 신뢰도가 높아져 엔터프라이즈용 QA나 챗봇 등에 활용할 수 있음.
온프레미스/클라우드 어디서든 사용 가능하며, 세부 가격 및 기능은 공식 웹사이트에서 확인하거나 부스/세일즈를 통해 문의할 수 있음.

https://www.youtube.com/live/qq_Rpe4TqCw?si=eA3v-zJcK9Jx9t8U

- WeCP (We Create Problem)

아래는 WeCreateProblems(https://www.wecreateproblems.com/) 데모 스크립트의 요약과, 해당 제품(“Sherlock”)에 대한 상세 설명입니다.

1. Demo Script 요약

문제 의식
- 오늘날 채용(면접) 과정에서 AI 활용이 보편화되고 있음.
- 일부 경우(예: 문법 보완, 문서 검색, 문서 예시 확인 등)에는 AI 사용이 괜찮지만, 면접에 직접적으로 영향을 미치는 답안을 전부 AI에게 생성시키면 신뢰와 투명성이 저해됨.
- 기업과 지원자 모두 불투명한 AI 사용으로 발생하는 골칫거리를 피하고 싶어 한다.
Sherlock의 개념
- 면접 중에 지원자가 AI를 어떻게 사용하는지 “전 채널(External, Internal)”로 모니터링하여, 비정상적인 AI 의존을 탐지함.
- 예: 문제를 복사해 ChatGPT나 다른 툴에 그대로 붙여넣어 답을 생성할 경우, 이를 감지하고 플래그(flag)를 표시.
- 허용할 정도의 AI 사용(간단한 문법·라이브러리 확인 등)에 대해서는 면접관이 설정을 통해 허용 범위를 조정 가능.
작동 방식
- Zoom, Google Meet, MS Teams 등 다양한 화상 면접 링크에 Sherlock을 연결하면, 지원자의 인터뷰 과정을 체크.
- Sherlock 보호 링크를 지원자에게 전송해, 면접 전 과정을 모니터링하고 기록.
- 현재 Meta, OpenAI, MailChimp 등에서도 사용 중.
가격 및 도입
- $2/인터뷰 당 과금.
- 원하는 기업은 담당자(발표자)에게 연락하면 빠르게 도입 가능.

2. Sherlock 제품 상세 설명

2.1 개념 및 특징

AI 사용 모니터링 & 투명성 보장
- WeCreateProblems가 개발한 Sherlock은 면접 중 지원자가 AI 도구를 어떻게 사용하는지 추적하여, **정상적 활용(정보 검색, 문법 확인)**과 **부적절 활용(답안 통째로 생성)**을 구분.
- 목표는 기업과 지원자 간 신뢰 형성.
- AI가 면접에 자리잡으면서 발생하는 진위성 문제를 간단히 해결하고자 함.

2.2 주요 기능

다양한 인터뷰 플랫폼 연동
- Zoom, Google Meet, Microsoft Teams 등 주요 화상 플랫폼에 Sherlock 보호 링크를 쉽게 적용.
- 면접관이 인터뷰 링크를 입력하면, Sherlock이 그 링크에 추적 기능을 덧씌우는 방식.
전 채널 모니터링
- External: 웹 브라우저, 문서 검색, ChatGPT 등 외부 AI 접근 여부 확인.
- Internal: 지원자의 시스템(코딩 에디터, 복사·붙여넣기 이력 등)을 살펴, 문제 문구를 그대로 AI에게 넘기는지 탐지.
- 단순히 “AI를 사용했다/안 했다”가 아니라, 어떤 방식으로 사용했는지 기록해 면접관에게 알림.
사용자 정의 허용 범위
- 예: “일반 문서 검색이나 라이브러리 문법 확인은 허용, 문제 본문 전체를 AI에 복사 붙여넣기는 금지.”
- 면접관은 Sherlock의 설정을 통해, 어느 수준까지 AI 활용을 허용할지 구체화 가능.
자동 알림 및 보고서
- 면접이 끝난 후, 문제 해결 과정에서 지원자가 AI를 과도하게 의존했는지 여부를 요약 보고서 형태로 제공.
- 의심되는 행위(특정 문구의 대규모 복사, 정답 생성 등)가 발생했을 때 실시간 알림도 가능 (추가 기능 여부는 공식 안내 참조).

2.3 장점 및 차별화

면접 단계의 투명성
- 면접관은 지원자의 실제 역량(문제 해결 프로세스)을 파악할 수 있으며, 지원자도 “이 범위 내 AI 활용은 허용”이라는 지침 아래 공정하게 인터뷰에 임할 수 있음.
- 불확실한 AI 주도 솔루션을 제출해 면접관이 오해하거나, 지원자가 부당하게 이득을 얻는 상황을 방지.
간편한 설정 & 확장성
- 한 줄 링크로 적용 가능한 구조로, 추가 소프트웨어 설치가 최소화됨.
- 원격·하이브리드 면접이 대세인 현재, 글로벌 어디서든 쉽게 적용 가능.
맞춤형 정책 지원
- 회사마다 원하는 AI 활용 범위가 다르므로, Sherlock이 세밀한 필터/정책 설정 기능을 제공.
- 면접 대상 직무(개발, 마케팅, 번역 등)에 따라 AI 허용 기준을 달리 설정 가능.
합리적 가격
- 면접 1회당 $2라는 비교적 단순하고 직관적인 과금 구조.
- 대규모 채용 시즌이나 스타트업 한정 지원도 가능할 것으로 예상(문의 필요).

2.4 사용 사례

소프트웨어 개발 면접: 지원자가 스니펫만 참고하는 것인지, 아예 전부 ChatGPT로 문제를 푼 것인지 파악.
논술·서술형 테스트: 에세이나 번역 과제에서, ChatGPT 등에게 전면 의존했는지 추적.
외부 기업 협력 면접: 여러 인터뷰 플랫폼(Zoom 등)을 혼용해 사용해도 Sherlock 보호 링크 하나면 간단히 추적.

2.5 가격 및 도입 방법

SaaS형
- 웹사이트(https://www.wecreateproblems.com/)에 문의해 계정 개설 및 링크 생성 절차 진행.
- 인터뷰 1회당 $2 과금(대량 사용 시 할인 여부는 별도 상담 필요).
확장 가능성
- 엔터프라이즈 규모(수백~수천 면접)에서도 간단히 스케일업 가능.
- 별도 보안 요건이나 사내 통합이 필요하면 추가 커스터마이징 가능할 수도 있음(문의 필수).

3. 종합 요약

WeCreateProblems는 채용 면접 시 AI 도구(예: ChatGPT)를 어떻게 쓰고 있는지 추적하여, 투명한 면접 환경을 조성하는 솔루션 **“Sherlock”**을 제공합니다.

면접관이 Zoom/Meet/Teams 링크를 Sherlock에 연결하면, 어떤 행위가 허용 / 비허용인지를 설정해둔 뒤 지원자에게 전송.
Sherlock은 면접 과정에서 **과도한 AI 의존(답안 전부 자동 생성 등)**을 감지하고 리포트하여, 면접의 신뢰도를 높입니다.
인터뷰당 $2라는 합리적인 요금, 간편한 도입 프로세스, AI 활용 허용 범위 커스터마이징 등의 장점을 바탕으로, Meta, OpenAI, MailChimp 등도 사용 중.
보다 자세한 상담과 사용 방법은 공식 웹사이트나 발표자(담당자)에게 직접 문의할 수 있습니다.

https://www.youtube.com/live/DjOEgs4pxx0?si=BokKGZTxukv1D07X

- RowZero AI

아래는 RowZero(https://rowzero.io/) 데모 스크립트의 요약과, 해당 제품의 주요 기능을 정리한 설명입니다.

1. Demo Script 요약

기존 BI 툴의 한계
- 전통적인 BI 대시보드로는 “셀프 서브 분석”이 잘 안 이루어지며, 실제로는 대부분 “Export to CSV” 버튼을 눌러 Excel에서 작업을 수행함.
- 이때 발생하는 문제:
  - 보안 리스크: 로컬 PC에 Excel 파일(민감 데이터)이 그대로 저장되어, 추적이 힘듦.
  - 데이터 크기 제한: Excel은 약 1백만 행(Row) 이상을 처리하기 어렵고, 실제 엔터프라이즈 데이터는 훨씬 더 크다.
RowZero의 접근**
- RowZero는 스프레드시트 UI를 유지하되, 클라우드에서 실행함으로써 대규모 데이터 처리와 보안성을 확보.
- 간단히 말해, Excel/Google Sheets처럼 동작하지만 수백만~수억 행의 데이터를 손쉽게 다룰 수 있도록 설계됨.
주요 데모 내용
- 7백만 행 CSV를 RowZero에 불러온 뒤, Excel과 같은 수식(Formula)을 즉시 적용해 결과를 확인.
- 데이터 웨어하우스(Snowflake, Databricks 등)에 직접 연결해, 쿼리 결과를 “스프레드시트”로 불러옴.
- 불러온 대규모 데이터(예: 3천만 행)에서 피벗 테이블, 차트 등을 빠르게 생성.
- 공동 작업(collaboration)을 위한 권한(보기/편집/공유) 설정 제공.
- Write-back 기능: 필터링이나 가공한 데이터를 다시 Snowflake 등 데이터 웨어하우스로 저장(Export)해 “소스 데이터 세트”를 갱신 가능.
보안 이점
- 민감 데이터를 로컬 PC에 저장하지 않고, 클라우드 상에서만 열람·편집 가능.
- 엔터프라이즈 입장에서 “로컬 Excel 파일 유출”에 따른 보안 위험을 줄여줌.

2. RowZero 제품 상세 설명

2.1 개념 및 특징

클라우드 기반 스프레드시트
- Excel/Google Sheets 유사한 UI/UX를 제공하면서, 클라우드 인프라를 활용해 수백만~수억 행 데이터도 바로 열람·분석 가능.
- 사용자 입장에서는 스프레드시트의 친숙함을 유지하면서, 데이터 과학/분석팀은 대규모 데이터 세트를 다룰 수 있음.
대규모 데이터 처리
- 기존 오피스 제품이 가진 행 개수 제한(약 1백만 행)을 넘어 수천만~수억 행도 실시간으로 다룰 수 있도록 최적화됨.
- 내부적으로 분산 컴퓨팅 또는 고성능 메모리 방식을 활용하여 빠른 연산을 지원.
데이터 웨어하우스 연동
- Snowflake, Databricks, Redshift, BigQuery 등 주요 DW/데이터 레이크에 연결해, SQL 쿼리로 원하는 데이터 세트를 직접 가져옴.
- 커넥티드(Connected) 테이블: 스프레드시트에서 보는 것은 미리보기 아닌, 실제 전체 데이터.
- 데이터 변경/갱신 시에도 재쿼리를 통해 자동 업데이트 가능 → “항상 최신”이 유지.

2.2 주요 기능

스프레드시트 기능 강화
- Excel·Google Sheets 스타일의 포뮬러, 셀 편집, 복사/붙여넣기 등 이미 익숙한 UI를 제공.
- 피벗 테이블, 차트, 조건부 서식 등 핵심 분석 기능 내장.
대용량 데이터 로드 & 분석
- CSV, Parquet 등 파일(수백MB~GB)도 업로드 가능.
- 예: “7백만 행 CSV”도 즉시 열어, 셀 수식을 통해 결과(예: COUNT DISTINCT) 확인.
- 데이터 사이즈가 증가해도 성능이 떨어지지 않도록 설계.
데이터 웨어하우스 직접 쿼리
- RowZero를 통해 Snowflake 등 DW에 SQL문을 날려 결과를 스프레드시트로 로드.
- 대규모 데이터(수천~수억 행)도 스프레드시트 형태로 변환되므로, 분석·시각화가 쉬워짐.
공동 작업 (Collaboration)
- Google Sheets처럼 멀티 사용자 실시간 협업 가능.
- 사용자별 **권한(보기/편집/공유)**을 세부적으로 설정해, 민감 데이터에 대한 접근을 제한.
보안 & Governance
- 데이터를 로컬 PC로 다운로드할 필요가 없어, Excel 파일 유출 위험을 줄임.
- 기업 입장에서는 데이터 접근 이력을 모니터링하고, 정책에 따라 저장/추적 가능.
Write-Back 기능
- 스프레드시트 내에서 필터링·가공한 데이터를 다시 Snowflake/Databricks 등 DW로 “Export”(새 테이블 생성 등).
- 스프레드시트에서 만든 계산 결과나 세그먼트를 공식 데이터 소스로 반영해 조직 전체가 재활용할 수 있음.

2.3 장점 및 차별화

스프레드시트로 느끼는 BI/Analytics
- 기존 BI 대시보드보다 훨씬 유연한 스프레드시트 인터페이스 제공 → 비즈니스 사용자에게 친숙.
- 단순 시각화보다 임시 계산, 시뮬레이션, 모델링 등에 Excel-like 워크플로가 효과적.
초대용량 처리
- 일반 스프레드시트(Excel, Google Sheets)에서는 1백만 행 초과하는 데이터를 다루기 어렵지만, RowZero는 테라바이트급 데이터도 가능.
- 엔터프라이즈 현업 팀이 실제 운영 데이터(수천만 행)를 Excel 형식으로 곧바로 분석할 수 있다는 점이 큰 강점.
보안 & 확장성
- 기업 관점에서 데이터 파일이 무분별하게 로컬에 퍼지는 문제를 방지.
- 클라우드 인프라에서 모든 로깅·접근 통제가 가능하며, 엔터프라이즈 거버넌스와 호환.
원스톱 Write-Back
- 스프레드시트 내에서 한 분석 결과를 즉시 데이터 웨어하우스에 반영할 수 있어, 의사결정 프로세스가 빨라짐.
- “여러 단계 수작업” 없이, 클라우드에 새로운 테이블을 생성 → 다른 BI, ML 시스템과도 자동 연동.

2.4 활용 사례

재무/회계 팀: 매달 대규모 트랜잭션 자료(수백만 행)를 불러와, 피벗 테이블·차트로 요약하고 예산 계획 수립.
마케팅/영업 분석: 고객 데이터(수천만 행)를 Snowflake에서 가져와 세그먼트를 정의, 스프레드시트에서 세그먼트 테이블을 만들어 다시 DW에 저장.
데이터 팀 & 현업의 협업: 데이터 팀이 SQL 쿼리(“데이터 소스”)를 한 번 세팅하면, 현업 사용자는 스프레드시트에서 원하는 방식으로 자유롭게 활용.

2.5 가격 및 도입 방식

SaaS 형태
- RowZero.io에서 회원가입 후, 브라우저 기반으로 바로 사용.
- 팀/엔터프라이즈 등 구독 모델이 존재할 수 있으며, 데이터 처리량 및 사용자 수에 따라 과금될 가능성.
엔터프라이즈 옵션
- 규모가 큰 기업에 맞춘 온프레미스 배포 또는 VPC 환경 지원 여부는 공식 문서를 확인하거나 세일즈 문의가 필요.
- 보안 정책, SSO, 감사 로깅 등 엔터프라이즈 기능을 제공할 수도 있음.

3. 종합 요약

RowZero는 클라우드 기반의 초고용량 스프레드시트 솔루션으로, Excel/Google Sheets와 유사한 사용성을 제공하면서 대규모 데이터(수백만~수억 행)도 빠르게 처리할 수 있습니다.

데이터 웨어하우스(Snowflake, Databricks 등)와 직접 연동해 쿼리 결과를 스프레드시트로 불러오고, 분석·시각화·피벗 등의 작업을 웹에서 수행.
Excel 파일 유출로 인한 보안 위험을 줄이는 동시에, 스프레드시트 내에서 가공한 데이터를 데이터 웨어하우스로 다시 Write-Back하여 조직 전체가 쓸 수 있도록 공유 가능.
대규모 데이터를 다루는 재무·마케팅·영업 등 현업 사용자는 친숙한 스프레드시트 UI로 자유롭게 분석할 수 있어 셀프 서브 BI가 한층 현실화됨.
자세한 가격과 배포 옵션은 공식 웹사이트에서 확인 가능하며, 데모 및 체험판을 통해 실제 활용 시나리오를 검증할 수 있습니다.

https://www.youtube.com/live/Ehhejj7u8eA?si=LIcrkJaXTCRGvo1X

- Spice AI

아래는 Spice AI(https://www.spiceai.io/) 데모 스크립트의 요약과, 해당 제품의 주요 기능 및 특징을 정리한 내용입니다.

1. Demo Script 요약

프로젝트 배경
- Spice AI 팀은 오픈소스 기반으로 데이터 세트와 모델(ML, LLM 등)을 결합해 쉽게 사용할 수 있는 솔루션을 개발 중임.
- 이번 데모에서는 “AI Test Engineer”라는 AI 기반 에이전트를 활용해, 직접 Spice AI 플랫폼(스스로)을 자동 테스트해 보는 과정을 소개.
사용 시나리오
- 팀에서는 매주 새 버전(릴리스)을 빠르게 배포하는데, 문서와 예제(쿡북)만 70개 이상 되어 QA 부담이 큼.
- “AI Test Engineer”가 단 하나의 프롬프트(지시문)로 “Spice 런타임 설치 → 버전 확인 → 쿡북 예제를 실행해 테스트” 과정을 자동 수행.
데모 단계
1. 프롬프트 입력: “런타임을 설치하고, 특정 쿡북 예제를 실행하여 결과(예: 택시 승객 수 평균)를 테스트해줘.”
2. 데이터 연결: Spice 플랫폼에서 “문서/쿡북” 등 필요한 데이터 세트를 SQL-like 쿼리로 조회 가능.
3. 에이전트 오케스트레이션:
  - Research(연구) → Planning(계획) → Execution(실행) 단계를 거쳐, 에이전트가 스스로 작업 순서를 수립하고 테스트 수행.
  - 각 스텝에서 “VM(격리 환경)”을 이용해 실제 명령어를 실행.
4. 결과 보고: 에이전트가 “1.33 (평균 택시 승객)” 같은 최종 체크 값을 구해, 예상 결과와 일치하는지 확인.
5. 로그 및 파일 확인: 모든 실행 로그/결과물은 Spice AI가 기록해, 사후 검증 가능.
구성 방식
- YAML 파일 형태로, 어떤 에이전트를 사용할지(LLM, 데이터 연결, 시스템 프롬프트, etc.), 어떤 데이터 세트에 연결할지를 설정.
- 한 번 설정해 두면, 특정 프롬프트만으로 재사용·확장 가능.
결론
- Spice AI 플랫폼은 “AI Test Engineer”를 통해 완전히 자동화된 QA 프로세스를 시연.
- 매주 릴리스 시, 문서와 쿡북 예제들을 일괄 테스트해 품질 보장을 효율적으로 구현.

2. Spice AI 제품 상세 설명

2.1 개념 및 목표

오픈소스 데이터베이스 + AI 오케스트레이션
- Spice AI는 다양한 데이터 소스(문서, DB, API 등)와 모델(LLM, ML 모델)을 연결·관리할 수 있는 오픈소스 플랫폼.
- AI Agent들이 데이터에 접근하고, 명령(코드 실행, 테스트, 서류 생성 등)을 실행하도록 오케스트레이션하는 기능을 제공.
분산 & 모듈형 접근
- 여러 에이전트(LLM, GPT-계열 등)가 Research → Plan → Execute 단계를 밟는 복잡한 프로세스를 YAML(또는 config)로 손쉽게 정의.
- 각각의 작업은 격리된 VM(샌드박스)에서 자동화되어 안전성과 재현성을 보장.

2.2 주요 기능

고성능 SQL-like Data Warehouse
- Spice AI 내부에 SQL 기반 데이터 스토어가 존재해, 텍스트/JSON 등 다양한 형태의 데이터(문서, 쿡북, log파일 등)를 색인(Index) + 쿼리 가능.
- AI 에이전트는 이 스토어에서 필요한 정보를 가져다 작업 수행.
오케스트레이션 & YAML 설정
- 개발자는 YAML 파일 형태로 **“이 에이전트는 어떤 데이터에 접근 가능한지, 어떤 모델을 사용해 어떤 명령을 실행할지”**를 정의.
- 단순 프롬프트(지시문)만 주면, 자동으로 Research(정보 수집) → Planning(계획 작성) → Execution(실행) 단계가 수행됨.
Research / Planning / Execution 단계별 검증
- 각 단계에서 LLM이 판단한 결과(예: 어떤 파일을 열어볼 것인지, 어떤 명령어를 입력할지)를 스크리닝하여, 품질을 유지.
- 실패하거나 오류가 있으면 재시도 로직(Refine step)도 가능.
격리 VM & mPC
- 실제 코드를 실행하거나 툴 설치/실행 등은 격리된 VM에서 진행.
- AI 에이전트가 VM에 SSH 혹은 명령줄(오버 RPC)로 접근해, OS 레벨의 작업을 자동화할 수 있음.
- 데모에서 “Spice AI 런타임 설치 → 특정 예제 스크립트 실행 → 결과 확인” 과정을 수행한 것과 동일.
워크플로 로그 및 모니터링
- 모든 액션(검색한 문서, 실행한 명령어, 출력 결과 등)이 로그로 남아, 사용자나 QA 팀이 사후 검증/감사 가능.
- Web UI, CLI, 또는 IDE 플러그인 등으로 확인 가능(데모 영상을 통해 UI가 일부 소개됨).

2.3 장점 및 차별화

AI 기반 테스트 자동화
- 스크립트에서는 “AI Test Engineer” 사례를 보여줌. 실제로 이 프레임워크를 확장해, CI/CD 파이프라인에서 AI가 소프트웨어 테스트를 자동 생성·실행·레포팅하도록 가능.
- DevOps/QA 담당자에게 강력한 자동화 이점 제공.
통합 데이터+모델
- 단순히 LLM에게 명령을 주는 것 이상으로, 모델이 접근해야 하는 문서/데이터를 Spice AI DB로 중앙관리.
- **문서 질의(코드 snippet, How-to, API usage)**와 실행(코드 실행, 테스트) 단계를 연결.
Modular & Extensible
- YAML 설정을 통해 에이전트 수, 사용 모델, 데이터 소스, 실행 환경을 자유롭게 조합.
- 오픈소스로 개발돼 사용자 정의 기능(플러그인, Hooks)도 가능.
Production-ready Orchestration
- Spice AI는 작은 PoC부터 엔터프라이즈 규모(수많은 문서/테스트 케이스)에 이르기까지 확장성을 갖춤.
- 매주 릴리스를 하는 프로젝트(데모 사례)에서도 실제로 사용 중 → 안정성 입증.

2.4 활용 사례

AI Test Engineer: 매 릴리스마다 문서·예제를 자동 테스트. QA 팀의 수고를 대폭 줄이고, 지속적 배포(CD) 속도를 높임.
Code Refactoring Helper: LLM에게 특정 레포(Repo)를 분석해 리팩토링 지시. VM에서 코드를 수정 후 빌드/테스트 → 로그 검증.
Data Pipeline Orchestration: AI가 ETL 작업을 자동으로 실행·점검하고, 오류 시 재시도/알림.
DevOps ChatOps: Chat에서 “새 마이크로서비스 인스턴스 배포” 지시문을 주면 Spice AI가 VM에 배포 스크립트를 실행·검증.

2.5 도입 및 가격

오픈소스
- Spice AI는 기본적으로 오픈소스로 제공, GitHub에서 소스코드 확인 및 기여 가능.
- 자체 호스팅(사내/온프레) 또는 클라우드 배포가 가능하며, 확장 플러그인도 커뮤니티에 공유.
엔터프라이즈 에디션
- 대규모 조직이나 추가 기능(보안, 전용 지원, SLA 등)이 필요한 경우 별도 상용 플랜이 있을 수 있음. 공식 웹사이트 참조.

3. 종합 요약

Spice AI는 **데이터(문서, DB 등)와 AI 모델(LLM, ML 모델)**을 손쉽게 연결해, AI 에이전트(“AI Engineer”)가 Research → Plan → Execute 과정을 자동화하는 오픈소스 플랫폼입니다.

YAML 설정을 통해 오케스트레이션을 정의하고, VM에서 실제 명령어·코드·테스트를 수행할 수 있어 DevOps/QA 자동화에 적합.
데모에서는 “Spice AI가 스스로 Spice AI를 테스트”하는 시나리오(“AI Test Engineer” 사례)를 시연해, 주당 릴리스마다 문서와 예제를 자동 QA하는 실제 적용 과정을 보여줌.
오픈소스 라이선스로 자유롭게 시작할 수 있으며, 엔터프라이즈 레벨의 지원/확장도 가능. CI/CD, MLOps, ChatOps 등 다양한 영역에서 AI를 활용한 자동화를 구축하기에 강력한 솔루션으로 기대됨.

자세한 내용과 예시, 소스코드는 공식 웹사이트와 GitHub 저장소에서 확인할 수 있습니다.

https://www.youtube.com/live/EIXOZmkbJHc?si=G85BNkFPUPzpzbPM

- SGLang

아래는 SGLang(https://docs.sglang.ai/) 데모 스크립트의 요약과, 해당 프로젝트의 주요 특징 및 사용 방식에 대한 설명입니다.

1. 데모 Script 요약

프로젝트 개요
- SGLang은 오픈소스로 개발된 고성능 LLM(대규모 언어 모델) 서빙 엔진입니다.
- “가장 빠르고 가벼운(fast & lightweight) 추론(Inference)을 무료로 누구나 사용하게 하자”는 목표로 만들어졌으며, 특정 기업 소속이 아닌 커뮤니티 기반 프로젝트.
핵심 기능 및 장점
- 고성능 추론 엔진: CPU/GPU 등 다양한 환경에서 LLM 추론을 빠르게 수행할 수 있음.
- 초기 로딩 이후 캐시 최적화: 첫 번째 요청(모델 초기화) 후에는 반복 요청에 대해 매우 빠른 응답.
- 다양한 클라이언트 연동: cURL, Python requests, 스트리밍 방식 등 여러 인터페이스로 모델에 질의 가능.
- 오픈소스: 누구나 소스코드를 확인, 포크·개발·배포할 수 있음.
데모 시연 내용
1. 서버 실행: 예를 들어, 8B(80억 파라미터) 규모 모델을 SGLang 엔진에 로드.
2. cURL 요청: 단순 HTTP POST 형태로 프롬프트를 보내면, 모델의 응답이 JSON 등으로 반환됨.
3. Python requests: 유사한 REST API 방식을 통해 질의해, 응답을 텍스트로 수령.
4. 스트리밍 API: 부분적으로 생성되는 토큰(문장)들을 순차적으로 받을 수 있는 방식 지원 → ChatGPT 스타일 실시간 응답.
5. 사용 예시: “프랑스의 수도는?” → “파리는 프랑스의 수도” 같이 모델이 답변함.
설치 및 기본 사용
- 프로젝트 페이지(https://docs.sglang.ai/)에서 설치 방법(예: pip, docker, 혹은 소스 컴파일)을 안내.
- 설치 후, sglang run --model … 같은 명령으로 엔진을 띄우고, REST API 엔드포인트를 통해 질의.
- 예시 스크립트(파이썬, cURL 등)를 복사해 실행하면, 데모와 같은 응답 확인 가능.

2. SGLang 프로젝트 상세 설명

2.1 무엇을 해결하려 하나?

LLM 서빙 문제
- 대규모 언어 모델(예: 수십억 파라미터 이상)을 실제 서비스 환경에서 빠르게 추론하기 위해서는 고성능 추론 엔진이 필요.
- 기존 상용 솔루션(예: OpenAI API)은 강력하지만, 비용이나 커스터마이즈 면에서 제약이 있을 수 있음.
오픈소스 추론 엔진
- SGLang은 누구나 원하는 모델(예: LLaMA, GPT-NeoX, Bloom 등)을 빠르게 로딩하여 API 형태로 제공하도록 지원.
- 미들웨어 없이 직접 로컬 환경에서 실행 가능하므로, 데이터 보안이나 비용 절감 측면에서도 유리.

2.2 주요 기능 및 장점

경량화 및 최적화
- 모델 로딩, 첫 요청 후 캐시, 병렬 처리 등을 최적화해, 동일 하드웨어 대비 더 빠른 응답 가능.
- CPU만으로도 준수한 성능을 낼 수 있으나, GPU(예: CUDA)나 여러 노드 병렬화도 활용 가능(프로젝트 문서 참조).
다양한 모델 호환
- LLaMA, GPT-NeoX, Bloom 등 오픈소스 LLM을 SGLang 엔진에 탑재해 추론할 수 있음.
- 단, 모델별로 약간씩 설정(토큰 제한, 체크포인트 로딩 방식)이 다를 수 있으므로 문서를 참고해야 함.
간편한 API 인터페이스
- RESTful HTTP API를 기본 제공(cURL, Python requests로 간단히 호출).
- 스트리밍 응답(Server-Sent Events, WebSocket 등)으로 토큰이 생기는 즉시 순차 전송.
- 클라이언트 언어(Python, Node.js, Go, etc.)에서 쉽게 연동 가능.
오픈소스 커뮤니티
- 특정 기업 독점 구조가 아니라, 커뮤니티 개선을 통해 성능과 안정성이 계속 발전.
- 이슈 트래커, PR 등을 통해 사용자 제안/버그 리포트가 적극 반영.

2.3 사용 예시 시나리오

개인/스타트업용 ChatGPT 대안: 사내 데이터나 특정 목적으로 미세조정된(파인튜닝) 모델을 로컬에서 직접 서빙하고 싶을 때.
On-premise AI 서비스: 클라우드 의존도를 낮추고 사내 보안 규정에 맞춰 LLM을 운영.
프로토타이핑: 빠르게 LLM API를 띄워 다양한 AI 앱(챗봇, 요약, 질의응답 등)을 실험.

2.4 설치 & 사용 방법 개요

설치
- Docker: docker pull sglang/sg-engine (예시)
- Pip/Conda: 파이썬 환경에서 pip install sglang(가정)
- 소스 빌드: GitHub 저장소를 클론하여 빌드 후 실행.
모델 준비
- 원하는 모델(예: LLaMA 8B 체크포인트)을 다운로드해 로컬 디렉토리에 배치.
- SGLang 설정 파일(YAML 또는 CLI 옵션)에서 해당 모델 경로를 지정.
서버 실행
- sglang run --model [모델 폴더 경로] --port 8000 (예시)
- 로그에 “Server started at http://localhost:8000” 등이 표시되면 준비 완료.
API 호출
- curl -X POST http://localhost:8000/generate -H "Content-Type: application/json" -d '{"prompt":"Hello, how are you?"}'
- JSON 형태로 응답("text": "I'm fine, how can I help you?" 등).
추가 기능
- 스트리밍 응답: 특정 헤더/파라미터(stream=True 등)로 요청하면, 토큰 단위로 실시간 전송.
- 파이썬 예제 코드: requests.post("http://localhost:8000/generate", json={"prompt": ...}).

3. 종합 정리

SGLang(https://docs.sglang.ai/)은 누구나 쉽고 빠르게 LLM(대규모 언어 모델)을 서빙할 수 있는 오픈소스 추론 엔진입니다.

주요 특징
- 경량화·최적화된 구조로 빠른 응답.
- 다양한 모델(예: LLaMA, Bloom) 호환.
- 간편한 HTTP API 및 스트리밍 지원.
- 완전한 오픈소스 형태로, 기업/개인 어떤 환경에서도 자유롭게 사용.
사용 예시
- 간단한 cURL/Python 요청으로 “프랑스 수도?” 같은 질문을 던지고, 모델 응답(“파리”)을 JSON으로 반환받는 데모 시연.
- 스트리밍 모드에서는 ChatGPT처럼 토큰 단위로 실시간 응답을 받을 수 있음.
활용 범위
- 사내 AI 챗봇, 문서 요약 서비스, 코드 자동완성, 연구용 모델 실험 등 다양한 NLP/생성 AI 작업에 적합.
- 온프레미스(사내 서버) 환경에서 보안 요구사항을 지키면서 대규모 모델을 서빙할 수 있다는 점이 강점.

더 자세한 설치 절차, 모델 로딩 예시, API 사용법은 SGLang 문서를 참고하면 되며, 커뮤니티 포럼이나 깃허브 이슈를 통해 지원을 받을 수 있습니다.

https://www.youtube.com/live/Ix_h2LdQ3EU?si=mgCgmPb41wMB2Ibf

- StoryTell AI

아래는 Storytell(https://storytell.ai/) 소개 스크립트의 요약과, 해당 제품의 주요 기능 및 특징에 대한 설명입니다.

1. 스크립트 요약

배경
- Storytell은 엔터프라이즈 환경의 비정형(unstructured) 데이터를 AI로 쉽게 검색, 분석, 활용할 수 있게 만드는 플랫폼.
- 기업 내 데이터의 80% 이상은 데이터베이스나 정형 테이블이 아닌 문서, 보고서, 프레젠테이션, CSV, PDF 등으로 “데이터 레이크(혹은 ‘data swamp’)” 형태에 흩어져 있음.
- Storytell이 이 비정형 데이터들을 LLM이 다룰 수 있는 형태로 통합하여, 단일 창구에서 질의(쿼리)하고 답변을 받도록 한다는 아이디어.
데모 시연 흐름
- 예시 1: “분석가가 2024년 매출 보고서(프레젠테이션 문서)와 회사의 예산(CSV 파일)을 함께 조회해, 회사의 수익성이 어떠한지 묻는 질문”을 던진다면, Storytell은 이 서로 다른 형식의 문서를 하나의 질의로 처리하여 답변을 제공함.
- 예시 2: “고객 지원팀이 NPS 데이터(CSV)와 사용자 피드백(문서 형식)을 함께 조합해서, 어떤 이슈가 가장 큰 영향을 주는지”를 파악.
- Storytell은 문서별 “청크(chunk)”를 생성, 이를 LLM 친화적으로 변환한 뒤, 자체 “LLM Router” 기술로 대용량 데이터를 연결해 대화형 질의에 응답.
- 사용자는 한 단계 깊이 있는 후속 질문을 하거나, 바로 원문에 링크되어 **출처(Reference)**를 확인함으로써 결과를 신뢰할 수 있음.
UI/UX 특징
- 간단한 검색창 또는 “챗GPT 스타일” 질의 화면에서, 엔터프라이즈 내 여러 문서/CSV/PDF 등 비정형 소스를 동시에 조회해 종합적 답변을 생성.
- 결과 내 상세 링크나 참조 원문을 직접 열어볼 수 있어, “신뢰성”(거짓 답변 방지)을 높임.
- 기업 규모가 작아도(1~~10명) 혹은 중간(10~~100명), 커다란 기업(100명 이상)도 활용 가능.

2. Storytell 제품 상세 설명

2.1 어떤 문제를 해결하나?

비정형 데이터가 방대한 상황
- 대다수 기업에서는 구조화된 DB 외에도, PowerPoint, PDF, Word, CSV, 노트 문서 등 방대한 비정형 데이터가 산재.
- 이 파일들을 찾아 일일이 분석하기 어려우며, 다른 부서/포맷 간 호환이 잘 안 됨.
LLM을 활용해 이질적 포맷을 단일 검색/분석
- Storytell은 “LLM Router” 기술로, 각각의 문서를 텍스트 청크로 변환하고, 질의 요청 시 필요한 문서를 선택해 무제한 컨텍스트처럼 처리.
- 그 결과, 사용자는 “CSV 속 재무데이터 + PPT 문서” 결합 정보를 한 번에 검색하고 자연어 답변을 얻을 수 있음.

2.2 주요 기능

문서/파일 수집 & 청크화
- PowerPoint, Word, PDF, CSV, 이미지(가능하다면 OCR) 등 다양한 포맷을 크롤/업로드하여 LLM-friendly chunk로 저장.
- 데이터 라벨링이나 스키마 정의 없이도(또는 최소한) 빠른 준비 가능.
LLM Router
- 대용량 데이터에서 필요한 문서를 빠르게 찾아서, LLM에게 넘김.
- 기존 LLM 컨텍스트 윈도우 제약(수천~수만 토큰)을 넘어서, “무제한”에 가깝게 쿼리가 가능함.
- 문서별 청크 인덱싱 + 검색 → 질의 관련 내용만 LLM에게 제출 → 결과 종합.
대화형 질의 & 후속 질문
- 질문 예시: “2024 매출 전망과 현재 예산 자료를 종합해, 올해 회사가 흑자를 낼 수 있는지 추정해줘.”
- LLM이 여러 소스(PPT, CSV 등)를 참고해서 자연어 답변 제공.
- 사용자는 추가로 “근거 자료를 보여줘”라고 하면, 원문 링크나 인라인 인용 문구로 검증 가능.
사용자 인터페이스 & 권한 관리
- 웹 UI, 검색창(혹은 채팅 UI)로 쉽게 접근.
- 부서/역할별 접근 권한 설정 가능(해당 문서를 볼 수 없는 사람은 결과도 볼 수 없음).
- 통합된 보안/감사 로깅 지원(어떤 문서를 언제 참조했는지 기록).
확장성
- 스몰 스타트업부터 대기업(수십~수백 TB 문서)까지 스케일 업 가능.
- 다양한 LLM(오픈소스, API 기반)과 호환 가능 여부를 문서화(예: OpenAI, Anthropic Claude, Azure OpenAI 등).

2.3 장점 및 차별화

대용량 문서 처리 + 무제한 컨텍스트
- 일반적인 “챗봇” 도구는 수십~수백 페이지를 넘으면 컨텍스트 부족 문제가 생김.
- Storytell은 인덱싱 + 라우팅을 통해, 필요한 부분만 추출·합성해 사실 기반 답변을 최대한 유지.
출처 확인(Reference)
- 답변 결과마다 원문 링크나 원본문서의 하이라이트를 제공하여, “어느 문서에서 무슨 근거를 가져왔는지” 투명하게 보여줌.
- AI “환각(Hallucination)” 발생 시 사용자가 즉시 검증 가능.
마찰 없는 UI
- 사내 검색이나 챗봇처럼 익숙한 형태로 제공되어, 교육 비용이 낮음.
- 더 심층 분석이 필요하면 “Show me more” → LLM이 추가 문서나 내용 기반으로 후속 답변.
엔터프라이즈 통합
- LDAP/SSO 등 기업 인증 시스템과 결합 가능.
- On-Premise 또는 VPC 배포 옵션을 통해, 민감 데이터(예: 기밀 문서)도 외부 유출 없이 내부에서만 처리.

2.4 사용 사례

스타트업: 사내 여러 문서(비즈니스 플랜, 재무 시트, 고객 피드백) 결합 분석. 작지만 문서가 뒤죽박죽인 환경에서 빠른 정보 접근.
중소/중견 기업: 부서 간 문서 공유(재무, 영업, 마케팅)를 “스토리텔”에서 통합 검색 & 챗.
대기업: 거대 문서 레포지토리(수만 건의 PDF, PPT, 보고서)에 대해 “AI 지식 베이스” 구축.
고객 지원: FAQ, 매뉴얼, 릴리스 노트 등을 Storytell에 저장 → 고객 이슈 발생 시 빠른 검색 및 원문 근거 파악.

2.5 가격 및 배포 모델

SaaS 형태
- Storytell.ai에서 회원가입 후, 웹 인터페이스와 클라우드 기반으로 문서 업로드 & 분석.
- 구독 요금제(사용량, 문서 용량, 사용자 수에 따라 차등) 예상.
Enterprise(On-Prem)
- 대규모 기업, 규제/보안 요건이 있는 업종을 위해 사내 설치 또는 VPC 배포 선택 가능(별도 컨설팅).
- 확장성, HA(고가용성), 내부 인증 시스템 연동 등 커스터마이징 가능성.

3. 종합 요약

Storytell은 기업 내 비정형 데이터(PDF, PPT, CSV, Word 등)의 80%를 LLM의 질의 기반으로 만들 수 있는 엔터프라이즈 AI 플랫폼입니다.

문서 업로드 & 인덱싱: 다양한 포맷의 문서를 크롤링 or 업로드하면, Storytell이 LLM 친화적인 청크로 변환.
LLM Router: 질의 시 관련 문서를 선택하여, 사실 기반 답변을 생성하고 출처를 제공.
대화형 UI: 사용자는 자연어로 질문을 던지고, 후속 질문·추가 근거 요청 등 심화 분석을 진행.
엔터프라이즈급 보안 & 거버넌스: 권한 설정, 감사 로깅, On-Prem 배포 등 기업 요구사항 충족.

대표 활용 사례로는 재무·영업·마케팅 문서의 통합 검색/분석, 고객지원용 FAQ·매뉴얼 AI 검색, R&D 문서 질의응답 등이 있으며, 스타트업부터 대기업까지 규모에 맞춰 활용 가능하다는 점이 강점입니다. 보다 자세한 정보와 체험은 공식 웹사이트에서 확인할 수 있습니다.

https://www.youtube.com/live/ZDPkMe_NkPk?si=e75-We4gMTqi2bA_

==================================

제가 이곳에 따로 유투브 라방을 준비해서 간게 아니고 현장에서 즉석으로 결정내린 거라서 그냥 제 iPhone 으로 촬영했습니다.

그래서 배터리 문제도 있고 해서 계속 중간중간 충전 하면서 촬영을 해서요. 놓친 Startup 들이 많이 있습니다.

아래는 촬영은 하지 못했지만 Demo에 참여한 업체 정보 입니다.
간단하게 제품 설명 위주로 하겠습니다.

- CopilotKit AI

CopilotKit AI는 개발자가 코드 생성, 리팩토링, 디버깅 등 다양한 워크플로에서 AI 코파일럿 기능을 쉽게 통합하고 확장할 수 있도록 해주는 솔루션(플랫폼)으로 보입니다. 공식 문서(https://docs.copilotkit.ai/)를 참고하면, 다음과 같은 특징을 요약할 수 있습니다:
1. 개념 및 목적
- 코드 작업을 AI와 협업할 수 있는 코파일럿(Copilot) 기능을 제공.
- 기존 IDE나 CI/CD 파이프라인 등에 간단하게 연동하여, 코드 자동완성·리팩토링·테스트 생성 등 개발 과정을 자동화할 수 있게 함.
2. 주요 기능
1. Generative 코드 생성
  - 개발자가 “특정 기능을 구현해줘”, “데이터 구조 만들기” 등 자연어 명령을 입력하면, AI가 해당 언어나 프레임워크에 맞는 코드를 제안.
  - 불필요한 보일러플레이트 코드나 반복 작업을 줄여 개발 생산성을 높여줌.
2. 리팩토링 & 디버깅 도움
  - 기존 코드 블록을 AI에게 맡겨서 더 최적화된 코드나 가독성 높은 코드로 개선할 수 있음.
  - 오류나 버그 가능성을 AI가 찾아내거나 수정 아이디어를 제시.
3. 테스트 코드 자동 생성
  - 함수·클래스를 AI가 분석해, 유닛 테스트나 통합 테스트를 자동 생성.
  - QA 시간을 단축시키고, 테스트 커버리지를 높이는 데 기여.
4. 다양한 프로그래밍 언어 & 툴 지원
  - JavaScript, Python, Java, Go 등 주요 언어에 대한 학습이 되어 있어, 광범위하게 코드 제안을 해줄 수 있음.
  - CI/CD 파이프라인이나 IDE(Visual Studio Code, JetBrains 계열 등)와의 연동 예시를 문서에서 확인 가능.
5. API/SDK & Customization
  - REST/GraphQL API 혹은 라이브러리(SDK)를 제공하여, 프로젝트/팀 상황에 맞게 AI 사용법을 유연하게 설정 가능.
  - 다양한 프롬프트 템플릿(custom prompt), 모델 파라미터(temperature, max tokens 등) 조정 가능.
3. 사용 예시 워크플로
1. 계정 생성 & 문서 확인
  - CopilotKit AI 문서를 통해 API 키 발급, SDK 설치, 간단한 예제 코드 확인.
2. IDE 플러그인 or CLI 세팅
  - IDE 플러그인을 설치해 자동완성, 리팩토링 기능 즉시 활용,
  - 또는 CLI/CI 환경에서 “AI로부터 코드 생성 → 빌드/테스트 → 검토” 파이프라인 구축.
3. 문제 정의 & 코드 요청
  - “로그인 시스템 구현”이나 “이 API와 통신하는 함수 작성” 등 자연어 프롬프트를 통해 필요 기능 요청.
4. AI가 생성한 코드 검수 & 통합
  - 자동 생성된 코드 확인 후, 필요한 부분만 수정·보완하여 최종 반영.
4. 장점 및 기대 효과
- 개발 속도 향상: 반복적/기본적인 코드 작업 시간을 줄여, 핵심 로직·아키텍처에 집중.
- 코드 품질 개선: 리팩토링이나 테스트 코드 자동 생성으로, 유지보수성과 안정성을 높임.
- 학습 곡선 완화: 팀 내 초급 개발자도 AI 권장사항을 참고하며 빠르게 기능 구현 가능.
5. 요약
CopilotKit AI는 다양한 언어·툴체인과 연동하여 개발자가 AI와 함께 코드를 작성·개선할 수 있도록 돕는 코파일럿 플랫폼입니다. 문서(https://docs.copilotkit.ai/)에는 API/SDK 사용법, IDE 플러그인, 예제 시나리오 등이 정리되어 있으며, 이를 통해 프로젝트 규모(스타트업부터 엔터프라이즈까지)에 맞춰 생성형 AI를 손쉽게 개발 프로세스에 통합할 수 있습니다.

- Moondream AI

Moondream은 **고급 언어 모델(LLM)**을 활용해 다양한 텍스트(주로 스토리, 글, 창의적 콘텐츠)를 생성·관리할 수 있도록 돕는 생성형 AI 플랫폼으로 보입니다. 다음은 공식 문서(https://docs.moondream.ai/)에서 유추할 수 있는 특징 및 개요입니다.
1. 서비스 개념
- 스토리·글쓰기 지원: 사용자나 기업이 원하는 주제·스타일에 맞춰 이야기, 글, 대사 등을 생성하는 기능을 제공.
- 맞춤형 Prompt & 모델 구성: “Prompt”를 설정해 두면, 특정 톤·장르·목적에 맞는 결과물을 지속적으로 생성할 수 있음.
- 에디팅·커스터마이징: 생성된 텍스트를 다시 편집하거나 재생성(Refine)하여, 원하는 최종본에 가깝게 다듬을 수 있는 툴셋이 있을 것으로 보임.
2. 특징 및 기능
1. Storytelling & Creative Writing
  - 동화, 시나리오, 블로그 글 등 자유로운 서사 구조를 가진 텍스트를 AI가 자동 작성.
  - 사용자는 키워드나 줄거리 요약을 제공하고, 원하는 글 톤(예: 유머, 진지, 동화풍)을 선택해 결과물을 얻을 수 있음.
2. 문서·가이드
  - 문서(Documentation) 섹션을 통해 API 사용법, SDK(혹은 라이브러리) 등의 통합 방법을 안내.
  - 개발자가 Moondream 기능을 웹/앱에 손쉽게 통합하도록 REST API, GraphQL, CLI 형태를 지원할 수도 있음.
3. AI Prompt 구조
  - “Prompt”나 “Template”를 미리 정의해 두면, 모델이 일관된 스타일로 텍스트를 생성.
  - 예: “5~7세 어린이를 위한 짧은 동화” 같은 프롬프트 템플릿을 등록해 두면, 클릭 한 번으로 여러 버전의 동화를 얻을 수 있음.
4. 협업 & 버전 관리
  - 생성된 결과물을 여러 사용자(혹은 팀)와 공유하거나, 버전을 저장해가며 수정 과정을 추적할 가능성이 높음(문서상 언급되어 있을 수 있음).
5. 사용 시나리오
  - 동화/짧은 이야기 생성 후, 삽화(이미지) AI와 결합해 전자책이나 콘텐츠로 활용.
  - 콘텐츠 마케팅: 블로그 글, 이메일 카피, SNS 포스팅을 자동화하거나 아이디어를 빠르게 얻기.
  - 개인 창작 지원: 취미로 글을 쓰거나 꿈 일기를 기록하는 사용자들이 쉽게 문학적·창의적 텍스트를 얻을 수 있음.
3. 예시 워크플로
1. 가입 및 문서 확인
  - Moondream에 가입 → 문서(Documentation) 확인해 API 키·SDK 등 설정.
2. 프롬프트/템플릿 작성
  - 원하는 텍스트 스타일, 길이, 목표 독자 등을 지정해 “Prompt” 정의.
3. AI 생성 요청
  - 웹 대시보드나 API 호출을 통해 “이 테마로 동화 1편 만들어줘” 등을 요청.
  - 모델이 텍스트를 생성하여 반환.
4. 결과 검수/수정
  - 필요 시 문체나 내용(등장인물, 줄거리) 등을 추가 요구 → 후속 생성 or 편집.
4. 잠재적 활용 분야
- 어린이 교육·동화: 연령별 맞춤 동화·학습 자료 생성.
- 마케팅 & 브랜딩: 브랜드 스토리, 고객 사례, SNS 시나리오 등.
- 창작·소설: 취미·프로 작가가 빠른 아이디어 발상, 초안 마련.
- 수면/힐링 콘텐츠: 심신 이완을 위한 편안한 스토리(‘꿈’ 테마) 제공.
5. 요약
Moondream은 생성형 AI 기술을 활용하여 스토리·창의적 글 등을 손쉽게 작성할 수 있게 도와주는 플랫폼/서비스로 파악됩니다. 동화에서부터 꿈·수면 관련 스토리, 마케팅 글 등 다양한 텍스트를 생성·편집할 수 있게 해주며, 문서(https://docs.moondream.ai/)에는 구체적인 API 사용법이나 설정 방법이 안내되어 있습니다.
기업·개인 모두, 창의적 글쓰기를 자동화하고 싶거나 텍스트 콘텐츠를 대량으로 생성해야 할 때 유용할 것으로 보입니다.

- CodeIntegrity AI

CodeIntegrity AI는 **테스트코드(TestCode)**가 제공하는 제품 중 하나로, 개발자가 소프트웨어 코드의 무결성(integrity) 및 품질을 AI 기반으로 자동 점검해주는 솔루션으로 보입니다. 아래는 TestCode 공식 사이트의 제품 페이지와 링크드인 정보 등을 토대로 추정한 요약입니다:

1. 개념 및 목표

코드 무결성 & 품질 관리: 소스 코드를 자동으로 스캔하고 분석해, 잠재적 버그나 보안 취약점, 코드 컨벤션 위반 등을 조기에 발견하고 개선하도록 돕는 AI 기반 플랫폼.
개발·운영 효율화: CI/CD 파이프라인에 CodeIntegrity AI를 연동하면, 빠른 피드백(코드 스멜, 린트, 테스트 커버리지 등)을 제공받아 개발 품질과 속도 모두 향상.

2. 주요 기능

AI 기반 코드 분석
- 머신러닝 기법을 이용해, 코드에서 발생 가능한 오류, 취약점, 유지보수성 문제 등을 자동 탐지.
- 일반적인 린팅(linting) 이상의 지능형 분석을 수행할 가능성이 높음.
자동화된 테스트 & 리포트
- 테스트케이스 추천 또는 자동생성 기능을 통해 테스트 커버리지를 높이도록 지원.
- 분석 결과를 리포트(보고서) 형태로 제공해, 개발팀이 어떤 부분을 수정·개선해야 할지 일목요연하게 파악 가능.
CI/CD 파이프라인 연동
- Jenkins, GitLab CI, GitHub Actions 등과 결합해, 커밋/PR 시점에 자동으로 코드 검증을 실행.
- 이슈가 발견될 경우, 상세한 알림 및 수정 가이드를 제공해 개발 속도 및 코드 품질 유지.
보안 취약점 감지
- 코드 내 보안상 위험(예: SQL 인젝션, 불안전한 API 호출) 등을 검출해, 배포 이전에 조치할 수 있도록 안내.

3. 기대 효과

개발 생산성 및 품질 향상: 반복적이고 사람이 놓치기 쉬운 코딩 실수를 AI가 사전에 잡아, 코드리뷰 부담과 버그 발생률을 줄임.
안정적인 릴리스: 보안 취약점을 배포 전 단계에서 탐지함으로써, 배포 후 긴급 수정이나 장애를 예방.
엔터프라이즈급 거버넌스: 대규모 프로젝트에서도 일관된 코드 품질을 유지하고, 규정 준수(Compliance)에도 대응.

4. 요약

CodeIntegrity AI는 소스 코드의 무결성과 품질을 AI로 보장하기 위한 통합 솔루션입니다. 자동 분석, 테스트 생성, 보안 취약점 탐지, CI/CD 파이프라인 연동 등의 기능을 통해, 개발팀이 더 안전하고 효율적인 소프트웨어를 만들 수 있도록 지원합니다. 구체적인 기능과 활용사례는 TestCode 공식 웹사이트 또는 LinkedIn 페이지를 통해 확인할 수 있습니다.

- Pinecone

Pinecone는 AI/머신러닝에서 사용되는 임베딩(Embedding)을 효율적으로 저장·검색하기 위한 클라우드 기반 벡터 데이터베이스(Vector Database) 솔루션을 제공하는 회사입니다. 기존의 키워드·정형 기반 데이터베이스와 달리, 고차원 벡터 형태의 데이터를 빠르게 저장하고 유사도(코사인 유사도, 내적 등) 측정을 통해 실시간으로 유사 콘텐츠를 검색할 수 있게 합니다.

1. 배경 및 필요성

**임베딩(Embedding)**은 텍스트, 이미지, 오디오 등의 데이터를 수백~수천 차원 벡터로 표현한 것.
전통적 DB는 이러한 초고차원 벡터 검색을 빠르게 처리하기 어려움.
Pinecone은 AI/ML 애플리케이션(챗봇, 추천시스템, 검색엔진 등)에서 수십억 건 이상의 벡터를 손쉽게 저장하고, 초고속 검색할 수 있도록 특화된 인프라를 제공.

2. 주요 기능

고성능 벡터 검색
- Pinecone은 ANN(Approximate Nearest Neighbor) 알고리즘을 활용하여, 대규모 임베딩 데이터셋에서도 밀리초(ms) 단위로 유사 벡터를 찾음.
스케일링 & 관리 편의
- 클라우드 기반으로 자동 확장(Autoscaling) 기능을 제공해, 데이터 양이 늘어나거나 요청량이 급증해도 원활하게 대응.
- 인프라, 파티셔닝, 복제 등을 Pinecone 플랫폼에서 처리하므로, 개발자는 간단한 API로만 벡터를 삽입·검색·삭제할 수 있음.
데이터 지속성(Persistence) & 업데이트
- 벡터를 일시적으로만 저장하는 캐싱 서비스가 아닌, 영구 저장(Persistent Storage) 기능이 있어 데이터 손실 방지.
- 벡터 추가·삭제·업데이트를 실시간 혹은 배치 모드로 수행 가능.
기타 기능
- Metadata 필터링: 벡터뿐 아니라, 메타데이터를 함께 저장해 쿼리 시 특정 태그·속성에 맞춰 검색 범위 축소 가능.
- 다양한 언어/환경 지원: Python, Node.js 등 SDK, REST API 등을 제공해 쉽게 통합.

3. 사용 사례

문서 검색 & QA(Question Answering)
- 대규모 텍스트(문서, 이메일, 논문)를 임베딩한 뒤 Pinecone에 저장 → 사용자의 질의(임베딩)와 유사도가 높은 문서/문장을 찾음 → 챗봇/QA 시스템이 해당 맥락으로 응답.
추천 시스템
- 사용자/아이템에 대한 임베딩을 계산해 Pinecone에 저장 후, 유사도를 기반으로 맞춤 추천.
멀티모달 검색
- 이미지·음성도 벡터로 표현 가능하므로, Pinecone을 이용해 비주얼/오디오/텍스트 등 다양한 도메인에 적용.

4. 장점

고성능: 수억 개 이상의 벡터에 대해서도 일관적으로 빠른 검색 응답.
확장성: 클라우드에서 스케일 아웃 가능, 사용자가 인프라 세부 구성 걱정 없이 서비스 사용.
간단한 개발자 경험: REST API 혹은 Python SDK 등으로 구현이 쉬우며, 벡터 삽입/조회가 소수의 함수 호출만으로 가능.

5. 요약

Pinecone는 AI/머신러닝 애플리케이션에서 핵심인 벡터 임베딩 검색을 손쉽게 구현하고, 대규모 데이터에 대해 지연(Latency)을 최소화하는 클라우드 기반 벡터 DB입니다. 특히 문서 검색·QA, 추천 시스템, 멀티모달 검색 등 임베딩 중심의 요구가 큰 분야에서 널리 활용되고 있으며, 기업이 고성능·확장성·편의성을 갖춘 벡터 검색 인프라를 빠르게 도입하도록 지원합니다.

- Hyperparam AI

https://www.linkedin.com/company/hyperparam/

Hyperparam | LinkedIn

Hyperparam | LinkedIn 팔로워 116명 | The Missing UI for Machine Learning | Hyperparam enables exploration and curation of massive ML datasets. By combining 1) a highly scalable browser-based UI with 2) innovative machine learning techniques for dataset

www.linkedin.com

https://hyperparam.app/

Hyperparam - Look At Your Data 👀

hyperparam The missing UI for dataset exploration and curation. Data quality is the most important factor in machine learning success. Hyperparam brings exploration and analysis of massive text datasets to the browser. Drop in a dataset (parquet, etc) to g

hyperparam.app

Hyperparam(https://hyperparam.app/)은 머신러닝(ML) 및 인공지능(AI) 프로젝트에서 하이퍼파라미터(hyperparameter)를 효율적으로 관리하고, 실험(Experiment) 워크플로를 간소화하는 데 초점을 맞춘 플랫폼으로 보입니다. 공개된 도메인과 LinkedIn 페이지를 통해 유추할 수 있는 내용을 정리하면 아래와 같습니다.

1. 개념 및 목표

하이퍼파라미터 최적화 & 실험 추적: 모델 성능을 높이기 위해 다양한 하이퍼파라미터 조합을 시도하는 과정에서, 실험 결과를 자동으로 기록·분석해주는 MLOps 솔루션.
개발/데이터 사이언스 효율성 증대: ML 모델 개발 시 반복적으로 수행하는 하이퍼파라미터 튜닝, 결과 비교, 리소스 관리 등을 자동화해 시간을 절약하고 프로젝트 생산성을 향상.

2. 주요 기능

Experiment Management
- 여러 실험(Experiment)을 한곳에서 쉽게 **추적(Tracking)**하고, 결과·메트릭·로그 등을 대시보드나 보고서 형태로 관리.
- 어떤 하이퍼파라미터 조합이 어느 정도 성능을 냈는지 한눈에 파악.
Hyperparameter Tuning
- Grid Search, Random Search, Bayesian Optimization 등 다양한 검색 기법을 지원해, 최적의 하이퍼파라미터를 자동으로 탐색.
- 모델 성능 개선 과정을 반복해서 수행하여, 최적화된 모델을 빠르게 찾음.
자동화된 워크플로 & 배포
- CI/CD 파이프라인에 쉽게 연동하거나, 클라우드/온프레미스 리소스를 활용하여 자동화된 학습 파이프라인 구성.
- 하이퍼파라미터 탐색 완료 후, 원하는 모델을 선정해 프로덕션 환경에 배포.
협업 & 버전 관리
- 팀 단위로 실험 결과를 공유하고, 모델/하이퍼파라미터 버전을 명확히 관리할 수 있도록 지원.
- 재현성(Reproducibility)을 높이는 데 도움.
확장성
- 대규모 데이터셋이나 대형 모델을 다루는 조직도 필요한 만큼 확장(Scaling)해서 사용할 수 있도록 인프라 지원.
- (추정) 클라우드 제공업체(AWS, GCP, Azure 등) 및 GPU 자원과 연동하여 분산 학습 가능.

3. 기대 효과

모델 개발 효율성 극대화: 반복적인 실험을 자동화하여, 데이터 사이언티스트가 모델 설계·분석에 집중할 수 있음.
신뢰도 & 재현성: 어떤 하이퍼파라미터로 어느 시점에 어떤 성능을 얻었는지 명확히 추적 가능하므로, 팀 내 협업과 결과 검증이 쉬워짐.
프로덕션 연결성: 실험이 끝난 후에도 자동 배포 및 모니터링이 가능하므로, 개발→테스트→운영 전체가 끊김 없이 연결.

4. 요약

Hyperparam은 머신러닝 프로젝트에서 하이퍼파라미터 최적화와 실험 관리를 자동화함으로써, 개발팀이 더 빠르고 체계적으로 모델을 개선하도록 돕는 플랫폼입니다. Experiment Tracking, 다양한 튜닝 기법, 협업·버전 관리, CI/CD 연동 등 MLOps 핵심 기능을 제공하여 ML 실험 워크플로를 종합적으로 지원합니다. 구체적인 기능·도입 사례는 공식 웹사이트 및 LinkedIn 프로필을 통해 확인이 가능합니다.

- Variata AI

Variata(https://variata.ai/)는 웹사이트 도메인과 관련 정보를 종합해 볼 때, 기업용 AI/머신러닝 솔루션을 제공하며, 특히 데이터를 기반으로 여러 변수를 관리·분석하거나 맞춤형 모델을 개발하는 데 주력하는 것으로 추정됩니다. 아래는 일반적으로 유추할 수 있는 개요입니다:

1. 개념 및 목표

데이터 기반 의사결정: 복잡한 변수를 다루는 산업(예: 제조, 금융, 물류 등)에서, AI를 활용해 최적화, 예측, 시뮬레이션 등을 간소화.
맞춤형 ML 모델: 고객사 환경에 맞춰 AI 모델을 커스터마이징하여, 생산성·수익 개선 혹은 리스크 완화를 지원.

2. 가능 기능

복수 변수를 다루는 분석
- 여러 지표(가격, 수요, 재고, 날씨 등)를 고려해 시뮬레이션하거나, 최적 정책을 찾는 멀티밸류 분석.
예측 & 최적화
- 시계열 예측(트렌드 분석), 시뮬레이션 모델(다양한 ‘가정’ 변동 시 결과 예측), 최적화 알고리즘(코스트·효율 극대화).
MLOps 파이프라인
- 데이터 수집→학습→배포→모니터링을 일관되게 처리, 모델 성능이 저하될 때 자동 재학습 등을 수행할 수도 있음(일반적인 AI 솔루션에서 구현하는 형태).
엔터프라이즈 통합
- 기존 ERP, CRM, 데이터 웨어하우스 등과 연동해, 실시간 분석 혹은 배치 분석 가능.
- 클라우드/온프레 환경에서 확장성 있게 운영.

3. 기대 효과

복잡성 극복: 여러 변수가 얽힌 문제(스케줄링, 공급망 계획 등)를 AI 기반으로 해결, 의사결정 속도 및 정확도 향상.
비용 절감 & 효율 개선: AI 예측을 통해 리소스 낭비나 재고 과잉을 줄이고, 매출 혹은 생산성을 높이는 방안을 제안.
협업 지원: 시각화 대시보드나 보고서를 제공해, 데이터 사이언티스트부터 현업 담당자까지 쉽고 명확하게 결과를 이해.

4. 요약

Variata는 기업 대상의 데이터 분석·AI 솔루션으로, 여러 변수를 동시 고려해 예측, 최적화, 시뮬레이션 기능을 제공하는 것으로 추정됩니다. 이를 통해 기업이 복잡한 의사결정 과제를 보다 효율적으로 풀고, 머신러닝 모델 배포 및 운영을 간소화하도록 돕습니다. 자세한 내용은 공식 웹사이트에서 확인하는 것이 좋습니다.

- PocketFlow

PocketFlow AI(https://pocketflow.ai/)는 AI 모델을 경량화하고 최적화하여 엣지(Edge)나 모바일 디바이스 등에서 효율적으로 구동할 수 있도록 돕는 솔루션으로 보입니다. 아래는 일반적으로 파악할 수 있는 특징입니다:

1. 개념 및 목표

모델 경량화: 대규모 신경망(딥러닝 모델)을 압축(compression), 정밀도 축소(quantization), 구조적 최적화(pruning) 등 다양한 기법으로 축소하여, 메모리 사용량과 추론(latency)을 줄임.
엣지/모바일 환경: 서버급 GPU가 아닌 스마트폰, IoT 기기처럼 자원이 제한적인 환경에서도 고성능 AI 모델을 구동할 수 있게 함.

2. 주요 기능

모델 압축 & 최적화
- 신경망 레이어별로 매개변수를 제거(Pruning)하거나 저정밀도(Quantization) 기법을 적용하여 고성능-저크기 모델을 생성.
자동화된 파이프라인
- 개발자가 원하는 목표(속도, 정확도, 모델 크기)와 환경(하드웨어 스펙)을 지정하면, 자동으로 압축 파이프라인이 실행되어 최적 솔루션을 찾음.
다양한 딥러닝 프레임워크 호환
- PyTorch, TensorFlow 등 주요 딥러닝 프레임워크에서 학습된 모델을 가져와, PocketFlow를 통해 최적화 가능(추정).
성능 모니터링 & 분석 도구
- 모델 압축 후의 정확도, 추론 속도, 메모리 사용량 등을 정량적으로 확인해, 여러 버전을 비교하여 선택 가능.

3. 기대 효과

엣지 AI 구현: 클라우드 연결이 어려운 현장(공장, 농장, 이동체)에서 실시간 추론이 가능해짐.
비용 절감: 모델 크기를 줄여 서버 리소스나 네트워크 대역폭 부담을 덜어, 운영 비용 감소.
사용자 만족도: 모바일 앱 사용자에게 빠른 응답(낮은 지연)과 오프라인 AI 기능 제공.

4. 요약

PocketFlow AI는 대형 딥러닝 모델을 경량화해 엣지 기기나 모바일에서 빠르고 효율적으로 실행하도록 최적화하는 솔루션입니다. 모델 압축·최적화 파이프라인 및 다양한 딥러닝 프레임워크 호환 기능을 갖추고 있어, 서버급 모델을 간단히 온디바이스로 옮겨올 수 있도록 돕습니다. 자세한 사항은 공식 웹사이트에서 확인 가능합니다.

- Clearly AI

Clearly AI(https://www.clearly-ai.com/)는 자동화된 머신러닝(AutoML) 기반 솔루션을 통해 기업이 쉽고 빠르게 예측 분석을 수행하도록 돕는 AI 플랫폼으로 보입니다. LinkedIn 페이지와 웹사이트에 따르면, 주된 특징은 다음과 같습니다:

1. 개념 및 목표

비개발자/현업 사용자도 손쉽게 머신러닝 모델을 만들고, 데이터 예측/분석을 수행할 수 있도록 지원.
AutoML을 활용해 모델 구성, 파라미터 최적화 등을 자동화하고, 결과를 직관적인 대시보드로 제공해 의사결정 속도를 높임.

2. 주요 기능

데이터 업로드 & 전처리
- CSV, Excel 등으로 간단히 데이터셋을 업로드 가능.
- 기본적인 클린징·전처리 기능과, 변수(특징) 자동추출 등을 지원할 가능성이 큼.
모델 학습 & 최적화
- AutoML 엔진이 다양한 알고리즘(트리 기반, 회귀, 신경망 등)을 자동 시도하며, 최적 모델을 도출.
- 하이퍼파라미터 튜닝, 교차 검증 등을 백그라운드에서 수행.
예측 대시보드 & 해석 가능성
- 모델 성능(정확도, MAE, ROC AUC 등)을 시각화하여 보여주고, 예측 결과를 분석(특성 중요도, 영향 요인 등)해줌.
- “What-if” 시뮬레이션 등, 해석형(Explainable) AI 기능이 있을 수 있음.
통합 & 협업
- 타 BI 툴이나 데이터 파이프라인과 연동, 혹은 웹 훅/API로 자동화된 예측을 실제 업무에 적용.
- 팀 협업 기능으로, 결과 보고서를 공유하거나 프로젝트 버전을 추적 가능.

3. 기대 효과

개발 리소스 부족 기업이나 팀에서도, 전문가 없이 쉽게 머신러닝 모델을 생성·배포 가능.
데이터 기반 의사결정이 빨라지며, 파이썬·R 등을 모르는 현업 부서도 고급 분석을 수행할 수 있음.
비용 및 시간 절약: 수작업 모델링보다 짧은 기간에 예측 모델 구축 → 효율적 업무 프로세스.

4. 요약

Clearly AI는 AutoML 방식으로 노코드(No-Code) 예측 분석 기능을 제공해, 다양한 산업 분야에서 빠르고 간편하게 머신러닝 모델을 구축·배포할 수 있도록 돕는 플랫폼입니다. 이를 통해 기업은 데이터 분석 역량을 단기간에 강화하여, 보다 정확하고 신속한 의사결정을 내릴 수 있습니다.

- Graphlit AI

Graphlit(https://www.graphlit.com/)은 기업의 데이터를 그래프(Graph) 형태로 시각화·분석하고, 데이터 관계를 한눈에 파악하도록 돕는 AI 기반 데이터 분석 플랫폼으로 보입니다. 웹사이트 및 LinkedIn 정보를 토대로 추정할 수 있는 주요 특징은 다음과 같습니다:

1. 개념 및 목표

그래프 시각화 & 분석: 일반적인 테이블/스프레드시트 형태가 아닌, **노드(개체)와 엣지(관계)**로 데이터를 연결해 구조적으로 파악하는 그래프 기반 접근을 제공.
관계 & 패턴 발견: 복잡한 네트워크·계층 구조 속에서 핵심 인사이트(패턴, 영향도, 연결성)를 발견하고, 문제 해결이나 전략 수립에 적용.

2. 주요 기능

데이터 통합 & 인제스트
- 다양한 소스(데이터베이스, CSV, 클라우드 스토리지)에서 데이터를 불러와 그래프 모델로 변환.
- AI/ML 기술을 활용해 데이터 중복, 정규화, 라벨링 등을 자동으로 처리할 수 있음.
그래프 기반 시각화
- 노드(예: 고객, 제품, 이벤트 등)와 엣지(관계, 이벤트 흐름 등)를 시각적으로 표시해 복잡한 구조를 한눈에 볼 수 있도록 함.
- 마우스나 터치로 확대/축소, 연결점 하이라이트 등을 지원하여, 데이터 관계를 인터랙티브하게 탐색.
분석 & 탐색 도구
- 경로 탐색(Shortest Path), 커뮤니티 탐지(Community Detection), 중심성(Centrality) 계산 등 그래프 알고리즘을 내장해, 중요한 노드나 서브그래프를 찾아낼 수 있음.
- AI 모델을 통한 패턴 인식, 예측 분석(“이 노드의 연결망으로 인해 발생할 이벤트는?”) 가능성을 제공할 수 있음.
협업 & 보고
- 팀원 간 대시보드를 공유하거나, 특정 분석 결과를 PDF/이미지로 내보내어 협업을 용이하게 함.
- 실시간 업데이트(스트리밍) 기능으로, 변화하는 데이터를 지속적으로 시각화.

3. 기대 효과

데이터 관계 & 인사이트 발견: 단순 테이블 관점이 아닌 관계 지향 시각으로 숨겨진 패턴(이상 탐지, 연결 구조, 영향력)을 빠르게 식별.
복잡성 극복: 규모가 큰 네트워크(소셜 그래프, 사기 탐지, 추천 시스템)를 다룰 때, 시각화 기반 분석으로 이해도를 높임.
빠른 의사결정: 중요한 노드(리소스, 인물, 거래)나 핵심 연결고리를 파악해, 효율적인 전략 수립 및 리스크 감소.

4. 요약

Graphlit은 그래프(노드·엣지) 기반 분석을 핵심으로 하는 AI 데이터 분석 플랫폼으로, 복잡한 데이터 속 관계·패턴을 직관적으로 시각화하고, 이를 통해 인사이트를 얻을 수 있도록 돕습니다. 엔터프라이즈나 조직에서는 대규모 네트워크 데이터(고객 관계, 제품 간 연관, 소셜 링크 등)를 Graphlit에 통합해 인터랙티브 시각화, 그래프 알고리즘, AI 기반 예측 등을 활용함으로써 보다 정확하고 빠른 의사결정을 내릴 수 있습니다.

- Boundary AI

Boundary AI는 기업이 데이터 프라이버시, 컴플라이언스, 보안 등 AI 활용 시 발생할 수 있는 다양한 경계(Boundary)를 안전하게 관리하도록 돕는 솔루션을 제공하는 것으로 보입니다. LinkedIn 및 문서(Gitbook) 자료를 토대로 추정한 주요 특징은 다음과 같습니다:

1. 개념 및 목표

데이터 보호 & 거버넌스: 조직 내 AI 시스템에서 민감 정보가 유출되거나 잘못된 방식으로 사용되지 않도록 제어·모니터링.
프라이버시 & 컴플라이언스 준수: GDPR, CCPA 등 규제 요구사항을 충족하고, PII(개인 정보)를 안전하게 처리할 수 있도록 자동 검출 & 마스킹 등의 기능을 지원할 가능성이 큼.
AI 운영 리스크 감소: AI 모델 개발부터 배포까지 전 과정에서 보안·윤리·규제 측면에서 발생할 수 있는 위험 요소를 최소화.

2. 주요 기능

데이터 필터링 및 마스킹
- 업로드되는 데이터에서 개인 식별 정보(PII)나 민감 데이터를 자동으로 식별·마스킹(또는 암호화)해 안전하게 AI에 활용할 수 있게 함.
접근 제어 & 로깅
- 어떤 사용자(또는 서비스)가 어떤 데이터에 접근했는지 기록하고, 필요한 권한 체계(ACL, RBAC 등)를 통해 무단 조회·유출을 방지.
규정 준수 도구
- GDPR, HIPAA, CCPA 등 개인 정보 보호 규정에 맞춰 데이터 취급 절차를 자동화하거나, 보고서 생성·감사 로그 등을 제공.
AI 모델 추적 및 투명성(Traceability)
- 특정 모델이 어떤 데이터셋을 사용했는지, 어떤 버전의 모델이 어떤 시점에 어떤 결과를 출력했는지 등 추적(Tracking) 기능을 지원하여 사후 검증 가능.
자동화 워크플로
- CI/CD 파이프라인이나 MLOps 환경과 연동, 모델 훈련 시 데이터 보호 및 거버넌스 작업을 자동화해 개발 속도를 저해하지 않고 안정성을 유지.

3. 기대 효과

데이터 노출 위험 최소화: AI 프로젝트에서 발생할 수 있는 민감 데이터 유출이나 규제 위반을 줄임.
규정 준수 & 신뢰도 향상: 사내외 감사나 고객/파트너 요구사항에 맞춰, 투명하고 안전한 데이터 프로세스를 증명할 수 있음.
비즈니스 효율성 확보: 보안·프라이버시 관리를 자동화하므로, 개발/운영 팀이 핵심 기능에 집중할 수 있고, 장애나 사고 발생 비용도 줄어듦.

4. 요약

Boundary AI는 AI 프로젝트에서 데이터 보안·프라이버시·컴플라이언스를 실현하기 위한 솔루션으로, 민감 데이터 자동 마스킹·접근 제어·규정 준수 툴 등을 제공함으로써 조직이 AI를 안전하고 책임감 있게 활용하도록 돕습니다. 이를 통해 데이터 유출 리스크를 완화하고, 규제 요구를 준수하며, 개발 효율을 높일 수 있습니다.

- Hal9

Hal9(https://www.hal9.com/)은 노코드/로코드 방식으로 데이터 기반 웹 앱(Data Apps)을 쉽고 빠르게 제작할 수 있도록 돕는 플랫폼으로, 데이터 사이언스와 AI를 결합해 “짧은 시간에 프로토타입부터 배포까지”를 간소화하는 것이 핵심입니다. LinkedIn 및 공식 웹사이트 정보를 종합해 보면 다음과 같은 특징을 갖습니다:

1. 개념 및 목표

데이터 앱 구축의 진입장벽 완화: 코딩 지식이 많지 않은 사용자도 데이터셋을 시각화·분석하고, 이를 웹 앱 형태로 공유할 수 있는 노코드/로코드 툴.
AI 활용: 머신러닝 모델을 간단히 불러오거나, 예측/분석 기능을 데이터 앱에 연동해 지능형 애플리케이션을 빠르게 제작.

2. 주요 기능

드래그 앤 드롭 방식
- 시각적 인터페이스를 통해 데이터 소스(파일, API 등) 연결, 데이터 전처리(정규화, 집계), 시각화(차트, 지도), 모델 적용 등을 블록으로 쌓아가며 조립.
데이터 시각화 & 대시보드
- 몇 번의 클릭만으로 다양한 형태의 차트(바, 라인, 파이, 히트맵 등)를 생성하고, 인터랙티브 대시보드를 구성.
- 여러 데이터 소스를 통합해, 하나의 대화형 인터페이스로 관리 가능.
머신러닝/AI 모듈
- 필요 시 ML 모델(예: 예측, 분류, 군집화 등)을 손쉽게 삽입하여, AI 결과를 앱 내에서 직접 활용.
- 모델 훈련/튜닝을 외부에서 진행하더라도, Hal9 플랫폼에서 모델 결과를 시각적으로 확인 가능.
실시간 배포 & 공유
- 만든 앱을 클라우드에 즉시 배포해, 팀원 혹은 대외 사용자와 공유.
- 웹 브라우저에서 접근할 수 있으므로, 설치나 서버 관리가 필요 없음.
확장성 & 협업
- 코드를 직접 추가하는 모드(로코드)도 제공할 수 있어, 고급 사용자는 JavaScript/Python 등으로 세부 기능을 커스터마이징.
- 협업 기능을 통해 여러 사람이 대시보드를 동시에 수정·확인 가능.

3. 기대 효과

개발 속도 상승: 아이디어 프로토타입을 신속하게 만들고, 반복 개선 가능 → 비즈니스 의사결정 속도 높임.
학습 곡선 완화: 데이터 분석 배경이 없는 사용자도 쉽게 데이터 앱을 구축해 시각화·공유.
비용 절감: 별도 웹 인프라나 전문 프로그래머 없이도 인터랙티브 웹 앱을 생산.

4. 요약

Hal9은 데이터 분석·시각화·AI 기능을 노코드로 조합해 웹 앱 형태로 배포할 수 있게 하는 플랫폼입니다. 직관적인 인터페이스와 블록(모듈) 기반 구성으로, 데이터 사이언스 및 AI 기능을 짧은 시간 내에 웹에 구현할 수 있게 하여, 스타트업부터 엔터프라이즈까지 폭넓게 활용될 수 있는 데이터 앱 빌더 솔루션입니다.

- Temperstack AI

Temperstack는 클라우드 환경에서의 애플리케이션 배포 및 관리를 손쉽게 만들기 위해, 에피메랄(임시) 환경과 자동화된 워크플로를 제공하는 DevOps 플랫폼으로 보입니다. 공식 웹사이트와 문서를 종합해 볼 때, 아래와 같은 특징을 지닙니다:

1. 개념 및 목표

에피메랄(dev/test) 환경: 필요할 때마다 손쉽게 스테이징·테스트용 환경을 생성하고, 일정 시간이 지나면 자동 종료되도록 하여 자원 낭비를 줄이고 개발 효율을 높임.
인프라 자동화: YAML 등 선언형(Declarative) 설정에 기반해, 클라우드 리소스 프로비저닝, 애플리케이션 배포, 환경 삭제 등을 자동화.

2. 주요 기능

빠른 스테이징 환경 생성
- Pull Request나 특정 브랜치가 업데이트되면, Temperstack이 해당 코드를 기반으로 임시 환경(컨테이너/VM)을 자동으로 띄워 QA·테스트가 가능.
- 환경 테스트 후 성공/실패 여부에 따라 자동 정리(Shutdown)해 비용 및 리소스 관리 효율을 높임.
연동 & 확장성
- 주요 클라우드(AWS, GCP, Azure)나 쿠버네티스(Kubernetes) 클러스터와 연동해, 원하는 리소스를 온디맨드로 할당.
- CI/CD 도구(Jenkins, GitHub Actions 등)와도 쉽게 연결하여 엔드 투 엔드(E2E) DevOps 흐름을 구성할 수 있음.
Infrastructure as Code
- 개발자가 선언형 설정 파일(예: YAML)로 인프라와 앱 설정을 정의하면, Temperstack이 배포·모니터링 과정을 자동으로 수행.
- 버전 관리가 용이해, 실수나 오류 발생 시 이전 상태로 롤백도 수월함.
모니터링 & 로깅
- 애플리케이션이 임시 환경에서 동작 중일 때, 로그 수집, 모니터링, 알림 등을 통합해 제공함으로써 디버깅과 성능 진단을 지원.
- 문제가 발생하면 즉시 원인을 파악하고, 필요 시 환경을 폐기·재생성 가능.

3. 기대 효과

개발 속도·품질 향상: 새 기능마다 간편하게 스테이징 환경을 만들 수 있어 QA 사이클이 빨라지고, 더 자주 배포.
비용 절감: 에피메랄 환경은 필요 시에만 살아 있고 테스트 후 자동 제거되므로, 불필요한 클라우드 리소스 소모가 크게 줄어듦.
협업 증진: 팀원들이 동일한 임시 환경에서 쉽게 테스트·검토해볼 수 있어, 코드 리뷰와 QA 효율이 향상.

4. 요약

Temperstack은 클라우드 기반 DevOps를 자동화하고, 임시(에피메랄) 스테이징 환경을 손쉽게 생성·관리할 수 있도록 해주는 플랫폼입니다. 선언형 설정, CI/CD 파이프라인 연동, 모니터링/로깅 지원 등을 통해 개발부터 테스트, 배포에 이르는 과정을 간소화하고, 리소스 활용도를 높이며, 팀 내 협업을 향상시키는 데 기여합니다.

- GenSX AI

GensX(https://www.gensx.com/)는 AI/ML 모델 운영과 성능 최적화를 돕는 엔터프라이즈급 MLOps 플랫폼으로 보입니다. LinkedIn 및 공식 문서(https://www.gensx.com/docs)를 토대로 추정하면, 다음과 같은 특징을 갖습니다:

1. 개념 및 목표

AI 모델의 개발-배포-운영 전 과정을 하나로 연결해, 효율적이고 확장성 높은 MLOps를 구현.
대규모 모델(LLM 등)의 서빙부터 지속적 관측(Monitoring) 및 **최적화(Auto-Scaling, Auto-tuning)**를 통합적으로 제공.

2. 주요 기능

모델 서빙 & 오케스트레이션
- 컨테이너화된 모델(도커, 쿠버네티스 등)을 자동 스케일링하고, 요청량이 늘어나면 자원을 동적으로 할당.
- 고가용성(HA) 구성, 모니터링, 로깅을 내장해, 프로덕션 환경에서 안정적으로 모델을 운영.
CI/CD 파이프라인 통합
- 모델 버전 관리, 테스트, 스테이징 → 프로덕션 자동 배포를 지원.
- GitHub Actions, Jenkins 등과 연동 가능하며, 코드 커밋 혹은 모델 업데이트 시 파이프라인 실행.
Observability & 모니터링
- 모델 추론 지연(Latency), 에러율, 자원 사용량 등을 대시보드로 실시간 표시.
- AI 모델 성능이 일정 임계값 이하로 떨어지거나, 에러가 급증하면 알림·조치(롤백, 재학습) 기능도 예상.
분산 학습 & Auto-scaling
- 대규모 데이터에 대한 모델 학습 시 분산 트레이닝(multi-node, multi-GPU)을 자동화.
- 추론(Serving) 시에도 트래픽 패턴에 따라 오토스케일로 비용 대비 최적 성능을 유지.
보안 & 권한 관리
- 기업 환경을 위한 역할 기반 액세스 제어(RBAC), SSL/TLS 암호화, 감사 로그 등의 보안·거버넌스 기능 내장.

3. 기대 효과

개발 생산성 향상: 복잡한 ML 인프라 설정 없이도, 모델을 신속히 배포하고 유지보수 가능.
비용 효율 & 안정성: 필요한 시점에만 자원을 스케일업/다운해, 리소스 낭비를 줄이고 서비스 연속성을 확보.
엔터프라이즈 거버넌스: 보안, 접근 제어, 모니터링을 통합해, 대규모 기업에서도 규정 준수와 **책임 추적(Traceability)**이 용이.

4. 요약

GensX는 AI/ML 모델을 대규모로 운영하는 조직을 위해 서빙, 배포, 모니터링, 확장 전 과정을 자동화하고 최적화해주는 MLOps 플랫폼입니다. 모델 개발부터 프로덕션 운영까지 이어지는 엔드투엔드(End-to-End) 파이프라인을 구축해, 개발 효율, 비용 절감, 서비스 신뢰성을 크게 높일 수 있는 솔루션으로 볼 수 있습니다.

- ApertureData AI

ApertureData(https://www.aperturedata.io/)는 비정형 멀티미디어 데이터(이미지, 비디오 등)와 이와 연관된 메타데이터/임베딩을 효율적으로 저장·관리·검색할 수 있도록 돕는 AI 데이터 플랫폼을 제공하는 기업입니다. LinkedIn 및 공식 웹사이트, 문서(https://docs.aperturedata.io/)를 종합한 내용을 요약하면 아래와 같습니다:

1. 개념 및 목표

비정형 데이터 관리: 기업이 이미지, 비디오, 오디오, 3D 데이터 등 다양한 형식의 멀티미디어를 쉽고 빠르게 저장·검색하고, 관련 **메타데이터나 임베딩(벡터)**를 함께 다룰 수 있도록 지원.
AI·ML 워크플로 촉진: 딥러닝 모델이 생성하는 임베딩이나 **특성(feature)**를 저장·조회하여, 대규모 데이터셋에서 고성능 AI 분석과 서빙을 가능케 함.

2. 주요 기능

ApertureDB (데이터베이스)
- 벡터 임베딩 + 메타데이터 + 원본 파일(이미지, 영상)을 모두 통합 관리하는 하이브리드 스토리지.
- 대용량 멀티미디어를 위한 분산 구조와 고성능 검색(Nearest Neighbor Search, etc.) 기능을 제공.
검색 & 쿼리
- 콘텐츠 기반 검색(예: 이미지를 벡터화해 유사 이미지를 찾기), 태그/메타데이터 기반 필터, 복합 쿼리 등.
- SQL-like 또는 그래프 질의 방식을 지원해, 복잡한 조건으로 데이터를 조회할 수 있음.
확장성 & 고성능
- 클러스터링을 통해 수억~~수십억 건 이상의 객체(이미지·비디오)도 **수 ms~~수백 ms** 단위로 응답할 수 있도록 스케일링.
- GPU 가속, 분산 병렬 처리를 통해 대규모 AI 워크로드에 대응.
개발자 친화적 API
- Python, C++ 등 다양한 언어 바인딩 혹은 REST/gRPC API를 제공해, 머신러닝 파이프라인과 쉽게 연동 가능.
- ML 프레임워크(TensorFlow, PyTorch 등)로부터 생성된 임베딩을 바로 ApertureDB에 저장하고, 검색/분석할 수 있음.
워크플로 통합
- 데이터 준비(수집·주석), 임베딩 생성, 모델 추론, 결과 저장, 검색/재학습 등의 엔드투엔드 흐름을 간소화.
- 예: 이미지 분류, 객체 인식, 유사 이미지 검색, 추천 시스템 등에 활용 가능.

3. 기대 효과

복합 데이터 관리 단순화: 이미지·비디오·임베딩·메타데이터를 하나의 DB에서 통합 운영 → 데이터 중복 및 관리 비용 감소.
고속 검색: 대규모 멀티미디어(수천만 건 이상)에도 벡터 검색을 최적화해, AI 어플리케이션의 실시간 처리를 가능케 함.
ML 파이프라인 간소화: 임베딩 생성저장활용 과정을 자동화해, 모델 개발 및 운영 속도와 효율을 높임.

4. 요약

ApertureData는 ApertureDB를 중심으로, 이미지·비디오 등의 멀티미디어 데이터와 임베딩을 통합적으로 저장·검색·분석하는 솔루션을 제공하는 기업입니다. 이를 통해 AI/ML 워크플로에서 대규모 비정형 데이터를 체계적으로 관리하고, 고성능 벡터 검색과 데이터 접근을 간소화할 수 있습니다.

- HumanLayer AI

Humanlayer(https://www.humanlayer.dev/)는 업무 커뮤니케이션(이메일·메신저 등)을 효율적으로 정리·관리하고, 자동 응답과 분류 등을 지원하는 AI 기반 플랫폼으로 보입니다. Y Combinator(https://www.ycombinator.com/companies/humanlayer) 소개 자료와 공식 웹사이트를 참조하면, 다음과 같은 특징을 갖습니다:

1. 개념 및 목표

AI로 이메일·메신저 흐름 간소화: 기업이나 개인이 사용하는 이메일, Slack, 기타 커뮤니케이션 채널에서 발생하는 메시지를 AI가 자동으로 분류, 태깅, 요약해 업무 효율을 높임.
스마트 응답 및 자동화: 반복적 질의응답을 AI가 자동 완성하거나, “라벨링/태그”를 붙여 필요한 팀원에게 분배하는 등, 인력 부담을 덜어줌.

2. 주요 기능

메시지 자동 분류 & 태깅
- 고객 지원, 판매 리드, 내부 알림 등 주제/목적에 따라 대량의 이메일·메시지를 AI가 자동 구분.
- 우선순위, 담당자, 프로젝트별로 빠르게 확인해 협업이 용이해짐.
지능형 자동 응답
- 자주 묻는 질문(FAQ)이나 일정 조율 같은 반복 업무를 AI 기반 템플릿으로 처리.
- 필요 시 승인/검토 단계를 거치도록 설정해, 휴먼 인 더 루프(Human-in-the-loop)로 완전 자동화를 조절할 수 있음.
통합 대시보드 & 검색
- 여러 채널(이메일, Slack 등)에서 들어오는 대화를 하나의 인터페이스에서 조회, 검색 가능.
- 과거 이력(이메일 스레드, 과거 응답 예시) 등을 인공지능이 학습해 더욱 정교한 분류·답변 제공.
보안 & 권한 관리
- 민감한 메시지 접근을 제어하고, 데이터 보호를 위한 암호화·토큰 방식 인증 등을 제공.
- 기업 환경에서 **역할 기반 접근 제어(RBAC)**나, 감사 로그 등을 통해 안전한 도입 가능.
확장성 & 연동
- Salesforce, HubSpot 같은 CRM 시스템이나, Zendesk 등 고객 지원 플랫폼과 연계해 티켓 자동 생성, 데이터 동기화 등의 워크플로를 구성할 수 있을 것으로 예상.
- REST API나 웹 훅(Webhook) 방식으로 맞춤 통합도 가능.

3. 기대 효과

반복 업무 절감: 대량의 이메일을 일일이 수작업으로 분류·응답할 필요가 줄어, 팀 생산성이 높아짐.
빠른 대응: 고우선순위 메시지를 즉시 식별하고 템플릿 기반 응답을 통해, 고객 만족도 향상.
협업 효율 증대: 한 곳에서 모든 커뮤니케이션 흐름을 관리하고, 담당자 할당이나 알림을 자동화해 협업 속도 개선.

4. 요약

Humanlayer는 AI를 활용하여 이메일·메신저 등 기업 커뮤니케이션을 자동 분류·정리해주는 플랫폼입니다. 반복 업무를 줄이고, 효율적 응답을 가능케 하여 팀 전체의 커뮤니케이션 속도와 품질을 높이는 데 기여합니다. 개발자나 관리자는 Humanlayer가 제공하는 API나 대시보드를 통해 회사 내 메시지 흐름을 가시화하고, 인공지능 자동화를 단계적으로 적용할 수 있습니다.

그리고 아래는 Seattle Startup Summit 2025 의 Sponsor 들과 Exhibitos 들 입니다.
별도로 Research 하지 않고 회사명만 나열하겠습니다.

Premier Sponsors

Elite Sponsors

Exhibitors

LiquidMetal AI
Elastic
Inngest
Arize AI
GMI Cloud
Hydra AI/Tambo
Pinecone
CodeIntegrity
SampleApp AI
Galileo
Early (Early AI)
Oumi
Lamini
Countsy
JPMC
Seattle Open Source Ecosystem (PyLadies, PyData, Spark)
B.E.L.L.E
Statsig
GitHub
Clarify AI
VISIBLE
Actual AI
Daytona
Entelligence
DigiFab AI
Boundary
Viata
Flickbloom
NewTech NW
Orkes
AI Tinkerers
Future Builderz
OpenPipe
Datastax
WeCP
MeeBoss
InstilluxAI
Spice AI

ommunity Partners

Madrona
Anthos
Ascend
PyData Seattle
GDG Bellevue
PyLadies Seattle
AI Tinkerers
Women in Data Science
AICamp
Cerebral Valley
Mozilla AI
B.E.L.L.E
Young Tech Seattle

Social Media

Mentioned alongside Overland AI, AI2, Blue Origin, FUSE, and NATO DIANA

Time for a reality check. Seattle's dual-use tech scene is absolutely out… | Emeka A.

Time for a reality check. Seattle's dual-use tech scene is absolutely out of control right now. I mean, who can even keep up? Three weeks into January, and…

www.linkedin.com

저작자표시

'Catchup AI' 카테고리의 다른 글

한국인이 만든 추론 방법론 - LLMCompiler, 역시 '싸게, 빨리빨리, 정확하게' AI Agent 만들 (0)	2025.03.27
인도 미녀와 한팀 먹고... AI 해커썬 1등 한 썰 - 6시간만에 뚝딱 앱 완성한 비하인드! (0)	2025.03.22
코딩 몰라도 5분만에 뚝딱! AI로 AI 웹앱을 개발하세요. MS의 Github Copilot 기능이 ㄷㄷ.. 게다가 모두 무료.. (0)	2025.03.17
AI 시대 취업 및 사업 - 이것을 준비하세요. ReWOO 소스코드 분석 및 IT 직무 변화 전망 (0)	2025.03.06
[REWOO] AI 비용절감과 성능 향상을 동시에... 일석 이조 추론 방법론을 제대로 파헤쳐 봅시다. (1)	2025.03.03
세금 보고 AI 활용 꿀팁 공유! 올해는 AI 와 함께 세금 보고 하세요. (0)	2025.02.27
추론 방법론 비교 최종회 - 최강 AI 추론 모델들의 답변은? p.s. 일론 머스크 때문에 순위를 바꾼 사연 (0)	2025.02.24
같은 질문에 대해 AI 들은 얼마나 다르게 답변할까? - 추론 방법론을 물어 봤습니다. - (0)	2025.02.22
AI 시대 준비는 추론에 대한 이해 부터... AI에게 질문을 잘하면 성공합니다. (0)	2025.02.21
MS AI Agent 어플리케이션 개발 환경 Azure AI Foundry 를 쉽게 설명해 주네요. (0)	2025.02.17

Catchup AI

Korea, AI Modeling 에서는 뒤쳐졌지만 AI Agent 시대는 선도할 수 있습니다. - AI Agent 공부하면서 생각한 Platform 사업 아이디어 공유합니다.

2025. 1. 20. 01:11 | Posted by 솔웅

요즘 외국에서 생활하면서 듣는 고국으로부터 들려오는 뉴스들은 많이 우울하네요.

가슴이 아프기도 하고 이대로 무너지지 말고 다시 예전 처럼 경제적으로나 정치적으로나 모범적인 나라로 되돌아가기를 바랍니다.

한편으로는 모국이 잘 되기를 바라는 마음에 국뽕 장착이 되기도 하네요.

저는 AI Agent 를 공부하면서 이 기술이 미래를 바꿀 것이라고 더더욱 확신하게 되었고 그 미래를 주도하는 사람들 중에 Korean이 포함 되기를 바랍니다.

오늘은 LangGraph의 Multi-Agent Systems 공부 한 것을 응용해서 만든 저의 AI Web Application을 소개 합니다.

공부하면서 생각했던 AI Agent Platform Application 아이디어도 함께 공유합니다.

이번 어플리케이션은 공부하면서 구상했던 이 AI Agent Platform 들 중 하나에 대한 POC를 만든다는 생각으로 개발했습니다.

AI Agent 시대에는 일자리를 구하거나 사업을 하는 모습들이 완전히 달라 질 겁니다.

돈 버는 방법이 지금과는 완전히 달라진다는 얘기 입니다.

AI Agent를 공부하면서 이것으로 개발할 수 있는 어플리케이션을 생각하다 보니 자연스럽게 미래의 일하는 방법과 사업을 하는 방법이 그려지게 됐습니다.

그렇게 미래의 변화된 돈 버는 모습을 그려 보게 됐습니다.

오늘은 Study를 위해 개발한 이 어플리케이션 소개와 더불어 AI Agent 시대에 달라질 Business 모습에 대한 저의 Idea도 공유하겠습니다.

AI Modeling 분야에서는 한국이 뒤쳐졌지만, 이제 시작하는 AI Agent 시대는 한국이 선도하도록 여러 분야에서 힘 써 주셨으면 좋겠습니다.

저도 작은 힘이나마 보태고 싶구요.

마이크로소프트, 구글 은 인도 이민자가 이끌고 있고,

테슬라는 남아공 출신인 머스크가 만들었고

NVIDIA 도 대만 출신 이민자가 창업하고 경영을 하고 있습니다.

다가오는 AI Agent 시대는 Korean에서 이와 같은 Top Level 기업을 만들고 운영하는 인재가 나오기를 바랍니다.

여러분들의 생각도 share 해 주세요.

제가 공부를 위해서 만든 Application의 소스코드들은 모두 공개 됩니다.

오늘 비디오에서 사용된 어플리케이션의 소스코드도 공개 됩니다.

https://youtu.be/CLuBhQKAdzo?si=f-Ciip9WZrVquCyT

저작자표시

'Catchup AI' 카테고리의 다른 글

요즘 AI계의 핫 이슈인 추론에 대해 배웁니다 , Inference 와 Reasoning 의 차이점은? (0)	2025.02.05
AI Agent hackathon 참가기 - 이렇게 AI에 미친들이 지금 미국을 바꾸고 있습니다. (0)	2025.02.01
Prompt 중심으로 Backend 소스코드 분석 - AI와 기존 앱의 강점을 최대한 활용하는 것이 Agentic AI 입니다. (0)	2025.01.31
Backend 소스코드 분석 - 이번엔 AI Agent 만의 기능 중심으로 분석해 드립니다. AI Agent 가 하는 일이 무엇인지 확실하게 아시게 됩니다. (0)	2025.01.30
Frontend 소스코드 심층 분석 - session state vs. parameter 개발자의 선택은? (0)	2025.01.24
IonQ's Full-Stack Quantum Innovation - Full Compilation (0)	2025.01.15
AI Agents Explained: A Comprehensive Guide for Beginners - AI 에이전트를 아주 쉽게 설명해 드립니다. (0)	2025.01.12
Crew AI 를 이용한 인맥관리 AI Agent 개발 과정 공유 - 미국 Study Group 조별 발표 (0)	2025.01.10
Hierarchical Agent Teams Architecture 최종회 - AI Agent 로 운영하는 1인 기업의 가능성을 확인하세요. (0)	2025.01.07
Hierarchical Agent Teams Architecture - Research Team 완성 : 미래의 구직은 내가 만든 AI Agent로 할 겁니다. (0)	2025.01.06

Catchup AI

미스창 - 주정부에 Business License Application 등록하기 : ChatGPT를 이렇게 활용하면 편리합니다.

2024. 12. 7. 00:22 | Posted by 솔웅

오늘은 주정부에 Business License Application을 등록하는 방법을 알아보겠습니다.

사실 경험이 없는 일반인으로서 진행하는게 쉽지는 않네요.

하지만 ChatGPT를 이용하면 전문가 조언 받는 것처럼 든든하게 잘 처리할 수 있습니다.

간단히 해당 화면을 Screenshot 떠서 ChatGPT에 물어보면 그 그림 안에 있는 내용을 파악하고 이전에 나와 진행했던 질문 답변도 참고해서 나에게 맞는 선택 사항들을 추천해 줍니다.

이제 이런 비지니스에 필요한 행정 처리도 챗지피티와 같이 하면 다른 사람의 도움 없이 혼자서 완료 할 수 있습니다.

https://youtu.be/uo8x2fbgF8s?si=XkXsqVKMWSmPwVYf

저작자표시

'Catchup AI' 카테고리의 다른 글

계엄과 AI : 계엄 하의 경찰청장 - 판단을 AI 에게 맡긴다면...... (4)	2024.12.15
IonQ's Full-Stack Quantum Innovation Webinar Part 2 - cutting-edge Quantum computing platform (0)	2024.12.14
IonQ's Full-Stack Quantum Innovation Webinar Part 1 - Intro by Margaret Arakawa (0)	2024.12.13
Multi-Agent Network : 두 Agent들이 협업해 Chart를 만들게 하는 소스 코드 집중 분석 합니다. - ft. 탄핵이 답이다. (0)	2024.12.11
Multi-Agent Network - 오늘은 과연 Agent 가 어떻게 생겨 먹었는지 보여드립니다. (0)	2024.12.08
미스창 - IRS에서 EIN 받는 방법 : ChatGPT와 같이 하면 쉽습니다. (1)	2024.12.03
AI Multi-Agent Architectures 공부 시작 - 사실 이거 하려고 직장 때려 쳤는데... 잘 한 선택일까? (0)	2024.12.02
미스창 - 미국에서 내 회사를 만들자, 이렇게 쉽게 할 수 있다고? (1)	2024.11.28
LangGraph - Time Travel : 자신의 과거를 바꾸세요. AI Agent 에서는 가능합니다. (0)	2024.11.18
Part 6 Customizing State - 사람의 개입 설계하기, AI가 판단하게 만드세요 (0)	2024.11.17

카테고리 없음

미스창 - File a Beneficial Ownership Information Report. LLC 등록 후 30일 이내에 해야 ...

2024. 12. 5. 01:48 | Posted by 솔웅

미국에서 스타트업 창업하기 - 미스창 3번째 시간입니다.

오늘은 File a Beneficial Ownership Information Report 하는 방법에 대해 알아 봅니다.

U.S. Treasury’s Financial Crimes Enforcement Network (FinCEN) 에서 해야 되구요. LLC 등록 후 30일 이내에 해야 됩니다.

이것이 뭔지, 왜 해야 되는지 그리고 어떻게 해야 되는지 자세히 설명 드립니다.

https://youtu.be/A8iBRJCvRoo

저작자표시

Catchup AI

미스창 - 미국에서 내 회사를 만들자, 이렇게 쉽게 할 수 있다고?

2024. 11. 28. 14:48 | Posted by 솔웅

"미국에서 LLC 등록, 어렵지 않습니다!"

25년간 IT 업계에서 쌓은 경험을 바탕으로 스타트업 창업을 결심하고, 첫걸음으로 워싱턴주에서 LLC를 등록했습니다.

처음에는 막연하게 어렵게 느껴졌지만, 직접 하나하나 과정을 배워가며 성공적으로 마무리했어요.

이번 영상에서는 제가 경험한 LLC 등록 과정을 공유합니다.

워싱턴주 LLC 등록의 모든 단계

필요한 서류와 비용

처음 창업하시는 분들이 유용하게 활용할 팁까지!

이 영상을 만든 이유는 간단합니다.

저처럼 처음 스타트업을 시작하시는 분들께 믿을 수 있는 정보를 드리고, 창업의 첫걸음을 함께 나누고 싶었기 때문입니다.

창업을 고민 중이신가요?

이 영상이 LLC 등록의 모든 과정을 쉽게 이해하는 데 도움이 될 것입니다.

구독하시면 앞으로도 계속 유용한 정보를 받아보실 수 있으세요.

https://youtu.be/FMoZ_tFAlIU?si=CZMX9NIU0cAmwUip

저작자표시

'Catchup AI' 카테고리의 다른 글

Multi-Agent Network : 두 Agent들이 협업해 Chart를 만들게 하는 소스 코드 집중 분석 합니다. - ft. 탄핵이 답이다. (0)	2024.12.11
Multi-Agent Network - 오늘은 과연 Agent 가 어떻게 생겨 먹었는지 보여드립니다. (0)	2024.12.08
미스창 - 주정부에 Business License Application 등록하기 : ChatGPT를 이렇게 활용하면 편리합니다. (0)	2024.12.07
미스창 - IRS에서 EIN 받는 방법 : ChatGPT와 같이 하면 쉽습니다. (1)	2024.12.03
AI Multi-Agent Architectures 공부 시작 - 사실 이거 하려고 직장 때려 쳤는데... 잘 한 선택일까? (0)	2024.12.02
LangGraph - Time Travel : 자신의 과거를 바꾸세요. AI Agent 에서는 가능합니다. (0)	2024.11.18
Part 6 Customizing State - 사람의 개입 설계하기, AI가 판단하게 만드세요 (0)	2024.11.17
update_state - AI Agent 가 시원찮게 일 할 때. 여러분이 바로 잡을 수 있습니다. (0)	2024.11.15
Human In The Loop (HIL) - 중요한 결정은 인간이 합니다. AI Agent 중요한 결정은 인간이 선택하게 만들기 (1)	2024.11.14
AI에 All In 하려고 막 다니던 직장 그만 두었습니다 : 오늘은 LangGraph 복습하고 AI 진도 쭉쭉 빼겠습니다. (3)	2024.11.11

Catchup AI

What's next for AI agentic workflows ft. Andrew Ng of AI Fund : 이거 꼭 보세요.

2024. 8. 19. 12:11 | Posted by 솔웅

Coursera와 deepliarning.ai를 만들고 Google Brain 도 만들고 활동했던 스탠포드 대학의 앤드류 응 교수의 AI Agentic Workflows 프로젠테이션 입니다.

2024년도 들어서면서 AI 어플리케이션 개발의 트렌드로 각광받고 있는 AI Agentic Workflows 그리고 Multi Agent를 먼저 체험하고 그 경험을 공유합니다.

AI 로 어플리케이션을 개발해야 한다면 꼭 보아야 하는 강의 입니다.

예전에 몇번 봤는데 한국어로 번역하면서 꼼꼼이 보고 싶어서 한번 더 봤습니다.

역시나 놓치고 지나친 곳도 있고 다시 한번 생각 해 보니까 또 다른 insight도 생기고 정말 좋은 시간 이었습니다.

한글로 번역한 김에 Youtube Clip에 한글 자막 달아서 올립니다.

혹시 한번도 못 보신 분이나... 예전에 보셨더라도 한국어 자막을 보면서 더 자세히 이해해 보고 싶으신 분들 추천 드립니다.

이번 강좌에서는 앤드류 응 교수가 AI Agentic Workflow는 일을 시키면 금방 답이 안나올 수도 있어서 좀 기다려야 한다. 초보 매니저가 팀원 일 시켜놓고 5분마다 다 됐냐고 물어보는 식으로 접근하면 안된다고 얘기했을 때 누군가가 크게 웃었거든요.
그 사람이 예전에 수시로 확인하면서 Micro Management를 했던 옛 상관이 생각나서 웃었는지 아니면 AI 는 기계인데 사람처럼 대하라는 말이 웃겨서 웃었는지는 모르겠는데. 하옇든간 크게 웃었습니다.
그 웃음소리를 듣고 앤드류 응 교수가 제가 보기에 동양인 특유의 그런 어떤 웃음을 지었는데 수줍은 웃음인 듯도 하고 (설명은 못하겠고 직접 보세요.) 그 웃는 표정이 가장 자연스럽고 활짝 웃었던 웃음 인것 같았습니다.

그래서 그 장면을 썸네일로 사용했습니다.

https://youtu.be/8b7CLBCS3pg

저작자표시

'Catchup AI' 카테고리의 다른 글

LangGraph Chatbot with Tool 1 - AI 도 못하는게 있어요. Too을 사용해 도와 주세요. (4)	2024.09.16
LangGraph - 점찍고 선만 그으면 됩니다. 정말 쉽게 설명 드립니다. Graph Theory 만 생각하세요. (0)	2024.09.08
Fixing Errors - 지난 시간 과제로 냈던 그 에러. 해결 과정을 단계별로 보여 드립니다. 지금 바로 확인 하세요. (0)	2024.09.07
Refactoring/Enhancement 작업하기 - 필드에서 사용하는 꿀팁 대 방출, 잘 안되면 일단 껐다 켜 보기 ;) (1)	2024.09.02
LangGraph + Streamlit + Claude 로 챗봇 만들기 : AI Agent App 이제 시작입니다. 소스 코드 가져 가세요. (0)	2024.08.26
OpenAI Assistants API 의 Function Calling - ChatGPT의 성능을 훨씬 끌어 올려 줍니다. (0)	2024.08.16
OpenAI Assistants API - OpenAI Agent 의 시작 : 덕분에 ChatGPT가 많이 컸죠. (0)	2024.08.06
AI Agent - 고급 AI Web App을 개발하려면 반드시 알아야 합니다. 오늘 그 기초부터 시작하세요. (0)	2024.08.03
요즘 AI 앱 개발 트렌드 입니다. 이제부터 좀 더 복잡한 AI 앱 개발 기술로 들어갑니다. 우선 Agent란 무엇인지 이해하시면 많은 도움이 됩니다. (IBM 자료) (0)	2024.07.28
챗지피티에게 코딩 시키기 2 - 개발자로서 이런것들을 준비 하세요. 다 길이 있네요. ;) (1)	2024.07.24

IT 기술 따라잡기

공지사항

최근에 올라온 글

최근에 달린 댓글

최근에 받은 트랙백

글 보관함

카테고리

'스타트업'에 해당되는 글 6건

Seattle 지역 AI Startup 다 모였다 - Seattle Startup Summit 2025

1. AI 인프라 / 데이터 관리

2. 개발 툴 / 코드 품질·자동화

3. 엔터프라이즈 AI / 업무 자동화

4. AI 콘텐츠 생성 / 크리에이티브

이렇게 구분해 볼 수 있습니다

5. 요약

- Galileo AI

요약 및 주요 포인트

상세 설명

배경 및 발표 내용

Galileo AI의 역할 및 기능

예상치 못한 세부 사항

보고서: Galileo AI에 대한 상세 분석

발표 스크립트 분석

Galileo AI의 회사 개요

주요 제품 및 서비스

AI 결함 관리 방식

시장 위치 및 경쟁

예상치 못한 세부 사항

결론

주요 인용

- Instillux AI

주요 요약

발표 내용 요약

Instillux.AI에 대한 상세 분석

회사 개요

주요 제품 및 기능

기술 스택

시장 위치 및 경쟁

예상치 못한 세부 사항

상세 비교 표

결론

- IDENTITIES.AI

주요 요약

발표 내용 요약

Identities AI에 대한 상세 설명

회사 개요

주요 제품: AI Companion™

시장 통계 및 중요성

개인적 동기와 사용 사례

예상치 못한 세부 사항

보고서: Identities AI에 대한 상세 분석

발표 스크립트 분석

Identities AI의 회사 개요

주요 제품 및 서비스

시장 통계 및 중요성

개인적 동기와 사용 사례

시장 위치 및 경쟁

예상치 못한 세부 사항

결론

- Emissary AI

주요 요약

플랫폼 개요

주요 기능

보고서: Emissary에 대한 상세 분석

발표 스크립트 요약

Emissary 플랫폼의 상세 기능

사용 사례

시장 위치 및 경쟁

예상치 못한 세부 사항

상세 비교 표

결론

- PixelTable AI

주요 요약

Pixeltable과 Pixelagent 개요

주요 기능

사용 사례

보고서: Pixeltable AI 및 Pixelagent에 대한 상세 분석

발표 스크립트 요약

Pixeltable의 상세 설명

Pixelagent의 상세 설명