이 번역은 AI가 원문 README를 옮긴 것입니다. 원문이 항상 우선합니다.
Omnitool.ai - 당신의 오픈소스 AI 데스크탑
수천 개의 생성형 AI 모델을 발견, 학습, 평가 및 구축하세요.
Omnitool.ai는 학습자, 애호가 및 현재 AI 혁신 물결에 관심 있는 모든 사람을 위해 구축된 오픈소스, 다운로드 가능한 "AI 연구실 상자"입니다. 이는 OpenAI, replicate.com, Stable Diffusion, Google 또는 기타 주요 제공업체의 최신 AI 모델과 단일 통합 인터페이스를 통해 간소화된 실습 상호 작용을 위한 확장 가능한 브라우저 기반 데스크탑 환경을 제공합니다.
!Alt text
데모를 시청하고 YouTube 채널에서 더 많은 비디오를 확인하세요.
Omnitool을 사용하는 이유?
매주 수천 개의 사전 인쇄물과 수많은 "AI 도구"가 출시되면서 빠르게 진화하는 AI 생태계를 따라잡고, 과장과 사실을 분리하며, 장기적인 기술과 학습을 추출하는 것은 엄청나게 어렵습니다. PapersWithCode와 arXiv 논문에 첨부된 GitHub 저장소는 최신 발견을 실습으로 검증하고 적용할 수 있는 기능을 제공하지만, Python 생태계의 취약한 특성과 종종 가파른 하드웨어 요구 사항으로 인해 접근성이 크게 제한됩니다. 마찬가지로 클라우드 기반 모델을 구현하고 테스트하려면 API 문서를 깊이 파고들고 연결 코드를 다루어야 합니다.
우리는 이것이 심각한 문제라고 믿습니다. AI는 물류적 문제에 구애받지 않고 기존 전선, API 인프라 및 앱 전달 플랫폼을 따라 확장되는 최초의 대규모 기술 혼란을 나타낼 수 있습니다. 한편, AI를 채택해야 하는 시장 압력은 많은 비즈니스와 팀이 느끼고 있습니다.
교육받은 의사 결정권자와 기술 전문가 없이는 비즈니스와 공공 조직 모두 과장된 마케팅과 마법 같은 내러티브, 값비싼 모험에 빠질 위험이 높습니다.
Omnitool은 이 상황을 개선하기 위한 우리의 시도입니다: 가능한 한 많은 AI 모델과 연결할 수 있는 단일 통합 인터페이스를 제공하고 "AI 실습까지의 시간"을 절대 최소로 줄이는 것입니다.
Omnitool은 고도로 확장 가능하고 상호 운용 가능합니다. 대부분의 OpenAPI3 기반 서비스를 코드 작성 없이 연결하여 "블록"으로 전환할 수 있습니다. 확장 프레임워크는 사용자 정의 UI(Stability Dream Studio와 같은)부터 게임 엔진(BabyonJS 또는 Phaser와 같은), 이미지 조작 라이브러리에 이르기까지 모든 것의 더 깊은 통합을 가능하게 합니다.
Omnitool이 아닌 것
- Omnitool은 다중 사용자 클라우드 SaaS 제품이 아닙니다. 다운로드 가능한 로컬 설치 제품입니다.
- Omnitool은 코딩을 대체하거나 비엔지니어가 코딩할 수 있도록 하기 위한 노코드 솔루션이 아닙니다. AI 사용 사례와 상호 작용하는 데 초점을 맞추고 있으며, 일반 목적 소프트웨어를 작성하는 것이 아닙니다.
- Omnitool은 프로덕션/엔터프라이즈 소프트웨어가 아닙니다. (아직은.) 안정성보다 최신 기술에 대한 액세스를 최적화하는 연구실이며, 다른 연구실과 마찬가지로 때때로 문제가 발생할 수 있습니다.
목차
- 주요 기능
- 빠른 시작
- 수동 설치
- PocketBase DB 관리자 (고급)
- 다음 단계
- 변경 목록
주요 기능
자체 호스팅 및 오픈소스
- Omnitool은 로컬 자체 호스팅 소프트웨어로, 사용자의 머신을 강력한 AI 연구실로 전환합니다.
- Omnitool을 설치하면 Mac, Windows 또는 Linux 노트북, 데스크탑 또는 서버에서 실행되며, 클라우드 서버가 아닙니다.
- 데이터는 로컬 머신에 저장되며, 선택한 타사 제공업체 API로만 전송됩니다. 업데이트는 GitHub를 통해 관리됩니다.
- Docker 이미지가 곧 제공될 예정입니다.
- 클라우드에서 Omnitool을 실행하는 데 관심이 있으시면 [email protected]로 문의해 주세요.
- 오픈소스 및 개방형 표준
- Omnitool은 오픈소스 소프트웨어로 라이선스되며 OpenAPI와 같은 개방형 표준을 적극 활용하여 상호 운용성과 확장성을 제공합니다.
GPU, Python 설치 관리 및 수많은 API와 인터페이스 학습 없이 생성형 AI 세계에 빠르게 접근
- 최소 시간-투-AI: API 문서를 공부하거나, 보일러플레이트 코드를 작성하거나, Python 가상 환경을 관리하거나, 새로운 사용자 인터페이스를 파악할 필요 없이 몇 분 안에 모델과 서비스를 시험해 볼 수 있습니다. 많은 주요 AI 플랫폼을 통합하기 때문에 "논문에서 코드"로의 실습까지의 지연 시간이 종종 며칠로 단축됩니다.
- 이미지, 비디오, 오디오, 텍스트 및 분류 API를 포함한 방대한 생성형 AI 세계를 단일 통합 사용자 인터페이스를 통해 제공하며, API의 기능을 지나치게 단순화하거나 숨기지 않습니다.
포괄적인 AI 제공업체 지원
- 빠르게 성장하는 주요 AI 제공업체 및 집계업체 목록에서 수천 개의 AI 모델 및 유틸리티 API에 원활하게 액세스할 수 있으며, 모두 상호 운용 가능한 블록을 통해 노출됩니다.
현재 지원:
- LM-studio
- Ollama
- Oobabooga Text Generation UI
- Automatic1111/SD-Next
- Paperless-ng
- Qdrant Vector Store
현재 지원되는 로컬 API:
Omnitool은 URL 또는 직접 제공된 파일을 통해 모든 openapi.json 정의에서 블록을 생성할 수 있습니다. Omnitool이 블록 생성을 안내할 수 있도록 openapi 정의에 추가할 수 있는 여러 사용자 정의 x- 주석을 지원합니다. 또한 기존 API 위에 "패치"를 생성하여 사용자 정의 블록을 만드는 것을 지원합니다. 통합 JSONATA 지원을 통해 순수 데이터를 사용하여 강력한 데이터 처리 블록을 구축할 수 있습니다.
확장 가능한 아키텍처
- 비디오 게임 도구 세트에서 흔히 볼 수 있는 모딩 아키텍처에서 영감을 받은 Omnitool은 처음부터 여러 메커니즘을 통해 확장 가능하도록 구축되었습니다:
- 핫 리로드되는 /commands 추가를 허용하는 간단한 클라이언트 및 서버 스크립트로 편집 및 구축이 간편합니다.
- 클라이언트 확장 - 모든 웹 앱/웹 페이지를 확장으로 전환하고 창 시스템을 통해 Omnitool의 데스크탑에 직접 통합할 수 있습니다. Omnitool의 클라이언트 SDK는 확장에 플랫폼 기능의 전체 범위를 노출하여 Omnitool에서 활성화된 모든 API 또는 레시피를 사용하여 앱이나 도구를 작성할 수 있습니다.
- 서버 확장 - JavaScript로 작성된 서버 확장으로 새로운 블록, API 및 핵심 기능을 추가할 수 있습니다.
- 현재 사용 가능한 확장의 몇 가지 예:
- omni-core-replicate: replicate.com의 모든 AI 모델을 Omnitool에서 사용 가능한 블록으로 가져올 수 있는 핵심 확장
- omni-extension-sharp: 강력한 sharp 이미지 처리 라이브러리를 기반으로 형식 변환, 마스킹, 합성 등 다양한 이미지 조작 블록을 추가하는 확장
- omni-extension-minipaint: 앱을 벗어나지 않고 이미지를 빠르게 생성하고 편집하는 데 유용한 강력한 사진 편집 도구
- omni-extension-openpose: controlnet/diffusion 모델용 가이드 이미지를 생성하는 데 유용한 OpenPose 기반 포즈 추정 및 생성 도구 키트
- omni-extension-tldraw: TLDraw 기반 화이트보드/스케치 확장으로 시각적 변환기 및 확산 모델에 대한 입력 생성에 유용
- omni-extension-wavacity: 오디오 콘텐츠 생성 및 편집에 유용한 최첨단 오디오 레코더/편집기인 Audacity의 전체 wasm 구현
📖 문서
Omnitool Docs
빠른 시작 가이드
현재 Windows 및 macOS용 설치 프로그램을 테스트 중입니다. 공개적으로 사용 가능해질 때까지 수동 설치 단계를 따르세요.
수동 설치
이 가이드는 Omnitool 소프트웨어를 다운로드한 다음 로컬 머신의 디렉토리에서 Omnitool 서버를 빌드하고 시작하는 방법을 안내합니다.
그런 다음 로컬 머신의 웹 브라우저에서 Omnitool 소프트웨어에 액세스할 수 있습니다.
- 사전 요구 사항
다음 소프트웨어가 설치되어 있는지 확인하세요:
- 소스 코드 가져오기
- 터미널을 엽니다.
- Omnitool을 설치할 위치로 이동합니다.
- 다음 명령을 사용합니다:
git clone https://github.com/omnitool-ai/omnitool
이렇게 하면 omnitool 폴더가 생성됩니다.
- 이제 Omnitool 폴더 안으로 이동합니다. 기본적으로:
cd omnitool
- 소스 종속성 설치
저장소 루트에서 다음 명령을 실행하여 필요한 종속성을 설치합니다:
yarn install
문제 해결
- PYTHON 3.12 - 일부 사용자는 누락된 Python 모듈 'distutils'로 인해 yarn 설치 실패를 보고합니다. 이 문제를 해결하려면 수정 스크립트를 실행하여 잠재적인 문제를 감지하고 자동 수정한 후 다시 시도하는 것이 좋습니다. 또는 터미널에서 'setuptools'를 pip 설치할 수 있습니다.
node setup\fix.js
- 서버 빌드 및 시작
이제 yarn과 Node.js를 사용하여 로컬 머신에 서버 소프트웨어를 빌드하고 실행합니다.
Windows:
start.bat
MacOS/Linux:
성공하면 다음 메시지가 표시됩니다:
◐ Booting Server
✔ Server has started and is ready to accept connections on http://127.0.0.1:1688.
✔ Ctrl-C to quit.
- 웹 브라우저에서 Omnitool 열기
이제 Omnitool.ai에 다음 주소로 액세스할 수 있습니다:
127.0.0.1:1688
- 샘플 레시피 탐색
메뉴에서 "Load Recipe" 버튼을 사용하여 다양한 레시피를 탐색하세요.