제품 · ai
모델과 제품 사이의 모든 것.
모델을 호출하는 것은 쉽습니다; 노트북의 프롬프트에서 프로덕션의 워크로드까지 가는 것은 쉽지 않습니다. AI 계층이 그 격차를 닫습니다 — 라우팅, 실행, 오케스트레이션, 검색을 하나의 시스템으로 설계.
gateway
모든 모델을 위한 하나의 문.
코드를 하나의 엔드포인트로 향하게 하고 모델을 별칭으로 호출하세요. 각 별칭 뒤에는 폴백 순서로 시도되는 정렬된 업스트림 체인이 있습니다 — 업스트림 장애는 전쟁실이 아니라 라우팅 결정이 됩니다.
이미 쓰는 모델 엔드포인트를 연결하세요. 자격 증명은 Secret 참조로 살고, 설정에 평문으로 남지 않습니다.
코드는 모델을 이름으로 호출합니다. 어떤 업스트림 체인이 그것을 맡을지는 여러분이 정합니다. 바꾸는 건 체인이지 코드가 아닙니다.
각 모델이 실제로 서빙 중인지 표시됩니다 — 설정 항목에서 추측하지 않고 데이터 경로에서 검증합니다.
key별·윈도별로 요청이나 토큰에 상한을 두세요. 한도는 호출이 착지하는 곳에서 강제되지, 아무도 안 보는 대시보드에서가 아닙니다.
모든 완성은 그것을 일으킨 key에 귀속되고, 롤업은 사용량을 key별·모델별로 나눠 보여줍니다.
Gateway로 프롬프트를 보내고, 콘솔을 떠나지 않고 응답을 보세요.
재무 팀을 위해
모델 사용량은 수수께끼를 그치고, 귀속되고 상한이 있는 메트릭이 됩니다 — key별, 모델별, 윈도별.
sandboxes
사라지기 위해 만들어짐.
어떤 작업은 자신보다 오래 살아서는 안 됩니다. 샌드박스는 신뢰할 수 없는 코드, 평가 실행, 배치 조각을 선택적 time-to-live와 함께 시작하고 — 끝나면 파괴됩니다.
시계가 다하면, 샌드박스도 다합니다.
청소 스크립트가 아니라 일급 액션.
샌드박스는 정확히 부여받은 시크릿과 권한만 받습니다 — 주변에서 오는 것도, 상속되는 것도 없이.
입력, 출력, 상태가 플랫폼이 돌리는 다른 모든 것과 같은 타임라인 위에.
중요할 때는 진짜 연산, 끝나면 사라집니다 — 하나의 실행 이야기이지, 두 개가 아닙니다.
workflows
플랫폼 전체를 아우르는 영구 오케스트레이션.
워크플로는 플랫폼 자체의 능력을 버전화된 단계 그래프로 엮습니다: 게이트웨이로 모델을 호출하고, 샌드박스에서 명령을 실행하고, 인덱스를 질의하고, 기다리고, 갈라지고, 반복합니다.
workflow를 업데이트하면 새 버전이 게시됩니다 — 실행 중인 이력은 정직하게 남습니다.
workflow가 돌면서 각 단계에 체크포인트가 찍힙니다. 긴 파이프라인은 중단을 버티고 멈춘 곳에서 재개합니다.
실행은 상태와 함께 라이브 타임라인에 나타납니다. 끝내면 안 되는 것은 취소하세요.
JSON 입력으로 실행을 시작하고, 실행 타임라인에서 지켜보세요.
엔지니어링 팀을 위해
야간 인덱스 재구축, 다단계 데이터 준비, 모델 평가 스윕 — 부서지기 쉬운 크론 전승 대신, 검토하고 다시 돌릴 수 있는 그래프가 됩니다.
knowledge graphs
당신의 데이터를, 관계로.
검색이 별도의 스택을 요구해서는 안 됩니다. Knowledge Graphs는 당신이 이미 보유한 데이터를 질의 가능한 엔티티와 관계로 만듭니다 — 플랫폼이 그 보관권을 가져가지 않으면서.
이미 보유한 데이터를 가리키세요; 아무것도 이동하지 않고, 아무것도 복사되지 않습니다.
도메인을 노드와 타입 있는 엣지로 모델링하세요 — 순회가 곧 질의입니다.
원시 데이터에서 질의 가능한 그래프까지의 단계적 선언적 빌드 — 재개 가능하고, 반복 가능하고, 눈에 보입니다.
실행에 맡기기 전에, 콘솔에서 바로 어떤 노드에서든 이웃을 따라 걸어 보세요.
검색은 그래프 안의 한 단계이지, 스크립트의 샛길이 아닙니다.
데이터 팀에게
검색 기반은 제품 표면입니다 — 선언, 파이프라인, 질의 — 임시 스크립트 더미가 아니라.
vector indexes
유사성을, 인덱스로.
당신의 콘텐츠에 대한 의미 검색을 인프라처럼 다룹니다: 선언되고, 버전화되고, 워크플로가 다시 구축합니다 — 스크립트를 아직 가진 누군가가 재생성하는 것이 아니라.
인덱스는 프로젝트 안의 이름 있는 리소스입니다 — 타입이 있고, 검사 가능하고, 소유됩니다.
최근접 이웃 검색과 구조화된 필터를 섞어, 답이 올바른 레인에 머물게 합니다.
인덱스 빌드는 워크플로입니다 — 버전화되고, 재개 가능하고, 실행 타임라인에 보입니다.
인덱스는 실제로 서빙 중인지 스스로 보고합니다 — 가정이 아니라 검증으로.
플랫폼 팀에게
검색은 별도의 스택이기를 그만두고, 프로젝트 안의 또 다른 책임 있는 리소스가 됩니다.