Bộ nhớ
Truy xuất có cơ sở trên tài liệu của chính bạn, kèm theo biên nhận chứng thực.
Chức năng
Tài liệu, bản ghi chép và tệp tải lên được chia nhỏ, nhúng (embed) và lập chỉ mục, sau đó được truy xuất bằng sự kết hợp giữa độ tương đồng vector, khớp từ khóa và độ trung tâm đồ thị tại thời điểm trả lời. Các đoạn văn bản được truy xuất đi kèm biên nhận chứng thực, nhờ đó câu trả lời có thể chỉ ra nguồn tạo ra nó, và các quy tắc truy cập sẽ lọc kho ngữ liệu trước khi truy xuất thay vì sau đó.
Tại sao nó quan trọng
Một tác nhân không thể trích dẫn là một tác nhân bạn không thể kiểm chứng. Truy xuất kèm biên nhận chứng thực biến câu nói "AI bảo thế" thành "tài liệu này nói thế, nó đây này", đó là sự khác biệt giữa một bản thử nghiệm và một sản phẩm bạn thực sự cho phép giao tiếp với khách hàng.
Cách thức hoạt động
Việc lọc quyền truy cập diễn ra trước khi truy xuất
Kho ngữ liệu mà tác nhân có thể tìm kiếm đã được thu hẹp bởi chính sách, vì vậy lỗi phân quyền không thể hiển thị dưới dạng trích dẫn bị rò rỉ.
Tính điểm kết hợp, không chỉ dựa vào vector
Độ tương đồng vector được kết hợp với khớp từ khóa và độ trung tâm đồ thị, giúp các định danh chính xác và các thuật ngữ hiếm gặp vẫn có thể tìm thấy được.
Câu trả lời đi kèm biên nhận đối chiếu cơ sở
Đoạn văn bản tạo ra khẳng định được đính kèm trực tiếp vào khẳng định đó, thay vì được tái dựng lại sau đó.
Câu hỏi
- Tác nhân có nhớ các cuộc trò chuyện của chúng tôi không?
- Không theo cách hiểu thông thường về "bộ nhớ". Đây là việc truy xuất trên tài liệu bạn cung cấp. Lịch sử trò chuyện được lưu giữ theo từng phiên; nó không được đúc kết thành một hồ sơ dài hạn.
- How does retrieval work?
- Documents are chunked, embedded and indexed. At answer time a hybrid of vector similarity, keyword match and graph centrality selects the best passages, and each one carries a receipt back to its source.
The rest of the bag
Quyền trên từng tài liệu giúp lọc câu trả lời, không chỉ lọc các trang.
Việc phân giải chính sách được lưu vào bộ nhớ đệm cho mỗi phiên để tăng tốc độ; thay đổi quyền sẽ lan truyền khi bộ nhớ đệm bị vô hiệu hóa thay vì ngay lập tức trên mọi yêu cầu đang xử lý.
Mỗi thư mục và mỗi tài liệu lá đều mang một chính sách truy cập: công khai, đã đăng nhập, hoặc được chủ sở hữu phê duyệt. Các chính sách này phân giải thành một lớp bọc cho mỗi phiên giúp lọc những gì tác nhân có thể truy xuất trước khi trả lời. Một sổ đăng ký chức năng sẽ chặn toàn bộ tính năng theo từng tenant, và các kiểm tra truy cập quan trọng sẽ mặc định đóng khi gặp lỗi.
Tài liệu
Một cây thư mục mà tác nhân đọc, và một tệp cấu hình mà nó tuân theo.
Việc trích xuất hỗ trợ các tệp PDF, bảng tính và bản ghi lời thoại. Các định dạng nhị phân lạ sẽ không được phân tích cú pháp.
Sự kiện
Một nhật ký bền vững ghi lại những gì các tác nhân đã làm, và lý do tại sao.
Bus sự kiện trong tiến trình (in-process event bus) là một bộ phát đơn nút, không phải là một trình môi giới phân tán. Bản ghi liên tác nhân bền vững là một nhật ký tác vụ Postgres riêng biệt.
That was step 5 of 6: the agent consults its bag. Next, tasks, delegation edges, decisions and artifacts persist as rows you can replay, and the spend is already accounted for.