Trò chuyện với PDF

"Trò chuyện với PDF" ở đây nghĩa là gì

Trò chuyện với PDF biến một tài liệu tĩnh thành thứ bạn có thể hỏi han. Bạn tải lên một tệp PDF, trang web trích xuất văn bản ngay trên máy, rồi mỗi câu hỏi bạn gõ ra được gửi đi — cùng với văn bản của tài liệu — đến một mô hình ngôn ngữ lớn. Mô hình đọc tài liệu và câu hỏi của bạn cùng lúc rồi trả về câu trả lời. Làm đúng cách, điều này cho phép bạn hỏi những câu như "mục 4 nói gì về việc chấm dứt?" hoặc "tóm tắt ba rủi ro ở trang 7" và nhận câu trả lời hữu ích chỉ trong vài giây.

Cách tiếp cận của chúng tôi thành thật hơn hầu hết: chúng tôi nói thẳng với bạn ngay từ đầu rằng một AI bên thứ ba sẽ thấy tài liệu của bạn. Chúng tôi không thể làm khác: các LLM hiện đại chạy trên GPU của ai đó, chứ không phải trong tab trình duyệt của bạn. Điều chúng tôi LÀM được là giữ imisspdf hoàn toàn nằm ngoài vòng. Bạn chọn nhà cung cấp mà bạn tin tưởng, bạn trả tiền dùng, khóa của bạn ở lại trong trình duyệt và yêu cầu đi thẳng đến nhà cung cấp. Chúng tôi không thấy câu hỏi, không thấy câu trả lời, cũng không thấy tài liệu.

Vì sao là "BYOK" (mang khóa của riêng bạn)

Một dịch vụ SaaS trò chuyện với PDF thông thường thực hiện lệnh gọi LLM qua máy chủ riêng của họ bằng khóa riêng của họ, rồi tính phí thuê bao với bạn. Mô hình đó có hai vấn đề với người dùng coi trọng quyền riêng tư: máy chủ của họ thấy tài liệu của bạn trên đường tới AI, và bạn phải tin vào lời hứa về việc lưu giữ dữ liệu của họ. Chúng tôi né tránh điều này bằng cách đảo ngược kiến trúc: bạn mang khóa và chúng tôi không cần bất kỳ bước máy chủ nào.

Đúng là có một chút công sức thiết lập: bạn cần tạo một khóa API một lần, dán nó vào và chọn một mô hình. Sau đó, mỗi câu hỏi là một lệnh gọi mạng duy nhất từ trình duyệt của bạn đến nhà cung cấp, tính phí vào tài khoản của bạn. Với mức dùng nhẹ, cách này rẻ hơn nhiều so với một gói thuê bao (vài xu cho mỗi chục câu hỏi trên các mô hình giá rẻ như gpt-4o-mini của OpenAI). Với mức dùng nặng, bạn có thể dùng Ollama và không trả gì cả.

Tôi nên chọn nhà cung cấp nào?

• OpenAI (gpt-4o-mini, mặc định): nền tảng tốt. Đáng tin cậy, nhanh, khoảng 0,15 USD cho mỗi 1 triệu token đầu vào. Tốt nhất khi bạn chỉ muốn nó chạy được.
• Anthropic (Claude Haiku): rất mạnh với tài liệu dài và suy luận cẩn thận. Giá xấp xỉ tương đương. Lưu ý: API của Anthropic chính thức không hỗ trợ truy cập từ trình duyệt; công cụ này gửi một header chấp nhận tường minh để cho phép điều đó.
• Google (Gemini Flash): hạn mức miễn phí hào phóng cho mức dùng cá nhân thấp. Nhanh.
• Ollama (tự lưu trữ): không đám mây, không chi phí ngoài tiền điện. Cài Ollama, chạy ollama pull llama3.2, đặt URL gốc thành http://localhost:11434. Tài liệu và câu hỏi không bao giờ rời khỏi máy của bạn.

Quyền riêng tư và bảo mật

Cụ thể: khi bạn nhấn Gửi, trình duyệt của bạn gửi một yêu cầu đến api.openai.com (hoặc api.anthropic.com, generativelanguage.googleapis.com hoặc localhost:11434) chứa khóa API của bạn và chồng tin nhắn: prompt hệ thống kèm văn bản tài liệu, toàn bộ lịch sử trò chuyện và câu hỏi mới của bạn. Nhà cung cấp đáp lại bằng câu trả lời của trợ lý. Hành trình khứ hồi đó diễn ra hoàn toàn giữa trình duyệt của bạn và nhà cung cấp. imisspdf phục vụ HTML/JS cho bạn một lần rồi không tham gia gì nữa.

Khóa API của bạn được lưu trong localStorage["imisspdf.llm.key.<nhà cung cấp>"]. Nó có thể đọc được bởi bất kỳ JS nào chạy trên origin của imisspdf, tức là đoạn JS chúng tôi gửi để trang này hoạt động. Chúng tôi không trích xuất khóa ra ngoài; bạn có thể kiểm chứng bằng cách xem tab Mạng. Để xóa sạch mọi thứ, hãy nhấn "Quên tất cả khóa" hoặc xóa dữ liệu trang trong trình duyệt của bạn.