Trong thời đại mà dữ liệu là tài sản quý giá nhất, việc gửi thông tin nhạy cảm lên các dịch vụ AI đám mây luôn tiềm ẩn rủi ro. Bài viết này sẽ hướng dẫn bạn cách thiết lập Presenton chạy hoàn toàn cục bộ trên MacOS, sử dụng Ollama với hai model riêng biệt cho văn bản và tạo hình ảnh, giúp bạn tạo bài thuyết trình mà không cần kết nối internet hay lo lắng về chi phí API.
Ollama là gì và tại sao nên dùng?
Ollama có thể hiểu như Docker dành cho các mô hình AI. Thay vì gọi API đến OpenAI hay Anthropic, bạn tải trực tiếp các mô hình về máy và chạy chúng hoàn toàn cục bộ. Không cần internet sau lần tải đầu tiên, không mất phí theo token, và quan trọng nhất là dữ liệu của bạn không bao giờ rời khỏi hệ thống của bạn. Ollama tự động quản lý mô hình, tối ưu bộ nhớ và tăng tốc GPU, giúp bạn chỉ cần chạy một câu lệnh đơn giản là đã có một mô hình AI mạnh mẽ sẵn sàng hoạt động.
Các mô hình mã nguồn mở ngày nay đã trở nên rất mạnh mẽ, nhiều mô hình đạt hiệu suất ngang với GPT-3.5 cho các tác vụ tạo bài thuyết trình. Và tất cả đều chạy trên phần cứng mà bạn kiểm soát.
Tại sao Presenton + Ollama là lựa chọn lý tưởng
Khi tạo bài thuyết trình bằng AI, bạn thường xử lý thông tin nhạy cảm như dữ liệu tài chính, kế hoạch chiến lược, thông tin khách hàng hay phân tích cạnh tranh. Nhiều tổ chức ưu tiên giữ dữ liệu này trên cơ sở hạ tầng nội bộ thay vì gửi đến các dịch vụ bên ngoài.
Về chi phí, nếu bạn thường xuyên tạo bài thuyết trình – báo cáo tự động, tài liệu đào tạo hay xử lý hàng loạt – chi phí API có thể trở nên đáng kể. Với mô hình cục bộ, bạn chỉ trả một lần cho phần cứng và có thể tạo không giới hạn bài thuyết trình.
Chuẩn bị: Cài đặt Ollama và các mô hình
Trước khi bắt đầu với Presenton, hãy đảm bảo bạn đã cài đặt Ollama trên MacOS. Bạn có thể tải Ollama từ trang chủ và cài đặt như một ứng dụng thông thường.
Sau khi cài đặt Ollama, bạn cần tải hai mô hình:
– Mô hình xử lý văn bản: Ví dụ `llama3.2:3b` (khoảng 2GB) – nhẹ, chạy tốt trên hầu hết phần cứng
– Mô hình tạo ảnh: Tùy theo nhu cầu, bạn có thể chọn một mô hình như `stable-diffusion` hoặc các mô hình tương thích với Ollama
Chạy lệnh sau trong terminal để tải mô hình:
“`
ollama pull llama3.2:3b
ollama pull [tên_model_ảnh]
“`
Cài đặt và chạy Presenton
Presenton được phân phối dưới dạng container Docker, giúp việc cài đặt trở nên đơn giản và nhất quán trên mọi nền tảng. Dùng ứng dụng trực tiếp trên đa nền tảng.
### Bước 1: Cài đặt Docker trên MacOS
Nếu bạn chưa có Docker, hãy tải và cài đặt Docker Desktop cho Mac từ trang chủ Docker.
### Bước 2: Chạy Presenton với Ollama
Vì bạn đã có Ollama chạy sẵn trên máy Mac, Presenton có thể kết nối đến Ollama server hiện có thay vì tự quản lý mô hình. Mặc định, Ollama chạy tại `//localhost:11434`.
Chạy lệnh sau trong terminal:
docker run -it –name presenton -p 5000:80 \
-e LLM=”ollama” \
-e OLLAMA_MODEL=”llama3.2:3b” \
-e OLLAMA_URL=”//host.docker.internal:11434″ \
-e PEXELS_API_KEY=”your_pexels_api_key” \
-e CAN_CHANGE_KEYS=”false” \
-v “./user_data:/app/user_data” \
ghcr.io/presenton/presenton:latest
**Lưu ý quan trọng cho MacOS**: Thay vì dùng `localhost`, bạn cần sử dụng `host.docker.internal` để container Docker có thể truy cập được Ollama đang chạy trên máy host Mac.
Bước 3: Cấu hình cho hai mô hình
Presenton hiện tại trong cấu hình cơ bản chỉ định một mô hình Ollama duy nhất qua biến môi trường `OLLAMA_MODEL`. Để sử dụng riêng biệt mô hình văn bản và mô hình tạo ảnh, bạn có thể cần:
– Sử dụng mô hình văn bản (ví dụ `llama3.2:3b`) cho việc sinh nội dung slide
– Presenton sẽ gọi đến Ollama để tạo ảnh thông qua cơ chế tích hợp sẵn, sử dụng mô hình ảnh bạn đã cài
Nếu bạn muốn tách biệt hoàn toàn, có thể chạy nhiều instance Presenton với các cấu hình khác nhau, hoặc tham khảo tài liệu nâng cao của Presenton để cấu hình multi-model.
Bước 4: Truy cập và sử dụng
Sau khi container chạy thành công, mở trình duyệt và truy cập `//localhost:5000`. Giao diện Presenton sẽ hiện ra, sẵn sàng để bạn tạo bài thuyết trình với dữ liệu được xử lý hoàn toàn cục bộ.
Lưu ý về hiệu năng trên MacOS
– **Tăng tốc GPU**: Presenton hỗ trợ GPU acceleration. Trên MacOS với chip Apple Silicon (M1/M2/M3), Docker Desktop hỗ trợ GPU acceleration thông qua Rosetta. Bạn có thể thêm flag `–platform linux/amd64` nếu cần.
– **Dung lượng mô hình**: Mô hình càng lớn thì chất lượng đầu ra càng cao nhưng cũng đòi hỏi nhiều tài nguyên hơn. Với MacBook, `llama3.2:3b` là lựa chọn cân bằng tốt giữa chất lượng và hiệu năng.
– **Lần chạy đầu tiên**: Container sẽ tải các dependency cần thiết. Sau đó, mọi thứ sẽ chạy nhanh hơn.
Kết luận
Với Presenton và Ollama trên MacOS, bạn có một giải pháp tạo bài thuyết trình bằng AI hoàn toàn cục bộ, bảo mật và tiết kiệm chi phí. Bạn kiểm soát hoàn toàn dữ liệu của mình, không phụ thuộc vào kết nối internet hay dịch vụ bên thứ ba. Hai mô hình riêng biệt cho văn bản và hình ảnh giúp bạn linh hoạt trong việc tạo nội dung chất lượng cao mà vẫn đảm bảo hiệu năng trên máy Mac của mình.
Hãy bắt đầu trải nghiệm ngay hôm nay và khám phá sức mạnh của AI cục bộ trong việc tạo bài thuyết trình chuyên nghiệp.
Bài viết liên quan: