AI Agent thông minh: Quản lý bộ nhớ ngắn & dài hạn

AI Agent là các hệ thống có khả năng theo đuổi và đạt được các mục tiêu bằng cách khai thác khả năng lý luận của các mô hình ngôn ngữ lớn (LLM) để lập kế hoạch, quan sát và thực hiện các hành động. Năm 2025, AI Agent được dự đoán sẽ thúc đẩy những thay đổi mang tính chuyển đổi trên toàn bộ lực lượng lao động, tác động đáng kể đến năng suất và hiệu quả, bao gồm hỗ trợ nhân viên trong công việc hàng ngày, triển khai con người số cho các chức năng kinh doanh quan trọng và thậm chí thay thế SaaS doanh nghiệp như chúng ta biết.

Việc xây dựng các hệ thống agentic vẫn là một lĩnh vực đang phát triển và đi kèm với những thách thức mà các nhà nghiên cứu và chuyên gia trong ngành đang tích cực giải quyết. Một thách thức quan trọng là phát triển các mô hình chuyên về các tác vụ lý luận, trái ngược với các tác vụ tập trung vào ngôn ngữ như tóm tắt, vốn là đặc trưng của làn sóng ứng dụng GenAI đầu tiên. Một trở ngại quan trọng khác là quản lý bộ nhớ của AI Agent, thường đòi hỏi phải áp dụng các phương pháp phức tạp để đạt được mức hiệu suất agentic mong muốn.

Bộ nhớ là chìa khóa để làm cho AI Agent hoạt động. Hướng dẫn này bao gồm lý do tại sao nó lại quan trọng, các loại khác nhau, các phương pháp hay nhất để quản lý nó và lý do tại sao Redis nổi bật như một nền tảng dữ liệu lý tưởng cho bộ nhớ agentic. Chúng ta cũng sẽ đề cập đến việc triển khai thực tế để giúp bạn tích hợp bộ nhớ agentic một cách hiệu quả.

Tại sao bộ nhớ lại quan trọng?

Bộ nhớ AI Agent rất quan trọng để nâng cao hiệu quả và khả năng vì các Mô hình Ngôn ngữ Lớn (LLM) không có khả năng ghi nhớ mọi thứ một cách vốn có, tức là chúng là stateless. Bộ nhớ cho phép AI Agent học hỏi từ các tương tác trước đây, lưu giữ thông tin và duy trì ngữ cảnh, dẫn đến các phản hồi mạch lạc và được cá nhân hóa hơn.

Hãy tưởng tượng một AI Agent được thiết kế để lên kế hoạch và đặt các chuyến công tác. Nếu không có bộ nhớ, nó sẽ không nhớ các tùy chọn cá nhân (ví dụ: “Bạn thích các chuyến bay thẳng hay các chuyến bay có quá cảnh?”); mắc các lỗi quy trình do thiếu hiểu biết (ví dụ: đặt một khách sạn không cung cấp các tiện nghi cần thiết cho các chuyến công tác, như phòng họp hoặc Wi-Fi đáng tin cậy); và không thể nhớ lại các chi tiết đã cung cấp trước đó như thông tin hộ chiếu. Điều này dẫn đến trải nghiệm người dùng bực bội với các câu hỏi lặp đi lặp lại, hành vi không nhất quán và thiếu tính cá nhân hóa.

Bộ nhớ ngắn hạn so với dài hạn

AI Agent, giống như con người, dựa vào cả bộ nhớ ngắn hạn và dài hạn để hoạt động hiệu quả.

Bộ nhớ ngắn hạn hoạt động giống như RAM của máy tính, lưu giữ các chi tiết liên quan cho một tác vụ hoặc cuộc trò chuyện đang diễn ra. Bộ nhớ làm việc này chỉ tồn tại trong thời gian ngắn trong một chuỗi hội thoại và thường bị giới hạn do các cửa sổ ngữ cảnh hạn chế của các mô hình ngôn ngữ lớn (LLM) hoặc nhu cầu giảm thiểu thông tin ít liên quan hơn. Đó là nơi các framework agentic như LangGraph xuất hiện. Các framework agentic như LangGraph đơn giản hóa việc quản lý bộ nhớ ngắn hạn bằng cách cung cấp các công cụ như Checkpointer, giúp duy trì ngữ cảnh cụ thể theo luồng. Điều này cho phép các agent lưu trữ bộ nhớ ngắn hạn một cách hiệu quả trong các cơ sở dữ liệu hiệu suất cao như Redis.

Bộ nhớ dài hạn hoạt động giống như ổ cứng hơn, lưu trữ một lượng lớn thông tin để truy cập sau này. Đây là thông tin tồn tại qua nhiều lần chạy tác vụ hoặc cuộc trò chuyện, cho phép các agent học hỏi từ phản hồi và thích ứng với sở thích của người dùng. Những ký ức này có thể được chia thành ba loại (để biết thêm thông tin về các sắc thái của các loại bộ nhớ khác nhau, chúng tôi khuyên bạn nên xem lại bài báo framework CoALA nổi tiếng):

• Bộ nhớ Episodic: Lưu trữ các sự kiện và trải nghiệm cụ thể trong quá khứ, giống như một cuốn nhật ký cá nhân về các tương tác của AI. Ví dụ: AI có thể nhớ rằng người dùng trước đây đã đặt một chuyến đi đến London cho một hội nghị và thích ở lại trung tâm thành phố.
• Bộ nhớ Procedural: Lưu trữ các kỹ năng, quy trình và kiến thức “cách thực hiện” đã học được, tạo thành kho hành động của AI. Ví dụ: AI có thể học quy trình tối ưu để đặt chuyến bay, chẳng hạn như đảm bảo thời gian quá cảnh phù hợp giữa các chuyến bay nối chuyến.
• Bộ nhớ Semantic: Lưu trữ kiến thức chung, sự kiện, khái niệm và mối quan hệ, tạo thành cơ sở kiến thức của AI về thế giới. Ví dụ: AI có thể lưu trữ thông tin về yêu cầu thị thực, các điểm du lịch nổi tiếng hoặc chi phí khách sạn trung bình.

Việc quản lý bộ nhớ dài hạn rất phức tạp do những thách thức như quyết định loại ký ức nào cần lưu trữ, tìm ra những gì cần lưu trữ, cách làm suy giảm các ký ức cũ hơn và cách truy xuất chúng một cách hiệu quả vào bộ nhớ làm việc.

Các quyết định kiến trúc chính để quản lý bộ nhớ dài hạn

Có bốn quyết định cấp cao nhất bạn cần đưa ra khi lập kế hoạch kiến trúc quản lý bộ nhớ của mình:

1. Loại ký ức nào cần lưu trữ?Loại ký ức bạn cần lưu trữ và quản lý có thể phụ thuộc vào loại ứng dụng. Ví dụ: một AI Agent đàm thoại sẽ được kỳ vọng ghi nhớ thông tin trên các luồng về sở thích của người dùng (và do đó lưu trữ bộ nhớ episodic). Mặt khác, một trợ lý AI bán lẻ có thể được yêu cầu lưu trữ thông tin về sản phẩm và thu hồi các sự kiện liên quan từ cơ sở dữ liệu kiến thức sản phẩm (và do đó lưu trữ bộ nhớ semantic).
2. Cách lưu trữ và cập nhật ký ức?Với những hạn chế trong cửa sổ ngữ cảnh LLM và nguy cơ ô nhiễm ngữ cảnh, điều quan trọng là phải lưu trữ ký ức một cách hiệu quả. Có bốn chiến lược phổ biến mà chúng tôi thấy các nhà phát triển sử dụng để lưu trữ ký ức liên quan một cách hiệu quả. Đối với hầu hết các triển khai sản xuất, chúng tôi hy vọng AI Agent sẽ sử dụng kết hợp các kỹ thuật này (lưu ý rằng các kỹ thuật này không loại trừ lẫn nhau và nhiều nhà phát triển có thể muốn sử dụng kết hợp các kỹ thuật này).
   • Tóm tắt: Cách tiếp cận đơn giản nhất là chỉ cần tóm tắt các cuộc trò chuyện trước đó (thường sử dụng LLM). Mô-đun bộ nhớ tăng dần tóm tắt các cuộc trò chuyện, cập nhật và tinh chỉnh bản tóm tắt khi có thêm dữ liệu hoặc trải nghiệm mới. Các cuộc trò chuyện được tóm tắt sau đó có thể được lưu trữ dưới dạng chuỗi trong Redis và được truy xuất để tạo ngữ cảnh cho các truy vấn trong tương lai đến LLM. Một ví dụ về việc triển khai này đã được nhóm Motorhead triển khai trong dự án mã nguồn mở của họ.
   • Vector hóa: Vector hóa nằm ở trung tâm của việc quản lý bộ nhớ AI hiện đại. Nó biến đổi thông tin văn bản thành các biểu diễn số, gói gọn ý nghĩa cơ bản của các từ và khái niệm. Bằng cách phân đoạn ký ức thành các khối rời rạc, chúng tôi khuyên bạn nên sử dụng phân đoạn ngữ nghĩa và vector hóa chúng, các nhà phát triển có thể tận dụng tìm kiếm vector để truy xuất các ký ức liên quan nhất một cách chính xác và hiệu quả.
   • Trích xuất: Một giải pháp thay thế mới nổi cho việc tóm tắt hoặc phân đoạn đơn giản ký ức là trích xuất các sự kiện chính từ lịch sử cuộc trò chuyện và lưu trữ chúng trong một cơ sở dữ liệu bên ngoài với ngữ cảnh về các sự kiện. Một kho tài liệu như RedisJSON cung cấp một giải pháp hoàn hảo để lưu trữ những điều này. Nhóm Langchain gần đây đã chia sẻ một ví dụ về một agent bộ nhớ trích xuất và ghi ký ức.
   • Đồ thị hóa: Một cách tiếp cận khác đôi khi được sử dụng là lưu trữ ký ức AI Agent bằng cách ánh xạ thông tin dưới dạng các thực thể và mối quan hệ được kết nối với nhau. Định dạng có cấu trúc này cho phép lưu trữ bộ nhớ động, giàu ngữ cảnh.
3. Cách truy xuất ký ức liên quan?Hãy tưởng tượng bạn có các khối bộ nhớ được lưu trữ trong một cơ sở dữ liệu như Redis, cùng với các embedding và mô tả văn bản của chúng. Làm thế nào để Agent biết cách truy xuất những ký ức liên quan nhất? Đây là một lĩnh vực nghiên cứu mới nổi với một số cách tiếp cận phức tạp đang được các nhà nghiên cứu thử nghiệm. Ví dụ: bài báo MemGPT áp dụng cách tiếp cận sử dụng LLM làm trình tạo truy vấn, nơi nó có thể đưa ra quyết định về thời điểm truy xuất bộ nhớ dài hạn, tạo truy vấn để thực hiện tìm kiếm (bằng cách tạo mã thông báo gọi hàm) và sau đó sử dụng tìm kiếm vector để truy xuất các khối liên quan. Đối với hầu hết các ứng dụng, chúng tôi khuyên các nhà phát triển nên bắt đầu với tìm kiếm vector của cơ sở dữ liệu bộ nhớ và thêm các tinh chỉnh bổ sung từ đó khi cần.
4. Cách làm suy giảm ký ức?Điều quan trọng là phải làm suy giảm các ký ức được lưu trữ trong các hệ thống AI để ngăn chặn tình trạng phình to bộ nhớ và duy trì hiệu quả. Khi một AI Agent tương tác theo thời gian, nó tích lũy một lượng lớn thông tin, một số thông tin trở nên không liên quan hoặc lỗi thời. Nếu không có cơ chế để quên, bộ nhớ của AI sẽ bị quá tải với dữ liệu vô dụng, dẫn đến thời gian truy xuất chậm hơn, giảm độ chính xác trong phản hồi và sử dụng tài nguyên không hiệu quả. Nếu lưu trữ ký ức bằng Redis, bạn có thể sử dụng các chiến lược loại bỏ và hết hạn tích hợp khác nhau để quản lý hiệu quả sự suy giảm bộ nhớ. Bạn cũng có thể thêm dấu thời gian làm một trường khác trong đối tượng và ảnh hưởng đến kết quả tìm kiếm cuối cùng với một số khái niệm về sắp xếp độ mới.

Điều gì khiến Redis trở thành lựa chọn phù hợp để xử lý bộ nhớ dài hạn?

Có một số lý do tại sao các nhà phát triển thích Redis làm nền tảng của họ để lưu trữ và quản lý ký ức AI Agent. Chúng bao gồm:

• Hiệu suất nhanh: Đọc và ghi ký ức nằm trên “đường dẫn nóng” của luồng ứng dụng của bạn. Thời gian truy xuất chậm có thể ảnh hưởng đáng kể đến trải nghiệm người dùng hoặc buộc các nhà phát triển phải đánh đổi hiệu suất tối ưu. Kiến trúc trong bộ nhớ của Redis đảm bảo các hoạt động đọc và ghi ở mức micro giây, điều này rất quan trọng đối với trường hợp sử dụng này.
• Tìm kiếm vector nhanh nhất và đầy đủ tính năng: Redis cung cấp cơ sở dữ liệu vector gốc đầy đủ tính năng, cung cấp giải pháp tìm kiếm vector được đánh giá nhanh nhất trên thị trường. Với nhu cầu vector hóa và thực hiện tìm kiếm ngữ nghĩa trên ký ức, đây là một yêu cầu quan trọng khi chọn nền tảng dữ liệu của bạn.
• Tích hợp với ngăn xếp AI của bạn: Redis được tích hợp đầy đủ với các framework AI phổ biến bao gồm LangGraph, LlamaIndex và Autogen. Ngoài ra, các nhà phát triển có thể sử dụng RedisVL, một thư viện ứng dụng khách Python chuyên dụng, mạnh mẽ để sử dụng Redis cho các ứng dụng GenAI. RedisVL đi kèm với các trừu tượng tích hợp, bao gồm cả những trừu tượng để quản lý bộ nhớ đàm thoại.
• Khả năng mở rộng: Khi xây dựng các hệ thống agentic, việc dự đoán các yêu cầu lưu trữ cho ký ức AI Agent, số lượng ứng dụng khách cần truy cập và tần suất truy xuất dữ liệu có thể là một thách thức. Redis cung cấp một bộ tính năng tạo điều kiện triển khai quy mô lớn, bao gồm khả năng mở rộng trên nhiều nút, tự động phân tầng dữ liệu ít được truy cập hơn vào đĩa (sử dụng Redis Flex) và hỗ trợ tính khả dụng cao và tính bền bỉ của dữ liệu. Ngoài ra, các chính sách loại bỏ và hết hạn tích hợp của Redis giúp đơn giản hóa sự suy giảm bộ nhớ, đảm bảo xử lý dữ liệu hiệu quả theo thời gian.
• Tính linh hoạt: Redis cung cấp một số tùy chọn cấu trúc dữ liệu ngay lập tức. Các cấu trúc dữ liệu này, như hash (để có hiệu quả hợp lý) hoặc JSON (cho các tài liệu lồng nhau), cho phép các nhà phát triển linh hoạt quản lý bộ nhớ theo cách họ thích.

Chúng tôi giúp việc quản lý bộ nhớ trở nên đơn giản hơn với Máy chủ Bộ nhớ Agent Redis mã nguồn mở của chúng tôi.

Ví dụ về bộ nhớ agent sử dụng LangGraph & Redis

Notebook này trình bày cách quản lý bộ nhớ agent ngắn hạn và dài hạn bằng LangGraph và Redis. Trong đó, chúng ta khám phá:

• Quản lý bộ nhớ ngắn hạn bằng checkpointer của LangGraph
• Lưu trữ và truy xuất bộ nhớ dài hạn bằng RedisVL
• Quản lý bộ nhớ dài hạn theo cách thủ công so với việc hiển thị quyền truy cập công cụ (AKA gọi hàm)
• Quản lý kích thước lịch sử cuộc trò chuyện bằng cách tóm tắt
• Hợp nhất bộ nhớ

Trong notebook, chúng ta xây dựng hai phiên bản của một agent du lịch, một phiên bản quản lý bộ nhớ dài hạn theo cách thủ công và một phiên bản thực hiện bằng cách sử dụng các công cụ mà LLM gọi.

Dưới đây là hai sơ đồ hiển thị các thành phần được sử dụng trong cả hai agent:

Vậy là xong. Hãy bắt đầu xây dựng

Bạn muốn tạo agent của riêng mình? Hãy thử Quickstart LangGraph. Sau đó, thêm checkpointer Redis của chúng tôi để cung cấp cho agent của bạn bộ nhớ nhanh chóng, liên tục. Máy chủ Bộ nhớ Agent Redis là công cụ mã nguồn mở của chúng tôi để quản lý bộ nhớ cho agent và ứng dụng AI.

Sử dụng Redis để quản lý bộ nhớ cho AI Agent của bạn cho phép bạn xây dựng một hệ thống linh hoạt và có khả năng mở rộng, có thể lưu trữ và truy xuất ký ức nhanh chóng. Hãy xem các tài nguyên bên dưới để bắt đầu xây dựng với Redis ngay hôm nay hoặc kết nối với nhóm của chúng tôi để trò chuyện về AI Agent.

Tham khảo: medium.com