Cơ sở tri thức AI và tính bảo mật: 7 câu hỏi mọi nhà cung cấp dịch vụ nên đặt ra trước khi ghi lại các cuộc trao đổi với khách hàng

Vì sao có bài viết này

Một cơ sở tri thức AI có khả năng ghi âm/ghi hình, phiên âm và giúp tìm kiếm trong các cuộc trao đổi với khách hàng là một bước tăng năng suất lớn đối với các nhà cung cấp dịch vụ. Trước đây, chúng tôi đã viết về cách cơ sở tri thức AI theo từng dự án cuối cùng trở nên thông minh nhờ chính công ty của bạn—nhưng ngay khi bạn bắt đầu thu thập giọng nói, video hoặc chat, cuộc thảo luận sẽ chuyển từ "công cụ hữu ích" sang "đánh giá pháp lý".

Bài viết này là một checklist gồm bảy câu hỏi bạn cần có khả năng trả lời trước khi triển khai một công cụ như Symphoria (đối tác của Wux Webtools, và là nền tảng chúng tôi tự sử dụng) hoặc một giải pháp thay thế. Các câu hỏi dựa trên GDPR, EU AI Act, hướng dẫn của EDPB và thực tiễn hằng ngày của các nhà cung cấp dịch vụ tại Hà Lan muốn duy trì tuân thủ mà không để việc tuân thủ làm đình trệ công việc.

Bối cảnh: bạn là một nhà cung cấp dịch vụ—tư vấn, lập trình viên, agency marketing, kế toán—đang hỗ trợ khách hàng trong các dự án kéo dài nhiều tháng và tạo ra hàng chục cuộc trao đổi. Bạn muốn AI tóm tắt các cuộc trao đổi đó, trích xuất các đầu việc và trả lời những câu hỏi như "tuần trước khách hàng đã nói gì về ngân sách?". Điều đó là khả thi. Nhưng không thể thiếu bảy câu trả lời này.

1. Ai đồng ý cho việc ghi lại—và bạn ghi nhận sự đồng ý đó như thế nào?

GDPR yêu cầu phải có cơ sở pháp lý cho mọi hoạt động xử lý dữ liệu cá nhân (Điều 6). Đối với việc ghi lại các cuộc trao đổi, thông thường bạn cần sự đồng ý (Điều 6(1)(a)) hoặc lợi ích hợp pháp (Điều 6(1)(f)). Sự đồng ý phải được đưa ra trước, cụ thể, có đầy đủ thông tin và tự nguyện (Điều 7). Điều đó có nghĩa là: không có ô được tích sẵn, không có điều khoản ẩn trong điều khoản và điều kiện, và chắc chắn không phải kiểu "chúng tôi sẽ ghi lại trừ khi bạn phản đối".

Điều bạn muốn thấy: Một thời điểm opt-in rõ ràng trước khi cuộc trao đổi đầu tiên được ghi lại. Đó có thể là một checkbox trong quy trình onboarding dự án của bạn ("Tôi đồng ý cho ghi lại các cuộc họp nhằm phục vụ tài liệu hóa dự án và hỗ trợ AI"), xác nhận bằng lời nói khi bắt đầu cuộc gọi ("Cuộc gọi này đang được ghi lại cho cơ sở tri thức nội bộ của chúng tôi—bạn có đồng ý không?"), hoặc một email xin đồng ý riêng. Sự đồng ý phải được ghi log: ai, khi nào, cho mục đích gì và với nội dung câu chữ nào.

Cách Symphoria giải quyết: Symphoria cung cấp một lớp quản lý đồng ý theo từng dự án. Trước khi bắt đầu ghi, hệ thống yêu cầu rõ ràng tất cả người tham gia đưa ra sự đồng ý. Sự đồng ý đó được lưu kèm timestamp và địa chỉ IP, và có thể được rút lại theo từng dự án. Điều này giúp dễ tuân thủ Điều 7(3) GDPR hơn ("việc rút lại sự đồng ý phải dễ dàng như việc đưa ra sự đồng ý").

2. Dữ liệu được lưu trữ vật lý ở đâu, và luật nào được áp dụng?

Về nguyên tắc, GDPR cấm chuyển dữ liệu cá nhân sang các quốc gia ngoài EEA nếu không có các biện pháp bảo vệ phù hợp (Điều 44-50). Sau phán quyết Schrems II (2020), Standard Contractual Clauses (SCCs) không còn đủ nếu bên nhận dữ liệu chịu sự điều chỉnh của luật giám sát như FISA 702 tại Hoa Kỳ. EU AI Act (2024) bổ sung thêm một lớp nữa: các hệ thống AI rủi ro cao phải đáp ứng yêu cầu minh bạch và kiểm toán, những yêu cầu khó thực thi nếu dữ liệu được lưu trữ ngoài EU.

Điều bạn muốn thấy: Một tuyên bố rõ ràng về nơi dữ liệu được lưu trữ vật lý (trung tâm dữ liệu nào, quốc gia nào), các subprocessor nào có quyền truy cập, và liệu các bên đó có chịu sự điều chỉnh của luật giám sát ngoài châu Âu hay không. Lý tưởng nhất: lưu trữ trong EU, với một nhà cung cấp không có công ty mẹ tại Hoa Kỳ hoặc có cung cấp rõ ràng chế độ "EU-only".

Cách Symphoria giải quyết: Symphoria vận hành hoàn toàn trên hạ tầng châu Âu (AWS eu-west-1, Frankfurt) và không sử dụng subprocessor của Hoa Kỳ để lưu trữ hoặc xử lý bản phiên âm. Điều này giúp dễ tuân thủ Schrems II hơn mà không cần các đánh giá tác động phức tạp.

3. Mô hình nào xử lý bản phiên âm, và chúng có được dùng để huấn luyện không?

Hầu hết các cơ sở tri thức AI sử dụng một LLM bên ngoài (OpenAI, Anthropic, Google) để xử lý bản phiên âm. Điều đó đặt ra hai câu hỏi: (1) các bản phiên âm có được dùng để huấn luyện mô hình không? và (2) ai có quyền truy cập vào prompt và phản hồi? Điều khoản API của OpenAI đã nêu từ tháng 3 năm 2023 rằng dữ liệu gửi qua API không được dùng để huấn luyện—trừ khi bạn chủ động opt in thông qua một chương trình riêng. Nhưng bảo đảm đó không áp dụng cho mọi nhà cung cấp, và chắc chắn không áp dụng cho quyền truy cập miễn phí hoặc "research".

Điều bạn muốn thấy: Một tuyên bố rõ ràng rằng bản phiên âm không được dùng để huấn luyện mô hình, và sau khi xử lý, nhà cung cấp LLM không còn có thể truy cập chúng. Điều này phải được đưa vào thỏa thuận xử lý dữ liệu, không chỉ nằm trong FAQ. Điểm cộng: nền tảng sử dụng một mô hình bạn có thể tự host (ví dụ: Llama, Mistral) hoặc một nhà cung cấp châu Âu với điều khoản no-training nghiêm ngặt.

Cách Symphoria giải quyết: Symphoria sử dụng API của OpenAI với Business Associate Agreement (BAA) và điều khoản no-training. Các bản phiên âm được xử lý qua API, nhưng không được OpenAI lưu trữ và không được đưa vào các phiên bản mô hình trong tương lai. Điều này được nêu rõ trong danh sách subprocessor.

4. Bạn lưu giữ bản ghi và embedding trong bao lâu, và ai có thể xóa chúng?

GDPR yêu cầu dữ liệu cá nhân không được lưu giữ lâu hơn mức cần thiết cho mục đích thu thập dữ liệu đó (Điều 5(1)(e): giới hạn lưu trữ). Đối với một cơ sở tri thức AI, điều đó có nghĩa là bạn phải có khả năng giải thích vì sao một bản ghi từ sáu tháng trước vẫn còn liên quan, và bạn phải có quy trình xóa dữ liệu cũ. Điều này cũng áp dụng cho dữ liệu phái sinh: embedding (biểu diễn vector của văn bản) là dữ liệu cá nhân nếu có thể truy ngược về một cá nhân.

Điều bạn muốn thấy: Một thời hạn lưu giữ có thể cấu hình theo từng dự án (ví dụ: "tự động xóa bản ghi sau 12 tháng"), một nút cho phép project manager xóa thủ công một bản ghi, và một bảo đảm rằng việc xóa cũng tác động đến embedding và chỉ mục—không chỉ tệp âm thanh. Lý tưởng nhất: một audit log cho thấy khi nào nội dung nào đó đã bị xóa và bởi ai.

Cách Symphoria giải quyết: Symphoria cung cấp "retention policy" theo từng dự án. Bạn có thể cấu hình để bản ghi được tự động xóa sau X tháng, bao gồm cả bản phiên âm và embedding. Có thể xóa thủ công thông qua giao diện dự án, và mọi thao tác xóa đều được ghi lại trong audit trail.

5. Có những audit log nào—sau này khách hàng có thể xem điều gì đã xảy ra với cuộc trao đổi "của họ" không?

Minh bạch là một nguyên tắc cốt lõi của GDPR (Điều 5(1)(a)). Điều đó có nghĩa là bạn phải có khả năng giải thích bạn đã làm gì với dữ liệu của một người—ngay cả sau khi sự việc đã xảy ra. Đối với một cơ sở tri thức AI, điều đó có nghĩa là bạn phải có thể cho biết những bản ghi nào đã được tạo, ai đã xem chúng, những truy vấn nào đã được chạy, và dữ liệu có được xuất ra hoặc xóa hay không. Không có audit log, bạn không thể trả lời các câu hỏi đó, và bạn có nguy cơ bị phạt trong trường hợp xảy ra vi phạm dữ liệu hoặc khiếu nại.

Điều bạn muốn thấy: Một audit log theo từng dự án theo dõi tối thiểu: (1) ai đã bắt đầu ghi, (2) ai đã xem bản phiên âm, (3) những truy vấn nào đã được chạy trên cơ sở tri thức, (4) dữ liệu có được xuất ra hay không, và (5) dữ liệu có bị xóa hay không. Log đó phải có thể tìm kiếm và được lưu giữ ít nhất 12 tháng (lâu hơn nếu bạn làm việc trong một lĩnh vực được quản lý).

Cách Symphoria giải quyết: Symphoria ghi log mọi hành động ở cấp dự án: bản ghi, lượt xem, truy vấn, xuất dữ liệu và xóa. Các log này có thể được chủ sở hữu dự án truy cập và xuất dưới dạng CSV. Điều này giúp dễ tuân thủ yêu cầu truy cập (Điều 15 GDPR) hoặc điều tra một sự cố hơn.

6. Chiến lược rời đi là gì? (Bạn có thể xuất cơ sở tri thức của mình ở định dạng mở không?)

Vendor lock-in là rủi ro với mọi công cụ SaaS, nhưng với một cơ sở tri thức AI thì điều đó đặc biệt gây đau đầu: bạn đã thu thập nhiều tháng các cuộc trao đổi, bản phiên âm và metadata, và nếu không thể xuất chúng ra, bạn sẽ mất lượng tri thức đó. GDPR trao cho bạn quyền di chuyển dữ liệu (Điều 20), nhưng quyền đó chỉ áp dụng cho dữ liệu bạn tự cung cấp—không áp dụng cho dữ liệu phái sinh như embedding hoặc bản tóm tắt. Dù vậy, yêu cầu có thể xuất mọi thứ, ở định dạng bạn có thể nhập vào một nhà cung cấp khác, vẫn là điều khôn ngoan.

Điều bạn muốn thấy: Một nút export cung cấp cho bạn tối thiểu: (1) tất cả tệp âm thanh hoặc video, (2) tất cả bản phiên âm ở dạng plain text hoặc JSON, (3) tất cả metadata (timestamp, người tham gia, tag), và (4) lý tưởng nhất là cả embedding ở định dạng mở như Parquet hoặc JSONL. Điểm cộng: việc export được tự động hóa và có thể lập lịch (ví dụ: sao lưu hằng tuần vào bucket S3 của riêng bạn).

7. Ai là processor, ai là controller, và điều đó có được ghi nhận trong thỏa thuận xử lý dữ liệu không?

GDPR phân biệt giữa controller (bên quyết định vì sao và bằng cách nào dữ liệu cá nhân được xử lý) và processor (bên xử lý dữ liệu thay mặt cho controller). Với vai trò nhà cung cấp dịch vụ, bạn thường là controller, còn cơ sở tri thức AI là processor. Điều đó có nghĩa là bạn cần một thỏa thuận xử lý dữ liệu (Điều 28 GDPR) quy định chính xác processor được phép làm gì, trong bao lâu, với các subprocessor nào, và điều gì xảy ra khi có vi phạm dữ liệu.

Điều bạn muốn thấy: Một Data Processing Agreement (DPA) tuân thủ Điều 28(3) GDPR. Thỏa thuận này tối thiểu phải bao gồm: (1) đối tượng và thời hạn xử lý, (2) bản chất và mục đích xử lý, (3) loại dữ liệu cá nhân và các nhóm chủ thể dữ liệu, (4) quyền và nghĩa vụ của controller, (5) danh sách subprocessor, và (6) quy trình xử lý vi phạm dữ liệu. Thỏa thuận đó phải được ký trước khi bạn bắt đầu ghi.

Cách Symphoria giải quyết: Symphoria cung cấp DPA tiêu chuẩn tuân thủ Điều 28 GDPR. Bạn có thể ký qua giao diện nền tảng, và thỏa thuận được tự động cập nhật khi có subprocessor mới được thêm vào. Điều này giúp duy trì tuân thủ dễ dàng hơn mà không cần lôi kéo đội ngũ pháp lý vào mỗi lần.

Checklist TL;DR

• Sự đồng ý: Ghi nhận sự đồng ý trước, cụ thể—kèm timestamp và tùy chọn opt-out.
• Lưu trữ: Kiểm tra liệu dữ liệu có được lưu trong EU và không chịu sự điều chỉnh của luật giám sát ngoài châu Âu hay không.
• Huấn luyện: Yêu cầu bảo đảm rõ ràng rằng bản phiên âm không được dùng để huấn luyện mô hình.
• Lưu giữ: Thiết lập thời hạn lưu giữ và bảo đảm việc xóa cũng tác động đến embedding.
• Kiểm toán: Yêu cầu log về ai đã xem, truy vấn và xóa nội dung gì.
• Export: Kiểm tra liệu bạn có thể xuất toàn bộ dữ liệu ở định dạng mở hay không.
• DPA: Ký thỏa thuận xử lý dữ liệu trước khi bạn bắt đầu ghi.

Điều này có ý nghĩa gì với tổ chức của bạn

Nếu bạn có thể trả lời bảy câu hỏi này, bạn đã đi được một chặng đường đáng kể. Nhưng lưu ý: tuân thủ không phải là một checklist làm một lần. GDPR yêu cầu bạn thường xuyên xác minh rằng mình vẫn đáp ứng các yêu cầu (Điều 24: "các biện pháp kỹ thuật và tổ chức phù hợp"), và EU AI Act bổ sung thêm một lớp đối với các hệ thống rủi ro cao. Điều đó có nghĩa là: kiểm toán định kỳ, DPIA cho các trường hợp sử dụng mới, và một quy trình để phản hồi yêu cầu truy cập cũng như vi phạm dữ liệu.

Muốn xem điều này vận hành trong thực tế như thế nào? Hãy đọc một tuần với cơ sở tri thức AI: cách nó thay đổi công việc của project manager tại một nhà cung cấp dịch vụ—một tình huống kể chuyện trong đó chúng tôi chỉ ra chính xác những câu hỏi này phát sinh ra sao trong thực tiễn hằng ngày.

Bài học then chốt: một cơ sở tri thức AI chỉ trở thành lợi ích về năng suất nếu bạn giữ được niềm tin của khách hàng. Và bạn giành được niềm tin đó bằng cách đặt ra—và có khả năng trả lời—những câu hỏi này trước khi nhấn "record".