Anthropic cấm người dùng lạm dụng chatbot Claude

PV Tech News – Anthropic cập nhật điều khoản sử dụng, bổ sung quy định cấm người dùng có hành vi lạm dụng kéo dài và không cần thiết với chatbot Claude. Chính sách có hiệu lực từ ngày 12/11, Claude sẽ chủ động kết thúc cuộc trò chuyện nếu phát hiện hành vi vi phạm. Động thái này nhằm thiết lập giới hạn tương tác giữa người dùng và AI và làm rõ cách nền tảng xử lý các trường hợp sử dụng chatbot không phù hợp.

Anthropic, công ty phát triển chatbot Claude, thông báo bổ sung quy định cấm người dùng có “hành vi lạm dụng kéo dài và không cần thiết” đối với mô hình AI này. Thông tin được công bố trên blog của công ty vào cuối tuần qua, với chính sách dự kiến có hiệu lực từ ngày 12/11. Động thái diễn ra trong bối cảnh vấn đề an toàn trí tuệ nhân tạo (AI) ngày càng nhận được sự quan tâm từ giới công nghệ.

Theo Anthropic, điều khoản mới nhằm ngăn chặn những trường hợp người dùng liên tục có hành vi lạm dụng mô hình mà không có mục đích rõ ràng. Công ty nhấn mạnh quy định chỉ áp dụng trong “những trường hợp cực đoan”, thay vì áp dụng cho mọi tương tác.  Mô hình được đề cập là mô hình ngôn ngữ lớn (LLM), hệ thống AI được huấn luyện trên khối lượng văn bản lớn để trò chuyện và thực hiện nhiều tác vụ. Anthropic cũng làm rõ rằng chính sách không áp dụng với những tình huống thông thường như người dùng thể hiện sự thất vọng, đưa ra phản hồi tiêu cực, chủ đề sáng tạo “đen tối”, hoặc việc thử nghiệm và nghiên cứu mô hình. Điều này cho thấy phạm vi điều khoản được giới hạn ở những hành vi bị công ty đánh giá là lạm dụng kéo dài và không có mục đích rõ ràng. 

Về cách xử lý, Claude sẽ chủ động chấm dứt cuộc trò chuyện ngay khi phát hiện hành vi vi phạm. Tuy nhiên, Anthropic chưa công bố cụ thể liệu tài khoản vi phạm có bị đình chỉ tạm thời hay bị cấm vĩnh viễn. Thời hạn và quy trình thực thi các biện pháp xử lý này hiện vẫn chưa được làm rõ.

Mall) Loa Kiểm Âm Bluetooth EDIFIER MR3/MR5 I Công Suất 36W | Bluetooth 5.4 |

Thông báo của Anthropic nhận được phản hồi từ một số nhân vật trong ngành công nghệ. Trên mạng xã hội X, Elon Musk bày tỏ sự ủng hộ: “Tôi nghĩ đây là bước đi đúng đắn. Việc đối xử tàn nhẫn với thứ gì đó và tin rằng nó đang trải qua nỗi đau là không ổn”. Trong khi đó, Aaron Levie, CEO của Box, cho biết ông không tin các mô hình ngôn ngữ lớn có ý thức, nhưng vẫn cho rằng việc ngăn chặn hành vi lạm dụng là một ý tưởng hợp lý.

Anthropic từ lâu đã theo đuổi hướng nghiên cứu xem xét khả năng AI có ý thức và những đặc điểm tương tự con người. Công ty từng tuyển dụng nhân sự chuyên nghiên cứu về “phúc lợi AI”, lĩnh vực tập trung vào việc xem xét cách bảo vệ các mô hình AI khỏi hành vi lạm dụng. Tuy nhiên, quan điểm này gây ra nhiều tranh luận trong giới công nghệ. CEO OpenAI Sam Altman từng cảnh báo không nên thần thánh hóa AI, phát biểu được cho là nhắm đến các đối thủ trong ngành. Còn Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, nhận định việc huấn luyện mô hình suy nghĩ giống con người có thể khiến công nghệ trở nên khó kiểm soát hơn.

Cuối tháng 9 vừa qua, Chris Olah người đồng sáng lập Anthropic, trình bày quan điểm “AI có ý thức” trước Vatican và một nhóm nhỏ học giả tôn giáo. Các học giả không bày tỏ sự đồng tình với lập luận của ông. Anthropic hiện chưa đưa ra bình luận về thông tin này.

Chính sách mới của Anthropic không chỉ đặt ra giới hạn đối với cách người dùng tương tác với Claude mà còn làm dấy lên thêm tranh luận về ý thức, quyền lợi và mức độ an toàn của AI. Trong bối cảnh các hệ thống AI ngày càng phát triển, cách kiểm soát hành vi và thiết lập nguyên tắc tương tác với mô hình vẫn là vấn đề cần được tiếp tục nghiên cứu. Quy định dự kiến có hiệu lực từ ngày 12/11, trong khi các chi tiết về cách xử lý tài khoản vi phạm vẫn chưa được công bố đầy đủ. Theo dõi Phong Vũ Tech News để cập nhật những tin tức mới nhất về AI và công nghệ.

Nguồn: VnExpress

Camera imou A32EP 3MP

Tầm xa hồng ngoại 10m với công nghệ hống ngoại thông minh. Chống ngược sáng HDR - Hỗ trợ đàm thoại 2 chiều - Hỗ trợ các tính năng thông minh: phát hiện chuyển động, phát hiện con người, phát hiện âm thanh bất thường, chế độ riêng tu, Smart tracking. Tích hợp còi báo động - Hỗ trợ chức năng Soft-AP, kết nối trực tiếp wifi camera không cần thông qua modem nhà mạng. Tích hợp Wi-Fi(IEEE802.11b/g/n), LAN, CLOUD (Imou Protect), ONVIF - Hỗ trơ khe cắm thẻ nhớ Micro SD max 256GB - Nguổn cấp: DC 5V1A, điện năng tiêu thụ - Chất liệu vỏ: Plastic. Đạt chứng nhận CE, FCC Xuất xứ: Trung Quốc ⁃ Bảo hành: 24 tháng. Trọn bộ sản phẩm bao gồm: -1 x Camera - 1 x Hướng dẫn Bắt đầu Nhanh -1x Bộ đổi nguồn -1x Cáp nguồn -1x Bọt gắn Hàng chính hãng imou bảo hành 2 năm toàn quốc

Bài viết liên quan: