Nhà phát triển game đàm thoại AI Atelier Ryza phải lên tiếng cảnh báo khi nhiều game thủ ép chatbot phản hồi nội dung nhạy cảm

Tác phẩm cho phép người chơi tương tác và trò chuyện trực tiếp với nhân vật Reisalin "Ryza" Stout thông qua chế độ cốt truyện kết hợp tính năng nhắn tin đàm thoại.

Tuy nhiên, đơn vị phát triển ghi nhận trên các nền tảng mạng xã hội gần đây đã xuất hiện nhiều trường hợp người dùng can thiệp dữ liệu và trải nghiệm trò chơi theo hướng vượt quá giới hạn quy định.

Ảnh: Koei Tecmo.

Cụ thể, phía SpiralAI xác nhận tình trạng người chơi sử dụng kỹ thuật can thiệp prompt bằng cách thao túng nội dung tin nhắn gửi đi nhằm vượt qua các rào cản kỹ thuật của hệ thống.

Hành vi này ép nhân vật Ryza phải đưa ra những câu trả lời vốn bị hạn chế, bao gồm các phản hồi sai lệch tính cách gốc, mang nội dung khiêu dâm hoặc gây hại, qua đó vi phạm trực tiếp Khoản 1 Điều 8 trong điều khoản dịch vụ về bảo vệ quyền sở hữu trí tuệ và cấm khai thác thông điệp do AI tạo ra cho mục đích đồi trụy.

Bên cạnh đó, nhà sản xuất còn phát hiện tình trạng người dùng thực hiện kỹ thuật đảo ngược để trích xuất trái phép các tệp tin trong bộ cài đặt game như hình ảnh nhân vật và các đoạn ghi âm lồng tiếng phục vụ mục đích sáng tạo nội dung cá nhân, thậm chí dùng AI để tạo ra các hình ảnh, video giả mạo có giao diện tương đồng với sản phẩm chính thức.

Ảnh: Koei Tecmo.

Trước tình trạng này, SpiralAI yêu cầu cộng đồng người dùng nghiêm túc rà soát lại các quy định sử dụng dịch vụ và chấm dứt ngay các hành vi bị nghiêm cấm, đồng thời khẳng định sẽ phối hợp với các cơ quan chức năng có thẩm quyền để áp dụng biện pháp xử lý thích đáng đối với những trường hợp cố tình vi phạm nghiêm trọng mang tính ác ý.

Hiện tại, Atelier RyzaChat: AI Your Midsummer Dream Story with AI Ryza đang được phát hành tại thị trường Nhật Bản trên hai hệ điều hành iOS và Android, trong khi phiên bản quốc tế hỗ trợ đa ngôn ngữ gồm tiếng Anh, tiếng Bồ Đào Nha (Brazil), tiếng Indonesia, tiếng Hindi và tiếng Trung phồn thể dự kiến sẽ được ra mắt trong thời gian tới.