Bộ lọc thô tục cho một cuộc trò chuyện MMO

Chúng tôi đang phát triển MMO bằng Smartfox Server. Đối tượng mục tiêu là trẻ em từ 7 -12 tuổi.

Có một tùy chọn trò chuyện toàn cầu trong MMO này.
Bất cứ thứ gì người dùng gõ vào hộp văn bản đều được hiển thị bên cạnh hình đại diện của người dùng sau khi anh ấy / cô ấy nhấn enter.

Chúng tôi muốn lọc ngôn ngữ lạm dụng / thô tục từ cuộc trò chuyện này.
Chúng tôi có thể chụp trò chuyện và đọc văn bản. Vấn đề là nhận được danh sách thô tục.

Câu hỏi của chúng tôi là

1. Nơi nào sẽ có được danh sách đầy đủ của tất cả các từ thô tục?
2. Phương pháp nào được thông qua trong kịch bản tương tự để lọc ra những phương pháp này?

Đừng.

Bộ lọc không hoạt động. Ít nhất, chỉ các bộ lọc không hoạt động. Danh sách trắng, danh sách đen, nó không thành vấn đề. Cả hai điều này sẽ không bao giờ ngăn cản trẻ em quấy rối lẫn nhau. Cách duy nhất để thực hiện công việc này là không lọc trò chuyện mà phải cung cấp các khối xây dựng lớn cho câu. Ví dụ: một đứa trẻ có thể chọn "Bạn có muốn ..." và các tùy chọn cho "đi đến ..." và "giao dịch ..." sẽ được kéo lên. Chọn "đi đến ..." sẽ hiển thị danh sách các địa điểm trong trò chơi.

Disney đã giải quyết phương pháp này cho MMO "Toontown" của họ, sau khi đối tượng thử nghiệm danh sách trắng 14 tuổi của họ quyết định "dán con hươu cao cổ dài [của mình] lên chú thỏ trắng mịn" của họ. Nói một cách đơn giản, bạn không thể đưa vào danh sách đen hoặc danh sách trắng đủ từ để tránh lạm dụng.

Điều đó đã được nói, nếu tôi đang thiết kế MMO cho trẻ em, tôi thực sự sẽ thực hiện một bộ lọc danh sách đen nghiêm ngặt, nhưng chỉ như một tuyến phòng thủ thứ hai. Tuyến phòng thủ đầu tiên của bạn phải luôn là người điều hành và khả năng báo cáo lạm dụng. Tôi sẽ cân nhắc các từ trong danh sách đen, với mỗi người dùng nhận được một số điểm bí mật về mức độ họ đang cố gắng trở nên thô tục.

Rất có thể, bất kỳ người dùng nào sẽ thử và phá vỡ bộ lọc của bạn sẽ kích hoạt nó trước. Những lời tục tĩu rõ ràng hơn, (trái ngược với những điều tối nghĩa hoặc lỗi thời), hoặc những nỗ lực thô tục lặp đi lặp lại nhiều hơn, đưa chúng vào danh sách theo dõi cho người điều hành hoặc một số danh sách cấm . Bằng cách này, người điều hành có thể tập trung vào những người dùng dường như đang cố gắng quấy rối người khác thay vì lãng phí thời gian để đọc những bình luận của những đứa trẻ vẫn còn ngây thơ.

Đáp lại những người nói không cung cấp bộ lọc, tôi cho rằng bạn phải cung cấp bộ lọc, không vì lý do nào khác ngoài việc che mông của bạn đối với cha mẹ của đối tượng dự định của bạn. Chỉ cần chắc chắn rằng nó có thể bị vô hiệu hóa bởi người dùng. Bằng cách triển khai bộ lọc thô tục (mặc dù không hoàn hảo và hoàn toàn không bắt buộc), bạn có thể nói rằng bạn đã làm mọi thứ bạn mong đợi để bảo vệ sự nhạy cảm của khán giả trẻ.

Bằng cách làm cho nó có thể vô hiệu hóa, bạn không khuyến khích người dùng cố gắng phá vỡ nó bằng cách sử dụng dấu câu hoặc thay thế thông minh, vì những người ủng hộ loại ngôn ngữ đó sẽ ngay lập tức vô hiệu hóa bộ lọc trên máy tính của họ và từ lâu họ sẽ quên rằng bộ lọc thậm chí còn tồn tại .

Với sự hiểu biết đó, đừng lo lắng quá nhiều về việc thực hiện. Nó không cần phải được đánh lừa (điều này là tốt, bởi vì nó không thể là hoàn hảo), nhưng nó phải tương đối đầy đủ và không xâm phạm nhất có thể. Đó là, bạn sẽ không chắc chắn rằng mình không phạm phải "sai lầm clbuttic ".

Việc thực hiện có thể cực kỳ đơn giản - lấy một danh sách từ và thay thế bất kỳ từ nào được tìm thấy trong danh sách bằng dấu hoa thị hoặc một cái gì đó tương tự. Tốt nhất để tìm kiếm toàn bộ từ chỉ, là tốt.

Đối với một danh sách từ, điều đó thật dễ dàng: http://www.google.com/search?q=profanity+word+list

Hãy nhớ rằng, nó không nhất thiết phải bao gồm tất cả, nó chỉ phải là đại diện cho một nỗ lực dũng cảm từ phía bạn để bảo vệ trẻ em.

Tôi sẽ cố gắng thực hiện một giải pháp cho phép đưa vào danh sách đen và danh sách trắng, nơi bạn có thể thêm 'lồn' vào danh sách đen và 'scunthorpe' vào danh sách trắng chẳng hạn.

Tôi không tin rằng bạn có thể đã từng thực hiện một giải pháp chạy failsafe, vì vậy tôi muốn thử để nhận được nhiều nhất từ "nổi tiếng" trong từ điển của bạn, và làm cho nó dễ dàng như có thể thêm từ mới vào danh sách.

Lý do cho điều này là các ngôn ngữ, đặc biệt là tiếng Anh, liên tục phát triển và thứ gì đó không gây khó chịu trong nhiều thập kỷ có thể trở nên gây khó chịu trong bối cảnh phù hợp.

Hãy cố gắng để có được nhiều từ nhất có thể và đi từ đó, có thời gian phản ứng nhanh khi mọi người phàn nàn và cho thấy rằng đây thường là một mối quan tâm và tôi nghi ngờ bạn sẽ có bất kỳ vấn đề nào.

Sẽ là một ý tưởng tốt để biết chính xác các hướng dẫn kiểm duyệt tại Hoa Kỳ: MBNL! (tôi không phải là luật sư!)

Như tôi đã nhận xét, lọc tất cả các từ gây khó chịu thực sự khó khăn - nhưng bạn có thể xoay nó và sử dụng danh sách trắng các từ được phép . Khi tìm kiếm trên google, có vẻ như khá phổ biến đối với trò chơi của trẻ em để giới hạn những gì chúng có thể nhập vào danh sách. Chẳng hạn, Lego Universe sử dụng danh sách trắng.

Cũng xem: Danh sách trắng để trò chuyện . Và lưu ý rằng danh sách trắng có thể bị phá vỡ . Không có giải pháp đảm bảo.

Xem xét rằng nó dành cho trẻ nhỏ và việc đánh vần sai có thể là một vấn đề - tùy thuộc vào giao diện máy khách, bạn có thể xem xét tự động hoàn thành từ . Khi người chơi bắt đầu nhập các chữ cái, hãy đưa ra một danh sách các từ có thể và để họ chọn từ đúng.

Có một câu trả lời từ các lập trình viên mô tả một hệ thống để xây dựng bộ lọc thô tục. Anh ta không giải thích cách anh ta thực sự xây dựng nó rất chi tiết, nhưng nó đủ để có một ý tưởng để thực hiện.

Đây là một vấn đề được giải quyết tốt nhất bởi con người và thiết kế xã hội hơn là mã.

Nguồn tốt nhất của bạn cho một danh sách đầy đủ là một người sống có mặt trong trò chơi và theo dõi luồng trò chuyện. Đặt mọi người vào trò chơi của bạn và để họ là bộ lọc cuối cùng của bạn.

Dành thời gian xem xét các ý tưởng và triết lý của Lane Merrifield đằng sau Club Penguin và về việc cung cấp dịch vụ. Đây là hai bài viết từ bài thuyết trình của anh ấy tại Austin GDC năm 2008. Tôi đã thấy nó và nhớ rằng tôi rất ấn tượng với phong cách giải quyết vấn đề của con người với con người chứ không phải mã.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Cụ thể vì trò chơi của bạn nhắm vào trẻ em, nó không chỉ là những bộ lọc mà bạn cần phải suy nghĩ. Bạn sẽ cần lo lắng về những người đóng giả là những đứa trẻ có thể có hoặc không có động cơ xấu. Bạn sẽ cần phải đảm bảo với cha mẹ rằng con cái họ được an toàn. Bạn sẽ cần phải đảm bảo với trẻ rằng chúng cũng an toàn cho vấn đề đó.

Một điểm cộng nữa cho con người là họ sẽ hiểu bối cảnh. Bạn không muốn một đứa trẻ nói rằng "Mẹ tôi bị ung thư vú" và bị đá.

Giải pháp đơn giản cho vấn đề:

1. Xóa tất cả các dấu cách và dấu chấm câu từ đầu vào của bạn.
2. Danh sách đen mọi thứ trong Từ điển đô thị .
3. Danh sách đen tất cả các từ đồng âm, vv
4. Danh sách đen tất cả mọi thứ có thể được sử dụng như một uyển ngữ.
5. Viết phần mềm của bạn để hiểu nội dung, ý định và giai điệu của những gì còn lại.
6. Vứt bỏ trò chơi và đi đến thị trường với sự sáng tạo đa cảm và toàn diện từ bước 5.

Một số MMO dành cho trẻ em chỉ cần thay thế trò chuyện bằng một danh sách các biểu tượng và cụm từ được xác định trước và đơn giản là không cho phép trò chuyện ở dạng tự do. Có lẽ trò chơi có thể được thiết kế để phù hợp với điều đó.