Một khách hàng muốn chúng tôi sàng lọc các máy làm việc để xem phim khiêu dâm. Có thể không?

Một khách hàng lâu năm đã yêu cầu chúng tôi giúp sàng lọc các máy làm việc của họ để xem nội dung khiêu dâm. Họ lo lắng về trách nhiệm pháp lý nếu các tài liệu nhạy cảm được tìm thấy. Mối quan tâm chính của họ (vì lý do rõ ràng) là các tệp video, âm thanh và hình ảnh. Nếu có thể, họ cũng muốn quét các tài liệu dựa trên văn bản để tìm nội dung không phù hợp. Họ có một hệ thống phân cấp nội dung không dành cho công việc bắt đầu bằng hành vi bất hợp pháp (tôi không phải liệt kê chi tiết), chuyển sang rõ ràng gây khó chịu và bao gồm cả những điều có thể gây khó chịu cho một số người - nghĩ quảng cáo nội y, thẻ đùa vết nứt mông, và bất cứ điều gì liên quan đến Howie Mandel.

Câu hỏi của tôi là:

• Đây có phải là đạo đức? Tôi nghĩ rằng đó là vì mọi nhân viên đều đồng ý hợp pháp rằng bộ máy làm việc của họ thuộc về công ty và có thể tìm kiếm. Các màn hình không được xảy ra trên các máy cá nhân mang đến hoạt động.
• Nó là khả thi? Tôi đã thực hiện rất nhiều quá trình xử lý / lập chỉ mục hình ảnh nhưng đây dường như là một thế giới phức tạp hoàn toàn mới.
• Bất kỳ tài liệu tham khảo cho các kỹ thuật thành công để khám phá khiêu dâm?
• Có thích hợp để tôi lưu trữ kết quả khi phát hiện ra điều gì đó không?

Bạn có thể làm điều này với 90% Headology , 10% phần mềm.

Thứ nhất, lặng lẽ quét máy tính của nhân viên, xây dựng cơ sở dữ liệu về các tệp và kích cỡ cho mỗi nhân viên.

Sau đó, rò rỉ một bản ghi nhớ rằng tất cả các PC sẽ được quét các nội dung nghi vấn, tức là Các ông chủ có chương trình giống như Shazam có thể xác định nội dung khiêu dâm, v.v.

Sau đó vài ngày, quét các máy tính để tìm các tệp và kích thước một lần nữa. Nhìn vào bất kỳ tập tin bị xóa, chúng là tập tin phim hoặc hình ảnh? Sau đó, đó là những nhân viên bạn cần để mắt tới.

Thường xuyên quét các PC của nhân viên đó để xem hình ảnh và phim và kiểm tra thủ công xem họ có nội dung nghi vấn không.

Đây là một nhiệm vụ mạng thần kinh rõ ràng. Trước tiên, bạn cần một bộ hình ảnh đào tạo lớn được lựa chọn bởi các chuyên gia trong công ty của bạn .....

Một giải pháp hiệu quả hơn là thông báo rằng bạn sẽ kiểm tra máy của mọi người xem phim NEXT tuần / tháng / bất cứ điều gì, sau đó viết một ứng dụng đơn giản chỉ cần thực hiện đĩa. Tôi đảm bảo rằng các máy sẽ được làm sạch sau đó.

ps - Một vài điểm 'nghiêm trọng' - bạn thực sự không muốn tìm thấy bất cứ điều gì.

Nếu bạn tìm thấy một vài hình ảnh trong bộ đệm của trình duyệt thì có lẽ chúng đã chạm vào một liên kết xấu hoặc một cửa sổ bật lên tinh ranh - hãy nhớ rằng giáo viên đã bắn qua Whitehouse.com? Nếu bạn sa thải / kỷ luật họ vì điều này thì sẽ có phản ứng dữ dội từ công nhân / công đoàn. Công ty của bạn sẽ hoạt động như thế nào nếu mỗi lần nhấp phải được gửi tới pháp lý để phê duyệt trước khi nhân viên của bạn nghiên cứu một câu hỏi hoặc kiểm tra giá trực tuyến?

Nếu bạn tìm thấy một đống phim khiêu dâm trên máy, bạn sẽ chứng minh nó được nhân viên đó đặt ở đó như thế nào? Bạn có loại hệ thống bảo mật và kiểm toán nào sẽ đứng lên tại tòa án không? Bạn có sử dụng (hoặc thậm chí biết) một hệ điều hành mà quản trị viên hệ thống không thể đặt chúng ở đó và làm cho nó trông giống như các tệp của người dùng không?

Thêm vào đó, theo kinh nghiệm của tôi, các vị trí phổ biến nhất cho các cảnh khiêu dâm là trên máy tính xách tay của CxOs và các VP cao cấp.

Sẽ tốt hơn nhiều nếu chỉ sắp xếp để các tập tin biến mất trước thời hạn.

Cách tiếp cận kiểm soát này chắc chắn gây đau đớn cho cả nhân viên và dân IT. Một khi bất cứ thứ gì vào bên trong máy nhân viên, không có cách nào chắc chắn để phát hiện ra nó. Bạn cần dừng nó vào máy ngay từ đầu.
Thực tiễn nổi tiếng nhất cho điều này rõ ràng là kiểm soát các trang web / tên miền có thể được truy cập. Danh sách như vậy phải có sẵn ở đâu đó trên mạng. Ngoài điều này, bạn cũng có thể theo dõi số lượng hình ảnh, video mà nhân viên đã tải xuống và từ nơi nó đến.
Có nhiều khả năng tài liệu có thể đến từ nơi khác ngoài web, như từ ổ cứng ngoài. Có thể mỗi tháng một lần quét ngẫu nhiên hệ thống nơi bạn có thể chọn ngẫu nhiên một số video và hình ảnh và kiểm tra thủ công. Không chắc làm thế nào nó có thể được thực hiện. Nhưng việc tự động hóa việc kiểm tra hình ảnh và video chắc chắn nằm ngoài phạm vi và chắc chắn sẽ có lỗi.
Thật ra tôi không có nhiều ý tưởng hạn chế nhân viên làm việc cá nhân. Bạn nên tin tưởng nhân viên của bạn cho điều này. Nhân viên của bạn nên bận rộn đủ trong văn phòng để họ không có thời gian cho việc này. Điều lo lắng hơn là nhân viên không làm việc của mình phải không? Hoặc anh ấy đã cài đặt một số phần mềm bị bẻ khóa hoặc hack?

Có một số sản phẩm trên thị trường thực hiện "lọc nội dung" dưới nhiều hình thức khác nhau. (Một tìm kiếm của Google về một số thuật ngữ rõ ràng sẽ đưa ra một số ứng cử viên rõ ràng.) Có lẽ nên sử dụng một trong những sản phẩm này hơn là xây dựng nhiều phần mềm quét / lọc từ đầu. Một lựa chọn khác là chỉ xem ở biên giới; ví dụ: bằng cách giám sát email bên ngoài và lưu lượng truy cập web. Một lần nữa có những sản phẩm làm điều này.

Mặc dù không có nghi ngờ gì về việc đạo đức của một công ty quét máy tính của họ là "thứ xấu", điều này không có nghĩa là không có vấn đề gì.

Vấn đề đầu tiên:

• Xác định cái gì là và cái gì không phải là "nội dung phản cảm" là chủ quan.
• Phần mềm phát hiện hình ảnh, video có chứa (giả sử chúng tôi) "mô tả cơ thể trần trụi" là (AFAIK) có thể không đáng tin cậy, dẫn đến kết quả dương tính giả và âm tính giả.

Vì vậy, ... điều này có nghĩa là ai đó trong tổ chức khách hàng của bạn cần xem lại "lượt truy cập". Đó là chi phí tiền.

Vấn đề thứ hai: Có thể có một lời giải thích vô tội. Các tập tin có thể đã được tải xuống một cách tình cờ, hoặc nó có thể được trồng bởi một đồng nghiệp đầy thù hận. Nếu có một lời giải thích vô tội, tổ chức của khách hàng cần cẩn thận với những gì họ làm / nói. (OK đây không thực sự là vấn đề của bạn , nhưng bạn có thể xử lý một số phản ứng ngược.)

Vấn đề thứ ba: Không chịu được rằng công ty có quyền giám sát các tài liệu phản cảm, rất nhiều nhân viên sẽ thấy điều này đáng ghét. Và nếu họ quá xa, điều này sẽ ảnh hưởng đến tinh thần của nhân viên. Một số nhân viên sẽ "đi bộ". Những người khác có thể có hành động phản kháng ... ví dụ: bằng cách cố gắng tạo ra nhiều điểm tích cực sai. (Một lần nữa, không thực sự là vấn đề của bạn , nhưng ...)

Vấn đề thứ tư: Mọi người có thể che giấu tài liệu bị phản đối bằng cách mã hóa nó, bằng cách đưa nó lên phương tiện di động hoặc di động, v.v. Mọi người có thể giả mạo siêu dữ liệu để làm cho nó trông giống như người khác chịu trách nhiệm.

Về khía cạnh pháp lý, tại Pháp:

Sếp sở hữu máy tính và kết nối internet: Anh ta có thể làm bất cứ điều gì làm anh ta hài lòng.

NHƯNG, quyền riêng tư của nhân viên không thể bị vi phạm. Nếu một thư mục trên máy tính được dán nhãn CÁ NHÂN, ông chủ không được phép quét nó.

Cách duy nhất để vượt qua điều đó là lấy các yếu tố bằng chứng cho thấy nhân viên lưu trữ tài liệu bất hợp pháp và yêu cầu tòa án yêu cầu quét máy tính (Lưu ý rằng nội dung khiêu dâm không phải là bất hợp pháp ở Pháp.)

Nếu các nhân viên đồng ý rằng bộ máy làm việc của họ thuộc về công ty và có thể tìm kiếm, thì có, đây là hợp pháp. Để chứng minh, việc lưu trữ các tập tin rất có thể là cần thiết.

Đối với làm thế nào để thực sự tìm thấy các tài liệu. Bạn có thể:

1. Đầu tiên và quan trọng nhất, quét tên tệp cho một nhóm từ nhất định (khiêu dâm, đồng tính nữ, v.v.)
2. Quét tài liệu văn bản cho cùng một bộ từ
3. Đối với hình ảnh, bạn có thể tìm thấy màu trung bình của hình ảnh và nếu màu đó xảy ra trong phạm vi mà hầu hết được gọi là màu 'thịt', thì hãy gắn cờ hình ảnh (ai đó kiểm tra kỹ những hình ảnh được gắn cờ này rất có thể sẽ cần thiết ). Sẽ không muốn báo cáo ai đó về một hình ảnh cuối cùng là một bức ảnh gia đình từ bãi biển.

Nếu bạn quét các tệp khi chúng vào máy tính (ví dụ: chương trình được tải trên mọi máy làm việc và ghi nhật ký các trường hợp được gắn cờ vào cơ sở dữ liệu trung tâm), thì tôi không nghĩ rằng nó sẽ quá khó chịu (trừ việc không tin tưởng một cách trắng trợn sử dụng lao động rõ ràng có cho nhân viên của họ).

Với các tệp video, tôi không chắc chắn 100%. Có thể là một cách tiếp cận tương tự như với quét hình ảnh (chọn các khung ngẫu nhiên và quét cho một mức độ nhất định của màu 'thịt').

Quét các tệp âm thanh có vẻ như sẽ nhận được vào nhận dạng giọng nói, đó là toàn bộ 'con giun. Tuy nhiên, việc quét tên tệp sẽ dễ dàng và có thể được thực hiện như với các tài liệu, hình ảnh và video.

Như @Ryan đã nói, phân tích hình ảnh có thể tập trung vào phân tích màu sắc.

Tính khả thi? Chị tôi làm việc trong một khu vực của chính phủ nơi họ nhận được một số hình thức kiểm toán hàng năm, và một khi nó là dành cho khiêu dâm. Cô ấy (nhà địa vật lý) đã có một số dương tính giả (đá hồng).

Có nhiều nghiên cứu gần đây về phát hiện nội dung khiêu dâm bằng các phương pháp phân loại thông thường. Ví dụ có sẵn ở đây , và ở đây .

• Đây có phải là đạo đức?

Phụ thuộc vào việc thực hiện và kỳ vọng hợp lý của người lao động. Ví dụ: nếu phần mềm của bạn quét bất kỳ máy nào được kết nối với mạng, thì có một yêu cầu bổ sung là infra cần phải ngăn chặn các máy trái phép cắm vào. (Có thể đó là điều hiển nhiên, nhưng nó thường bị bỏ qua trên các mạng mà tôi đã thấy.)

• Nó là khả thi? Tôi đã thực hiện rất nhiều quá trình xử lý / lập chỉ mục hình ảnh nhưng đây dường như là một thế giới phức tạp hoàn toàn mới.

Có khả thi để kiểm tra ma túy mỗi nhân viên? Có lẽ vậy, nhưng tôi nghi ngờ giá trị của nó. Tôi sẽ ngẫu nhiên hóa nó. Cho nhân viên biết máy của họ có thể được quét nội dung không phù hợp bất cứ lúc nào.

• Bất kỳ tài liệu tham khảo cho các kỹ thuật thành công để khám phá khiêu dâm?

Tôi không chạm vào cái này. Tôi không nghĩ rằng tôi có thể giữ sự hài hước của mình trong kiểm tra. Nhưng xem ra vấn đề Scunthorpe khi tìm kiếm văn bản.

• Có thích hợp để tôi lưu trữ kết quả khi phát hiện ra điều gì đó không?

Điều này liên quan đến tôi nhất, và tôi sẽ hỏi một luật sư. Tôi nghi ngờ nếu bạn tìm thấy nội dung bất hợp pháp, về mặt kỹ thuật bạn có thể có nghĩa vụ pháp lý phải tiết lộ nội dung đó. Điều đó thật tệ, đặc biệt nếu người dùng bị lộ do không có lỗi thực sự của chính mình. Bạn (r client) sẽ cần tư vấn pháp lý thực sự về cách xử lý việc này. Nhận nhân sự và các luật sư tham gia.

Từ quan điểm thuần túy kỹ thuật: Điều này nghe có vẻ như một vấn đề nhận dạng danh mục đối tượng. Tôi chưa bao giờ làm bất cứ điều gì như vậy, nhưng từ những gì tôi đã đọc, các hệ thống nhận dạng danh mục hiện đại hoạt động như thế này:

• Trước tiên, bạn tìm kiếm một số lượng lớn các điểm quan tâm (ví dụ: bằng cách sử dụng Trình phát hiện góc Harris, các điểm cực trị của bộ lọc LoG / DoG trong không gian tỷ lệ; một số tác giả thậm chí còn đề xuất chọn các điểm ngẫu nhiên)
• Sau đó, bạn áp dụng một biến đổi tính năng cho từng điểm (một cái gì đó như SIFT, SURF, GLOH hoặc nhiều điểm khác)
• Kết hợp tất cả các tính năng bạn tìm thấy trong biểu đồ (Bag-Of-Feature)
• Sử dụng các thuật toán học máy tiêu chuẩn (như máy vectơ hỗ trợ) để tìm hiểu sự khác biệt giữa các loại đối tượng bằng cách sử dụng một số lượng lớn hình ảnh đào tạo.

Hệ điều hành máy tính của mọi người có lẽ đã được cài đặt từ ảnh đĩa.

1. bắt đầu với hình ảnh đĩa và nhận danh sách các tệp bạn có thể không cần quét.
2. lấy danh sách tất cả các tệp khác trên mỗi PC.
3. kéo các tập tin thực tế từ 10-20 máy ngẫu nhiên và sử dụng làm giường thử nghiệm
4. tìm kiếm các mục trong một từ thô tục và nghi vấn (hotties, bình, 'hầu như không hợp pháp', trò đùa, vv)
5. Xem video - bất kỳ ai cũng nên có bất kỳ video nào?
6. Xem ảnh
7. Bất kỳ tệp video hoặc hình ảnh nào có thể nghi ngờ đều có thể được sử dụng để tìm kiếm các máy khác

Sẽ phải mất một hoặc hai nhân viên để bị bắt trước khi bất kỳ ai sẽ đưa bất cứ thứ gì vào máy tính làm việc của họ.

Tính một khoản tiền tục tĩu cho dịch vụ này. Tôi sẽ là Zappos sẽ không bao giờ làm điều này với nhân viên của họ.

Giả sử bạn là một quản trị viên tên miền trên mạng.

1. C $ vào mỗi máy tính để bàn của người dùng.
2. Sao chép tập tin khiêu dâm vào chia sẻ cá nhân.
3. Xóa khỏi vị trí ban đầu.
4. Làm bỏng ngô.
5. Hoàn thành phân tích chi tiết của tất cả "bằng chứng".

Tôi chỉ muốn bình luận, nhưng chỉ có 1 đại diện, vì vậy tôi không thể.

Trong trường hợp của Gravatar, bạn có thể thêm một chức năng để lọc ra khỏi danh sách các trang web sạch trong các vị trí bộ đệm internet. IE Gravatar và các trang web khác mà bạn không muốn có thông tin sai. Bạn cũng có thể lọc ra những thứ như hình nền máy tính. Nếu họ đang hiển thị nội dung khiêu dâm trên máy tính để bàn, bạn nghĩ mọi người sẽ chú ý đến bên ngoài cuộc kiểm toán của bạn.

Những điều như vậy không bao giờ làm việc đáng tin cậy. Bạn có thể sử dụng một danh sách chặn để chặn các tên miền hoặc trên tên hoặc được đưa vào một số danh sách (một thông lệ). Nhưng những danh sách đó không bao giờ đầy đủ và việc chặn tên dựa trên các tiêu chí có thể dẫn đến nhiều kết quả dương tính giả.

Bạn có thể chặn các từ xuất hiện trong văn bản của các trang web, nhưng một lần nữa điều này có thể dẫn đến dương tính giả (và rất chậm khi bạn cần phân tích từng bit dữ liệu đi qua mạng của mình để phát hiện "bit nghịch ngợm").

bạn có thể chặn hình ảnh (và có thể các trang web chứa chúng) hiển thị nhiều hơn một tỷ lệ phần trăm nhất định của skintones. Nhưng một lần nữa nó dẫn đến nhiều tích cực sai. Một khoa y của trường đại học chặn một bách khoa toàn thư y khoa với hình ảnh chân tay và xoắn cho thấy vết thương và tình trạng da là một ví dụ nổi tiếng về điều đó. Và tất nhiên đó là phân biệt chủng tộc vì nó chỉ chặn một số skintones nhất định. Nếu bạn chặn màu phù hợp với làn da của người da trắng, thì luôn có phim khiêu dâm sử dụng diễn viên da đen chẳng hạn.

Tốt nhất chỉ cần tin tưởng nhân viên của bạn, và có chính sách tại chỗ khi niềm tin đó bị phá vỡ.

Tôi không biết, phải có một câu trả lời trung bình, đó không phải là xâm lấn, nhưng giải quyết vấn đề thực sự, TRÁCH NHIỆM.

Yêu cầu họ ký từ bỏ, công ty sẽ giải phóng mọi trách nhiệm pháp lý đối với những thứ bất hợp pháp được tìm thấy trên máy tính của công việc, điều đó không liên quan đến công việc.

1. nói với người dùng một url được coi là người lớn - proxy bluecoat thực hiện điều đó.
2. Cấp phép cho điều Google làm trong tìm kiếm hình ảnh của họ http://code.google.com.vn/apis/safebrowsing/ http://www.google.com/search?q=google+image+recognition+api
3. quét máy tính để tìm các mục không có trong danh sách đã thỏa thuận trước.

Phân tích hình ảnh và nội dung để xác định sự khác biệt giữa một bức ảnh trang nhã của một người, một bức ảnh áo tắm, một bức ảnh khỏa thân, mô tả nội dung khiêu dâm ... theo như tôi biết là không đủ tinh vi để làm một mình trong phần mềm.

May mắn thay, crowdsource sẽ hữu ích ở đây, như @ammoQ đã đề xuất trong một bình luận. Tuy nhiên, tôi không tin rằng các thành viên của 4chan hoặc bất kỳ diễn đàn nào khác sẽ đánh giá cao số lượng lớn hình ảnh phi hình ảnh, chẳng hạn như đồ họa web chung cho các nút, khung, quảng cáo, v.v. được đăng.

Đề xuất của tôi sẽ là xem xét các giải pháp cộng đồng đám đông hiện có, chẳng hạn như Amazon Mechanical Turk . (Tuy nhiên, các điều khoản dịch vụ có thể nghiêm cấm hoàn toàn sự liên quan của nội dung khiêu dâm, vì vậy hãy lưu ý rằng bạn có thể phải tìm giải pháp khác hoặc tự mình thực hiện.)

Để làm cho dịch vụ cộng đồng trở nên khả thi, phần mềm của bạn nên được chuẩn bị để thực hiện một số hoặc tất cả những điều sau đây:

• Lưu trữ thông tin liên kết nội dung với máy tính mà nó đến từ
• Xác định các bản sao chính xác trên toàn bộ kho và xóa chúng (nhưng thông tin nguồn gốc được giữ lại)
• Giảm hình ảnh xuống một số chiều, có lẽ là 320x200, đủ để xác định nội dung của hình ảnh mà không giữ lại chi tiết không cần thiết và lãng phí không gian lưu trữ / băng thông
• Tạo hình ảnh tĩnh của nội dung video theo một khoảng thời gian thông thường và áp dụng quy tắc lấy mẫu tương tự

Cuối cùng, cơ sở dữ liệu của các hình ảnh giảm thể hiện nội dung hình ảnh và video gốc được kiểm tra bởi người dùng (hoặc nhóm được chỉ định nếu bạn có tài nguyên) theo quy tắc ứng xử của công ty bạn. Chương trình hoặc giao diện có thể hiển thị một hình ảnh tại một thời điểm hoặc màn hình hình thu nhỏ - bất cứ điều gì bạn cho là tốt nhất để có được thông tin chính xác.

Danh tính của máy tính mà hình ảnh xuất hiện phải tuyệt đối bí mật và không xác định đối với những người đánh giá dữ liệu. Ngoài ra, nó nên được chọn ngẫu nhiên và mỗi hình ảnh có thể được kiểm tra nhiều lần để loại bỏ sai lệch.

Kỹ thuật tương tự có thể được sử dụng cho văn bản, nhưng trước tiên nội dung có thể được ghi bằng bảng xếp hạng từ khóa loại bỏ phần lớn văn bản khỏi đánh giá của crowdsource. Phân loại một tài liệu dài tất nhiên sẽ tốn nhiều thời gian hơn so với phân loại hình ảnh.