Một kết quả ngoại lệ có nên bị loại khỏi phân tích?

Điểm chính

1. Ngoại lệ là tín hiệu cần kiểm tra, không phải nhãn đồng nghĩa với lỗi.
2. Đối chiếu bản ghi gốc, đơn vị, thời điểm, quy tắc và điều kiện sự kiện trước khi sửa dữ liệu.
3. Nếu không xác định được lỗi, giữ quan sát và cân nhắc phương pháp ít nhạy với điểm cực đoan.
4. Ghi rõ mọi quyết định bao gồm tiêu chí, lý do và ảnh hưởng tới kết quả tổng hợp.

Trong dữ liệu thể thao, một thành tích rất nhanh, điểm số bất thường, quãng đường khác lạ hoặc số lần xuất hiện vượt xa thường lệ dễ thu hút sự chú ý. Phản ứng đầu tiên đôi khi là xóa nó để biểu đồ gọn hơn. Nhưng điểm khác thường có thể bắt nguồn từ lỗi nhập liệu, thay đổi quy tắc, điều kiện hiếm gặp, cách đo khác biệt hoặc một màn trình diễn hợp lệ đáng được giữ lại. Câu hỏi đúng không phải “điểm này trông lạ đến mức nào?” mà là “bằng chứng nào giúp xác định vì sao nó lạ?”. Bài viết này đưa ra cách xem xét áp dụng cho điền kinh, bơi, môn chấm điểm, thi đấu đồng đội và nhiều định dạng khác. Khi muốn theo dõi sự kiện đang diễn ra trong khi vẫn phân biệt tỷ số với đánh giá thống kê, có thể tham khảo Khám phá tỷ số bóng đá trực tiếp cùng KLIVE; phần hướng dẫn dưới đây không phụ thuộc vào riêng một môn.

1. Nhận diện điểm khác thường mà chưa vội phán xét

Một điểm được gọi là ngoại lệ thường vì nó cách xa nhiều quan sát khác trong một tập dữ liệu. Tuy nhiên, mức độ xa không nói được nguyên nhân. Một thời gian hoàn thành ngắn hơn đáng kể có thể đúng nếu vận động viên thi đấu ở nội dung khác, mặt sân khác hoặc điều kiện môi trường khác. Một tổng điểm cao có thể phản ánh thêm lượt thi đấu, thay đổi vai trò hoặc quy tắc chấm điểm. Trước khi so sánh, hãy xác định mỗi dòng đại diện cho điều gì: một cuộc thi, một hiệp, một lượt, một vận động viên hay một kết quả tổng hợp. Nếu các đơn vị bị trộn, điểm nhìn như bất thường có thể đơn giản là thuộc nhóm khác.

Biểu đồ điểm, bảng sắp xếp và đồ thị theo thời gian giúp phát hiện trường hợp cần xem xét. Đừng chỉ nhìn biểu đồ hộp hay một ngưỡng tự động rồi kết luận. Khi dữ liệu có nhiều cụm tự nhiên, chẳng hạn các cự ly, hạng cân, giới hạn tuổi hoặc cấp độ giải khác nhau, một quan sát có thể xa trung tâm toàn bộ tập nhưng bình thường trong nhóm phù hợp. Ngược lại, nhiều điểm cùng lệch có thể báo rằng cách chia nhóm hoặc định nghĩa chỉ số không phù hợp. Ghi nhận “cần kiểm tra” là một bước trung lập và khác với tuyên bố “bản ghi sai”.

NIST mô tả ngoại lệ là quan sát có vẻ lệch đáng kể khỏi các quan sát khác và nhấn mạnh khả năng đó là dữ liệu sai, biến thiên ngẫu nhiên hoặc thông tin khoa học đáng quan tâm. Hướng dẫn cũng lưu ý việc xác định ngoại lệ phụ thuộc giả định phân phối; một kiểm tra được thiết kế cho dữ liệu gần phân phối chuẩn có thể không thích hợp cho dữ liệu lệch hoặc nhiều cụm. Vì vậy, ngưỡng thống kê không thay thế việc hiểu cách dữ liệu được tạo ra. ^[1]

2. Kiểm tra nguồn gốc, bản ghi và điều kiện

Bắt đầu từ những lỗi có thể xác minh trực tiếp. Soát lại số thập phân, đơn vị đo, dấu phân cách, mã vận động viên, ngày tháng, nội dung thi đấu và việc nhập nhầm cột. Chẳng hạn, một giá trị ghi bằng giây có thể bị đọc như phút, hoặc bản ghi tính theo mét bị nhập vào trường centimet. Đây là ví dụ về dạng lỗi cần rà soát, không khẳng định đã xảy ra ở một giải cụ thể. Đối chiếu bảng tổng hợp với biên bản, trang kết quả chính thức hoặc hồ sơ gốc có thể phân biệt lỗi chuyển đổi với một kết quả thực sự.

Sau đó xem metadata: thiết bị đo nào được sử dụng, phiên bản quy trình có thay đổi không, ai ghi nhận, thời điểm đồng bộ là lúc nào và trạng thái kết quả cuối cùng là gì. Trong môn có vòng loại và chung kết, cần bảo đảm không so thành tích ở hai giai đoạn như thể điều kiện tương đương. Với các môn ngoài trời, thời tiết, mặt sân và địa điểm có thể là bối cảnh quan trọng. Ở môn đồng đội, thời lượng, vị trí và nhiệm vụ có thể làm tổng số sự kiện thay đổi. Bối cảnh không phải lý do tự động để loại dữ liệu; nó giúp diễn giải điều quan sát được và quyết định có nên phân tầng phân tích.

Hãy tìm sửa đổi chính thức. Một kết quả sơ bộ có thể được cập nhật sau khi ban tổ chức xác minh, trong khi một nguồn tổng hợp có thể chưa nhận bản sửa. Lưu URL hoặc tài liệu, ngày truy xuất và phiên bản dữ liệu để người khác có thể lặp lại kiểm tra. Nếu nguồn gốc không thể xác minh, hãy gắn cờ mức tin cậy thay vì tự điền con số “hợp lý”. Không nên biến một ô thiếu thành số 0; số 0 có thể mang nghĩa kết quả thực tế, còn thiếu nghĩa là chưa có giá trị được xác nhận.

3. Quyết định giữ, sửa hay loại theo quy tắc nhất quán

Nếu tìm được lỗi rõ ràng và có giá trị đúng từ nguồn đáng tin, sửa có lưu vết: giữ bản gốc, ghi giá trị mới, lý do, thời điểm và người hoặc quy trình thay đổi. Nếu lỗi không thể khôi phục, có thể đánh dấu bản ghi không hợp lệ theo tiêu chí định trước, nhưng không nên âm thầm xóa. Nếu không có bằng chứng lỗi, quan sát hợp lệ nên được giữ lại trong tập dữ liệu chính. Khi nó ảnh hưởng mạnh đến trung bình, có thể báo thêm trung vị, phạm vi, phân vị hoặc phân tích nhạy cảm có và không có điểm đó. Cách này cho thấy kết luận có phụ thuộc quá mức vào một quan sát hay không.

Không được đặt quy tắc sau khi đã biết điểm nào có lợi cho câu chuyện. Chẳng hạn, loại kết quả của một vận động viên chỉ vì nó làm giảm trung bình của nhóm đó, nhưng giữ kết quả tương tự ở nhóm khác, tạo ra lựa chọn thiên lệch. Hãy viết trước tiêu chí: bản ghi trùng, đơn vị không xác định, kết quả bị hủy chính thức hay thiết bị không đạt yêu cầu kiểm định. Nếu dùng kiểm định hình thức, chọn phương pháp phù hợp với phân phối và số lượng điểm nghi vấn. NIST phân biệt việc gắn nhãn điểm tiềm năng, thích nghi phân tích để ít nhạy với điểm cực đoan và kiểm định nhận diện; ba mục tiêu này không nên bị nhập làm một. ^[1]

Một số dữ liệu hợp lệ vẫn có thể làm méo chỉ số tóm tắt. Khi không thể loại bỏ bằng căn cứ, dùng phương pháp vững hơn hoặc trình bày nhiều thước đo cạnh nhau. Điều đó không có nghĩa che giấu quan sát khó chịu. Trái lại, hiển thị điểm cá biệt cùng bối cảnh khiến người đọc thấy kết luận phụ thuộc ra sao vào cách tóm tắt. Hãy nói rõ kết quả chính có bao gồm điểm đó hay không, và vì sao. Nếu so sánh hai nhóm, áp dụng cùng tiêu chí cho cả hai.

4. Cách viết báo cáo có thể kiểm chứng

Một ghi chú tốt về ngoại lệ nêu dữ liệu đến từ đâu, điều gì khiến bản ghi được đánh dấu, bước kiểm tra nào đã thực hiện và kết quả của từng bước. Nói “đã rà soát” là chưa đủ nếu không nêu đã đối chiếu với loại nguồn nào. Nếu bản ghi được xác nhận hợp lệ, ghi lại điều kiện khác biệt có thể giải thích hoặc làm thay đổi khả năng so sánh. Nếu xác nhận sai, trình bày cách sửa và lưu phiên bản cũ. Nếu chưa biết, báo cáo “chưa xác minh” trung thực hơn việc khẳng định một nguyên nhân.

Đừng gọi một vận động viên thiếu ổn định chỉ từ một quan sát xa trung tâm. Đừng dùng một ngoại lệ để kể câu chuyện về gian lận, chấn thương hay thay đổi năng lực nếu không có chứng cứ độc lập. Dữ liệu thi đấu mô tả sự kiện được ghi nhận; nó không tự xác nhận động cơ hoặc nguyên nhân. Cách diễn đạt nên phân biệt quan sát, giả thuyết và kết luận. Nếu dữ liệu công khai được cập nhật, ghi ngày truy xuất để người đọc hiểu vì sao số liệu hiện tại có thể khác ảnh chụp trước đó.

Một quy trình bền vững nên có bước kiểm tra tự động và bước rà soát con người. Tự động hóa có thể phát hiện giá trị vượt giới hạn hợp lý đã định nghĩa, mã thiếu hoặc trùng lặp; người rà soát xác định liệu giới hạn đó thực sự áp dụng cho môn và định dạng đang xem. Ngưỡng dùng để báo động không nhất thiết là ngưỡng loại bỏ. Lưu nhật ký quyết định giúp tái tạo phân tích và ngăn thay đổi âm thầm khi một bảng dữ liệu được cập nhật. Khi tái sử dụng dữ liệu cho nghiên cứu hoặc bài viết mới, cần mang theo chú thích và quy tắc xử lý, chứ không chỉ sao chép cột số.

Câu hỏi thường gặp