Discussion #1 - Giá trị bình phương R about interpretablemlbook-vietnamese HOT 5 CLOSED

hi Trí, theo anh hiểu và trong bài e gửi, thì adjusted R-squared chỉ phụ thuộc vào meaningful features đúng ko? Tuy nhiên trong công thức anh không thấy điều đó, mà adjusted R-squared vẫn phụ thuộc vào số lượng p đơn thuần. Không biết anh hiểu vậy đúng ko?

from interpretablemlbook-vietnamese.

Em thì vẫn đồng ý với tác giả. Ý kiến em như thế này anh @luulinh90s tham khảo thử :

Vì trước hết xét khả năng của R^2 là nó đánh giá mô hình hồi quy tuyến tính đặc tả cho dữ diệu như thế nào. R^2 càng cao thì mô hình biểu diễn dữ liệu càng tốt.

Khi đó theo cách tính R^2 truyền thống thì khi ta tăng số lượng đặc trưng (p). Mô hình (y) càng khớp với dữ liệu hơn thì SSE sẽ giảm (vì đây là độ đo giữa dự đoán với nhãn) và SST thì không đổi. Do đó R^2 tăng theo.

Nhưng điều này không đảm bảo sự chính sác, vì có thể tăng số lượng (p) nhưng chưa chắc khả năng đặc tả của mô hình tốt cho dữ liệu vì có thể những đặc trưng đó không có giá trị học. Ngoài ra thì mô hình sẽ phức tạp hơn nếu có quá nhiều đặc trưng được thêm vào.

Do đó công thức điểu chỉnh mới của R^2, khi thêm (n-1)/(n-1-p) và số lượng đặc trưng tăng giá trị này sẽ giảm, làm cân bằng với SSE/SST tăng. Thì R^2 sẽ không bị ảnh hưởng tăng theo số lượng p không mong muốn. Vẫn đánh giá tốt hơn mô hình.

Có một bài post tham khảo thêm về công thức R^2 điều chỉnh này: link

from interpretablemlbook-vietnamese.

Hi anh @luulinh90s

adjusted R-squared chỉ phụ thuộc vào meaningful features đúng ko?: Đúng rồi anh, vì chỉ meaningful features mới làm mô hình đặc tả dữ liệu tốt hơn.

Tuy nhiên trong công thức anh không thấy điều đó: Công thức điều chỉnh chỉ có thể ngăn cho việc đánh giá mô hình qua số lượng q tăng làm R^2 tăng thôi làm đánh giá công bằng hơn công thức R^2 truyền thống, vì hiện tại ta không có cách nào xác định feature nào là tốt ngoài bằng cách thử nghiệm thực tế rồi đánh giá mô hình.

from interpretablemlbook-vietnamese.

Cũng trong bài đăng em gửi link thì có thí nghiệm với 4, 5 features thì R^2(adj) thấp hơn 1,2,3 features, và theo đánh giá thì với 3 features là tốt nhất trong 5 thí nghiệm. Trong khi R^2 tăng dần với số features không thể hiện đúng mô hình tương ứng.

from interpretablemlbook-vietnamese.

Nice! Cám ơn em.

from interpretablemlbook-vietnamese.