原文鏈接：http://tecdat.cn/?p=9589

?

目錄

怎么做測試

假設(shè)條件

并非所有比例或計(jì)數(shù)都適用于邏輯回歸分析

過度分散

偽R平方

測試p值

Logistic回歸示例

模型擬合

系數(shù)和指數(shù)系數(shù)

方差分析?

偽R平方

模型的整體p值

標(biāo)準(zhǔn)化殘差圖

繪制模型

Logistic回歸示例

模型擬合

系數(shù)和指數(shù)系數(shù)

方差分析

偽R平方

模型的整體p值

標(biāo)準(zhǔn)化殘差圖

繪制模型

Logistic回歸示例

怎么做測試

Logistic回歸可以使用glm??（廣義線性模型）函數(shù)在R中執(zhí)行??。該函數(shù)使用鏈接函數(shù)來確定要使用哪種模型，例如邏輯模型，概率模型或泊松模型。?

假設(shè)條件

廣義線性模型的假設(shè)少于大多數(shù)常見的參數(shù)檢驗(yàn)。觀測值仍然需要獨(dú)立，并且需要指定正確的鏈接函數(shù)。因此，例如應(yīng)該了解何時使用泊松回歸以及何時使用邏輯回歸。但是，不需要數(shù)據(jù)或殘差的正態(tài)分布。

?

并非所有比例或計(jì)數(shù)都適用于邏輯回歸分析

一個不采用邏輯回歸的例子中，飲食研究中人們減肥的體重?zé)o法用初始體重的比例來解釋作為“成功”和“失敗”的計(jì)數(shù)。在這里，只要滿足模型假設(shè)，就可以使用常用的參數(shù)方法。

?

過度分散

使用廣義線性模型時要注意的一個潛在問題是過度分散。當(dāng)模型的殘余偏差相對于殘余自由度較高時，就會發(fā)生這種情況。這基本上表明該模型不能很好地擬合數(shù)據(jù)。?

?

但是據(jù)我了解，從技術(shù)上講，過度分散對于簡單的邏輯回歸而言不是問題，即具有二項(xiàng)式因果關(guān)系和單個連續(xù)自變量的問題。

?

偽R平方

對于廣義線性模型（glm），R不產(chǎn)生r平方值。pscl??包中的??pR2? 可以產(chǎn)生偽R平方值。

?

測試p值

檢驗(yàn)邏輯對數(shù)或泊松回歸的p值使用卡方檢驗(yàn)。方差分析??來測試每一個系數(shù)的顯著性。似然比檢驗(yàn)也可以用來檢驗(yàn)整體模型的重要性。

?

Logistic回歸示例

?

1. 


2. 


3. Data = read.table(textConnection(Input),header=TRUE)

4. 


5. Data$Total = Data$mpi90 + Data$mpi100

6. 


7. Data$Percent = Data$mpi100 / + Data$Total

模型擬合

?

1. Trials = cbind(Data$mpi100, Data$mpi90) ? ? ? ? # Sucesses, Failures

2. 


3. model = glm(Trials ~ Latitude,

4. data = Data,

5. family = binomial(link="logit"))

系數(shù)和指數(shù)系數(shù)

?

1. 


2. Coefficients:

3. 


4. Estimate Std. Error z value Pr(>|z|)

5. 


6. (Intercept) -7.64686 ? ?0.92487 ?-8.268 ? <2e-16 ***

7. 


8. Latitude ? ? 0.17864 ? ?0.02104 ? 8.490 ? <2e-16 ***

9. 


10. 


11. 


12. 


13. 


14. 


15. 2.5 % ? ? 97.5 %

16. 


17. (Intercept) -9.5003746 -5.8702453

18. 


19. Latitude ? ? 0.1382141 ?0.2208032

20. 


21. 


22. 


23. 


24. # exponentiated coefficients

25. 


26. 


27. 


28. (Intercept) ? ? Latitude

29. 


30. 0.0004775391 1.1955899446

31. 


32. 


33. 


34. 


35. # 95% CI for exponentiated coefficients

36. 


37. 


38. 


39. 2.5 % ? ? ?97.5 %

40. 


41. (Intercept) 7.482379e-05 0.002822181

42. 


43. Latitude ? ?1.148221e+00 1.247077992

方差分析?

1. 


2. 


3. Analysis of Deviance Table (Type II tests)

4. 


5. 


6. 


7. Response: Trials

8. 


9. Df ?Chisq Pr(>Chisq)

10. 


11. Latitude ? 1 72.076 ?< 2.2e-16 ***

?

偽R平方

?

1. 


2. $Models

3. 


4. 


5. 


6. Model: "glm, Trials ~ Latitude, binomial(link = \"logit\"), Data"

7. 


8. Null: ?"glm, Trials ~ 1, binomial(link = \"logit\"), Data"

9. 


10. 


11. 


12. $Pseudo.R.squared.for.model.vs.null

13. 


14. Pseudo.R.squared

15. 


16. McFadden ? ? ? ? ? ? ? ? ? ? ? ? ? ? 0.425248

17. 


18. Cox and Snell (ML) ? ? ? ? ? ? ? ? ? 0.999970

19. 


20. Nagelkerke (Cragg and Uhler) ? ? ? ? 0.999970

?

模型的整體p值

?

1. 


2. 


3. 


4. Analysis of Deviance Table

5. 


6. 


7. 


8. Model 1: Trials ~ Latitude

9. 


10. Model 2: Trials ~ 1

11. 


12. Resid. Df Resid. Dev Df Deviance ?Pr(>Chi)

13. 


14. 1 ? ? ? ? 6 ? ? 70.333

15. 


16. 2 ? ? ? ? 7 ? ?153.633 -1 ?-83.301 < 2.2e-16 ***

17. 


18. 


19. 


20. 


21. Likelihood ratio test

22. 


23. 


24. 


25. Model 1: Trials ~ Latitude

26. 


27. Model 2: Trials ~ 1

28. 


29. #Df ?LogLik Df ?Chisq Pr(>Chisq)

30. 


31. 1 ? 2 -56.293

32. 


33. 2 ? 1 -97.944 -1 83.301 ?< 2.2e-16 ***

?

標(biāo)準(zhǔn)化殘差圖

?

?

?

?

標(biāo)準(zhǔn)化殘差與預(yù)測值的關(guān)系圖。殘差應(yīng)無偏且均等。?

?

繪制模型

?

?

?

?

?

?

Logistic回歸示例

?

1. 


2. 


3. Data = read.table(textConnection(Input),header=TRUE)

4. 


5. 


?

模型擬合

?

model

?

系數(shù)和指數(shù)系數(shù)

?

1. 


2. 


3. Coefficients:

4. 


5. Estimate Std. Error z value Pr(>|z|)

6. 


7. (Intercept) ?4.41379 ? ?6.66190 ? 0.663 ? ?0.508

8. 


9. Height ? ? ?-0.05016 ? ?0.09577 ?-0.524 ? ?0.600

10. 


11. 


12. 


13. 


14. 


15. 


16. 


17. 


18. 2.5 % ? ? 97.5 %

19. 


20. (Intercept) -8.4723648 18.4667731

21. 


22. Height ? ? ?-0.2498133 ?0.1374819

23. 


24. 


25. 


26. # exponentiated coefficients

27. 


28. 


29. 


30. (Intercept) ? ? ?Height

31. 


32. 82.5821122 ? 0.9510757

33. 


34. 


35. 


36. 


37. # 95% CI for exponentiated coefficients

38. 


39. 


40. 


41. 2.5 % ? ? ? 97.5 %

42. 


43. (Intercept) 0.0002091697 1.047171e+08

44. 


45. Height ? ? ?0.7789461738 1.147381e+0

46. 


47. 


?

方差分析

?

1. 


2. 


3. Analysis of Deviance Table (Type II tests)

4. 


5. 


6. 


7. Response: Insect

8. 


9. Df ?Chisq Pr(>Chisq)

10. 


11. Height ? ? 1 0.2743 ? ? 0.6004

12. 


13. Residuals 23

?

偽R平方

?

1. 


2. 


3. $Pseudo.R.squared.for.model.vs.null

4. 


5. Pseudo.R.squared

6. 


7. McFadden ? ? ? ? ? ? ? ? ? ? ? ? ? 0.00936978

8. 


9. Cox and Snell (ML) ? ? ? ? ? ? ? ? 0.01105020

10. 


11. Nagelkerke (Cragg and Uhler) ? ? ? 0.01591030

?

模型的整體p值

?

1. 


2. 


3. Analysis of Deviance Table

4. 


5. 


6. 


7. Model 1: Insect ~ Height

8. 


9. Model 2: Insect ~ 1

10. 


11. Resid. Df Resid. Dev Df Deviance Pr(>Chi)

12. 


13. 1 ? ? ? ?23 ? ? 29.370

14. 


15. 2 ? ? ? ?24 ? ? 29.648 -1 -0.27779 ? 0.5982

16. 


17. 


18. 


19. 


20. 


21. 


22. Likelihood ratio test

23. 


24. 


25. 


26. Model 1: Insect ~ Height

27. 


28. Model 2: Insect ~ 1

29. 


30. #Df ?LogLik Df ?Chisq Pr(>Chisq)

31. 


32. 1 ? 2 -14.685

33. 


34. 2 ? 1 -14.824 -1 0.2778 ? ? 0.5982

標(biāo)準(zhǔn)化殘差圖

?

?

?

?

繪制模型

?

1. 


2. 


3. 


4. Height Insect Insect.num

5. 


6. 1 ? ? ?62 beetle ? ? ? ? ?0

7. 


8. 2 ? ? ?66 ?other ? ? ? ? ?1

9. 


10. 3 ? ? ?61 beetle ? ? ? ? ?0

11. 


12. 23 ? ? 72 ?other ? ? ? ? ?1

13. 


14. 24 ? ? 70 beetle ? ? ? ? ?0

15. 


16. 25 ? ? 74 ?other ? ? ? ? ?1

17. 


18. 


19. 


?

?

?

?

1. 


2. 


3. 


4. Height Insect Insect.num Insect.log

5. 


6. 1 ? ? ?62 beetle ? ? ? ? ?0 ? ? ?FALSE

7. 


8. 2 ? ? ?66 ?other ? ? ? ? ?1 ? ? ? TRUE

9. 


10. 3 ? ? ?61 beetle ? ? ? ? ?0 ? ? ?FALSE

11. 


12. 23 ? ? 72 ?other ? ? ? ? ?1 ? ? ? TRUE

13. 


14. 24 ? ? 70 beetle ? ? ? ? ?0 ? ? ?FALSE

15. 


16. 25 ? ? 74 ?other ? ? ? ? ?1 ? ? ? TRUE

17. 


?

?

Logistic回歸示例

?

1. 


2. 


3. Data = read.table(textConnection(Input),header=TRUE)

4. 


5. 


6. model

7. 


8. Coefficients:

9. 


10. Estimate Std. Error z value Pr(>|z|)

11. 


12. (Intercept) -66.4981 ? ?32.3787 ?-2.054 ? 0.0400 *

13. 


14. Continuous ? ?0.9027 ? ? 0.4389 ? 2.056 ? 0.0397 *

15. 


16. 


17. 


18. 


19. 


20. 


21. Analysis of Deviance Table (Type II tests)

22. 


23. 


24. 


25. Response: Factor

26. 


27. Df Chisq Pr(>Chisq)

28. 


29. Continuous ?1 4.229 ? ?0.03974 *

30. 


31. Residuals ?27

32. 


33. 


34. 


35. 


36. 


37. Pseudo.R.squared

38. 


39. McFadden ? ? ? ? ? ? ? ? ? ? ? ? ? ? 0.697579

40. 


41. Cox and Snell (ML) ? ? ? ? ? ? ? ? ? 0.619482

42. 


43. Nagelkerke (Cragg and Uhler) ? ? ? ? 0.826303

44. 


45. 


46. 


47. 


48. 


49. 


50. Resid. Df Resid. Dev Df Deviance Pr(>Chi)

51. 


52. 1 ? ? ? ?27 ? ? 12.148

53. 


54. 2 ? ? ? ?28 ? ? 40.168 -1 ? -28.02 ?1.2e-07 ***

55. 


56. 


57. 


58. 


?

將因子轉(zhuǎn)換為數(shù)字變量，級別為0和1?
?

1. 


2. 


3. Continuous Factor Factor.num

4. 


5. 1 ? ? ? ? ?62 ? ? ?A ? ? ? ? ?0

6. 


7. 2 ? ? ? ? ?63 ? ? ?A ? ? ? ? ?0

8. 


9. 3 ? ? ? ? ?64 ? ? ?A ? ? ? ? ?0

10. 


11. 27 ? ? ? ? 84 ? ? ?B ? ? ? ? ?1

12. 


13. 28 ? ? ? ? 85 ? ? ?B ? ? ? ? ?1

14. 


15. 29 ? ? ? ? 86 ? ? ?B ? ? ? ? ?1

16. 


17. 


18. 


?

?

?

將Factor轉(zhuǎn)換為邏輯變量，級別為TRUE和FALSE?
?

1. 


2. 


3. 


4. Continuous Factor Factor.num Factor.log

5. 


6. 1 ? ? ? ? ?62 ? ? ?A ? ? ? ? ?0 ? ? ?FALSE

7. 


8. 2 ? ? ? ? ?63 ? ? ?A ? ? ? ? ?0 ? ? ?FALSE

9. 


10. 3 ? ? ? ? ?64 ? ? ?A ? ? ? ? ?0 ? ? ?FALSE

11. 


12. 27 ? ? ? ? 84 ? ? ?B ? ? ? ? ?1 ? ? ? TRUE

13. 


14. 28 ? ? ? ? 85 ? ? ?B ? ? ? ? ?1 ? ? ? TRUE

15. 


16. 29 ? ? ? ? 86 ? ? ?B ? ? ? ? ?1 ? ? ? TRUE

17. 


18.