EkP+C4.5 on 16 UCI datasets
% 25/11/2009 11:11
Accuracy
| Appendicitis | Breast C.W. ** ^^ **Horse Colic ** ^^ *Credit rating* ^^ *German credit* ^^ *Pima Indians Diabetes* ^^ **Glass ** ^^ *Cleveland heart* ^^ *Hungarian heart* ^^ *Statlog heart* ^^ **Hepatitis ** ^^ **Labor ** ^^ *Lymphography* ^^ *Primary Tumor* ^^ **Sonar ** ^^ **Voting ** ^^ **Zoo ** ^^ **Iris ** ^^ **Wine ** ^^ | | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | | ** C4.5 | ** 85.32** | 10.39 | ** 68.56** | 8.70 | ** 79.61** | 5.99 | ** 84.16** | 3.99 | ** 71.05** | 4.14 | ** 73.23** | 4.11 | ** 68.56** | 10.55 | ** 78.10** | 7.31 | ** 80.56** | 7.27 | ** 77.37** | 7.66 | ** 81.33** | 10.62 | ** 82.80** | 12.58 | ** 75.77** | 11.51 | ** 40.32** | 7.84 | ** 74.83** | 10.70 | ** 95.01** | 3.07 | ** 92.76** | 8.71 | ** 93.60** | 6.56 | ** 92.03** | 7.07 | ||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| EkPs60p-10 | ** 84.12** | 10.33 | ** 73.64** | 7.85 | ** 84.58** | 5.90 | ** 85.54** | 3.67 | ** 70.72** | 4.67 | ** 73.69** | 3.96 | ** 58.39** | 10.58 | ** 77.54** | 7.01 | ** 78.62** | 7.65 | ** 78.63** | 8.25 | ** 80.23** | 9.92 | ** 82.10** | 13.58 | ** 76.89** | 11.03 | ** 32.65** | 8.19 | ** 71.30** | 9.75 | ** 95.19** | 3.00 | ** 71.12** | 14.68 | ** 92.40** | 6.29 | ** 85.74** | 9.04 | |||
| ** ENRBF** | ** 80.29** | 18.50 | ** 58.80** | 12.00 | ** 77.02** | 7.81 | ** 70.43** | 11.83 | ** 60.05** | 6.10 | ** 70.71** | 7.07 | ** 59.07** | 11.53 | ** 72.34** | 9.40 | ** 73.43** | 10.87 | ** 72.07** | 9.30 | ** 64.57** | 17.00 | ** 56.10** | 25.38 | ** 69.26** | 13.75 | ** 34.64** | 8.43 | ** 59.35** | 12.00 | ** 91.02** | 11.21 | ** 70.00** | 15.36 | ** 62.80** | 12.54 | ** 78.00** | 12.72 | |||
| ** DROP3** | ** 83.03** | 11.25 | ** 65.32** | 12.11 | ** 80.26** | 6.54 | ** 80.97** | 5.96 | ** 66.63** | 6.92 | ** 71.09** | 5.72 | ** 51.41** | 14.09 | ** 76.16** | 9.38 | ** 74.02** | 11.31 | ** 73.37** | 9.10 | ** 79.88** | 11.12 | ** 77.80** | 18.82 | ** 72.00** | 12.51 | ** 27.34** | 7.86 | ** 66.92** | 10.60 | ** 95.24** | 3.31 | ** 67.29** | 15.69 | ** 90.40** | 8.44 | ** 77.05** | 11.24 | |||
| ** ICF** | ** 82.03** | 12.07 | ** 66.04** | 9.26 | ** 75.98** | 7.44 | ** 83.16** | 4.62 | ** 66.83** | 4.75 | ** 69.62** | 7.14 | ** 61.70** | 10.48 | ** 74.16** | 9.63 | ** 74.96** | 9.86 | ** 73.22** | 9.19 | ** 78.06** | 10.85 | ** 76.93** | 19.27 | ** 72.96** | 12.36 | ** 37.38** | 8.06 | ** 71.70** | 11.27 | ** 94.66** | 3.22 | ** 83.97** | 14.08 | ** 93.60** | 6.21 | ** 76.44** | 12.06 | |||
| ** CNN** | ** 79.95** | 14.08 | ** 61.71** | 9.96 | ** 74.57** | 7.15 | ** 73.75** | 5.24 | ** 64.64** | 5.11 | ** 71.10** | 6.09 | ** 60.61** | 12.02 | ** 70.63** | 8.75 | ** 73.64** | 9.46 | ** 71.78** | 8.61 | ** 67.38** | 15.98 | ** 80.97** | 17.50 | ** 72.54** | 11.11 | ** 36.40** | 8.78 | ** 66.51** | 11.06 | ** 90.92** | 5.75 | ** 92.16** | 8.88 | ** 80.93** | 13.10 | ** 83.17** | 10.70 | |||
| ** GE** | ** 84.11** | 11.08 | ** 67.96** | 8.17 | ** 79.61** | 5.99 | ** 84.29** | 4.08 | ** 71.05** | 4.14 | ** 73.53** | 4.07 | ** 68.98** | 9.87 | ** 78.00** | 7.21 | ** 80.53** | 7.39 | ** 77.89** | 7.99 | ** 81.48** | 10.66 | ** 83.47** | 12.59 | ** 75.77** | 11.51 | ** 40.32** | 7.84 | ** 74.74** | 10.90 | ** 95.01** | 3.07 | ** 92.76** | 8.71 | ** 93.87** | 6.54 | ** 91.90** | 6.97 | |||
| ** ENN** | ** 83.63** | 10.87 | ** 70.28** | 8.10 | ** 81.23** | 6.31 | ** 85.38** | 3.99 | ** 73.48** | 4.15 | ** 74.90** | 4.41 | ** 68.17** | 9.61 | ** 80.67** | 7.38 | ** 78.53** | 7.91 | ** 79.26** | 6.60 | ** 82.12** | 9.35 | ** 81.53** | 13.74 | ** 76.62** | 11.31 | ** 39.57** | 8.48 | ** 76.50** | 9.47 | ** 95.72** | 2.72 | ** 84.87** | 13.61 | ** 94.53** | 5.87 | ** 89.94** | 7.36 | |||
statistically significant improvement,
significant degradation
Compression
| Appendicitis | Breast C.W. ** ^^ **Horse Colic ** ^^ *Credit rating* ^^ *German credit* ^^ *Pima Indians Diabetes* ^^ **Glass ** ^^ *Cleveland heart* ^^ *Hungarian heart* ^^ *Statlog heart* ^^ **Hepatitis ** ^^ **Labor ** ^^ *Lymphography* ^^ *Primary Tumor* ^^ **Sonar ** ^^ **Voting ** ^^ **Zoo ** ^^ **Iris ** ^^ **Wine ** ^^ | | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | | ** C4.5 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | 100.00 | 0.00 | ||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| EkPs60p-10 | ** 8.39** | 0.04 | ** 9.32** | 0.02 | ** 9.66** | 0.01 | ** 9.98** | 0.00 | ** 10.00** | 0.00 | ** 9.84** | 0.01 | ** 7.27** | 0.02 | ** 9.17** | 0.02 | ** 9.45** | 0.02 | ** 9.88** | 0.00 | ** 9.32** | 0.69 | ** 7.80** | 0.07 | ** 9.01** | 0.03 | ** 7.21** | 0.01 | ** 9.62** | 0.02 | ** 9.71** | 0.01 | ** 7.70** | 0.03 | ** 8.89** | 0.00 | ** 9.36** | 0.02 | |||
| ** ENRBF** | ** 5.19** | 1.72 | ** 14.72** | 1.70 | ** 9.41** | 1.18 | ** 4.27** | 0.66 | ** 9.99** | 0.69 | ** 11.06** | 1.08 | ** 20.27** | 2.20 | ** 9.07** | 1.18 | ** 9.13** | 1.52 | ** 7.59** | 1.34 | ** 7.10** | 1.66 | ** 9.64** | 4.16 | ** 14.64** | 2.52 | ** 16.56** | 1.70 | ** 13.47** | 1.50 | ** 5.64** | 1.13 | ** 19.99** | 1.63 | ** 12.52** | 1.62 | ** 12.76** | 2.17 | |||
| ** DROP3** | ** 7.45** | 1.13 | ** 5.48** | 2.14 | ** 13.09** | 2.22 | ** 5.91** | 0.89 | ** 11.01** | 1.17 | ** 12.29** | 1.50 | ** 20.04** | 2.86 | ** 13.20** | 1.89 | ** 8.14** | 2.14 | ** 12.00** | 1.58 | ** 10.62** | 2.52 | ** 15.28** | 3.28 | ** 20.11** | 3.22 | ** 7.00** | 2.02 | ** 24.87** | 2.65 | ** 3.24** | 0.79 | ** 21.16** | 5.46 | ** 9.70** | 1.41 | ** 11.77** | 1.60 | |||
| ** ICF** | ** 20.41** | 5.00 | ** 30.27** | 2.93 | ** 24.27** | 2.20 | ** 22.19** | 2.10 | ** 23.99** | 1.26 | ** 23.06** | 1.20 | ** 36.21** | 2.45 | ** 20.48** | 1.90 | ** 20.02** | 2.32 | ** 24.72** | 2.50 | ** 13.03** | 2.41 | ** 29.07** | 8.76 | ** 34.09** | 3.44 | ** 44.34** | 2.31 | ** 37.54** | 2.11 | ** 19.07** | 4.01 | ** 47.72** | 3.06 | ** 29.84** | 4.37 | ** 13.23** | 2.00 | |||
| ** CNN** | ** 36.83** | 3.70 | ** 55.08** | 2.38 | ** 49.89** | 2.40 | ** 33.77** | 1.32 | ** 51.90** | 1.22 | ** 50.30** | 1.46 | ** 53.64** | 2.17 | ** 41.12** | 2.22 | ** 38.15** | 2.29 | ** 43.39** | 2.66 | ** 34.17** | 2.52 | ** 36.92** | 6.07 | ** 48.14** | 2.93 | ** 78.84** | 1.55 | ** 41.12** | 2.83 | ** 16.19** | 1.68 | ** 73.31** | 2.18 | ** 15.74** | 2.21 | ** 15.25** | 2.62 | |||
| ** GE** | ** 54.99** | 3.53 | ** 98.07** | 0.72 | 100.00 | 0.03 | ** 99.23** | 0.30 | 100.00 | 0.00 | ** 94.62** | 0.58 | ** 91.34** | 1.30 | ** 98.25** | 0.37 | ** 92.91** | 1.60 | ** 98.45** | 0.65 | ** 94.82** | 1.85 | ** 91.99** | 3.09 | 100.00 | 0.00 | 100.00 | 0.00 | ** 99.99** | 0.05 | 100.00 | 0.00 | ** 93.40** | 1.89 | ** 32.15** | 2.03 | ** 83.88** | 1.92 | |||
| ** ENN** | ** 92.59** | 1.16 | ** 81.17** | 1.56 | ** 85.26** | 1.21 | ** 90.43** | 0.49 | ** 84.21** | 0.52 | ** 85.70** | 0.73 | ** 81.12** | 1.44 | ** 89.24** | 1.03 | ** 88.68** | 1.01 | ** 89.67** | 1.01 | ** 88.86** | 1.22 | ** 93.70** | 2.05 | ** 90.62** | 1.37 | ** 59.15** | 2.11 | ** 92.04** | 1.27 | ** 95.78** | 0.66 | ** 64.35** | 1.98 | ** 96.63** | 0.43 | ** 97.16** | 0.56 | |||
statistically significant improvement,
significant degradation
Rules
| Appendicitis | Breast C.W. ** ^^ **Horse Colic ** ^^ *Credit rating* ^^ *German credit* ^^ *Pima Indians Diabetes* ^^ **Glass ** ^^ *Cleveland heart* ^^ *Hungarian heart* ^^ *Statlog heart* ^^ **Hepatitis ** ^^ **Labor ** ^^ *Lymphography* ^^ *Primary Tumor* ^^ **Sonar ** ^^ **Voting ** ^^ **Zoo ** ^^ **Iris ** ^^ **Wine ** ^^ | | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | mean | std. | | ** C4.5 | ** 3.20** | 0.67 | ** 18.73** | 4.05 | ** 19.97** | 3.28 | ** 29.96** | 3.43 | ** 69.10** | 6.21 | ** 7.71** | 1.71 | ** 15.54** | 1.83 | ** 20.29** | 2.78 | ** 16.07** | 2.55 | ** 17.99** | 2.53 | ** 9.38** | 1.56 | ** 3.40** | 0.71 | ** 11.29** | 2.09 | ** 46.72** | 3.99 | ** 7.29** | 1.07 | ** 8.82** | 2.63 | ** 7.66** | 0.52 | ** 4.00** | 1.11 | ** 4.52** | 0.72 | ||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| EkPs60p-10 | ** 2.04** | 0.20 | ** 3.14** | 0.45 | ** 3.52** | 0.67 | ** 5.07** | 0.92 | ** 8.49** | 2.12 | ** 4.76** | 1.44 | ** 3.81** | 0.68 | ** 3.88** | 0.56 | ** 3.81** | 1.24 | ** 3.98** | 0.60 | ** 2.22** | 0.48 | ** 2.00** | 0.00 | ** 3.03** | 0.22 | ** 6.49** | 1.18 | ** 2.25** | 0.44 | ** 3.82** | 0.72 | ** 3.00** | 0.00 | ** 3.00** | 0.00 | ** 3.00** | 0.00 | |||
| ** ENRBF** | ** 1.83** | 0.38 | ** 4.18** | 1.92 | ** 3.04** | 0.98 | ** 4.31** | 1.08 | ** 11.82** | 2.32 | ** 5.10** | 1.47 | ** 5.22** | 0.60 | ** 4.14** | 0.95 | ** 3.58** | 1.11 | ** 3.37** | 0.95 | ** 2.38** | 0.63 | ** 1.66** | 0.61 | ** 3.51** | 0.95 | ** 12.18** | 1.65 | ** 2.73** | 0.69 | ** 3.15** | 1.23 | ** 3.88** | 0.43 | ** 2.07** | 0.29 | ** 3.44** | 0.59 | |||
| ** DROP3** | ** 2.00** | 0.00 | ** 2.39** | 0.80 | ** 2.35** | 0.67 | ** 3.90** | 1.46 | ** 10.35** | 2.15 | ** 5.67** | 1.91 | ** 6.83** | 1.41 | ** 4.35** | 0.95 | ** 3.06** | 1.08 | ** 3.64** | 1.02 | ** 2.30** | 0.61 | ** 2.01** | 0.10 | ** 2.73** | 0.74 | ** 5.79** | 1.73 | ** 3.17** | 0.65 | ** 2.01** | 0.10 | ** 3.65** | 0.74 | ** 3.00** | 0.00 | ** 3.00** | 0.00 | |||
| ** ICF** | ** 2.28** | 0.49 | ** 7.20** | 2.16 | ** 5.94** | 2.00 | ** 11.36** | 1.71 | ** 23.89** | 3.39 | ** 3.73** | 1.27 | ** 9.52** | 0.86 | ** 8.44** | 1.61 | ** 6.09** | 1.69 | ** 8.33** | 1.49 | ** 3.13** | 1.09 | ** 2.21** | 0.46 | ** 5.95** | 1.51 | ** 22.46** | 2.72 | ** 4.43** | 0.59 | ** 5.01** | 1.48 | ** 6.34** | 0.74 | ** 3.15** | 0.41 | ** 3.16** | 0.37 | |||
| ** CNN** | ** 1.87** | 0.85 | ** 15.15** | 3.67 | ** 16.31** | 3.12 | ** 23.86** | 3.14 | ** 54.24** | 5.51 | ** 3.61** | 1.58 | ** 13.82** | 2.23 | ** 16.10** | 2.30 | ** 13.21** | 2.35 | ** 14.49** | 2.18 | ** 8.04** | 1.68 | ** 2.71** | 0.71 | ** 8.44** | 1.97 | ** 44.99** | 3.91 | ** 5.25** | 0.95 | ** 7.64** | 1.65 | ** 7.63** | 0.51 | ** 3.83** | 0.88 | ** 3.64** | 0.48 | |||
| ** GE** | ** 3.13** | 0.63 | ** 17.53** | 3.90 | ** 19.97** | 3.28 | ** 30.26** | 3.24 | ** 69.10** | 6.21 | ** 7.40** | 1.61 | ** 15.57** | 2.25 | ** 20.40** | 3.01 | ** 15.85** | 2.62 | ** 17.96** | 2.55 | ** 9.53** | 1.64 | ** 3.40** | 0.70 | ** 11.29** | 2.09 | ** 46.72** | 3.99 | ** 7.27** | 1.07 | ** 8.82** | 2.63 | ** 7.66** | 0.52 | ** 4.01** | 1.03 | ** 4.40** | 0.55 | |||
| ** ENN** | ** 3.63** | 1.13 | ** 11.18** | 3.84 | ** 11.32** | 1.93 | ** 14.70** | 2.04 | ** 38.86** | 3.45 | ** 9.47** | 1.98 | ** 10.50** | 0.93 | ** 12.08** | 1.77 | ** 9.55** | 2.25 | ** 12.32** | 1.93 | ** 4.68** | 1.21 | ** 3.01** | 0.73 | ** 8.83** | 1.89 | ** 24.71** | 2.81 | ** 6.38** | 0.90 | ** 6.14** | 1.78 | ** 6.40** | 0.72 | ** 3.10** | 0.33 | ** 3.95** | 0.80 | |||
statistically significant improvement,
significant degradation