Feature scaling
ವೈಶಿಷ್ಟ್ಯ ಸ್ಕೇಲಿಂಗ್ ಎನ್ನುವುದು ಸ್ವತಂತ್ರ ಅಸ್ಥಿರಗಳ ಅಥವಾ ದತ್ತಾಂಶದ ವೈಶಿಷ್ಟ್ಯಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಸಾಮಾನ್ಯಗೊಳಿಸಲು ಬಳಸುವ ಒಂದು ವಿಧಾನವಾಗಿದೆ. ದತ್ತಾಂಶ ಸಂಸ್ಕರಣೆಯಲ್ಲಿ, ಇದನ್ನು ದತ್ತಾಂಶ ಸಾಮಾನ್ಯೀಕರಣ ಎಂದೂ ಕರೆಯಲಾಗುತ್ತದೆ ಮತ್ತು ಇದನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ದತ್ತಾಂಶ ಪೂರ್ವ ಸಂಸ್ಕರಣೆಯ ಹಂತದಲ್ಲಿ ನಡೆಸಲಾಗುತ್ತದೆ. ಪ್ರೇರಣೆ ಕಚ್ಚಾ ದತ್ತಾಂಶದ ಮೌಲ್ಯಗಳ ವ್ಯಾಪ್ತಿಯು ವ್ಯಾಪಕವಾಗಿ ಬದಲಾಗುವುದರಿಂದ, ಕೆಲವು ಯಂತ್ರ ಕಲಿಕೆಯ ಕ್ರಮಾವಳಿಗಳಲ್ಲಿ, ಸಾಮಾನ್ಯೀಕರಣವಿಲ್ಲದೆ ವಸ್ತುನಿಷ್ಠ ಕಾರ್ಯಗಳು ಸರಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದಿಲ್ಲ. ಉದಾಹರಣೆಗೆ, ಅನೇಕ ವರ್ಗೀಕರಣಕಾರರು ಎರಡು ಬಿಂದುಗಳ ನಡುವಿನ ಅಂತರವನ್ನು ಯೂಕ್ಲಿಡಿಯನ್ ಅಂತರದಿಂದ ಲೆಕ್ಕ ಹಾಕುತ್ತಾರೆ. ಒಂದು ವೈಶಿಷ್ಟ್ಯವು ವಿಶಾಲ ಶ್ರೇಣಿಯ ಮೌಲ್ಯಗಳನ್ನು ಹೊಂದಿದ್ದರೆ, ದೂರವನ್ನು ಈ ನಿರ್ದಿಷ್ಟ ವೈಶಿಷ್ಟ್ಯದಿಂದ ನಿಯಂತ್ರಿಸಲಾಗುತ್ತದೆ. ಆದ್ದರಿಂದ, ಎಲ್ಲಾ ವೈಶಿಷ್ಟ್ಯಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಸಾಮಾನ್ಯಗೊಳಿಸಬೇಕು, ಇದರಿಂದಾಗಿ ಪ್ರತಿ ವೈಶಿಷ್ಟ್ಯವು ಅಂತಿಮ ದೂರಕ್ಕೆ ಸರಿಸುಮಾರು ಅನುಪಾತದಲ್ಲಿ ಕೊಡುಗೆ ನೀಡುತ್ತದೆ. ವೈಶಿಷ್ಟ್ಯ ಸ್ಕೇಲಿಂಗ್ ಅನ್ನು ಅನ್ವಯಿಸಲು ಮತ್ತೊಂದು ಕಾರಣವೆಂದರೆ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಅದು ಇಲ್ಲದಿರುವುದಕ್ಕಿಂತ ವೈಶಿಷ್ಟ್ಯ ಸ್ಕೇಲಿಂಗ್ನೊಂದಿಗೆ ಹೆಚ್ಚು ವೇಗವಾಗಿ ಒಮ್ಮುಖವಾಗುತ್ತದೆ. ನಿಯಮಿತಗೊಳಿಸುವಿಕೆಯನ್ನು ನಷ್ಟದ ಕಾರ್ಯದ ಭಾಗವಾಗಿ ಬಳಸಿದರೆ ವೈಶಿಷ್ಟ್ಯದ ಸ್ಕೇಲಿಂಗ್ ಅನ್ನು ಅನ್ವಯಿಸುವುದು ಸಹ ಮುಖ್ಯವಾಗಿದೆ (ಇದರಿಂದಾಗಿ ಗುಣಾಂಕಗಳಿಗೆ ಸೂಕ್ತವಾಗಿ ದಂಡ ವಿಧಿಸಲಾಗುತ್ತದೆ). ರೀಸ್ಕೇಲಿಂಗ್ ವಿಧಾನಗಳು (ಮಿನಿ-ಮ್ಯಾಕ್ಸ್ ನಾರ್ಮಲೈಸೇಶನ್) ಮಿನಿ-ಮ್ಯಾಕ್ಸ್ ಸ್ಕೇಲಿಂಗ್ ಅಥವಾ ಮಿನಿ-ಮ್ಯಾಕ್ಸ್ ನಾರ್ಮಲೈಸೇಶನ್ ಎಂದೂ ಕರೆಯಲ್ಪಡುವ, ರೀಸ್ಕೇಲಿಂಗ್ ಸರಳವಾದ ವಿಧಾನವಾಗಿದೆ ಮತ್ತು [0,1] ಅಥವಾ [−1,1] ನಲ್ಲಿ ವ್ಯಾಪ್ತಿಯನ್ನು ಅಳೆಯಲು ವೈಶಿಷ್ಟ್ಯಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಮರುಪರಿಶೀಲಿಸುವುದನ್ನು ಒಳಗೊಂಡಿದೆ. ಗುರಿ ವ್ಯಾಪ್ತಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡುವುದು ದತ್ತಾಂಶದ ಸ್ವರೂಪವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. [0,1] ನ ಕನಿಷ್ಠ-ಗರಿಷ್ಠಕ್ಕೆ ಸಾಮಾನ್ಯ ಸೂತ್ರವನ್ನು ಹೀಗೆ ನೀಡಲಾಗಿದೆಃ ಮೂಲ ಮೌಲ್ಯವು ಎಲ್ಲಿ, ಸಾಮಾನ್ಯೀಕೃತ ಮೌಲ್ಯವಾಗಿದೆ. ಉದಾಹರಣೆಗೆ, ನಮ್ಮಲ್ಲಿ ವಿದ್ಯಾರ್ಥಿಗಳ ತೂಕದ ದತ್ತಾಂಶವಿದೆ ಮತ್ತು ವಿದ್ಯಾರ್ಥಿಗಳ ತೂಕವು [160 ಪೌಂಡ್, 200 ಪೌಂಡ್] ಇದೆ ಎಂದು ಭಾವಿಸೋಣ. ಈ ದತ್ತಾಂಶವನ್ನು ಮರುಮಾರಾಟ ಮಾಡಲು, ನಾವು ಮೊದಲು ಪ್ರತಿ ವಿದ್ಯಾರ್ಥಿಯ ತೂಕದಿಂದ 160 ಅನ್ನು ಕಳೆಯುತ್ತೇವೆ ಮತ್ತು ಫಲಿತಾಂಶವನ್ನು 40 ರಿಂದ ಭಾಗಿಸುತ್ತೇವೆ (ಗರಿಷ್ಠ ಮತ್ತು ಕನಿಷ್ಠ ತೂಕದ ನಡುವಿನ ವ್ಯತ್ಯಾಸ). [a, b] ಮೌಲ್ಯಗಳ ಅನಿಯಂತ್ರಿತ ಗುಂಪಿನ ನಡುವಿನ ವ್ಯಾಪ್ತಿಯನ್ನು ಮರುಮೌಲ್ಯಮಾಪನ ಮಾಡಲು, ಸೂತ್ರವು ಹೀಗೆ ಆಗುತ್ತದೆಃ ಕನಿಷ್ಠ-ಗರಿಷ್ಠ ಮೌಲ್ಯಗಳು ಎಲ್ಲಿವೆ. ಸರಾಸರಿ ಸಾಮಾನ್ಯೀಕರಣವು ಮೂಲ ಮೌಲ್ಯವಾಗಿದ್ದು, ಸಾಮಾನ್ಯೀಕರಿಸಿದ ಮೌಲ್ಯವಾಗಿದೆ, ಇದು ಆ ವೈಶಿಷ್ಟ್ಯದ ವಾಹಕದ ಸರಾಸರಿ. ಸಾಮಾನ್ಯೀಕರಣದ ಮತ್ತೊಂದು ರೂಪವಿದೆ, ಇದು ಪ್ರಮಾಣಿತ ವಿಚಲನದಿಂದ ಭಾಗಗೊಳ್ಳುತ್ತದೆ, ಇದನ್ನು ಪ್ರಮಾಣೀಕರಣ ಎಂದೂ ಕರೆಯಲಾಗುತ್ತದೆ. ಪ್ರಮಾಣೀಕರಣ (ಝಡ್-ಸ್ಕೋರ್ ಸಾಮಾನ್ಯೀಕರಣ) ಯಂತ್ರ ಕಲಿಕೆಯಲ್ಲಿ, ನಾವು ವಿವಿಧ ರೀತಿಯ ದತ್ತಾಂಶಗಳನ್ನು ನಿರ್ವಹಿಸಬಹುದು, ಉದಾಹರಣೆಗೆ. ಚಿತ್ರ ದತ್ತಾಂಶಕ್ಕಾಗಿ ಆಡಿಯೋ ಸಂಕೇತಗಳು ಮತ್ತು ಪಿಕ್ಸೆಲ್ ಮೌಲ್ಯಗಳು, ಮತ್ತು ಈ ದತ್ತಾಂಶವು ಅನೇಕ ಆಯಾಮಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ವೈಶಿಷ್ಟ್ಯದ ಪ್ರಮಾಣೀಕರಣವು ದತ್ತಾಂಶದಲ್ಲಿನ ಪ್ರತಿಯೊಂದು ವೈಶಿಷ್ಟ್ಯದ ಮೌಲ್ಯಗಳು ಶೂನ್ಯ-ಅರ್ಥವನ್ನು (ಅಂಶದಲ್ಲಿನ ಸರಾಸರಿಯನ್ನು ಕಳೆಯುವಾಗ) ಮತ್ತು ಏಕಮಾನ-ವ್ಯತ್ಯಾಸವನ್ನು ಹೊಂದುವಂತೆ ಮಾಡುತ್ತದೆ. ಈ ವಿಧಾನವನ್ನು ಅನೇಕ ಯಂತ್ರ ಕಲಿಕೆಯ ಕ್ರಮಾವಳಿಗಳಲ್ಲಿ ಸಾಮಾನ್ಯೀಕರಣಕ್ಕಾಗಿ ವ್ಯಾಪಕವಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ (ಉದಾಹರಣೆಗೆ, ವೆಕ್ಟರ್ ಯಂತ್ರಗಳು, ಲಾಜಿಸ್ಟಿಕ್ ರಿಗ್ರೆಷನ್ ಮತ್ತು ಕೃತಕ ನರ ಜಾಲಗಳನ್ನು ಬೆಂಬಲಿಸುವುದು). ಪ್ರತಿ ವೈಶಿಷ್ಟ್ಯಕ್ಕೆ ವಿತರಣಾ ಸರಾಸರಿ ಮತ್ತು ಪ್ರಮಾಣಿತ ವಿಚಲನವನ್ನು ನಿರ್ಧರಿಸುವುದು ಲೆಕ್ಕಾಚಾರದ ಸಾಮಾನ್ಯ ವಿಧಾನವಾಗಿದೆ. ಮುಂದೆ ನಾವು ಪ್ರತಿ ವೈಶಿಷ್ಟ್ಯದಿಂದ ಸರಾಸರಿಯನ್ನು ಕಳೆಯುತ್ತೇವೆ. ನಂತರ ನಾವು ಪ್ರತಿ ವೈಶಿಷ್ಟ್ಯದ ಮೌಲ್ಯಗಳನ್ನು (ಸರಾಸರಿ ಈಗಾಗಲೇ ಕಳೆಯಲಾಗಿದೆ) ಅದರ ಪ್ರಮಾಣಿತ ವಿಚಲನದಿಂದ ಭಾಗಿಸುತ್ತೇವೆ. ಮೂಲ ವೈಶಿಷ್ಟ್ಯ ವಾಹಕವು ಎಲ್ಲಿದೆ, ಅದು ಆ ವೈಶಿಷ್ಟ್ಯ ವಾಹಕದ ಸರಾಸರಿ, ಮತ್ತು ಅದರ ಪ್ರಮಾಣಿತ ವಿಚಲನವಾಗಿದೆ. ಘಟಕ ಉದ್ದಕ್ಕೆ ಸ್ಕೇಲಿಂಗ್ ಯಂತ್ರ-ಕಲಿಕೆಯಲ್ಲಿ ವ್ಯಾಪಕವಾಗಿ ಬಳಸಲಾಗುವ ಮತ್ತೊಂದು ಆಯ್ಕೆಯು ವೈಶಿಷ್ಟ್ಯದ ವಾಹಕದ ಘಟಕಗಳನ್ನು ಅಳೆಯುವುದು, ಅಂದರೆ ಸಂಪೂರ್ಣ ವಾಹಕವು ಒಂದು ಉದ್ದವನ್ನು ಹೊಂದಿರುತ್ತದೆ. ಇದರರ್ಥ ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರತಿ ಘಟಕವನ್ನು ವಾಹಕದ ಯೂಕ್ಲಿಡಿಯನ್ ಉದ್ದದಿಂದ ಭಾಗಿಸುವುದುಃ ಕೆಲವು ಅನ್ವಯಗಳಲ್ಲಿ (ಉದಾಹರಣೆಗೆ, ಹಿಸ್ಟೋಗ್ರಾಮ್ ವೈಶಿಷ್ಟ್ಯಗಳು) ವೈಶಿಷ್ಟ್ಯ ವಾಹಕದ ಎಲ್1 ಮಾನದಂಡವನ್ನು (ಅಂದರೆ, ಟ್ಯಾಕ್ಸಿಕ್ಯಾಬ್ ಜ್ಯಾಮಿತಿ) ಬಳಸುವುದು ಹೆಚ್ಚು ಪ್ರಾಯೋಗಿಕವಾಗಿರಬಹುದು. ಈ ಕೆಳಗಿನ ಕಲಿಕೆಯ ಹಂತಗಳಲ್ಲಿ ಸ್ಕೇಲಾರ್ ಮೆಟ್ರಿಕ್ ಅನ್ನು ದೂರ ಮಾಪನವಾಗಿ ಬಳಸಿದರೆ ಇದು ವಿಶೇಷವಾಗಿ ಮುಖ್ಯವಾಗಿದೆ. ಇದು ಕೇವಲ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ಸಂಭವನೀಯ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ನಲ್ಲಿ, ವೈಶಿಷ್ಟ್ಯದ ಸ್ಕೇಲಿಂಗ್ ಕೆಲವೊಮ್ಮೆ ಅಲ್ಗಾರಿದಮ್ನ ಒಮ್ಮುಖದ ವೇಗವನ್ನು ಸುಧಾರಿಸುತ್ತದೆ. ಬೆಂಬಲ ವಾಹಕ ಯಂತ್ರಗಳಲ್ಲಿ, ಇದು ಬೆಂಬಲ ವಾಹಕಗಳನ್ನು ಕಂಡುಹಿಡಿಯುವ ಸಮಯವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ವೈಶಿಷ್ಟ್ಯದ ಸ್ಕೇಲಿಂಗ್ ಎಸ್ವಿಎಂ ಫಲಿತಾಂಶವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ಸಾಮಾನ್ಯೀಕರಣ (ಅಂಕಿಅಂಶಗಳು) ಸ್ಟ್ಯಾಂಡರ್ಡ್ ಸ್ಕೋರ್ ಎಫ್. ಎಂ. ಎಲ್. ಎಲ್. ಆರ್., ಫೀಚರ್ ಸ್ಪೇಸ್ ಮ್ಯಾಕ್ಸಿಮಮ್ ಲೈಕ್ಲಿಹುಡ್ ಲೀನಿಯರ್ ರಿಗ್ರೆಷನ್ ರೆಫರೆನ್ಸ್ಗಳನ್ನು ಮತ್ತಷ್ಟು ಓದುವುದು ಬಾಹ್ಯ ಕೊಂಡಿಗಳು ಫೀಚರ್ ಸ್ಕೇಲಿಂಗ್ ಯಂತ್ರ ಕಲಿಕೆ ಅಂಕಿಅಂಶಗಳ ದತ್ತಾಂಶ ರೂಪಾಂತರದ ಕುರಿತು ಆಂಡ್ರ್ಯೂ ಎನ್. ಜಿ. ಅವರ ಉಪನ್ಯಾಸ