Manifold hypothesis
ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಸಂಭವಿಸುವ ಅನೇಕ ಉನ್ನತ-ಆಯಾಮದ ದತ್ತಾಂಶ ಸೆಟ್ಗಳು ವಾಸ್ತವವಾಗಿ ಆ ಉನ್ನತ-ಆಯಾಮದ ಜಾಗದೊಳಗೆ ಕಡಿಮೆ-ಆಯಾಮದ ಸುಪ್ತ ಮ್ಯಾನಿಫೋಲ್ಡ್ಗಳ ಉದ್ದಕ್ಕೂ ಇರುತ್ತವೆ ಎಂದು ಮ್ಯಾನಿಫೋಲ್ಡ್ ಊಹೆಯು ಹೇಳುತ್ತದೆ. ಮ್ಯಾನಿಫೋಲ್ಡ್ ಹೈಪೋಥೆಸಿಸ್ನ ಪರಿಣಾಮವಾಗಿ, ಆರಂಭದಲ್ಲಿ ವಿವರಿಸಲು ಅನೇಕ ಅಸ್ಥಿರಗಳ ಅಗತ್ಯವಿರುವ ಅನೇಕ ದತ್ತಾಂಶ ಸೆಟ್ಗಳನ್ನು ವಾಸ್ತವವಾಗಿ ತುಲನಾತ್ಮಕವಾಗಿ ಸಣ್ಣ ಸಂಖ್ಯೆಯ ಅಸ್ಥಿರಗಳಿಂದ ವಿವರಿಸಬಹುದು, ಇದನ್ನು ಆಧಾರವಾಗಿರುವ ಮ್ಯಾನಿಫೋಲ್ಡ್ನ ಸ್ಥಳೀಯ ನಿರ್ದೇಶಾಂಕ ವ್ಯವಸ್ಥೆಗೆ ಹೋಲಿಸಲಾಗುತ್ತದೆ. ಈ ತತ್ವವು ಕೆಲವು ಸಾಮಾನ್ಯ ಲಕ್ಷಣಗಳನ್ನು ಪರಿಗಣಿಸುವ ಮೂಲಕ ಉನ್ನತ-ಆಯಾಮದ ದತ್ತಾಂಶ ಸೆಟ್ಗಳನ್ನು ವಿವರಿಸುವಲ್ಲಿ ಯಂತ್ರ ಕಲಿಕೆ ಕ್ರಮಾವಳಿಗಳ ಪರಿಣಾಮಕಾರಿತ್ವವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ ಎಂದು ಸೂಚಿಸಲಾಗಿದೆ. ಬಹುಮುಖಿ ಊಹೆಯು ಯಂತ್ರ ಕಲಿಕೆಯಲ್ಲಿ ರೇಖಾತ್ಮಕವಲ್ಲದ ಆಯಾಮದ ಕಡಿತ ತಂತ್ರಗಳ ಪರಿಣಾಮಕಾರಿತ್ವಕ್ಕೆ ಸಂಬಂಧಿಸಿದೆ. ಡೈಮೆನ್ಷನಲ್ ರಿಡಕ್ಷನ್ನ ಅನೇಕ ತಂತ್ರಗಳು ದತ್ತಾಂಶವು ಕಡಿಮೆ-ಆಯಾಮದ ಸಬ್ಮನಿಫೋಲ್ಡ್ನ ಉದ್ದಕ್ಕೂ ಇದೆ ಎಂದು ಊಹಿಸುತ್ತವೆ, ಉದಾಹರಣೆಗೆ ಮ್ಯಾನಿಫೋಲ್ಡ್ ಸ್ಕಲ್ಪ್ಟಿಂಗ್, ಮ್ಯಾನಿಫೋಲ್ಡ್ ಅಲೈನ್ಮೆಂಟ್ ಮತ್ತು ಮ್ಯಾನಿಫೋಲ್ಡ್ ರೆಗ್ಯುಲರೈಸೇಶನ್. ಯಂತ್ರ ಕಲಿಕೆಯ ಮಾದರಿಗಳು ತಮ್ಮ ಸಂಭಾವ್ಯ ಇನ್ಪುಟ್ ಸ್ಪೇಸ್ (ಸುಪ್ತ ಮ್ಯಾನಿಫೋಲ್ಡ್ಗಳು) ಒಳಗೆ ತುಲನಾತ್ಮಕವಾಗಿ ಸರಳ, ಕಡಿಮೆ-ಆಯಾಮದ, ಹೆಚ್ಚು ರಚನಾತ್ಮಕ ಉಪಕ್ಷೇತ್ರಗಳನ್ನು ಮಾತ್ರ ಹೊಂದಿಕೊಳ್ಳಬೇಕು ಎಂಬುದು ಈ ಊಹೆಯ ಪ್ರಮುಖ ಪರಿಣಾಮವಾಗಿದೆ. ಈ ಮ್ಯಾನಿಫೋಲ್ಡ್ಗಳಲ್ಲಿ ಒಂದರೊಳಗೆ, ಎರಡು ಇನ್ಪುಟ್ಗಳ ನಡುವೆ ಇಂಟರ್ಪೋಲೇಟ್ ಮಾಡಲು ಯಾವಾಗಲೂ ಸಾಧ್ಯವಿದೆ, ಅಂದರೆ, ಎಲ್ಲಾ ಬಿಂದುಗಳು ಮ್ಯಾನಿಫೋಲ್ಡ್ ಮೇಲೆ ಬೀಳುವ ನಿರಂತರ ಮಾರ್ಗದ ಮೂಲಕ ಒಂದನ್ನು ಇನ್ನೊಂದಕ್ಕೆ ಮಾರ್ಫ್ ಮಾಡಿ. ಮಾದರಿಗಳ ನಡುವೆ ಅಂತರ್ವೇಶನ ಮಾಡುವ ಸಾಮರ್ಥ್ಯವು ಆಳವಾದ ಕಲಿಕೆಯಲ್ಲಿ ಸಾಮಾನ್ಯೀಕರಣಕ್ಕೆ ಪ್ರಮುಖವಾಗಿದೆ. ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ಮ್ಯಾನಿಫೋಲ್ಡ್ಗಳ ಮಾಹಿತಿ ಜ್ಯಾಮಿತಿಯು ಮ್ಯಾನಿಫೋಲ್ಡ್ ಹೈಪೋಥೆಸಿಸ್ಗೆ ಪ್ರಾಯೋಗಿಕವಾಗಿ-ಪ್ರೇರಿತವಾದ ವಿಧಾನವು ಡೇಟಾ ಕಂಪ್ರೆಷನ್ ವಿಧಾನಗಳನ್ನು ಬಳಸಿಕೊಂಡು ದೃಢವಾದ ಯಂತ್ರ ಕಲಿಕೆಗೆ ಆಸಕ್ತಿಯ ಡೇಟಾಸೆಟ್ ಅನ್ನು ಎನ್ಕೋಡಿಂಗ್ ಮಾಡುವ ಅಗತ್ಯವಿದೆ ಎಂಬ ಊಹೆಯ ಅಡಿಯಲ್ಲಿ ಮ್ಯಾನಿಫೋಲ್ಡ್ ಲರ್ನಿಂಗ್ಗಾಗಿ ಪರಿಣಾಮಕಾರಿ ಸಿದ್ಧಾಂತದೊಂದಿಗೆ ಅದರ ಪತ್ರವ್ಯವಹಾರದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ. ಈ ದೃಷ್ಟಿಕೋನವು ಮಾಹಿತಿ ರೇಖಾಗಣಿತದ ಸಾಧನಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಕ್ರಮೇಣ ಹೊರಹೊಮ್ಮಿತು, ಪರಿಣಾಮಕಾರಿ ಕೋಡಿಂಗ್ ಕಲ್ಪನೆ, ಮುನ್ಸೂಚಕ ಕೋಡಿಂಗ್ ಮತ್ತು ವೈವಿಧ್ಯಮಯ ಬೇಯೇಶಿಯನ್ ವಿಧಾನಗಳ ಮೇಲೆ ಕೆಲಸ ಮಾಡುವ ವಿಜ್ಞಾನಿಗಳ ಸಂಘಟಿತ ಪ್ರಯತ್ನಕ್ಕೆ ಧನ್ಯವಾದಗಳು. ವಿತರಣೆಗಳ ಸುಪ್ತ ಜಾಗದಲ್ಲಿ ಮಾಹಿತಿ ಜ್ಯಾಮಿತಿಯ ಬಗ್ಗೆ ತರ್ಕಿಸುವ ವಾದವು ಫಿಶರ್ ಮಾಹಿತಿ ಮೆಟ್ರಿಕ್ ಅಸ್ತಿತ್ವ ಮತ್ತು ಅನನ್ಯತೆಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ. ಈ ಸಾಮಾನ್ಯ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ, ನಾವು ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ಬಹುದ್ವಾರಿಗಳ ಯಾದೃಚ್ಛಿಕ ಒಳಸೇರಿಸುವಿಕೆಯನ್ನು ಕಂಡುಹಿಡಿಯಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದೇವೆ. ಕ್ರಿಯಾತ್ಮಕ ವ್ಯವಸ್ಥೆಗಳ ದೃಷ್ಟಿಕೋನದಿಂದ, ದೊಡ್ಡ ದತ್ತಾಂಶ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಈ ಬಹುಗುಣವು ಸಾಮಾನ್ಯವಾಗಿ ಹೋಮಿಯೋಸ್ಟಾಸಿಸ್ನಂತಹ ಕೆಲವು ಗುಣಲಕ್ಷಣಗಳನ್ನು ಪ್ರದರ್ಶಿಸುತ್ತದೆಃ ನಾವು ಆಧಾರವಾಗಿರುವ ಉತ್ಪಾದಕ ಪ್ರಕ್ರಿಯೆಯಿಂದ ದೊಡ್ಡ ಪ್ರಮಾಣದ ದತ್ತಾಂಶವನ್ನು ಸ್ಯಾಂಪಲ್ ಮಾಡಬಹುದು. ಯಂತ್ರ ಕಲಿಕೆಯ ಪ್ರಯೋಗಗಳನ್ನು ಪುನರುತ್ಪಾದಿಸಬಹುದು, ಆದ್ದರಿಂದ ಉತ್ಪಾದನಾ ಪ್ರಕ್ರಿಯೆಯ ಅಂಕಿಅಂಶಗಳು ಸ್ಥಿರತೆಯನ್ನು ಪ್ರದರ್ಶಿಸುತ್ತವೆ. ಮುಕ್ತ ಶಕ್ತಿಯ ತತ್ವದ ಮೇಲೆ ಕೆಲಸ ಮಾಡುವ ಸೈದ್ಧಾಂತಿಕ ನರವಿಜ್ಞಾನಿಗಳು ನಿಖರವಾಗಿ ಹೇಳಿರುವ ಒಂದು ಅರ್ಥದಲ್ಲಿ, ಪ್ರಶ್ನೆಯಲ್ಲಿರುವ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ಬಹುಗುಣವು ಮಾರ್ಕೊವ್ ಕಂಬಳವನ್ನು ಹೊಂದಿದೆ. ಸೈದ್ಧಾಂತಿಕ ನರವಿಜ್ಞಾನದಲ್ಲಿನ ಮೂಲಭೂತ ಸಮಸ್ಯೆಗಳಿಂದ ಪ್ರೇರೇಪಿಸಲ್ಪಟ್ಟ, ಫ್ರೀ ಎನರ್ಜಿ ಪ್ರಿನ್ಸಿಪಲ್ ಸಮುದಾಯದ ಕೆಲವು ವಿಜ್ಞಾನಿಗಳು ಕಂಪ್ಯೂಟೇಶನಲ್ ಮಟ್ಟದಲ್ಲಿ ಮುನ್ಸೂಚಕ ಕೋಡಿಂಗ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ಸಿಂಥೆಷಿಯಾವನ್ನು ರೂಪಿಸಲು ಪ್ರಯತ್ನಿಸಿದ್ದಾರೆ. ಆದಾಗ್ಯೂ, ಮಾರ್ನ ಮಟ್ಟಗಳ ಕ್ರಮಾವಳಿ ಮಟ್ಟದಲ್ಲಿ ಸಿಂಥೆಶಿಯಾದ ಕಾರ್ಯವನ್ನು ಅನುಕರಿಸುವ ಬಹುದ್ವಾರಿ ಕಲಿಕಾ ಕ್ರಮಾವಳಿಗಳ ವರ್ಗವಿದೆಯೇ ಎಂಬುದು ತಿಳಿದಿಲ್ಲ. ಯಾವುದೇ ಜೈವಿಕವಾಗಿ-ಸಮರ್ಥನೀಯವಾದ ಮ್ಯಾನಿಫೋಲ್ಡ್ ಲರ್ನಿಂಗ್ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಎದುರಿಸುತ್ತಿರುವ ಮೂಲಭೂತ ಸವಾಲೆಂದರೆ ಸಮರ್ಥ ಕೋಡಿಂಗ್ ಊಹೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ರೊಮೈನ್ ಬ್ರೆಟ್ಟೆಯವರ ಟವರ್ ಆಫ್ ಬ್ಯಾಬೆಲ್ ಪ್ಯಾರಾಡಾಕ್ಸ್ಃ ನ್ಯೂರಾನ್ಗಳು ಸ್ಪೈಕ್ ರೈಲುಗಳಿಗೆ ಸಂಕೇತಗಳನ್ನು ಸಮರ್ಥ ರೀತಿಯಲ್ಲಿ ಎನ್ಕೋಡ್ ಮಾಡುತ್ತವೆ ಎಂದು ಸಮರ್ಥ ಕೋಡಿಂಗ್ ಊಹೆಯು ಸೂಚಿಸುತ್ತದೆ, ಅಂದರೆ, ಮಾಹಿತಿಯನ್ನು ಸಂರಕ್ಷಿಸುವಾಗ ಮೂಲ ಸಂದೇಶದಿಂದ ಎಲ್ಲಾ ಪುನರುಕ್ತಿಗಳನ್ನು ತೆಗೆದುಹಾಕುವಂತಹ ಕೋಡ್ ಅನ್ನು ಇದು ಬಳಸುತ್ತದೆ, ಅಂದರೆ ಎನ್ಕೋಡ್ ಮಾಡಲಾದ ಸಂದೇಶವನ್ನು ಮೂಲ ಸಂದೇಶಕ್ಕೆ ಮ್ಯಾಪ್ ಮಾಡಬಹುದು (ಬಾರ್ಲೋ, 1961; ಸೈಮನ್ಸೆಲ್ಲಿ, 2003). ಇದು ಸಂಪೂರ್ಣವಾಗಿ ಪರಿಣಾಮಕಾರಿ ಕೋಡ್ನೊಂದಿಗೆ, ಎನ್ಕೋಡ್ ಮಾಡಲಾದ ಸಂದೇಶಗಳನ್ನು ಯಾದೃಚ್ಛಿಕದಿಂದ ಪ್ರತ್ಯೇಕಿಸಲಾಗುವುದಿಲ್ಲ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. ಕೋಡ್ ಅನ್ನು ಇನ್ಪುಟ್ಗಳ ಅಂಕಿಅಂಶಗಳ ಮೇಲೆ ನಿರ್ಧರಿಸಲಾಗುತ್ತದೆಯಾದ್ದರಿಂದ ಮತ್ತು ಎನ್ಕೋಡ್ ಮಾಡಲಾದ ಸಂದೇಶಗಳನ್ನು ಮಾತ್ರ ಸಂವಹನ ಮಾಡಲಾಗುತ್ತದೆಯಾದ್ದರಿಂದ, ಸ್ವೀಕರಿಸುವವರಿಗೆ ಅರ್ಥವಾಗದ ಮಟ್ಟಿಗೆ ಕೋಡ್ ಪರಿಣಾಮಕಾರಿಯಾಗಿರುತ್ತದೆ. ಇದು ದಕ್ಷ ಕೋಡ್ನ ವಿರೋಧಾಭಾಸವಾಗಿದೆ. ನ್ಯೂರಲ್ ಕೋಡಿಂಗ್ ರೂಪಕದಲ್ಲಿ, ಕೋಡ್ ಖಾಸಗಿಯಾಗಿದೆ ಮತ್ತು ಪ್ರತಿ ನ್ಯೂರಾನ್ಗೆ ನಿರ್ದಿಷ್ಟವಾಗಿದೆ. ನಾವು ಈ ರೂಪಕವನ್ನು ಅನುಸರಿಸಿದರೆ, ಇದರರ್ಥ ಎಲ್ಲಾ ನರಕೋಶಗಳು ವಿಭಿನ್ನ ಭಾಷೆಯನ್ನು ಮಾತನಾಡುತ್ತವೆ, ಇದು ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಬಹಳ ಸಂಕ್ಷಿಪ್ತವಾಗಿ ವ್ಯಕ್ತಪಡಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ ಆದರೆ ಬೇರೆ ಯಾರಿಗೂ ಅರ್ಥವಾಗುವುದಿಲ್ಲ. ಹೀಗಾಗಿ, ಕೋಡಿಂಗ್ ರೂಪಕದ ಪ್ರಕಾರ, ಮೆದುಳು ಬಾಬೆಲ್ ಗೋಪುರವಾಗಿದೆ. ಮುನ್ಸೂಚಕ ಮತ್ತು ಪರಿಣಾಮಕಾರಿ ಕೋಡಿಂಗ್ ಪ್ರಬಂಧಗಳು ಪ್ರತಿ ನರಕೋಶವು ಗರಿಷ್ಠ ಎಂಟ್ರೊಪಿ ತೀರ್ಮಾನದ ಮೂಲಕ ಪಡೆದ ತನ್ನದೇ ಆದ ಪರಿಣಾಮಕಾರಿ ಸಂಕೇತವನ್ನು ಹೊಂದಿದೆ ಎಂದು ಊಹಿಸುತ್ತವೆ. ನಾವು ಈ ಸ್ಥಳೀಯ ಸಂಕೇತಗಳನ್ನು ವಿಭಿನ್ನ ಭಾಷೆಗಳೆಂದು ಭಾವಿಸಬಹುದು. ಪ್ರತಿ ನರಕೋಶವು ತನ್ನ ನೆರೆಹೊರೆಯವರಿಗೆ ಯಾದೃಚ್ಛಿಕವಾಗಿ ಹೋಲಿಸಿದರೆ ಪ್ರತ್ಯೇಕಿಸಲಾಗದ ಭಾಷೆಯನ್ನು ಹೊಂದಿರುವುದರಿಂದ, ಜಾಗತಿಕ ಎನ್ಕೋಡಿಂಗ್ ಅಸಾಧ್ಯವೆಂದು ಬ್ರೆಟ್ ನಂತರ ಊಹಿಸುತ್ತಾನೆ. ಹೆಚ್ಚಿನ ಓದುವಿಕೆ ಯಂತ್ರ ಕಲಿಕೆ ಸೈದ್ಧಾಂತಿಕ ಗಣಕಯಂತ್ರ ವಿಜ್ಞಾನ