Random coordinate descent
ಯಾದೃಚ್ಛಿಕ (ಬ್ಲಾಕ್) ಕೋಆರ್ಡಿನೇಟ್ ಡಿಸೆಂಟ್ ವಿಧಾನವು ನೆಸ್ಟೆರೋವ್ (2010) ಮತ್ತು ರಿಚ್ಟಾರಿಕ್ ಮತ್ತು ತಕಾಸ್ (2011) ಜನಪ್ರಿಯಗೊಳಿಸಿದ ಆಪ್ಟಿಮೈಸೇಶನ್ ಅಲ್ಗಾರಿದಮ್ ಆಗಿದೆ. ಈ ವಿಧಾನದ ಮೊದಲ ವಿಶ್ಲೇಷಣೆಯನ್ನು, ನಯವಾದ ಕನ್ವೆಕ್ಸ್ ಕಾರ್ಯವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಸಮಸ್ಯೆಗೆ ಅನ್ವಯಿಸಿದಾಗ, ಇದನ್ನು ನೆಸ್ಟೆರೋವ್ (2010) ನಿರ್ವಹಿಸಿದರು. ನೆಸ್ಟೆರೋವ್ ಅವರ ವಿಶ್ಲೇಷಣೆಯಲ್ಲಿ ಅಜ್ಞಾತ ಸ್ಕೇಲಿಂಗ್ ಅಂಶದೊಂದಿಗೆ ಮೂಲ ಕಾರ್ಯದ ಚತುರ್ಭುಜ ಪ್ರಕ್ಷುಬ್ಧತೆಗೆ ವಿಧಾನವನ್ನು ಅನ್ವಯಿಸಬೇಕಾಗಿದೆ. ರಿಚ್ಟಾರಿಕ್ ಮತ್ತು ತಕಾಸ್ (2011) ಪುನರಾವರ್ತನೆಯ ಸಂಕೀರ್ಣತೆಯ ಮಿತಿಗಳನ್ನು ನೀಡುತ್ತವೆ, ಅದು ಇದಕ್ಕೆ ಅಗತ್ಯವಿಲ್ಲ, ಅಂದರೆ, ವಿಧಾನವನ್ನು ನೇರವಾಗಿ ವಸ್ತುನಿಷ್ಠ ಕಾರ್ಯಕ್ಕೆ ಅನ್ವಯಿಸಲಾಗುತ್ತದೆ. ಇದಲ್ಲದೆ, ಅವರು ಸಂಯೋಜನೆಯ ಕಾರ್ಯವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಸಮಸ್ಯೆಗೆ ಸೆಟ್ಟಿಂಗ್ ಅನ್ನು ಸಾಮಾನ್ಯೀಕರಿಸುತ್ತಾರೆ, ಅಂದರೆ, ನಯವಾದ ಕನ್ವೆಕ್ಸ್ ಮತ್ತು ಒಂದು (ಬಹುಶಃ ನಾನ್ಮೂತ್) ಕನ್ವೆಕ್ಸ್ ಬ್ಲಾಕ್-ಬೇರ್ಪಡಿಸಬಹುದಾದ ಕಾರ್ಯದ ಮೊತ್ತಃ ಅಲ್ಲಿ ವೇರಿಯೇಬಲ್ಗಳು/ನಿರ್ದೇಶಾಂಕಗಳ ಬ್ಲಾಕ್ಗಳಾಗಿ ವಿಭಜನೆಯಾಗುತ್ತದೆಃ ಮತ್ತು (ಸರಳ) ಕನ್ವೆಕ್ಸ್ ಕಾರ್ಯಗಳು. ಉದಾಹರಣೆ (ಬ್ಲಾಕ್ ಡಿಕಂಪೊಸಿಷನ್): ಒಂದು ವೇಳೆ ಮತ್ತು, ಒಬ್ಬರು ಮತ್ತು ಅನ್ನು ಆಯ್ಕೆ ಮಾಡಬಹುದು. ಉದಾಹರಣೆ (ಬ್ಲಾಕ್-ಬೇರ್ಪಡಿಸಬಹುದಾದ ನಿಯತಾಂಕಗಳು):, ಎಲ್ಲಿ ಮತ್ತು ಇದು ಪ್ರಮಾಣಿತ ಯೂಕ್ಲಿಡಿಯನ್ ಮಾನದಂಡವಾಗಿದೆ. ಅಲ್ಗಾರಿದಮ್ ಕನ್ವೆಕ್ಸ್ ಮತ್ತು ಸ್ಮೂತ್ ಫಂಕ್ಷನ್ ಆಗಿರುವ ಆಪ್ಟಿಮೈಸೇಶನ್ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಗಣಿಸಿ. ಮೃದುತ್ವಃ ಮೃದುತ್ವದಿಂದ ನಾವು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಅರ್ಥೈಸುತ್ತೇವೆಃ ಸ್ಥಿರಾಂಕಗಳೊಂದಿಗೆ ನಿರಂತರವಾದ ಸಮನ್ವಯ-ಬುದ್ಧಿವಂತ ಲಿಪ್ಸಿಟ್ಜ್ನ ಗ್ರೇಡಿಯಂಟ್ ಅನ್ನು ನಾವು ಊಹಿಸುತ್ತೇವೆ. ಅಂದರೆ, ಎಲ್ಲರಿಗೂ ಮತ್ತು, ವೇರಿಯೇಬಲ್ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಭಾಗಶಃ ವ್ಯುತ್ಪನ್ನವನ್ನು ಸೂಚಿಸುತ್ತದೆ ಎಂದು ನಾವು ಭಾವಿಸುತ್ತೇವೆ. ಈ ಅಲ್ಗಾರಿದಮ್ನ ಪುನರಾವರ್ತನೆಗಳು ಯಾದೃಚ್ಛಿಕ ವಾಹಕಗಳಾಗಿರುವುದರಿಂದ, ಸಂಕೀರ್ಣತೆಯ ಫಲಿತಾಂಶವು ಹೆಚ್ಚಿನ ಸಂಭವನೀಯತೆಯೊಂದಿಗೆ ಅಂದಾಜು ಪರಿಹಾರವನ್ನು ಔಟ್ಪುಟ್ ಮಾಡುವ ವಿಧಾನಕ್ಕೆ ಅಗತ್ಯವಿರುವ ಪುನರಾವರ್ತನೆಗಳ ಸಂಖ್ಯೆಯ ಮೇಲೆ ಒಂದು ಮಿತಿಯನ್ನು ನೀಡುತ್ತದೆ. ಒಂದು ವೇಳೆ, ಎಲ್ಲಿ, ಒಂದು ಸೂಕ್ತವಾದ ಪರಿಹಾರ (), ವಿಶ್ವಾಸದ ಮಟ್ಟ ಮತ್ತು ಗುರಿ ನಿಖರತೆ ಎಂದು ತೋರಿಸಲಾಗಿದೆ. ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯದ ಮೇಲಿನ ಉದಾಹರಣೆ ಈ ಕೆಳಗಿನ ಚಿತ್ರವು ತಾತ್ವಿಕವಾಗಿ ಪುನರಾವರ್ತನೆಯ ಸಮಯದಲ್ಲಿ ಹೇಗೆ ಬೆಳೆಯುತ್ತದೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತದೆ. ಸಮಸ್ಯೆಯೆಂದರೆ ಕೋಆರ್ಡಿನೇಟ್ ಸೆಟ್ಟಿಂಗ್ ಅನ್ನು ನಿರ್ಬಂಧಿಸುವ ವಿಸ್ತರಣೆಯು ಸ್ವಾಭಾವಿಕವಾಗಿ ಈ ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ಕೋಆರ್ಡಿನೇಟ್ಗಳಿಗೆ ಮಾತ್ರವಲ್ಲದೆ ಕೋಆರ್ಡಿನೇಟ್ಗಳ ಬ್ಲಾಕ್ಗಳಿಗೂ ವಿಸ್ತರಿಸಬಹುದು. ನಮಗೆ ಸ್ಥಳವಿದೆ ಎಂದು ಭಾವಿಸಿ. ಈ ಜಾಗವು 5 ನಿರ್ದೇಶಾಂಕ ದಿಕ್ಕುಗಳನ್ನು ಹೊಂದಿದೆ, ಇದರಲ್ಲಿ ಯಾದೃಚ್ಛಿಕ ಸಮನ್ವಯ ಸಂತತಿ ವಿಧಾನವು ಚಲಿಸಬಹುದು. ಆದಾಗ್ಯೂ, ಒಬ್ಬರು ಕೆಲವು ನಿರ್ದೇಶಾಂಕ ನಿರ್ದೇಶನಗಳನ್ನು ಬ್ಲಾಕ್ಗಳಾಗಿ ವರ್ಗೀಕರಿಸಬಹುದು ಮತ್ತು ನಾವು ಆ 5 ನಿರ್ದೇಶಾಂಕ ನಿರ್ದೇಶನಗಳ ಬದಲಿಗೆ 3 ನಿರ್ದೇಶಾಂಕ ನಿರ್ದೇಶನಗಳನ್ನು ಹೊಂದಬಹುದು (ಚಿತ್ರವನ್ನು ನೋಡಿ). ಕೋಆರ್ಡಿನೇಟ್ ಡಿಸೆಂಟ್ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಮ್ಯಾಥಮೆಟಿಕಲ್ ಆಪ್ಟಿಮೈಸೇಶನ್ ಉಲ್ಲೇಖಗಳು ಗ್ರೇಡಿಯಂಟ್ ವಿಧಾನಗಳನ್ನು ಸಹ ನೋಡಿ.