Wake-sleep algorithm
ওয়েক-স্লিপ অ্যালগরিদম একটি স্টোকাস্টিক মাল্টিলেয়ার নিউরাল নেটওয়ার্কের জন্য একটি তত্ত্বাবধানহীন লার্নিং অ্যালগরিদম। অ্যালগরিদম পরামিতিগুলি সামঞ্জস্য করে যাতে একটি ভাল ঘনত্ব প্রাক্কলনকারী তৈরি করা যায়। দুটি শেখার পর্যায় রয়েছে, "জেগে ওঠার" পর্যায় এবং "ঘুমের" পর্যায়, যা পর্যায়ক্রমে সঞ্চালিত হয়। এটি প্রথমে বৈচিত্র্যময় বায়েসিয়ান শিক্ষা ব্যবহার করে মস্তিষ্কের কার্যকারিতার জন্য একটি মডেল হিসাবে ডিজাইন করা হয়েছিল। এর পরে, অ্যালগরিদমটি মেশিন লার্নিংয়ের সাথে খাপ খাইয়ে নেওয়া হয়েছিল। এটি একটি হেল্মহোল্টজ মেশিনকে প্রশিক্ষণ দেওয়ার একটি উপায় হিসাবে দেখা যেতে পারে। এটি ডিপ বিলিফ নেটওয়ার্ক (ডিবিএন)-এও ব্যবহার করা যেতে পারে। বিবরণ ওয়েক-স্লিপ অ্যালগরিদমকে তথ্যের উপস্থাপনা সম্বলিত স্তরগুলির একটি স্ট্যাক হিসাবে কল্পনা করা হয়। উপরের স্তরগুলি এর নীচের স্তর থেকে প্রাপ্ত তথ্যকে উপস্থাপন করে। প্রকৃত তথ্য নীচের স্তরের নীচে স্থাপন করা হয়, যার ফলে এর উপরের স্তরগুলি ধীরে ধীরে আরও বিমূর্ত হয়ে ওঠে। প্রতিটি জোড়া স্তরের মধ্যে একটি স্বীকৃতি ওজন এবং উৎপাদক ওজন থাকে, যা অ্যালগরিদম রানটাইমের সময় নির্ভরযোগ্যতা উন্নত করার জন্য প্রশিক্ষিত হয়। ওয়েক-স্লিপ অ্যালগরিদমটি অভিসারী এবং উপযুক্তভাবে পরিবর্তিত হলে স্টোকাস্টিক হতে পারে। প্রশিক্ষণের দুটি পর্যায় রয়েছে-"জেগে ওঠার" পর্যায় এবং "ঘুমের" পর্যায়। "ওয়েক" পর্যায়ের নিউরনগুলি স্বীকৃতি সংযোগ দ্বারা চালিত হয় (ইনপুট থেকে আউটপুট কী হবে)। জেনারেটিভ সংযোগগুলি (আউটপুট থেকে ইনপুট পর্যন্ত) তারপর সংশোধন করা হয় যাতে তারা নীচের স্তরে সঠিক ক্রিয়াকলাপ পুনরায় তৈরি করতে পারে-সংবেদনশীল ইনপুট থেকে প্রকৃত তথ্যের কাছাকাছি। "ঘুম" পর্যায় প্রক্রিয়াটি "ঘুম" পর্যায়ে বিপরীত হয়-নিউরনগুলি উৎপাদক সংযোগ দ্বারা চালিত হয় যখন স্বীকৃতি সংযোগগুলি উপরের স্তরে সঠিক ক্রিয়াকলাপ পুনরায় তৈরি করার সম্ভাবনা বাড়ানোর জন্য সংশোধন করা হচ্ছে-সংবেদনশীল ইনপুট থেকে প্রকৃত তথ্যের দিকে। সম্ভাব্য ঝুঁকি বৈচিত্র্যময় বায়েসিয়ান শিক্ষা সম্ভাবনার উপর ভিত্তি করে। একটি সম্ভাবনা রয়েছে যে ভুলের সাথে একটি আনুমানিক সম্পাদন করা হয়, যা আরও তথ্য উপস্থাপনাকে ক্ষতিগ্রস্থ করে। আরেকটি নেতিবাচক দিক জটিল বা দূষিত ডেটা নমুনার সাথে সম্পর্কিত, যা একটি প্রতিনিধিত্বমূলক প্যাটার্ন অনুমান করা কঠিন করে তোলে। সুপ্ত চলকগুলির পশ্চাৎ বণ্টনের একটি ভাল প্রাক্কলনকারী পুনরুদ্ধারের জন্য অনুমান নেটওয়ার্কের স্তরগুলির জন্য ওয়েক-স্লিপ অ্যালগরিদম যথেষ্ট শক্তিশালী না হওয়ার পরামর্শ দেওয়া হয়েছে। আরও দেখুন সীমাবদ্ধ বোল্টজম্যান মেশিন, এক ধরনের নিউরাল নেট যা ধারণাগতভাবে অনুরূপ অ্যালগরিদম দিয়ে প্রশিক্ষিত। হেল্মহোল্টজ মেশিন, একটি নিউরাল নেটওয়ার্ক মডেল যা ওয়েক-স্লিপ অ্যালগরিদম দ্বারা প্রশিক্ষিত। রেফারেন্স মেশিন লার্নিং অ্যালগরিদম