Kernel principal component analysis
বহুমাত্রিক পরিসংখ্যানের ক্ষেত্রে, কার্নেল প্রধান উপাদান বিশ্লেষণ (কার্নেল পি. সি. এ) হল কার্নেল পদ্ধতির কৌশল ব্যবহার করে প্রধান উপাদান বিশ্লেষণের (পি. সি. এ) একটি সম্প্রসারণ। একটি কার্নেল ব্যবহার করে, পি. সি. এ-র মূলত রৈখিক ক্রিয়াকলাপগুলি একটি পুনরুত্পাদনকারী কার্নেল হিলবার্ট স্পেসে সঞ্চালিত হয়। পটভূমিঃ রৈখিক পি. সি. এ মনে রাখবেন যে প্রচলিত পি. সি. এ শূন্য-কেন্দ্রিক তথ্যের উপর কাজ করে; অর্থাৎ, যেখানে মাল্টিভ্যারিয়েট পর্যবেক্ষণগুলির মধ্যে একটি। এটি কোভ্যারিয়েন্স ম্যাট্রিক্সকে তির্যক করে কাজ করে, অন্য কথায়, এটি কোভ্যারিয়েন্স ম্যাট্রিক্সের একটি আইগেনডেকম্পোজিশন দেয়ঃ যা হিসাবে পুনর্লিখন করা যেতে পারে। (আরও দেখুনঃ রৈখিক অপারেটর হিসাবে কোভ্যারিয়েন্স ম্যাট্রিক্স) পি. সি. এ-তে কার্নেলের প্রবর্তন কার্নেল পি. সি. এ-র উপযোগিতা বোঝার জন্য, বিশেষত ক্লাস্টারিংয়ের জন্য, লক্ষ্য করুন যে, যদিও সাধারণভাবে, এন পয়েন্টগুলিকে মাত্রায় রৈখিকভাবে পৃথক করা যায় না, তবে সেগুলি প্রায় সর্বদা মাত্রায় রৈখিকভাবে পৃথক করা যেতে পারে। অর্থাৎ, এন পয়েন্ট দেওয়া হলে, যদি আমরা তাদের একটি এন-ডাইমেনশনাল স্পেসে ম্যাপ করি যেখানে, একটি হাইপারপ্লেন তৈরি করা সহজ যা পয়েন্টগুলিকে নির্বিচারে ক্লাস্টারে বিভক্ত করে। অবশ্যই, এটি রৈখিকভাবে স্বাধীন ভেক্টর তৈরি করে, তাই কোনও কোভ্যারিয়েন্স নেই যার উপর আমরা রৈখিক পিসিএ-তে যেমন স্পষ্টভাবে আইগেনডেকম্পোজিশন সম্পাদন করতে পারি। পরিবর্তে, কার্নেল পি. সি. এ-তে, একটি অ-তুচ্ছ, নির্বিচারে ফাংশনকে 'নির্বাচিত' করা হয় যা কখনই স্পষ্টভাবে গণনা করা হয় না, যা খুব উচ্চ-মাত্রিক ব্যবহার করার সম্ভাবনাকে অনুমতি দেয় যদি আমাদের কখনই সেই স্থানের ডেটা মূল্যায়ন করতে না হয়। যেহেতু আমরা সাধারণত-স্পেসে কাজ করা এড়িয়ে চলার চেষ্টা করি, যাকে আমরা 'ফিচার স্পেস' বলব, তাই আমরা এন-বাই-এন কার্নেল তৈরি করতে পারি যা অন্যথায় ইনট্র্যাক্টেবল ফিচার স্পেসের অভ্যন্তরীণ পণ্য স্থানের প্রতিনিধিত্ব করে (গ্রামিয়ান ম্যাট্রিক্স দেখুন)। একটি কার্নেল তৈরির সময় যে দ্বৈত রূপটি উদ্ভূত হয় তা আমাদের গাণিতিকভাবে পি. সি. এ-এর একটি সংস্করণ তৈরি করতে দেয় যেখানে আমরা আসলে কখনই-স্পেসে কোভ্যারিয়েন্স ম্যাট্রিক্সের আইগেনভেক্টর এবং আইগেনভ্যালুগুলি সমাধান করি না (কার্নেল কৌশল দেখুন)। কে-এর প্রতিটি কলামে এন-উপাদানগুলি সমস্ত রূপান্তরিত বিন্দুর (এন পয়েন্ট) সাপেক্ষে রূপান্তরিত তথ্যের একটি বিন্দুর বিন্দু গুণফলকে উপস্থাপন করে। কিছু সুপরিচিত কার্নেল নীচের উদাহরণে দেখানো হয়েছে। যেহেতু আমরা কখনই সরাসরি ফিচার স্পেসে কাজ করি না, তাই পি. সি. এ-র কার্নেল-গঠন সীমাবদ্ধ যে এটি প্রধান উপাদানগুলি নয়, বরং সেই উপাদানগুলিতে আমাদের তথ্যের অনুমানগুলি গণনা করে। বৈশিষ্ট্য স্থানের একটি বিন্দু থেকে kth প্রধান উপাদানের উপর অভিক্ষেপের মূল্যায়ন করার জন্য (যেখানে সুপারস্ক্রিপ্ট k মানে উপাদান k, k-এর ঘাত নয়) আমরা লক্ষ্য করি যে বিন্দু গুণফলকে বোঝায়, যা কেবল কার্নেলের উপাদান। মনে হয় যা বাকি আছে তা হল গণনা করা এবং স্বাভাবিক করা, যা আইগেনভেক্টর সমীকরণ সমাধান করে করা যেতে পারে যেখানে সেটে ডেটা পয়েন্টের সংখ্যা, এবং এর আইগেনভ্যালু এবং আইগেনভেক্টর। তারপর আইগেনভেক্টরগুলিকে স্বাভাবিক করার জন্য, আমাদের প্রয়োজন যে এই বিষয়ে অবশ্যই যত্ন নেওয়া উচিত যে, তার মূল স্থানে শূন্য-অর্থ থাকুক বা না থাকুক, এটি বৈশিষ্ট্যের জায়গায় কেন্দ্রীভূত হওয়ার নিশ্চয়তা দেয় না (যা আমরা কখনই স্পষ্টভাবে গণনা করি না)। যেহেতু একটি কার্যকর প্রধান উপাদান বিশ্লেষণ করার জন্য কেন্দ্রীভূত তথ্যের প্রয়োজন হয়, তাই আমরা 'কেন্দ্রীভূত' হয়ে উঠি যেখানে একটি এন-বাই-এন ম্যাট্রিক্স বোঝায় যার জন্য প্রতিটি উপাদান মূল্য নেয়। আমরা উপরে বর্ণিত কার্নেল পিসিএ অ্যালগরিদম সম্পাদন করতে ব্যবহার করি। কার্নেল পি. সি. এ-র একটি সতর্কতা এখানে চিত্রিত করা উচিত। রৈখিক পি. সি. এ-তে, আমরা প্রতিটি প্রধান উপাদান দ্বারা তথ্যের কতটা বৈচিত্র্য ধরা পড়ে তার উপর ভিত্তি করে আইগেনভেক্টরগুলিকে র্যাঙ্ক করতে আইগেনভ্যালু ব্যবহার করতে পারি। এটি তথ্যের মাত্রা হ্রাসের জন্য দরকারী এবং এটি কে. পি. সি. এ-তেও প্রয়োগ করা যেতে পারে। যাইহোক, বাস্তবে এমন কিছু ঘটনা রয়েছে যে তথ্যের সমস্ত বৈচিত্র্য একই। এটি সাধারণত কার্নেল স্কেলের ভুল পছন্দের কারণে ঘটে। বড় ডেটাসেট বাস্তবে, একটি বড় ডেটা সেট একটি বড় কে-এর দিকে নিয়ে যায় এবং কে সংরক্ষণ করা একটি সমস্যা হয়ে উঠতে পারে। এটি মোকাবেলা করার একটি উপায় হল ডেটাসেটে ক্লাস্টারিং করা এবং সেই ক্লাস্টারগুলির মাধ্যমে কার্নেলকে জনবহুল করা। যেহেতু এই পদ্ধতিতেও তুলনামূলকভাবে বড় K পাওয়া যেতে পারে, তাই শুধুমাত্র শীর্ষ পি আইগেনভ্যালু গণনা করা সাধারণ বিষয় এবং আইগেনভ্যালুগুলির আইগেনভেক্টরগুলি এইভাবে গণনা করা হয়। উদাহরণ পয়েন্টের তিনটি ঘনীভূত মেঘ বিবেচনা করুন (দেখানো হয়েছে); আমরা এই গোষ্ঠীগুলি সনাক্ত করতে কার্নেল পিসিএ ব্যবহার করতে চাই। পয়েন্টগুলির রঙ অ্যালগরিদমের সাথে জড়িত তথ্যের প্রতিনিধিত্ব করে না, তবে কেবল দেখায় যে রূপান্তরটি কীভাবে ডেটা পয়েন্টগুলিকে স্থানান্তরিত করে। প্রথমে, বিবেচনা করুন যে কার্নেলটি পি. সি. এ-তে প্রয়োগ করলে পরবর্তী চিত্রটি পাওয়া যায়। এখন একটি গাউসীয় কার্নেল বিবেচনা করুনঃ অর্থাৎ, এই কার্নেলটি ঘনিষ্ঠতার একটি পরিমাপ, যখন পয়েন্টগুলি মিলে যায় তখন 1 এর সমান এবং অনন্ততায় 0 এর সমান। বিশেষভাবে লক্ষ্য করুন যে, প্রথম প্রধান উপাদানটি তিনটি ভিন্ন গোষ্ঠীকে আলাদা করার জন্য যথেষ্ট, যা শুধুমাত্র রৈখিক পি. সি. এ ব্যবহার করে অসম্ভব, কারণ রৈখিক পি. সি. এ শুধুমাত্র প্রদত্ত (এই ক্ষেত্রে দ্বিমাত্রিক) স্থানে কাজ করে, যেখানে এই ঘনীভূত বিন্দু মেঘগুলি রৈখিকভাবে পৃথক করা যায় না। কার্নেল পি. সি. এ অ্যাপ্লিকেশনগুলি নতুনত্ব সনাক্তকরণ এবং ইমেজ ডি-নয়েজিংয়ের জন্য দরকারী বলে প্রমাণিত হয়েছে। আরও দেখুন ক্লাস্টার বিশ্লেষণ অরৈখিক মাত্রিকতা হ্রাস বর্ণালী ক্লাস্টারিং রেফারেন্স মাত্রা হ্রাস সিগন্যাল প্রসেসিং অ্যালগরিদম মেশিন লার্নিং এসভি-র জন্য কার্নেল পদ্ধতিঃ Principalkomponentanalys#Olinjär পিসিএ