সংকেত তত্ত্ব

সংকেত-লিখন চার ধরনের হয়ে থাকে:

1. উপাত্ত সংকোচন বা ডাটা কম্প্রেশন (বা, সোর্স কোডিং)
2. ত্রুটি নিয়ন্ত্রণ বা এরর কনট্রোল (বা, চ্যানেল কোডিং)
3. তথ্যগুপ্তি-সংক্রান্ত সংকেতলিখন বা ক্রিপ্টোগ্রাফিক কোডিং
4. লাইন সংকেতলিখন বা লাইন কোডিং

উপাত্ত সংকোচন চেষ্টা করে কোন উৎসের উপাত্তের পুনরাবৃত্তি দূর করতে, যাতে তা সহজে প্রেরণ করা যায়। উদাহরণস্বরূপ, জেডআইপি উপাত্ত সংকোচন কোন উপাত্তের ফাইলকে ছোট করে ফেলে, যাতে ইন্টারনেট ট্রাফিক কম ব্যবহার হয় । উপাত্ত সংকোচন এবং ত্রুটি সংশোধন সম্ভবত একসাথে শেখা হয়।

তথ্য প্রেরণ মাধ্যমে থাকা সমস্যাগুলো আরো বলিষ্ঠভাবে দূর করতে ত্রুটি সংশোধন প্রক্রিয়া বাড়তি সুবিধা দেয়। সাধারণ ব্যবহারকারী খুব সম্ভবত ত্রুটি সনাক্তকরণের প্রক্রিয়া ব্যবহার করা অনেক অ্যাপ্লিকেশনের ক্ষেত্রেই সতর্ক নন। একটি মিউজিক সিডি তার ডিস্কের উপর জমা ময়লা ও দাগ দূর করার জন্য রীড-সলোমন কোড ব্যবহার করে। এই অ্যাপ্লিকেশনের ক্ষেত্রে সিডি নিজেই তথ্য প্রেরণের মাধ্যম হিসেবে কাজ করে। ফ্যাডিং এবং হাই ফ্রিকোয়েন্সি রেডিও সংকেত প্রেরণে থাকা কোলাহলপূর্ণ শব্দ দূরীকরণে সেল ফোনও কোডিং প্রযুক্তি ব্যবহার করে। ডেটা মডেম, টেলিফোন ট্রান্সমিশন এবং নাসা ডীপ স্পেস নেটওয়ার্ক, এরা সবাইই চ্যানেল কোডিং প্রযুক্তি ব্যবহার করে টার্বো কোড এবং এলডিপিসি কোড এর মাধ্যমে ডেটা পেতে।

১৯৪৮ সালে, ক্লড শ্যানন বেল সিস্টেম টেকনিক্যাল জার্নাল নামক গবেষণা সাময়িকীতে দুই অংশে জুলাই ও অক্টোবরে আ ম্যাথেম্যাটিকাল থিওরি অভ কমিউনিকেশন (A Mathematical Theory of Communication; "যোগাযোগের একটি গাণিতিক তত্ত্ব") নামের একটি প্রবন্ধ প্রকাশ করেন। কীভাবে সবচেয়ে ভালোভাবে উপাত্ত সাংকেতিকীকৃত করে প্রেরক প্রেরণ করতে পারে, সেই সমস্যাটিকে এখানে আলোচনা করা হয়। এই মৌলিক গবেষণাকর্মটিতে শ্যানন নরবার্ট ওয়াইনার কর্তৃক প্রস্তুতকৃত সম্ভাবনা তত্ত্ব ব্যবহার করেন, যা ছিল ওই সময়কার যোগাযোগ তত্ত্বের প্রয়োগের বর্ধনশীল স্টেজ। শ্যানন, একটি মেসেজে উপস্থিত অনিশ্চয়তা পরিমাপের জন্য তথ্য এন্ট্রপি তৈরি করে যখন উপাত্ত তত্ত্বের ফিল্ড আবিষ্কৃত হচ্ছিল।

১৯৪৯ সালে বাইনারি গোলে কোড তৈরি হয়। যা একটি ত্রুটি সংশোধন করার কোড। এটি প্রতি ২৪ বিটের মধ্যে সর্বোচ্চ তিনটি ত্রুটি সংশোধন করতে পারে এবং চতুর্থ ত্রুটিটা সনাক্ত করতে পারে।

রিচার্ড হ্যামিং সংখ্যা পদ্ধতি, স্বয়ংক্রিয় কোডিং সিস্টেম এবং ত্রুটি সনাক্তকরণ ও সংশোধন কোড বিষয়ে বেল ল্যাবসে কাজ করে ১৯৬৮ সালে টুরিং পুরস্কার জিতেছেন। তিনি হ্যামিং কোড, হ্যামিং উইন্ডো, হ্যামিং সংখ্যা এবং হ্যামিং দূরত্ব নামক ধারণাগুলোর আবিস্কারক।

সোর্স কোডিংয়ের মূল লক্ষ্য হচ্ছে সোর্স ডেটা বা উপাত্তকে সংক্ষিপ্ত করা।

সংজ্ঞা

উপাত্তকে এলোমেলো চলক হিসেবে দেখা যেতে পারে ${\displaystyle X:\Omega \rightarrow {\mathcal {X}}}$ , যেখানে ${\displaystyle x\in {\mathcal {X}}}$  দৃশ্যমান ${\displaystyle \mathbb {P} [X=x]}$  সম্ভাবনার সাথে।

উপাত্তকে এনকোডেড করা হয় বর্ণের উপর কিছু শব্দ দিয়ে ${\displaystyle \Sigma }$ ।

একটি কোড হল একটি ফাংশন

${\displaystyle C:{\mathcal {X}}\rightarrow \Sigma ^{*}}$  (বা ${\displaystyle \Sigma ^{+}}$  যদি ফাঁকা স্ট্রিংটির বর্ণের অংশ না হয়)।

${\displaystyle C(x)}$  হল কোড ওয়ার্ড যা ${\displaystyle x}$  এর সাথে সম্পর্কিত।

কোড ওয়ার্ডের দৈর্ঘ্য লেখা হয় এভাবে,

${\displaystyle l(C(x))}$ .

একটি কোডের প্রত্যাশিত দৈর্ঘ্য হবে

${\displaystyle l(C)=\sum _{x\in {\mathcal {X}}}l(C(x))\mathbb {P} [X=x]}$ 

কোড ওয়ার্ডগুলো যুক্ত করলে পাই, ${\displaystyle C(x_{1},...,x_{k})=C(x_{1})C(x_{2})...C(x_{k})}$ ।

ফাঁকা স্ট্রিংয়ের কোড ওয়ার্ড নিজেই ফাঁকা স্ট্রিং:

${\displaystyle C(\epsilon )=\epsilon }$ 

বৈশিষ্ট্য

1. ${\displaystyle C:{\mathcal {X}}\rightarrow \Sigma ^{*}}$  হল নন-সিঙ্গুলার হবে যদি ইনজেক্টিভ ফাংশন হয়।
2. ${\displaystyle C:{\mathcal {X}}^{*}\rightarrow \Sigma ^{*}}$  হল স্বতন্ত্রভাবে ডিকোডযোগ্য, যদি ইনজেক্টিভ ফাংশন হয়।
3. ${\displaystyle C:{\mathcal {X}}\rightarrow \Sigma ^{*}}$  হবে তাৎক্ষণিক যদি ${\displaystyle C(x_{1})}$  উপসর্গ না হয় ${\displaystyle C(x_{2})}$  এর (এবং বিপরীতক্রমে)।

• কোডিং লাভ
• কভারিং কোড
• ত্রুটি সংশোধনের কোড
• দলগত পরীক্ষা
• হ্যামিং দূরত্ব, হ্যামিং ওজন
• লী দূরত্ব
• বীজগাণিতিক কোডিং তত্ত্ব টপিকের তালিকা
  • স্থানিক বৈচিত্রপূর্ণ কোড হল এক প্রকার 'স্প্যাশিয়াল কোডিং' যেটা বিভিন্ন পথে তথ্যের প্রতিরূপ প্রেরণ করে, যাতে তথ্য প্রেরণের নির্ভরযোগ্যতা বৃদ্ধি পায়।
  • স্থানিক প্রতিবন্ধকতা দূরীকরণ কোড
• তথ্য তত্ত্বের টাইমলাইন, উপাত্ত সংকোচন এবং ত্রুটি সংশোধনের কোড

• এলেন র. বারলেক্যাম্প (২০১৪), Algebraic Coding Theory, World Scientific Publishing (revised edition), আইএসবিএন ৯৭৮-৯-৮১৪৬৩-৫৮৯-৯.
• ম্যাককে, ডেভিড জি সি. Information Theory, Inference, and Learning Algorithms Cambridge: Cambridge University Press, 2003. আইএসবিএন ০-৫২১-৬৪২৯৮-১
• ভেরা প্লেস (১৯৮২), Introduction to the Theory of Error-Correcting Codes, John Wiley & Sons, Inc., আইএসবিএন ০-৪৭১-০৮৬৮৪-৩.
• র‍্যান্ডি ইয়াটস, A Coding Theory Tutorial.