১৯৪৪ সালের ২২ অক্টোবর তিনি ব্রিটিশ ভারতের সিরাজগঞ্জের বানিয়াগাতি গ্রামে জন্মগ্রহণ করেছিলেন তিনি। বাবার চাকরির সূত্রে ছোট বেলাতেই কলকাতায় চলে যান আলম খান। ১৯৪৭ সালে দেশভাগের পর বাবাসহ আবারও ফিরে আসেন স্বদেশে। গানের ভুবনে আলম খানের আনুষ্ঠানিক যাত্রা শুরু হয় ১৯৬৩ সালে। সুরকার ও সঙ্গীত পরিচালক রবিন ঘোষের সহকারী হিসেবে তিনি ‘তালাশ’ সিনেমার সঙ্গীত পরিচালনা করেন। এরপর টানা সাত বছর পর্যন্ত তিনি সহকারী হিসেবেই কাজ করে যান। ১৯৭০ সালে আলম খান একক সঙ্গীত পরিচালক হিসেবে আত্মপ্রকাশ করেন।

আলম খানের সুর করা জনপ্রিয় ও কালজয়ী গানগুলোর মধ্যে উল্লেখযোগ্য হচ্ছে- ‘ওরে নীল দরিয়া’, ‘হায়রে মানুষ রঙিন ফানুস দম ফুরাইলে ঠুস’, ‘আমি রজনীগন্ধা ফুলের মতো গন্ধ বিলিয়ে যাই’, ‘ডাক দিয়াছেন দয়াল আমারে’, ‘কি জাদু করিলা পিরিতি শিখাইলা’, ‘তুমি যেখানে আমি সেখানে’, ‘সবাই তো ভালবাসা চায়’, ‘ভালবেসে গেলাম শুধু’, ‘চাঁদের সাথে আমি দেবো না তোমার তুলনা’, ‘আমি একদিন তোমায় না দেখিলে’, ‘তেল গেলে ফুরাইয়া’, ‘আমি তোমার বধূ তুমি আমার স্বামী’, ‘জীবনের গল্প বাকি আছে অল্প’, ‘মনে বড় আশা ছিল’, ‘সাথীরে যেও না কখনো দূরে’, ‘বেলি ফুলের মালা পরে’, ‘কাল তো ছিলাম ভাল’, ‘চুমকি চলেছে একা পথে’, ‘ভালবাসিয়া গেলাম ফাঁসিয়া’, ‘তুমি কি এখন আমারই কথা ভাবছো’, ‘আকাশেতে লক্ষ তারা চাঁদ কিন্তু একটাইরে’ ইত্যাদি।

আলম খান তার ক্যারিয়ারে ছয়বার জাতীয় চলচ্চিত্র পুরস্কারে ভূষিত হয়েছেন। এর মধ্যে পাঁচবার পেয়েছেন শ্রেষ্ঠ সঙ্গীত পরিচালক হিসেবে, এবং একবার শ্রেষ্ঠ সুরকার হিসেবে।