
กำเนิดระเบิดมือนั้นไม่ปรากฏหลักฐานแน่ชัด แต่คาดว่าคงมีใช้ในประเทศจีนเป็นประเทศแรกเนื่องจากเป็นชาติแรกที่ค้นพบ และนำดินปืนไปใช้งาน แต่ลักษณะระเบิดมือในช่วงแรกจะ ใช้ภาชนะขนาดเหมาะมือ น้ำหนักเบา บรรจุวัตถุติดไฟ สารระเบิด หรือสารพิษ
ระเบิดมือในสมัยโบราณ ตัวระเบิดทำมาจากกระดาษ กระเบื้อง หรือแก้ว และบรรจุสารอันตรายต่างๆ ตั้งแต่พิษจากพืช พิษจากสัตว์ กรด ปิโตรเลียม ดินปืน หรือแม้กระทั่งวัตถุที่ได้จากพิธีทางไสยศาสตร์
อย่างไรก็ตาม ระเบิดมือในยุคเก่ายังไม่สู้จะมีประสิทธิภาพนัก ที่ปรากฏบทบาทโดดเด่นก็คือ ในช่วงสงครามโลกครั้งที่สอง ที่มีการใช้อย่างแพร่หลาย ระเบิดมือที่มีชื่อเสียงในช่วงนั้น คือ ระเบิดมิลส์ (Mills)