โรงเรียนบ้านห้วยยาง ตั้งขึ้นเมื่อวันที่ 7 เมษายน 2479 โดยอาศัยวัดบูรพา บ้านห้วยยาง เป็นสถานที่เรียน โดยจัดการเรียนการสอนแบบสหศึกษา มี 4 ห้องเรียน มีข้าราชการครู 2 คน คือ นายเตียน เจริญบุตร เป็นครูใหญ่ นายสอน สมบูรณ์ เป็นครูประจำชั้น มีนักเรียนทั้งหมด 62 คน ชาย 33 คน หญิง 29 คน
ต่อมาปี พ.ศ. 2493 ได้ย้ายจากศาลาวัด มาสร้างโรงเรียนเป็นเอกเทศ ในที่ดินของโรงเรียนปัจจุบัน โดยคณะครูอำเภอเขมราฐ ร่วมกับประชาชนบ้านห้วยยาง บริจาคทรัพย์และก่อสร้างอาคารเรียนรวมเป็นเงินทั้งสิ้น 5,070.50 บาท และได้รับเงินงบประมาณทั้งหมด 20,033.25 บาท โดยนายอำเภอเขมราฐ ได้แต่งตั้ง นายสุนีย์ เสนาใหญ่ ครูโรงเรียนบ้านม่วงเฒ่า นายคูณ สังขทา กำนันตำบลเจียด นายเก่ง พิมพา นายสมศักดิ์ ร่วมรักษ์ เป็นคณะกรรมการควบคุมการก่อสร้าง โดยนายหมี เกวัล เป็นช่างปลูกสร้าง เริ่มสร้างเมื่อวันที่ 1 เมษายน 2497 ตามแปลน ป 1 ซ ขนาด 8.50 x 29 เมตร ยกพื้นสูง 2.50 เมตร อาคารไม้ 3 ห้องเรียน หลังคามุงสังกะสี สร้างเสร็จเมื่อวันที่ 16 เมษายน 2498 ต่อมาเมื่อวันที่ 23 ธันวาคม 2518 ได้รับงบประมาณจากทางราชการต่อเติมอีก 1 ห้องเรียน ขนาด 8.50 x 9 เมตร จำนวนเงิน 3,000 บาท
โรงเรียนบ้านห้วยยางได้รับการพัฒนามาโดยลำดับ จนกระทั่งเมื่อวันที่ 30 กันยายน 2557 นายวาที สืบเหล่า ผู้อำนวยการโรงเรียนบ้านห้วยยาง เกษียณอายุราชการ และในวันที่ 19 ธันวาคม 2557 ทางราชการได้แต่งตั้ง นายชัยรัก จันทนุช มาดำรงตำแหน่งผู้อำนวยการแทน
ปัจจุบัน โรงเรียนบ้านห้วยยาง จัดกิจกรรมการเรียนการสอน 3 ระดับ คือ ปฐมวัย ประถมศึกษา และมัธยมศึกษาตอนต้น ในปัจจุบัน (ปีการศึกษา 2561) มีนักเรียนทั้งหมด 400 คน แยกเป็นระดับปฐมวัย จำนวน 86 คน ประถมศึกษา จำนวน 205 คน และมัธยมศึกษา จำนวน 109 คน จำนวนครูและบุคลากรทางการศึกษาจำนวน 23 คน โดยมีนายชัยรัก จันทนุช เป็นผู้อำนวยการโรงเรียน และมีนางสาวมลฤดี คำผุย เป็นรองผู้อำนวยการโรงเรียน