1914年黄志勇出生在江西崇义一个贫农家庭，读过私塾和普育学校。1929年他加入共青团，次年16岁成为当地最年轻的党支部书记。之后他凭借出色的政工能力在中央苏区反围剿中崭露头角，长征途中他任红五军团团政委。
1935年红一、四方面军会师后黄志勇调入四方面军。在张国焘分裂中央期间他支持南下，在政治会议上公开反对徐帅的战略判断。
黄志勇1943年开始担任审干工作组负责人， 他采取“即席坦白”、“五分钟劝说”等激进手段，还发明了“照相逼供法”，让被审查者当众站立，被观察表情变化以判定忠诚度。这种简单粗暴的工作方式导致抗大57%干部被怀疑为特务。徐帅在回忆录中指出：“黄志勇是搞逼供信的专家”。
延安整风期间黄志勇的批判锋芒愈发尖锐，他甚至将徐帅污蔑为“叛徒”。
第二次国共内战时期，在1948年塔山阻击战中，黄志勇作为东野第二兵团参谋长，与程子华协同制定战术。此后他参与平津战役、湘西剿匪等重大行动，1955年获授中将军衔。
建国后黄志勇历任工程兵政委、装甲兵政委等职，特殊历史时期他再度陷入“整人”漩涡，主持批斗会时采用隔离审查等手段，使多位老干部蒙冤，在1968年西北小组会议上黄志勇激烈批判徐帅，称其言行“不切实际”，徐帅怒称他“整人整上瘾了”。
黄志勇于1972年被免职，其政治生涯戛然而止。他求老战友韩先楚帮助却遭遇冰冷拒绝，韩先楚直言：“不是看在战友份上，我连见都不见”，同时批评他“顺境时目中无人”。
2011年，97岁的黄志勇以离世。