邱少云9岁丧父、11岁丧母、13岁被国民党军队抓去当兵。1949年12月参加中国人民解放军，为第15军第29师第87团第9连战士。1951年3月参加中国人民志愿军赴朝作战。
1952年10月，所在部队担负攻击金化以西美军为首的联合国军前哨阵地391高地。高地前沿是一片开阔地，为缩短进攻距离，便于突然发起攻击，11日夜，部队组织500余人在敌阵地前沿潜伏，他所在排潜伏在高地东麓距敌前沿阵地仅60多米的蒿草丛中。O
10月12日12时左右?，美军盲目发射燃烧弹，其中一发落在他潜伏点附近，草丛立即燃烧起来，火势迅速蔓延到他身上，燃着了棉衣。为了不暴露目标，确保全体潜伏人员的安全和攻击任务的完成，他放弃自救，咬紧牙关，任凭烈火烧焦头发和皮肉，坚持30多分钟，直至壮烈牺牲。
反击部队在邱少云伟大献身精神鼓舞下，当晚胜利攻占了391高地，全歼美军1个加强连。
在参加此次潜伏任务前，邱少云向党支部递交了入党申请书，写道：“宁愿自己牺牲，决不暴露目标，为了整体，为了胜利，为了中朝人民和全人类的解放事业，愿献出自己的一切。”
战后，为了表彰邱少云崇高的集体主义精神和顽强的革命意志，所在军党委根据他生前意愿，被追认为中国共产党党员，并追授模范青年团员称号。
1952年11月6日，中国人民志愿军领导机关给他追记特等功。
1953年6月1日，追授他“中国人民志愿军一级英雄”称号。同年6月25日，朝鲜民主主义共和国最高人民议会常务委员会授予“朝鲜民主主义人民共和国英雄”称号，同时授予金星勋章、一级国旗勋章，并将邱少云的名字刻在金化西面的391高地石壁上：“为整体、为胜利而牺牲的伟大的战士邱少云同志永垂不朽。”
中国人民赴朝慰问团文艺工作团赠给特等功臣邱少云烈士锦旗上写道：“献给中国人民志愿军伟大战士邱少云永垂不朽”。
志愿军第15军全体指战员献给邱少云 烈士家属的锦旗上写道：“祖国人民的光荣”。
2009年9月14日，他被评为100位新中国成立以来感动中国人物之一。
2018年9月，中央军委政治工作部统一印制张思德、董存瑞、黄继光、邱少云、雷锋、苏宁、李向群、杨业功、林俊德、张超10位挂像英模画像，并下发至全军连级以上单位。
2019年9月25日，入选“最美奋斗者”个人名单。