1919年，随家迁居哈尔滨。幼年家境贫寒，11岁离家，寻职谋生。他当过杂役、学徒和信差。1925年考入哈尔滨许公工业学校，开始接受革命思想，寻求救国救民的真理。当年夏参加了中国共产党，是东北地区早期党员之一。在学校被推选为学生会会长。同年秋因为搞学生运动，被学校开除。不久考入黄浦军官学校第五期为学员。1930年“中山舰事件”后，党派他回东北负责学运工作。曾两次被捕入狱，敌人的严刑拷打和利诱，未能动摇他的革命意志。“九一八”事变后，获释出狱。不久满洲省委任命他为省委军委书记，负责领导抗日武装工作。

    1934年3月末，联络了二十余支抗日义勇军，成立东北反日联合军，他被推选为司令。后改编为东北反日游击队哈东支队，他任司令。1935年4月，根据满洲省委紧急通知精神，他当选为北满临时省委执行委员会主席。1936年1月，东北民众反日联合军总司令部成立，他任总司令。他在统一指挥军事行动，统筹安排给养，培养和调配干部等方面，起了重要作用。开辟了清原、木兰、巴彦、铁力等十余县为根据地。在根据地里，建立了小型兵工厂、被服厂、仓库和军医院，还建立了政治军事干部学校，他担任校长。1936年8月间，他被任命为东北抗日联军第三军军长，下辖七个师，全军约六千多人，活跃在松花江两岸二十多个县境内。

    1939年后，由于日伪军连续派重兵“讨伐”，抗日战争进入艰苦时期，敌人曾悬赏一万元，通缉赵尚志，叫嚣“一钱骨头一钱金，一两肉一两银。”敌人还多次派遣特务奸细混入抗日军内部，企图暗杀他，均未得逞。他一贯坚持党的正确路线，在党内针锋相对的和王明、康生等人“左”倾路线做斗争，因而曾两次被错误的开除出党，撤销党内军内职务，但他丝毫没有消沉，依然对党赤胆忠心，继续坚持抗日武装斗争。1942年1月，他带领小分队从苏联回到东北，在梧桐河一带活动。2月2日在袭击梧桐河警察分所时，被乔装成老百姓的特务击伤腹部，昏迷中被俘。他伤势十分严重，敌人决定对他进行突击审讯，在他生命的最后时刻，依然与敌人进行顽强斗争。他对审讯他的伪警察说：“你们不也是中国人吗！现在你们出卖了祖国，……还有什么可问的呢。”说完了他狠狠地瞪着审讯他的敌人，闭口不语。他英勇牺牲了。全国解放后，黑龙江省珠河县第一届工农代表大会通过决议，把珠河县改为尚志县。